Detektor SynthID od Google to pułapka. Da złośliwym aktorom najlepszy certyfikat autentyczności
Google DeepMind udostępniło globalnie narzędzie SynthID Detector, ogłaszając kolejny krok w walce z cyfrową dezinformacją. Komunikat brzmi szlachetnie, a liczby robią wrażenie, ale za technologicznym sukcesem kryje się psychologiczna pułapka.
To narzędzie nie zatrzyma zmanipulowanych treści. Zamiast tego stworzy bardzo groźną iluzję: przekonanie, że brak cyfrowego stempla korporacji oznacza prawdę.
Oficjalny przekaz Google DeepMind skupia się na skali i transparentności. Według firmy niewidzialnymi znakami wodnymi SynthID oznaczono dotąd ponad 180 miliardów obrazów i wideo oraz 240 tysięcy lat materiałów audio. Publiczny detektor pozwala każdemu sprawdzić, czy dany plik pochodzi z generatorów Google lub partnerów technologicznych – w tym OpenAI, NVIDII, a wkrótce także Apple.
W teorii brzmi to jak dobry krok w stronę higieny cyfrowej. W praktyce Google właśnie dało miliardom ludzi do ręki detektor dymu, który reaguje wyłącznie na dym ze świeczek zapachowych kupionych w ich własnym sklepie, a na pożar wzniecony benzyną w rogu pokoju pozostaje kompletnie głuchy.
Dlaczego brak wykrycia nie ma nic wspólnego z prawdą
Fundamentem problemu jest natura działania technologii znakowania wodnego. SynthID nie analizuje anomalii w pikselach ani nienaturalnych częstotliwości w dźwięku, by „odkryć” sztuczną inteligencję. Weryfikuje wyłącznie obecność konkretnego, matematycznego podpisu zaszytego w pliku na etapie generowania przez grzeczne, skrępowane korporacyjnymi regulaminami (i unijną legislaturą) modele.
Niestety, dla przeciętnego odbiorcy komunikat z narzędzia o treści „brak wykrycia SynthID” zadziała jak automatyczny certyfikat autentyczności. Ludzki mózg natychmiast dokona skrótu myślowego: skoro oficjalny weryfikator giganta z Mountain View niczego nie znalazł, to nagranie musi być rejestracją rzeczywistości. A to bzdura.
To narzędzie nie tylko nie powstrzyma dezinformacji. Ono da złośliwym aktorom najlepszą możliwą legitymację: „Przecież sprawdzaliśmy w oficjalnym detektorze Google’a i nic nie wykryło!”. Oszust nie musi nawet maskować śladów generacji – wystarczy, że użył modelu open-source, którego korporacyjny algorytm z definicji po prostu nie zna.
Znak wodny znika z Gemini. Google daje czyste grafiki, ale zostawia cyfrową smycz
Prawdziwa dezinformacja nie pyta Mountain View o zgodę
Żaden rosyjski botnet, żadna farma trolli, żaden profesjonalny oszust wyłudzający miliony na „głos wnuczka” czy fałszywe porno deepfake nie generuje materiałów przez oficjalne API Gemini czy ChatGPT. Oni stawiają kontenery z Fluxem, Stable Diffusion albo klonami głosu na wynajętych serwerach w obszarach poza jurysdykcją zachodniego prawa. Tam nie ma cenzury, nie ma filtrów bezpieczeństwa i nie ma ani jednego bajta SynthID.
Absurdem jest to, że DeepMind stworzyło narzędzie do łapania własnych, praworządnych klientów, którzy i tak nie mają złych intencji. Wykryje grafika z agencji reklamowej generującego ilustrację do artykułu albo użytkownika bawiącego się filtrem w smartfonie. W starciu z celową operacją dezinformacyjną wycelowaną w wybory czy rynki finansowe SynthID Detector jest bezużyteczny.
Przypomina mi to sytuację z życia, blisko domu, pod ulicą pękła rura dostarczająca wodę, przyjechali fachowcy, a jeden z nich tarabani się do mojego ogródka. Na moje pytanie, co chce robić, odpowiada „kopać”. Ja: a czemu tutaj, a nie pod ulicą, gdzie faktycznie jest awaria? On: „bo tu łatwiej…”.
Koalicja w ogrodzonym ogrodzie
Dołączenie do tej koalicji Apple, NVIDII czy OpenAI pokazuje, że giganci technologiczni domykają własny, ogrodzony ogród. Będą wzajemnie stemplować swoje komercyjne pliki, raportować setki miliardów „zabezpieczonych” multimediów i odhaczać wymogi unijnego AI Actu. I dokładnie o to tu chodzi.
Rodzi się pytanie, skoro SynthID Detector nie rozpozna każdego deepfake’a, a przez swą deklaratywność może wręcz wprowadzać w błąd mniej doświadczonych użytkowników, to po co Google to robi? Moim zdaniem ogłoszenie DeepMind nie jest triumfem technologii nad fałszem. To zwykły PR-owy komunikat, dupochron przed legislaturą i pompowanie narracji „patrzcie jak przeciwdziałamy deepfake’om!”. No cóż. Nie przeciwdziałacie.
Problem w tym, że internet nie kończy się na serwerach w Dolinie Krzemowej. Dopóki narzędzia weryfikacji będą badać obecność korporacyjnej obroży, a nie faktyczną strukturę danych, SynthID pozostanie technologicznym teatrem bezpieczeństwa, zaledwie iluzją tego, czym bezpieczeństwo informacji i jej wiarygodność powinny być. Cena za wiarę w ten teatr będzie wyjątkowo wysoka.
