Ugięcie percepcji
Czy to, co widzisz na jakimkolwiek ekranie jest prawdą?
To nie będzie banalny tekst o cyfrowej manipulacji. A przynajmniej nie bezpośrednio. Nie zamierzam wam prawić komunałów, zamiast tego zapraszam do zabawy w… łączenie kropek.
Przez dekady specjaliści od cyberbezpieczeństwa powtarzali jak mantrę: „Jeżeli zły człowiek ma fizyczny dostęp do Twojego komputera, to nie jest to już Twój komputer”. W świecie krzemu, kabli i dysków twardych ta zasada była absolutna i niepodważalna. Paradoksalnie nawet Apple’owskie SEP (Secure Enclave) nie zmieniło tej zasady, a jedynie znacząco (i to bardzo) podniosło koszt takiego wektora ataku.
Jednak dziś nieco zmienię Wam perspektywę. Ten tekst nie będzie o włamywaniu się do komputera, lecz o tym jak cyfrowe obrabiarki naszych umysłów (algorytmy AI) wykorzystują sieciową infrastrukturę poznawczą (wszelkie platformy przekazywania informacji działające jak współczesne sieci społecznościowe) manipulując naszą percepcją. Tylko od razu uczulam. Same algorytmy to tylko narzędzie, to ludzie stoją za tym, jak z tych narzędzi korzystamy. Nie pomylmy młota z ręką, która go trzyma.
W każdym razie choć powyższa reguła z branży cyberbezpieczeństwa wciąż pozostaje aktualna, to dziś stoimy u progu znacznie groźniejszego przełomu, w którym polem ataku przestaje być system operacyjny maszyny, a staje się nasz własny układ nerwowy. Nie panikuję, stwierdzam fakt: jeżeli jakikolwiek obraz, dźwięk czy kadr przeszedł przez cyfrową matrycę, chmurę obliczeniową i model generatywny – to nie jest to już rzeczywistość. Co gorsza, wcale nie musi za tym stać zła intencja!
Koniec ewolucyjnego paktu ze wzrokiem
Przez setki tysięcy lat ewolucja uczyła ludzki mózg prostego, bezwarunkowego odruchu: to, co widzimy na własne oczy, stanowi fakt. Wynalezienie fotografii w XIX wieku tylko ten pakt przypieczętowało. Choć ujęcie można było wykadrować, a kliszę poddać retuszowi w ciemni, u podstaw leżało fizyczne zjawisko – fotony odbite od obiektu materialnego padały na światłoczułą emulsję, tworząc mechaniczny ślad prawdy.
Generatywna sztuczna inteligencja zerwała ten fundament bezpowrotnie. Współczesny aparat w smartfonie czy generator graficzny w niektórych trybach pracy (bo jednak w wielu wciąż na szczęście pozostaje zwykłym aparatem) nie rejestruje już świata, lecz estymuje statystyczne prawdopodobieństwo tego, jak dany wycinek rzeczywistości powinien wyglądać według miliardów wag w sieci neuronowej. Przejście od dokumentacji do generowania sprawia, że człowiek staje przed koniecznością wyłączenia swojego najbardziej pierwotnego mechanizmu poznawczego. Pewnie myślicie „ehh będzie o deepfake’ach”. Nie do końca. Czy deepfake’iem jest to co zarejestruje twój nowy Pixel 11 Pro XL przy 120-krotnym powiększeniu? Bo…. prawdą to nie jest. Niestety. To jedynie statystyczne prawdopodobieństwo.
Groza mikro-manipulacji i ślepota zdrowego rozsądku
Większość dyskusji o cyfrowych fałszerstwach koncentrowała się dotąd wokół spektakularnych deepfake’ów – polityków wypowiadających niestworzone kwestie czy wulgarnych, pornograficznych fotomontaży z twarzami celebrytów. Przed tak ordynarnym kłamstwem ludzki mózg potrafił się jeszcze obronić. Nasz radar nie analizował pojedynczych pikseli czy artefaktów renderowania; weryfikował absurdalność kontekstu. Każdy intuicyjnie wiedział, że gwiazda kina nie kręci amatorskich filmów w piwnicy.
Prawdziwy kryzys zaufania przynosi jednak zjawisko, które Emanuel Maiberg z serwisu 404 Media trafnie nazwał subtlefakes (zachęcam do lektury tekstu Maiberga) – subtelnymi podróbkami. To nie są fikcyjne scenariusze, lecz mikro-ugięcia prawdy. Algorytm bierze autentyczne zdjęcie aktorki z premiery filmowej i jedynie nieznacznie pogłębia dekolt, przesuwa ułożenie dłoni na biodrze albo generuje fotorealistyczny kadr z siłowni, który idealnie pasuje do jej profilu. Nie ma tu pornografii, absurdalnego gore czy innych chorych wizji, jest coś, co wydaje się… zwyczajne.
W tym momencie nasz instynktowny filtr bezpieczeństwa staje się całkowicie bezradny. Sytuacja jest w stu procentach prawdopodobna, oświetlenie zgadza się z realiami, a kontekst nie budzi podejrzeń. Scrollując strumień wiadomości na ekranie telefonu, nikt nie przeprowadza analizy cieni – obraz zostaje bezrefleksyjnie skonsumowany i trwale zapisany w pamięci jako fakt.
Toksyczna pętla monetyzacji
Zjawisko to przestało być domeną niszowych forów internetowych, stając się w pełni zindustrializowanym modelem biznesowym, napędzanym przez mechanizmy platform społecznościowych. O ile niektórzy operatorzy AI (Google, OpenAI) już zaczęli wdrażać blokady generatywnego modyfikowania zdjęć ludzi (co poniekąd uderza w niewinne modyfikacje, np. zrobicie zdjęcie dziecka i chcielibyście by było uśmiechnięte), o tyle inni otwarcie luzują bezpieczniki etyczne. Nie mówię tu tylko o dających pełną swobodę, uruchamianych lokalnie modelach otwartoźródłowych, lecz choćby o Groku od xAI. Drobne modyfikacje ciał czy póz, o ile nie zawierają formalnej nagości ani przemocy, wbudowane algorytmy bezpieczeństwa Groka (a także wielu innych modeli generatywnych) traktują je jako w pełni legalne i nieszkodliwe treści.
Dla farm nastawionych na wyciąganie zasięgów to idealny mechanizm generowania zysku. Zweryfikowane konta publikują setki niemal niewidocznych fałszywek dziennie, zbierając miliony wyświetleń i prowokując zażarte dyskusje w komentarzach. Platforma Elona Muska w ramach programu dzielenia się przychodami z reklam wypłaca za ten ruch realne pieniądze. Powstał zamknięty, patologiczny ekosystem: jedno narzędzie pozwala zmanipulować obraz, algorytm rekomendacji pompuje jego zasięgi, a korporacja płaci autorowi za skuteczne zanieczyszczanie cyfrowego środowiska.
Brak intencji, czyli generatywne poszerzanie możliwości
Jednak o ile żądza zysku stanowi zrozumiałą (choć mało etyczną) motywację ludzi posługujących się generatywną AI do owej subtelnej modyfikacji treści, o tyle w coraz większej grupie współczesnych cyfrowych urządzeń mamy generatywną AI która ma nam upiększać rzeczywistość, czy wyostrzać zdjęcia z olbrzymim (generatywnym) zoomem. Tak to przynajmniej komunikują działy marketingu producentów tych urządzeń, ale już nikt nie komunikuje, że to jest również fałszowanie rzeczywistości (no dobrze, jest „drobny druk”, tylko kto go czyta?).
Wrócę jeszcze do wspomnianego Pixela 11 Pro XL, ze swoim algorytmicznym, 120-krotnym zoomem (który, notabene, żeby w ogóle zadziałał, wymaga pobrania gigabajtowej paczki danych przed pierwszym użyciem). Wyobraź sobie, że jesteś w parku, z bardzo dużej odległości widzisz kłótnię dwójki ludzi, postacie trzymają coś w rękach. Robisz zoom 120x, cyk i widzisz… jak jedna z postaci trzyma nóż. Prawda to czy nie? No cóż… niekoniecznie. AI dopasowuje generację pikseli do kontekstu (ułożenie ciała, zamach ręką, etc.) i może dosłownie wygenerować nóż w miejscu, gdzie dany człowiek z odległości 200 metrów trzymał np… smartfon.
Oczywiście dziś jeszcze mamy kopie, tzn. np. Pixel 11 Pro/Pro XL oprócz wygenerowanego zbliżenia zachowuje też oryginalny kadr (fatalnie wygląda, wszystko rozmazane, ale to surowe dane zarejestrowane przez matrycę). Pytanie, jak długo Google będzie zachowywać jeszcze ten detal, który przecież dla wielu użytkowników jest brzydki i niepotrzebny. Rozumiecie?
Architektura Zero Trust dla ludzkiego mózgu
W inżynierii oprogramowania odpowiedzią na permanentne zagrożenia sieciowe stała się doktryna Zero Trust – zasada nakazująca brak zaufania do jakiegokolwiek pakietu danych i ciągłą weryfikację każdego zapytania. Wszystko wskazuje na to, że ten sam paradygmat musimy dziś wdrożyć do własnej higieny psychicznej. Oczywiście wiem, że mamy C2PA, AI Act (oznaczanie treści generatywnych) czy SynthID (opracował Google DeepMind, ale stosuje nie tylko Google/Gemini, lecz także OpenAI, NVIDIA czy ElevenLabs), ale… zadam pytanie: czy przeciętna Kowalska czy Nowak mają możliwość natychmiastowego wizualnego zweryfikowania, czy dany obraz jest wygenerowany, bo ma SynthID? Odpowiem: nie. Ten głęboko ukryty w treści i zaskakująco odporny na usuwanie algorytmiczny watermark jest widoczny przede wszystkim dla maszyn. Ot, paradoks, jeżeli chcesz zaufać obrazowi wygenerowanemu przez maszynę, musisz zaufać innej maszynie (weryfikatorowi SynthID), o ile na danej platformie w ogóle jest wdrożona…
Dożywamy czasów, w których dojrzałość cyfrowa wymaga przyjęcia pewnego aksjomatu: nie wolno bezkrytycznie wierzyć w nic, co zostało przetworzone przez algorytm (podkreślam słowo „bezkrytycznie” nie jestem luddystą). Każda grafika, każda wypowiedź audio i każde wideo staje się z definicji jedynie syntetyczną hipotezą na temat prawdy, a nie jej zapisem. Paradoksalnie, w świecie zdominowanym przez modele generatywne, jedyną przestrzenią wolną od ugięcia percepcji pozostaje to, co możemy dotknąć, usłyszeć i zobaczyć wyłącznie przez własny, wciąż jeszcze (jak długo?) niefiltrowany interfejs białkowy…
Korzystajmy z niego. Bo świat jest piękny, a nasz czas w nim – ograniczony…
Udanego weekendu!
