Rasizm generowany cyfrowo. Youtuber przyłapany na przerabianiu rzeczywistości przez AI, by straszyć imigrantami
Sztuczna inteligencja miała pomagać twórcom w realizacji ich wizji. Okazuje się jednak, że dla niektórych wizją tą jest sianie strachu i nienawiści.
Popularny podróżniczy youtuber Kurt Caz został przyłapany na manipulowaniu miniaturami swoich filmów za pomocą AI. Cel? Zmiana przyjaznych przechodniów w „groźnych bandytów” i angielskich witryn sklepowych w „obce kulturowo” napisy.
Sprawa dotyczy filmu zatytułowanego „Omijaj to miejsce w Londynie”, nakręconego w dzielnicy Croydon. Kurt Caz, influencer z RPA mający 4 miliony subskrybentów, znany jest z balansowania na granicy etyki i szukania sensacji. Tym razem jednak przekroczył wszelkie granice narracji dokumentalnej, wchodząc w sferę cyfrowej fikcji i manipulując zastaną rzeczywistością prezentując swoim subskrybentom fałszywą wizję świata.
Uśmiech zamieniony na kominiarkę
Internauci oraz profil Right Wing Cope błyskawicznie wychwycili rażące różnice między miniaturą filmu a jego faktyczną treścią.
Na miniaturze (AI): Widzimy witryny sklepowe z napisami w alfabecie arabskim oraz rowerzystę w czarnej kominiarce, wpatrującego się w twórcę z wrogością.
W rzeczywistości (kadr zarejestrowany faktyczne przez kamerę): te same sklepy mają standardowe angielskie szyldy („Everyday’s”, „ACE New Hair & Beauty”). Co bardziej szokujące, „groźny bandyta” z miniatury okazuje się w filmie uśmiechniętym czarnoskórym mężczyzną, który rozpoznaje youtubera i pozdrawia go. Cóż, podejrzewam, że ów rowerzysta jeżeli był subskrybentem treści Kurta Caza, to raczej przestał nim być.
Rzeczywistość nie pasowała do tezy
W samym materiale wideo Caz próbuje budować narrację zagrożenia, nazywając otoczenie „wrogim” i sugerując, że w powietrzu wisi niebezpieczeństwo, mimo że jego własne nagranie pokazuje normalne życie miejskie i przyjazne interakcje pomiędzy ludźmi.
Użycie generatywnej sztucznej inteligencji posłużyło tu do „dopasowania” zareejstrowanej rzeczywistości do uprzedzeń autora i jego widowni. To niebezpieczny precedens – obraz, który ma tysiące wyświetleń w feedach (miniatura), jest kłamstwem zaprojektowanym tak, by wywołać rasistowskie skojarzenia, których kamera nie zarejestrowała w rzeczywistości.
Poniżej jeszcze raz zdjęcie pokazujące skalę manipulacji w zaledwie jednym ujęciu:
YouTube wprowadza narzędzie do wykrywania deepfake’ów z wykorzystaniem AI
