Przerażająca ewolucja oszustw randkowych. AI uwodzi ofiary, a człowiek stał się tylko „żywą wtyczką”
Zazwyczaj boimy się, że sztuczna inteligencja całkowicie zabierze nam pracę. Najnowszy raport Anthropic dotyczący cyberbezpieczeństwa pokazuje jednak znacznie mroczniejszy scenariusz.
W nowoczesnych fabrykach oszustw to algorytm zarządza całym procederem, a żywy człowiek został zredukowany do roli taniego akcesorium – fizycznej weryfikacji, włączanej na kilka sekund, gdy bot sobie nie radzi.
Farma oszustów sterowana przez algorytm
W sekcji raportu poświęconej oszustwom internetowym analitycy Anthropic opisali zautomatyzowany mechanizm działania sieci fałszywych aplikacji randkowych. Zamiast zatrudniać setki naciągaczy do żmudnego pisania z ofiarami, cyberprzestępcy radykalnie odwrócili proporcje. Na jednego żywego pracownika przypadają tam średnio trzy boty oparte na zaawansowanych modelach językowych.
To sztuczna inteligencja odwala najcięższą pracę operacyjną. Inicjuje kontakty, prowadzi dziesiątki rozmów jednocześnie, manipuluje ofiarami i cierpliwie buduje fałszywe relacje z tysiącami nieświadomych użytkowników. AI jest głównym rozgrywającym, który w ogromnej większości przypadków samodzielnie obsługuje proces wyłudzania danych lub pieniędzy.
Człowiek jako „warstwa autentyczności”
Gdzie w tym procesie jest miejsce dla człowieka? Raport ujawnia upokarzającą zmianę ról na przestępczym rynku pracy. Żywy oszust siedzi na zapleczu jako swoiste pogotowie ratunkowe i czeka na powiadomienie od algorytmu. Bot wzywa go do akcji wyłącznie w momentach krytycznych – na przykład wtedy, gdy ofiara staje się podejrzliwa i żąda wideo-rozmowy, dołączenia do streama na żywo albo wysłania nietypowego zdjęcia potwierdzającego tożsamość.
Człowiek pełni tu funkcję, którą twórcy raportu wprost nazywają „warstwą autentyczności”. Staje się dosłownie fizycznym urządzeniem peryferyjnym dla bota. Wchodzi przed kamerę na kilka sekund, udowadnia ofierze, że „jest prawdziwy”, a następnie grzecznie oddaje klawiaturę z powrotem sztucznej inteligencji, która kontynuuje swój zaprogramowany proceder.
Ten konkretny przypadek obnaża najbardziej ponury, ale i najbardziej prawdopodobny scenariusz automatyzacji. W zaawansowanych operacjach maszyna przestaje być tylko narzędziem w rękach przestępcy. Staje się głównym operatorem całego procesu, dla którego ludzie są jedynie biologiczną wersją systemu CAPTCHA. Cyberprzestępcy potrzebują żywych pracowników już tylko po to, by sprytnie oszukiwać innych ludzi, że po drugiej stronie ekranu wciąż bije serce.
Kradli AI, by dogonić Zachód. Przypadkiem oddali Amerykanom państwowe i wojskowe tajemnice
