Ciemna strona sztucznej inteligencji. Google pozywa grupę, która użyła modelu Gemini do kradzieży milionów dolarów
Sztuczna inteligencja miała ułatwiać pracę i wspierać kreatywność, ale w rękach przestępców stała się narzędziem do automatyzacji oszustw na niespotykaną dotąd skalę.
Google właśnie wytoczyło bezprecedensowy proces chińskiej siatce cyberprzestępczej, która – ironicznie – wykorzystała autorski model AI amerykańskiego giganta, by ograbiać obywateli USA.
Z informacji ujawnionych przez dziennik „The New York Times” oraz w oficjalnych komunikatach na blogu „The Keyword” wyłania się obraz niezwykle wyrafinowanej i zautomatyzowanej operacji. Pozew Google wymierzony jest w zorganizowaną sieć cyberprzestępczą ukrywającą się pod nazwą „Outsider Enterprise”. Grupa ta opracowała system omijania zabezpieczeń i generowania masowych kampanii phishingowych przy bezpośrednim wsparciu modelu sztucznej inteligencji Gemini.
AI w służbie phishingu
Zamiast ręcznie projektować każdą fałszywą witrynę, członkowie „Outsider Enterprise” instruowali model językowy Google, by ten pisał dla nich kod łudząco przypominający oficjalne portale instytucji i korporacji. Przestępcy w ułamku sekundy klonowali między innymi strony YouTube, amerykańskiej poczty (USPS) czy nowojorskiego systemu poboru opłat drogowych E-ZPass.
Model językowy pozwolił hakerom nie tylko na znaczne obniżenie kosztów operacyjnych, ale przede wszystkim na eliminację błędów językowych, które przez lata były głównym czynnikiem demaskującym zagranicznych oszustów.
Skala, która wymyka się spod kontroli
Liczby ujawnione w pozwie dobitnie pokazują, z jak potężnym zagrożeniem mierzy się dziś branża technologiczna. Google wylicza, że w wyniku działalności sieci „Outsider Enterprise”:
- Stworzono 9 tysięcy fałszywych stron internetowych bazujących na kodzie wygenerowanym przez AI.
- Wygenerowano i rozesłano ponad milion złośliwych linków.
- Tylko w trakcie zaledwie dwóch tygodni maja, sieć rozesłała do użytkowników systemu Android 2,5 miliona wiadomości SMS z linkami prowadzącymi do stworzonych przez AI witryn.
- Setki tysięcy ofiar straciły środki, a łączne straty finansowe szacowane są w milionach dolarów.
Walka o nowe prawo
Działania prawne Google to coś więcej niż standardowy pozew. Amerykański gigant technologiczny, zmagając się z masowym nadużywaniem własnej platformy do celów przestępczych, połączył siły z czołowymi amerykańskimi operatorami telekomunikacyjnymi oraz FBI. Celem operacji jest fizyczne i programowe blokowanie złośliwych wiadomości zanim te dotrą do urządzeń użytkowników.
Proces sądowy stanowi również wyraźny sygnał dla amerykańskich ustawodawców. Równolegle z działaniami sądowymi, Google lobbuje za pilnym wdrożeniem rygorystycznych przepisów, które przystawałyby do realiów ery generatywnej sztucznej inteligencji, w której masowa kradzież tożsamości i funduszy może zostać zautomatyzowana za pomocą kilku prostych komend tekstowych. Zjawisko to dobitnie przypomina, że modele takie jak Gemini to bardzo skuteczne narzędzie – w równej mierze potężne dla badaczy, co dla zorganizowanych grup przestępczych.
Google NotebookLM zyskuje Gemini 3.5 i staje się analitycznym potworem
