Fałszywe infolinie na szczycie wyników. Jak oszuści wykorzystują AI Overviews od Google
Zamiast tradycyjnej listy linków, Google coraz częściej serwuje użytkownikom gotowe podsumowania generowane przez sztuczną inteligencję.
Jak jednak ostrzega serwis WIRED, narzędzie to stało się nowym wektorem ataków dla cyberprzestępców, którzy nauczyli się manipulować algorytmami, by podrzucać internautom fałszywe numery telefonów.
Problem z funkcją AI Overviews (Podsumowania AI) wykracza już poza generowanie zabawnych błędów czy tzw. halucynacji. Jak donosi amerykańska prasa technologiczna, algorytmy odpowiadające za streszczanie internetu aktywnie kierują użytkowników w ręce oszustów.
Mechanizm: jak AI uwiarygadnia scam
Zjawisko to zostało nagłośnione m.in. przez „The Washington Post” oraz serwis „Digital Trends”, po fali zgłoszeń od poszkodowanych na platformach Reddit i Facebook. Mechanizm ataku jest stosunkowo prosty, ale niezwykle skuteczny dzięki konstrukcji samej wyszukiwarki.
Oszuści publikują w mało znanych miejscach w sieci fałszywe numery telefonów, przypisując je do znanych marek – najczęściej banków, linii lotniczych i instytucji finansowych. Algorytmy Google, skanując internet w celu wygenerowania podsumowania AI, zasysają te informacje bez należytej weryfikacji i prezentują je na samym szczycie wyników wyszukiwania jako sprawdzony fakt.
Nieświadomy użytkownik, szukając np. kontaktu do pomocy technicznej, widzi gotową odpowiedź wygenerowaną przez sztuczną inteligencję. Dzwoni pod podany numer, gdzie trafia na profesjonalnie brzmiącego oszusta, którego celem jest wyłudzenie danych logowania lub informacji o karcie płatniczej. Jak informuje WIRED, ostrzeżenia przed tym procederem zaczęły już oficjalnie publikować niektóre amerykańskie instytucje finansowe.
Google odpowiada i radzi weryfikować
Redakcja WIRED skontaktowała się z firmą Google w tej sprawie. Technologiczny gigant w oficjalnym oświadczeniu zapewnia, że stara się zwalczać ten problem na bieżąco.
Google deklaruje, że ich „… zabezpieczenia antyspamowe są wysoce skuteczne w blokowaniu oszustw w Podsumowaniach AI i tam, gdzie to możliwe, wyświetlają oficjalne numery obsługi klienta”. Firma dodaje, że systemy detekcji są nieustannie aktualizowane.
Paradoksalnie jednak, sama firma oraz redaktorzy WIRED zalecają użytkownikom skrajną ostrożność i rekomendują podwójne sprawdzanie numerów telefonów podrzucanych przez AI. Obecnie interfejs wyszukiwarki nie pozwala na wyłączenie funkcji AI Overviews.
AI do planowania, strony www do faktów
Wnioski płynące z raportu są jednoznaczne: zaufanie do sztucznej inteligencji w kwestii wrażliwych danych kontaktowych to obecnie spore ryzyko. W przypadku poszukiwania kontaktu do banku czy usługodawców, eksperci z zakresu cyberbezpieczeństwa zalecają ominięcie podsumowań AI i wejście bezpośrednio na oficjalną stronę danej firmy.
Generatywna sztuczna inteligencja zintegrowana z wyszukiwarką dobrze sprawdza się podczas burzy mózgów przy planowaniu wakacji czy szukaniu inspiracji. Jednak gdy w grę wchodzą nasze pieniądze, tradycyjna weryfikacja u źródła wciąż pozostaje najbezpieczniejszym rozwiązaniem.
