Terroryści korzystali z ChatGPT i Gemini. Nowy raport pokazuje skalę problemu
Sztuczna inteligencja na dobre zakorzeniła się w naszej codzienności, pomagając w pisaniu maili, analizowaniu dokumentów czy nauce. Te same, powszechnie dostępne algorytmy generatywne stają się jednak narzędziem w rękach organizacji przestępczych.
Nowy raport naukowców z Cambridge, do którego dotarli dziennikarze The New York Times ujawnia, że członkowie afrykańskiego ugrupowania Boko Haram wykorzystywali najpopularniejsze na rynku chatboty do wspierania swoich działań operacyjnych i bojowych.
Dla branży AI to kolejny sygnał, że bezpieczeństwo modeli przestało być wyłącznie problemem teoretycznym. Debata o zabezpieczeniach algorytmów dawno wykroczyła poza ściąganie na egzaminach czy generowanie fałszywych obrazów – stawką jest teraz przeciwdziałanie realnym zagrożeniom fizycznym.
Badacze ukryli instrukcje w obrazku PNG. Sztuczna inteligencja wykonała polecenia
Zorganizowane struktury zamiast amatorskich prób
Z ustaleń zawartych w dokumencie, do którego przedpremierowo dotarł dziennik „The New York Times”, wyłania się niepokojący obraz. Badania oparte na wywiadach z 27 byłymi członkami Boko Haram, prowadzonych w Nigerii na przestrzeni ostatnich dwóch lat, dowodzą, że wykorzystanie AI przez organizację nie było dziełem przypadku. Grupa stworzyła wyspecjalizowane komórki, prowadziła wewnętrzne szkolenia i dzieliła się wiedzą o tym, jak efektywnie konstruować zapytania.
Do zadań bojowych i codziennej logistyki terroryści zaprzęgli czołowe narzędzia rynkowe, takie jak ChatGPT, Gemini, Claude, Grok, Meta AI oraz DeepSeek. Algorytmy były wykorzystywane do:
- pozyskiwania zaawansowanych danych technicznych,
- rozwiązywania problemów z serwisowaniem i naprawą broni,
- pomocy przy planowaniu ataków taktycznych.
Badacze odnotowali również przypadki obchodzenia fabrycznych zabezpieczeń (tzw. jailbreakingu). Część członków organizacji potrafiła w ten sposób oszukać filtry, które teoretycznie powinny blokować wszelkie zapytania związane z przemocą, terroryzmem czy konstruowaniem ładunków wybuchowych.
Reakcja Big Techu i szara strefa technologii
Większość analizowanych w raporcie incydentów dotyczy okresu do końca 2024 roku. Choć obecne, najnowsze generacje modeli posiadają znacznie bardziej rygorystyczne filtry, twórcy technologii natychmiast znaleźli się pod ścianą. W odpowiedziach przesłanych mediom przedstawiciele OpenAI oraz Meta podkreślili, że wykorzystywanie ich systemów do celów terrorystycznych łamie regulaminy usług, a zabezpieczenia są nieustannie łatane. Z kolei firmy xAI oraz chińskie DeepSeek odmówiły komentarza w tej sprawie.
Eksperci ds. międzynarodowego bezpieczeństwa tonują jednak nastroje i zalecają chłodną głowę. Chatbot nie zastąpi realnego finansowania, fizycznej logistyki, dostępu do arsenału czy ludzkiej koordynacji na polu bitwy, więc AI nie nadaje organizacjom terrorystycznym nadludzkich zdolności.
Prawdziwym problemem pozostaje tzw. szara strefa intencji. Pytanie o naprawę silnika motocykla czy podstawowe reakcje chemiczne jest z punktu widzenia algorytmu całkowicie nieszkodliwe. Dla wyszkolonego bojownika ta sama wiedza staje się jednak brakującym elementem operacji logistycznej. Pokazuje to, że przed korporacjami technologicznymi stoi niezwykle trudne zadanie: jak utrzymać otwartość i użyteczność narzędzi dla miliardów ludzi, jednocześnie maksymalnie utrudniając ich eksploatację przez przestępców.
Dlaczego GPT-5.6 Sol zostało schowane? Architektura nowej generacji modeli OpenAI
