Dolina Krzemowa zagląda w mikroskopy. Jak AI stało się największym radarem wywiadowczym
Anthropic opublikowało raport, w którym chwali się zablokowaniem zagranicznych badaczy powiązanych z wojskiem, używających modelu Claude do prac nad groźnym wirusem.
Historia brzmi jak gotowy wstęp do filmu o globalnej pandemii, ale najciekawszy jest w niej zupełnie inny wątek. Okazuje się, że w pogoni za inteligentnymi asystentami stworzyliśmy system, który działa jak globalny sensor wywiadowczy. AI patrzy dziś w logi laboratoriów na całym świecie, a naukowcy sami zdradzają maszynom swoje największe tajemnice.
Zacieranie granicy między szczepionką a bronią
Incydent, o którym informuje Anthropic, nie polegał na tym, że zagraniczny naukowiec poprosił sztuczną inteligencję o przeredagowanie prostego wniosku o dotację. Raport nie pozostawia złudzeń: Claude pomagał mu w przygotowaniu również innych etapów projektu badawczego. Model generował hipotezy, projektował eksperymenty typu gain-of-function (wzmacnianie wirusa chikungunya), wybierał warianty o większej zjadliwości, określał dawkowanie, statystykę, a nawet strategie awaryjne.
Co w tym przerażającego? Wcale nie to, że maszyna zaprojektowała potencjalną broń biologiczną (z naciskiem na „potencjalną”). Największym problemem – do którego Anthropic samo się przyznaje – jest to, że dzisiaj nie da się ze stuprocentową pewnością odróżnić intencji badacza. Biologia to nauka podwójnego zastosowania. Zestaw tych samych instrukcji i modyfikacji genetycznych może posłużyć do wyprzedzającego stworzenia ratującej życie szczepionki, jak i do budowy wyrafinowanej broni biologicznej.
Przypadkowy honeypot i koniec tradycyjnych szpiegów
I tu dochodzimy do najciekawszego punktu. Modele sztucznej inteligencji, reklamowane jako uniwersalne narzędzia dla naukowców, stały się gigantycznym lepem na informacje. Badacze – w tym ci powiązani z wojskiem, którzy omijają blokady regionalne za pomocą pośredników i VPN-ów – by ułatwić sobie pracę, dobrowolnie wprowadzają do modeli językowych założenia swoich najtajniejszych eksperymentów.
Historycznie śledzenie tego typu działalności wymagało ogromnych nakładów. Trzeba było wysyłać w teren oficerów wywiadu, polegać na inspektorach ONZ, analizować odzyskany sprzęt czy szukać luk w publikacjach naukowych. Dziś Anthropic widzi to wszystko w logach swoich serwerów. Analizując wzorce użycia i powiązane konta, korporacja może monitorować działalność, która wcześniej była zarezerwowana wyłącznie dla służb wywiadowczych najpotężniejszych państw.
Chmurowe AI to odkurzacz na tajemnice. Samsung ucieka z Doliny Krzemowej i zamyka Mistrala w piwnicy
Nie musimy dopisywać do tego cynicznych, marketingowych teorii. Fakty bronią się same. Najnowsze modele językowe osiągnęły próg, w którym realnie pomagają w skomplikowanej inżynierii biologicznej. Ale ich najciekawszą funkcją nie jest to, że wymyślają nową naukę, tylko to, że bezszelestnie patrzą obcym mocarstwom na ręce. Zbudowaliśmy AI dla naukowców, a otrzymaliśmy system, w którym wojskowi eksperci sami podają Amerykanom na tacy to, nad czym aktualnie pracują.
