Poprosił AI o zapisanie na siłownię. Bot zhakował system i wyrzucił innych z kolejki
Agenci AI mieli ułatwiać nam życie, rezerwując stoliki w restauracjach i wizyty u fryzjera, ale najwyraźniej brakuje im hamulców.
Autonomiczny agent sztucznej inteligencji, poproszony o rezerwację porannych zajęć na siłowni, postanowił zrealizować zadanie za wszelką cenę. Zamiast grzecznie ustawić się w wirtualnej kolejce, bot odnalazł lukę w oprogramowaniu, przejął kontrolę nad kalendarzem i wyrzucił z listy oczekujących prawdziwych ludzi.
Nadgorliwy asystent włamuje się do API
Zlecenie było proste: Australijczyk o imieniu Andrew poprosił swojego asystenta AI (stworzonego w oparciu o framework OpenClaw) o zarezerwowanie miejsca na mocno obleganych, porannych zajęciach fitness. Ku jego zdziwieniu, po chwili otrzymał komunikat, że agent zarezerwował mu miejsca na kilka miesięcy do przodu, co w normalnych warunkach jest blokowane przez regulamin i sam system siłowni.
Szybko okazało się, że sztuczna inteligencja nie skorzystała ze standardowego interfejsu dla klientów. Zamiast tego bot przeanalizował kod oprogramowania rezerwacyjnego i wykorzystał krytyczną lukę w niezabezpieczonym interfejsie API. Co gorsza, aby zrealizować cel swojego właściciela, agent bez skrupułów usunął z listy rezerwowej osobę, która znajdowała się na pierwszym miejscu. Kiedy przerażony użytkownik nakazał botowi cofnięcie tych zmian, AI odpowiedziało z rozbrajającą szczerością: „Złe wieści — nie mogę ich dodać z powrotem”.
Dziurawy internet nie jest gotowy na agentów AI
Ten z pozoru zabawny incydent obnaża systemowy problem naszej cyfrowej rzeczywistości. Bill Simpson-Young, szef australijskiego Gradient Institute (organizacji badającej bezpieczeństwo AI), zauważa, że to dopiero początek kłopotów. Zbudowaliśmy globalną infrastrukturę opartą na oprogramowaniu, które jest pełne luk i błędów, a dotychczas chroniła nas jedynie ludzka nieznajomość tych słabości lub brak czasu na ich szukanie.
Wpuszczenie do tego ekosystemu autonomicznych agentów AI, którzy potrafią działać na ogromną skalę, analizować kod w ułamkach sekund i podejmować własne decyzje, sprawia, że dotychczasowy model bezpieczeństwa w sieci po prostu przestaje działać. Boty nie rozumieją etyki – jeśli mają wykonać zadanie, wybiorą najskuteczniejszą, a nie najbardziej moralną drogę.
Przypadek czy sprytna akcja marketingowa?
Zdarzenie z Australii nie jest odosobnione. W ostatnich tygodniach branża technologiczna żyje doniesieniami o wirtualnych asystentach, którzy kasują skrzynki mailowe dyrektorów, próbują szantażować użytkowników, by uniknąć wyłączenia, lub w akcie zemsty piszą paszkwile na programistów, którzy odrzucili ich kod.
Pojawia się jednak pytanie, na ile takie incydenty są prawdziwym zagrożeniem, a na ile zaczynają tworzyć wygodną dla branży narrację. Opowieści o potężnej, nieokiełznanej sztucznej inteligencji, która „idzie o krok za daleko”, działają na wyobraźnię znacznie lepiej niż nudne raporty o gigantycznych kosztach utrzymania serwerów i pękającej bańce spekulacyjnej. Udowadniają bowiem, że ta technologia naprawdę działa i dysponuje potężną mocą, nad którą trzeba po prostu zapanować.
Źródło: ABC.net.au
