Granice odpowiedzialności. OpenAI przeprasza za brak zgłoszenia konta sprawcy strzelaniny
Zarządzanie bezpieczeństwem modeli językowych staje się jednym z największych wyzwań dla branży technologicznej.
Dyrektor generalny OpenAI, Sam Altman, oficjalnie przeprosił za to, że jego firma nie przekazała organom ścigania informacji o koncie należącym do osoby oskarżonej o masową strzelaninę w Kanadzie. Równolegle na Florydzie toczy się śledztwo mające ustalić rolę ChatGPT w kontekście innego tragicznego ataku.
W liście skierowanym do władz i mieszkańców kanadyjskiej miejscowości Tumbler Ridge, Altman wyraził głęboki żal w związku z wydarzeniami ze stycznia tego roku. Osiemnastoletni sprawca, Jesse Van Rootselaar, zabił wówczas osiem osób i ranił blisko 30 kolejnych. Jak poinformowało OpenAI, konto napastnika zostało zidentyfikowane i zablokowane już w czerwcu ubiegłego roku z powodu „problematycznego użycia”.
Dlaczego nie powiadomiono policji?
Firma tłumaczy, że w tamtym czasie nie przekazała sprawy organom ścigania, ponieważ aktywność użytkownika nie przekroczyła wewnętrznego progu, który wskazywałby na wiarygodny lub nieuchronny plan wyrządzenia poważnej krzywdy fizycznej innym osobom.
„Jest mi niewymownie przykro, że nie powiadomiliśmy organów ścigania o koncie, które zostało zbanowane w czerwcu” – napisał Altman. Tłumaczył również, że opóźnił publiczne wystąpienie w tej sprawie, by uszanować czas żałoby lokalnej społeczności. „Choć wiem, że słowa nigdy nie wystarczą, uważam, że przeprosiny są konieczne, by uznać krzywdę i nieodwracalną stratę, jakiej doświadczyła wasza społeczność”.
Sprawa ma jednak swój ciąg dalszy w sądzie. Rodzice jednego z rannych w strzelaninie dzieci pozwali OpenAI. W dokumentach cywilnych twierdzą oni, że firma posiadała „konkretną wiedzę o długofalowym planowaniu zdarzenia z wieloma ofiarami”, lecz nie podjęła żadnych kroków, by temu zapobiec.
Śledztwo na Florydzie i kwestie bezpieczeństwa
Problemy prawne twórców ChatGPT nie ograniczają się do Kanady. Jak donoszą media, firma mierzy się obecnie ze śledztwem karnym na Florydzie. Postępowanie to jest bezpośrednio związane z wykorzystaniem sztucznej inteligencji przez mężczyznę oskarżonego o przeprowadzenie zeszłorocznej strzelaniny na Uniwersytecie Stanowym Florydy, w której zginęły dwie osoby, a kilka innych zostało rannych.
W obliczu rosnącej presji oraz pytań o granice odpowiedzialności firm technologicznych za działania ich użytkowników, OpenAI zapowiedziało wzmocnienie swoich procedur bezpieczeństwa. Sam Altman zadeklarował, że jego zespół będzie kontynuował współpracę z władzami na wszystkich szczeblach, aby zminimalizować ryzyko wystąpienia podobnych tragedii w przyszłości.
Sam Altman ma potężny problem. ChatGPT to nie jest nowy Windows
