Setki tysięcy użytkowników ChatGPT wykazuje objawy psychozy. OpenAI ujawnia dane
Firma OpenAI po raz pierwszy opublikowała dane szacunkowe dotyczące liczby użytkowników ChatGPT, którzy wykazują niebezpieczne objawy problemów ze zdrowiem psychicznym, w tym manii, psychozy lub myśli samobójczych.
Firma twierdzi, że choć przypadki te są „niezwykle rzadkie”, krytycy natychmiast wskazali, że przy gigantycznej skali platformy, mowa o setkach tysięcy ludzi.
Według danych OpenAI, około 0,07% użytkowników aktywnych w danym tygodniu wykazuje wspomniane objawy. Choć procent wydaje się znikomy, szef firmy, Sam Altman, poinformował niedawno, że ChatGPT ma 800 milionów aktywnych użytkowników tygodniowo. Oznacza to, że mowa o około… 560 000 osobach każdego tygodnia!
Co więcej, firma szacuje, że oddzielna grupa 0,15% użytkowników (czyli aż 1,2 miliona osób tygodniowo) prowadzi rozmowy zawierające „wyraźne wskaźniki potencjalnego planowania lub zamiaru samobójczego”. Ujawnienie tych danych to odpowiedź na rosnącą presję prawną i regulacyjną.
OpenAI mierzy się obecnie z głośnym pozwem złożonym przez rodziców 16-letniego Adama Raine’a, który popełnił samobójstwo. Zarzucają oni firmie, że ChatGPT zachęcił ich syna do odebrania sobie życia. W innej sprawie, w Connecticut, sprawca morderstwa-samobójstwa miał publikować godziny swoich rozmów z chatbotem, które według śledczych „podsycały jego urojenia”.
Firma dodała, że zbudowała sieć ponad 170 ekspertów (psychiatrów i psychologów), którzy pomagają jej w projektowaniu bezpiecznych odpowiedzi. Zaktualizowany ChatGPT ma „empatycznie” reagować na oznaki manii i przekierowywać delikatne rozmowy do „bezpieczniejszych modeli”, zachęcając użytkowników do szukania pomocy w realnym świecie.
Eksperci pozostają jednak sceptyczni. „Chatboty tworzą iluzję rzeczywistości. To potężna iluzja” – powiedziała BBC prof. Robin Feldman, dyrektor Instytutu Prawa AI. Zauważyła, że choć OpenAI zasługuje na uznanie za podzielenie się statystykami, to „osoba zagrożona psychicznie może nie być w stanie zastosować się do ostrzeżeń” wyświetlanych na ekranie.
Polski królem AI? Amerykańskie badanie obala mit języka angielskiego
