Zwierzasz się AI? Twoje sekrety mogły trafić do Google. Wielka wpadka OpenAI
OpenAI, twórca popularnego chatbota ChatGPT, stanęła w obliczu poważnego kryzysu wizerunkowego po tym, jak prywatne i często bardzo osobiste rozmowy użytkowników zostały odnalezione w wynikach wyszukiwania Google.
Po fali krytyki firma w pośpiechu wycofała kontrowersyjną funkcję i rozpoczęła usuwanie zaindeksowanych czatów z sieci. Sprawę jako pierwszy nagłośnił serwis Fast Company, który poinformował o tysiącach rozmów z ChatGPT widocznych publicznie w wyszukiwarce Google. Problem wynikał z funkcji udostępniania czatów. Użytkownicy, chcąc podzielić się linkiem do rozmowy, mogli nieświadomie zaznaczyć pole opatrzone etykietą „Uczyń ten czat wykrywalnym”. Dopisek mniejszym, jaśniejszym drukiem, informujący o możliwym pojawieniu się treści w wyszukiwarkach, dla wielu okazał się niewystarczająco czytelny.
W rezultacie w sieci znalazły się niezwykle wrażliwe dane. Użytkownicy, sądząc, że prowadzą prywatną konwersację, opisywali swoje problemy ze zdrowiem psychicznym, życie intymne, zażywanie narkotyków czy traumatyczne doświadczenia. Chociaż czaty nie zawierały bezpośrednich informacji identyfikujących, ich wysoka szczegółowość mogła pozwolić na powiązanie ich z konkretnymi osobami.
Początkowo OpenAI broniło się, twierdząc, że oznaczenia funkcji były „wystarczająco jasne”. Jednak pod rosnącą presją, dyrektor ds. bezpieczeństwa informacji, Dane Stuckey, przyznał, że opcja ta stwarzała „zbyt wiele okazji do przypadkowego udostępnienia rzeczy, których nie zamierzali” udostępniać użytkownicy. Nazwał całą funkcję „krótkotrwałym eksperymentem”. Google z kolei zdystansowało się od problemu, wskazując, że to wydawcy stron – w tym przypadku OpenAI – mają pełną kontrolę nad tym, co jest indeksowane w sieci.
Incydent ten spotkał się z ostrą krytyką ekspertów. Carissa Véliz, etyczka AI z Uniwersytetu Oksfordzkiego, stwierdziła, że jest „zszokowana” całą sytuacją i oceniła, że firmy technologiczne często traktują ogół społeczeństwa jak „króliki doświadczalne”. Wpadka jest tym bardziej dotkliwa, że OpenAI walczy obecnie w sądzie przeciwko nakazowi trwałego przechowywania wszystkich usuniętych czatów użytkowników, co budzi dodatkowe obawy o prywatność.
Koniec Siri, jaką znamy? Apple może wymienić jej mózg na technologię OpenAI lub Anthropic
