ChatGPT ujawnia prywatne rozmowy, nazwy użytkowników i hasła, nawet, gdy o nie nie zapytasz
Jeden z czytelników popularnego serwisu ArsTechnica przesłał do redakcji zrzuty ekranu dokumentujące dziwne (delikatnie mówiąc) zachowanie ChatGPT. Konwersacyjny model od OpenAI, nie zapytany o to, ujawnił w historii rozmów prywatne rozmowy zupełnie innych osób, na dodatek zawierające dane logowania.
Spośród wielu zrzutów ekranów przesłanych do redakcji serwisu ArsTechnica szczególnie wyróżniały się dwa, na których czatbot ujawnia wiele par nazw użytkowników i przypisanych im haseł dotyczących jednego z systemów wsparcia używanego przez pracowników portalu aptecznego sprzedającego online leki na receptę. Wyglądało to tak, jakby pracownik apteki używał ChatGPT do rozwiązywania problemów, jakie napotkał podczas korzystania z portalu.
OK, ludzie wykorzystują ChatGPT do różnych rzeczy. Jednak fakt, że produkt OpenAI wyświetla później prywatne rozmowy zupełnie nie skojarzonym, innym użytkownikom, którzy na dodatek o nic takiego sztuczną inteligencję nie zapytali, sugeruje, że coś jest z mechanizmem OpenAI bardzo nie tak.
Wydaje się, że to dość szczególny przykład „halucynacji” AI, w materiale opublikowanym przez ArsTechnica nie podano, czy dane uwierzytelniające przypadkowo ujawnione jednemu z użytkowników chatbota OpenAI są w ogóle prawdziwe, niezależnie od tego jak bardzo wiarygodnie wygląda przypadkowo wyświetlona konwersacja. Nie zmienia to jednak istoty rzeczy: korzystając z AI lepiej nie podawać danych osobowych, nazw użytkowników, haseł itp. Wówczas mamy pewność, że ChatGTP naszego hasła nikomu nie zdradzi. Owszem, wciąż może mieć halucynacje i po prostu zmyślać nasze hasła czy inne informacje, ale to już mniejszy problem jeżeli chodzi o bezpieczeństwo danych, natomiast wciąż problem jeżeli chodzi o działanie samej AI. OpenAI podobno zajęło się sprawą, do dziś firma nie opublikowała żadnego komentarza.
