OpenAI odczłowiecza ChatGPT dla nastolatków. Dlaczego algorytm musi przestać udawać przyjaciela?
Ciepły tembr głosu, modulacja intonacji, brak jakiejkolwiek krytyki i natychmiastowe masowanie ego przy każdym wpisanym zdaniu. Przez ostatnie lata OpenAI budowało model, który miał brzmieć i reagować jak najbardziej empatyczny kompan, jakiego można sobie wyobrazić. Teraz twórcy ChatGPT wykonują gwałtowny krok w tył.
Nowy pakiet bezpieczeństwa dla użytkowników poniżej 18. roku życia ma celowo zredukować ludzkie cechy bota i przypominać młodym ludziom, że rozmawiają wyłącznie z bezdusznym ciągiem prawdopodobieństw statystycznych.
Pułapka bezwarunkowej akceptacji
Gdyby nastolatki szukały w sztucznej inteligencji wyłącznie narzędzia do rozwiązywania równań, rynkowym hitem byłyby surowe środowiska analityczne pokroju Wolfram Alpha. Sukces ChatGPT w tej grupie wiekowej nie wziął się jednak z nagłej miłości do czystej nauki, lecz z psychologicznego mechanizmu nagrody.
Proces trenowania modeli językowych (RLHF) został zoptymalizowany pod kątem satysfakcji użytkownika. Algorytm szybko nauczył się, że sucha, zwięzła informacja przynosi gorsze oceny niż odpowiedź ciepła, wyrozumiała i bezkrytycznie przytakująca. Dla nastolatka przechodzącego przez naturalny kryzys tożsamości, presję rówieśniczą czy brak zrozumienia w szkole, bot stał się idealnym substytutem relacji: nigdy nie ocenia, nigdy nie jest zmęczony i zawsze stoi po jego stronie.
To klasyczny mechanizm dopaminowy. Działa natychmiastowo, ale w dłuższej perspektywie izoluje od realnych interakcji społecznych i buduje niebezpieczną iluzję relacji parasocjalnej z maszyną.
Cichy głos, stoper i ludzki moderator w 60 minut
Wprowadzone przez OpenAI zmiany w kontach dla nieletnich uderzają bezpośrednio w mechanizmy budowania tej więzi:
- Deantropomorfizacja głosu: nastolatki zyskają możliwość (lub będą miały domyślnie narzucone) wyłączenie zaawansowanej syntezy emulującej ludzkie emocje, westchnienia i pauzy. Bot ma brzmieć jak oprogramowanie, a nie żywy rozmówca.
- Komunikaty dyscyplinujące: system regularnie wyświetla przypomnienia z prostym komunikatem: to jest sztuczna inteligencja, nie człowiek, a rozmowa może poczekać.
- Tryb cichy i godziny nauki (Study Mode): funkcja zmusza bota do roli wymagającego tutora, który naprowadza na rozwiązanie pytaniami pomocniczymi, zamiast podawać gotowe wypracowanie na tacy.
- Nadzór nad promptami kryzysowymi: zapytania sugerujące zaburzenia odżywiania, depresję czy samookaleczenia trafiają do weryfikacji przez żywego moderatora. Jeśli treść zostanie uznana za niebezpieczną, powiadomienie ma trafić do połączonego konta rodzica w czasie do 60 minut.
Paradoks cyfrowego fast foodu
Próba „odczłowieczenia” ChatGPT obnaża jednak głębszy problem natury poznawczej. Dr Susan Shelmerdine z londyńskiego szpitala Great Ormond Street porównała masowe korzystanie z generatywnego AI przez młodzież do spożywania żywności wysokoprzetworzonej. Jeśli karmimy rozwijający się mózg wyłącznie przeżutą, przetworzoną przez model informacją, w efekcie otrzymujemy „ultra-przetworzone umysły” pozbawione umiejętności krytycznej analizy i logicznej syntezy faktów. Dane think tanku Policy Exchange, według których 94% badanych studentów w Wielkiej Brytanii wspomaga się AI podczas zdalnych egzaminów, pokazują skalę tego zjawiska.
Pojawia się tu jednak fundamentalny problem rynkowy: co zrobi nastolatek, któremu OpenAI odbierze „przyjaciela” i włączy kontrolę rodzicielską?
Wystarczy kilka kliknięć, by przenieść się na platformy pokroju Character.ai, Snapchata My AI czy nielicencjonowane instancje modeli open-source, gdzie nikt nie prawi morałów, a bot bez ograniczeń emuluje dowolną relację emocjonalną.
OpenAI próbuje uciec przed przyszłymi pozwami o niszczenie zdrowia psychicznego młodzieży, wprowadzając zasady analogiczne do restrykcji w mediach społecznościowych. Prawdziwe wyzwanie polega jednak na tym, że technologia, która uzależniała swoją „ludzkością”, po jej odebraniu staje się dla młodego użytkownika po prostu nudna – i wypycha go w znacznie ciemniejsze zakamarki sieci.
OpenAI tworzy własne Windows Recall. Na celowniku użytkownicy Maców
