Sumienie AI
Co zrobisz, gdy na jezdnię nagle wtargnie dziecko, a jedyną alternatywą będzie uderzenie w betonowy mur? Dla człowieka to ułamek sekundy i odruch. Dla autonomicznego samochodu – chłodny, przeliczony algorytm. Zero intuicji, czysta matematyka. Jednak ten tekst nie jest o autonomicznym transporcie. Raczej o odpowiedzialności za podejmowane decyzje.
Sztuczna inteligencja zacznie podejmować za nas dziesiątki decyzji o charakterze etycznym. Pytanie nie brzmi już „czy”, ale „według jakiego klucza” je podejmie.
To nie są rozważania z obszaru fantastyki naukowej. Ponad połowa globalnej populacji korzysta dziś z czatbotów zasilanych LLM-ami, a modele AI wkraczają w medycynę, prawo i finanse. Wkraczają w zasadzie w każdą sferę naszego życia. Życia, w którym sposób podejścia do etyki ma wpływ przede wszystkim na nas samych, w którym to jakie zadajemy pytania i jakie uzyskujemy odpowiedzi definiuje nasz własny światopogląd. Analiza tego, jak algorytmy podejmują decyzje moralne, staje się kluczowym wyzwaniem technologicznym.
Dylemat Collingridge’a
Głównym problemem przy wdrażaniu nowatorskich rozwiązań jest tzw. dylemat Collingridge’a. Kiedy technologia znajduje się w powijakach, łatwo ją modyfikować i regulować, ale brak nam wiedzy o jej skutkach społecznych. Z kolei gdy uzyskujemy pełne dane, technologia jest już tak zakorzeniona w infrastrukturze, że jakakolwiek zmiana staje się niemal niemożliwa, albo przynajmniej jest bardzo trudna. Przykłady? Proszę bardzo.
Gdy rozpoczęła się epoka przemysłowa ludzkość zachwyciła się możliwością produkcji na skalę nigdy wcześniej nieosiągalną, a paliwa kopalne dostarczyły energii do coraz to bardziej rozwijanych procesów przemysłowych. I choć już w 1824 roku (!) Joseph Fourier, francuski matematyk i fizyk, zauważył, że nasza planeta jest znacznie cieplejsza niż wynikałoby to tylko z jej odległości od Słońca zdał sobie sprawę z efektu, który wówczas jeszcze nazwał on „szklarniowym”. Po kolejnych 22 latach Amerykanka Eunice Newton Foote prostym eksperymentem powiązała ilość CO2 z temperaturą planety. Ktoś się tym przejął? Nikt. I to nawet nie dlatego, że coś się nie zgadzało. Praca Foote przez dekady leżała zapomniana tylko dlatego, że jej autorka była… kobietą. Dopiero pod koniec XIX wieku pierwszy człowiek, Svante Arrhenius jawnie sformułował ostrzeżenie przed przemysłem. Dziś po ponad dwóch wiekach od odkrycia Fouriera wiemy tyle, że problem istnieje i mozolnie próbujemy coś z tym zrobić. A to jest trudne.
Przeskoczmy do naszego wieku, w którym innym doskonałym przykładem dylematu Collingridge’a są media społecznościowe. Gdyby w 2010 roku przeprowadzono rzetelne badania nad ich wpływem na zdrowie psychiczne młodzieży, dzisiejszy cyfrowy świat wyglądałby zupełnie inaczej. Tutaj problem jest o tyle głębszy, że wciąż wpływ jest badany, a podejmowane działania wydają się być dalece niewystarczające.
A teraz? Teraz mamy AI, technologię, której rozwój pod wieloma względami wyróżnia się dynamiką nie mającą precedensu w naszej historii. Na pewno wielu z Was kojarzy prawo Moore’a mówiące o podwajaniu liczby tranzystorów w układzie scalonym co około 2 lata. W przypadku AI mówimy o skoku o rzędy wielkości w ujęciu zaledwie miesięcy, a nie lat. Jeśli więc dylemat Collingridge’a był problemem przy silnikach parowych i mediach społecznościowych – przy AI mamy do czynienia z tym samym mechanizmem, tylko ściśniętym do ułamka czasu, jaki mieliśmy wcześniej na reakcję.
Próbę stworzenia naukowego fundamentu pod nadchodzące zmiany podjął prof. Iyad Rahwan, szef Centrum Ludzi i Maszyn w Instytucie Rozwoju Człowieka im. Maxa Plancka w Berlinie. Inspiracją do podjęcia tego tematu był wywiad opublikowany na łamach Knowable Magazine – lektura obowiązkowa dla każdego, kto chce poszerzyć własne spojrzenie i zanurzyć się w źródłowe materiały badawcze.
Moral Machine
Jednym z najważniejszych projektów badawczych zespołu prof. Rahwana był eksperyment Moral Machine. Zbadano w nim miliony decyzji podejmowanych przez ludzi z całego świata w sytuacjach nieuchronnego wypadku drogowego z udziałem auta autonomicznego. Wyniki pokazały powszechną zgodę w pewnych kwestiach (ochrona dzieci przed dorosłymi czy pieszych na pasach przed osobami przechodzącymi na czerwonym świetle), ale wykazały też znaczne różnice kulturowe:
- Wschód kontra Zachód: w państwach o dominującej, szeroko pojętej „kulturze zachodniej” preferencja ochrony młodszych kosztem starszych była znacznie silniejsza. W krajach azjatyckich znacznie wyżej ceniono życie osób starszych.
- Praworządność: w państwach o wysokim poszanowaniu prawa badani znacznie chętniej „poświęcali” pieszych łamiących przepisy, aby ratować tych działających zgodnie z prawem.
Jeśli projektowanie algorytmów pozostawimy wyłącznie koncernom technologicznym, dostosują one produkty pod życzenia kupujących. Konsument zawsze wybierze auto chroniące jego własne życie – nawet kosztem otoczenia. To nie jest moje widzimisię. Kiedy rynkowi nie towarzyszą odgórne regulacje etyczne lub prawne ze strony państwa, czy realnie oddziałujące normy społeczne, firmy technologiczne projektują algorytmy tak, aby optymalizować wskaźnik sprzedaży i satysfakcję klienta. My sami też stosujemy podwójne standardy. Jako obywatele będziemy deklarować by np. autonomiczne samochody działały utylitarnie (minimalizowały ogólną liczbę ofiar), ale jako kupujący? Tu następuje zwrot w stronę egoizmu (ochrona pasażera za wszelką cenę). Nie będę tego dalej rozwijał, przecież dylemat wagonika znacie.
Serwilizm algorytmów
Dziś największym zagrożeniem ze strony dużych modeli językowych (LLM) nie jest bunt maszyn, lecz ich podstępna pochlebność. Mamy nawet świeży termin: sykofancja (z ang. sycophancy). Aby utrzymać naszą uwagę i budować zaangażowanie, czatboty mają tendencję do utwierdzania użytkowników w ich własnych uprzedzeniach, teoriach spiskowych i poglądach politycznych. AI staje się cyfrowym lustrem, które mówi nam dokładnie to, co chcemy usłyszeć.
AI nie jest magiczną różdżką, a lustrem. To, co w nim zobaczysz, zależy tylko od ciebie
Co więcej, proces automatycznego podsumowywania tekstów przez AI wykazuje tendencję do wygładzania faktów pod istniejące stereotypy (co wynika z danych treningowych, te stereotypy w nich są). Jeśli w tekście źródłowym pojawia się informacja o mężczyźnie będącym dyrektorem firmy, który jednocześnie wykonuje większość prac domowych, algorytm ma tendencję do pomijania tej drugiej informacji, ugruntowując tradycyjne klisze.
Sztuczna inteligencja ze swojej statystycznej natury dąży do tego, by serwować nam wizję świata, do której jesteśmy przyzwyczajeni – a w interakcji z użytkownikiem: po prostu mu przytakiwać. Z pewnością zapytacie: „czy nie da się robić modeli tak, by po prostu odpowiadały na pytania bez pochlebstw i utrzymania uwagi?”. Oczywiście, że się da, problem w tym, że w świecie napędzanym komercją takie modele się nie sprzedają. Lubimy być chwaleni.
Moralny outsourcing
Niezwykle niepokojące wnioski płyną z badań nad tym, jak delegowanie zadań do AI wpływa na naszą uczciwość. W tradycyjnym eksperymencie z rzutem kością i samodzielnym zgłaszaniem wyniku, zaledwie 5% ludzi decyduje się na oszustwo. Gdy jednak zadanie wykonuje za nich model językowy za pomocą odpowiedniego promptu, odsetek oszukujących rośnie do 25%.
Gdy badacz daje użytkownikowi do ręki suwak pozwalający balansować między uczciwością a maksymalizacją zysku, wskaźnik oszustw skacze do… 85%. Użytkownicy natychmiast stosują mechanizm wyparcia: „Ja tylko poprosiłem o maksymalizację wyniku, nie kazałem botowi oszukiwać”. AI staje się idealnym buforem moralnym, który pozwala ludziom łamać zasady bez poczucia winy. Tyle, że życie to znacznie więcej niż rzut kostką…
Demokratyzacja bezpieczeństwa
Największym wyzwaniem nadchodzących lat nie będzie jedynie stworzenie bezpiecznych ram prawnych (na wzór europejskiego Aktu o Sztucznej Inteligencji), ale uregulowanie dostępu badaczy do samej technologii. Samo AI Act to zwyczajnie za mało – reguluje bowiem to, co firmy muszą ujawnić, a nie to, co niezależni naukowcy mogą samodzielnie sprawdzić.
Kluczem jest wprowadzenie przepisów nakazujących korporacjom otwieranie swoich modeli dla niezależnych naukowców. Podkreślam: naukowców, a nie przypadkowych ludzi. Badacze muszą mieć prawo do przeprowadzania testów bez konieczności zabiegania o zgodę gigantów technologicznych. Tylko w ten sposób ustalimy, czy algorytmy nie generują cichego spustoszenia w strukturze społecznej. Czy może dobitniej: zauważymy negatywne konsekwencje technologii, zanim zbiorą one swoje żniwo. W nas samych. Miłego weekendu!
