Google właśnie nauczyło AI fałszować wspomnienia, wszczepiając w nie… demencję
Kiedyś naczelne motto Google brzmiało „Don’t be evil”. Dziś to już tylko odległe wspomnienie, zwłaszcza gdy przyjrzymy się najnowszemu, teoretycznie wyciskającemu łzy projektowi giganta.
W dokumencie krótkometrażowym „Love, Rendered” firma chwali się technologiczną rewolucją w terapii Alzheimera i demencji. W rzeczywistości inżynierowie DeepMind stworzyli cyfrowego Frankensteina – wygenerowali przeszłość, celowo wszczepiając objawy starości i demencji w młode ciało na wygenerowanym wspomnieniu, by łatwiej oszukać niszczejący mózg pacjenta. Witamy w erze syntetycznej pamięci rodem z Black Mirror.
Wyciskacz łez z hollywoodzkim budżetem
Na papierze i w obiektywie PR-owców to piękna, wzruszająca historia. Google zatrudniło znane hollywoodzkie nazwiska (w tym Darrena Aronofsky’ego), by opowiedzieć historię Burta i Ethelle – małżeństwa z 70-letnim stażem. Burt cierpi na postępującą demencję. Ponieważ dzień ich pierwszego spotkania na studiach nigdy nie został uwieczniony na taśmie, inżynierowie z DeepMind postanowili użyć sztucznej inteligencji, by zrekonstruować ten moment i podarować go staruszkowi w ramach tzw. terapii reminiscencyjnej (stymulowania mózgu starymi obrazami i dźwiękami).
Brzmi to jak szczytne wykorzystanie nowych technologii, dopóki nie wczytamy się w szczegóły techniczne tego cyfrowego eksperymentu. Wówczas zamiast łez wzruszenia pojawiają się inne krople… spływającego po plecach potu z przerażenia.
Wszczepianie choroby w ciało dwudziestolatka
Google z dumą pisze w swoim komunikacie o „chwytaniu ludzkiej esencji”. Jak to osiągnięto? Programiści nie poprzestali na wygenerowaniu realistycznego, młodego awatara na podstawie starych zdjęć. Użyli zaawansowanych modeli przechwytywania ruchu, by nałożyć obecne mikroruchy, tiki, specyficzne przechylenia głowy i zawieszenia głosu 90-letniego Burta na jego 20-letnie, cyfrowe alter ego.
Zatrzymajmy się tu na chwilę. Korporacyjna nowomowa nazywa to „unikalnymi cechami”. Z medycznego punktu widzenia to po prostu brutalne objawy fizycznej degradacji i uszkodzeń neurologicznych. Kiedy Burt poznawał swoją żonę na studiach, najprawdopodobniej nie miał tych tików, mikroruchów i wahań w mowie. Inżynierowie Google dosłownie wyabstrahowali motorykę starca z demencją i zaszczepili ją w cyfrowe, zdrowe ciało studenta.
Inżynieria umysłu zamiast przywracania pamięci
Cel tego makabrycznego zabiegu jest aż bólu cyniczny i pragmatyczny: zrujnowany chorobą układ nerwowy musiał otrzymać bodziec, który bezrefleksyjnie uzna za „własny”. Schorowany mózg miał spojrzeć na ekran i podświadomie przetworzyć sygnał: „ten młody chłopak rusza się i zacina dokładnie tak jak ja teraz, więc to muszę być ja, to moje prawdziwe wspomnienie”.
To już nie jest przywracanie pamięci czy powiększanie starych fotografii. To inżynieria wsteczna ludzkiego umysłu. Google dostosowało fałszywą, wygenerowaną od zera przeszłość do obecnych ubytków percepcyjnych pacjenta. Korporacja przekroczyła cienką granicę między ratowaniem ludzkich wspomnień a ich agresywnym, cyfrowym fałszowaniem, tworząc syntetyczny dowód na wydarzenie, które w takiej formie nigdy nie miało miejsca.
A na samym końcu tego wzruszającego „dokumentu” gigant technologiczny z uśmiechem zachęca nas do używania aplikacji Gemini do ożywiania własnych, rodzinnych archiwów. Jeśli tak ma wyglądać dbanie o naszą spuściznę, to z dawnego „Don’t be evil” nie został już nawet najmniejszy ślad.
Mniej czasu na ratowanie skasowanych wspomnień. Zdjęcia Google czyszczą kosz dwa razy szybciej
