Funkcja Recall w komputerach Copilot+ – czy na pewno tego chcemy?
Wczoraj Microsoft zapowiedział nową kategorię komputerów: Copilot+. Wszystkie z nowych maszyn korzystają z chipsetów Qualcomma, układów NPU, architektury ARM i oczywiście wielu modeli AI. Jedną z promowanych przez Microsoft funkcji jest Recall, dość kontrowersyjny pomysł.
Dlaczego kontrowersyjny? Otóż funkcja Recall ma wykorzystywać sztuczną inteligencję do tego, by ta wykonywała dosłownie co kilka sekund zrzut ekranu, a następnie indeksowała i katalogowała maszynowo odczytane z takiego obrazu informacje. Microsoft deklaruje, że celem jest ułatwienie użytkownikom znalezienia jakiejkolwiek rzeczy, pliku, zdjęcia, kadru, obiektu, aplikacji, czegokolwiek (!) co kiedykolwiek (!) było aktywne na danej maszynie Copilot+. Jednocześnie firma deklaruje, że informacje będą przetwarzane wyłącznie lokalnie, co ma zapewnić należytą ochronę prywatności.
Microsoft przedstawia komputery Copilot+ – to koniec architektury x86 w pecetach?
Ja mam do tej funkcji mieszane uczucia. Zbyt mi się Recall kojarzy z jednym z odcinków głośnego serialu Black Mirror. Dokładniej chodzi mi o trzeci (ostatni) odcinek pierwszego sezonu Black Mirror, zatytułowany „Cała twoja historia” (w oryg. The Entire History of You). Odcinek dotyczył implantów pamięci, w których zapisywane jest absolutnie wszystko, czego zaimplantowana osoba jest świadkiem. Kto wie, ten wie, pozostałym nie będę spoilerował, ale – cóż – nie skończyło się to dobrze.
Recall oczywiście dotyczy wyłącznie samego urządzenia Copilot+, AI będzie skrupulatnie odnotowywać co kilka sekund kolejne migawki, zatem poziom tej absolutnej pamięci będzie ograniczony wyłącznie do informacyjnej zawartości samego urządzenia, a nie całej otaczającej nas rzeczywistości. Nie mam najmniejszych wątpliwości, że faktycznie może to ułatwić wielu użytkownikom znalezienie po pewnym czasie informacji, o której wiedzą oni, że widzieli ją na swoim komputerze, ale nie mogą sobie przypomnieć gdzie dokładnie ta informacja jest. Wykonywane skrupulatnie co kilka sekund migawki przez AI działającą na rzecz funkcji Recall z pewnością tę informację przypomną.
Jednak jest też druga strona medalu. Taki zapis tworzy jednocześnie bardzo dokładną historię działań konkretnej osoby na danym komputerze. Zapewnienia o prywatności i ochronie danych użytkownika są tylko tak długo prawdą, gdy sam użytkownik stosuje się do choćby elementarnych zasad cyfrowej higieny. Jednak nie jesteśmy w stanie ochronić naszych danych w pełni skutecznie. Taka metoda nie istnieje, a eksperci od cyberbezpieczeństwa od lat mają jedno ze swoich ulubionych powiedzeń: gdy komuś udostępnisz Twój komputer, nie jest to już Twój komputer.
Możemy wyobrazić sobie mnóstwo wcale nie jakoś szczególnie wyrafinowanych sytuacji, gdy komputer Copilot+ staje się łupem hakera, łupem tym bardziej wartościowym, że gdy tylko agresor dysponuje poświadczeniami tożsamości właściciela, funkcja Recall zdradzi mu całą historię działalności danej osoby na danym komputerze.
Owszem, wszystkie informacje gromadzone przez AI (np. regularnie wykonywane zrzuty ekranu) są szyfrowane. Czy to zapewnia całkowite bezpieczeństwo? Oczywiście nie. Stanowi to jedynie potencjalne utrudnienie dla hipotetycznego agresora, czy – jak kto woli – tajnych służb, które wezmą kogoś na celownik.
I naprawdę nie chodzi tylko o to, że ktoś może podejrzeć jak dana osoba folgowała sobie i oglądała np. materiały pornograficzne. Konsekwencje tak szerokiego gromadzenia danych w ramach funkcji Recall są znacznie poważniejsze. Oto np. dziennikarz śledczy może stać się ofiarą reżimu, o którym np. gromadzi kompromitujące ów reżim materiały. Sytuacji jak najbardziej poważnych, których skutkiem może być złamanie protokołu bezpieczeństwa Recall jest cała masa.
I Microsoft może nas zapewniać, że migawki funkcji Recall są powiązane tylko z kontem konkretnego użytkownik, a zrzuty ekranu są dostępne tylko dla osoby, której profil został użyty do zalogowania się do danego urządzenia. Mało to mieliśmy przypadków przejęcia kont użytkowników przez osoby nieuprawnione? Owszem, Microsoft dodaje, że użytkownicy mogą wstrzymywać tworzenie migawek, filtrować przechwycone treści by np. AI omijała określone strony, dokumenty, czy aplikacje. Kto znajdzie czas na ręczne definiowanie filtrów? Doba ma tylko 24 godziny, a ilość informacji per capita w skali ludzkości tylko rośnie.
OK, na przykład funkcja Recall nie wykona migawek z przeglądarek działających w trybie prywatnym, ani migawek z treści chronionych przez DRM. A co np. z wpisywanymi przez nas na ekranie poufnymi informacjami, korespondencją, numerami kart płatniczych, kont i wszelakimi innymi, które również przecież pojawią się na wyświetlaczu nowoczesnego komputera Copilot+? Otóż funkcja Recall nie będzie domyślnie i aktywnie ukrywać tego typu danych.
Microsoft, serio?!
I jeszcze jedno mnie zastanawia. Na komputerach wszelkiego typu pracuję dłużej niż 30 lat, nie wiem jak wy, ale czy często miałem sytuację, że faktycznie zapomniałem czegoś, jakiejś danej, informacji, pliku, którego odnalezienie ułatwiłaby mi funkcja Recall? No, przyznaję, może kilka razy się zdarzyło. Kilka razy. Na 30 lat pracy. W nauce jest doskonale znana idea brzytwy Ockhama, filozoficzna reguła, która rozwiązanie najprostsze, zakładające najmniej argumentów każe przyjąć za najbardziej prawdopodobne. Co jest bardziej prawdopodobne: to że raz na 10 lat Recall faktycznie wam w czymś pomoże? Czy raczej to, że Recall stanowić będzie kopalnię wiedzy dla tych, którzy bardzo chcieliby poznać czym zajmuje się dany użytkownik, na swoim supernowoczesnym komputerze Copilot+?
Recall zatem będzie tworzyć olbrzymie zbiory zaszyfrowanych migawek. Firma zakłada, że dla komputera Copilot+ z nośnikiem 256 GB, Recall pochłonie 25 GB przestrzeni na dane, te 25 GB ma wystarczyć na zaledwie 3 miesiące tej „pamięci absolutnej”. Pomijając już całą masę wątpliwości związaną z prywatnością i bezpieczeństwem (zapewnienia Microsoftu mnie nie uspokajają), dochodzi do tego kolejne pytanie: na co komu taka potężna ilość piętrzących się danych? Odpowiem pytaniem: jaki byt potrzebuje danych, danych i jeszcze raz danych, by się doskonalić? Znacie odpowiedź: sztuczna inteligencja.
