Pracownicy Amazona sztucznie pompują użycie AI. Witajcie w absurdalnej erze „tokenmaxxingu”
Kiedy wielkie korporacje wydają setki miliardów dolarów na rozwój sztucznej inteligencji, oczekują w zamian cyfrowej rewolucji i skokowego wzrostu wydajności.
Rzeczywistość bywa jednak dużo bardziej prozaiczna i przypomina raczej scenariusz z serialu komediowego o biurowym życiu. Z najnowszych doniesień Financial Times wynika, że pracownicy Amazona wpadli na genialny w swojej prostocie pomysł, jak zadowolić menedżerów ślepo zapatrzonych w cyferki: zaczęli używać wewnętrznych narzędzi AI do wykonywania kompletnie niepotrzebnych zadań, byle tylko podbić swoje osobiste statystyki.
Sztuka dla sztuki, czyli narodziny tokenmaxxing
Sercem całego zamieszania jest potężne, wewnętrzne narzędzie o nazwie MeshClaw. To zintegrowany z systemami Amazona bot, który potrafi analizować kod, zarządzać skrzynką mailową i komunikować się na Slacku w imieniu pracownika.
Problem w tym, że firma narzuciła ostre cele – ponad 80 procent deweloperów ma używać sztucznej inteligencji każdego tygodnia, a zużycie tak zwanych tokenów, czyli jednostek danych przetwarzanych przez modele, zaczęło być monitorowane w wewnętrznych rankingach.
Efekt był do przewidzenia. Pracownicy, by poprawić swoją pozycję w tabelkach, masowo zlecają botom bezsensowną, zbędną aktywność. Zjawisko to, obecne ponoć również w Mecie, dorobiło się już swojej uroczej nazwy: „tokenmaxxing”.
Programiści ostrzegają: AI zaczyna „lasować” sposób myślenia o kodzie
Miliardy wydatków wymagają uzasadnienia
Cała ta absurdalna sytuacja doskonale pokazuje, pod jaką presją znajdują się giganci z Doliny Krzemowej. Amazon planuje w tym roku wydać astronomiczne 200 miliardów dolarów na inwestycje kapitałowe, z czego lwia część popłynie właśnie na rozbudowę centrów danych i infrastruktury AI. Kiedy zarząd przepala takie pieniądze, akcjonariusze chcą widzieć, że technologia faktycznie zmienia sposób pracy i generuje zwrot z inwestycji.
Oficjalny komunikat Amazona głosi, że statystyki zużycia tokenów nie mają wpływu na ocenę pracowniczą. Zatrudnieni wiedzą jednak swoje – w korporacji, jeśli menedżer dostaje dostęp do jakiegoś rankingu, to ten ranking z definicji staje się narzędziem oceny i tworzy patologiczną presję.
Autonomiczny bot, który przeraża inżynierów
Poza samym absurdem sztucznego generowania ruchu, z doniesień dziennikarzy wyłania się znacznie poważniejszy problem natury bezpieczeństwa. Wewnętrzne notatki chwalą się, że MeshClaw potrafi przetwarzać informacje nocą, monitorować wdrożenia kodu, gdy pracownik jest na spotkaniu, i porządkować maile, zanim ten rano wstanie z łóżka.
Część inżynierów otwarcie przyznaje, że domyślne ustawienia uprawnień tego narzędzia ich przerażają. Pozostawienie agenta AI samego sobie, z prawem do podejmowania akcji w imieniu użytkownika, to proszenie się o to, by w przypadku pomyłki algorytmu bot podjął serię nieodwracalnych, błędnych decyzji.
Technologia, która stała się obowiązkiem
Historia z Amazona to doskonały materiał do weekendowych przemyśleń o tym, dokąd zmierzamy jako branża. Pokazuje ona, jak łatwo przełomowa technologia może zamienić się w kolejny, bezduszny wskaźnik efektywności w arkuszu kalkulacyjnym.
Sztuczna inteligencja miała uwalniać nas od powtarzalnej, nudnej pracy i dawać przestrzeń na ludzką kreatywność. Tymczasem stworzyła zupełnie nowy rodzaj biurokratycznego obowiązku: zmusza świetnie opłacanych specjalistów do wymyślania sztucznych zadań dla algorytmów. Robią to tylko po to, by udowodnić zarządowi, że jego wielomiliardowe inwestycje miały jakikolwiek sens.
