Ukryty kryzys AI, o którym nikt nie mówi. „Firmy toną w kosztach, a ich AI po cichu się psuje”
Wszyscy ekscytują się nowymi chatbotami i integracjami ze sztuczną inteligencją, a firmy chwalą się wzrostem produktywności.
Jednak za kulisami rewolucji AI rozgrywa się cichy dramat, który spędza sen z powiek dyrektorom technologii. Problem jest tak duży, że analitycy nazywają go „ślepym punktem AI”, a jego skala zaczyna przerażać.
Tajemnica gigantycznych przychodów Nvidii. 40% pochodzi od zaledwie dwóch klientów-widmo
Joel Wembo, konsultant wdrażający systemy AI, w swojej publikacji na portalu Medium ujawnia, co tak naprawdę dzieje się w firmach, które postawiły na sztuczną inteligencję. Okazuje się, że największym wyzwaniem nie jest już samo stworzenie modelu AI, ale jego monitorowanie – czyli sprawdzanie, czy system działa poprawnie, nie myli się i, co najważniejsze, nie generuje absurdalnych kosztów.
Kosztowna strona inteligencji
Skala problemu jest szokująca. Jak podaje Wembo, średniej wielkości firma z chatbotem AI może generować 50 terabajtów danych monitoringowych miesięcznie. To tak, jakby codziennie nagrywać każdą rozmowę w stutysięcznym mieście. Dlaczego tak dużo? Bo systemy AI to bestie o niespotykanej złożoności. Trzeba śledzić każde zapytanie do bazy danych, każdą prognozę modelu i każdą interakcję użytkownika.
Efekt? Koszty eksplodują. Wembo przytacza przykład firmy z branży fintech, której miesięczny rachunek za samo monitorowanie systemów wzrósł z 5 tysięcy do 80 tysięcy dolarów w zaledwie pół roku po dodaniu funkcji AI. Firmy zaczynają wydawać więcej na obserwowanie swojej sztucznej inteligencji, niż wydały na jej zbudowanie.
Ciche umieranie sztucznej inteligencji
Pieniądze to jednak tylko część problemu. Znacznie gorsze jest to, że – jak twierdzi autor – większość aplikacji AI psuje się po cichu, a firmy nawet o tym nie wiedzą. Tradycyjne systemy monitoringu potrafią sprawdzić, czy serwer działa i jak szybko ładuje się strona. Ale w przypadku AI to jak „mierzenie prędkości statku kosmicznego za pomocą rowerowego prędkościomierza”.
Stary system widzi, że serwer odpowiedział w 200 milisekund i oznacza go jako „zdrowy”. Tymczasem model AI od dłuższego czasu podaje klientom całkowicie błędne odpowiedzi, złe rekomendacje produktów lub nieprawdziwe informacje. Firmy chwalą się wydajnością, nie zdając sobie sprawy, że ich flagowy produkt AI przez połowę czasu jest po prostu zepsuty. To dlatego, zdaniem Wembo, użytkownicy wciąż wolą płatne i dopracowane wersje, jak ChatGPT Pro czy Claude Pro – bo niezawodność zawsze wygrywa z funkcjami.
Dolina Krzemowa już to wie
Problem ten nie jest nowy dla gigantów. Firmy takie jak Netflix (monitorowanie rekomendacji), Uber (śledzenie tras w czasie rzeczywistym) czy Airbnb (obserwowanie dynamicznych cen) zrozumiały to już dawno temu. Zbudowały swoją przewagę konkurencyjną nie tylko na lepszych modelach AI, ale na doskonałym monitoringu, który pozwala im wyłapywać problemy, zanim zauważą je klienci.
Dla reszty świata to dopiero początek bolesnej nauki. Rynek narzędzi do monitorowania AI ma wzrosnąć z 1,4 mld do ponad 10 mld dolarów do 2033 roku. Specjaliści w tej dziedzinie już teraz zarabiają o 40% więcej niż zwykli inżynierowie. Jak podsumowuje Wembo, firmy, które zrozumieją, że przyszłość AI to nie tylko tworzenie, ale przede wszystkim niezawodne i efektywne kosztowo działanie polegające na nieustannym śledzeniu poprawności działania AI, „zjedzą lunch całej reszcie”.
Ted Cruz chce dać firmom AI wolną rękę. Krytycy ostrzegają przed „eksperymentami na społeczeństwie”
