Firmy tracą kontrolę nad AI. Zjawisko Shadow AI rośnie, a pracownicy działają poza radarem
Polskie firmy chcą korzystać ze sztucznej inteligencji, ale w wielu z nich technologia ta funkcjonuje poza oficjalnym nadzorem.
Z najnowszego badania AI Readiness Index wynika, że pracownicy masowo używają niezatwierdzonych narzędzi na własną rękę. Problemem zarządów jest brak odpowiedniej infrastruktury i procedur. Odpowiedzią branży na ten organizacyjny chaos ma być ustrukturyzowane podejście do firmowych danych i wdrażanie cyfrowych asystentów, co proponuje m.in. Salesforce.
Brak nadzoru i zjawisko Shadow AI
Aż 44 proc. polskich firm deklaruje, że sztuczna inteligencja to dla nich priorytet. Mimo to, 40 proc. ankietowanych przyznaje, że pracownicy regularnie korzystają z niezatwierdzonych narzędzi AI. Co więcej, niemal co czwarta organizacja działa w tym obszarze bez ustalenia jakichkolwiek reguł czy norm.
To zjawisko, określane w branży mianem Shadow AI, obnaża wyraźny dysonans w firmach. Kierownictwo często żyje w przekonaniu, że ma sytuację pod kontrolą, widząc w raportach jedynie oficjalne licencje na modele LLM oraz zatwierdzone integracje z wewnętrznymi systemami. Tymczasem pracownicy, chcąc ułatwić sobie codzienne zadania, korzystają z niesprawdzonych, darmowych narzędzi i używają prywatnych kont (np. w ChatGPT) do przetwarzania firmowych informacji. Takie przesyłanie danych bez odpowiednich zabezpieczeń generuje realne ryzyko naruszenia własności intelektualnej. Sytuacji nie poprawiają braki kadrowe – 43 proc. firm w ogóle nie planuje wyznaczyć osoby z kierownictwa, która nadzorowałaby wdrażanie AI.
Ograniczenia modeli i wypalenie pracowników
Zapewnienie dostępu do dużych modeli językowych to zaledwie wierzchołek góry lodowej. Samodzielnie działające algorytmy mają swoje naturalne ograniczenia: nie znają specyfiki danej firmy, nie rozumieją relacji przyczynowo-skutkowych i wciąż zdarza im się generować halucynacje.
Skutki rzucenia załogi na głęboką wodę, bez ułożonego środowiska pracy, widać w statystykach. Badanie wskazuje, że 30 proc. firm odnotowuje zjawisko „zmęczenia używaniem AI”, a taki sam odsetek raportuje spadek kreatywności w zespołach. Konieczność ciągłego weryfikowania wyników pracy maszyn nakłada na ludzi dodatkowe obciążenie poznawcze, które prowadzi do nowego rodzaju wypalenia zawodowego.
Uporządkowanie chaosu i cyfrowi agenci
Aby wyjść z fazy chaotycznych eksperymentów, modele językowe wymagają integracji z wewnętrznymi bazami danych oraz procesami firmy. Rozwiązaniem tego problemu ma być budowa ustrukturyzowanych środowisk pracy, takich jak promowana przez firmę Salesforce architektura Agentic Enterprise. Zamiast wdrażać pojedyncze narzędzia, koncepcja ta zakłada płynne połączenie firmowych zasobów, aplikacji biznesowych oraz komunikatorów (jak Slack) w jeden nadzorowany ekosystem. Dopiero w takim środowisku autonomiczni agenci AI mogą bezpiecznie i efektywnie wspierać ludzi.
Obecnie narzędzia oparte na agentycznej sztucznej inteligencji wykorzystuje 12 proc. firm w Polsce. Większość z nich (70 proc.) nadal musi ręcznie monitorować ich pracę i korygować ewentualne błędy. Mimo tych początkowych trudności, organizacje patrzą w przyszłość z optymizmem. Blisko jedna czwarta ankietowanych liderów uważa, że w perspektywie pięciu lat sztuczna inteligencja stanie się niezbędnym fundamentem ich branży.
