Ekspert odrzucił wniosek o 17 mln zł dotacji dla KP Labs. Decyzję oparł na halucynacjach AI
Polska firma z branży kosmicznej, KP Labs, poinformowała o odrzuceniu jej wniosku o dotację w wysokości 17 mln zł z Narodowego Centrum Badań i Rozwoju (NCBR). Oficjalnym powodem była rzekoma niska innowacyjność projektu. Problem w tym, że do tego wniosku prowadziły fałszywe przesłanki.
Kiedy KP Labs dokonało analizy sytuacji, udało się wykazać, że ekspert oceniający wniosek oparł swoją argumentację na danych o konkurencyjnych produktach, które nie istnieją. Najprawdopodobniej osoba dokonująca oceny wniosku „wsparła” się AI w swojej pracy, kłopot w tym, że AI, delikatnie mówiąc, nieco „popłynęła”.
Gliwicka spółka KP Labs, mająca na koncie m.in. współpracę z Międzynarodową Stacją Kosmiczną i wiele innych uznanych projektów, złożyła wniosek o dofinansowanie nowej jednostki obliczeniowej do zastosowań satelitarnych. W odpowiedzi z NCBR otrzymała decyzję odmowną, uzasadnioną istnieniem na polskim rynku porównywalnych lub lepszych rozwiązań.
Pracownicy KP Labs, analizując kartę oceny wniosku, odkryli szereg rażących nieprawidłowości. Ekspert powoływał się w niej na konkretne parametry techniczne konkurencyjnych urządzeń. Problem w tym, że przytoczone dane były fałszywe. W ocenie porównano na przykład rozwiązanie KP Labs do mocy obliczeniowej satelity EagleEye od Creotech Instruments, podając dane, które nigdy nie zostały publicznie ujawnione. W innym miejscu odniesiono się do mikrosatelitów Camila, które… jeszcze nie powstały – umowę na ich budowę podpisano dopiero w kwietniu 2025 roku, a na dodatek to właśnie KP Labs dostarczy system przetwarzania danych do tego projektu i jest to inne rozwiązanie od tego, w sprawie którego złożono wniosek o dotację.
Najbardziej kuriozalnym przykładem jest jednak porównanie kluczowego parametru rezystancji termicznej do osiągów łazika o nazwie „Analog Mars Yard”, który rzekomo został zbudowany przez Centrum Badań Kosmicznych PAN. KP Labs skontaktowało się z CBK PAN. Okazało się, że w tej instytucji nikt nie słyszał o łazikach „Analog Mars Yard”, a sama ta nazwa w ogóle nie dotyczy czegokolwiek podobnego do łazika lecz… Jak ustaliło KP Labs, instytucja ta nigdy nawet nie słyszała o takim łaziku, a nazwa „Analog Mars”, o czym zresztą można się przekonać odwiedzając witrynę cbkpan.pl dotyczy co najwyżej projektów symulacyjnych poligonów testowych, a nie konkretnych urządzeń. W każdym razie wszystko wskazuje na to, że jest to klasyczny przykład tzw. halucynacji AI, czyli zmyślenia faktu przez model językowy. Pracownicy KP Labs potwierdzili, że popularne modele AI, zapytane o to samo, generowały podobne, nieprawdziwe informacje.
Narodowe Centrum Badań i Rozwoju, zapytane o sprawę przez media, zaprzeczyło, by ekspert korzystał z AI. Według NCBR, ocena została dokonana na podstawie „posiadanej wiedzy oraz ogólnie dostępnych narzędzi wyszukiwania Google i Bing”.
Być może NCBR chciało uspokoić sytuację, ale takie tłumaczenie jedynie dolało oliwy do ognia. Nie od dziś wiadomo, że wyszukiwarki internetowe coraz częściej wyświetlają podsumowania generowane przez AI, które również mogą być źródłem wielu błędów. Instytucja (NCBR) przyznała również, że nie posiada procedur, które regulowałyby lub zapobiegały użyciu AI przez ekspertów.
Sprawa KP Labs jest postrzegana jako precedens, który podważa zaufanie do systemu oceny wniosków o publiczne pieniądze w dobie sztucznej inteligencji. „Ekspert nie poświęcił choćby pięciu minut, żeby sprawdzić, czy wyniki proponowane przez model są prawdziwe” – powiedział w rozmowie z mediami Michał Zachara, wiceprezes KP Labs. Firma złożyła oficjalny protest w tej sprawie i zwraca uwagę nie tylko na kwestię utraconej dotacji, ale także na ryzyko naruszenia praw intelektualnych, jeśli dane z wniosku zostały użyte do „douczania” modelu AI.
W redakcji jesteśmy ciekawi, czy NCBR ma już nowego „eksperta”.
