AI zacznie doradzać nad Waszyngtonem. Ekspert pyta, kto odpowie za jej pomyłki
Amerykański zarząd lotnictwa FAA szykuje uruchomienie systemu SMART, który ma za pomocą sztucznej inteligencji podpowiadać, jak zarządzać ruchem w jednej z najbardziej zatłoczonych przestrzeni powietrznych w Stanach Zjednoczonych.
Według „Wall Street Journal” test może ruszyć już dziś, tj. w poniedziałek 21 września nad trzema głównymi lotniskami w rejonie Waszyngtonu. Sprawę opisał Ars Technica.
Doradca, nie kontroler
SMART ma przewidywać przepływy ruchu i wskazywać potencjalne konflikty, biorąc pod uwagę rozkłady lotów, pogodę, przepustowość lotnisk i stan przestrzeni powietrznej. Prognozy i rekomendacje mają trafiać do FAA, linii lotniczych i operatorów, którzy dzięki wspólnemu obrazowi sytuacji łatwiej uzgodnią trasy i godziny odlotów. W praktyce chodzi o mniejsze zużycie paliwa, lepszą punktualność i szybsze wychodzenie z zatorów po burzach.
Z doniesień Politico wynika, że linie lotnicze przez kilka tygodni nie wiedziały, czego się spodziewać. Uspokoiły się dopiero, gdy FAA zapewniło, że system nie zmieni procedur kontrolerów ani przewoźników, a jedynie dostarczy „alternatywne informacje o trasach” w istniejących już systemach agencji.
875 milionów dolarów i jedna niewiadoma
SMART jest częścią kontraktu wartego 875 mln dolarów, rozłożonego na 12 lat. W czerwcu dostała go bostońska firma Air Space Intelligence. Umowa obejmuje też nowy system zarządzania przepływem ruchu, który ma zastąpić obecny w centrum dowodzenia FAA w Wirginii. Waszyngton ma być pierwszym krokiem przed wdrożeniem w całym kraju.
Nie wiadomo jednak, jakiego rodzaju modele stoją za SMART. Ars Technica zwraca uwagę, że klasyczne systemy oparte na regułach zawsze zwracają ten sam wynik, modele uczenia maszynowego przewidują na podstawie prawdopodobieństwa, a generatywne mogą odpowiadać za każdym razem inaczej i się mylić. Redakcja poprosiła FAA o komentarz i w chwili publikacji nie miała odpowiedzi.
Kto odpowie za błąd?
Philip Mann, były pracownik FAA z 17-letnim stażem, a dziś konsultant zajmujący się bezpieczeństwem lotniczym i zarządzaniem AI, uważa, że wdrożenie najpierw w ograniczonym zakresie to dobra decyzja. Będzie jednak obserwował, co ma decydować o kolejnym etapie: wyniki przy prawdziwym obciążeniu i słabszych danych, a nie w warunkach pokazowych. Chce też pisemnej odpowiedzi, kto ponosi odpowiedzialność, gdy prognoza okaże się błędna. Pyta także, czy system nadal będzie ograniczony do lotów powyżej ok. 24 tys. stóp, tak jak opisywało to FAA w czerwcu.
Tło jest wymowne: agencja właśnie zaczęła wymieniać setki radarów z lat 80. i od lat zmaga się z niedoborem kontrolerów. W maju zmniejszyła szacowane zapotrzebowanie na kontrolerów na lata 2026-2028 o ok. 2 tys. osób. SMART na razie tylko podpowiada, ale skoro to pierwszy krok do wdrożenia w skali całego kraju, pytanie o odpowiedzialność za błędną podpowiedź warto zadać, zanim system wyjdzie poza Waszyngton.
Google bawi się w Departament Stanu. Nowe AI dla rządów to cyfrowy dynamit [felieton]
