Arm udostępnia startupom swoją platformę AI. Chce przyspieszyć rewolucję „na krawędzi”
Firma Arm, której architektura procesorów dominuje na rynku mobilnym, ogłosiła udostępnienie swojej najpotężniejszej platformy do obliczeń AI na urządzeniu, Armv9, startupom w ramach programu Flexible Access.
Ruch ten ma na celu obniżenie bariery wejścia i przyspieszenie innowacji w dziedzinie „edge AI”, czyli sztucznej inteligencji przetwarzanej lokalnie, bez konieczności łączenia się z chmurą.
Program Flexible Access działa na zasadzie „wypróbuj, zanim kupisz”. Daje on projektantom chipów – w tym małym, innowacyjnym startupom – tani lub nawet darmowy dostęp do szerokiej gamy technologii, narzędzi i zasobów firmy Arm. Firmy mogą swobodnie eksperymentować i projektować nowe układy, a opłaty licencyjne ponoszą dopiero wtedy, gdy zdecydują się na wykorzystanie danej technologii w finalnym produkcie. Z tego modelu korzystają już m.in. takie firmy jak Raspberry Pi czy Hailo.
Udostępniona w programie platforma Armv9 łączy wydajny procesor Cortex-A320 z wyspecjalizowanym układem NPU (Neural Processing Unit) Ethos-U85, który przejmuje ciężkie obliczenia związane z AI. Taki duet jest w stanie uruchamiać modele sztucznej inteligencji o wielkości ponad miliarda parametrów bezpośrednio na urządzeniu końcowym.
To kluczowa zmiana w stosunku do modeli AI działających w chmurze. Przetwarzanie „na krawędzi” (at the edge) oznacza, że np. inteligentne kamery mogą rozumieć obraz bez wysyłania wideo na serwer, a domowe gadżety mogą uczyć się nawyków użytkownika, zachowując pełną prywatność. Eliminuje to opóźnienia i znacząco podnosi bezpieczeństwo, ponieważ wrażliwe dane nie opuszczają urządzenia.
Platforma Armv9 zawiera również wbudowane funkcje bezpieczeństwa, takie jak PAC (Pointer Authentication Code) i MTE (Memory Tagging Extension). Mówiąc najprościej, są to sprzętowe zabezpieczenia chroniące pamięć urządzenia. Zapobiegają one zaawansowanym atakom polegającym na przejęciu kontroli nad działaniem aplikacji lub kradzieży danych z pamięci (np. ataki typu buffer overflow).
Przedstawiciele Arm podkreślają, że następna fala innowacji AI wydarzy się właśnie na krawędzi – w urządzeniach, które mają bezpośredni kontakt z danymi i nie muszą (bądź nie powinny) łączyć się z chmurą. Analitycy z VDC Research przewidują, że do 2028 roku AI stanie się dominującą technologią we wszystkich projektach Internetu Rzeczy (IoT). Posunięcie Arm ma na celu ugruntowanie pozycji firmy w centrum tej transformacji.
Im więcej naukowcy pracują z AI, tym mniej jej ufają. Alarmujący raport Wiley