Gigantyczna platforma AI pod ochroną Cisco. ClamAV przeskanuje miliony modeli
Cisco i Hugging Face, największe na świecie repozytorium modeli sztucznej inteligencji, ogłosiły strategiczną współpracę.
Celem jest wzmocnienie bezpieczeństwa całego ekosystemu AI. W ramach partnerstwa wszystkie pliki trafiające na platformę Hugging Face będą skanowane za pomocą rozbudowanego silnika antywirusowego ClamAV od Cisco.
Problem bezpieczeństwa w świecie AI narasta wraz z popularnością otwartych platform takich jak Hugging Face, na którą co siedem sekund trafia nowy model, a ich łączna liczba zbliża się do dwóch milionów. Jak wskazują badania Cisco, zagrożenia mogą kryć się na każdym etapie – od zainfekowanych zbiorów danych, przez podatne na ataki biblioteki, aż po pliki modeli zawierające złośliwy kod. Skala zjawiska sprawia, że niezbędna jest współpraca całej branży w celu ochrony łańcucha dostaw AI.
Sztuczna inteligencja to miecz obosieczny dla naszej cyfrowej tożsamości. Nowy raport Cisco
Odpowiedzią na te wyzwania ma być integracja zaktualizowanego silnika ClamAV z platformą Hugging Face. Narzędzie, rozwijane przez Cisco Talos, zostało wzbogacone o mechanizmy dedykowane wykrywaniu zagrożeń specyficznych dla modeli AI. Jak podkreśla Julien Chaumond, CTO Hugging Face, jego firma od lat korzystała z ClamAV, ale nowa wersja pozwala na ochronę zarówno przed tradycyjnym złośliwym oprogramowaniem, jak i nowymi wektorami ataków w jednym narzędziu.
Nowa wersja ClamAV 1.5 potrafi w milisekundy identyfikować ryzyka związane m.in. z deserializacją w popularnych formatach modeli, takich jak .pt czy .pkl. Jest to obecnie jedyny silnik antywirusowy w popularnej usłudze VirusTotal, który koncentruje się na wykrywaniu złośliwego oprogramowania w plikach modeli AI. Rozwiązanie to uzupełnia działający już wcześniej system Cerberus od Cisco, który na bieżąco monitoruje zasoby Hugging Face.
Nowe możliwości ochrony są już dostępne nie tylko na samej platformie, ale zostały także zintegrowane z produktami bezpieczeństwa Cisco, takimi jak Secure Access, Secure Firewall czy Secure Endpoint. Dzięki temu firmy korzystające z rozwiązań Cisco mogą m.in. kontrolować dostęp swoich pracowników do repozytoriów Hugging Face, blokować podejrzane modele czy egzekwować firmowe polityki bezpieczeństwa.
Zostań instruktorem Cisco. Darmowe szkolenia dla nauczycieli otworzą uczniom drzwi do kariery w IT
