Anthropic otwiera dostęp do modelu Claude Mythos. Bezpieczeństwo czy groźna gra z ogniem?
Anthropic, twórca serii Claude, wykonuje kolejny krok w stronę udostępnienia swoich najbardziej zaawansowanych możliwości szerokiej publiczności.
Po miesiącach ograniczonego dostępu, zarezerwowanego jedynie dla wybranych partnerów pokroju Apple, firma zapowiada, że modele klasy Mythos trafią do wszystkich klientów w ciągu najbliższych kilku tygodni.
Projekt Glasswing: parasol ochronny dla potężnej AI
Udostępnienie tak zaawansowanej inteligencji wiąże się z ogromnym ryzykiem. Anthropic od początku podkreśla, że modele klasy Mythos wymagają znacznie silniejszych zabezpieczeń cybernetycznych niż dotychczasowe rozwiązania. Dlatego firma mocno stawia na projekt Glasswing – inicjatywę, która ma tworzyć cyfrowe „bezpieczniki” dla AI.
Dzień po ogłoszeniu planów wejścia na giełdę, Anthropic poinformował o rozszerzeniu listy partnerów współpracujących przy Glasswing. Do grona około 200 organizacji dołączyło 150 nowych podmiotów, w tym – według doniesień Financial Times – Samsung oraz NATO.
Inicjatywa obejmuje obecnie ponad 15 krajów, koncentrując się na współpracy z gigantami z branży komunikacyjnej i sprzętowej. Każdy z partnerów musi przejść rygorystyczną weryfikację bezpieczeństwa, zanim otrzyma dostęp do kluczy projektowych.
Mythos wchodzi do gry, ale czy jest bezpieczny?
Modele klasy Mythos budzą emocje nie tylko ze względu na swoje możliwości, ale i na potencjał w wykrywaniu oraz tworzeniu luk w zabezpieczeniach systemowych. Raporty wskazują, że wcześniejsze wersje tego modelu potrafiły w zaledwie pięć dni opracować exploit na system macOS. To właśnie ten potencjał do odkrywania krytycznych podatności sprawił, że Anthropic tak długo trzymał Mythos pod kluczem. Z drugiej jednak strony znane są przypadki, kiedy ten zaawansowany model zawodził z detekcją luk.
Koniec mitu niebezpiecznego AI? Model Mythos poległ na kodzie Curla
Obecnie firma deklaruje „szybki postęp” w pracach nad zabezpieczeniami, które mają uniemożliwić nadużycia po pełnym, publicznym udostępnieniu modelu. Nadchodzące tygodnie będą kluczowym testem dla Anthropic: czy uda im się zrównoważyć niespotykaną dotąd moc obliczeniową Claude Mythos z wymogami bezpieczeństwa, których domaga się branża i rządy? Jeśli im się to uda, rynek AI czeka ogromne przetasowanie, a użytkownicy otrzymają narzędzia, o których do tej pory mogli tylko marzyć.
