Mac Studio z M3 Ultra uruchamia model AI DeepSeek R1 lokalnie
YouTuber Dave Lee pokazał, że nowy Mac Studio z procesorem Apple M3 Ultra może lokalnie uruchomić zaawansowany model AI DeepSeek R1 z 671 miliardami parametrów. Wymaga to jednak konfiguracji z maksymalną pamięcią 512 GB.
Lee ujawnił, że model zajmuje 404 GB miejsca i wymaga ręcznego przydzielenia 448 GB pamięci wideo przez Terminal. Dzięki architekturze pamięci zunifikowanej M3 Ultra, Mac Studio przetwarza model w wersji 4-bitowej z prędkością 17–18 tokenów na sekundę.
Imponujące jest zużycie mocy – poniżej 200 W, podczas gdy tradycyjne komputery z wieloma GPU zużyłyby około dziesięć razy więcej. Lokalna obsługa modeli AI poprawia prywatność, co ma znaczenie w analizie danych medycznych.
Cena Mac Studio z M3 Ultra i 512 GB RAM zaczyna się od 10 000 USD, a wersja maksymalna z 16 TB SSD i 32-rdzeniowym CPU kosztuje 14 099 USD. M3 Ultra to najszybszy chip Apple w historii.
Mac Studio (early 2025) z M4 Max i M3 Ultra – co nowego, ceny i pełna specyfikacja techniczna
Krzysztof Kołacz
🎙️ O technologii i nas samych w podcaście oraz newsletterze „Bo czemu nie?”. ☕️ O kawie w podcaście „Kawa. Bo czemu nie?”. 🏃🏻♂️ Po godzinach biegam z wdzięczności za życie.
