CES 2025: NVIDIA Project Digits, nie tylko RTX 5000, oto pierwszy osobisty superkomputer AI w rozmiarze Maca Mini
Jensen Huang prezentując na targach CES 2025 nowości firmy, którą od lat kieruje zaprezentował nie tylko całą serię nowych kart graficznych z GPU z serii RTX 5000 (kodowa nazwa Blackwell). Szczerze pisząc, mnie bardziej zainteresowała inna zapowiedź: NVIDIA Project Digits.
NVIDIA Digits ma zadebiutować na rynku w połowie 2025 roku. Będzie to maszyna o gabarytach odpowiadających doskonale znanej nam maszynie, jaką jest Mac Mini od Apple. Niewielki, zgrabny komputerek, ale nie będzie to zwykła maszyna.
Wedle zapowiedzi Huanga Digits ma być pierwszym, osobistym superkomputerem do sztucznej inteligencji. Potencjał obliczeniowy tego sprzętu ma wystarczyć do lokalnego, czyli nie wymagającego absolutnie jakichkolwiek połączeń ze światem, uruchomienia dużych modeli LLM o ok. 200 miliardach parametrów.
Sercem obliczeniowym NVIDIA Digits jest nowy superchip GB10 Grace Blackwell, oferujący moc przetwarzania wystarczającą do lokalnego uruchamiania i pracy z dużymi modelami AI. Jednocześnie proszę zwrócić uwagę, że cały czas mówimy o niewielkim, bardzo kompaktowym urządzeniu zasilanym ze zwykłego gniazdka (spójrzcie tylko na zdjęcia). Jakiegokolwiek powszechnie znane duże modele AI wymagają znacznie większego zasilania i są napędzane wręcz przez całe centra danych, a nie jakąkolwiek stację roboczą.
Oprócz wspomnianego bardzo mocnego układu obliczeniowego NVIDII superkomputer Digits ma być wyposażony w 128 GB pamięci RAM i do 4 TB pamięci masowej NVMe. Co ciekawe, te superkomputery będzie można ze sobą łączyć, tworząc na przykład system składający się z dwóch maszyn NVIDIA Digits, zdolny do uruchomienia modelu AI o 405 miliardach parametrów.
Ta liczba podana przez przedstawiciela NVIDII, 405 miliardów parametrów, nie wydaje mi się przypadkowa, tyle bowiem ma na przykład najbardziej rozbudowany wariant otwartego modelu Llama 3 405B opracowanego przez Meta. Na sprzęcie NVIDII da się też uruchomić GPT-3 (!), tak, lokalnie, czy opracowany przez Google’a model PaLM. Szacowana przez NVIDII moc obliczeniowa AI jest rzędu 1 petaflopa (1 biliarda obliczeń AI na sekundę).
I żeby mieć jakiś punkt odniesienia. Na takim superkomputerze nie da się lokalnie uruchomić topowych dziś modeli takich jak Gemini Flash 2.0 Experimental, GPT-4o, nie da się przenieść na jedną maszynę całego silnika Microsoft Copilot, to nie ta skala. Jednak z drugiej strony nigdy dotąd na biurku nie dało się zmieścić tak wydajnej maszyny do tworzenia AI. Cena? Huang sugeruje że pojedyncza maszyna NVIDIA Project Digits ma kosztować 3000 dolarów. W sumie… taniej niż Apple Vision Pro.
