Niespodziewany sojusz w świecie AI. Framework od Apple będzie działał na sprzęcie Nvidii
Framework do uczenia maszynowego MLX, stworzony przez Apple i zoptymalizowany dla procesorów Apple Silicon, otrzymuje wsparcie dla platformy CUDA firmy Nvidia.
To zaskakujący i znaczący krok, który otwiera narzędzia Apple na dominujący w branży AI sprzęt i może znacznie ułatwić pracę deweloperom oraz badaczom sztucznej inteligencji. Prace nad nowym backendem są już zaawansowane, a kluczowe operacje zostały zaimplementowane i przetestowane.
MLX to framework do uczenia maszynowego (ML) stworzony przez Apple z myślą o własnym ekosystemie – procesorach Apple Silicon i API graficznym Metal. Z kolei CUDA (Compute Unified Device Architecture) to platforma obliczeniowa Nvidii, będąca branżowym standardem do uruchamiania zadań związanych z AI na procesorach graficznych (GPU) tej firmy. Korzystają z niej najpopularniejsze frameworki, takie jak PyTorch i TensorFlow, które są podstawą dla wielu projektów badawczych i komercyjnych w dziedzinie sztucznej inteligencji.
Do tej pory MLX był rozwiązaniem zamkniętym w świecie Apple. Dodanie backendu CUDA fundamentalnie to zmienia. Główną korzyścią jest możliwość stworzenia bardziej spójnego środowiska pracy dla deweloperów. Będą oni mogli teraz prototypować modele AI oparte na CUDA lokalnie na swoich komputerach Mac, używając do tego frameworka MLX, a następnie wdrażać je na wielkoskalowych klastrach GPU Nvidii, które wciąż dominują w zadaniach związanych z trenowaniem AI. Taki przepływ pracy otwiera drzwi do szybszego testowania, eksperymentowania i prowadzenia badań.
Prace nad integracją, prowadzone przez dewelopera o pseudonimie @zcbenz na platformie GitHub, są wciąż w toku. Chociaż wiele podstawowych operacji, takich jak mnożenie macierzy, softmax, sortowanie czy indeksowanie, jest już obsługiwanych, to nie wszystkie operatory MLX zostały jeszcze zaimplementowane. Wsparcie dla procesorów graficznych AMD jest na razie w dalszych planach.
