IBM wypuszcza modele Granite 4.2. Lokalne AI zyskuje zaawansowane wnioskowanie i uderza w drogie chmury
Rosnące koszty API u gigantów pokroju OpenAI czy Anthropic oraz obawy o prywatność danych napędzają renesans modeli uruchamianych bezpośrednio na własnym sprzęcie. Takim jak np. nowe Mac mini czy Mac Studio.
IBM odpowiada na ten trend nową generacją otwartoźródłowych modeli Granite 4.2. Nowe jednostki stawiają na samodzielne wnioskowanie logiczne, obsługę narzędzi systemowych i pełną przewidywalność kosztową bez płacenia za każdy wygenerowany token.
Nowa rodzina modeli od IBM debiutuje w architekturze open-weight, co oznacza możliwość ich swobodnego pobrania i wdrożenia na własnej infrastrukturze – od lokalnych komputerów deweloperskich (np. na Macach za pośrednictwem narzędzia Ollama), po firmowe serwery.
Nowy Mac mini z układami M6 i M5 Pro. Skok w stronę lokalnego AI i wyższa cena startowa
Trzy rozmiary i 128 tysięcy tokenów kontekstu
Seria Granite 4.2 została przygotowana w architekturze decoder-only i trafia na rynek w trzech wariantach wielkościowych, dopasowanych do różnych scenariuszy sprzętowych:
- Granite 4.2 3B: lekki model zaprojektowany z myślą o urządzeniach o ograniczonych zasobach pamięci i prostych zadaniach klasyfikacyjnych.
- Granite 4.2 8B: optymalny kompromis między wydajnością a zapotrzebowaniem na VRAM, idealny do uruchamiania na pojedynczych stacjach roboczych i laptopach.
- Granite 4.2 30B: najbardziej zaawansowany wariant przeznaczony do wymagających zadań analitycznych w środowiskach serwerowych.
Wszystkie trzy wersje oferują natywne okno kontekstu o wielkości 128 000 tokenów, co pozwala na jednoczesną analizę obszernych dokumentacji technicznych, baz wiedzy czy całych repozytoriów kodu.
Wnioskowanie wielokrokowe i integracja z terminalem
Kluczowym wyróżnikiem wersji 4.2 jest nacisk na tzw. reasoning, czyli funkcjonalne prowadzenie łańcucha myśli (chain-of-thought). Zamiast zgadywać bezpośrednią odpowiedź, model rozbija złożony problem na etapy pośrednie, co drastycznie redukuje halucynacje w zadaniach matematycznych i logicznych.
Dodatkowo warianty 8B oraz 30B przeszły dedykowany proces uczenia przez wzmacnianie (RL) ukierunkowany na zadania autonomicznych agentów. Modele potrafią:
- wchodzić w bezpośrednią interakcję z terminalem systemowym,
- wykonywać zapytania sieciowe i przeszukiwać bazy danych,
- dynamicznie wywoływać zewnętrzne narzędzia i funkcje API.
Ucieczka przed kosztami zewnętrznych platform AI
Premiera IBM wpisuje się w wyraźny zwrot rynkowy. Coraz więcej organizacji wdraża tzw. routery modeli (model routers), które kierują codzienne, powtarzalne operacje do mniejszych, darmowych modeli lokalnych, a kosztowne zapytania chmurowe rezerwują wyłącznie dla najbardziej złożonych procesów.
Dla deweloperów i administratorów Granite 4.2 to narzędzie dające pełną kontrolę nad danymi i stabilność działania, bez ryzyka nagłych zmian cenników czy ograniczeń nakładanych przez zewnętrznych dostawców chmury.
