IBM wprowadziło rodzinę dużych modeli językowych Granite 4.2, oferując warianty o liczbie parametrów wynoszącej 3 miliardy, 8 miliardów i 30 miliardów, z oknem kontekstowym do 512 tys. tokenów oraz wbudowaną funkcją agentowego używania narzędzi, a wszystko to na licencji Apache 2.0. Ten krok daje programistom rzadką możliwość korzystania z AI klasy korporacyjnej o otwartych wagach, która potrafi wnioskować na podstawie ogromnych dokumentów i działać autonomicznie, nie polegając na zastrzeżonych interfejsach API.

Dlaczego obecne działania IBM na rzecz modeli o otwartych wagach mają znaczenie

Liberalna licencja pozwala firmom uruchamiać modele lokalnie (on-premises), w chmurach prywatnych lub osadzać je w urządzeniach brzegowych (edge) bez opłat licencyjnych – co stanowi wyraźną przewagę dla branż regulowanych, które nie mogą udostępniać danych zewnętrznym usługom.

Skok technologiczny

  • Skala i dane treningowe – IBM wytrenował modele od zera na około 15 bilionach tokenów, co jest rozmiarem zbioru danych porównywalnym z największymi komercyjnymi modelami fundamentowymi.
  • Okno kontekstowe – okno o wielkości 512 tys. tokenów pozwala na objęcie pojedynczym przebiegiem całych baz kodu, długich dokumentów polityki czy wielokapitułowych książek, eliminując potrzebę dzielenia tekstu na fragmenty (chunking) i ponownego składania.
  • Obliczenia w dwóch trybach – tryb „myślenia” (thinking) angażuje głębsze warstwy rozumowania, podczas gdy tryb „nie-myślenia” (non-thinking) obsługuje proste zapytania przy niższym zapotrzebowaniu na GPU. Ten przełącznik pozwala użytkownikom balansować między opóźnieniem a kosztem pojedynczego zapytania.
  • Agentowe uczenie ze wzmocnieniem – modele 8 B i 30 B przeszły specjalistyczną fazę RL, która uczy je wywoływania zewnętrznych narzędzi, uruchamiania kodu w piaskownicy (sandbox) i wykonywania wyszukiwania w sieci. Modele udostępniają punkty końcowe (endpoints) do wywoływania narzędzi w stylu OpenAI, dzięki czemu istniejące potoki orkiestracji można wykorzystać ponownie bez konieczności przepisywania kodu.
  • Przyjazność dla wnioskowania (inference) – kompatybilność z vLLM i SGLang pozwala modelom pracować z wysoką przepustowością na standardowym sprzęcie (commodity hardware), co jest praktyczną korzyścią dla przedsiębiorstw skalujących dziesiątki działających jednocześnie agentów.

Wątek poboczny: Granite Speech 5.0 Turbo CTC

Równolegle z linią LLM, IBM wydał model speech-to-text o parametrach 470 milionów, nazwany Granite Speech 5.0 Turbo CTC. IBM twierdzi, że model transkrybuje trzy godziny dźwięku w jedną sekundę, co jest dwukrotnie szybszym wynikiem niż u dotychczasowych liderów w rankingu Open ASR. Niewielkie wymagania sprzętowe i ekstremalna przepustowość czynią go idealnym kandydatem do napisów w czasie rzeczywistym, analityki centrów obsługi klienta oraz wielkoskalowych potoków przetwarzania dźwięku.

Stawka dla ekosystemu AI

Kto zyskuje:

  • Przedsiębiorstwa zyskują kosztową alternatywę dla drogiego korzystania z API, którą można hostować samodzielnie.
  • Programiści otrzymują gotowy stos agentowy, który można dostosować bez konieczności negocjowania licencji komercyjnych.
  • IBM potwierdza swoją istotność w wyścigu AI, dostarczając flagową ofertę open-source, która demonstruje jego możliwości badawcze.

Kto jest zagrożony:

  • Dostawcy rozwiązań zamkniętych (closed-source), którzy polegają na uzależnieniu klienta (lock-in) poprzez zastrzeżone modele, mogą odnotować spadek wydatków korporacyjnych, jeśli klienci przejdą na lokalnie hostowane agenty Granite.
  • Mniejsze projekty open-source mogą zostać przyćmione; skala i wsparcie narzędziowe Granite stawiają wysoką poprzeczkę dla wysiłków społecznościowych.

Koszty i kompromisy: Uruchamianie modelu 30 B z oknem kontekstowym wynoszącym pół miliona tokenów wciąż wymaga wysokiej klasy procesorów GPU lub klastrów; organizacje muszą rozważyć inwestycję w sprzęt w stosunku do oszczędności wynikających z uniknięcia opłat za API.

Podsumowanie

Granite 4.2 wprowadza prawdziwie korporacyjną, AI o otwartych wagach do domeny publicznej, łącząc ogromne okna kontekstowe z gotowością do używania narzędzi. Licencja Apache 2.0 eliminuje bariery prawne, ale wyzwania związane ze sprzętem i bezpieczeństwem oznaczają, że model najpierw znajdzie zastosowanie w dobrze wyposażonych organizacjach, które mogą pozwolić sobie na moc obliczeniową i inwestycje w solidne piaskownice (sandboxing). Jeśli społeczność go zaakceptuje, Granite może stać się fundamentem dla następnej generacji autonomicznych agentów, zmuszając szerszy rynek AI do zmierzenia się z alternatywami open-source, które nie ustępują już pod względem skali czy możliwości.