IBM heeft de Granite 4.2-familie van large language models uitgebracht, met varianten van 3 miljard, 8 miljard en 30 miljard parameters, een contextvenster van maar liefst 512k tokens en ingebouwd agentisch gebruik van tools, allemaal onder een Apache 2.0-licentie. Deze stap biedt ontwikkelaars een zeldzame open-weight AI van enterprise-kwaliteit die kan redeneren over enorme documenten en autonoom kan handelen zonder afhankelijk te zijn van propriëtaire API's.

Waarom de open-weight-inzet van IBM nu belangrijk is

De permissieve licentie stelt bedrijven in staat om de modellen on-premises, in private clouds of in edge-apparaten te draaien zonder licentiekosten — een duidelijk voordeel voor gereguleerde sectoren die hun gegevens niet aan externe diensten kunnen blootstellen.

De technische sprong

  • Schaal en trainingsdata – IBM heeft de modellen vanaf nul getraind op ongeveer 15 biljoen tokens, een datasetgrootte die vergelijkbaar is met de grootste commerciële fundamenten.
  • Contextvenster – Het venster van 512k tokens zorgt ervoor dat een enkele pass volledige codebases, lange beleidsdocumenten of boeken met meerdere hoofdstukken kan beslaan, waardoor het opdelen (chunking) en opnieuw samenvoegen overbodig wordt.
  • Dual-mode compute – Een "thinking"-modus activeert diepere redeneerlagen, terwijl een "non-thinking"-modus eenvoudige zoekopdrachten afhandelt met een lagere GPU-vraag. Met deze schakelaar kunnen gebruikers een balans vinden tussen latentie en kosten per verzoek.
  • Agentische reinforcement learning – De 8B- en 30B-modellen hebben een gespecialiseerde RL-fase ondergaan die hen leert om externe tools aan te roepen, code in een sandbox uit te voeren en webzoekopdrachten te doen. De modellen bieden tool-calling endpoints in OpenAI-stijl, zodat bestaande orchestratie-pipelines kunnen worden hergebruikt zonder dat er herschreven hoeft te worden.
  • Inference-vriendelijkheid – Compatibiliteit met vLLM en SGLang zorgt ervoor dat de modellen met een hoge doorvoer kunnen draaien op standaardhardware, een praktisch voordeel voor ondernemingen die tientallen gelijktijdige agenten opschalen.

Tussendoor: Granite Speech 5.0 Turbo CTC

Naast de LLM-lijn heeft IBM een speech-to-text-model met 470 miljoen parameters uitgebracht genaamd Granite Speech 5.0 Turbo CTC. IBM beweert dat het drie uur audio transcribeert in één seconde, wat twee keer zo snel is als de huidige koplopers op de Open ASR-leaderboard. De kleine voetafdruk en extreme doorvoer maken het een geschikte kandidaat voor real-time ondertiteling, callcenter-analyse en grootschalige audio-ingestie-pipelines.

Belangen voor het AI-ecosysteem

Wie wint:

  • Ondernemingen profiteren van een kosteneffectief, zelfgehost alternatief voor duur API-gebruik.
  • Ontwikkelaars ontvangen een kant-en-klare agentische stack die kan worden aangepast zonder commerciële licenties te hoeven onderhandelen.
  • IBM bevestigt zijn relevantie in de AI-race door een vlaggenschip aan open-source aanbod te leveren dat zijn onderzoeksvermogen laat zien.

Wie wordt bedreigd:

  • Aanbieders van closed-source modellen die vertrouwen op lock-in via propriëtaire modellen, kunnen een daling in bedrijfsuitgaven zien als klanten overstappen naar lokaal gehoste Granite-agents.
  • Kleinere open-source projecten zouden overschaduwd kunnen worden; de schaal en tooling-ondersteuning van Granite leggen de lat hoog voor community-gedreven inspanningen.

Kosten en afwegingen: Het draaien van een 30B-model met een contextvenster van een half miljoen tokens vereist nog steeds high-end GPU's of clusters; organisaties moeten de hardware-investering afwegen tegen de besparingen door vermeden API-kosten.

De kern

Granite 4.2 brengt een echt enterprise-waardige, open-weight AI naar het publieke domein, waarbij enorme contextvensters worden gecombineerd met direct inzetbare tool-functionaliteit. De Apache 2.0-licentie vermindert juridische frictie, maar de uitdagingen op het gebied van hardware en veiligheid betekenen dat het model zich eerst zal vestigen in goed gefinancierde organisaties die de rekenkracht kunnen betalen en kunnen investeren in robuuste sandboxing. Als de community zich eromheen verzamelt, zou Granite de ruggengraat kunnen worden voor de volgende generatie autonome agenten, waardoor de bredere AI-markt gedwongen wordt om rekening te houden met open-source alternatieven die niet langer concessies doen op schaal of capaciteit.