IBM meluncurkan keluarga model bahasa besar Granite 4.2, yang menawarkan varian 3 miliar, 8 miliar, dan 30 miliar parameter dengan jendela konteks hingga 512 ribu token dan penggunaan alat berbasis agen (agentic tool use) bawaan, semuanya di bawah lisensi Apache 2.0. Langkah ini memberikan pengembang AI kelas perusahaan dengan bobot terbuka (open-weight) yang langka, yang dapat melakukan penalaran pada dokumen masif dan bertindak secara otonom tanpa bergantung pada API berpemilik.

Mengapa dorongan open-weight IBM penting saat ini

Lisensi yang permisif memungkinkan perusahaan untuk menjalankan model secara on-premises, di cloud privat, atau menanamkannya ke dalam perangkat edge tanpa biaya lisensi—sebuah keuntungan nyata bagi industri yang teregulasi yang tidak dapat mengekspos data ke layanan eksternal.

Loncatan teknis

  • Skala dan data pelatihan – IBM melatih model-model ini dari nol pada sekitar 15 triliun token, ukuran dataset yang sebanding dengan model fondasi komersial terbesar.
  • Jendela konteks – Jendela 512 ribu token memungkinkan satu kali proses (single pass) untuk mencakup seluruh basis kode, dokumen kebijakan yang panjang, atau buku dengan banyak bab, sehingga menghilangkan kebutuhan untuk pemecahan (chunking) dan penyusunan kembali.
  • Komputasi mode ganda – Mode "berpikir" (thinking mode) mengaktifkan lapisan penalaran yang lebih dalam, sementara mode "tidak berpikir" (non-thinking mode) menangani pencarian sederhana dengan permintaan GPU yang lebih rendah. Sakelar ini memungkinkan pengguna menyeimbangkan latensi dan biaya per permintaan.
  • Reinforcement learning berbasis agen – Model 8 B dan 30 B menjalani fase RL khusus yang mengajarkan mereka untuk memanggil alat eksternal, menjalankan kode dalam sandbox, dan melakukan pencarian web. Model-model ini menyediakan endpoint pemanggilan alat (tool-calling) ala OpenAI, sehingga alur kerja (pipeline) orkestrasi yang ada dapat digunakan kembali tanpa perlu menulis ulang kode.
  • Kemudahan inferensi – Kompatibilitas dengan vLLM dan SGLang memungkinkan model berjalan dengan throughput tinggi pada perangkat keras komoditas, sebuah manfaat praktis bagi perusahaan yang menskalakan puluhan agen secara bersamaan.

Selingan bicara: Granite Speech 5.0 Turbo CTC

Bersamaan dengan lini LLM, IBM merilis model speech-to-text dengan 470 juta parameter yang dijuluki Granite Speech 5.0 Turbo CTC. IBM menyatakan bahwa model ini dapat mentranskripsi tiga jam audio dalam satu detik, dua kali lebih cepat dari pemimpin sebelumnya di papan peringkat Open ASR. Jejak (footprint) yang kecil dan throughput yang ekstrem menjadikannya kandidat untuk pembuatan takarir (captioning) waktu nyata, analitik pusat panggilan, dan alur kerja penyerapan audio skala besar.

Taruhan bagi ekosistem AI

Siapa yang menang:

  • Perusahaan mendapatkan alternatif mandiri (self-hosted) yang hemat biaya dibandingkan penggunaan API yang mahal.
  • Pengembang menerima tumpukan (stack) agen siap pakai yang dapat disesuaikan tanpa perlu menegosiasikan lisensi komersial.
  • IBM menegaskan kembali relevansinya dalam persaingan AI dengan menyediakan penawaran sumber terbuka unggulan yang menunjukkan kemampuan risetnya.

Siapa yang terancam:

  • Penyedia sumber tertutup yang mengandalkan penguncian (lock-in) melalui model berpemilik mungkin akan melihat penurunan pengeluaran perusahaan jika pelanggan bermigrasi ke agen Granite yang dihosting secara lokal.
  • Proyek sumber terbuka yang lebih kecil bisa saja terbayangi; skala dan dukungan alat Granite menetapkan standar yang tinggi bagi upaya berbasis komunitas.

Biaya dan pertukaran (trade-offs): Menjalankan model 30 B dengan konteks setengah juta token tetap membutuhkan GPU atau klaster kelas atas; organisasi harus menimbang investasi perangkat keras dengan penghematan dari biaya API yang dihindari.

Intinya

Granite 4.2 menghadirkan AI open-weight kelas perusahaan yang sesungguhnya ke ranah publik, menggabungkan jendela konteks masif dengan penggunaan alat siap pakai. Lisensi Apache 2.0 miliknya menghilangkan hambatan hukum, namun tantangan perangkat keras dan keamanan berarti model ini pertama-tama akan menemukan tempat di organisasi dengan sumber daya memadai yang mampu membeli komputasi dan berinvestasi dalam sandboxing yang kuat. Jika komunitas mendukungnya, Granite dapat menjadi tulang punggung bagi generasi agen otonom berikutnya, memaksa pasar AI yang lebih luas untuk menghadapi alternatif sumber terbuka yang tidak lagi berkompromi dalam hal skala atau kemampuan.