IBM melancarkan keluarga model bahasa besar Granite 4.2, menawarkan varian 3 bilion, 8 bilion, dan 30 bilion parameter dengan tetingkap konteks sehingga 512 k-token dan penggunaan alat agentic terbina dalam, semuanya di bawah lesen Apache 2.0. Langkah ini memberikan pembangun AI gred perusahaan dengan pemberat terbuka (open-weight) yang jarang ditemui, yang mampu menaakul merentasi dokumen yang besar dan bertindak secara autonomi tanpa bergantung kepada API proprietari.

Mengapa Inisiatif Open-Weight IBM Penting Sekarang

Lesen yang permisif membolehkan syarikat menjalankan model tersebut di premis, dalam awan peribadi, atau menyematkannya dalam peranti pinggir (edge devices) tanpa yuran pelesenan—satu kelebihan jelas bagi industri terkawal yang tidak boleh mendedahkan data kepada perkhidmatan luaran.

Lonjakan teknikal

  • Skala dan data latihan – IBM melatih model tersebut dari awal menggunakan kira-kira 15 trilion token, saiz set data yang setanding dengan model asas komersial terbesar.
  • Tetingkap konteks – Tetingkap 512 k-token membolehkan satu laluan (pass) merangkumi keseluruhan pangkalan kod, dokumen polisi yang panjang, atau buku berbilang bab, sekali gus menghapuskan keperluan untuk pemecahan (chunking) dan penyusunan semula.
  • Pengkomputeran mod dwi – Mod "berfikir" (thinking mode) mengaktifkan lapisan penaakulan yang lebih mendalam, manakala mod "tidak berfikir" (non-thinking mode) mengendalikan carian ringkas dengan permintaan GPU yang lebih rendah. Suis ini membolehkan pengguna mengimbangi kependaman (latency) dan kos bagi setiap permintaan.
  • Pembelajaran pengukuhan agentic – Model 8 B dan 30 B menjalani fasa RL khusus yang mengajar mereka untuk memanggil alat luaran, menjalankan kod dalam persekitaran sandbox, dan melakukan carian web. Model ini mendedahkan titik akhir (endpoints) pemanggilan alat gaya OpenAI, supaya saluran paip orkestrasi sedia ada boleh digunakan semula tanpa perlu penulisan semula.
  • Kemudahan inferens – Keserasian dengan vLLM dan SGLang membolehkan model berjalan dengan daya pemprosesan (throughput) tinggi pada perkakasan komoditi, satu manfaat praktikal bagi perusahaan yang menskalakan berpuluh-puluh ejen secara serentak.

Sisipan pertuturan: Granite Speech 5.0 Turbo CTC

Selain barisan LLM, IBM turut mengeluarkan model pertuturan-ke-teks 470 juta parameter yang dinamakan Granite Speech 5.0 Turbo CTC. IBM menyatakan bahawa ia mampu mentranskripsi tiga jam audio dalam masa satu saat, dua kali ganda kelajuan peneraju sebelumnya pada papan pendahulu Open ASR. Jejak (footprint) yang kecil dan daya pemprosesan yang ekstrem menjadikannya calon sesuai untuk sari kata masa nyata, analitik pusat panggilan, dan saluran paip pengambilan audio berskala besar.

Pertaruhan bagi ekosistem AI

Siapa yang menang:

  • Perusahaan mendapat alternatif hos-sendiri yang kos efektif berbanding penggunaan API yang mahal.
  • Pembangun menerima timbunan (stack) agentic sedia ada yang boleh disesuaikan tanpa perlu merundingkan lesen komersial.
  • IBM menegaskan semula kepentingannya dalam perlumbaan AI dengan membekalkan tawaran sumber terbuka utama yang mempamerkan keupayaan penyelidikannya.

Siapa yang terancam:

  • Penyedia sumber tertutup yang bergantung kepada penguncian (lock-in) melalui model proprietari mungkin akan melihat penurunan dalam perbelanjaan perusahaan jika pelanggan beralih kepada ejen Granite yang dihoskan secara tempatan.
  • Projek sumber terbuka yang lebih kecil mungkin akan dibayangi; skala dan sokongan alat Granite menetapkan penanda aras yang tinggi bagi usaha pacuan komuniti.

Kos dan pertukaran: Menjalankan model 30 B dengan konteks setengah juta token masih memerlukan GPU atau kluster kelas atasan; organisasi mesti menimbang pelaburan perkakasan berbanding penjimatan daripada mengelakkan yuran API.

Kesimpulan

Granite 4.2 membawa AI gred perusahaan dengan pemberat terbuka yang sebenar ke domain awam, menggabungkan tetingkap konteks yang besar dengan penggunaan alat sedia ada. Lesen Apache 2.0 miliknya menghapuskan geseran undang-undang, tetapi cabaran perkakasan dan keselamatan bermakna model ini pada mulanya akan menemui tempat di organisasi yang mempunyai sumber mencukupi yang mampu menanggung kos pengkomputeran dan melabur dalam persekitaran sandbox yang teguh. Jika komuniti memberikan sokongan padu kepadanya, Granite boleh menjadi tulang belakang bagi generasi ejen autonomi seterusnya, memaksa pasaran AI yang lebih luas untuk menangani alternatif sumber terbuka yang tidak lagi berkompromi dari segi skala atau keupayaan.