Thinking Machines Lab milik Mira Murati telah resmi memasuki persaingan dengan Inkling, sebuah model open-weight yang dibangun untuk menantang dominasi raksasa AI terpusat yang bersifat “satu ukuran untuk semua”. Dengan bertaruh pada kemampuan kustomisasi alih-alih kekuatan umum yang mentah, startup ini menyatakan bahwa masa depan AI perusahaan terletak pada kecerdasan khusus yang dioptimalkan secara lokal.

Arsitektur Inkling: Efisiensi Melalui MoE

Inkling adalah sistem Mixture-of-Experts dengan total parameter masif sebesar 975 miliar. Namun, ia hanya mengaktifkan sekitar 41 miliar parameter untuk tugas tunggal apa pun, sehingga mengurangi latensi dan biaya sambil tetap mempertahankan penalaran tingkat tinggi. Model ini belajar dari 45 triliun token teks, gambar, audio, dan video, yang memberinya kemampuan multimodal asli. Perusahaan mengklaim Inkling setara dengan Nemotron 3 Ultra milik Nvidia pada tolok ukur pengodean (coding benchmarks) dengan hanya menggunakan sepertiga dari jumlah token, sebuah tanda nyata dari efisiensi pelatihan.

Pivot Strategis Menuju Kustomisasi Perusahaan

Berbeda dengan produk unggulan dari OpenAI, Anthropic, atau Google, yang berfungsi terutama sebagai chatbot serbaguna, Inkling dipasarkan sebagai fondasi bagi organisasi. Thinking Machines menawarkan model ini sebagai titik awal, mendorong perusahaan untuk melakukan fine-tune menggunakan data milik sendiri melalui platform “Tinker” mereka.

Langkah ini mengatasi jebakan “pembayaran ganda” di industri ini. CEO Microsoft Satya Nadella memperingatkan bahwa perusahaan membayar dua kali—sekali untuk langganan dan sekali lagi dengan memasukkan logika bisnis yang unik ke dalam model yang pada akhirnya justru memperkaya kumpulan data pelatihan penyedia layanan tersebut. Dengan menawarkan model open-weight, Thinking Machines memungkinkan perusahaan untuk menyimpan kecerdasan tersebut secara internal.

Infrastruktur Berisiko Tinggi dan Pengembangan Pesat

Thinking Machines meluncur dengan sangat cepat ke pasar. OpenAI membutuhkan waktu sekitar lima tahun dan Anthropic sekitar tiga tahun; Thinking Machines menyatakan bahwa mereka mencapai pencapaian serupa hanya dalam sembilan bulan.

Untuk mendukung kecepatan tersebut, perusahaan mengandalkan perangkat keras. Setelah kemitraan dengan Nvidia pada bulan Maret, Inkling dilatih sepenuhnya pada sistem GB300 NVL72 milik Nvidia. Perusahaan menggunakan teknik distilasi—memanfaatkan model open-weight seperti Kimi K2.5 milik Moonshot AI untuk tahap awal pasca-pelatihan—tetapi berjanji untuk menjalankan pasca-pelatihan di masa mendatang sepenuhnya secara internal.

Poin-Poin Penting

  • Keunggulan Open-Weight: Pengembang dapat mengunduh dan memodifikasi model MoE dengan 975 miliar parameter, menjaga kendali agar tetap berada di luar ekosistem tertutup.
  • Desain Mengutamakan Efisiensi: Mengaktifkan hanya 41 miliar parameter per tugas dan memangkas penggunaan token memungkinkan model memberikan penalaran tingkat atas dengan sebagian kecil biaya operasional.
  • Taruhan Kustomisasi: Thinking Machines beralih dari chatbot generik ke “Tinker,” sebuah platform yang mengubah model fondasi menjadi aset khusus bagi setiap organisasi.