Лабораторія Thinking Machines Міри Мураті офіційно вступила в гру з Inkling — моделлю з відкритими вагами, створеною, щоб кинути виклик домінуванню централізованих ШІ-гігантів за принципом «один розмір підходить усім». Ставлячи ставку на можливість налаштування замість чистої універсальної потужності, стартап стверджує, що майбутнє корпоративного ШІ полягає у спеціалізованому, локально оптимізованому інтелекті.

Архітектура Inkling: ефективність завдяки MoE

Inkling — це система Mixture-of-Experts із величезною загальною кількістю параметрів — 975 мільярдів. Проте для будь-якого окремого завдання вона активує лише близько 41 мільярда параметрів, що зменшує затримку та витрати, зберігаючи при цьому високий рівень міркування. Модель навчалася на 45 трильйонах токенів тексту, зображень, аудіо та відео, що забезпечило їй нативні мультимодальні можливості. Компанія стверджує, що Inkling не поступається Nemotron 3 Ultra від Nvidia у тестах на програмування, використовуючи при цьому лише третину токенів, що є чіткою ознакою ефективності навчання.

Стратегічний поворот до корпоративного налаштування

На відміну від флагманських продуктів OpenAI, Anthropic або Google, які функціонують переважно як чат-боти загального призначення, Inkling позиціонується як фундамент для організацій. Thinking Machines пропонує модель як відправну точку, закликаючи підприємства налаштовувати її за допомогою власних даних через свою платформу «Tinker».

Цей крок дозволяє уникнути пастки «подвійної оплати», що існує в індустрії. Генеральний директор Microsoft Сатья Наделла попереджав, що компанії платять двічі: спочатку за підписку, а потім — заповнюючи модель унікальною бізнес-логікою, яка зрештою збагачує навчальний набір даних провайдера. Пропонуючи модель із відкритими вагами, Thinking Machines дозволяє фірмам зберігати цей інтелект всередині компанії.

Високотехнологічна інфраструктура та швидка розробка

Thinking Machines продемонструвала надзвичайну швидкість виходу на ринок. OpenAI знадобилося приблизно п'ять років, а Anthropic — близько трьох; Thinking Machines заявляє, що досягла порівняного етапу всього за дев'ять місяців.

Щоб забезпечити таку швидкість, компанія зробила ставку на апаратне забезпечення. Після партнерства з Nvidia у березні, навчання Inkling проходило повністю на системах Nvidia GB300 NVL72. Компанія використовувала методи дистиляції — залучаючи моделі з відкритими вагами, такі як Kimi K2.5 від Moonshot AI, для раннього етапу донавчання, — але обіцяє, що майбутнє донавчання проводитиме виключно власними силами.

Основні висновки

  • Перевага відкритих ваг: Розробники можуть завантажувати та модифікувати MoE-модель із 975 мільярдами параметрів, не віддаючи контроль закритим екосистемам.
  • Дизайн з акцентом на ефективність: Активація лише 41 мільярда параметрів на завдання та скорочення використання токенів дозволяють моделі забезпечувати міркування найвищого рівня за частку операційних витрат.
  • Ставка на кастомізацію: Thinking Machines переходить від загальних чат-ботів до «Tinker» — платформи, яка перетворює базові моделі на спеціалізовані активи для кожної організації.