IBM випустила сімейство великих мовних моделей Granite 4.2, пропонуючи варіанти на 3, 8 та 30 мільярдів параметрів із контекстним вікном до 512 тисяч токенів та вбудованою можливістю агентського використання інструментів — і все це під ліцензією Apache 2.0. Цей крок надає розробникам рідкісну можливість отримати ШІ корпоративного рівня з відкритими вагами, який може міркувати над величезними документами та діяти автономно, не покладаючись на пропрієтарні API.

Чому стратегія IBM щодо відкритих ваг є важливою саме зараз

Дозволяюча ліцензія дозволяє компаніям запускати моделі локально (on-premises), у приватних хмарах або вбудовувати їх у периферійні пристрої без ліцензійних відрахувань — це очевидна перевага для регульованих галузей, які не можуть передавати дані зовнішнім сервісам.

Технологічний стрибок

  • Масштаб і дані для навчання – IBM навчала моделі з нуля на приблизно 15 трильйонах токенів, що за обсягом набору даних порівнянно з найбільшими комерційними базовими моделями.
  • Контекстне вікно – вікно у 512 тисяч токенів дозволяє за один прохід охоплювати цілі бази коду, довгі нормативні документи або багатоглавкові книги, усуваючи потребу в чанкуванні та повторній збірці.
  • Дворежимні обчислення – режим «thinking» (міркування) задіює глибші рівні логічного виводу, тоді як режим «non-thinking» обробляє прості запити з меншим навантаженням на GPU. Цей перемикач дозволяє користувачам балансувати між затримкою та вартістю одного запиту.
  • Агентське навчання з підкріпленням – моделі на 8 млрд і 30 млрд параметрів пройшли спеціалізований етап RL, який навчає їх викликати зовнішні інструменти, запускати код у пісочницях та виконувати пошук у вебі. Моделі надають ендпоінти для виклику інструментів у стилі OpenAI, тому існуючі конвеєри оркестрації можна використовувати повторно без переписування коду.
  • Зручність для інференсу – сумісність із vLLM та SGLang дозволяє моделям працювати з високою пропускною здатністю на стандартному обладнанні, що є практичною перевагою для підприємств, які масштабують десятки одночасних агентів.

Побічна тема: Granite Speech 5.0 Turbo CTC

Разом із лінійкою LLM IBM випустила модель перетворення мовлення в текст на 470 мільйонів параметрів під назвою Granite Speech 5.0 Turbo CTC. За словами IBM, вона транскрибує три години аудіо за одну секунду, що вдвічі швидше за попередніх лідерів у рейтингу Open ASR. Мала потреба в ресурсах та надзвичайна пропускна здатність роблять її кандидатом для субтитрування в реальному часі, аналітики кол-центрів та масштабних конвеєрів обробки аудіо.

Ставки для екосистеми ШІ

Хто виграє:

  • Підприємства отримують економічно вигідну альтернативу дорогому використанню API з можливістю самостійного хостингу.
  • Розробники отримують готовий агентський стек, який можна налаштовувати без узгодження комерційних ліцензій.
  • IBM знову підтверджує свою актуальність у гонці ШІ, надаючи флагманський продукт із відкритим вихідним кодом, що демонструє її дослідницькі можливості.

Хто під загрозою:

  • Постачальники закритих моделей, які покладаються на прив'язку клієнтів (lock-in) через пропрієтарні рішення, можуть побачити зниження витрат корпоративного сектору, якщо клієнти перейдуть на локально розміщених агентів Granite.
  • Менші open-source проєкти можуть опинитися в тіні; масштаб Granite та підтримка інструментарію встановлюють високу планку для зусиль спільноти.

Витрати та компроміси: Запуск моделі на 30 млрд параметрів із контекстом у пів мільйона токенів все одно потребує високопродуктивних GPU або кластерів; організаціям доведеться зважити інвестиції в обладнання порівняно з економією на відсутності зборів за API.

Підсумок

Granite 4.2 виводить справді корпоративний ШІ з відкритими вагами у публічний доступ, поєднуючи величезні контекстні вікна з готовим використанням інструментів. Ліцензія Apache 2.0 усуває юридичні перепони, проте виклики, пов'язані з обладнанням і безпекою, означають, що спочатку модель знайде застосування в організаціях із великими ресурсами, які можуть дозволити собі обчислювальні потужності та інвестиції в надійні пісочниці. Якщо спільнота підтримає її, Granite може стати основою для наступного покоління автономних агентів, змусивши ширший ринок ШІ рахуватися з open-source альтернативами, які більше не йдуть на компроміси щодо масштабу чи можливостей.