Ландшафт інфраструктури ШІ зазнає фундаментального розвороту, оскільки капітал переміщується від навчання моделей до їхнього виконання. Величезний кредит у розмірі 400 мільйонів доларів від технологічної інвестиційної фірми Upper90 стартапу з ШІ-інференсу General Compute знаменує собою історичну віху в тому, як фінансується та розгортається обладнання.
Нова ера застави: фінансування чипів для інференсу
Кроком, що повторює ранні дні фінансування GPU, Upper90 виходить на новий клас активів: кремній, спеціально розроблений для інференсу. У той час як попередня хвиля фінансування — започаткована такими фірмами, як CoreWeave — зосереджувалася на GPU Nvidia, що використовуються для масштабних робочих навантажень під час навчання, ця угода на 400 мільйонів доларів використовує як заставу чипи, створені спеціально для запуску вже навчених моделей.
General Compute під керівництвом генерального директора Finn Puklowski будує «неох라우д» (neocloud) — спеціалізованого постачальника інфраструктури, розробленого саме для робочих навантажень ШІ, а не для обчислень загального призначення. Ця відмінність є критично важливою; тоді як традиційні гіперскейлери, такі як AWS та Azure, пропонують широкий спектр послуг, неох라우ди оптимізують роботу під унікальні вимоги до затримки (latency) та пропускної здатності великих мовних моделей (LLM).
Технічна перевага SambaNova SN50
В основі стратегії General Compute лежить партнерство