Деміс Хассабіс закликає до створення глобального наглядового органу в галузі ШІ під проводом США для управління ризиками

Генеральний директор Google DeepMind Деміс Хассабіс виступає за створення потужного міжнародного регуляторного органу, здатного зупинити впровадження небезпечних передових моделей ШІ. Оскільки гонка за створенням загального штучного інтелекту (AGI) прискорюється, Хассабіс стверджує, що стандартизована глобальна структура є необхідною для запобігання катастрофічним наслідкам.

Регуляторна модель на основі фінансового нагляду

У своїй нещодавній пропозиції «A Framework for Frontier AI and the Dawning of a New Age» Хассабіс пропонує регуляторну структуру, подібну до Служби регулювання фінансової індустрії (FINRA). Цей запропонований наглядовий орган не буде просто консультативною радою; він складатиметься з незалежних експертів та представників спільноти open-source, які матимуть чіткі повноваження оцінювати передові моделі перед їх випуском.

Що важливо, організація матиме повноваження координувати галузеве «сповільнення», якщо конкретна модель буде визнана занадто ризикованою для впровадження. Цей механізм має на меті запобігти «гонці на виживання» (race to the bottom), коли компанії жертвують протоколами безпеки в спробі досягти AGI швидше за своїх конкурентів.

Чому США мають очолити цей процес

Хассабіс стверджує, що Сполучені Штати мають унікальні можливості, щоб очолити цю глобальну ініціативу. З огляду на домінуюче економічне та технічне становище країни в секторі ШІ, США мають важелі впливу, необхідні для встановлення стандартів, яких зможе дотримуватися решта світу.

Терміновість цієї пропозиції зумовлена переконанням Хассабіса, що до появи AGI, «ймовірно, залишилося лише кілька коротких років». Він розглядає нинішню епоху як «підніжжя сингулярності» — трансформаційний період, який докорінно змінить людство. Щоб керувати цим переходом, він працює над подоланням розриву між приватними інноваціями та суспільною безпекою.

Формування політичного та галузевого консенсусу

Рух у бік офіційного регулювання вже набирає обертів за лаштунками. Згідно зі звітами, Хассабіс витратив місяці на інформування різних зацікавлених сторін, включаючи європейських посадовців, великі лабораторії ШІ та адміністрацію Трампа. За даними Axios, перші відгуки від майбутньої адміністрації США були «дуже позитивними», що вказує на потенційний перехід до більш структурованого федерального нагляду.

Цей заклик до управління збігається з нещодавніми попередженнями інших титанів індустрії, зокрема співзасновника Anthropic Джека Кларка та колишнього генерального директора Google Еріка Шмідта, щодо економічних та екзистенційних наслідків ШІ. Хассабіс, лауреат Нобелівської премії 2024 року, також відкрито заявляв про конкретні високі ризики, такі як можливість використання ШІ для допомоги у виробництві біологічної зброї.

Ширші наслідки для екосистеми ШІ

Якщо цей наглядовий орган буде створено, він стане найзначнішим зрушенням у технологічній політиці за останні десятиліття. Для розробників і засновників це означатиме перехід від періоду «рухайся швидко і ламай стереотипи» (move fast and break things) до епохи суворого регулювання, де аудит перед впровадженням стане нормою. Хоча дехто побоюється, що це може придушити інновації, Хассабіс стверджує, що узгоджена структура — це єдиний спосіб гарантувати, що перехід до світу, керованого AGI, буде безпечним і стабільним.

Основні висновки

• Регуляторні повноваження: Запропонований наглядовий орган матиме повноваження оцінювати передові моделі та впроваджувати галузеві сповільнення, якщо ризики занадто високі.
• Лідерство США: Хассабіс стверджує, що США мають очолити цю ініціативу через свою центральну роль у глобальній економіці ШІ та технічній інфраструктурі.
• Терміновість AGI: Пропозиція зумовлена стрімким прогресом у напрямку AGI, який Хассабіс розглядає як «нову епоху для людства», що потребує негайного нагляду.