Чорна скринька безпеки ШІ: як Sol від OpenAI отримала «зелене світло»
Оскільки OpenAI випускає свою нову передову модель Sol, технологічну індустрію переслідує критичне питання: як саме уряд вирішив, що ця модель є безпечною для публічного релізу? Хоча Sol має на меті конкурувати з Fable від Anthropic — моделлю, доступ до якої раніше був обмежений Білим домом, — відсутність прозорості щодо процесу схвалення викликає запеклі дискусії серед регуляторів та дослідників.
Відсутність стандартизованих протоколів безпеки
Попри високі ставки при розгортанні передових моделей, наразі не існує єдиної прозорої структури для сертифікації безпеки ШІ. Хоча генеральний директор OpenAI Сем Альтман підтвердив, що відбувалися переговори з високопоставленими посадовцями, зокрема з міністром торгівлі Говардом Лютніком та національним кібердиректором США Шоном Кернкроссом, конкретні технічні показники, використані для перевірки Sol, залишаються невідомими.
Поточний регуляторний ландшафт експерти описують як «ad hoc» (ситуативний). Хоча нещодавній указ президента окреслив дорожню карту для оцінки передових моделей, деталі все ще уточнюються. Що важливо, «FDA для ШІ» не існує — цю думку поділяє колишній радник Білого дому з питань ШІ Шрірам Крішнан. Відсутність централізованого регуляторного органу означає, що оцінка безпеки наразі покладається на сукупність внутрішніх корпоративних процесів та добровільних зовнішніх аудитів.
Напруженість між інноваціями та регулюванням
Випуск Fable від Anthropic підкреслює нестабільність цього нерегульованого середовища. Доступ до Fable для іноземних громадян був ненадовго обмежений через побоювання щодо можливостей «jailbreaking» (зламу обмежень), які могли б сприяти хакерству. Натомість Sol від OpenAI перейшла до етапу широкого релізу після періоду попереднього тестування моделі для окремих державних користувачів.
Така невідповідність викликала запитання щодо впливу політичних зв'язків. Повідомлення про взаємодію керівництва OpenAI з адміністрацією змусили деяких спостерігачів засумніватися, чи не застосовується до регулювання «пом'якшений» підхід. Для розробників і засновників це створює нестабільне середовище, де розгортання моделі може більше залежати від політичного маневрування, ніж від стандартизованих технічних метрик безпеки.
Рух у бік стороннього аудиту та відкритих спільних ресурсів
Лідери галузі закликають до структурних змін, щоб запобігти «gatekeeping» (обмеженню доступу) з боку невеликої кількості осіб, які приймають рішення. Комп'ютерний науковець Енді Конвінскі вважає, що нинішньому процесу бракує достатнього внеску від справжніх експертів: дослідників безпеки, узгодженості (alignment) та інтерпретованості.
Для вирішення цієї проблеми на майбутнє виникли дві основні моделі:
- Інституційна модель: За зразком FDA або NIH, вона передбачає залучення дослідників, державних посадовців і приватних компаній для досягнення консенсусу щодо стандартів безпеки.
- Модель стороннього аудиту: Як запропонував колишній радник із питань політики Дін В. Болл, уряд міг би ліцензувати незалежні аудиторські організації для оцінки протоколів безпеки передових лабораторій.
Щоб екосистема ШІ досягла довгострокової стабільності, галузь має відійти від приватних переговорів і перейти до передбачуваної, керованої експертами структури, яка балансує фідуціарну відповідальність із суспільною безпекою.
Основні висновки
- Регуляторна неоднозначність: Наразі не існує стандартизованої «ліцензії на безпеку» або централізованого агентства (подібного до FDA), яке б регулювало випуск передових моделей, таких як Sol.
- Прогалина в прозорості: Хоча OpenAI посилається на зовнішні оцінки від U.K. AISI та SecureBio, конкретний діалог із урядом і технічні вимоги для схвалення моделі залишаються непрозорими.
- Заклик до експертів: Експерти галузі виступають за сторонній аудит і структури «відкритого спільного надбання» (open commons), щоб гарантувати, що рішення щодо безпеки приймаються дослідниками, а не політичними посередниками.