De Black Box van AI-veiligheid: Hoe OpenAI's Sol het groene licht kreeg

Terwijl OpenAI zijn nieuwste frontier-model, Sol, uitrolt, houdt een cruciale vraag de techindustrie bezig: hoe heeft de overheid precies besloten dat dit model veilig is voor publieke release? Hoewel Sol ernaar streeft om te concurreren met Anthropic's Fable — een model dat voorheen door het Witte Huis werd beperkt — zorgt het gebrek aan transparantie over het goedkeuringsproces voor een intens debat onder toezichthouders en onderzoekers.

Een gebrek aan gestandaardiseerde veiligheidsprotocollen

Ondanks de hoge inzet bij het inzetten van frontier-modellen, is er momenteel geen uniform, transparant kader voor AI-veiligheidscertificering. Hoewel OpenAI-CEO Sam Altman bevestigde dat er gesprekken hebben plaatsgevonden met hooggeplaatste functionarissen — waaronder minister van Handel Howard Lutnick en de Amerikaanse National Cyber Director Sean Cairncross — blijven de specifieke technische benchmarks die voor de validatie van Sol zijn gebruikt, onbekend.

Het huidige regelgevende landschap wordt door experts omschreven als "ad hoc". Hoewel een presidentieel besluit (executive order) onlangs een routekaart voor de evaluatie van frontier-modellen heeft uiteengezet, worden de details nog ingevuld. Cruciaal is dat er geen "FDA voor AI" bestaat, een sentiment dat wordt gedeeld door voormalig AI-adviseur van het Witte Huis, Sriram Krishnan. De afwezigheid van een centraal toezichthoudend orgaan betekent dat veiligheidsevaluaties momenteel afhankelijk zijn van een lappendeken van interne bedrijfsprocessen en vrijwillige externe audits.

De spanning tussen innovatie en regulering

De release van Anthropic's Fable onderstreept de volatiliteit van deze ongereguleerde omgeving. Fable werd tijdelijk de toegang voor buitenlandse staatsburgers ontzegd vanwege zorgen over "jailbreaking"-mogelijkheden die hacking zouden kunnen vergemakkelijken. In tegenstelling hiertoe is OpenAI's Sol overgegaan tot een brede release na een periode waarin het model als preview beschikbaar was voor geselecteerde overheidsgebruikers.

Deze discrepantie heeft vragen opgeroepen over de invloed van politieke connecties. Berichten over het contact tussen het OpenAI-management en de regering hebben ertoe geleid dat sommige waarnemers zich afvragen of er een "milder" (lighter-touch) benadering van regulering wordt toegepast. Voor ontwikkelaars en oprichters creëert dit een precaire omgeving waarin de uitrol van een model mogelijk meer afhangt van politiek manoeuvreren dan van gestandaardiseerde technische veiligheidsmetrieken.

Naar externe auditing en open commons

Industrieleiders pleiten voor een structurele verschuiving om "gatekeeping" door een klein aantal besluitvormers te voorkomen. Informaticawetenschapper Andy Konwinski suggereert dat het huidige proces onvoldoende input krijgt van de echte experts: onderzoekers op het gebied van veiligheid, alignment en interpreteerbaarheid.

Om dit op te lossen, zijn er twee primaire modellen voor de toekomst naar voren gekomen:

• Het institutionele model: In navolging van de FDA of NIH zou dit het bijeenroepen van onderzoekers, overheidsfunctionarissen en private bedrijven inhouden om tot een consensus over veiligheidsnormen te komen.
• Het model voor externe auditing: Zoals voorgesteld door voormalig beleidsadviseur Dean W. Ball, zou de overheid onafhankelijke auditorganisaties kunnen licentiëren om de veiligheidsprotocollen van frontier-labs te evalueren.

Om langetermijnstabiliteit in het AI-ecosysteem te bereiken, moet de industrie afstappen van private onderhandelingen en toe naar een voorspelbaar, door experts gestuurd kader dat de fiduciaire verantwoordelijkheden in balans brengt met de publieke veiligheid.

Belangrijkste conclusies

• Regelgevende ambiguïteit: Er is momenteel geen gestandaardiseerde "veiligheidslicentie" of centrale instantie (zoals een FDA) die de release van frontier-modellen zoals Sol reguleert.
• Transparantiekloof: Hoewel OpenAI verwijst naar externe evaluaties van de Britse AISI en SecureBio, blijven de specifieke gesprekken met de overheid en de technische vereisten voor modelgoedkeuring ondoorzichtig.
• De roep om experts: Experts uit de sector pleiten voor externe auditing en "open commons"-kaders om ervoor te zorgen dat veiligheidsbeslissingen worden genomen door onderzoekers in plaats van door politieke tussenpersonen.