El CEO de Google DeepMind, Demis Hassabis, ha propuesto un marco regulatorio para gobernar el lanzamiento de modelos de IA de frontera. Su objetivo es crear un organismo de normalización especializado que reemplace el actual mosaico de revisiones gubernamentales por un sistema de supervisión profesional y técnicamente riguroso.
El modelo FINRA para la inteligencia artificial
En su propuesta, “A Framework for Frontier AI and the Dawning of a New Age”, Hassabis basa la nueva entidad en la Financial Industry Regulatory Authority (FINRA). Imagina una organización independiente, respaldada por el gobierno de los EE. UU. pero financiada por la industria de la IA.
El mecanismo funcionaría en dos fases. Primero, los laboratorios de frontera entregarían voluntariamente sus modelos al Organismo de Normalización para una revisión de 30 días antes de su lanzamiento público. Una vez que los protocolos de evaluación demuestren ser efectivos, el sistema pasaría a ser un requisito obligatorio: los modelos de frontera tendrían que superar pruebas estandarizadas para entrar en el mercado estadounidense. Este diseño permite detectar vulnerabilidades críticas tanto antes como después del despliegue.
Abordando las deficiencias de la supervisión actual
Hassabis aboga por un organismo dedicado porque considera que los esfuerzos regulatorios actuales son insuficientes. Cita las recientes revisiones del gobierno de los EE. UU. sobre Mythos de Anthropic y Sol de OpenAI como ejemplos de advertencia. Esas evaluaciones recibieron críticas por carecer de una profunda experiencia técnica y por la opacidad en la toma de decisiones sobre los cronogramas de lanzamiento.
Una organización autorreguladora permitiría a la industria sortear la fricción política que rodea actualmente a la supervisión de la IA. El asesor de IA de la Casa Blanca, Sriram Krishnan, advirtió recientemente que es poco probable que exista una "FDA para la IA" dentro de la rama ejecutiva. Un modelo al estilo FINRA ofrece un punto medio: independencia técnica sin los obstáculos burocráticos de una agencia gubernamental directa.
Experiencia técnica y seguridad escalable
Hassabis subraya que el personal regulador debe provenir del interior de la industria y de la comunidad de código abierto. Al contar con profesionales que comprenden la arquitectura de los modelos y los riesgos emergentes, el organismo podrá evaluar los modelos con verdadera pericia.
El marco también permite un enfoque de seguridad descentralizado. El Organismo de Normalización podría contratar grupos especializados en seguridad de la IA para realizar evaluaciones de riesgo granulares. Dado que la organización se adaptaría a la rápida aceleración del campo, la supervisión podría "intensificarse" dinámicamente a medida que aparezcan riesgos nuevos y más graves. Esto permite que la regulación sea un facilitador de la innovación responsable en lugar de un cuello de botella.
Conclusiones clave
- Modelo regulatorio híbrido: Hassabis propone un organismo independiente financiado por la industria y respaldado por el gobierno, basado en el modelo de FINRA, para supervisar el lanzamiento de modelos de frontera.
- Implementación por fases: El plan comienza con revisiones voluntarias de 30 días previas al lanzamiento y evoluciona hacia un cumplimiento obligatorio para el mercado estadounidense.
- Rigor técnico: El organismo contaría con expertos de la industria y representantes de código abierto para cerrar la "brecha de experiencia" observada en las revisiones actuales lideradas por el gobierno.