데미스 허사비스, 리스크 관리를 위한 미국 주도의 글로벌 AI 감시 기구 촉구
구글 딥마인드(Google DeepMind)의 CEO 데미스 허사비스(Demis Hassabis)는 위험한 프런티어 AI 모델의 배포를 중단시킬 수 있는 강력한 국제 규제 기구의 창설을 주장하고 있다. 인공 일반 지능(AGI)에 대한 추구가 가속화됨에 따라, 허사비스는 파멸적인 결과를 방지하기 위해 표준화된 글로벌 프레임워크가 필수적이라고 강조한다.
금융 감독에 기반한 규제 모델
최근 제안서인 "프런티어 AI를 위한 프레임워크와 새로운 시대의 서막(A Framework for Frontier AI and the Dawning of a New Age)"에서 허사비스는 금융산업규제기구(FINRA)와 유사한 규제 구조를 제안한다. 이 제안된 감시 기구는 단순한 자문 위원회에 그치지 않고, 프런티어 모델이 출시되기 전에 이를 평가할 수 있는 명시적인 권한을 가진 독립적인 전문가와 오픈 소스 커뮤니티 대표들로 구성될 것이다.
결정적으로, 이 조직은 특정 모델이 배포하기에 너무 위험하다고 판단될 경우 업계 전반의 '속도 조절(slowdown)'을 조정할 수 있는 권한을 갖게 된다. 이 메커니즘은 기업들이 경쟁사보다 더 빨리 AGI에 도달하기 위해 안전 프로토콜을 희생하는 '바닥을 향한 경주(race to the bottom)'를 방지하는 것을 목표로 한다.
왜 미국이 앞장서야 하는가
허사비스는 미국이 이러한 글로벌 이니셔티브를 이끌 수 있는 독보적인 위치에 있다고 주장한다. AI 분야에서 미국의 압도적인 경제적, 기술적 위상을 고려할 때, 미국은 전 세계가 따를 수 있는 표준을 설정하는 데 필요한 영향력을 보유하고 있다.
이 제안의 시급성은 AGI가 "아마도 불과 몇 년 남지 않았을 것"이라는 허사비스의 믿음에서 비롯된다. 그는 현재의 시대를 인류를 근본적으로 재정의할 변혁의 시기인 '특이점의 언덕(foothills of the singularity)'으로 보고 있다. 이러한 전환을 관리하기 위해 그는 민간의 혁신과 공공의 안전 사이의 간극을 메우기 위해 노력하고 있다.
정치 및 산업적 합의 구축
공식적인 규제를 향한 움직임은 이미 막후에서 탄력을 받고 있다. 보도에 따르면 허사비스는 유럽 관리들, 주요 AI 연구소, 그리고 트럼프 행정부를 포함한 다양한 이해관계자들에게 수개월 동안 브리핑을 진행해 왔다. Axios에 따르면, 차기 미국 행정부의 초기 피드백은 "매우 긍정적"이었으며, 이는 더욱 구조화된 연방 감독으로의 잠재적 전환을 시사한다.
이러한 거버넌스 추진은 Anthropic의 공동 창립자인 잭 클라크(Jack Clark)와 전 구글 CEO 에릭 슈미트(Eric Schmidt)를 포함한 다른 업계 거물들이 AI의 경제적, 실존적 영향에 대해 보낸 최근의 경고와 맥을 같이 한다. 2024년 노벨상 수상자인 허사비스는 AI가 생화학 무기 제조를 도울 가능성과 같은 구체적이고 중대한 위험에 대해서도 목소리를 높여 왔다.
AI 생태계에 미치는 광범위한 영향
이 감시 기구가 실현된다면, 이는 수십 년 만에 기술 정책에서 가장 중대한 변화를 의미하게 될 것이다. 개발자와 창업자들에게 이는 '빠르게 움직이고 파괴하라(move fast and break things)'의 시대에서, 배포 전 감사가 일상이 되는 고도로 규제된 시대로의 전환을 의미한다. 일부에서는 이것이 혁신을 저해할 수 있다고 우려하지만, 허사비스는 일관된 프레임워크만이 AGI 중심의 세계로의 전환을 안전하고 안정적으로 보장할 수 있는 유일한 방법이라고 주장한다.
핵심 요약
- 규제 권한: 제안된 감시 기구는 프런티어 모델을 평가하고, 위험이 너무 높을 경우 업계 전반의 속도 조절을 명령할 수 있는 권한을 갖게 된다.
- 미국의 리더십: 허사비스는 글로벌 AI 경제와 기술 인프라에서 미국의 중심적인 역할 때문에 미국이 이 이니셔티브를 주도해야 한다고 주장한다.
- AGI의 시급성: 이 제안은 허사비스가 즉각적인 감독이 필요한 '인류의 새로운 시대'로 보고 있는 AGI를 향한 급격한 발전에 의해 추진되고 있다.