Claude Mythos는 Anthropic의 새로운 AI 연구 프리뷰로, 단 한 번의 실행으로 두 가지 암호화 구조의 치명적인 약점을 찾아냈습니다. HAWK-256 서명 방식에서는 이론적 보안 수준을 2⁶⁴에서 2³⁸로 낮추는 격자 대칭성을 식별했으며, AES-128의 7라운드 변형 모델에서는 공격 속도를 약 200~800배 높이는 "Mobius Bridge" 기술을 적용했습니다.
이 발견이 중요한 이유
두 암호는 보안 스펙트럼의 양 끝단에 위치합니다. HAWK-256은 미래의 통신을 양자 컴퓨터로부터 보호할 수 있는 양자 내성(post-quantum) 서명 알고리즘으로 육성되고 있습니다. 반면, AES-128은 뱅킹에서 클라우드 스토리지에 이르기까지 오늘날 인터넷 트래픽의 대부분을 암호화합니다.
발견에 이르기까지
인간 연구원들은 결함을 보고하지 않은 채 2년 동안 HAWK를 조사했습니다. 그들은 철저히 조사하기 매우 어려운 것으로 알려진 알고리즘의 격자 기반 수학에 집중했습니다. Claude Mythos는 인간이 놓쳤던 격자 구조 내의 수학적 대칭성을 발견했습니다. 이 대칭성은 키 복구 공격을 가능하게 하여, 서명을 위조하는 데 필요한 연산량을 약 2⁶⁴에서 약 2³⁸로 줄였습니다. 이는 여전히 현재 하드웨어로는 도달할 수 없는 수준이지만, 이론적으로는 엄청난 하락입니다.
AES-128 결과는 범위가 더 좁습니다. 연구원들은 내부 구조를 연구하기 위해 정기적으로 AES의 라운드 수를 줄이는데, 7라운드 버전은 흔히 사용되는 테스트베드입니다. Claude Mythos는 라운드 간의 대수적 특성을 연결하는 새로운 "Mobius Bridge" 방법을 도입하여, 동일한 축소 암호에 대해 알려진 최선의 공격보다 200~800배의 속도 향상을 가져왔습니다. AI가 AES의 전체 버전을 깨뜨린 것은 아닙니다.
두 번의 돌파구 모두 프로젝트에 API 사용료로 6자리 수의 비용을 발생시켰으며, 인간 분석가들은 AI가 생성한 단서를 검증하기 위해 수백 시간을 기록했습니다. 특히 공격을 재현하고 속도 향상을 수치화해야 했던 AES 사례의 경우 더욱 그러했습니다.
누가 이득을 보고, 누가 걱정하는가
- 연구원들은 새로운 분석 도구를 얻게 됩니다. AI가 후보 패턴을 생성함으로써 전문가들은 증명 작업에 집중할 수 있고 발견 파이프라인을 가속화할 수 있습니다.
- 표준화 위원회는 조기 경보를 받게 됩니다. HAWK는 여전히 평가 단계에 있고 AES 공격은 약화된 버전을 대상으로 하지만, 이번 발견은 알고리즘의 가정이 취약할 수 있음을 보여줍니다.
- 공급업체 및 사용자는 당분간은 안심해도 좋습니다. 어떤 취약점도 실제 배포된 시스템에 영향을 미치지 않습니다. HAWK는 아직 배포되지 않았으며, AES 공격은 연구용 변형 모델에만 적용됩니다.
숨겨진 비용
격자 구조와 AES 라운드 변환을 샅샅이 뒤지기 위해 필요한 규모로 Claude Mythos를 실행하는 데는 상당한 컴퓨팅 비용이 소요되었습니다. 발견당 6자리 수의 비용이 들었습니다. 이러한 비용은 영향력이 큰 연구를 위해서는 정당화될 수 있지만, 더 큰 규모에서 AI 지원 암호 해독의 경제성에 대한 의문을 제기합니다.
인간의 검증이 여전히 병목 구간으로 남아 있습니다.
반론: 패닉 버튼이 아니다
비평가들은 이 결과가 실제 운영 환경에 영향을 미치지 않기 때문에 과장되었다고 주장합니다. 실제 시스템에 대한 구체적인 익스플로잇(exploit)이 나타나기 전까지 즉각적인 위험은 이론적인 수준에 머물러 있습니다.
향후 주목할 점
- 다른 양자 내성 후보들에 대한 추가적인 AI 감사.
- AES-128 연구 관행의 재평가.
결론: AI는 인간의 눈이 놓치는 암호학적 약점을 드러낼 수 있지만, 힌트를 확인된 결함으로 바꾸는 데는 여전히 숙련된 분석가가 필요합니다. Claude Mythos의 두 가지 발견은 기계 중심 보안 연구의 가능성과 한계를 동시에 보여줍니다.