앤트로픽은 2026년 6월 5일 공개한 새 보고서에서 자사 AI 모델들이 얼마나 빠르게 진화하고 있는지를 상세히 기술했다. 특히 "재귀적 자기개선(Recursive Self-Improvement, RSI)"이 가까운 미래에 현실화될 수 있으며, 이 경우 AI 발전 속도가 인간의 통제 범위를 벗어날 수 있다는 심각한 우려를 표명했다.
재귀적 자기개선이란?
재귀적 자기개선은 AI 시스템이 스스로의 코드와 가중치를 수정해 더 강력한 버전을 생성하는 능력을 의미한다. 이 과정이 반복될 경우 인간의 통제가 불가능한 "지능 폭발(Intelligence Explosion)" 시나리오로 이어질 수 있다는 것이 AI 안전 연구자들의 오랜 우려였다. 앤트로픽의 보고서에 따르면 현재 최첨단 모델들은 소프트웨어 엔지니어링 작업에서 이미 시니어 개발자 수준에 근접하고 있으며, 과학 연구 분야에서도 인간 연구자를 보조하는 수준을 넘어서고 있다.
| 지표 | 수치 |
|---|---|
| 앤트로픽 추정 기업가치 | 약 1조 달러 (IPO 전) |
| Claude Opus 4.8 ARC-AGI-3 점수 | 60점대 (GPT-5.5의 약 3배) |
| S-1 제출 후 통상 상장까지 소요 기간 | 3~6개월 |
OpenAI·Anthropic·Microsoft CEO, 미 의회서 공동 경고
앤트로픽의 다리오 아모데이(Dario Amodei) CEO는 OpenAI의 샘 알트만(Sam Altman), 마이크로소프트 CEO와 함께 미국 의회 청문회에 출석해 AI가 생물무기 설계를 지나치게 용이하게 만들고 있다는 공동 경고를 발표했다. 치열한 경쟁 관계에 있는 기업의 CEO들이 연대해 기술 위험을 경고하는 장면은 AI 산업 역사에서 매우 이례적인 사례로 기록되고 있다.
IPO와 경고 사이의 역설
앤트로픽은 2026년 6월 초 SEC에 비공개 S-1 서류를 제출했다. 통상적으로 이 시점부터 3~6개월 내에 본격적인 로드쇼와 상장이 이루어진다. 기업 평가액은 약 1조 달러에 육박하는 것으로 알려졌으며, 아마존·구글 등으로부터 수백억 달러의 투자를 유치한 누적 실적을 기반으로 한다. 이는 실리콘밸리 역사상 최대 규모 IPO 중 하나가 될 전망이다.
"개발을 멈춰야 한다"고 경고하면서 막대한 투자 유치와 상장을 동시에 추진하는 것이 모순적이라는 비판도 적지 않다. 앤트로픽 측은 "안전한 AI 개발을 이끌 수 있는 주체가 충분한 자본을 확보하는 것이 오히려 중요하다"는 입장을 고수하고 있다.
AI 개발 일시중단의 현실적 가능성
업계 전문가들은 실질적인 개발 일시중단 가능성에 회의적이다. 미국과 중국 간의 AI 기술 패권 경쟁이 치열한 상황에서, 어느 한 나라 또는 기업이 단독으로 개발을 멈추는 것은 경쟁에서의 완전한 패배를 의미할 수 있기 때문이다. 앤트로픽도 이 점을 인식하고 있으며, 결국 "글로벌 합의"와 "국제 협력"의 필요성을 강조하는 방향으로 메시지를 정리하고 있다. 프론티어에 가장 근접한 기업들이 가장 강하게 경고하면서도 멈추지 않는 현실이 AI 안전 논의의 근본적 딜레마를 드러낸다.
핵심 포인트
- 앤트로픽, AI의 재귀적 자기개선(RSI) 임박 가능성 경고 및 업계 일시중단 촉구
- 동시에 SEC에 IPO 비공개 S-1 제출, 기업가치 약 1조 달러 추산
- OpenAI·Anthropic·MS CEO 미 의회서 바이오무기 악용 위험 공동 경고
- Claude Opus 4.8, ARC-AGI-3 벤치마크서 GPT-5.5의 약 3배 점수 기록
- 전문가들, 미중 AI 패권 경쟁 속 실질적 개발 중단 가능성엔 회의적