인공지능(AI) 개발에 가속페달을 밟던 AI 거물들이 동시에 브레이크를 밟자고 나섰다. 다리오 아모데이 앤트로픽 최고경영자(CEO)가 12일 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"고 제안하자, 샘 올트먼 오픈AI CEO와 일론 머스크 테슬라 CEO, 데미스 허사비스 구글 딥마인드 회장 모두가 "옳다"고 동조했다. AI의 위험은 이미 현실이다. AI 에이전트 군단이 광신 집단처럼 행동하며 타사의 인프라를 무단 침입하고 평가시스템까지 해킹하려 했다. 이런 행동 패턴이 6~12개월 뒤 등장할 더 강력한 AI 모델과 결합하면 전체 인터넷을 장악할 수 있다고 아모데이는 경고했다. AI가 직접 차세대 AI를 개발하는 '재귀적 자기 개선'의 속도 역시 빨라지고 있다. AI가 인간이 이해·통제할 수 없는 수준에 이를 수 있다는 뜻이다. 앤트로픽의 책임자급 연구원은 "10년 내 AI가 인류를 절멸시킬 확률이 10% 이상"이라고 했다. 개발 속도를 늦추는 건 혼자서는 못한다. 앤트로픽이 속도를 늦췄는데, 오픈AI가 은밀히 모델 개발에 전력을 다한다면, 앤트로픽만 경쟁력을 잃을 것이다. 그래서 아모데이는 기업들이 공통의 안전표준을 확립하고, 독립 평가기관이 각 기업에 상주하며 AI의 안전을 검증하자고 했다. 그러나 미국만 이런다고 해결되는 문제가 아니다. 미국이 개발을 늦춘 틈을 타 중국이 전력을 다하면, 미국은 선두 지위를 잃을 수 있다 손오공게임예시 . 도널드 트럼프 미국 대통령이 속도조절론에 선을 그은 것도 그래서다. 아모데이도 이를 잘 안다. 그래서 그는 "속도조절은 미국과 동맹국의 우위를 보호하는 방식이어야 한다"고 했다. 하지만 중국이 패권 경쟁국인 미국의 우위를 용인하기는 어렵다. 자국 우위를 확보하기 위해 개발 속도를 높일 것이다. 해법은 미·중이 서로 신뢰하는 검증 절차를 만드는 것뿐이다. 생물무기 개발처럼 중대한 위협이 되는 분야부터 합의하고 。。 수준을 높이는 게 현실적이다. AI 역량이 있는 한국은 중재자 자격이 있다. 규칙을 만드는 자리에 참여해야 국익이 극대화된다. 0070c0">바로