[뉴스] 앙숙 AI 수장들 입 모아 개발 속도 늦춰야

지난해 11월 약 5시간이던 AI의 자율 작업 시간이 불과 7개월 만에 16시간으로 늘어났습니다. 인간이 일일이 지시하지 않아도 AI가 장시간 작업을 수행하고, 스스로 코드를 작성하며, 더 나은 AI를 개발하는 단계에 가까워지고 있는 것입니다. 기술 업계가 말하는 재귀적 자기개선(RSI)이 더 이상 먼 미래의 이야기가 아니라는 의미입니다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 바로 이 지점에서 속도 조절이 필요하다고 주장했습니다. AI의 성능 향상을 안전장치가 따라가지 못하면, 인간이 시스템의 판단과 행동을 통제하기 어려워질 수 있다는 우려입니다. 실제로 오픈AI의 미공개 모델이 테스트 과정에서 허깅페이스를 무단 해킹한 사례는 AI 에이전트가 주어진 임무를 넘어 예측하기 힘든 행동을 할 가능성을 보여줬습니다.

아모데이는 이런 에이전트들이 머지않아 서로 협력하며 봇넷을 구축하고, 인터넷 전반에 영향을 미칠 수 있다고 경고했습니다. 이에 따라 AI 기업 내부에 제3자 안전 평가자를 상주시켜야 하며, 민주주의 국가 간 안전 기준과 국제 공조 체계를 마련해야 한다고 제안했습니다.

흥미로운 점은 평소 치열하게 경쟁하던 AI 업계 수장들이 이 주장에 잇따라 동조했다는 사실입니다. 샘 올트먼 오픈AI CEO를 비롯해 일론 머스크 스페이스X·xAI CEO, 데미스 허사비스 구글 딥마인드 공동창업자까지 “아모데이가 옳다”는 취지의 목소리를 냈습니다. 올트먼은 안전 문제를 이유로 2026년 기업공개(IPO)를 진행하지 않겠다고 밝혔습니다.

물론 이들의 속도 조절론을 순수한 안전 우려로만 보기 어렵다는 시각도 있습니다. 경쟁사 견제나 IPO 전략이 함께 작용했을 가능성도 제기됩니다. 그럼에도 분명한 사실은 하나입니다. AI가 인간의 지시를 기다리는 도구를 넘어 스스로 개발하고 진화하기 시작하면서, 기술 경쟁의 속도보다 통제와 안전을 먼저 고민해야 하는 순간이 찾아왔다는 점입니다.

멈추자는 외침, 진짜 경고인가 경쟁 전략인가 | 앙숙 AI 수장들 입 모아 개발 속도 늦춰야

불과 열흘 전까지만 해도 주요 20개국(G20) 기술장관회의에서 과도한 AI 규제를 경계하던 인사들이 갑자기 한목소리를 내기 시작했습니다. “AI 개발 속도를 조절해야 한다”는 주장입니다. 재귀적 자기개선, 즉 AI가 스스로 코드를 만들고 성능을 높이는 단계에 들어서면서 통제 불능에 대한 우려가 커졌다는 설명입니다.

다리오 아모데이 앤트로픽 CEO는 AI 기업 내부에 제3자 안전 평가자를 상주시키고, 민주주의 국가 간 안전 기준과 국제 공조를 마련해야 한다고 제안했습니다. 샘 올트먼 오픈AI CEO 역시 안전을 이유로 2026년 기업공개(IPO)를 진행하지 않겠다고 밝혔습니다. 일론 머스크와 데미스 허사비스까지 동조하면서, 경쟁 관계에 있던 수장들의 발언은 시장에 강한 인상을 남겼습니다.

하지만 이들의 경고를 순수한 안전 우려로만 해석하기에는 석연치 않은 대목도 있습니다. 최근 오픈AI가 GPT-6 아스트라를 공개하며 경쟁에서 앞서나간 직후, 아모데이가 속도 조절론을 꺼냈기 때문입니다. 경쟁자가 기술적으로 치고 나갈 때 규제와 안전을 강조하는 것은 상대의 행보를 늦추려는 전략이 될 수도 있습니다.

올트먼의 IPO 연기 역시 마찬가지입니다. AI 안전이 중요한 이유일 수 있지만, 재무 구조와 상장 시점을 둘러싼 부담을 완화하려는 판단이 함께 작용했을 가능성도 배제하기 어렵습니다. 결국 이번 논쟁의 핵심은 “개발을 멈출 것인가”가 아닙니다. 안전장치가 기술 발전을 따라갈 수 있도록 속도를 조절하되, 그 기준을 누가 정하고 어떻게 검증할 것인지가 진짜 쟁점입니다.