[뉴스] 인류에 재앙 찾아온다는데… AI 4대 천왕의 작심 발언

AI가 어느 날 갑자기 인간을 넘어 세계를 지배한다는 시나리오, 정말 눈앞의 재앙일까요? 현대 AI 발전을 이끈 얀 르쿤 AMI랩스 창업자 겸 회장은 이를 “공상과학적 상상에 가깝다”고 잘라 말했습니다. AI 위험을 이유로 개발 속도를 늦춰야 한다는 주장에도 반대했습니다.

그가 더 현실적인 문제로 지목한 것은 AI의 통제 불능이 아니라 보안 설계의 허점입니다. 최근 불거진 AI 에이전트 관련 사고도 기업의 사이버보안 경험 부족과 허술한 샌드박스 설계에서 비롯됐다는 설명입니다. 즉, AI가 스스로 세계를 장악해서가 아니라 실행 환경을 제대로 격리하지 못해 생기는 문제라는 것이죠.

르쿤 회장은 이런 보안 문제는 개선할 수 있으며, AI가 공격자보다 방어자에게 유리하게 작용할 가능성도 있다고 봤습니다. 막연한 종말론보다 지금의 시스템을 어떻게 안전하게 설계하고 관리할지에 집중해야 한다는 메시지입니다.

인류에 재앙 찾아온다는데… AI 4대 천왕의 작심 발언: 현실을 이해하는 AI가 다음 과제

AI 보안 사고가 곧 AI를 통제할 수 없다는 증거일까요? 얀 르쿤은 그렇게 보지 않습니다. 그는 최근 발생한 AI 에이전트 관련 사고가 AI 기업의 사이버보안 경험 부족과 허술한 샌드박스 설계에서 비롯됐다며, 통제 불능이 아닌 보안 설계의 문제라고 진단했습니다. 제대로 된 방어 체계를 갖추면 AI는 공격자보다 방어자에게 더 유리하게 작용할 수 있다는 설명입니다.

하지만 AI에는 보안과 별개로 더 근본적인 숙제가 있습니다. 지금의 대규모언어모델은 수학 문제를 풀고 코드를 작성하는 데 능숙하지만, 현실 세계를 이해하고 행동하는 능력은 부족합니다. 열 살 아이가 자연스럽게 해내는 집안일조차 로봇이 제대로 수행하지 못하는 이유입니다.

르쿤이 돌파구로 제시한 것은 현실의 작동 원리를 배우고 행동의 결과를 예측하는 월드모델입니다. 이를 구현하기 위해 그는 생성형 AI와 다른 구조인 공동 임베딩 예측 아키텍처(JEPA)를 개발하고 있습니다. 한국 제조업에도 기회가 있습니다. 반도체·자동차·조선 현장에서 쌓은 데이터와 전문성이 피지컬 AI의 중요한 기반이 될 수 있기 때문입니다.

AI가 인류를 위협할지를 걱정하는 데 그치지 않고, 현실을 제대로 이해하며 안전하게 일하는 AI를 만드는 것. 르쿤의 발언이 보여주는 다음 승부처입니다.

Reference

한국경제: https://www.hankyung.com/article/2026101269641