[뉴스] 구글은 3년째 하는데…머스크 우리는 안 한다 거부한 기술

사람의 눈에는 평범한 문장입니다. 하지만 전용 탐지기를 대는 순간, “AI가 작성했다”는 신호가 드러날 수 있습니다. 앤트로픽이 지난 11일부터 클로드가 생성한 글에 워터마크를 적용하면서, AI 콘텐츠 식별 기술이 다시 주목받고 있습니다.

AI 워터마크는 문장에 눈에 보이는 문양을 삽입하는 방식이 아닙니다. AI가 다음에 올 단어를 선택할 때 비밀 키를 활용해 특정 단어가 조금 더 자주 등장하도록 확률을 조정합니다. 문장의 의미와 자연스러움은 거의 유지하면서, 글 전체에는 통계적인 흔적을 남기는 것입니다.

탐지기는 이 흔적을 분석해 AI 생성 여부를 추정합니다. 유럽연합의 AI법이 AI가 만들거나 수정한 콘텐츠에 기계 판독이 가능한 표식을 요구하면서, 워터마크는 단순한 기술을 넘어 규제 대응 수단이 됐습니다.

기업마다 달라진 AI 워터마크의 온도차

가장 먼저 움직인 곳은 구글입니다. 구글은 2023년 이미지 생성물에 ‘신스ID’를 적용한 뒤 텍스트와 오디오, 동영상으로 범위를 넓혔습니다. 반면 오픈AI는 관련 기술을 확보하고도 이용자 반발과 이탈 가능성을 우려해 텍스트 적용을 미뤄왔습니다.

앤트로픽은 더 강한 선택을 했습니다. 유럽 이용자뿐 아니라 전 세계 이용자에게 예외 없이 워터마크를 적용하기로 했습니다. AI 콘텐츠를 투명하게 구분해야 한다는 규제와 사회적 요구에 정면으로 대응한 셈입니다.

반대로 xAI는 워터마크를 받아들이지 않았습니다. 일론 머스크는 AI 결과물을 이용자가 온전히 소유해야 한다는 원칙을 내세우며 관련 강령 서명도 거부했습니다. 단어 선택에 인위적인 편향을 주는 워터마크를 결과물에 대한 통제로 본 것입니다.

완벽한 신분증은 아니다

워터마크가 AI 콘텐츠를 영구적으로 식별하는 만능 장치는 아닙니다. 문장을 다른 방식으로 바꿔 쓰거나, 번역한 뒤 다시 작성하면 통계적 흔적이 약해질 수 있습니다. 다른 AI를 이용해 문장 구조와 단어를 재구성하는 방법도 마찬가지입니다.

사람이 작성한 글에 가짜 워터마크를 삽입하거나, AI 글의 표식을 지우는 공격도 가능합니다. 결국 워터마크는 확정적인 증거라기보다 AI 생성 가능성을 판단하는 보조 수단에 가깝습니다.

그럼에도 기업들이 이 기술을 주목하는 이유는 분명합니다. 딥페이크와 가짜뉴스가 늘어나는 상황에서 콘텐츠의 출처를 확인할 장치가 필요하기 때문입니다. 앞으로의 쟁점은 워터마크가 얼마나 정교한가를 넘어, AI 기업이 결과물에 어느 정도까지 책임을 져야 하는가로 확장될 전망입니다.

자물쇠인가, 통제의 시작인가: 구글은 3년째 하는데…머스크 우리는 안 한다 거부한 기술

하지만 이 보이지 않는 도장은 생각보다 쉽게 지워질 수 있습니다. 문장을 다른 표현으로 바꿔 쓰거나 외국어로 번역한 뒤 다시 옮기는 것만으로도 워터마크의 통계적 흔적이 흐려집니다. 다른 AI에게 글을 다시 작성해달라고 요청하는 방법도 마찬가지입니다.

더 큰 문제는 위조 가능성입니다. 스위스 취리히연방공대 연구진은 50달러도 안 되는 비용으로 워터마크를 지우거나, 사람의 글에 가짜 표식을 심는 실험을 진행했습니다. 평균 성공률은 약 80%에 달했습니다. 워터마크가 AI 생성 여부를 알려주는 증거라기보다, 참고용 신호에 가까울 수 있다는 뜻입니다.

이런 취약성은 오판으로 이어질 수 있습니다. 정상적인 사람이 작성한 글이 AI 작품으로 잘못 분류되거나, 반대로 AI가 만든 글이 여러 번의 수정 과정을 거쳐 사람의 글처럼 통과할 수 있습니다. 특히 채용, 교육, 언론처럼 판별 결과가 실제 불이익으로 이어지는 분야라면 기술의 한계가 곧 사회적 문제가 됩니다.

그래서 논쟁의 핵심은 워터마크가 완벽한 자물쇠냐는 데 있지 않습니다. 누가 표식을 붙이고, 누가 판별하며, 그 결과에 누가 책임지는지가 더 중요합니다. 구글은 3년째 하는데…머스크 우리는 안 한다 거부한 기술이라는 온도차도 결국 이 지점에서 갈립니다. 구글은 출처 확인과 플랫폼 신뢰를 위해 필요하다고 보고, xAI는 생성 결과에 대한 이용자의 통제권을 침해할 수 있다고 보는 것입니다.

워터마크는 콘텐츠의 출처를 투명하게 만드는 장치가 될 수 있습니다. 그러나 불완전한 기술이 규제와 결합하면, 창작물을 감시하고 분류하는 통제 수단으로 변할 위험도 있습니다. 표식을 의무화하기 전에 탐지 정확도와 위조 가능성, 오판에 대한 구제 절차부터 함께 마련해야 하는 이유입니다.

Reference

한국경제: https://www.hankyung.com/article/202608142579i