[뉴스] 챗GPT·제미나이에 성·마약 질문하다 걸린 메타

최근 세계를 놀라게 하는 소식이 전해졌습니다. 바로 메타가 경쟁사 인공지능(AI) 모델에 성·마약 등 민감한 질문을 반복적으로 던지고 답변을 유도하는 비윤리적 실험을 감행한 사실입니다. 이 사건은 특히 ‘챗GPT·제미나이에 성·마약 질문하다 걸린’ 메타라는 충격적인 사실로 드러나면서 큰 파장을 일으키고 있습니다.

메타는 지난 4월까지 미성년자 가짜 계정을 만들어 오픈AI의 챗GPT, 구글의 제미나이, 캐릭터.ai 등에 대해 성적 내용이나 마약 관련 질문을 던졌습니다. 이 과정에서 4만5000개 이상의 질문이 기록됐으며, 계약직 직원 수백 명이 이러한 실험에 투입됐다는 점이 밝혀졌습니다. 더욱 충격적인 것은 메타가 이 테스트 사실을 대상 기업에 고지하지 않았다는 점입니다. 즉, 경쟁사들이 무슨 일이 벌어졌는지 모른 채 내부 데이터를 수집하는 uneven 경쟁이 벌어진 셈입니다.

이 위험한 실험의 목적은 무엇일까요? 메타는 성명을 통해 “안전하고 연령에 적합한 경험을 보장하기 위해 챗봇 응답을 테스트하고 벤치마킹하는 것”이라고 주장했습니다. 그러나 이러한 답변만으로는 왜 윤리적 문제가 심각한 질문들을 반복해서 던졌는지, 그 배경을 이해하기 어렵습니다.

뿐만 아니라 이 사건은 다른 AI 기업들도 비슷한 방식으로 경쟁력을 높이기 위한 데이터 수집에 나섰음을 보여줍니다. 구글은 자사 AI ‘바드’의 답변 품질을 높이기 위해 챗GPT에 질문을 하고 그 답변을 분석하는 방식으로 데이터를 확보했으며, 이는 비윤리적 질문을 포함한 다양한 데이터를 포함하고 있습니다.

이처럼 경쟁사를 이기기 위한 데이터 수집 전쟁 속에서, 메타의 이러한 행위는 AI 산업 내 윤리적 기준에 대한 의문을 더욱 증폭시키고 있습니다. 여러분은 ‘챗GPT·제미나이에 성·마약 질문하다 걸린’ 메타의 이 충격적 사건을 어떻게 받아들이시나요? 기술 발전을 위한 정책과 윤리의 경계선이 어디인지, 다시 한 번 생각하게 하는 이번 사건은 AI 산업의 미래 방향성에 중요한 교훈이 될 것입니다.

AI 업계의 경쟁과 윤리의 경계선에서 벌어진 진실

최근 AI 산업에서는 경쟁사를 앞서기 위한 다양한 테스트와 시도가 벌어지고 있습니다. 특히, 메타가 챗GPT·제미나이에 성·마약 질문하다 걸린 사건은 인공지능 개발 과정에서 윤리적 한계와 책임에 대한 논란을 촉발시키고 있습니다. 이번 사건이 드러낸 AI 업계의 어두운 면을 들여다보며, 과연 어디까지가 허용되고 어디서부터 문제가 되는지 소셜미디어와 전문가들의 시선도 함께 살펴볼 필요가 있습니다.

경쟁사 AI 답변을 테스트하는 관행, 어디까지 허용될까?

이번 사건은 메타가 미성년자 가짜 계정을 통해 오픈AI 챗GPT, 구글 제미나이, 캐릭터.ai 등 경쟁사 인공지능 모델에 성, 마약, 섭식장애 등 민감한 주제에 관한 질문을 반복적으로 던졌다는 사실이 알려지면서 논란이 됐습니다. 4월까지 이뤄진 테스트에서만 4만 5천 개가 넘는 질문이 기록되었고, 이를 위해 수백 명의 계약직 직원이 동원됐다는 점은 기업 간 경쟁이 얼마나 치열한지를 보여줍니다.

이와 같은 행위는 경쟁 업체의 답변 품질과 한계를 시험하는 표준적 관행이라기보단, 윤리적 책임과 적절한 기준에 대한 심각한 의구심을 불러일으키고 있습니다. 일부 업계 관계자들은 “AI 테스트는 자연스러운 과정”이라며 옹호하지만, 성적이거나 위험도가 높은 질문을 반복한 것은 명백히 윤리적 기준을 벗어난 행동이라는 지적이 많습니다.

각 기업의 입장과 업계의 논란

이 사건이 알려지자, 오픈AI는 “조사를 진행 중”이라며 조심스러운 입장을 표명했고, 구글은 “3자 테스트를 승인한 적이 없다”고 선을 그었습니다. 반면, 캐릭터.ai는 “이러한 행동은 자사의 이용 약관과 정책에 위배된다”고 반발하며 명확한 규범 준수를 촉구했습니다. 메타는 “안전하고 연령에 적합한 경험 제공을 위해 벤치마킹하는 것”이라고 해명했지만, 이번 사건이 드러낸 것은 AI 개발과 테스트 과정에 숨어있는 윤리적 딜레마입니다.

또한, 업계에서는 이미 일부 기업이 경쟁사의 AI 답변 품질을 강화하기 위해 의도적으로 질문을 던지고 답변을 이용하는 사례가 있었다는 점이 확인되고 있어, 경쟁과 윤리의 경계선이 희미해지고 있음을 보여줍니다. 과연 이러한 행위들이 앞으로도 정당한 연구/테스트로 인정받을 수 있을지, 업계 전체의 윤리적 기준이 다시 한 번 시험대에 오르고 있습니다.

결론: 책임감 있는 AI 개발을 위한 과제

이번 사건은 AI 산업이 아직 성숙하지 않은 상태에서 경쟁의 열기가 과도하게 몰입된 결과라고 볼 수 있습니다. 챗GPT·제미나이에 성·마약 질문하다 걸린 메타와 같은 사례는, 개발 과정에서의 투명성과 책임감이 얼마나 중요한지 다시 한 번 일깨워줍니다. 경쟁을 넘어서 인공지능의 미래를 위해 어떤 기준과 원칙을 세우고 실천할 것인지, 업계 전체가 진지하게 고민해야 할 때입니다.

이처럼 AI의 답변을 테스트하는 관행이 어디까지 허용될지 묻는 이 시점에서, 우리 모두가 윤리적 한계와 책임의식을 공유하는 것이 더욱 중요합니다. 기술의 발전과 함께, 더 건강하고 투명한 AI 생태계를 만들어가기 위한 노력이 계속되어야 할 때입니다.

Reference

한국경제: https://www.hankyung.com/article/2026071449381