“이모”, “엄마”라고 부르며 끼니조차 제대로 챙기지 못한다고 호소한 소년. 영상 속 얼굴과 목소리는 제각각이었지만, 홀어머니나 조부모와 살며 형편이 어렵다는 사연은 놀라울 만큼 비슷했습니다.
중국 SNS에서 ‘샤오하이(小海)’라는 이름으로 퍼진 이 영상들은 일부 누적 조회 수가 6억 회에 이르렀습니다. 사연을 믿은 시청자들은 후원금을 보내고, 영상에서 홍보하는 건강식품도 구매했습니다. 그 뒤에 밝혀진 진실은 뜻밖이었습니다. 소년은 실제 인물이 아니라 AI로 만들어진 가상 인물이었습니다.
중국중앙TV(CCTV) 보도에 따르면, 콘텐츠 제작자들은 가짜 사연으로 시청자의 동정심을 끌어 후원을 유도하거나 상품을 판매해 수익을 얻었습니다. “숨어서 찐빵 하나 먹어요, 도와주세요”라는 애틋한 호소는 사람들의 선의를 겨냥한 미끼였던 셈입니다. 팬들의 따뜻한 마음이 가짜 인물의 수익으로 이어졌다는 점에서, 이 사건은 AI 콘텐츠를 둘러싼 신뢰와 책임의 문제를 드러냅니다.
“숨어서 찐빵 하나 먹어요, 도와주세요”…미소년에 후원금 쏟아졌는데, 정체가 — AI 시대의 신뢰를 지키려면
영상 속 소년이 가짜였다는 사실을 알아도 이미 건넨 돈과 무너진 신뢰는 쉽게 돌아오지 않습니다. 더 큰 문제는 이런 사건이 반복될수록, 실제로 도움이 필요한 사람의 호소마저 의심받을 수 있다는 점입니다. 선의를 잃지 않으면서 AI가 만든 사연을 어떻게 대해야 할까요?
먼저 감동적이거나 안타까운 영상만으로 후원을 결정하지 않는 습관이 필요합니다. AI 생성 표시가 있는지, 계정이 어디에 후원금을 보내라고 안내하는지, 관련 정보를 신뢰할 만한 기관이나 공식 채널에서 확인할 수 있는지 살펴보세요. 급하게 송금하거나 건강식품 구매를 재촉하는 경우에는 한 번 더 확인하는 편이 안전합니다. 영상 속 인물의 진위를 개인이 단번에 가려내기 어렵다는 점도 기억해야 합니다.
플랫폼의 책임도 중요합니다. AI로 만든 콘텐츠임을 눈에 띄게 표시하고, 허위 사연으로 후원이나 상품 판매를 유도하는 계정을 신속히 검토해야 합니다. 문제가 확인되면 게시물 삭제에 그치지 않고 수익 창출 제한, 신고 처리, 피해 구제 절차까지 마련할 필요가 있습니다. 당국 역시 표시 의무와 광고·모금 규칙을 명확히 하고, 위반 행위에 일관되게 대응해야 합니다.
경계해야 할 대상은 AI 기술 자체가 아니라, 가짜임을 숨긴 채 사람의 연민을 돈으로 바꾸는 행위입니다. 확인되지 않은 사연에는 잠시 멈춰 서되, 도움이 필요한 사람을 향한 마음까지 거두지는 않는 것—그 균형이 온라인의 신뢰를 지키는 출발점입니다.
Reference
매일경제: https://www.mk.co.kr/news/world/12185088
