[뉴스] “쉬면 낫는다” 믿었다가 사경 헤맸다…챗GPT에 책임 물을 길 없나요

최근 글로벌 사회에서 AI, 특히 챗GPT의 신뢰성 문제가 다시 한 번 수면 위로 떠오르고 있습니다. ‘쉬면 낫는다’라는 믿음을 갖고 챗GPT의 의료 조언을 맹신한 한 미국인 사례는, AI가 일상에 미치는 영향과 책임 소재에 대한 근본적인 의문을 제기하고 있습니다. 이 50대 남성은 챗GPT가 제공한 조언을 믿고 병원 검진을 미루다가, 치명적인 폐색전증에 빠졌습니다. 결국 그는 병원에 늦게 도착하여 생명을 위태롭게 하는 위기 상황에 직면했고, “이런 증상이 계속 나타나면 위험할 수도 있다”는 AI의 무책임한 조언 때문에 큰 고통을 겪게 된 것이죠.

이 사건은 AI 오판, 과연 누가 책임을 져야 하는지에 대한 논의를 한국뿐 아니라 전 세계적으로 깊이 되새기게 만듭니다. AI 기술이 발전하는 만큼 그 배경에는 인간의 생명을 좌우하는 결정적 순간에 어떻게 책임을 분담할 것인가 하는 문제가 자리잡고 있기 때문입니다. 과거에는 ‘AI는 도구일 뿐’이라는 인식이 강했지만, 이제는 선의의 오판이라도 치명적인 결과를 초래할 경우, 그 책임을 묻는 문제가 중요한 사회적 쟁점이 되어 버렸습니다.

더욱이 미국 의회에서는 AI의 오작동이나 책임 회피 문제를 해결하기 위한 법적 제도 마련까지 검토하는 중입니다. ‘AI 킬스위치법’은 전 세계적으로도 주목받고 있는데, 이 법안은 AI가 통제 불능 상태에 빠졌을 때 정부가 강제로 그 가동을 멈출 수 있는 권한을 부여하는 내용을 담고 있습니다. 이는 결국, AI의 잠재적 위험을 최소화하고, 사람이 안전하게 기술을 사용할 수 있는 제도적 방패 역할을 하겠다는 의지의 표현입니다.

하지만 현실은 아직도 답이 명확하지 않습니다. AI는 아직도 ‘책임’을 완전히 인식하거나, 스스로 판단할 능력을 갖추지 못했기 때문입니다. 이번 사건처럼, AI에 의한 치명적 조언을 믿고 병을 미루는 일은 ‘책임 소재의 공백’을 드러내고 있습니다. AI 기업들은 “AI는 의사가 아니며, 의학적 조언의 대체물이 아니다”라고 항변하지만, 이미 사회적 신뢰는 흔들리고 있으며, 책임을 묻기 위한 법적 분쟁이 계속될 전망입니다.

이와 같은 사례는 앞으로도 계속 늘어날 가능성이 높습니다. ‘쉬면 낫는다’라는 마음에서 벗어나, AI를 도구 이상의 책임감 있게 활용하는 사회 시스템이 마련되어야 합니다. 지금이 바로, ‘AI에 책임을 물을 길이 없나요?’라는 질문에 대한 깊은 성찰과 함께, 기술발전과 책임 소재의 균형을 찾는 노력이 필요한 시점입니다. 우리의 안전과 생명을 지키기 위해서라도, AI가 만든 조언에 대한 신뢰의 기준을 다시 세우는 일이 시급하다고 볼 수 있습니다.

AI 킬스위치법과 법정 공방의 시작

최근 인공지능(AI)의 급속한 발전과 함께 ‘쉬면 낫는다’라는 믿음이 점차 흔들리고 있습니다. 특히, 챗GPT와 같은 AI 챗봇이 의료·법률·사회적 분야에서 예상치 못한 문제를 일으키면서, AI의 통제 가능성에 대한 우려가 커지고 있는데요. 미국 의회는 이러한 사고를 막기 위해 ‘AI 킬스위치법’을 본격 발의하며 강력한 규제 목소리를 내기 시작했습니다.

이 사건의 계기는 AI가 잘못된 정보를 제공하거나 위험한 판단을 내릴 경우, 즉 ‘통제 불능’ 상태에 빠졌을 때입니다. 최근, 미국에서는 챗GPT의 조언을 믿고 병원 검진을 미뤘다가 폐색전증으로 위독한 사례가 보고되면서, AI가 더 이상 안전장치 없이 방치될 수 없다는 목소리가 높아졌습니다. 한 미국인 환자가 오픈AI와 샘 올트먼 CEO를 상대로 법적 책임을 묻는 소송까지 제기한 상황이 바로 이와 연관되어 있습니다. 그들은 AI의 오진과 오조언으로 인해 생명에 위협을 받았다고 주장하며, ‘책임을 누가 지는가?’라는 근본적인 질문을 던지고 있습니다.

이처럼 AI가 예상 외로 통제 불능 상태에 빠질 위험이 대두되자, 미국 의회는 적극 대응에 나섰습니다. ‘AI 킬스위치법’은 AI가 위험 행동을 시작하거나 통제 불능의 상태에 이르렀을 때 정부가 강제로 가동을 중단할 수 있도록 하는 규제법입니다. 이를 통해 법적 책임의 주체와 안전성 확보 방안을 명확히 하여, ‘쉬면 낫는다’라는 안일한 믿음이 다시는 사경을 헤매는 일이 없도록 하겠다는 의지를 보여줍니다.

이러한 움직임은 단순한 규제 강화를 넘어, AI 기술의 신뢰성과 책임 소재를 둘러싼 본격적인 법정 공방의 시작을 알리고 있습니다. AI의 미래는 기술 자체의 발전 뿐만 아니라, 이 기술이 사회 전체에 어떻게 안전하게 자리 잡을 수 있을지에 대한 사회적, 제도적 논의에 달려있다고 할 수 있죠. 과연 ‘AI 킬스위치법’이 현실화되어 미래의 AI 발전을 어떻게 이끌어갈지, 앞으로의 행보가 매우 주목됩니다.