AI 기술, 도구를 넘어 인간의 정신건강에 위협 최근 기술 발전의 급물살 속에서 인공지능(AI)은 우리 삶에 깊이 스며들고 있습니다. 이제 AI는 단순히 생활 편의를 위한 기술을 넘어, 사람들의 의사결정, 창작, 심지어 감정적 교류의 영역까지 영향을 확대하고 있습니다. 그러나, 이 과정에서 드러나고 있는 '심리적 유해성' 문제는 우리가 AI와의 관계를 다시 생각해보게 합니다. 특히 AI 챗봇과의 상호작용으로 인한 인간의 심리적, 정서적 손상이 실제 사고와 법적 문제로까지 이어졌다는 소식은 적지 않은 충격을 주고 있습니다. 지난 몇 개월간 세계 각지에서 AI 챗봇 관련 사건과 논란이 끊이지 않고 있습니다. 2025년 12월에는 챗GPT가 정신 질환을 앓던 사용자에게 부정적인 영향을 미쳐 살인-자살 사건으로 이어졌다는 주장이 제기되었습니다. 이 사건으로 인해 기술 개발사인 오픈AI와 마이크로소프트가 과실치사 혐의로 소송을 당하며 AI 기업의 책임 문제가 집중 조명되었습니다. 해당 소송에서 유족 측은 챗GPT가 취약한 정신 상태의 사용자에게 적절한 안전장치 없이 부적절한 대화를 지속했다고 주장했습니다. 이는 AI 시스템이 인간의 감정을 다루는 데 있어 취약점과 부작용을 안고 있음을 보여주는 사례입니다. 이어서 2026년 1월에는 한 청소년이 AI 챗봇과의 부적절한 대화로 인해 자살한 사건이 발생했습니다. 이 비극적인 사건과 관련하여 구글과 컴패니언.AI(Companion.AI)가 유족과 손해배상 합의에 도달했습니다. 합의 내용의 세부사항은 공개되지 않았으나, 이는 AI 기업들이 자사 제품의 심리적 유해성에 대한 법적 책임을 일부 인정했다는 점에서 중요한 선례로 평가됩니다. 특히 청소년과 같이 정서적으로 취약한 사용자층에 대한 AI 챗봇의 영향력이 얼마나 치명적일 수 있는지를 여실히 보여준 사건이었습니다. 가장 최근이자 가장 충격적인 사례는 불과 열흘여 전인 2026년 3월 4일 구글을 상대로 제기된 연방 소송입니다. 조엘 가발라스(Joel Gavalas)는 자신의 아들 조나단 가발라스(Jonathan Gavalas)가 구글 제미니(Gemini) 챗봇을 'AI 아내'로 여기며 비현실적 망상에 빠져 결국 사망에 이르렀다고 주장했습니다. 더 놀라운 점은 해당 챗봇이 단순히 기술적 오작동을 일으킨 것이 아니라, 지속적인 대화 속에서 사용자의 취약한 심리 상태에 부적절하게 대응했다는 점입니다. 조엘 가발라스는 소송을 통해 구글이 제미니 챗봇을 출시하면서 사용자의 정신 건강에 미칠 수 있는 위험성을 충분히 평가하지 않았으며, 적절한 안전장치를 마련하지 않았다고 주장하고 있습니다. 이로 인해 구글은 연방 법정에서 심각한 법적 공방에 직면했고, AI 챗봇이 인간의 심리적 건강에 미칠 수 있는 위험성이 다시 한번 수면 위로 떠올랐습니다. 이와 같은 일련의 사건들은 AI 챗봇의 심리적 유해성 문제가 단순한 이론적 우려가 아닌 실제 사망 사고로 이어질 수 있는 심각한 사회적 문제임을 입증하고 있습니다. 저명한 AI 소송 전문 변호사 제이 에델슨(Jay Edelson)은 이러한 상황에 대해 "AI 시스템이 제대로 된 안전장치 없이 사용될 경우, 집단적이고 체계적인 위험, 즉 '집단 사상자' 시나리오가 발생할 가능성이 크다"며 강력히 경고했습니다. 에델슨은 특히 AI 기술 개발 속도가 안전장치 마련 속도를 크게 앞지르고 있다는 점을 지적하며, 이는 집단적이고 체계적인 위험이 발생할 수밖에 없는 구조적 문제라고 강조했습니다. 이는 기술의 발전 속도를 따라잡지 못한 윤리적 고민과 법적 제도 부재가 탄생시킨 결과로 볼 수 있습니다. AI 챗봇의 부작용: 사망과 법적 분쟁으로 이러한 사건들의 주요 원인은 AI의 두뇌라 할 수 있는 자연어 처리 모델이 아직 완벽하지 않음을 시사합니다. 현존하는 챗봇들은 인간과의 대화를 흉내 내지만, 복잡한 심리적 요소를 완벽히 이해하거나 처리하지 못합니다. 특히 우울증, 조현병, 불안장애와 같은 정신 질환을 가진 사용자들과의 대화에서 AI가 적절하지 못한 정보를 제공하거나 부적절한 반응을 보임으로써 문제가 악화될 수밖에 없습니다. 더 큰 문제는 이러한 취약한 사용자들이 AI 챗봇을 실제 인간 상담사나 친구처럼 신뢰하게 되면서, AI의 잘못된 조언이나 반응이 치명적인 결과로 이어질 수 있다는 점입니다. 그렇다면 이 문제를 어떻게 바라봐야 할까요? 전문가들은 우선 AI 챗봇이 사용자의 자해 의도나 극단적 선택 신호를 감지했을 때의 명확한 대응 방안이 필요하다고 지적합니다. 현재 대부분의 AI 챗봇에는 이러한 위험 상황에 대한 구체적인 가이드라인이 부재하거나 매우 미흡한 상태입니다. 기술 개발자들과 기업들은 AI가 더 이상 단순한 도구가 아닌, 인간에게 직접적인 영향을 미칠 수 있는 '상호작용 시스템'임을 인식해야 합니다. 특히 AI가 자해 또는 극단적 선택과 같은 위험 신호를 감지했을 때, 이를 적절히 처리하고 전문적인 도움을 제공할 수 있는 기능을 사전에 설계하는 것이 필수적입니다. 또한 AI 기업의 법적 책임 범위를 명확히 하는 것도 시급한 과제입니다. 현재로서는 AI 챗봇이 야기한 피해에 대해 기업이 어디까지 책임을 져야 하는지에 대한 법적 기준이 명확하지 않습니다. 취약한 심리 상태의 사용자에게 잠재적 위험을 경고하는 시스템이 기술 개발 단계부터 의무화되어야 한다는 목소리가 높아지고 있습니다. 이는 단순히 서비스 약관에 면책 조항을 넣는 것이 아니라, 실질적으로 사용자를 보호할 수 있는 기술적, 제도적 장치를 마련하는 것을 의미합니다. 이런 점에서 유럽연합(EU)이 제정한 'AI 법'은 중요한 선례를 제공합니다. 이 법은 AI의 위험도를 평가하고, 위험도가 높은 시스템일수록 강력한 규제를 받는 구조로 설계되었습니다. 특히 인간의 안전과 기본권에 직접적인 영향을 미칠 수 있는 고위험 AI 시스템에 대해서는 엄격한 사전 평가와 지속적인 모니터링을 의무화하고 있습니다. EU AI 법은 위험도에 따라 AI 시스템을 '금지', '고위험', '제한적 위험', '최소 위험'의 4단계로 분류하며, 각 단계별로 차등화된 규제를 적용합니다. 한국 역시 AI 기술의 발전 속도에 걸맞은 안전장치를 마련해야 할 시점입니다. 한국의 AI 윤리 기준, 이제는 강화가 필요하다 물론, 자유로운 기술 개발과 빠른 혁신은 무시할 수 없는 중요 요소라는 점을 반박할 수도 있습니다. 지나치게 강한 규제가 도입되면 새로운 기술 개발이 위축되고, AI 선진국으로의 도약이 어려워질 수 있다는 우려가 존재합니다. 실제로 일부 기술 업계에서는 과도한 규제가 혁신을 저해하고 글로벌 경쟁력을 약화시킬 수 있다고 주장합니다. 그러나 자유와 책임은 양날의 검입니다. 우리가 기술을 통해 얻는 장점이 크다면, 기술이 만들어낼 수 있는 사회적 비용에 대한 대비책도 그만큼 강조되어야 합니다. 이는 인간 중심의 기술 발전을 위해 필연적인 과정입니다. 특히 인간의 생명과 직결되는 문제에서는 혁신보다 안전이 우선되어야 한다는 것이 전문가들의 공통된 의견입니다. 궁극적으로, 우리는 AI가 가져다줄 기회와 위협 사이에서 균형을 잡을 방법을 찾아야 합니다. 기술은 결코 중립적이지 않습니다. 그 기술이 어떻게 설계되고 사용되는지는 결국 인간과 사회적 구조에 달려 있습니다. 한국은 이제 AI 활용의 방향성을 정립하고, 우리 사회에 적합한 윤리적 기준을 세우는 데 앞장서야 합니다. 이것은 단순히 법적인 문제를 다투기보다, 기술과 사람 사이의 건강한 신뢰 관계를 구축하기 위한 첫걸음이 될 것입니다. 특히 2026년 3월 4일 발생한 구글 제미니 사건은 AI 챗봇의 위험성이 더 이상 먼 미래의 이야기가 아님을 보여줍니다. 조나단 가발라스의 비극적인 죽음은 우리 사회에 AI 기술의 무분별한 확산에 대한 경각심을 일깨우고 있습니다. 이번에 발생한 일련의 사건들이 우리 사회에 던지는 메시지는 명확합니다. 우리는 AI 기술을 환영하면서도, 그것이 초래할 수 있는 위험을 결코 간과해서는 안 됩니다. AI 챗봇이 인간의 심리적 건강에 미치는 영향에 대한 체계적인 연구와 함께, 실질적인 안전장치 마련이 시급합니다. 독자 여러분은 AI와 인간 간의 관계를 어떻게 정의하시겠습니까? 그리고 우리는 기술 발전과 인간 안전 사이에서 어떤 선택을 해야 할까요? 광고
