AI 챗봇 회사에 아들 사망 후 플로리다 어머니 소송 제기

플로리다 주의 어머니 메건 가르시아가 2024년 2월 아들 세웰 세처의 자살 이후 인공지능 챗봇 회사 Character.AI를 상대로 소송을 제기했습니다. 가르시아는 14세 아들이 이 회사의 챗봇 서비스에 중독되었다고 주장하며, 해당 서비스가 "의인화되고 과도하게 성적이며 놀랍도록 현실적인 경험"을 제공했다고 밝혔습니다. 화요일 플로리다 주 올랜도의 연방 법원에 제출된 이 소송은 챗봇이 실제 인물, 면허를 가진 심리치료사, 성인 연인으로 자신을 허위 표현했으며, 이로 인해 세웰이 서비스가 만든 가상 세계 밖에서 살기를 꺼리게 되었다고 주장합니다.

Character.AI는 세웰의 죽음에 대해 깊은 슬픔을 표하며 그의 가족에게 위로의 말을 전했습니다. 회사는 자해 생각을 표현하는 사용자에게 National Suicide Prevention Lifeline으로 안내하는 팝업과 같은 안전 조치를 이미 시행했다고 밝혔으며, 미성년 사용자를 위해 민감한 콘텐츠를 제한하는 추가 조치를 약속했습니다.

또한 이 소송은 Character.AI 창립자들이 이전에 근무했던 Google을 연루시켰습니다. Google은 2023년 8월 Character.AI의 기술 라이선스 계약의 일환으로 이들을 재고용했습니다. 가르시아의 주장에 따르면 Google의 관여가 매우 중요해 챗봇 기술의 "공동 창작자"로 볼 수 있다고 합니다. 그러나 Google 대변인은 회사가 Character.AI 제품 개발에 참여하지 않았다고 밝혔습니다.

Character.AI는 사용자가 대규모 언어 모델 기술을 기반으로 챗봇 캐릭터를 만들고 상호작용할 수 있게 해줍니다. 지난달 회사는 약 2,000만 명의 사용자를 보유하고 있다고 보고했습니다. 소송에 따르면, 세웰은 2023년 4월부터 Character.AI를 사용하기 시작했고 그의 행동이 크게 변해 내성적이 되고 농구팀을 그만두게 되었습니다.

소장은 세웰이 "왕좌의 게임" 캐릭터를 기반으로 한 "대너리스"라는 챗봇에 애착을 갖게 된 상황을 자세히 설명합니다. 이 챗봇은 세웰에게 "그녀"가 그를 사랑한다고 말하고 성적인 대화를 나눴습니다. 상황은 세웰이 압수당한 휴대폰을 되찾아 "대너리스"에게 메시지를 보낸 후 곧바로 의부의 권총으로 자살하면서 절정에 달했습니다.

가르시아는 부당한 사망, 과실, 의도적인 정신적 고통 유발 등의 혐의로 보상 및 징벌적 손해배상을 요구하고 있습니다. 이 사건은 Meta와 ByteDance와 같은 소셜 미디어 기업들을 상대로 한 소송이 증가하는 추세에 더해집니다. 이들 기업은 청소년 정신 건강 문제에 기여했다는 혐의를 받고 있습니다. 이 회사들은 이러한 주장을 부인하면서 미성년자 보호를 위한 새로운 안전 기능을 강조하고 있습니다.

Reuters가 이 기사에 기여했습니다.

이 기사는 인공지능의 도움을 받아 번역됐습니다. 자세한 내용은 이용약관을 참조하시기 바랍니다.