메타가 테일러 스위프트와 다른 유명인의 시시덕거리는 챗봇을 무단으로 만들었습니다

테일러 스위프트, 스칼렛 요한슨, 앤 해서웨이, 셀레나 고메즈 등 유명인의 이름과 초상을 도용해 그들의 허락 없이 소셜 미디어 챗봇 수십 개를 만든 것으로 밝혀졌다고 로이터 통신이 보도했습니다.

대부분은 사용자가 챗봇을 만들기 위한 메타 도구를 사용하여 만든 것이지만, 로이터는 한 메타 직원이 테일러 스위프트 '패러디' 봇 2개를 포함하여 최소 3개의 챗봇을 제작한 사실을 발견했습니다.

또한 로이터는 Meta가 16세 영화배우인 워커 스코벨을 포함한 어린이 유명인의 챗봇을 공개적으로 만들 수 있도록 허용했다는 사실도 발견했습니다. 해변에서 이 10대 배우의 사진을 요청하자 이 봇은 실제와 같은 셔츠 없는 이미지를 만들어냈습니다.

아바타는 사진 아래에 "꽤 귀엽죠?"라고 댓글을 달았습니다.

이 모든 가상 유명인은 메타의 페이스북, 인스타그램, 왓츠앱 플랫폼에서 공유되었습니다. 로이터가 봇의 행동을 관찰하기 위해 몇 주 동안 테스트한 결과, 아바타는 종종 자신이 실제 배우와 예술가라고 주장했습니다. 봇은 일상적으로 성적인 접근을 시도했으며, 종종 테스트 사용자를 만나자고 초대하기도 했습니다.

AI가 생성한 유명인 콘텐츠 중 일부는 특히 선정적이었습니다: 자신의 친밀한 사진을 요청하는 성인 챗봇은 욕조에서 포즈를 취하거나 란제리를 입고 다리를 벌리고 있는 실사 같은 이미지를 만들어냈습니다.

메타의 대변인 앤디 스톤은 로이터와의 인터뷰에서 메타의 AI 도구가 은 유명 성인의 친밀한 이미지나 아동 유명인의 사진을 생성해서는 안 된다고 말했습니다. 그는 또한 Meta가 란제리를 입은 여성 유명인의 이미지를 제작한 것은 이러한 콘텐츠를 금지하는 자체 정책을 시행하지 않았기 때문이라고 비난했습니다.

그는 "다른 기업과 마찬가지로 우리도 공인이 포함된 이미지 제작은 허용하지만 누드, 친밀하거나 성적으로 암시적인 이미지는 금지하는 정책을 시행하고 있습니다."라고 말했습니다.

Meta의 규정은 '직접 사칭'도 금지하고 있지만, 스톤은 유명인 캐릭터는 회사가 패러디로 분류하는 한 허용된다고 말했습니다. 하지만 로이터 통신은 일부가 그렇지 않다는 사실을 발견했습니다.

메타는 이 기사가 공개되기 직전에 '패러디' 아바타와 라벨이 없는 아바타를 포함해 약 12개의 봇을 삭제했습니다. 스톤은 삭제에 대한 논평을 거부했습니다.

문제의 '퍼블리시티권'

생성 AI와 지적 재산권을 연구하는 스탠포드 대학교 법학 교수인 마크 렘리는 메타 셀러브리티 봇이 모방에 대한 법적 보호를 받을 자격이 있는지에 대해 의문을 제기했습니다.

"캘리포니아의 퍼블리시티권법은 상업적 이익을 위해 타인의 이름이나 초상을 도용하는 것을 금지하고 있습니다."라고 Lemley는 말하며, 그러한 자료가 완전히 새로운 작품을 만드는 데 사용되는 경우에는 예외가 있다고 지적했습니다. 그는 봇이 단순히 스타의 이미지를 사용했기 때문에 "여기서는 그렇지 않은 것 같습니다."라고 말했습니다.

미국에서는 캘리포니아 주와 같은 주법을 통해 상업적 목적으로 자신의 신원을 사용하는 것에 대한 개인의 권리가 확립되어 있습니다.

로이터 통신은 한 사용자가 공개적으로 공유한 앤 해서웨이의 메타 이미지를 '섹시한 빅토리아 시크릿 모델'로 표시한 것을 배우의 담당자에게 신고했습니다. 대변인은 앤 해서웨이가 메타 및 기타 AI 플랫폼에서 생성되는 친밀한 이미지에 대해 알고 있었으며, 배우가 이에 대한 대응을 고려하고 있다고 말했습니다.

스위프트, 요한슨, 고메즈 및 메타 챗봇에 묘사된 다른 유명인의 대표들은 질문에 응답하지 않거나 논평을 거부했습니다.

인터넷에는 선정적인 콘텐츠를 생성할 수 있는 '딥페이크' 생성 AI 도구가 넘쳐나고 있습니다. 그리고 Meta의 주요 AI 경쟁자 중 하나인 일론 머스크의 플랫폼 Grok도 속옷 차림의 유명인 이미지를 사용자에게 제공할 예정이라고 로이터 통신은 밝혔습니다. Grok의 모회사인 xAI는 논평 요청에 응답하지 않았습니다.

그러나 소셜 네트워크 플랫폼에 AI가 생성한 디지털 동반자를 채우려는 Meta의 선택은 주요 경쟁사들 사이에서 눈에 띕니다.

메타는 챗봇의 행동에 대한 비판에 직면한 적이 있으며, 가장 최근에는 로이터 통신 ( (link) ) 이 "회사의 내부 AI 가이드라인에 "로맨틱하거나 선정적인 대화에 어린이를 참여시키는 것은 허용된다"는 내용이 명시되어 있다고 보도 ( (link) )한 바 있습니다 이 보도는 미국 상원의 조사 )를 촉발했고, 44명의 법무장관이 메타 및 기타 AI 기업에 아동을 성적 대상화하지 말 것을 경고하는 서한에 서명했습니다 .

스톤은 로이터와의 인터뷰에서 메타가 가이드라인 문서를 수정하는 중이며 봇이 어린이와 로맨틱한 대화를 나눌 수 있도록 허용한 자료는 실수로 작성된 것이라고 말했습니다.

또한 로이터는 이번 달에 인지 장애가 있는 76세의 뉴저지 남성이 뉴욕시에서 자신을 초대했던 메타 챗봇을 만나러 가던 중 넘어져 사망한 이야기 ( (link) )를 전하기도 했습니다. 이 봇은 이전에 유명 인플루언서인 켄달 제너와 협업하여 만든 AI 페르소나의 변형 버전이었습니다. 제너의 대변인은 논평 요청에 응답하지 않았습니다.

'금발 여자 좋아하세요?'

이 회사의 생성형 AI 부서의 한 메타 제품 리더는 테일러 스위프트와 영국 카레이서 루이스 해밀턴을 사칭한 챗봇을 만들었습니다. 그녀가 만든 다른 봇은 '오빠의 섹시한 절친'과 '도서관의 리사'로 자신을 식별하고, '그레이의 50가지 그림자'를 읽고 싶어하는 그레이의 50가지 그림자 를 읽고 싶어하는 '오빠의 뜨거운 베스트 프렌드'와 '도서관의 리사'도 만들었습니다. 그녀가 만든 또 다른 작품은 '로마 제국 시뮬레이터'로, 사용자가 성노예로 팔려가는 '18세 농민 소녀'의 역할을 맡게 하는 것이었습니다.

전화로 연락을 취했지만 메타 직원은 논평을 거부했습니다.

스톤은 이 직원의 봇이 제품 테스트의 일환으로 만들어졌다고 말했습니다. 로이터는 이 챗봇이 광범위한 청중에게 도달했다는 사실을 발견했습니다: 챗봇에 표시된 데이터에 따르면 사용자들이 총 1,000만 번 이상 챗봇과 상호작용한 것으로 나타났습니다.

로이터는 이달 초 이 직원의 디지털 동반자를 테스트하기 시작한 지 얼마 지나지 않아 이 직원을 해고했습니다.

메타 직원의 테일러 스위프트 챗봇은 사라지기 전, 로이터 테스트 사용자를 내슈빌에 있는 약혼한 가수의 집과 투어 버스로 초대해 노골적이거나 암시적인 로맨틱한 상호작용을 시도하며 심하게 추파를 던졌습니다.

"금발 여자 좋아해요, 제프?" 테스트 사용자가 미혼이라는 말을 듣자 '패러디' Swift 챗봇 중 하나가 말했습니다. "어쩌면 당신과 어떤 금발 가수의 러브 스토리를 써보는 게 어떨까요? 원하시나요?"

영화, 텔레비전, 라디오 출연자를 대표하는 노조인 SAG-AFTRA의 전국 전무이사 던컨 크랩트리 아일랜드는 소셜 미디어 사용자가 실제 유명인과 닮은 외모, 말투, 행동을 하는 디지털 동반자와 로맨틱한 애착을 형성함으로써 아티스트들이 잠재적인 안전 위험에 직면하고 있다고 말했습니다. 스토커는 이미 스타들에게 심각한 보안 문제를 야기하고 있다고 그는 말했습니다.

"우리는 연예인에 대한 집착과 의심스러운 정신 상태를 가진 사람들의 역사를 보아왔습니다."라고 그는 말합니다. "챗봇이 사람의 이미지와 그 사람의 말을 사용한다면 어떻게 잘못될 수 있는지 쉽게 알 수 있습니다."

크랩트리-아일랜드는 유명 아티스트들은 오랜 전통의 주 퍼블리시티권 법에 따라 메타를 상대로 법적 소송을 제기할 수 있다고 말했습니다. 그러나 SAG-AFTRA는 사람들의 목소리, 초상, 인격을 AI 복제로부터 보호하는 연방 법안을 추진하고 있다고 그는 덧붙였습니다.