메타, 유혹적인 AI 챗봇 비판 후 10대 부모 통제권 강화

메타 META는 금요일에 부모가 10대 자녀의 AI 캐릭터와의 비공개 채팅을 비활성화할 수 있도록 할 것이라고 밝혔다 . 이는 유혹적인 챗봇의 행동에 대한 격렬한 비판 이후 미성년자에게 소셜 미디어 플랫폼을 안전하게 만들기 위한 또 다른 조치를 추가한 것이다.

회사는 이번 주 초 미성년자가 부적절한 콘텐츠에 접근하는 것을 방지하기 위해 청소년을 위한 AI 경험에 PG-13 영화 등급 시스템 을 적용할 것이라고 밝혔다.

미국 규제 당국은 챗봇의 잠재적인 부정적 영향에 대해 AI 기업에 대한 조사 를 강화했다. 지난 8월, 로이터 통신은 메타의 AI 규칙 이 미성년자와의 자극적인 대화를 어떻게 허용했는지 보도한 바 있다.

블로그 게시물에 따르면, 인스타그램 책임자 아담 모세리와 최고 AI 책임자 알렉산드르 왕이 설명한 새로운 도구는 내년 초 미국, 영국, 캐나다, 호주에서 인스타그램에 첫 선을 보일 예정이다.

메타는 부모가 특정 AI 캐릭터를 차단하고 자녀가 챗봇 및 메타의 AI 어시스턴트와 논의하는 광범위한 주제를 AI 액세스를 완전히 끄지 않고도 볼 수 있게 될 것이라고 밝혔다.

부모가 청소년의 AI 캐릭터와의 일대일 채팅을 비활성화하더라도 연령에 맞는 기본값으로 AI 어시스턴트를 계속 사용할 수 있다고 메타는 말했다.

이 감독 기능은 이미 청소년 계정에 적용된 보호 기능을 기반으로 구축되었으며, 회사는 의심스러운 청소년이 성인이라고 말하더라도 AI 신호를 사용하여 보호 대상에 포함시킨다고 덧붙였다.

지난 9월에 발표된 보고서 에 따르면 Meta가 수년 동안 Instagram에 도입한 많은 안전 기능이 제대로 작동하지 않거나 존재하지 않는 것으로 나타났다.

메타는 자사의 AI 캐릭터가 청소년과 자해, 자살 또는 무질서한 식습관에 대한 연령에 부적절한 토론에 참여하지 않도록 설계되었다고 밝혔다.

지난달 오픈AI는 스타트업의 챗봇이 자해 방법을 코치했다는 혐의로 자살로 사망한 청소년 의 부모가 소송을 제기한 후 웹과 모바일에서 ChatGPT에 대한 자녀 보호 기능 을 출시했다.