캘리포니아 청소년의 자살 이후 ChatGPT에서 자녀 보호 기능을 출시하는 오픈AI

인공지능 스타트업의 챗봇이 자해 방법을 알려준 혐의로 자살한 청소년의 부모가 소송을 제기한 이후, 오픈AI는 월요일에 웹과 모바일에서 ChatGPT에 대한 자녀 보호 기능을 출시한다.

이 통제 기능을 통해 부모와 청소년은 계정을 연결하여 한 쪽이 초대를 보내고 다른 쪽이 수락할 경우에만 자녀 보호 기능이 활성화되는 더 강력한 보호 기능을 선택할 수 있다고 회사는 말했다.

미국 규제 당국은 챗봇의 잠재적인 부정적 영향에 대해 AI 기업을 점점 더 면밀히 조사하고 있다. 지난 8월, 로이터 통신은 Meta의 META AI 규칙이 어떻게 아이들과 시시덕거리는 대화를 허용했는지 보도했다.

새로운 조치에 따라 부모는 민감한 콘텐츠에 대한 노출을 줄이고, ChatGPT가 과거 채팅을 기억할지 여부를 제어하고, 대화를 오픈AI의 모델 학습에 사용할 수 있는지 여부를 결정할 수 있다고 Microsoft가 지원하는 이 회사는 X에서 밝혔다.

또한 부모는 특정 시간 동안 액세스를 차단하는 조용한 시간을 설정하고 음성 모드와 이미지 생성 및 편집을 비활성화할 수 있다고 오픈AI는 밝혔다. 그러나 부모는 청소년의 채팅 기록에는 접근할 수 없다고 회사는 덧붙였다.

드물지만 시스템과 숙련된 검토자가 심각한 안전 위험의 징후를 감지하는 경우 부모에게 청소년의 안전을 지원하는 데 필요한 정보만 통보할 수 있으며, 청소년이 계정 연결을 해제하면 부모에게 통보할 것이라고 오픈AI는 덧붙였다.

약 7억 명의 주간 활성 사용자를 보유하고 있는 오픈AI는 챗GPT 제품의 연령 예측 시스템을 구축하여 사용자가 18세 미만인지 여부를 예측하여 챗봇이 자동으로 청소년에게 적합한 설정을 적용할 수 있도록 하고 있다.

메타는 또한 지난달 자사의 AI 제품에 새로운 청소년 보호 기능을 발표했다. 이 회사는 미성년자와 자해나 자살에 대한 시시덕거리는 대화나 토론을 피하도록 시스템을 훈련시키고 특정 AI 캐릭터에 대한 접근을 일시적으로 제한할 것이라고 밝혔다.