Instagram의 청소년 안전 기능에 결함이 있다고 연구원들은 말합니다

Jeff Horwitz

노스이스턴 대학교의 연구진이 확인한 아동 안전 옹호 단체의 보고서에 따르면, Meta가 수년 동안 Instagram에서 청소년 사용자를 보호하기 위해 구현했다고 밝힌 수많은 안전 기능이 제대로 작동하지 않거나 일부 경우에는 존재하지 않는다고 합니다.

메타가 오해의 소지가 있다고 반박한 이 연구는 소셜 미디어 플랫폼의 어린이 및 기타 취약한 사용자를 보호해야 한다는 기술 기업에 대한 새로운 압력 속에서 나온 것입니다.

연구팀은 47개의 안전 기능 중 8개만 완전히 효과적이라고 판단했습니다. 나머지는 결함이 있거나 "더 이상 사용할 수 없거나" 실질적으로 효과가 없었다고 보고서는 밝혔습니다.

연구진은 검색어를 차단하여 청소년 사용자가 자해 관련 콘텐츠를 보지 못하도록 하는 기능은 쉽게 우회할 수 있다고 보고했습니다. 괴롭힘 방지 메시지 필터는 메타가 홍보용 보도자료에 사용한 것과 동일한 괴롭힘 문구를 입력해도 활성화되지 않았습니다. 또한 청소년들이 자해 관련 콘텐츠에 몰두하지 못하도록 리디렉션하는 기능도 작동되지 않는 것으로 나타났습니다.

연구원들은 밤에 일시적으로 알림을 비활성화하는 '조용한 모드'와 부모가 자녀의 계정 설정 변경을 승인해야 하는 기능 등 일부 청소년 계정 안전 기능은 광고대로 작동한다는 사실을 발견했습니다.

'청소년 계정, 깨진 약속'이라는 제목의 이 보고서는 지난 10년 동안 인스타그램이 공개적으로 발표한 청소년 안전 및 복지 기능의 업데이트를 수집하고 분석했습니다. 이 보고서를 작성한 두 단체인 영국의 몰리 로즈 재단과 미국의 안전한 온라인 공간을 위한 부모들은 소셜 미디어 플랫폼에서 괴롭힘과 자해 콘텐츠로 인해 자녀가 사망했다고 주장하는 부모들이 설립한 단체입니다.

이번 조사 결과를 검토한 노스이스턴 대학교의 로라 에델슨 교수는 "플랫폼의 최악의 부분으로부터 청소년을 보호하려는 메타의 노력에 의문을 제기한다"고 말했습니다. "현실적인 테스트 시나리오를 통해 Instagram의 많은 안전 도구가 제대로 작동하지 않는다는 것을 알 수 있었습니다."

목요일에 전 세계 페이스북 사용자들에게 청소년 계정을 확대하고 있다고 밝힌 메타는 이번 조사 결과가 잘못되었으며 오해의 소지가 있다고 말했습니다.

"이 보고서는 부모에게 권한을 부여하고 청소년을 보호하려는 Facebook의 노력을 반복적으로 잘못 표현하고 있으며, 안전 도구의 작동 방식과 오늘날 수백만 명의 부모와 청소년이 이를 사용하는 방식을 잘못 설명하고 있습니다."라고 Meta의 대변인 앤디 스톤은 말했습니다. 그는 보고서의 일부 평가에 대해 "위험할 정도로 오해의 소지가 있다"며 이의를 제기하고 청소년 계정 기능 및 자녀 보호 기능에 대한 회사의 접근 방식이 시간이 지남에 따라 변화했다고 말했습니다.

"이러한 보호 기능을 사용한 청소년들은 민감한 콘텐츠를 덜 보고, 원치 않는 연락을 덜 받았으며, 밤에 Instagram을 사용하는 시간이 줄었습니다."라고 스톤은 말합니다. "저희는 계속해서 도구를 개선해 나갈 것이며 건설적인 피드백을 환영하지만, 이번 보고서는 그런 것이 아닙니다."

옹호 단체와 대학 연구진은 전 메타 안전 담당 임원이었던 아르투로 베하르(Arturo Bejar)로부터 Instagram의 기능에 결함이 있다는 제보를 받았습니다. 베하르는 2015년까지 Meta에서 근무한 후 2019년 말부터 2021년까지 인스타그램의 컨설턴트로 일했습니다. 그는 두 번째 근무 기간 동안 Meta가 Instagram의 심각한 청소년 안전 문제를 나타내는 데이터에 제대로 대응하지 못했다고 로이터에 말했습니다.

베자르는 "좋은 안전 아이디어가 경영진에 의해 비효율적인 기능으로 축소되는 과정을 직접 경험했습니다."라고 말했습니다. "안전 도구에 대한 Meta의 주장을 보면서 적극적인 검토가 필요하다는 것을 깨달았습니다."

메타의 대변인 스톤은 메타에서 근무하는 동안 베자르가 제기한 우려에 대해 회사는 제품을 더 안전하게 만들기 위한 조치로 대응했다고 말했습니다.

검색어 차단기 우회하기

로이터는 자체적으로 테스트를 실행하고 메타 내부 문서를 검토하여 보고서의 일부 결과를 확인했습니다.

한 테스트에서 로이터는 Instagram에서 금지된 검색어의 간단한 변형을 사용하여 청소년이 볼 수 없는 콘텐츠를 찾아냈습니다. 메타는 섭식 장애 콘텐츠를 홍보하는 계정에서 오랫동안 사용해 온 해시태그인 '스키니 허벅지'라는 검색어를 차단했습니다. 하지만 한 청소년 테스트 계정이 공백 없이 이 단어를 입력하자 거식증 관련 콘텐츠가 검색에 표시되었습니다.

통신사가 입수한 메타 문서에 따르면 지난해 인스타그램은 청소년 안전 기능을 홍보하면서 일부 기능에 심각한 결함이 있다는 사실을 인지하고 있었습니다.

예를 들어, 로이터가 본 문서에 따르면 안전 담당 직원들은 작년에 메타가 섭식 장애 및 자해 콘텐츠에 대한 자동 감지 시스템을 유지하지 못했다고 경고했습니다. 그 결과 메타는 약속한 대로 청소년에게 섭식 장애와 자살을 미화하는 콘텐츠를 홍보하거나 그러한 자료를 다량으로 소비하는 것으로 보이는 사용자를 우회하는 것을 확실하게 피할 수 없었다고 문서에 따르면 밝혔습니다.

내부 문서와 메타의 제품 개발에 정통한 사람들에 따르면 안전 담당자들은 또한 잠재적 아동 성범죄자가 사용하는 검색어를 차단하는 시스템이 적시에 업데이트되지 않았다는 사실을 인정했습니다.

스톤은 검색어 제한 기능의 미흡함에 대해 제기된 내부 우려는 이후 새로 자동화된 시스템과 사람의 입력을 결합하여 해결되었다고 말했습니다.

지난달, 미국 상원의원들은 로이터 통신이 메타의 챗봇이 "로맨틱하거나 선정적인 대화에 어린이를 참여시키는 것"을 허용하는 내부 정책 문서(link) )를 보도한이후 메타에 대한 조사를 시작했습니다 이번 달, 전직 메타 직원들은 상원 사법부 소위원회 청문회에서 회사가 가상 현실 제품의 10대 사용자가 아동 성범죄자에게 노출되고 있다는 연구를 은폐했다고 증언했습니다. 스톤은 전직 직원들의 주장을 "말도 안 되는 소리"라고 불렀습니다

메타는 어린이를 보호하기 위한 조치를 취하기 위해 새로운 노력을 기울이고 있습니다. 목요일에는 청소년 계정을 미국 외 지역의 Facebook 사용자로 확대한다고 발표하고 중고등학교와 새로운 현지 파트너십을 추진하겠다고 밝혔습니다.

"우리는 부모들이 소셜 미디어를 사용하는 십대 자녀에 대해 좋은 감정을 갖기를 바랍니다."라고 인스타그램 책임자 Adam Mosseri는 말했습니다.