EU는 아동 성적 학대 콘텐츠의 인터넷 시청을 줄이기 위한 새로운 앱 제작을 위해 1.8만 파운드의 자금을 제공합니다.

불법 이미지에 대한 매력으로 도움을 요청한 자원 봉사자들에게 그들의 갈망에 굴복할 수 없는지 확인하기 위해 테스트될 것입니다.

전화와 같은 장치에 설치하면 프로그램이 불쾌한 이미지 및 비디오 표시를 인식하고 방지합니다.

아동 학대 사진에 대한 "증가하는 수요"를 줄이는 데 도움이 될 것으로 믿어집니다.

EU와 영국의 조직이 Protech 프로젝트에 힘을 합쳤습니다.

인공 지능을 사용하여 잠재적인 음란 정보를 식별하고 사용자가 볼 수 없도록 하는 이 프로젝트의 Salus 앱은 실시간으로 작동하도록 설계되었습니다.

아동 학대 자료를 찾고, 표시하고, 제거하는 조직인 Internet Watch Foundation은 영국 회사 SafeToNet이 개발한 AI 기술을 교육하는 데 도움을 줄 것입니다.

법 집행 기관에서 19년 동안 일한 SafeToNet의 Tom Farrell은 BBC에 앱이 사용자를 경찰에 신고하기 위한 도구가 아니라고 말했습니다. 법 집행 기관에 신고할 것이라고 믿는 경우 그러한 솔루션을 사용하지 마십시오."

광고

'실질적인 도움'

앱을 다운로드하는 자원봉사자는 온라인 아동 학대 이미지에 끌리기 때문에 도움을 구하는 개인과 협력하는 조직을 통해 모집됩니다.

그러한 조직 중 하나는 영국의 자선 단체인 Lucy Faithfull Foundation으로, 불법 이미지를 다운로드할 것을 두려워하고 중단하고자 하는 사람들을 위한 헬프 라인을 운영합니다. 여기에는 소아성애자임을 인정하는 상당수의 사람들이 포함되며, 그 중 일부는 이미 유죄 판결을 받았습니다.

재단의 Donald Findlater는 새로운 앱과 같은 도구가 개인이 자신의 행동을 통제하는 데 도움이 될 수 있다고 말하며 "자신의 취약성을 인식하는 사람들에게 실질적인 도움이 됩니다"라고 덧붙였습니다.

Protech 프로젝트의 구성원은 "온라인 아동 성적 학대 자료에 대한 수요 증가"를 막을 수 있기를 바랍니다.

NSPCC에 따르면 30,925/2021년에 어린이의 외설적인 이미지를 소지하고 공유하는 것과 관련된 범죄가 2022건으로 최고치를 기록했습니다.

작년에 신고 경찰 재단 싱크탱크는 온라인 아동 성학대 범죄의 양이 "단순히 국제적으로 대응할 수 있는 법 집행 기관의 능력을 압도했다"고 말했습니다.

BBC와 인터뷰한 프로젝트 멤버들은 치안만으로는 사람들이 이미지를 다운로드하는 것을 막을 수 없다고 제안했습니다.

Farrell 씨는 영국이 2014년 이후 세계 어느 나라보다 아동 성학대 자료 소지 혐의로 더 많은 개인을 체포했으며 그 과정에서 일부 매우 심각한 범죄자를 식별했다고 주장합니다.

그러나 수백만 명의 사람들이 여전히 이미지를 봅니다.

"그래서 체포가 해결책이 될 수는 없습니다. 우리는 예방 측면에서 노력하고 수요를 줄이고 접근성을 줄일 수 있다고 생각합니다."

'파일럿 스테이지'

앱 작동에 대한 많은 세부 사항을 아직 해결해야 합니다. 어떤 AI도 완벽하지 않으며 장치의 합법적인 사용을 어렵게 만드는 과도한 차단과 많은 남용 이미지를 감지하지 못하는 과소 차단 사이에서 균형을 맞춰야 합니다.

Farrell은 이 앱이 독일, 네덜란드, 벨기에, 아일랜드 공화국, 영국 등 180개국에서 11개월 동안 최소 XNUMX명의 사용자를 대상으로 "파일럿 단계"에서 테스트될 것이라고 말했습니다.

그리고 프로젝트에 참여하지 않은 전문가들은 아이디어가 가능성이 있다고 생각합니다.

Nottingham Trent University의 Belinda Winder 교수는 "건강하지 못한 욕구를 억제하는 데 도움을 받고자 하는 사람과 이 안전망의 혜택을 받을 수 있는 사람"을 지원할 수 있는 개발은 환영할 만한 일이라고 말했습니다.

모든 새로운 기술 도구와 마찬가지로 악마는 세부 사항에 있으며 Winder 교수는 그것이 실제로 어떻게 작동하는지에 대해 질문했지만 "올바른 방향으로 나아가는 긍정적인 단계입니다."라고 말했습니다.

이 기사 공유