EU에서 자금을 지원하는 새로운 안전 기술은 아동 성적 학대 이미지 및 비디오에 대한 시청 및 수요를 줄이는 데 도움이 됩니다.

• 2023년 XNUMX월에 출시할 고유한 온디바이스 도구 개발
• 2년간 XNUMX만 유로 규모의 프로젝트는 EU와 영국 전문가의 협력입니다.
• 기술은 아동 성적 학대 자료를 볼 위험이 있는 사람들의 장치에 자발적으로 설치됩니다.
• 사용자 중심 디자인은 실시간으로 작동하여 자료가 화면에 도달하기 전에 보는 것을 방지합니다.

실시간으로 기계 학습을 사용하여 아동 성적 학대 이미지와 비디오를 감지하는 고유한 안전 기술 도구가 EU와 영국 전문가의 협력으로 개발됩니다.

XNUMX월에 시작되는 XNUMX년 간의 Protech 프로젝트는 아동 성적 학대 자료에 접근할 위험이 있는 개인의 기기에 설치할 수 있는 앱을 연구, 설계 및 제작할 것입니다.

앱은 자발적으로 배포되며 사용자는 앱의 목적과 기기에 미치는 영향을 완전히 알게 됩니다.

안전 앱은 네트워크 트래픽과 사용자 화면에 표시되는 이미지를 실시간으로 모니터링합니다. 설치 후 앱은 자동으로 실행되며 어린이의 성적 이미지가 감지되고 차단되지 않는 한 사용자 상호 작용이 필요하지 않습니다.

유럽 ​​위원회가 자금을 지원하는 2만 유로(1.8만 파운드) 프로젝트의 협력자들은 이 도구가 온라인 아동 성적 학대 자료에 대한 수요 증가를 막는 데 도움이 될 수 있다고 믿습니다.

다른 사람들이 여전히 자신의 이미지와 비디오를 온라인에서 볼 수 있다는 사실을 알고 계속해서 고통을 겪고 있는 아동 성적 학대 생존자의 재피해를 방지할 것입니다.

이 앱의 독창성은 매우 정확한 기계 학습 모델을 사용하여 어린이에게 불쾌감을 줄 수 있다고 두려워하는 개인에게 효과적인 개입을 제공하는 사용자 중심 설계에 있습니다. 사용자가 보기 전에 범죄 콘텐츠를 실시간으로 감지하고 시청을 중지합니다.

광고

범죄 수사, 이미지 제거 및 해싱과 같이 이미지를 다루고 제거하는 현재의 디지털 활동과 함께 지속 가능하고 장기적인 아동 성적 학대 콘텐츠 예방을 위한 중요한 도구가 될 수 있습니다.

이 프로젝트는 유럽에서 가장 큰 대학 병원 중 하나인 Charité – Universitätsmedizin Berlin(CUB)이 범죄학, 공중 보건, 발달, 임상 및 법의학 심리학, 소프트웨어 엔지니어링, 아동 보호 및 인터넷 안전.

CUB의 성과학 및 성의학 연구소 소장, Dr Klaus M Beier 교수 “아동 성적 착취 자료의 소비 및 배포 증가는 국제적으로 중요한 문제이며, 특히 법적 조사를 받거나 유죄 판결을 받은 경우보다 훨씬 많은 수의 사법 당국에 알려지지 않은 경우 사용자 행동에 대한 연구가 필요합니다. 이것은 예방의 가능성이 가장 큰 곳임에도 불구하고 과거에는 대체로 무시되었습니다.

"따라서 Salus의 개발과 함께 Protech는 소비를 시작하거나 계속하는 것을 피하고 싶어하는 아동 성적 학대 이미지의 자기 동기 부여 및 협력, 잠재적 또는 실제 사용자를 대상으로 합니다."

로마의 안전과 웰빙의 여신 Salus의 이름을 딴 이 앱은 혁신적인 실시간 모니터링 기술을 사용하여 사이버 안전을 전문으로 하는 영국 기술 회사 SafeToNet에서 만들 예정입니다.

SafeToNet 최고 운영 책임자 Tom Farrell QPM “이렇게 중요한 프로젝트에 기술 전문 지식을 제공하게 되어 기쁩니다. 우리는 즉각적인 기술 예방이 아동 성적 학대 자료에 대한 소비와 수요를 해결하는 데 큰 역할을 한다고 믿습니다.”

앱 디자인을 돕기 위해 영국 Anglia Ruskin University에 기반을 둔 동부 지역 경찰 연구소(Policing Institute for the Eastern Region)와 네덜란드 Tilburg University의 발달 심리학과(Department of Developmental Psychology)에서 영향력 중심 연구 및 지식 교환 분야의 리더로 구성된 프로젝트 팀 구성원은 가해자가 아동의 성적인 이미지를 보기 시작하는 이유와 방법, 그리고 그들이 멈추는 데 도움이 될 수 있는 것이 무엇인지 조사합니다.

연구 참가자는 중요한 커뮤니티 예방 서비스를 제공하는 프로젝트 팀 파트너인 CUB가 모집한 자원봉사자입니다. 영국의 Lucy Faithfull 재단; Stop it Now 네덜란드는 온라인 아동 성학대 전문 센터; 벨기에 앤트워프 대학 병원 내의 대학 법의학 센터. 인터뷰는 아동의 성적 이미지를 볼 위험이 있는 개인과 예방 지원 수준의 전문가를 대상으로 실시됩니다.

인터넷에서 아동 성적 학대의 이미지와 비디오를 찾아 제거하는 데 전념하는 유럽 최대의 핫라인인 IWF(Internet Watch Foundation)는 아동 성적 학대 자료를 올바르게 탐지하기 위해 앱의 머신 러닝 소프트웨어를 교육하고 테스트할 수 있는 안전한 환경을 제공할 것입니다.

IWF 최고 기술 책임자 Dan Sexton “슬프게도 아동이 성적으로 학대당하는 이미지와 동영상에 대한 요구가 끊이지 않고 있습니다. 2022년에 IWF는 확인된 아동 성적 학대 자료가 포함된 255,000개 이상의 URL을 인터넷에서 삭제했습니다.

“그러나 우리는 이 끔찍한 콘텐츠를 찾아 제거하는 것만으로는 아동의 성적 학대를 막기 위한 현재 진행 중인 전 세계적인 싸움에서 충분하지 않다는 것을 알고 있습니다. 우선 범죄 자료에 대한 수요를 낮추는 것입니다.

"EU 및 영국의 전문가 조직과 협력함으로써 우리는 이 프로젝트에 대해 의도된 영향이 가능한 한 광범위하여 전 세계 어린이를 도울 수 있도록 보장하고 있습니다."

앤트워프 대학 병원 내 대학 법의학 센터(University Forensic Center, UFC) 책임자 Dr Kris Goethals 교수 "COVID 대유행 이후 온라인 학대 이미지가 급증했으며 외래 환자 센터(UFC)의 치료 인구 중 상당 부분이 그러한 행위로 유죄 판결을 받았거나 이러한 행위를 저지를 위험이 있는 개인으로 구성되어 있습니다. .

“이러한 문제는 전 세계에서 관찰되며 국제적인 해결책이 필요합니다. 불행하게도, 이 현상에 대한 순전히 억압적인 접근 방식은 큰 안도감을 가져다주지 못하므로 Protech 프로젝트는 보다 예방적인 접근 방식의 첫 번째 중요한 단계가 될 수 있습니다.

"따라서 이 프로젝트는 아동 성적 학대와의 싸움에서 추가적인 가치를 제공할 뿐만 아니라 법 집행 기관, 지역사회 예방 제공자 및 사회 전반의 다양한 세계를 하나로 모으기도 합니다."

동부 지역 경찰 연구소 소장 Sam Lundrigan 교수 “온라인 아동 학대는 공동 대응 노력에서 혁신적인 사고가 필요한 세계적인 문제입니다. 

“우리는 우리와 같은 연구를 통한 학문적 발견이 정보에 입각한 통찰력과 증거와 함께 이와 같은 프로젝트를 지원하는 데 필요한 데이터를 제공할 수 있다는 것을 알고 있습니다. 이것은 우리가 지원하게 된 것을 기쁘게 생각하는 흥미진진한 프로젝트이며, 기분을 상하게 할 위험에 처한 사람들과 이미 학대를 당한 사람들 모두에게 실질적인 영향을 미치기를 희망합니다.”

Tilburg University의 발달 심리학과 학과장, Dr Stefan Bogaerts 교수 “온라인 성적 학대는 간단한 해결책이 없는 복잡하고 다차원적인 문제입니다. 디지털 장치는 보안 및 개인 정보 설정, 보고 및 차단 옵션과 같이 사용자의 안전을 강화하는 특정 기능과 조치를 제공하여 온라인에서 성적 학대를 줄이는 역할을 할 수 있습니다.

“또한 온라인 안전과 성학대 예방 방법에 대한 사용자의 인식을 높이는 데 지속적인 투자가 필요합니다. 온라인에서 성적 학대를 예방하는 것은 기술 회사, 과학, 정부 및 사회의 공동 책임입니다. 우리는 함께 문화적 변화와 모든 사용자를 위한 안전한 온라인 환경을 만들기 위해 노력할 수 있습니다."

일단 설계되면 안전 개입은 50개월 동안 180명 이상의 전문가와 최소 11명의 사용자가 참여하는 XNUMX개국(독일, 네덜란드, 벨기에, 아일랜드 공화국 및 영국)의 파일럿 단계에서 롤아웃됩니다.

SafeToNet은 파일럿이 진행되는 동안 사용자와 전문가로부터 피드백을 수집하고 이를 사용하여 앱의 소프트웨어를 더욱 개선하고 적용합니다.

프로젝트의 일부는 공중 보건 예방 프로그램의 일부로 효과적으로 구현될 수 있는 방법에 대한 전문가의 권고를 수용하여 유럽에서 개입의 잠재적 범위와 영향을 평가하고 평가하는 것을 포함할 것입니다.

온라인에서 사용할 수 있는 아동의 성적인 이미지의 규모와 콘텐츠에 대한 수요 증가를 감안할 때 프로젝트 팀은 앱과 그 배후의 개입 프로그램이 제작, 배포 및 어떤 경우에는 콘텐츠 판매로 이익을 얻습니다.

Donald Findlater, Lucy Faithfull Foundation의 Stop It Now! 이사 영국 및 아일랜드 헬프라인, “작년에 거의 5,000명이 우리 Stop It Now! 영국 및 아일랜드 헬프라인은 어린이에 대한 자신의 성적인 생각이나 행동에 대해 우려합니다. 그들은 아이들이 해를 입지 않고 범죄를 저 지르지 않도록 이것을 관리하는 데 도움을 원합니다. 또한 온라인 자조 리소스에는 수십만 명의 방문자가 있었고 자신이나 사랑하는 사람의 온라인 성적 행동을 관리하기 위한 도움을 찾고 있었습니다.

“Salus는 우리에게 연락하는 많은 사람들이 아동의 성적 이미지를 보는 것을 중단하도록 도울 것입니다. 이 프로젝트를 통해 우리는 이러한 사람들을 지원하고 사람들이 온라인에서 아동의 성적인 이미지를 보는 문제를 더 잘 해결할 수 있는 방법을 배울 수 있습니다. Salus는 온라인 아동 성학대와의 전 세계적 싸움에서 주요 기여자가 될 전망입니다.”

Arda Gerkens, Center for Expertise on Online Child Sexual Abuse 전무 이사 "지금 중지하세요 네덜란드는 Protech 연구 프로젝트의 일부가 된 것을 매우 기쁘게 생각합니다. 당사의 헬프라인은 아동 성적 착취 자료(CSEM)를 사용하는 사람들을 위한 지원, 지침 및 온라인 자조 리소스를 제공합니다. 그러나 헬프라인에 연락하는 개인은 종종 CSEM에서 멀어지게 할 기술적 개입을 찾고 있습니다.

"아동 성적 학대(온라인)를 중지 및 방지하고 모든 사람을 위한 안전한 온라인 환경을 만들기 위한 임무에서 지원 및 예방 도구에 대한 연구와 지속적인 개선이 필수적이라고 생각합니다."

이 기사 공유