AI테러 방지법 시급하다

반극단주의 싱크탱크에 따르면 정부는 인공지능이 테러리스트를 모집하는 것을 막기 위해 새로운 규정을 '긴급히 고려해야' 한다..

전략대화연구소(ISD)는 테러리스트들이 온라인에 가하는 위협에 대해 “따라잡기 위한 법안이 분명히 필요하다”고 밝혔습니다.

이는 챗봇이 영국의 독립적인 테러 법안 검토자를 "모집"한 실험에 이어 나온 것입니다.

영국 정부는 일반 대중을 보호하기 위해 "할 수 있는 모든 조치"를 취할 것이라고 밝혔습니다.

정부의 독립 테러법 검토자인 조나단 홀 KC(Jonathan Hall KC)에 따르면, 가장 중요한 문제 중 하나는 "테러를 조장하는 챗봇 생성 발언에 대해 법적으로 책임을 질 수 있는 사람을 식별하기 어렵다"는 것입니다.

Hall은 다른 사용자가 만들고 인공 지능으로 개발한 챗봇과 사용자가 채팅에 참여할 수 있는 웹사이트인 Character.ai에서 실험을 수행했습니다.

그는 다른 무장단체와 극단주의 단체의 답변을 모방하도록 설계된 것으로 보이는 다양한 봇과 대화에 참여했습니다.

광고

이슬람국가(IS)의 최고 지도자는 '고위 지도자'로 불리기도 했다.

홀 씨에 따르면, 그 로봇은 그를 모집하려고 시도했고 테러를 금지하는 영국 법률에 의해 금지된 극단주의 단체에 대한 "완전한 헌신과 헌신"을 선언했습니다.

반면 홀 씨는 통신이 인간에 의해 생성되지 않았기 때문에 영국에서는 법 위반이 없었다고 말했습니다.

그가 말한 바에 따르면, 새로운 규정은 챗봇을 호스팅하는 웹사이트와 이를 만드는 사람 모두에게 책임을 져야 합니다.

그가 Character.ai에서 만난 봇에 대해 그는 그들의 창조 뒤에 "어느 정도 충격적인 가치, 실험 및 아마도 풍자적인 측면이 있을 가능성이 있다"고 말했습니다.

또한 홀 씨는 자신만의 '오사마 빈 라덴' 챗봇을 개발할 수 있었는데, 그는 이를 즉시 삭제하여 테러 활동에 대한 '무한한 열정'을 보여주었습니다.

그의 실험은 극단주의자들이 향상된 인공 지능을 악용할 수 있는 방식에 대한 우려가 커지면서 나왔습니다.

영국 정부가 발표한 연구에 따르면 2025년까지 생성 인공 지능은 "화학, 생물학, 방사능 무기를 포함한 비국가 폭력 행위자의 물리적 공격에 대한 지식을 모으는 데 사용될" 수 있습니다. XNUMX월 출판물.

ISD는 또한 "끊임없이 변화하는 온라인 테러 위협 환경을 따라잡기 위한 법률이 분명히 필요하다"고 밝혔습니다.

싱크탱크에 따르면 2023년 법으로 통과된 영국의 온라인 안전법은 인공지능이 아닌 "주로 소셜 미디어 플랫폼으로 인한 위험을 관리하는 데 중점을 두고 있다"고 합니다.

또한 급진주의자들은 "신기술을 얼리 어답터하는 경향이 있으며 끊임없이 새로운 청중에게 다가갈 기회를 찾고 있다"고 덧붙였습니다.

ISD는 "AI 기업이 자사 제품의 안전을 보장하는 데 충분히 투자했음을 입증할 수 없다면 정부는 긴급히 새로운 AI 관련 법안을 고려해야 한다"고 덧붙였습니다.

그러나 실시한 감시에 따르면 현재 극단주의 조직의 생성 인공 지능 활용은 "상대적으로 제한적"이라고 언급했습니다.

캐릭터 AI는 안전이 '최우선'이라며 홀 씨가 설명한 내용은 매우 유감스럽고 회사가 구축하려는 플랫폼의 종류를 반영하지 못했다고 밝혔습니다.

조직에 따르면 "증오심 표현과 극단주의는 모두 우리 서비스 약관에 의해 금지되어 있습니다."

"AI 생성 콘텐츠에 대한 우리의 접근 방식은 단순한 원칙에서 출발합니다. 즉, 우리 제품은 사용자에게 해를 끼칠 가능성이 있는 반응을 생성하거나 사용자가 다른 사람에게 해를 끼치도록 조장해서는 안 됩니다."

회사는 "안전한 대응을 위한 최적화"라는 목적으로 모델을 어떤 방식으로 훈련했다고 밝혔습니다.

또한 사람들이 규칙을 위반한 정보를 신고할 수 있는 조정 메커니즘이 마련되어 있으며, 콘텐츠가 위반 사항을 신고할 때마다 신속한 조치를 취하겠다고 약속했습니다.

만약 집권하게 된다면 영국 야당인 노동당은 폭력을 선동하거나 취약한 사람들을 급진화하기 위해 인공지능을 가르치는 것은 범죄행위가 될 것이라고 선언했습니다.

영국 정부는 인공지능이 제기하는 "중요한 국가 안보와 공공 안전 위험에 대한 경고"라고 밝혔습니다.

"우리는 정부 전반에 걸쳐 협력하고 기술 회사 리더, 업계 전문가 및 같은 생각을 가진 국가와의 협력을 심화함으로써 이 위협으로부터 대중을 보호하기 위해 최선을 다할 것입니다."

정부는 2023년까지 인공지능 안전연구소에 XNUMX억 파운드를 투자할 예정이다.

이 기사 공유