XNUMX일간의 '마라톤' 회담 이후, 이사회 의장단과 유럽의회 협상단은 소위 인공지능법(Artificial Intelligence Act)인 인공지능(AI)에 대한 조화된 규칙 제안에 대한 잠정 합의에 도달했습니다. 규정 초안은 유럽 시장에 배치되고 EU에서 사용되는 AI 시스템이 안전하고 기본권과 EU 가치를 존중하도록 보장하는 것을 목표로 합니다. 이 획기적인 제안은 또한 유럽의 AI에 대한 투자와 혁신을 촉진하는 것을 목표로 합니다.
이는 역사적 성과이자 미래를 향한 거대한 이정표입니다! 오늘의 합의는 우리 사회와 경제의 미래를 위한 핵심 영역에서 빠르게 발전하는 기술 환경에서 세계적인 과제를 효과적으로 해결합니다. 그리고 이러한 노력 속에서 우리는 시민의 기본 권리를 완전히 존중하면서 유럽 전역에서 혁신과 인공 지능 활용을 촉진하는 매우 섬세한 균형을 유지할 수 있었습니다. 카르메 아르티가스(Carme Artigas), 스페인 디지털화 및 인공 지능 국무장관
AI법은 기함 민간 및 공공 행위자 모두가 EU 단일 시장에서 안전하고 신뢰할 수 있는 AI의 개발 및 활용을 촉진할 수 있는 잠재력을 지닌 입법 이니셔티브입니다. 주요 아이디어는 AI가 사회에 해를 끼칠 수 있는 능력을 기반으로 AI를 규제하는 것입니다. '위험 기반' 접근: 위험이 높을수록 규칙은 더욱 엄격해집니다.. 세계 최초의 입법 제안으로서, 글로벌 스탠다드 GDPR이 그랬던 것처럼 다른 관할권의 AI 규제를 위해 세계 무대에서 기술 규제에 대한 유럽의 접근 방식을 촉진합니다.
임시 계약의 주요 요소
초기 위원회 제안과 비교하여 임시 협정의 새로운 주요 요소는 다음과 같이 요약될 수 있습니다.
에 대한 규칙 영향력이 큰 범용 AI 모델 고위험군은 물론 향후 시스템적 위험을 초래할 수 있는 AI 시스템
개정된 시스템 통치 EU 수준에서 일부 집행 권한이 있음
목록의 확장 금지 하지만 사용할 가능성이 있는 원격 생체 인식 공공 장소에서 법 집행 기관에 의해 보호 조치가 적용되는 경우
고위험 AI 시스템 배포자의 의무를 통해 권리를 더 잘 보호합니다. 기본권 영향 평가 AI 시스템을 사용하기 전에
보다 구체적으로 말하면, 임시 합의는 다음과 같은 측면을 다룹니다.
정의 및 범위
보장하기 위해 정의 AI 시스템의 정의는 AI를 단순한 소프트웨어 시스템과 구별하기 위한 충분히 명확한 기준을 제공하므로 타협 협정은 정의를 OECD가 제안한 접근 방식과 일치시킵니다.
또한 임시 협정은 이 규정이 EU 법의 범위를 벗어나는 영역에는 적용되지 않으며 어떠한 경우에도 회원국의 역량에 영향을 주어서는 안 된다는 점을 명확히 하고 있습니다. 국가 안보 또는 이 분야의 업무를 위임받은 단체. 또한 AI법은 다음 용도로만 사용되는 시스템에는 적용되지 않습니다. 군 or 방어 목적. 마찬가지로, 계약은 다음 목적으로만 사용되는 AI 시스템에는 규정이 적용되지 않는다고 규정합니다. 연구 및 혁신, 또는 비전문적인 이유로 AI를 사용하는 사람들을 위한 것입니다.
광고
AI 시스템을 고위험 및 금지된 AI 관행으로 분류
타협 합의는 다음을 제공합니다. 수평 보호층, 심각한 기본권 침해나 기타 심각한 위험을 초래할 가능성이 없는 AI 시스템이 포착되지 않도록 하기 위해 고위험 분류를 포함합니다. AI 시스템만 제시 제한된 위험 매우 가벼운 영향을 받을 것입니다 투명성 의무, 예를 들어 사용자가 추가 사용에 대해 정보에 입각한 결정을 내릴 수 있도록 콘텐츠가 AI로 생성되었음을 공개합니다.
넓은 범위의 위험 AI 시스템은 승인되지만 EU 시장에 접근하기 위한 일련의 요구 사항과 의무가 적용됩니다. 이러한 요구 사항은 공동 입법자들에 의해 더 명확해지고 조정되었습니다. 기술적으로 실현 가능한 와 부담이 덜하다 예를 들어 이해관계자는 데이터 품질과 관련하여 또는 고위험 AI 시스템이 요구 사항을 준수함을 입증하기 위해 중소기업이 작성해야 하는 기술 문서와 관련하여 준수해야 합니다.
AI 시스템은 복잡한 가치 사슬을 통해 개발되고 배포되므로 타협 합의에는 다음 사항을 명확히 하는 변경 사항이 포함됩니다. 책임 할당 와 다양한 배우들의 역할 이러한 체인, 특히 AI 시스템의 제공자와 사용자. 또한 AI법에 따른 책임과 관련 EU 데이터 보호 또는 부문별 법률과 같은 다른 법률에 이미 존재하는 책임 간의 관계를 명확히 합니다.
AI의 일부 용도에서는 위험이 간주됩니다. 받아 들일 수없는 따라서 이러한 시스템은 EU에서 금지됩니다. 잠정 합의에서는 인지 활동을 금지합니다. 행동 조작, 타겟팅되지 않은 폐기 인터넷이나 CCTV 영상의 얼굴 이미지, 감정 인식 직장과 교육기관에서, 사회적 점수, 생체 인식 분류 성적 지향이나 종교적 신념과 같은 민감한 데이터를 추론하기 위해 예측 폴리싱 개인을 위해.
법 집행 예외
의 특수성을 고려하여 법 집행 기관 중요한 업무에서 AI를 사용할 수 있는 능력을 보존해야 한다는 필요성 때문에 법 집행 목적으로 AI 시스템을 사용하는 것과 관련하여 위원회 제안에 대한 몇 가지 변경 사항이 합의되었습니다. 적절한 조건에 따라 보호, 이러한 변경 사항은 활동과 관련하여 민감한 운영 데이터의 기밀성을 존중해야 할 필요성을 반영하기 위한 것입니다. 예를 들어, 법 집행 기관이 기준을 통과하지 못한 고위험 AI 도구를 배포할 수 있도록 허용하는 긴급 절차가 도입되었습니다. 적합성 평가 긴급한 경우 절차. 그러나 이를 보장하기 위해 특정 메커니즘도 도입되었습니다. 기본적 권리 AI 시스템의 잠재적인 오용으로부터 충분히 보호됩니다.
게다가 실시간 활용에 관해서는 원격 생체 인식 공개적으로 접근 가능한 공간에 시스템을 설치하는 경우, 임시 협약은 그러한 사용이 법 집행 목적으로 엄격하게 필요한 경우와 법 집행 기관이 예외적으로 해당 시스템을 사용하도록 허용해야 하는 목적을 명확히 합니다. 타협 합의는 다음을 제공합니다. 추가 보호 장치 이러한 예외는 특정 범죄 피해자의 경우, 테러 공격과 같은 실제적이거나 현재적이거나 예측 가능한 위협의 예방, 가장 심각한 범죄로 의심되는 사람에 대한 수색으로 제한됩니다.
범용 AI 시스템 및 기반 모델
AI 시스템이 다양한 목적으로 사용될 수 있는 상황을 고려하기 위해 새로운 조항이 추가되었습니다(범용 AI), 그리고 범용 AI 기술이 이후에 다른 고위험 시스템에 통합되는 경우입니다. 잠정 합의에서는 범용 AI(GPAI) 시스템의 특정 사례도 다루고 있습니다.
구체적인 규칙도 합의되었습니다. 기초 모델, 비디오, 텍스트, 이미지 생성, 측면 언어로 대화, 컴퓨팅 또는 컴퓨터 코드 생성과 같은 광범위한 고유 작업을 유능하게 수행할 수 있는 대규모 시스템입니다. 임시 계약은 기초 모델이 특정 사항을 준수해야 한다고 규정합니다. 투명성 의무 시장에 출시되기 전에. 보다 엄격한 제도가 도입되었습니다. '큰 영향' 기초 모델. 이는 대량의 데이터와 평균보다 훨씬 뛰어난 고급 복잡성, 기능 및 성능으로 훈련된 기반 모델로, 가치 사슬을 따라 시스템적 위험을 퍼뜨릴 수 있습니다.
새로운 거버넌스 아키텍처
GPAI 모델에 대한 새로운 규칙과 EU 수준에서 해당 규칙을 시행해야 하는 명백한 필요성에 따라 AI 오피스 위원회 내에는 이러한 가장 진보된 AI 모델을 감독하고 표준 및 테스트 관행을 육성하는 데 기여하며 모든 회원국의 공통 규칙을 시행하는 임무가 있습니다. ㅏ 독립적인 전문가로 구성된 과학 패널 기초 모델의 기능을 평가하기 위한 방법론 개발에 기여하고, 영향력이 큰 기초 모델의 지정 및 출현에 대해 조언하고, 기초 모델과 관련하여 발생할 수 있는 재료 안전 위험을 모니터링함으로써 GPAI 모델에 대해 AI 사무국에 조언할 것입니다.
XNUMXD덴탈의 AI 보드, 회원국의 대표로 구성되는 이 위원회는 조정 플랫폼 및 위원회의 자문 기관으로 남을 것이며 기초 모델에 대한 실행 강령 설계를 포함하여 규정 이행에 대해 회원국에게 중요한 역할을 제공할 것입니다. 마지막으로, 자문 포럼 업계 대표, 중소기업, 스타트업, 시민사회, 학계 등 이해관계자를 위한 AI위원회를 구성해 기술 전문지식을 AI위원회에 제공할 예정이다.
처벌
AI법 위반에 대한 벌금은 위반 회사의 전년도 회계연도 글로벌 연간 매출액의 백분율 또는 미리 결정된 금액 중 더 높은 금액으로 설정되었습니다. 이는 금지된 AI 애플리케이션 위반의 경우 35만 유로 또는 7%, AI법 의무 위반의 경우 15만 유로 또는 3%, 잘못된 정보 제공의 경우 7,5만 유로 또는 1,5%가 됩니다. 그러나 임시 계약은 다음 사항을 규정합니다. 더 비례적인 한도 AI법 조항을 위반한 경우 중소기업 및 스타트업에 대한 과태료 부과에 관한 사항입니다.
또한 타협 합의에는 자연인이나 법인이 관련 당사자에게 불만을 제기할 수 있음이 명시되어 있습니다. 시장 감시 기관 AI법 위반에 관한 것이며 그러한 불만 사항은 해당 기관의 전담 절차에 따라 처리될 것으로 기대할 수 있습니다.
투명성과 기본권 보호
임시 계약은 다음을 제공합니다. 기본권 영향 평가 고위험 AI 시스템이 배포자에 의해 시장에 출시되기 전에. 임시 계약은 또한 증가된 금액을 규정합니다. 투명도 고위험 AI 시스템의 사용에 관해. 특히, 위원회 제안의 일부 조항은 공공 기관인 고위험 AI 시스템의 특정 사용자도 EU 데이터베이스 고위험 AI 시스템을 위한 것입니다. 또한 새로 추가된 조항에서는 이용자의 의무를 강조하고 있습니다. 감정인식 시스템 자연인이 그러한 시스템에 노출될 때 이를 알리기 위해.
혁신을 지원하는 조치
보다 혁신 친화적인 법적 틀을 만들고 증거 기반 규제 학습을 촉진하기 위해 다음과 같은 조항이 있습니다. 혁신을 지원하는 조치 위원회 제안과 비교하여 상당히 수정되었습니다.
특히 AI가 명확해졌다. 규제 샌드박스혁신적인 AI 시스템의 개발, 테스트 및 검증을 위한 통제된 환경을 구축하기로 되어 있는 는 또한 실제 조건에서 혁신적인 AI 시스템을 테스트할 수 있도록 허용해야 합니다. 또한, 다음을 허용하는 새로운 조항이 추가되었습니다. 테스트 AI 시스템의 실제 상황, 특정 조건 및 보호 조치 하에서. 소규모 회사의 행정적 부담을 완화하기 위해 임시 계약에는 해당 운영자를 지원하기 위해 취해야 할 조치 목록이 포함되어 있으며 일부 제한적이고 명확하게 명시된 적용 제외 사항을 제공합니다.
발효
잠정 합의에는 AI법이 적용되어야 한다고 규정되어 있습니다. 이년 특정 조항에 대한 일부 예외를 제외하고 발효 후.
다음 단계
오늘의 임시 합의에 따라 앞으로 몇 주 동안 기술 수준에서 새로운 규정의 세부 사항을 마무리하는 작업이 계속될 것입니다. 의장단은 이 작업이 완료되면 승인을 위해 회원국 대표(Coreper)에게 타협안을 제출할 것입니다.
전체 내용은 두 기관의 확인을 거쳐 공동 입법자들이 공식적으로 채택하기 전에 법률-언어적 수정을 거쳐야 합니다.
참고 자료
2021년 XNUMX월에 제출된 위원회 제안은 기본권을 존중하는 안전하고 합법적인 AI의 단일 시장 전반에 걸쳐 개발 및 활용을 촉진하려는 EU 정책의 핵심 요소입니다.
이 제안은 위험 기반 접근 방식을 따르며 법적 확실성을 보장하는 것을 목표로 하는 AI에 대한 통일되고 수평적인 법적 프레임워크를 마련합니다. 규정 초안은 AI에 대한 투자와 혁신을 촉진하고, 기본권과 안전에 관한 기존 법률의 거버넌스와 효과적인 집행을 강화하며, AI 애플리케이션을 위한 단일 시장 개발을 촉진하는 것을 목표로 합니다. 이는 유럽에서 AI에 대한 투자를 가속화하는 것을 목표로 하는 인공 지능에 대한 조정 계획을 포함한 다른 이니셔티브와 밀접하게 연관되어 있습니다. 6년 2022월 2023일에 이사회는 이 파일에 대한 일반적인 접근 방식(임무 협상)에 대한 합의에 도달했고 XNUMX년 XNUMX월 중순에 유럽 의회와 기관 간 회담('XNUMX차 회의')을 시작했습니다.
