Posted by Artificial Intelligence Act: Council of the EU
Source: Council of the EU and the European Council
이 AI 규제법은 AI를 활용하지 말아야 하는 행위를 구체적으로 명시했다는 데 가장 큰 의의가 있다. 그동안 무분별하게 시행해온 ‘얼굴인식 데이터 수집’이나 ‘AI를 활용한 사회적 감시시스템 운영’을 금지했다. 정부 규제를 받아야 하는 ‘고위험AI’와 ‘범용인공지능’을 명확히 정의해 반드시 보고하도록 의무화하는 조항도 포함했다.
매일경제
최근(2023. 12. 9) 유럽연합(EU) 의회와 협의회는 인공 지능(AI)에 대한 조율된 규칙, 즉 ‘인공 지능 법안’에 대한 잠정 합의를 이뤘다. 이 역사적인 법안은 EU 시장에 출시되고 EU 내에서 사용되는 AI 시스템이 안전하며 기본적인 권리와 EU 가치를 존중하도록 보장하는 것을 목표로 하며, 유럽 내 AI에 대한 투자와 혁신을 촉진하는 것을 목표로 하고 있다.
핵심 내용
위험 기반 접근 (Risk-Based Approach)
- AI 시스템은 그들이 사회에 미칠 수 있는 해로움의 정도에 따라 분류된다.
- 위험이 높은 AI에는 엄격한 규칙이 적용되고, 위험이 낮은 AI에는 가벼운 규칙이 적용된다.
새로운 규칙과 거버넌스 체계 (New Rules and Governance System)
- 고위험 AI 모델에 대한 새로운 규칙이 도입된다.
- EU 수준에서 AI 시스템을 감독하고 집행할 수 있는 새로운 체계가 마련된다.
정의와 범위 (Definitions and Scope)
- AI 시스템의 정의가 명확해져 AI와 일반 소프트웨어 시스템을 구분하기 쉬워진다.
- 이 법안은 군사 또는 방위 목적으로 사용되는 AI 시스템에는 적용되지 않는다.
고위험 및 금지된 AI 관행 (High-Risk and Prohibited AI Practices)
- 심각한 권리 침해나 큰 위험을 일으키지 않을 것으로 예상되는 AI에 대한 보호층이 제공된다.
- 예를 들어, 얼굴 인식을 이용한 감정 인식, 사회적 점수 매기기 등 일부 AI 사용은 금지된다.
법 집행 기관에 대한 예외 (Law Enforcement Exceptions)
- 법 집행 기관은 특정 조건 하에서 AI를 사용할 수 있도록 몇 가지 예외가 설정된다.
일반 목적 AI 시스템 (General Purpose AI Systems)
- 다양한 목적으로 사용될 수 있는 AI 시스템에 대한 규칙이 추가되었다.
새로운 거버넌스 구조 (New Governance Architecture)
- AI 사무소가 설립되어 EU 전역에서 가장 진보된 AI 모델을 감독하게 된다.
벌금 (Penalties)
- AI 법안을 위반할 경우 회사의 글로벌 연간 매출의 일정 비율 또는 정해진 금액이 벌금으로 부과된다.
투명성과 기본 권리 보호 (Transparency and Protection of Fundamental Rights)
- 고위험 AI 시스템을 시장에 출시하기 전에 기본 권리 영향 평가를 실시해야 한다.
혁신 지원 (Support for Innovation)
- 혁신적인 AI 시스템 개발을 위해 AI 규제 샌드박스가 도입된다.
다음 단계
이 잠정 합의는 기술적 수준에서의 작업이 완료된 후 회원국 대표들에게 제출되어 승인될 예정이며, 이후 양 기관의 확인을 거쳐 정식 채택될 것이다.
이 법안은 AI가 기본 권리를 존중하고 안전하게 사용될 수 있도록 하는 EU의 정책의 핵심 요소로, 투자와 혁신을 촉진하고 단일 시장 개발을 목표로 한다.
유럽연합(EU) 의회와 협의회가 세계 최초의 인공 지능(AI) 법안에 합의한 것은 기술 규제 분야에서 중요한 이정표이다. 이 합의는 AI 기술의 발전과 사용에 대한 균형 잡힌 접근을 제시한다.
개인적인 의견
긍정적인 측면
- 안전과 기본 권리 보장: AI 시스템이 EU 내에서 안전하게 운영되고 기본 권리를 존중하도록 하는 것은 매우 중요하며, 이 법안은 AI의 윤리적 사용을 강조하며, 사용자들에게 더 큰 신뢰를 제공할 것이다.
- 혁신과 투자 촉진: 이 법안은 유럽에서 AI에 대한 투자와 혁신을 촉진하려는 노력의 일환으로, 이는 유럽이 글로벌 AI 경쟁에서 중요한 역할을 할 수 있도록 도와줄 것이다.
- 위험 기반 규제: AI 시스템을 위험도에 따라 분류하는 접근 방식은 현명한 결정이라 생각하며, 이는 기업들이 불필요한 규제 부담 없이 혁신을 추진할 수 있게 할 것이다.
우려되는 부분
- 규제의 복잡성: AI 기술은 매우 다양하고 복잡하여 일괄적인 규제가 어려움을 초래할 수 있으며, 특히 소규모 기업과 스타트업에게는 더 큰 부담이 될 수 있을 것이다.
- 글로벌 표준과의 충돌: EU의 규제가 글로벌 표준과 충돌할 가능성이 있다 생각하며, 이는 국제적인 협력과 호환성에 영향을 미칠 수 있을 것이다.
- 기술 발전의 제한: 과도한 규제는 특히 혁신적인 AI 개발을 제한할 수 있으며, 이는 장기적으로 유럽의 기술 경쟁력을 약화시킬 수 있을 것이다.
결론
이 법안은 AI 기술의 미래를 위한 중요한 단계이며, 효과적인 규제를 위해서는 지속적인 평가와 조정이 필요하다. 규제는 AI의 잠재력을 최대화하고 동시에 위험을 관리하는 데 중점을 두어야 한다. 또한, 이 법안은 세계 최초 AI 규제법으로 AI 기술과 시장, 그 영향력등을 충분히 고려되어야 하며, AI 규제의 모범 사례로서 기준이 되어야 할 것이다.