EU AI법이란?
EU AI법(유럽연합 인공지능법)은 인공지능(AI)의 개발, 마케팅 및 사용에 대한 규제 체계다. 이 프레임워크의 목적은 인공지능을 법적으로 정의하고, 인공지능 관련 기업에 문서화, 감사 및 프로세스 요건을 부과하는 데 있다.
이 프레임워크는 위험성을 기반으로 설계되었으며 일반 개인정보 보호 규정(GDPR, General Data Protection Regulation)과 마찬가지로 혁신, 경제적 이익, 시민의 권리 및 안전 간의 균형을 맞추기 위해 만들어졌다. 이 법안이 통과되면 27개 EU 회원국 모두에 구속력을 가지며 마이크로소프트(Microsoft), 구글(Google), 오픈AI(OpenAI)와 같은 글로벌 기업을 포함하여 유럽 연합에서 AI 시스템을 만들고 보급하는 모든 기업에 적용된다.
이 법안이 법으로 제정되면 기업은 AI 시스템을 상용화하기 전에 공식적으로 위험성을 평가 받아야 하며, 유럽 정부는 규정을 위반하는 기업에 벌금을 부과할 수 있게 된다.
또한 유럽 시민들에게는 법 위반이 의심되는 AI 기업에 대한 이의 제기를 할 수 있게 된다.
AI의 정의
AI의 법적 정의는 규제의 적용 범위를 결정하고, 어떤 유형의 기술이 해당 법률에 포함되는지를 명확히 하는 역할을 하기 때문에 매우 중요하다. 2023년 6월 유럽 의회에서 규제가 승인되기 전까지 AI에 대한 정의는 여러 차례 수정되었다.
최근 개정된 법에서는 AI를 ” 다양한 수준의 자율성을 가지고 작동하도록 설계되었으며 명시적 또는 암묵적 목표를 위해 물리적 또는 가상 환경에 영향을 미치는 예측, 추천 또는 결정과 같은 결과물을 생성할 수 있는 기계 기반 시스템”으로 정의하고 있다.
위험 수준
인공지능법에 따라 모든 인공지능은 네 가지 위험 수준 중 하나로 분류된다.
- 용납할 수 없는 위험
기본권과 자유에 용납할 수 없는 위험을 초래하는 AI 시스템은 금지된다. 여기에는 특정 집단을 차별하는 데 사용될 수 있는 사회적 점수 시스템을 만드는 데 사용되는 AI 시스템, 잘못된 정보나 선전을 퍼뜨리는 데 사용될 수 있는 딥페이크 생성 AI 시스템, 전력망이나 교통 시스템과 같은 중요 인프라를 제어하는 데 사용될 수 있는 승인되지 않은 AI 시스템 등이 포함된다.
- 고위험
기본권과 자유에 높은 위험을 초래하는 AI 시스템에는 여러 가지 규정 준수 요건이 적용된다. 여기에는 신용도를 평가하거나 채용 결정을 내리는 데 사용되는 AI 시스템, 안면 인식 또는 기타 생체 인식 서비스를 제공하는 데 사용되는 AI 시스템, 의료 진단을 내리거나 치료법을 추천하는 데 사용되는 AI 시스템이 포함된다.
고위험 AI 시스템은 정부 규제 기관의 허가를 받아야 한다. 고품질 데이터에 대한 교육을 받고, 로깅 및 추적 기능을 갖추고, 철저한 위험 관리 및 완화 프로세스를 거쳐야 한다. 허가를 위한 신청서에는 자세한 문서가 첨부되어야 한다.
- 제한된 위험
기본권과 자유에 제한적인 위험을 초래하는 AI 시스템은 특정 요건의 적용을 받지 않지만, 책임 있는 AI(responsible AI) 윤리의 일반 원칙을 준수해야 한다. 이 위험 범주에는 고객 서비스를 제공하거나 질문에 답변하는 데 사용되는 AI 시스템, 개인화된 뉴스 피드 또는 제품 추천을 생성하는 데 사용되는 AI 시스템, 스마트 홈 기기를 제어하거나 게임을 플레이하는 데 사용되는 AI 시스템이 포함된다.
- 최소한의 위험 또는 위험 없음
기본적 권리와 자유에 대한 위험이 최소화되거나 전혀 없는 AI 시스템은 특정 요건의 적용을 받지 않는다. 여기에는 피싱 이메일 식별 및 차단, 일기 예보 생성, 이미지 또는 동영상 처리, 고객이 광고를 클릭할 가능성 여부와 같은 간단한 예측을 수행하는 데 사용되는 AI 시스템이 포함된다.
EU AI법은 알려지지 않은 위험 수준을 명시적으로 분류하지는 않지만, AI 시스템이 ‘아직 알려지지 않은’ 위험을 초래하는 경우 해당 시스템을 고위험으로 간주해야 한다고 명시하고 있다.
EU AI법 준수
유럽연합 AI 법에 따라 EU 회원국은 AI 시스템을 배포하기 전에 테스트할 수 있는 공식 보안 샌드박스 환경을 하나 이상 구축해야 한다.
규칙 집행 및 준수는 EU 27개 회원국에 달려 있다. 이를 준수하지 않을 경우, 최대 4천만 유로 또는 기업의 연간 글로벌 매출의 7% 중 더 높은 금액의 벌금이 부과된다.
유럽의 많은 비즈니스 리더들은 유럽연합이 제안한 법안에 대해 반발하고 있으며, 특히 챗GPT와 같은 인기 플랫폼의 기반 기술인 생성형 AI 및 기반 모델에 대한 규제와 관련하여 고위험 AI에 대한 규칙 초안이 너무 과도하다고 경고하고 있다.
이들은 EU의 제안이 사용 사례와 관계없이 범용 인공지능 시스템(GPAIS, General Purpose Artificial Intelligence Systems)과 대규모 언어 모델(LLM, Large Language Models)에 너무 광범위하게 적용되는 것에 우려를 표하며, 이로 인한 과도한 규정 준수 부담은 혁신을 저해하고 투자자들을 망설이게 할 것이라고 주장한다.
인공지능 법제화를 위한 경쟁적 제안
언론에서 AIA라고도 불리는 유럽연합 AI 법안은 2023년 6월 유럽 의회에서 승인되었으며, 2023년 말까지 유럽 연합 이사회에서 채택될 것으로 예상된다. 이 법안이 통과되면 세계 최초의 주요하고 포괄적인 AI 규제 조치가 될 것이다.
그러나 AI가 계속 발전함에 따라 다른 국가와 조직에서도 인공지능 법제화에 관한 필요성을 제기하고 있다. 일반적으로 AI 규제에 대한 제안은 규제 범위, 세부 사항 및 시행 메커니즘에 따라 다양하다.
일부 국가에서는 기계 편향이나 개인정보 침해와 같은 AI의 윤리적 위험을 더 우려하는 반면, 다른 국가에서는 AI의 잠재적 혜택과 경제 성장을 촉진하는 데 더 많은 관심을 기울이고 있다. 대부분의 국가는 이 두 가지 사이에서 균형을 맞추는 법안을 만드는 데 어려움을 겪고 있다.
전 세계에서 경쟁적으로 추진 중인 이니셔티브와 제안된 프레임워크는 다음과 같다.
국가 | 입법/전략 | 설명 |
미국 | AI 전책을 위한 안전한 혁신 프레임워크 | AI 규제를 위한 4가지 “가드레일”을 설명하는 프레임워크. 여기에는 책임성, 투명성, 설명 가능성, 보안이 포함된다. |
AI 권리 장전을 위한 청사진 | AI 개발 및 사용에 대한 업계 전반의 모범 사례 원칙을 개괄적으로 설명한다. | |
국가 인공지능 계획 | 미국에서 책임감 있고 윤리적인 AI 개발과 채택을 가속화하기 위한 초당파적 계획. | |
중국 | 차세대 인공지능 개발 계획 | 특히 의료, 교통, 보안 분야에서 AI 개발에 대한 중국의 비전을 설명하는 계획. |
인공지능 기반 제품 및 서비스 관리에 관한 규정 |
인공지능 기반 콘텐츠를 생성하는 데 사용되는 모델과 규칙에 대한 프레임워크를 수립한다. | |
인공지능의 개발 및 적용을 위한 인공지능 윤리 가이드라인 |
중국에서 윤리적 AI 개발 및 사용을 위한 원칙을 제공하는 가이드라인. | |
영국 | 국가 AI 전략 | 의료, 교육 및 환경 분야의 AI 개발에 대한 영국 정부의 비전을 설명하는 전략. |
AI 거버넌스 프레임워크 |
혁신을 강조하고 투명성, 책임성, 윤리 등 영국의 AI 거버넌스에 대한 원칙을 제공하는 프레임워크. | |
캐나다 | 인공지능 및 데이터법(AIDA) | 위험도에 관계없이 모든 AI 애플리케이션을 포괄하는 캐나다의 AI 규제 프레임워크. |
범 캐나다 AI 전략 | 캐나다 정부의 AI 개발 비전은 의료, 교통, 환경에 중점을 두고 있다. | |
호주 | AI 윤리 프레임워크 | 호주 내 AI 개발 및 사용에 대한 윤리적 원칙을 제시하는 프레임워크. |
대한민국 | AI 윤리 가이드라인 | 대한민국에서 AI 개발 및 사용에 대한 윤리적 원칙을 제시하는 가이드라인. |
AI 산업 진흥법 | 한국의 단편적인 AI 관련 법률을 통합한 마스터 플랜. | |
일본 | AI 윤리 가이드라인 | 일본의 AI 개발 및 활용을 위한 가이드라인. |
인공지능의 연구, 개발 및 활용 촉진에 관한 법률 | 일본의 AI 개발 및 활용을 위한 비규제, 비구속적 프레임워크. | |
싱가포르 | AI 거버넌스 프레임워크 | 투명성, 책임성, 윤리를 다루는 싱가포르의 AI 거버넌스 프레임워크. |
국가 인공지능 전략 | 의료, 교육, 환경 분야의 AI 개발에 대한 싱가포르 정부의 비전을 제시하는 전략. |