EU 집행위원회, 「AI와 인권, 민주주의, 법치에 관한 협약」 서명

■ 개요

○ (배경) AI 시스템의 수명주기 내 특정 활동이 인간의 존엄성, 개인의 자율성, 인권, 민주주의 및

     법치를 훼손할 수 있다는 우려가 제기됨
 

- 특히, AI 시스템에 내포된 차별의 위험, 디지털 영역에서 여성이 경험하는 불평등을 포함하여
  경제·정치·사회·문화적 불평등을 생산하는 AI 시스템 오용에 대한 우려 증대
 

○ 동 조약은 유럽평의회1(Council of Europe, CoE)가 주도하여 초안을 마련하였고, 유럽연합 회원국, 영국, 미국 외 7개국이 동

    협약에 서명
 

○ 「AI와 인권, 민주주의, 법치에 관한 협약2」은 최초의 법적 구속력이 있는 AI 관련 국제 조약으로, AI 시스템의 생명주기

    내 활동이 인권, 민주주의, 법치와 양립할 수 있도록 법적 프레임워크를 제공

■ 주요내용

○ (목적) AI 시스템의 수명주기 내 활동이 인권, 민주주의 및 법치에 부합하도록 보장하는 것을 목표로
     하며, 이를 위해 당사국은 적절한 입법·행정적 조치 또는 기타 조치를 채택하거나 유지해야 함

○ (정의) 동 협약은 ‘AI 시스템’을 다음과 같이 정의

AI 시스템 :  명시적 또는 묵시적 목적을 위해 수신된 입력으로부터 물리적 또는 가상 환경에 영향을 미칠수 있는 예측, 콘텐츠,

                   권장사항 또는 결정 등의 출력 생성방법을 추론하는 기계기반 시스템

○ (적용범위) ▲당사국은 공공기관 및 당사국을 대신하여 활동하는 민간부문의 AI 시스템 활동에 동 협약을 적용하고,

     당사국은 ▲의무 이행에 있어 입법, 행정적 조치 또는 기타 조치를 채택하거나 유지할 수 있음

- 단, 당사국은 국가안보를 보호하기 위한 AI 시스템 수명주기 내 활동에 대해 동 협약을 적용하지 아니할 수 있음

○ (기본원칙) AI 시스템의 수명주기 내 활동과 관련하여, 인감의 존엄성 및 자율성, 투명성, 평등등을 보장하기 위한 일반적인

     공통원칙을 규정

---------------------------------------------------------------------------------------------------------------------------------------------------------