Ⅰ. 미국의 AI 안전·신뢰성 정책 흐름

■ 오바마 행정부에서 국가 AI R&D 전략 계획을 최초로 수립

● 오바마 행정부는 2016년 10월 ‘인공지능의 미래에 대한 행정부의 보고서’를 발간*하며

   인공지능의 기회, 고려사항과 향후 과제를 전반적으로 검토

* ‘미래 인공지능의 준비(NSTC1, 2016.10)’와 ‘국가 AI 연구개발 전략’이라는 두 개의 보고서 발간

∙ ‘미래 인공지능의 준비’ 보고서에서는 AI의 현재 상태, 기존 및 잠재적 응용 분야, AI의 발전이 사회와 공공정책에 제기하는 질문을

  조사하고 구체적인 추가 조치에 대한 권고 사항도 제시

∙ ‘국가 AI 연구개발 전략’ 보고서는 인공지능 기술을 활용해 사회적 공익을 증진하고 정부 운영을 개선하는 방법,

  혁신을 장려하는 동시에 대중을 보호하는 여러 정책 권고사항*을 제시

* 2016년 백악관 과학기술정책실이 주도한 전국 공동 워크샵 5회, 161건의 정보요청(RFI) 내용 포함, 23개의 정부 정책 권고안 제시

● 특히, 국가 AI 연구개발전략에서 제시한 7대 전략 중 절반 정도가 AI의 윤리적, 법적, 사회적 영향을 고려하여

    안전한 AI 시스템을 보장하기 위한 연구 개발 전략과 관련*

∙ (전략 3) 설명가능성, 투명성, 신뢰성 제고, 검증 및 타당성(V&V) 확보, 자율 성장 역량을 갖출 것으로 예상됨에 따라

   장기적 AI 안전 확보, (전략 6) AI 기술 측정 및 평가를 위한 표준(시스템의 위험 관리 및 위해 요소 분석,

   인간-컴퓨터 상호작용, 제어 시스템, 그리고 규제 준수 평가) 및 벤치마크 개발

■ 트럼프 1기 행정부의 행정 명령과 American AI 이니셔티브 발족해 국가전략기술로서 관리

● 트럼프 대통령은 2019년(American AI Initiative), 2020년(American AI Initiative) 두 건의 행정명령을 통해 인공지능에 대한

    연구 강화와 혁신 투자, 그리고 신뢰할 수 있는 인공지능 개발 및 보급을 지시
 

∙ 2019년 2월 행정명령(EO 13859, 인공지능 분야에서 미국의 리더십 유지)에서는 AI 연구 투자 확대(비 국방 AI R&D 2배 확대

  포함), 연방 AI 컴퓨팅 및 데이터 자원 활용, AI 혁신 장벽 제거 (AI 기술 표준 수립, AI 안전한 개발, 검증, 배포 기술 마련),

  AI 인력 양성(STEM2 교육, 근로자 AI 역량 강화, AI전문연구인력 육성 등),  신뢰할 수 있는 AI 관리를 위한 국제 협력 노력을

   담고 있음(OSTP3, 2020.2.)
 

---------------------------------------------------------------------------------------------------------------------------------------------------------