Abstract 올 1월 국내 유망 인공지능 스타트업인 스캐터랩에서 출시한 ‘이루다’라는 인공지능 챗봇서비스의 윤리 문제 가 불거지면서 AI 신뢰성에 대한 사회적 관심이 고조되었다. 정부 차원에서는 주무부처인 과학기술정보통신부 를 중심으로 ‘신뢰할만한 인공지능 실현 전략’이 발표되었고 유관 기관인 개인정보보호위원회와 금융위원회에 서는 자체적으로 개인정보보호를 위한 인공지능 개발 자율점검표와 금융분야 AI 가이드라인을 각각 마련하여 발표하였다. 2010년 중반 이미 AI 윤리 문제로 홍역을 치른 구글, 마이크로소프트 등의 빅테크 기업들이 자체 적으로 AI윤리 원칙과 점검을 위한 툴킷을 개발하고 관리 체계를 구축하는 한편 해외 주요국의 정부와 국제기 구에서도 관련 정책을 마련해 오고 있다. 이 글에서는 우리 정부와 미국, EU, OECD의 AI 신뢰성 확보를 위한 최신 정책 동향을 살펴보고 시사점을 제시한다. I. 서 론 지난 2016년 3월 인공지능 바둑 프로그램 알파고(AlphaGo)가 이세돌을 물리친 이후 인 공지능에 대한 관심과 함께 인공지능의 기술도 급속도로 발전하고 있다. 알파고는 인간의 기보 데이터를 바탕으로 학습된 모델을 사용했으나 2018년 알파제로(AlphaZero) 버전에서 는 스스로 게임의 규칙을 익히는 인공지능으로 바둑뿐만 아니라 체스, 장기 등의 게임에서 도 적용할 수 있도록 범용화 되었다. 이제 알파제로는 비디오 게임인 아타리 게임까지 스 스로 마스터하는 ‘뮤제로(MuZero)’로 진화하고 있다. 한편, 딥러닝 기반의 언어모델인 GPT- * 소프트웨어정책연구소, 선임연구원, jayoo@spri.kr 18 KISDI AI Outlook(2021년 Vol. 6) 3는 1,750억 개의 매개변수를 활용해 자연스러운 번역, 대화형 서비스를 가능케 하는 수준 까지 진화했다. 영국의 유명 일간지 가디언紙는 지난 2020년 9월 GPT-3 기반의 인공지능 이 작성한 사설을 온라인에 소개했다. 올해 5월엔 마이크로소프트社는 문장을 입력하면 프 로그램 코드로 변환시켜주는 비개발자용 앱개발 플랫폼(파워앱스)을 선보였다. 구글, 마이 크로소프트, 네이버, 카카오 등 거대 IT 기업들은 더 강력한 인공지능 기술 확보를 위해 초 거대 데이터, 컴퓨팅 인프라, 인력 확보에 앞다투어 투자를 늘리고 있다. 하지만, 인공지능 기술이 주목받을수록 과연 그 기술을 전적으로 믿을 수 있는가에 대한 의문도 커지고 있다. 2015년 구글의 클라우드 기반 사진 관리 서비스인 구글 포토는 한 흑 인의 사진에 고릴라라는 태깅을 자동으로 달아 사회적 논란을 일으켰다. 2016년에 마이크 로소프트가 선보인 인공지능 챗봇 서비스 ‘테이’는 인터넷 상의 욕설을 학습하고 ‘히틀러가 옳았다’는 등의 인종차별주의적 편견이 담긴 말을 만들어 내 출시 하루 만에 운영이 중단되 었다. 아마존은 채용 과정의 효율성을 높이고자 인공지능 시스템을 개발했으나 남성 지원 자를 중심으로 선발하는 편향된 결과를 보이자 시스템을 폐기했다. 테슬라는 최근 대만의 한 고속도로에서 전복된 트럭을 인식하지 못하고 정면으로 들이박는 등 자율주행 기능의 오작동으로 추정되는 사고를 지속적으로 일으키고 있다. 1) 지난 9월 26일 영국 국립미술관이 소장하고 있는 페테르 파울 루벤스의 작품 ‘삼손과 데 릴라’가 가짜라는 판정을 받았다. 이 작품은 미술관이 1980년 크리스티 경매에서 250만 파 운드, 우리 돈 약 40억 원에 사들인 그림이다. 이 그림을 가짜라고 판정한 것은 인공지능 이다. 스위스 기업 아트 레코그니션(Art Recognition)과 코넬대학교 카리나 포포비치(Karina Popovich) 교수팀은 루벤스의 148개의 다른 작품을 이용해 반복 검증한 결과 91.78%의 확 률로 위작이라고 판정했다. 2) 얼마 전 종영한 드라마 에서는 CCTV를 해킹해 주 인공이 동료 요원을 총으로 살해하는 딥페이크 조작 장면이 등장한다. 실제 암살범은 화면 에서 없어지고 주인공 손에는 없던 총이 들려있었다. 이 장면은 2019년 영국 드라마 최고의 시청률을 기록한 에 등장하는 장면을 떠올린다. 주인공이 어느 날 경찰들에 의해 체포되는데 그들이 보여준 CCTV 화면에서 자신이 자신의 변호사를 납치, 폭행하는 화면이 나타난다. 그는 자신이 아니라고 항변하지만 아무도 그의 말을 믿지 않는다. 방송통신심의 위원회는 국내에서 최근 1년 간 이러한 AI를 이용한 이미지 합성 기술인 딥페이크를 활용