< 목 차 >

제1장 서론

제1절 연구의 배경 및 목적
제2절 연구의 절차 및 방법

제2장 인공지능 신뢰성 구성요소 도출
제1절 국내외 인공지능 원칙 분석
제2절 인공지능 신뢰성에 관한 메타분석 연구
제3절 인공지능 신뢰성 구성요소 도출

제3장 인공지능 신뢰성 뉴스기사 빅데이터 분석
제1절 분석 개요
제2절 분석 결과
제3절 소결

제4장 인공지능 신뢰성 요구수준 분석
제1절 전문가 설문조사 개요
제2절 설문조사 분석 결과

제3절 소결

제5장 기업의 인공지능 신뢰성 준비도 분석 
제1절 조사 개요
제2절 분석 결과
제3절 소결

제6장 인공지능 신뢰성 기술도구 현황 
제1절 인공지능 신뢰성 기술도구 개요
제2절 인공지능 신뢰성 기술도구 분석 
제3절 소결

제7장 주요국 인공지능 신뢰성 정책 현황

제1절 해외 인공지능 신뢰성 정책 현황
제2절 소결

제8장 결 론

인공지능이 널리 활용됨에 따라 인공지능의 기술적 한계, 기술의 오남용 등의 사회적 역기능이 부각되고 있고, 이에 따라 인공지능 기술, 산업 생태계의 지속 성장 가능성이 도전을 받고 있는 상황이다. 인공지능에 의한 부작용으로 막대한 사회적 비용이 발생한다면 기술의 사회적, 산업적 수용도가 저하되고 기술에 대한 투자 유인이 감소하여 지속가능한 기술 발전이 불가능하다. 이 연구는 인공지능의 지속가능한 발전을 위해 필수적인 신뢰 체계를 정립하기 위한 정책 방안을 마련하는 것을 목적으로 수행되었다. 3. 연구의 구성 및 범위 인공지능의 신뢰 체계를 정립하는 정책을 마련하기 위한 첫 번째 단계는 신뢰를 결정짓는 정책 변수를 도출하는 것이다. 국민들이 인공지능의 신뢰수준을 인식할 때 구체적으로 어떤 요소를 통해 신뢰수준을 결정짓는지 확인해야 한다. 즉, 신뢰수준이 종속변수라고 한다면 이를 결정짓는 독립변수를 규명하는 작업이 필요하다. 제2장은 주요국 정부 및 국제 기구의 정책 보고서와 이들 정책 보고서를 메타 분석한 연구 논문을 분석하여 이번 연구에서 활용할 인공지능 신뢰성 구성요소를 6대 원칙, 13개 세부항목으로 도출하였다. 앞서 언급했다시피 인공지능 신뢰성을 높이는 행위는 인공지능 개발 및 활용에 추가적인 제약요인이라는 점에서 비용이 증가하거나 성능 저하가 발생한다. 따라서 합리으로 인공지능 신뢰성 수준을 결정해야 한다. 이를 위해서는 제2장에서 도출한 인공지능 신뢰성 구성요소별 상대적 중요도, 즉 신뢰성 개선에 더욱 영향을 미치는 요소와 그렇지 않은 요소를 파악하고, 이에 따라 관련 기술 개발이나 법제도 마련이 필요하다. 가령, 인공지능 신뢰성 구성 요소 중 견고성이 가장 중요한 요소라고 인식하고, 투명성이 가장 덜 중요한 요소라고 인식한다면, 견고성을 높이기 위한 정책적 지원이 투명성보다 더 많이 이뤄져야 할 것이다. 제3장과 제4장은 인공지능 신뢰성 구성요소에 대한 사회적 요구수준을 파악하기 위해 언론기사 빅데이터 분석 및 인공지능 신뢰성 분야 전문가 설문 분석을 수행하였다. 통상 일반 국민은 언론을 통해 인공지능의 신뢰성에 영향을 미치는 각종 소식을 접하게 된다. 이런 점에서 인공지능의 신뢰성에 긍부정적 영향을 미치는 언론기사 동향을 분석한다면, 간접적으로 일반 시민들의 인공지능 신뢰성 구성요소에 대한 요구수준을 파악할 수 있다. 하지만 인공지능 신뢰성 이슈가 여전히 일반 국민의 삶에 큰 영향을 미치지 못하는 상황이기 때문에 언론기사 분석만으로 사회적 요구수준을 파악하는 것이 한계가 있다. 이런 점에서 인공지능 신뢰성 분야의 전문가 설문조사가 적절하다. 따라서 제3장은 최근 신뢰성 이슈가 제기되는 대표적인 인공지능 분야인 자율주행차, 안면인식서비스, 그리고 가상비서 서비스에 대한 뉴스기사를 빅데이터 분석하여 주제별, 기간별 신뢰성에 영향을 미치는 긍부정 효과를 파악하였다. 이를 위해 지난 5년간(2017년 1월 1일 ~ 2021년 8월 31일, 56개월)의 해외 6개 주요 언론사 기사 12,703건을 수집하여 규칙 기반 감성 분석을 수행하였다. 제4장은 국내 인공지능 정책, 법제도 및 기술분야에서 인공지능 신뢰성 관련 업무를 직간접적으로 수행하는 전문가 30명을 대상으로 인공지능 신뢰성에 대한 요구수준에 대한 설문을 조사하였다. 설문조사는 △인공지능 신뢰성 구성요소 대분류 간 상대적 중요도 평가, △인공지능 신뢰성 대분류의 세부항목 간 상대적 중요도 평가, △주요 인공지능 서비스에 대한 신뢰성 대분류 간 상대적 중요도 평가결과의 세 개 파트로 나누어 진행하였다. 응답 방식은 리커트 척도(Likert Scale)를 활용할 경우 응답자들이 모든 요소에 대해 유사한 점수를 부여하는 문제점을 다소 해소할 수 있는 고정총합척도(Constant-Sum Scale) 방식을 활용하였다. 제5장은 제3장과 제4장에서 분석한 인공지능 신뢰성 구성요소에 대한 사회적 요구에 기업이 얼마나 잘 대응하고 있는지를 파악하고자 국내 인공지능 산업계 종사자를 대상으로 인공지능 신뢰성 구성요소별 필요성, 중요도, 수행 여부 등에 대해 분석하였다. 응답의 신뢰성을 위해 응답자는 인공지능 개발 및 관련 서비스 기획에 실제로 참여한 경험이 있는 경력 3년 이상의 종사자로 한정하였고, 최종적으로 173명의 응답을 확보하여 분석하였다. 제5장의 분석을 통해 인공지능 규제나 자발적 지침(가이드라인)이 마련될 경우 현실적으로 이를 준수하기 위해 기업의 준비 수준뿐만 아니라, 제3장과 제4 장에서 살펴본 인공지능 신뢰도에 대한 사회적 요구와 기업의 대응 간 미스매치를 파악할 수 있다. 이를 통해 사회적 요구와 기업의 준비 수준간의 미스매치를 해소하기 위한 다양한 정책 개발을 기획할 수 있다. 제6장은 현재 오픈소스 형태로 공개된 인공지능 신뢰성 기술도구(Toolkit)를 분석했다. 인공지능을 선도하는 주요 기업과 대학은 인공지능 개발자들이 조금 더 쉽게 인공지능 신뢰성 구성요소를 점검 할 수 있도록 기술도구를 개발 및 공개하고 있다. 이 중 제6 장에서는 구글, 마이크로소프트, IBM이 개발한 인공지능 신뢰성 기술도구가 △ 프라이버시 보호, △ 공정성, △ 투명성, △ 견고성 차원에서 제공하는 기능을 중심으로 소개