[ 목 차 ]

I. 논의의 배경

Ⅱ. 인공지능의 위험성과 규제의 필요성

1. 작동 불능 또는 지연

2. 판단 오류

3. 편향성과 비윤리성

4. 개인정보 유출과 사생활 침해

5. 악용

Ⅲ. 규제의 역설

1. 규제의 역설의 개념

2. 규제의 역설의 유형

3. 규제의 역설의 원인

Ⅳ. 인공지능 규제에 대한 시사점

Abstract 최근 국내외에서 인공지능에 대한 규제 방안이 활발하게 논의되고 있다. 하지만 규제는 만능이 아니고 그 자체도 사회적으로 비용을 발생시킨다. 인공지능에 대한 규제가 적절하게 설계되고 이행되지 못한다면 인공지 능의 사회적 비용을 낮추기는커녕 증폭시킬 수도 있다. 그런 관점에서 규제의 한계를 지적하는 ‘규제의 역설’을 살펴보는 것은 의미가 있다. 본고에서는 먼저 다양한 인공지능 활용 사례들을 검토하여 인공지능의 위험성을 설명한다. 다음으로 규제의 역설을 다룬 기존 문헌에서 그 개념과 사례들을 고찰함으로써 규제의 위험성을 제시한다. 마지막으로 이 두 가지 논의를 종합하여 인공지능 규제에 대한 시사점을 다음과 같이 도출한다. 규제자는 인공지능 규제를 설계 하고 도입할 때에 규제의 달성가능성, 규제를 준수하도록 유도하는 수단, 규제 대상이 선택하는 수단과 경로의 유연성, 규제의 영향에 대한 입체적인 평가, 규제 이외의 수단 등을 종합적으로 고려해야 한다는 것이다. I. 논의의 배경 최근 인공지능(AI)이 사회 각 분야에서 폭넓게 활용되면서 그 혜택과 함께 피해가 발생하 거나 발생할 것으로 우려되는 사례들이 나타나고 있고, 그에 따라 국내외에서 인공지능에 대한 규제 방안이 활발하게 논의되고 있다. 예를 들어, 유럽에서는 2019년 4월 ‘신뢰할만한 인공지능 윤리 가이드라인(Ethics Guidelines for Trustworthy AI)’이 공표된 데 이어, 2021년 4월 세계 최초의 인공지능 관련 규제 법안인 ‘인공지능 법(Artificial Intelligence Act)’의 초안이 발표되었다. 국내에서도 2020년 12월 ‘인공지능 윤리기준’이 마련되었고 * 과학기술정책연구원, 연구위원, bsamchoi@stepi.re.kr 2 KISDI AI Outlook(2021년 Vol. 6) 2021년 5월 ‘신뢰할 수 있는 인공지능 실현 전략’이 발표되었다(양희태, 2021. 6. 15; 이경 선, 2021. 5. 4.; 김법연, 2021. 3. 15). 인공지능이라는 유용한 신기술이 사회에서 바람직한 방향으로 활용되기 위해 규제가 필 요하다는 것에 대해서는 많은 이들이 공감하겠지만 어떤 목표를 가지고 어떤 대상에게 어 떤 규제를 적용해야 하는지는 신중하게 결정되어야 한다. 규제는 만능이 아니고 그 자체도 사회적으로 비용을 발생시키기 때문이다. 인공지능에 대한 규제가 적절하게 설계되고 이행 되지 못한다면 인공지능의 사회적 비용을 낮추기는커녕 증폭시킬 수도 있다. 그런 관점에서 규제의 한계를 지적하는 ‘규제의 역설(paradox of regulation)’을 살펴보 는 것은 의미가 있다. 거의 모든 규제는 경제사회의 문제를 해결하고 더 나은 사회를 만들 어 보려는 정부의 선한 뜻에서 시작되지만 많은 규제들이 기대했던 효과를 내지 못하거나 오히려 역효과를 가져오기도 한다(김영평 외, 2006). 따라서 ‘인공지능의 위험성’과 함께 ‘규제의 위험성’도 이해해야만 인공지능에 대한 효과적인 규제가 가능해질 것이다. 본고에서는 먼저 다양한 인공지능 활용 사례들을 검토하여 인공지능의 위험성을 설명한 다. 다음으로 규제의 역설을 다룬 기존 문헌에서 그 개념과 사례들을 고찰함으로써 규제의 위험성을 제시한다. 마지막으로 이 두 가지 논의를 종합하여 인공지능 규제를 위한 시사점 을 도출한다. Ⅱ. 인공지능의 위험성과 규제의 필요성 인공지능에 대한 규제가 필요한 것은 인공지능이 기술 자체적으로나 인간이 이를 활용하 는 과정에서 여러 가지 문제들을 일으킬 수 있기 때문이다. 예를 들어, 브루킹스연구소 (Brookings Institution)의 보고서는 인공지능의 리스크를 성능 리스크(performance risks), 보안 리스크(security risks), 통제 리스크(control risks), 사회적 리스크(societal risks), 경제적 리스크(economic risks), 윤리적 리스크(ethical risks)로 구분하였고(Eling, 2019), 컨설팅기업 맥킨지(McKinsey & Company)의 보고서는 인공지능의 리스크를 프라이버시 (privacy), 보안(security), 공정성(fairness), 투명성과 설명가능성(transparency and explainability), 안전과 성능(safety and performance), 제3자 리스크(third-party risks)로 정 리하였다(Buehler, et al., 2021). 인공지능 시스템이 어떤 판단을 내리거나 행동을 했을 때 그 이유를 설명할 수 없기 때 규제의 역설과 인공지능 규제에 대한 시사점 3 문에 인공지능의 위험성을 명확하게 유형화하는 것은 쉽지 않지만, 본고에서는 인공지능 규제에 대해 구체적으로 논의하기 위해 몇 가지 전형적인 경우들을 살펴보고자 한다. 이하 에서는 자율주행차와 챗봇 사례를 중심으로 작동 불능 또는 지연, 판단 오류, 편향성과 비 윤리성, 개인정보 유출과 사생활 침해, 악용 등의 문제들에 대해 차례로 살펴본다. 1. 작동 불능 또는 지연 다른 기술들과 마찬가지로, 인공지능의 위험성 중에서 가장 먼저 생각할 수 있는 것은 작 동 불능이다. 파손, 고장, 정전, 배터리 방전 등의 이유로 인공지능 시스템의 전체 또는 일 부가 제대로 기능하지 않는 것이다. 넓게 본다면, 소프트웨어에 프로그래밍 에러가 있거나 통신 네트워크의 지연으로 인해 데이터 송수신이 원활하게 이루어지지 않는 것까지도 포함 할 수 있다. 인공지능 시스템이 작동 불능 상태가 된다면 단순히 정보를 얻지 못하는 경우 도 있겠지만 인명피해가 우려되는 심각한 상황도 발생할 수 있다.