도입

지난 2022년 11월 30일 ChatGPT가 공개되면서 일반대중은 인공지능(Artificial Intelligence, AI)1)의 유용성을 실감하였다. 이후 각국의 인공지능 기술개발 경쟁이 가속화되면서 자국의 인공지능 산업을 촉진하려는 진흥·육성 입법의 움직임과 인공지능시스템에
따른 위험으로부터 기본권 및 소비자 권리 등 다양한 권리를 보호하려는 규제 입법의 움직임이 함께 대두되었다.

가장 먼저 인공지능에 대하여 포괄적 법률을 마련한 곳은 유럽연합(이하 ‘EU’)이다. EU는 2024년 6월 13일 「인공지능법」(Artificial Intelligence Act)2)을 입법하였는데, 이는 인공지능시스템을 위험도 기반으로 ‘금지된 AI’, ‘고위험 AI’, ‘제한적 위험 AI’, ‘최소위험
AI’의 4가지3)로 분류하고 각각 차등적 의무를 부과하는 규제중심의 법률이다.

1. 캘리포니아주 인공지능 투명성법

캘리포니아주는 2024년 9월 19일 영업·직업법전을 개정하는 「캘리포니아주 인공지능 투명성법」(California AI Transparency Act)을 제정하였다11). 이 법률은 ①월간 방문자·이용자가 1백만명이 넘고 ②캘리포니아주에서 이용가능한 ‘생성형 인공지능시스템’을

제작·코딩·생산하는 자를 ‘해당 제공자’(covered provider)로 정의하고, 제공자의 생성형 인공지능시스템으로 생성된 콘텐츠에 ‘잠재적 표시’(latent disclosure)를 하도록 투명성 의무를 부과하였다.12) 그 외 인공지능 탐지기 제공과 라이선스 계약 규제를 규정한다.

2. 생성형 인공지능 학습용데이터 투명성법

캘리포니아주는 2024년 9월 28일 민법전을 개정하여 인공지능 조항을 추가하는 ‘생성형 인공지능 학습용데이터 투명성법’을 제정하였다17). 캘리포니아주에서 이용되도록 제작된 생성형 인공지능시스템18)의 개발자는 개발자의 웹사이트에 학습용데이터에 관한 자료를 공개하도록 규정한다.

---------------------------------------------------------------------------------------------------------------------------------------------------------