AI 사업자 의무

AI 기본법은 AI 제품･서비스를 개발･제조･제공하는 ‘인공지능산업’과 관련된 사업을 하는 자를 ‘인공지능사업자’로 정의한다.

AI 사업자는 아래 [표 2]와 같이 투명성 의무, 대규모 AI의 안전성 확보 의무를 이행해야 한다.

실제 의무를 이행해야 하는 AI 사업자는 고영향 AI, 생성형 AI, 학습에 사용된 누적 연산량이 큰 대규모 AI를 사용하는 사업자이다.

당초 발의된 법안에는 유럽연합(EU) ｢인공지능 법｣과 유사하게 ‘고위험 인공지능’ 개념이 사용되었는데,

상임위원회 심사 과정에서 ‘위험’이 주는 부정적 이미지를 완화하기 위해 ‘고영향 인공지능’이라는 가치 중립적 표현으로 변경되었다.
그 결과 부정적 느낌은 다소 줄었지만 개념의 모호성이 문제다.

AI 기본법을 준수하거나 해석해야 하는 당사자는 무엇이 ‘사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을

초래할 우려’가 있는 AI인지 파악해야 하는데, 현재 법률 규정만으로는 명확하고 일관적인 답을 내놓기가 어렵다.

개선 방안

(1) AI 거버넌스의 정책 조정･집행 능력 강화

국가인공지능위원회의 법정 심의･의결 사항에 부처 간 정책･업무 조정을 포함하여 컨트롤타워의 본래적 기능을 갖추도록

할 필요가 있다. 이를 위해 ｢정보통신 진흥 및 융합 활성화 등에 관한 특별법｣ 제7조의 ‘정보통신 전략위원회’,

｢국가과학기술자문회의법｣ 제2조의 ‘국가과학기술자문회의’ 등 유사 사례를 참고할 수 있다.

국가인공지능위원회 심의･의결의 구속력 자체를 강화하는 것은 정부조직 체계상 한계가 있으므로,  심의･의결-(정책집행)-정책지원-기술지원으로 구성된 AI 거버넌스에서 결여되어 있는 정책집행 기능을 강화하는 대안도 추가해 볼 수 있다.

국가인공지능위원회 의결을 정책화해서 집행하고, 각 부처 사업을 점검･종합하여 국가인공지능위원회에 안건화하는 전문적이고

유연･민첩(agile)한 전담조직을 마련하는 것이다.

(2) 고영향 AI의 개념･요건 구체화

AI 기본법의 핵심 특징이 고영향 AI이므로, 고영향 AI에 대해서만큼은 법률에서 명확한 체계를 정립할 필요가 있다.

고영향 AI의 개념, 고영향 AI 가 성립하는 영역에 대한 대통령령 위임사항을 법률에 보다 구체적으로 규정해야 한다.

현재의 고영향 AI 개념 요소인 ‘사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려’ 중에서

①사람의 생명, 신체의 안전과 ②기본권은 적용 영역이 다르고, ⓐ중대한 영향과 ⓑ위험은 발현 방식이 다르므로 이를 고려해서

고영향 AI의 개념을 구체화해 볼 수 있을 것이다.

---------------------------------------------------------------------------------------------------------------------------------------------------------