서론

▶ 최근 발표된 AI 기본법 시행령과 가이드라인은 이제 이해관계자들의 의견 수렴 과정을 거치며 구체화될 예정이며,

    이 과정에서 정책 입안자들은 'AI 혁신 촉진'과 '이용자 신뢰 확보'라는 두 가지 핵심 가치 사이에서 최적의 균형점을 찾아야 하는

    과제에 직면해 있음

▶ AI 기본법 및 시행령의 결과물 표시의무는 기업들에게 워터마크 등 기술적 조치와 규제 대응 전략을 요구하지만,

    기술 개발의 불완전성과 혼합 창작물 같은 경계 사례로 인해 빠른 실무 적용이 어려운 상황

▶ 더욱이 여러 나라에서 동일한 서비스를 동시에 제공하는 디지털 산업의 특성상, 기업들은 국가별 상이한 규제에 동시에 대응해야

    하는 복잡한 상황에 놓여 있음

▶ 따라서, 우리나라의 AI 기본법 및 시행령, 가이드라인 등에서 제시하고 있는 결과물 표시의무 내 용을 살펴보고,

    주요국의 AI 결과물 표시의무제도를 검토함으로써 제도의 보완 필요성 및 적용 한계를 검토하고자 함

해외 주요국의 AI 결과물 표시의무 규제 비교

[EU] AI Act Article 50 (투명성 의무)

▶ 표시의무 주체

- 제공자(Providers): AI 시스템을 개발하거나 개발을 의뢰하여 시장에 출시하는 자. 시스템의 설계 단계에서부터 투명성 의무가

  확보되도록 해야 함.
- 배포자/운영자(Deployers): AI 시스템을 자신의 책임 하에 사용하는 자. 최종 사용자에게 고지·표시의무가 부여됨.

▶ 의무 내용 상세
- 챗봇·대화형 시스템: 사람과 직접 상호작용하도록 설계된 AI 시스템은 사용자가 AI와 대화 중임을 명확히 인지할 수 있도록

   “You are chatting with an AI assistant”와 같은 문구, 팝업, 화면 상단 고정 표시 등을 제공해야 하며,

   다만 합리적이고 관찰력 있는 사용자가 명백히 인지할 수 있는 경우에는 예외가 적용 됨
- 합성 콘텐츠 생성 AI: 텍스트, 오디오, 이미지, 비디오 등 합성 콘텐츠를 생성하는 경우 출력물에 AI 생성 또는 조작 사실을

  기계 판독 가능한 형식(machine-readable format)으로 표시해야 하며, 메타데이터, 비가시적 디지털 워터마크,

  C2PA 표준 등이 활용되나 입력 데이터를 실질적으로 변경하지 않은 경우는 표시 대상에서 제외됨

---------------------------------------------------------------------------------------------------------------------------------------------------------