규제 개요

□ (도입배경 및 목적) 중국 사이버공간 관리국은 AI 생성 콘텐츠에 대한 라벨링 방법,

    해당 콘텐츠를 서비스하는 자가 준수해야 하는 각종 관리 조치를 규정 하는 지침를

    2024년 9월 14일 발표하여, 의견을 수렴하였음
 

□ (규제요지) AI 생성·합성 콘텐츠를 사용하는 네트워크 관련 정보 서비스 제공자가 AI 생성·합성 콘텐츠에 라벨링을 하도록 하고*,

    라벨링 기능의 사용과 관리, 위조 방지 등을 준수하도록 요구하였음
 

* 라벨링에 대한 구체적인 요구사항은 중국국가표준으로 제정 작업을 진행 중

제정 세부내용

□ 제정안 주요 내용

ㅇ 제정 목적

- AI 생성/합성 콘텐츠*의 라벨링

* 이러한 콘텐츠의 범위는 텍스트, 이미지, 오디오, 비디오, 상호작용 화면 등 제작, 생성 또는 합성된 것들을 포함함

ㅇ 규제 적용 범위

- 관련 규정*에 준수하여 AI 생성 및 합성 콘텐츠를 사용하여 생성하는 네트워크 정보 서비스 제공자
- 산업 조직, 기업, 교육 및 연구 기관, 공공 문화 기관, 관련 전문 기관 등이 대중에게 서비스를 제공하지 않는

  개발 목적으로 활용하는 경우 적용하지 아니함

ㅇ AI 생성 합성 콘텐츠 라벨링의 분류

- (명시적 라벨링) AI가 생성한 합성 콘텐츠나 상호작용 장면에 추가되어 텍스트, 소리, 그래픽 등으로 사용자에게

  직접 인지될 수 있는 라벨

- (암시적 라벨링) AI 생성 합성 콘텐츠 데이터에 추가되며, 사용자가 직접 인지할 수는 없지만 기술적 수단을 통해

  추출할 수 있는 라벨

ㅇ (라벨링 방법) 2024년 10월 22일 기준 제정 작업이 진행 중인 중국 국가 표준

<사이버 보안 기술-인공지능 생성 콘텐츠의 표시 방법>*의 요구사항을 준수해야 함

* 해당 국가 표준은 2024년 9월 14일 제정안 초안에 대한 고시가 발표되었음

□ AI 생성/합성 콘텐츠의 라벨링 관련 지침

ㅇ 명시적 라벨링 요구사항

---------------------------------------------------------------------------------------------------------------------------------------------------------