I. 배경

■ 첨단 AI모델의 잠재적 위험에 대비하기 위해 안전성 및 신뢰성 확보에 대한 논의가 본격화
 

● 영국에서 2023년 11월 개최된 ‘제1회 AI 안전성 정상회의’와 2024년 5월 AI 서울 정상회의를 거치며

    AI의 안전한 활용 및 신뢰성 보장을 위한 국제적 논의가 구체화1
 

∙ 프론티어(Frontier) AI*의 책임 있는 개발 및 배포를 위한 국제적 협력 필요성에 따라 글로벌 AI 기업들은 프론티어 AI 안전 서약에      합의하였으며, 내년 프랑스 AI 정상회의에서 안전 프레임워크 등을 논의할 예정
 

* 프론티어 AI는 뛰어난 능력을 가진 범용 AI(General-purpose AI, GPAI)로, 현재 고도화된 AI와 비슷하거나 더 뛰어난 모델을 의미
 

** 삼성전자, 네이버, 구글, 오픈AI, 앤트로픽, MS, 아마존 등 16개의 글로벌 기업이 참여
 

● 구글, 오픈AI, MS, 앤트로픽 등 주요 기업들은 2023년 7월 프론티어 모델 포럼을 창립하고 AI 안전 관련 주요 목표를 설정하는 등      글로벌 기업 또한 AI 안전 논의에 동참
 

∙ 세 가지 주요 목표로 △생성 AI의 잠재적 위험 완화를 위한 모범사례 발굴, △AI 안전 조치에 관한 과학적 연구 연계,

  △기업-정부 간 소통 촉진을 통한 안전 및 개발 역량 강화를 포함
 

● 미국은 2023년 11월, 최초로 AI 행정명령을 통해 AI 안전 및 보안에 대한 표준 확립을 위한 조치를 지시하는 등

    AI 분야에서의 리더십 확보 
 

∙ AI 안전 및 보안을 위해 필요한 조치사항으로 △안전 테스트 결과 등의 공유, △표준, 도구 및 테스트 개발
 

△AI 생성 콘텐츠 탐지를 위한 표준 및 모범사례 수립, △취약점 보완을 위한 도구 개발 등을 포함

---------------------------------------------------------------------------------------------------------------------------------------------------------