제목 | [산업분석] 24년 인공지능의 발달로 인한 위험성과 사례 파악 |
---|
분류 | 성장동력산업 | 판매자 | 정한솔 | 조회수 | 34 | |
---|---|---|---|---|---|---|
용량 | 1.48MB | 필요한 K-데이터 | 7도토리 |
파일 이름 | 용량 | 잔여일 | 잔여횟수 | 상태 | 다운로드 |
---|---|---|---|---|---|
[산업분석] 24년 인공지능의 발달로 인한 위험성과 사례 파악.pdf | 1.48MB | - | - | - | 다운로드 |
데이터날짜 : | 2024-10-31 |
---|---|
출처 : | 국책연구원 |
페이지 수 : | 32 |
I. 배경
■ 첨단 AI모델의 잠재적 위험에 대비하기 위해 안전성 및 신뢰성 확보에 대한 논의가 본격화
● 영국에서 2023년 11월 개최된 ‘제1회 AI 안전성 정상회의’와 2024년 5월 AI 서울 정상회의를 거치며
AI의 안전한 활용 및 신뢰성 보장을 위한 국제적 논의가 구체화1
∙ 프론티어(Frontier) AI*의 책임 있는 개발 및 배포를 위한 국제적 협력 필요성에 따라 글로벌 AI 기업들은 프론티어 AI 안전 서약에 합의하였으며, 내년 프랑스 AI 정상회의에서 안전 프레임워크 등을 논의할 예정
* 프론티어 AI는 뛰어난 능력을 가진 범용 AI(General-purpose AI, GPAI)로, 현재 고도화된 AI와 비슷하거나 더 뛰어난 모델을 의미
** 삼성전자, 네이버, 구글, 오픈AI, 앤트로픽, MS, 아마존 등 16개의 글로벌 기업이 참여
● 구글, 오픈AI, MS, 앤트로픽 등 주요 기업들은 2023년 7월 프론티어 모델 포럼을 창립하고 AI 안전 관련 주요 목표를 설정하는 등 글로벌 기업 또한 AI 안전 논의에 동참
∙ 세 가지 주요 목표로 △생성 AI의 잠재적 위험 완화를 위한 모범사례 발굴, △AI 안전 조치에 관한 과학적 연구 연계,
△기업-정부 간 소통 촉진을 통한 안전 및 개발 역량 강화를 포함
● 미국은 2023년 11월, 최초로 AI 행정명령을 통해 AI 안전 및 보안에 대한 표준 확립을 위한 조치를 지시하는 등
AI 분야에서의 리더십 확보
∙ AI 안전 및 보안을 위해 필요한 조치사항으로 △안전 테스트 결과 등의 공유, △표준, 도구 및 테스트 개발
△AI 생성 콘텐츠 탐지를 위한 표준 및 모범사례 수립, △취약점 보완을 위한 도구 개발 등을 포함
---------------------------------------------------------------------------------------------------------------------------------------------------------
※ 본 서비스에서 제공되는 각 저작물의 저작권은 자료제공사에 있으며 각 저작물의 견해와 DATA 365와는 견해가 다를 수 있습니다.