제목 [산업동향] 기술발전에 따른 인공지능 안전에 대한 논의와 시사점
분류 성장동력산업 판매자 국준아 조회수 43
용량 692.31KB 필요한 K-데이터 7도토리
파일 이름 용량 잔여일 잔여횟수 상태 다운로드
[산업동향] 기술발전에 따른 인공지능 안전에 대한 논의와 시사점.pdf 692.31KB - - - 다운로드
데이터날짜 : 2024-12-30 
출처 : 국책연구원 
페이지 수 : 20 

■ AI의 부상과 함께 AI의 안전에 대한 논의도 점차 확대


● 챗GPT 등장이후 생성AI의 역량이 검색, 문서 생성을 비롯한 다양한 영역에 접목 중

 

∙ 인터넷 정보 서비스, SW개발, 미디어·콘텐트를 포함 다양한 산업에서 생산성 증대 목적으로 도입 확대
* McKinsey는 생성AI 도입 효과를 연간 2.6~4.4조억달러으로 보고 있으며, 생성AI 글로벌 시장은 2027년 1,511억달러로 급성장

 

● 이와 함께 생성AI의 기술적 한계와 잠재적 위험 요인도 노출되면서 안전성에 대한 우려도 고조

 

∙ 할루시네이션, 부정확성을 비롯한 기능적 오류, 딥페이크 음란물 생성 등 AI의 악용, AI의 자율성 확대와 통제 불가능성 등

  AI의 잠재적 위험 요인이 인류 생존을 위협할 것이라는 사회적 우려 부상

 

● 이에, 학계, 산업계, 정부, 국제 사회 등 사회 전반에서 AI의 안전성 확보를 위한 논의가 전개

 

∙ 학계에서는 유수 AI 국제학술대회에서 AI 투명성, 공정성, 안전 등 AI신뢰성 관련 연구가 증가*
* AI 학회(AAAI, AIES, FAccT, ICML, ICLR, NeurIPS) AI 신뢰성 논문: 347건(‘19)→1,094건(’23))1
∙ 산업계에서는 자발적인 AI 안전 확보 프레임워크 개발해 운영하고, 각국 정부들은 AI규제안 마련 및 AI위험 대응을 위한

  국제 협력을 강화하는 추세

 

■ AI 안전(AI Safety)은 다양한 유사 개념과 혼재되어 사용


● 최근 AI 안전에 대한 관심이 커지고 있으나 AI 안전과 관련된 유사한 개념들이 혼용되고 있어, AI 안전의 정의와 범위에 대한

    정확한 인지가 어려움

 

∙ AI 안전은 AI신뢰성, AI책임성, AI윤리, AI투명성, AI견고성, AI보안, AI위험 등 다양한 유사한 개념들과
혼재되어 사용되고 있으나 각 개념 간의 차이가 존재

 

 

 

 

 

 

 

 

---------------------------------------------------------------------------------------------------------------------------------------------------------

 

 

 

 

 

 

 

 

클라우드.jpg

 

 

 

 

 

 

 

 



※ 본 서비스에서 제공되는 각 저작물의 저작권은 자료제공사에 있으며 각 저작물의 견해와 DATA 365와는 견해가 다를 수 있습니다.

List of Articles
번호 분류 제목 K-데이터 판매자
K데이터 무통장 입금을 통한 충전 방법
8087 성장동력산업 [산업분석] 25년 국내외 정보통신기술의 현황과 이슈 분석 9도토리 국준아
8086 성장동력산업 [산업분석] 24년 국내, 전자정부 이용현황 분석 13도토리 국준아
8085 성장동력산업 [산업동향] 변화에 따른 농업 구조 전환의 방향 및 정책 현황 분석 13도토리 국준아
8084 성장동력산업 [산업동향] 글로벌, 첨단산업의 기술 현황과 전망 7도토리 국준아
8083 성장동력산업 [산업동향] 글로벌, 산업기술의 현황과 동향 분석 7도토리 국준아
8082 성장동력산업 [산업동향] 25년 미국 소비자협회 무역박람회의 산업 기술 트렌드 현황 11도토리 국준아
8081 성장동력산업 [산업동향] 25년 디지털 전환 사회에서의 기업 글로벌 확대방안 7도토리 정한솔
8080 성장동력산업 [산업분석] 경쟁구조를 통한 중국 시장 진출 전략 분석 3도토리 정한솔
8079 성장동력산업 [산업분석] AI 감정 감지 기술의 현황과 전망 분석 5도토리 정한솔
8078 성장동력산업 [산업분석] 25년 스마트 수송 산업의 현황과 전망점 분석 3도토리 정한솔
8077 성장동력산업 [산업분석] 24년 노벨상 수상자를 통해 확인하는 인공지능 산업의 현황 분석 7도토리 정한솔
8076 성장동력산업 [산업동향] 25년 실생활 및 산업에서의 인공지능 활용 현황과 영향력 7도토리 정한솔
8075 성장동력산업 [산업동향] 25년 미국, 트럼프 대통령 취임 후, 관세 및 행정 정책 분석 3도토리 정한솔
8074 성장동력산업 [산업동향] 25년 글로벌 주요국들의 로봇 산업 및 정책 동향 분석 5도토리 정한솔
8073 성장동력산업 [산업동향] 25년 글로벌 주력산업의 미래 분석 5도토리 정한솔
8072 성장동력산업 [산업분석] 휴머노이드 생산을 위한 재료 공급현황 및 규모 분석 5도토리 정한솔
8071 성장동력산업 [산업분석] 국내, 디지털크리에이터 산업의 현황 분석 13도토리 정한솔
8070 성장동력산업 [산업분석] 25년 중국, 주요 경제 법령의 변화 분석 5도토리 정한솔
8069 성장동력산업 [산업분석] 25년 미국, 트럼프 취임을 통한 미국 인프라의 변화와 시사점 3도토리 정한솔
8068 성장동력산업 [산업분석] 25년 미국 소비자 무역박람회를 통한 SW 혁신의 변화 3도토리 정한솔