■ AI의 부상과 함께 AI의 안전에 대한 논의도 점차 확대

● 챗GPT 등장이후 생성AI의 역량이 검색, 문서 생성을 비롯한 다양한 영역에 접목 중

∙ 인터넷 정보 서비스, SW개발, 미디어·콘텐트를 포함 다양한 산업에서 생산성 증대 목적으로 도입 확대
* McKinsey는 생성AI 도입 효과를 연간 2.6~4.4조억달러으로 보고 있으며, 생성AI 글로벌 시장은 2027년 1,511억달러로 급성장

● 이와 함께 생성AI의 기술적 한계와 잠재적 위험 요인도 노출되면서 안전성에 대한 우려도 고조

∙ 할루시네이션, 부정확성을 비롯한 기능적 오류, 딥페이크 음란물 생성 등 AI의 악용, AI의 자율성 확대와 통제 불가능성 등

  AI의 잠재적 위험 요인이 인류 생존을 위협할 것이라는 사회적 우려 부상

● 이에, 학계, 산업계, 정부, 국제 사회 등 사회 전반에서 AI의 안전성 확보를 위한 논의가 전개

∙ 학계에서는 유수 AI 국제학술대회에서 AI 투명성, 공정성, 안전 등 AI신뢰성 관련 연구가 증가*
* AI 학회(AAAI, AIES, FAccT, ICML, ICLR, NeurIPS) AI 신뢰성 논문: 347건(‘19)→1,094건(’23))1
∙ 산업계에서는 자발적인 AI 안전 확보 프레임워크 개발해 운영하고, 각국 정부들은 AI규제안 마련 및 AI위험 대응을 위한

  국제 협력을 강화하는 추세

■ AI 안전(AI Safety)은 다양한 유사 개념과 혼재되어 사용

● 최근 AI 안전에 대한 관심이 커지고 있으나 AI 안전과 관련된 유사한 개념들이 혼용되고 있어, AI 안전의 정의와 범위에 대한

    정확한 인지가 어려움

∙ AI 안전은 AI신뢰성, AI책임성, AI윤리, AI투명성, AI견고성, AI보안, AI위험 등 다양한 유사한 개념들과
혼재되어 사용되고 있으나 각 개념 간의 차이가 존재

---------------------------------------------------------------------------------------------------------------------------------------------------------