AI의 부상과 함께 AI의 안전에 대한 논의도 점차 확대

● 챗GPT(ChatGPT) 등장 이후 생성AI의 역량이 검색, 문서 생성을 비롯한 다양한 영역에 접목 중

- 인터넷 정보 서비스, SW개발, 미디어·콘텐츠를 포함 다양한 산업에서 생산성 증대 목적으로 도입 확대
* McKinsey는 생성AI 도입 효과를 연간 2.6~4.4조 억 달러로 보고 있으며, 생성AI 글로벌 시장은 2027년 1,511억 달러로 급성장

● 이와 함께 생성AI의 기술적 한계와 잠재적 위험 요인도 노출되면서 안전성에 대한 우려도 고조

- 할루시네이션((Hallucination), 부정확성을 비롯한 기능적 오류, 딥페이크 음란물 생성 등 AI의 악용, AI의 자율성 확대와

  통제 불가능성 등 AI의 잠재적 위험 요인이 인류 생존을 위협할 것이라는 사회적 우려 부상

● 이에 학계, 산업계, 정부, 국제 사회 등 사회 전반에서 AI의 안전성 확보를 위한 논의가 전개

- 학계에서는 유수 AI 국제학술대회에서 AI 투명성, 공정성, 안전 등 AI 신뢰성 관련 연구가 증가*

* AI 학회(AAAI, AIES, FAccT, ICML, ICLR, NeurIPS) AI 신뢰성 논문: 347건(’19)→1,094건(’23)1

- 산업계*에서는 자발적인 AI 안전 확보 프레임워크 개발해 운영하고, 각국 정부**들은 AI 규제안 마련 및 AI 위험 대응을 위한

  국제 협력을 강화하는 추세

* (산업계) 오픈AI, 구글, MS, 앤트로픽, 네이버 등 주요 AI 기업들은 자체적인 AI Safety Framework를 수립해 운영 중
** (정부) EU는 「AI법(AI Law)」을 2021년부터 추진해 발효(’24.8), 미국은 행정명령(EO 14110)으로 연방 정부 차원의

     AI 안전성 확보 조치 수립, 영국은 AI 안전성 정상회의(’23.11.)를 최초로 주최하면서 AI 거버넌스 리더십 확보를 위한

     국제 협력 강화

---------------------------------------------------------------------------------------------------------------------------------------------------------