제1절 연구 배경 및 필요성

1. 연구 배경
 

최근 몇 년간 인공지능(AI) 기술의 발전은 챗GPT와 같은 생성형 AI의 등장 이후 급속히 가속화되었다.

AI 기술은 이제 특정 분야에서 인간의 능력을 능가하며, 다양한 산업에서 활용 가능성을 검증받고 있다.

특히 생성형 AI를 기반으로 한 범용 AI는 제조, 의료, 금융, 교육 등 여러 산업 분야에서 새로운 변화를 일으키고 있다.

그러나 AI기술의 고도화와 접근성 향상에 따라 새로운 위험 요소들이 대두되었고, 이로 인해 AI의 안전성 확보는 중요한 의제로

떠오르게 되었다. AI 시스템의 오작동, 악의적 사용, 해석의 어려움 등이 현실적인 문제로 드러나면서,

AI 안전에 대한 논의가 더욱 필요해졌다.

특히 고성능 AI가 사회와 국가에 미칠 수 있는 악영향, 악용 가능성, 의도치 않은 결과 도출 등은 실질적인 위협으로 작용할 수 있다.

이에 따라, 생성형 AI 및 첨단 AI 기술의 발전에 따른 위험 요소를 관리하고, 이를 방지하기 위한 정책적 대응이 중요한 상황이다.

제2절 AI 안전 관련 주요국 정책

1. 인공지능 위험에 대한 국제적 대응
 

ChatGPT를 시작으로 생성형 AI 기술이 전 세계적으로 확산되면서, AI 시스템의 다양한 위험 요소가 주목받고 있다.

특히, AI 시스템의 오작동, 악의적 사용, 해석의 어려움 등으로 인해 발생할 수 있는 잠재적 부작용에 대한 우려가 점점 높아지고 있다.
이러한 기술적 특성으로 인해 사회적, 경제적, 문화적 전반에 걸쳐 예상치 못한 영향을 미칠 가능성이 커지고 있다.
전문가들은 생성형 AI 기술이 빠르게 고도화됨에 따라, 인간의 지능을 초월하고 스스로 학습과 진화를 통해 자율성을 확보하는

단계에 이를 경우, 통제를 벗어나 인류에게 실존적 위협이 될 수 있다고 경고하고 있다. 제프리 힌턴은 AI가 방대한 데이터를
학습하는 과정에서 예상치 못한 행동을 보일 수 있다고 지적하며, 이는 미래에 인류에게 심각한 위협이 될 가능성이 있다고 주장하였다. 요슈아 벤지오 또한 AI 시스템의 통제 문제를 미래의 핵심 과제로 강조하며, 기술적 자율성의 관리가 중요하다고 밝혔다.

에릭 슈미트는 AI가 실존적 위험을 초래할 가능성이 있다며, 특히 악의적 사용으로 인해 대규모 피해가 발생할 수 있는 점을 우려하였다.

---------------------------------------------------------------------------------------------------------------------------------------------------------