I. 서론

인공지능(AI)은 21세기 들어 가장 빠른 속도로 발전해 온 기술 가운데 하나로, 사회 전반 에 걸쳐 구조적 변화를 촉발하고 있다.

초기에는 단순한 연산과 자동화를 보조하는 도구적 성격이 강했으나, 최근의 대규모 언어모델(LLM)과 생성형 AI의 등장은

인간의 언어와 인지 과정을 모사하고 창의적 산출물을 만들어내는 수준에 이르렀다.

특히 2022년 11월 ChatGPT의 공개는 인공지능이 일상생활과 산업 현장에 대규모로 확산되는 기점이 되었으며, 교육 ․ 의료 ․ 금융 ․ 문화 등 다양한 영역에서 AI 활용 방식을 근본적으로 바꾸어 놓았다.

동시에 ChatGPT 이후 등장한 멀티모달 모델과 에이전트형 AI는 인공지능이 단순한 응답 도구를 넘어 자율적 행위자로 진화하고 있음을 보여주고 있다.

그러나 기술의 진보는 언제나 양날의 검이다. 인공지능은 효율성과 편익을 극대화할 잠재력을 지니는 동시에,

민주주의 제도와 사회적 신뢰, 금융 안정, 사이버 보안에 심각한 위협으로 부상하고 있다.

실제로 2024년 미국 대통령 선거의 민주당 예비선거에서 발생한 합성 음성 로보콜 사건, 홍콩에서 보고된 대규모 딥페이크 금융사기, 세계적 유명인을 대상으로 한 성적 합성물 확산 사례는 인공지능 위험이 더 이상 추상적 가능성이 아니라 현실적 위협으로 구체화되고 있음을 입증한다. 이러한 위험은 국경을 초월해 확산되며, 개별 국가의 법제와 규율만으로 대응하기 어렵다는 점에서 국제적 협력과

제도적 거버넌스의 필요성을 강하게 환기시킨다.

Ⅱ. 인공지능 안전 동향과 ChatGPT 이후의 전환

2019년 전후 인공지능 안전에 대한 논의는 점차 추상적 가능성에서 구체적 현실로 이동 하였다.

초기에는 딥페이크 기술이 정치인의 연설이나 유명인의 얼굴을 합성하는 정도에 머물렀으며, 사회적 충격은 제한적이었다.

이 시기 국제 사회는 OECD 인공지능 권고안 (OECD, 2019. 5. 22.)이나 유네스코 윤리 권고(UNESCO, 2021. 11. 23.)와 같은 원칙 선언에 집중했으며, 실제적 피해 대응은 부차적이었다.

위험은 ‘잠재적 위협’으로 인식되었고, 대응은 연구자와 시민사회의 문제 제기에 국한되었다.

그러나 2022년 11월 30일 ChatGPT의 공개는 상황을 근본적으로 바꾸었다(OpenAI, 2022. 11. 30).

누구나 손쉽게 사용할 수 있는 대화형 생성형 AI는 인공지능을 일상적 도구로 확산시켰으며, 위험의 성격을 ‘추상적 가능성’에서

‘현실적 사건’으로 전환시켰다.
2024년 미국 뉴햄프셔 민주당 예비선거에서 발생한 합성 음성 로보콜 사건은 민주주의 절차를 직접적으로 위협했다

(New Hampshire Department of Justice, 2024. 2. 6.). 같은 해 홍콩에서는 다국적 기업의 임원들이 딥페이크 화상회의로

속아 2,500만 달러를 잃는 사건이 발생했다(CNN, 2024. 2. 4.).

또한 테일러 스위프트를 대상으로 한 성적 합성물이 SNS를 통해 확산되며 사회적 불신이 심화되었다

(The Verge, 2024. 1. 25). 이러한 사건들은 인공지능 위험이 구체적이고 실질적인 피해로 나타나고 있음을 입증하였다.