2024년 서울 AI 정상회의 주요 성과와 시사점

1. 개요
 

▶ 서울 AI 정상회의는 2023. 11. 영국 Bletchley Park에서 개최된 AI 안전성 정상회의 후속 회의로,

    대한민국과 영국이 공동 의장국을 맡아 2024. 5. 개최되었고, 미국·호주·캐나다·유럽
    연합(EU), 유엔(UN) 및 Amazon, Google, OpenAI 등 글로벌 AI 기업들이 참여
▶ 2023년 개최된 런던 AI 안전성 정상회의는 ▲프론티어 AI의 위험성과 기회, ▲예측 불가능한
    AI 능력 발전에 따른 위험, ▲AI 통제 상실 위험, ▲AI의 사회 통합에 따른 위험 등을 주요
    안건으로 논의하였고, 2024년 개최된 서울 AI 정상회의는 ▲안전성, ▲혁신, ▲포용성이 라는 세 가지 주제를 중심으로 논의 진행
 

2. 2024년 서울 AI 정상회의 주요 성과
 

▶ 서울 선언(Seoul Declaration) 채택
• 참여국: 10개국(호주, 캐나다, 프랑스, 독일, 이탈리아, 일본, 대한민국, 싱가포르, 영국, 미국) 및 유럽연합(EU)
• AI 안전성, 혁신, 포용성을 상호 연관된 목표로 인식
- ▲안전성, ▲혁신, ▲포용성 세 가지 주제가 서로 밀접하게 연관되어 있음을 인식하고, 이를 AI 거버넌스 논의에 포함하기로

      합의함으로써, AI 기술 발전의 다양한 측면을 균형 있게 고려하는 접근법의 기초를 마련

• 각국의 AI 거버넌스 프레임워크 간 상호운용의 중요성을 인식함으로써, 글로벌 AI 규제의 조화와 효과적인 국제 협력을 위한 기반        마련
• 위험 기반 접근법(risk-based approach) 채택

- AI의 이점을 극대화하면서도 광범위한 위험에 대응하기 위하여 ‘위험 기반 접근법’을 채택하기로 합의함으로써, AI 기술의 안전하고    신뢰할 수 있는 설계·개발·배포·사용을 보장하기 위한 실용적 방법론 제시

• 히로시마 프로세스 국제 행동강령(Hiroshima Process International Code of Conduct)

- 2023. 9. 7. 전 세계적으로 안전하고 신뢰할 수 있는 AI 개발을 촉진하기 위하여 가동하기로한 히로시마 프로세스 국제 행동강령의     운용을 지지하기로 함으로써, AI 개발에 있어 국제적으로 합의된 윤리적 기준을 적용하기 위한 노력 제고

• 프론티어 AI를 개발(develop)하고 배포(deploy)하는 조직들(organizations)의 특별한 책임 인식

- Amazon, Google, 삼성전자 등 주요 AI 개발 조직들은 2024. 5. 프론티어 AI 모델과 시스템을 안전하고 신뢰할 수 있게 개발하고      배포할 것을 자발적으로 약속하는 ‘프론티어 AI 안전성 약속(Frontier AI Safety Commitments)’에 서명

---------------------------------------------------------------------------------------------------------------------------------------------------------