생성 AI의 부상에 따라 인공지능의 다양한 위험에 대한 우려 고조

● ChatGPT가 촉발한 생성AI 기술이 확산되면서 AI 시스템의 오작동, 악의적 사용, 해석의 어려움 및 위험을 가중시키는

    여러 잠재 요인에서 비롯된 부작용에 대한 우려가 높아지고 있음

    ∙ 산학계 전문가들은 AI 기술이 빠르게 고도화됨에 따라 인간의 지능을 초월하고, 스스로 학습 진화하며,
      인간의 통제를 우회하는 기술을 습득하게 될 경우 인류 사회의 실존적 위협이 될 것이라 경고
   * (제프리 힌턴(Geoffrey Hinton)) “AI가 방대한 양의 데이터를 학습하는 과정에서 인간이 예상하지 못한 행동을 보이는 경우가
      있고, 이는 미래에 인류에게 위협으로 다가올 수 있다. – 서울경제와인터뷰(’23.5)”
   * (요수아 벤지오(Yoshua Bengio)) “AI 시스템을 콘트롤하는 문제가 미래의 핵심 과제라고 할 수 있다. – 삼성AI포럼(’23.11)”
   * (에릭 슈미트(Eric Schmidt)) “AI가 실존적 위험을 가하고 있다. 실존적 위험이란 아주 아주 많은 사람이 다치거나 죽는 것을
       뜻한다. 우리는 악한 사람들이 이를 오용하지 않도록 대비해야 한다 – WSJ주최 CEO서밋(‘23.5)”

   ● AI 위험은 단순 사용자를 넘어 시스템적 위험, 즉 선거 개입 및 민주주의의 오염, 실업 문제,
       프라이버시 침해, 의료 및 금융사고 등 사회와 국가 전반의 위협을 초래할 가능성이 있음
   ● AI 산업 측면에서도 반도체, 클라우드, AI 플랫폼 등 AI 공급기업과 다양한 산업의 수요 기업이
       가치사슬로 엮인 특성으로 인해 AI 위험은 단위 기업이 아닌 산업 전체 차원의 대응이 필요
   ● 또한, 빅테크 기업이 여러 국가를 대상으로 제품 서비스를 제공함에 따라, AI 안전은 국가 간
       협력이 요구되는 사안으로 국가가 주도하는 AI 안전 정책의 필요성이 대두

---------------------------------------------------------------------------------------------------------------------------------------------------------