- 요약문 -

자율인공지능 시스템은 인간의 개입 없이 실시간으로 스스로 결정을 내리고 작업을 수행하도록 설 계되었으며, 자율주행자동차, 드론, 스마트홈, 로봇 등 다양한 산업과 애플리케이션에 혁신을 일으 키고 있다. 완전한 수준의 자율인공지능 시스템의 개발은 아직 개발 로드맵이 제시된 수준에 불과 하지만, 이보다 낮은 수준의 자율인공지능 시스템의 개발과 배포 또한 여러 가지 문제를 야기할 수 있다. 따라서 이러한 시스템은 인간의 가치와 이익에 부합하는 방식으로 신중하게 설계 및 개 발되어야 하며, 이에 수반되는 많은 과제를 단계별로 적극적으로 해결해나가야 한다.

1. 서론

ChatGPT 의 놀라운 성능과 유용성에 깊은 인상을 받은 사람들은 이제 인공지능이 증기기관, 전 기, 컴퓨터, 인터넷과 같은 기술혁명과 어깨를 나란히 한다고 평가하고 있다. 혹자는 인공지능이 스 마트폰의 발명보다 더 극적인 사회적, 경제적 변화를 우리에게 가져올 것이라 예측하고 있으며, 나 아가 공상과학이라 여겨졌던 인공지능으로 인한 인간의 도태가 부지불식간에 다가오는 것이 아니 냐는 우려 또한 증가하고 있다. 인공지능이 사람의 개입 없이 인공지능을 개발하고 학습하여 이를 바탕으로 스스로 진화하는 선순환이 이루어진다면, 현재 인간의 생물학적 한계와 학습 방식을 고 려해봤을 때 인간의 지능이 인공지능의 지능을 추월하기란 불가능해 보인다. 지능은 생태 피라미 드에서 유기체의 서열을 결정하는 데 중요한 역할을 한다. 지능은 먹이를 찾고, 포식자를 피하고, 다른 유기체와 경쟁하는 능력에 결정적인 영향을 미치기 때문에, 생태계에서 지능이 가장 뛰어난 인간이 먹이사슬의 가장 높은 위치에서 생태계 전체를 지배하고 있다. 따라서 인간이나 다른 유기 체처럼 생각하고 행동하면서 보다 뛰어난 지능을 가지고 있는 존재가 나타난다면, 그것이 이러한 지배적 지위를 차지하게 되는 것은 진화론적으로 매우 자연스러운 일이라 할 수 있다.