< 목 차 >

Ⅰ AI 중심사회의 도래

Ⅱ AI 기술의 이해와 현황

Ⅲ AI 기술의 보안 이슈

Ⅳ 시사점 및 정책 제언

코로나-19로 촉발된 디지털 대전환은 사회 변화의 핵심동력이 될 것이며, AI 주도의 ICT 패러다임 변화가 예상되고 지속될 전망 ∙ 국내ㆍ외 IT 기술 트렌드 전망과 전문가 설문조사에 따르면, 미래사회 변화·발전을 주도할 유망 기술로 AI를 선정 ∙ 가트너, IDC 등 시장 조사기관들은 글로벌 AI 시장의 지속적인 성장을 예측하였고, 우리 정부와 해외 주요국은 글로벌 AI 경쟁에서 주도권을 확보하기 위해 관련 전략·정책을 추진 중 머신러닝·딥러닝을 비롯한 AI 알고리즘은 산업에서 고객에게 차별화된 제품·서비스를 제공하고 기업이 더 효과적인 의사결정과 높은 경영성과를 달성하도록 촉진 ∙ 다이내믹 프라이싱, 콘텐츠 기반·협력 필터링 등 AI 알고리즘을 통해 고객 편익을 최대화하는 추세이며, 최근 금융기관 및 핀테크 기업도 AI 알고리즘을 활용한 금융서비스를 제공 중 AI의 보안위협은 증가 추세로 이에 대한 대응준비는 부족. 다양한 보안위협에 대응하고 AI를 안전하게 활용하게 하는 ‘AI를 위한 보안(Security for AI)’ 필요 ∙ 현재·미래의 AI 보안위협은 프라이버시 침해 등 서비스 이용 부문의 위협이 가장 높으며, AI 서비스의 핵심인 데이터(모델)에 대한 위협도 대비 필요 ∙ 본 연구에서는 다양한 AI 보안위협 중 대표적인 보안위협인 ① AI 모델 공격, ② 자율주행차 오작동 등의 안전성(Safety) 이슈, ③ 프라이버시 침해를 분석 앞으로 도래할 ‘AI 중심사회’에서 다양하게 발생하는 보안위협을 고려하고 안전한 AI 활용을 위한 기술적 보안과 법·제도 등 정책적 대응방안 마련 필요 ∙ AI 제품·서비스 개발 시 사전에 보안과 프라이버시를 고려하는 ‘AI 서비스에서의 Security by Design과 Privacy by Design’ 원칙 적용 필요 ∙ AI 활용의 데이터 프라이버시 강화를 위한 ‘차세대 개인정보보호 강화 기술 연구 및 개발’ 필요 ∙ AI 시스템의 중립성·공정성·투명성을 비롯하여 개인정보 처리주체의 책임성을 제고하기 위한 ‘제3자 기관에 의한 감사제도 도입과 AI 알고리즘 투명성 리포트 발행’ 권고 ∙ 다양한 ICT 유망 기술과 AI가 융합되어 스마트공장, 자율주행, 디지털헬스 등 산업 전반에 활용이 전면화 되는 ‘기술융합사회’에 대한 대비 요구코로나-19로 촉발된 디지털 대전환은 사회 변화의 핵심동력이 될 전망 대면활동 제약을 극복하기 위해 비대면 시대(언택트)로 진입하며 경제·사회 전반의 분야에서 디지털 대전환이 이루어짐 ∙ 재택근무, 유연근무 확대 및 온라인 회의, 스마트워크 등으로 업무·소통 방식을 비대면으로 전환했으며, 제조업의 자동화·지능화 촉진으로 산업계 변화 가속화 ∙ 비대면·비접촉 수요의 급속한 증가로 AI, 클라우드, 네트워크(5G, 6G) 등 ICT 기술과 블록체인, 메타버스, 디지털 트윈 등 ‘융합 ICT 기술’이 빠르게 발전 하는 양상을 보임 2030년 미래사회 전망에서도 ICT 신기술이 융합되어 디지털화되고, 사회변화가 가속화 될 것으로 예측1 ∙ (정치) 디지털 대전환, 코로나19로 인한 경기 안정 등을 위한 국가의 역할이 강화되고, 디지털 기술 중심의 사회에 따른 사이버위협 대응 및 국가안보의 중요성이 강조되는 중 - 국가 주도 디지털 대전환의 가속화, 디지털 기반의 정치 활동 및 코로나19 이후 전통적인 정부에서 플랫폼 정부로의 전환 등 공공·행정 분야에서의 변화로 정부 역할 강조 - 플랫폼, 디지털 중심의 사회에 따른 온라인, 가상환경 서비스 규제가 완화되고 있지만, 개인정보보호 등 정보보안의 중요도가 높아지고, 국가 간 사이버위협이 증가 ∙ (경제) 산업의 디지털화, 비대면 경제의 확대, 가상경제 등이 지속적으로 발전함에 따라 전통적인 산업 구조가 변화하는 등 경제 전반에 디지털화·비대면 상황이 부각 - 코로나19로 인한 배달·온라인 쇼핑 등 비대면 서비스의 성장, 데이터 경제 등장, 최첨단 기술과 융합한 AI 자동 결제, 무인점포 등 새로운 시장 형성 및 수요 증가