가. 정의 및 필요성
(1) 정의

☐ AI의 안전한 활용을 위해 AI 기술 활용한 산업에서 사이버 공격 대응기술과
AI 역기능 대응기술을 의미

❍ 사회·산업 전반에 걸친 AI 활용 확산에 따른 악용 및 사이버 공격 위협을 예방하고
AI 역기능을 예방하기 위한 기술

☐ AI 보안은 크게 크게 2가지로 분류할 수 있으며 본 전략기술로드맵에서는 AI를
지키고 보호하기 위한 기술을 중점적으로 다룸

❍ AI 기술을 활용해 악성코드탐지, 침입탐지 같은 기존의 보안 문제를 해결하는
‘AI를 이용한 보안(AI for Security)’이 있음

❍ 시스템보안이나 소프트웨어 보안과 별개로 AI 모델이 갖는 별도의 취약점을
방어하기 위한 ‘AI를 위한 보안(Security for AI)’이 있음
- 본 전략품목에서는 AI를 위한 보안을 중심으로 다룰 예정

☐ AI 기술의 대표적인 기술로 자율무인이동체 보안 위협대응, AI 역기능 대응,
딥페이크 탐지기술이 있음

❍ (자율무인이동체 보안 위협대응) 자율무인이동체의 안전과 신뢰 확보를 위해
보안 위협에 효과적으로 대응할 수 있는 기술

❍ (AI 역기능) AI 시스템이 스스로 잘못된 판단을 하도록 유도하는 AI 취약성
(적대적 사례 등)을 이용한 공격 대응을 위한 기술

❍ (딥페이크 탐지) 이미지, 신체 특징, 주파수 기반 탐지 등 다양한 기법을
이용한 딥페이크 영상을 탐지하는 기술

--------------------------------------------------------------------------------------------------------------