1990년대부터 보안용 디지털 영상처리 시스템반도체(SoC)는 우리나라가 주력 선도국가였으나, 최근의 인 공신경망 기술의 향상과 함께 고기능 시스템 반도체는 미국과 중국, 대만이 세계 시장을 장악하고 있다. 본 고에서는 현재의 인공지능기반 시스템 반도체의 개략적인 시장 상황과 국내외 보안용 제품에 대해 간단하 게 소개하고 자사 아이닉스의 IP SoC를 심층 분석하여 NPU의 성능 및 특징, 메모리 사용량, 네트워크 컴파일 및 운용방법 등에 대해 좀 더 자세히 알아보고자 한다. I. 서론 인공지능(AI) 하드웨어 시장은 클라우드 서버 사이드에서 성능을 가속화하는 방향과 스마 트 기기 내부에서 인공지능 성능을 지원하는 엣지 디바이스 방향으로 진행되고 있다. 특히, 후자의 경우가 팹리스 기업의 AI 기반 SoC 개발과 방향성을 같이 하며, 기기 자체에서 인공 지능 기술을 활용하면서 더욱 빠르고 전력 소모가 작으며 구현 비용이 적게 드는 방법을 개발하기 위한 경쟁이 전개되고 있다. 이에 글로벌 스마트폰 제조사들은 프리미엄급 스마트폰부터 AI 기능을 강화하는 추세를 보였다. 이러한 애플리케이션 프로세서(AP)는 중앙처리장치(CPU)와 그래픽처리장치(GPU) 외에도 NPU(Neural Processing Unit)나 텐서(Tensor) 가속기인 DSP(Digital Signal Processing) 등 AI용 프로세서를 함께 탑재한다. AI 프로세서 연구에서는 AI 알고리즘 자체 * 본 내용은 오병윤 수석연구원(☎ 031-893-3074, byoh@eyenix.com)에게 문의하시기 바랍니다. ** 본 내용은 필자의 주관적인 의견이며 IITP의 공식적인 입장이 아님을 밝힙니다. 인공지능 기반 보안용 시스템 반도체 동향 Chapter 01 기획시리즈-인공지능 반도체 정보통신기획평가원 3 를 압축하는 방식 등을 통해 메모리 대역폭 요구량 자체를 줄이는 기술, 연산량을 줄이기 위해 희소성(Sparsity)을 활용하는 연산기 기술, 연산기 비트 수를 줄이기 위한 낮은 비트 해상도(Bit precision) 변환 기술 등이 이슈가 되고 있다. 본 고에서는 II장에서는 인공지능 반도체 기술과 관련하여 글로벌 업체들의 기술개발 동향 에 대해 살펴보고, III장에서는 보안용 인공지능 IP SoC 관련 주요 업체들의 기술개발 동향 을 살펴본다. 마지막으로 IV장에서는 결론을 제시한다. II. 인공지능 반도체 기술 동향 이 장에서는 인공지능 반도체 기술과 관련하여 글로벌 업체들의 최신 보유 기술을 소개하 며 각각의 개발 동향에 대해서 살펴보도록 하겠다. 각 기업마다 엣지 디바이스, 클라우드 서버 방식 등 기술적 특징이 서로 달라 성능의 절대 비교는 어렵지만 전체적인 흐름을 보면 미세 공정의 도입으로 인해 저전력 고성능으로 가고 있으며 최근 성능 증가의 폭이 이전보다 크게 증가하였다. 애플은 2020년에 자사 제품에 기존에 사용하던 인텔 CPU가 아닌 자체적으로 설계한 M1 칩([그림 1] 참조)을 사용하여 큰 충격을 주었다. M1 칩은 기존보다 매우 뛰어난 성능 및 전성비로 SoC 시장에 혁신을 이끌어 낸 것으로 평가된다. M1 칩의 Neural Engine은 머신 러닝 작업을 가속하기 위해 추가된 모듈로, 최대 11TOPS(Tera Operations Per Second) 성능을 가진 16코어의 사양을 가지고 있다[1]. 이는 기존의 CPU로 머신러닝 작업을 할 때보 다 15배 빠른 것이라고 애플은 설명한다. 구체적인 성능 비교 자료는 제시하지 않았지만 이미 애플 제품 소비자들 사이에서는 데스크톱 GPU와 비등한 추론 성능을 보인다는 평가가 나올 정도로 월등한 성능을 지닌 것으로 보인다. M1 Neural Engine을 통해 애플은 자사 플랫폼 생 태계의 인공지능 애플리케이션이 좀 더 많이 활성화 가 될 것으로 기대하고 있다. 특히, 2021년 출시된 아이패드에도 M1이 탑재되어 태블릿 환경에서도 훌륭한 성능의 AI 앱들이 추가될 것으로 보인다. 퀄컴은 자체 개발한 6세대 AI 엔진을 최신 스냅