II. 기술의 개념 및 내용 HBM 기반 PIM NPU 반도체 기술은 NPU와 연산 기능 내장 HBM 메모리를 한 개의 반도체 내부에 집적함으로써, 메모리 데이터 접근 및 데이터 처리 성능을 극대화하여 대규 모 데이터의 실시간 인공지능 연산을 가능하게 하는 초고성능, 초저전력 인공신경망 연산 용 반도체 칩 기술임 * 본 내용은 권영수 책임연구원(☎ 042-860-5244, yskwon@etri.re.kr)에게 문의하시기 바랍니다. ** 본 내용은 필자의 주관적인 의견이며 IITP의 공식적인 입장이 아님을 밝힙니다. ** 정보통신기획평가원은 현재 개발 진행 및 완료 예정인 ICT R&D 성과 결과물을 과제 종료 이전에 공개하는 “ICT R&D 사 업화를 위한 기술예고”를 2014년부터 실시하고 있는 바, 본 칼럼에서는 이를 통해 공개한 결과물의 기술이전, 사업화 등 기술 활용도 제고를 위해 매주 1~2건의 관련 기술을 소개함 HBM 기반 PIM NPU 반도체 기술 Chapter 03 개발목표시기 2024. 12. 기술성숙도 (TRL) 개발 전 개발 후 4 6 결과물 형태 HW-IP, HW-Chip(Verilog, C) 검증방법 자체 검증 & 시험인증 Keywords 인공지능, 프로세싱 인 메모리, 근접 컴퓨팅, 고대역폭 메모리, 뉴럴 프로세서 Artificial Intelligence(AI), Processing in Memory(PIM), Near-Memory Computing, High Bandwdith Memory(HBM), Neural Processor 외부기술요소 100% 개발기술 권리성 HW-IP, SW-IP 주간기술동향 2021. 8. 11. 30 www.iitp.kr - 본 기술은 인공지능 컴퓨팅에서 요구하는 기존 AP 대비 1,000배 이상인 100테라플롭 스 이상의 성능을 한 개의 반도체 칩에서 제공하기 위한 반도체 설계 및 반도체 칩 기술임 III. 국내외 기술 동향 및 경쟁력 1. 기술의 특성 및 성능 기술의 특성 - 메모리 데이터 장벽 문제를 극복한 초고속, 초저전력 PIM NPU 반도체 - 거대 인공신경망 데이터를 실시간 처리할 수 있는 NPU 반도체 기술 - 인공신경망(neural network) 기반의 학습, 인식, 판단, 지능제어 컴퓨팅 기술 기술의 성능 - 인공신경망 연산 성능: >100TFLOPS/FP16 ※ TFLOPS: Tera Floating point Operations Per Second