요 약

■ (정의) 온디바이스 AI(On-Device AI)란 데이터를 외부 서버나 클라우드에 전송하지 않고 디바이스 자체적으로 AI연산을 수행하는

    기술
 ◎ 대용량 데이터 처리 제한, 개인정보 유출 위험, 실시간성 저하 등 기존 서버 기반 중앙집중형 구조의 여러 제약사항을 해결하기

     위해 등장
 ◎ 높은 컴퓨팅 파워가 필요한 AI 연산을 다양한 하드웨어 및 소프트웨어 기술을 활용하여 최적화 된 스마트폰, 로봇, 드론 등 디바이

     스 내에서 AI 연산 수행

 ◎ 디바이스 내 자체 AI 연산을 통해 네트워크 환경에 독립적인 실시간 서비스, 개인정보 유출 최소화, 서버 운영비용 절감 등 강점

 ◎ NPU, AI 모델 최적화 등 고수준의 하드웨어 및 소프트웨어 기술 동시 요구로 인해 높은 진입장벽 존재

■ (시장동향) 글로벌 기업 및 각국 정부 투자 가속화로 고성장 예상
 ◎ 생성형 AI 및 온디바이스 AI 시장은 전 세계적으로 빅테크 기업 투자 열풍으로 급성장이 예상되며, 각국 정부들도 투자계획 수립

     을 서두르고 있어 향후 시장 확대가 가속화될 전망

 ◎ 미국을 포함한 유럽, 일본, 중국, 대만, 한국 등 주요 국가에서 디바이스 중심의 AI 관련 기술 개발 지원 정책을 지속적으로 발표 

 ◎ AI칩 제조사들은 자사 칩 기반 생태계 구축을 위해 데이터·AI모델·추론·SDK 등 전방위적 기술 지원

    - 단순 하드웨어 드라이버 수준의 라이브러리를 넘어 AI 모델 경량화 및 최적화 도구 등 생태계 구축을 위해 다양한 소프트웨어

      지원

■ (기술동향) 온디바이스 AI 하드웨어부터 가속 추론 소프트웨어, 생성형AI 최적화까지 폭넓은 분야에 걸쳐 기술 개발 진행

■ (발전방향) 기술 선도 및 시장 선점을 위한 킬러 서비스 경쟁 심화 전망 및 국내 중소 기업 관련 지원 확대 정책 필요
 ◎ 온디바이스 AI가 향후 AI 시장의 게임 체인저 역할을 할 것으로 예상되며, 기술 확보를 위한 M&A, 인력 확보, 킬러서비스 확보 등

     경쟁 심화 전망

    - 온디바이스 AI 기술을 활용해 사용자에게 혁신적인 경험을 제공하기 위한 킬러 서비스에 대한 경쟁 심화 예상되며 궁극적으로

      개인화된 맞춤형 AI 서비스로의 발전 기대

 ◎ 기술 선도 및 시장 선점을 위해 생태계 확장이 필요하며 이를 위해 중소기업의 온디바이스 생성형 AI 시장 진입 장벽 해소를 위한

     정책 필요

    - 온디바이스 AI 제품 및 서비스 개발을 위한 연구, 핵심 인력 양성·재직자 역량 강화 교육, 서비스 사례 확보를 위한 실증 지원 필요

--------------------------------------------------------------------------------------------------------------------------------------------------------