1. 머리말

2022년 오픈에이아이(OpenAI)가 대화형 챗봇 인공지능(ChatGPT)을 발표하였다.

과거 알파고와 이세돌의 바둑 대국과 같은 놀라움을 선사하였으나, 이전과는 확실한

차이점이 있었다. 우리 모두가 인공지능 기술을 직접 체감할 수 있었다는 것이다. 챗

GPT는 이전에 공개된 AI 서비스들보다 접근성과 효용성 차원에서 대폭 발전하여 대

중에게 상용화되기 시작하였다. 대형언어모델(LLM)로 데이터센터에서 엄청난 수의

반도체로 학습된 초거대 인공지능 서비스이며, 대량의 데이터 처리와 다량의 컴퓨팅

리소스 소비 등을 특징으로 하는, 공급자 중심의 클라우드 기반AI(Cloud-based AI)

로 발전하였다.

방대한 양의 파라미터를 통한 자연어 학습으로 고성능 대화형 인공지능 서비스를 다

수에게 제공할 수 있는 장점이 있으나, 개인정보 유출과 보안 위협, 높은 유지비용, 서

비스 속도 지연 등의 단점 역시 존재했다. 대중에 인공지능 서비스의 공급이 확대되며,

기존 방식에 대한 이용자들의 개선 의견이 증가하였고, 공급자 역시 서비스를 운영하

는 데 많은 유지비용이 수반됨에 따라, 새로운 형태의 인공지능 서비스 공급 방안이

필요해졌다.

결과적으로 ‘에지(Edge)에서의 인공지능 운영’ 방식이 대안으로 제시되었다. 에지(Ed

ge) AI는 클라우드 기반 AI와 대조적 개념의 운영 방식으로, 클라우드나 중앙 데이터센

터가 아닌 네트워크 종단에서 AI 알고리즘 컴퓨팅이 이뤄지는 것을 의미한다. 에지 AI는

중앙 서버 에 의존하지 않고 IoT 기기 자체 또는 물리적으로 근거리에 위치한 에지 서버

를 주 매개로 하여 데이터 분석과 기기 동작이 이뤄지는 방식이다.

클라우드 AI와 에지 AI의 구현은 기술적으로 반도체에 의해 구분된다. 중심부에서 모든

주변부를 제어하는 방향으로 발전해 왔던 초기 반도체 시장은 데이터센터용 반도체인

CPU, GPU가 주류를 이루고 있었다. 에지로 인공지능의 구동 위치가 이동하게 되면서,

기존 반도체보다 고효율·저전력·소형화 특징을 갖춘 고성능 반도체가 필요해졌다. 이는

에지 디바이스용 반도체로 구분되며, 인공지능 전용 반도체의 플랫폼 기준을 확장하였다.

본고에서는 클라우드 기반 AI 서비스가 에지로 확장되는 이유를 살펴보면서, 에지 AI 구현을 위한
연구현황과 새로운 반도체 시장을 형성하게 된 인공지능 반도체 기업 동향을 살펴보고자 한다.

---------------------------------------------------------------------------------------------------------------