I. 서 론

1950년대 인공지능이라는 단어가 처음 사용된 이후 50년 이상의 기간 동안 기계 학습,
딥러닝, 뉴로모픽과 같은 개념을 도입하며 점진적으로 연구되던 인공지능은 2010년대 구글
의 텐서플로, 구글 딥마인드의 알파고 모델이 개발되면서 폭발적인 대중화를 견인하였다.
이후, 2022년 11월 처음 발표된 OpenAI의 챗 GPT는 인공지능 챗봇에 대한 대중의 인식을
완전히 뒤바꿈으로써 또 한 번 인공지능 모델에 대한 대중의 관심을 크게 불러일으켰다.
이에 따라 2023년 2월 Google의 BARD, 3월 OpenAI의 GPT-4와 Google의 Flan-UL2, 7
월 Meta의 LLAMA2와 같은 거대 언어모델(LLM, Large Language Model)들이 비교적 짧

은 기간에 앞다투어 발표되었다.
2023년 4월 발표된 Research And Markets의 보고서에 따르면, 이러한 LLM 시장 규모
는 2023년 113억 달러에서 2028년 518억 달러로, 연평균 복합 성장률이 35.6%를 달성할
것으로 예상한다 [1]. LLM 개발의 가장 도전적인 문제 중 하나는 모델의 크기가 너무 커서
하나의 컴퓨팅 노드에서 계산하기에 속도가 너무 느리거나, 여러 개의 분산된 컴퓨팅 노드
에서 병렬 계산하기에 메모리 접근 시간이 많이 소요된다는 점이다. 즉, LLM 추론 및 학
습에 하드웨어 리소스가 절대적인 병목 현상으로 작용한다.
전 세계의 손꼽히는 반도체 기업들은 새로운 프로세서, 아키텍처, 또는 메모리를 개발 및
채택하거나 더 나아가 새로운 패키징 기술을 도입하여 하드웨어 면에서 인공지능 알고리즘
개발 동향에 적극적으로 대응하고 있다. 공통적인 기술 동향으로는 컴퓨팅 파워, 메모리 용
량, 메모리 대역폭을 증가시키는 방향으로 하드웨어를 개발하여 큰 모델인 LLM을 처리하
는 데 필요한 대용량의 하드웨어 리소스를 원활하게 제공하고자 하는 방향으로 개발을 수
행하고 있다.
본 보고서에서는 프로세서의 종류, 즉, CPU, GPU, FPGA, 그리고 ASIC에 대해 대표적
인 기업들의 주요 전략 및 개발 동향에 대해 살펴보고, 공통으로 주목하고 있는 기술을 소
개함으로써 최근 인공지능 반도체 기술의 방향을 분석하고자 한다.

---------------------------------------------------------------------------------------------------------------------------------------------------