가. 정의 및 필요성
(1) 정의

☐ LLM 기반 AI 콜센터 플랫폼은 대량의 언어 데이터를 기반으로 학습한
AI 모델을 활용하여 고객의 문의를 신속하고 정확하게 처리하는 시스템

❍ 대규모 언어 모델(LLM)은 수천억 개(또는 그 이상)의 파라미터를 포함하는
언어 모델을 말하여, GPT-3, PaLM, Galactica, LLaMA와 같은 대규모 텍스트
데이터로 학습
- LLM은 심층적인 신경망에 멀티헤드 주의층(Multi-head attention layers)이
쌓여 있는 트랜스포머 아키텍처를 기반으로 구축

❍ 생성형 AI란 기존의 데이터에 대한 학습을 바탕으로 새로운 데이터를 생성
해낼 수 있는 모델을 통칭하는 개념
- 프롬프트에 대응하여 텍스트, 이미지, 기타 미디어를 생성할 수 있는 인공지능
시스템
- 입력 트레이닝 데이터의 패턴과 구조를 학습한 다음 유사 특징이 있는 새
로운 데이터를 작성
- 대표적인 생성형 AI 시스템으로는 ChatGPT, 오픈AI의 GPT-4, 구글의
LaMDA, 미드저니, DALL-E 등이 있음

❍ AI 콜센터 플랫폼은 AI를 이용하여 고객의 문의나 요청사항을 처리하는
고객센터 플랫폼을 말함
- 딥러닝 기반 음성인식(STT), 음성 합성(TTS), 자연어 처리(NLP), 텍스트 분석,
대화엔진 등의 AI 기술을 적용

(2) 기술개발 필요성

☐ 코로나19 이후 비대면이 활성화 되었는데, 특히 밀집된 공간에 많은 상담사가
몰려 있는 고객센터는 자동화 기능을 적극 도입하며 인력 및 업무 효율화를 추진

☐ 대규모 콜센터를 운영해왔던 금융사 및 대기업들은 현대화를 통해 운영
효율성과 비용절감의 효과를 누릴 수 있음

❍ 특히 재정 부담으로 콜센터를 운영하지 못했던 중소상공인 및 중소기업들도
‘서비스형 AICC(CCaaS)’의 구독을 통해 운영이 가능

❍ 대부분의 상담센터에는 단순 문의가 차지하는 비중이 상당히 높음. 통신사
의 경우, 청구서 발행 주기에 요금문의, 납부방법문의 등이 대표적인 예임
- 단순문의를 AI가 처리하도록 하면 고객은 상담사와의 연결을 기다릴 필요가
없어지고 상담사는 단순문의에 반복적으로 응대해야 하는 피로를 줄여 보다
생산적인 업무를 집중할 수 있음
- 기업들은 24시간 상담 응대가 가능할 뿐만 아니라 해외 지사를 위한 별도
콜센터를 구축할 필요가 없어 비용 절감 가능
- 업무적으로 고객과 상담한 진행 상황 및 특징 등을 클라우드 시스템에 보관하기
때문에 직원 교체가 자주 이루어지는 콜센터의 특성상 많은 어려움과 비용이 발
생하는 인수인계 문제도 해결할 수 있음

--------------------------------------------------------------------------------------------------------