인공지능 환각 현상의 개념과 대응

1. 서론

인공지능(AI)의 발전은 인류의 정보 생산과 소비 방식을 근본적으로 바꾸고 있다.

특히, 거대 언어 모델(Large Language Models, 이하 LLM)은 언어를 이해하고 생성하는 능력을 바탕으로 다양한 분야에서

혁신을 일으키고 있다. 2023년 ChatGPT를 필두로 Claude, Gemini 등 다양한 모델이 등장하였으며 교육, 연구, 콘텐츠 제작 등

다양한 분야에서 활용되고 있다. 하지만, 이러한 발전의 이면에는 환각(hallucination), 즉 LLM이 사실과 다른 정보를 만들어내는

심각한 문제가 자리하고 있다. 생성형 AI가 다양한 분야에서 널리 사용되고 있는 AI 대전환(AI Transformation, 이하 AX) 시대에,

환각은 단순한 기술적 오류를 넘어 AI의 신뢰성을 위협하는 요인으로 작용한다.

특히, 의료 진단, 금융 사기 거래 등 고위험 도메인에서 발생하는 환각은 실제 많은 부작용을 낳을 수 있다. 

2. LLM의 원리

자연어 처리(Natural Language Processing, 이하 NLP)는 기계가 사람의 언어를 이해할 수 있도록 하는 컴퓨터 과학의 한 분야이다. 언어 모델은 자연어 처리 분야의 핵심 기술로, 주어진 맥락에 기반해 다음에 나타날 단어를 예측하는 방식으로 동작한다.

예측된 단어는 다음 단어 예측의 맥락에 다시 포함되어 자동적으로 모델은 연속적인 단어 예측을 수행할 수 있다.

이러한 이유로 자기 회귀(autoregressive) 언어 모델이라고도 불린다.

LLM의 등장으로 언어 모델이라는 용어가 일반 대중에게도 널리 알려졌지만,

해당 기술은 자연어 처리 분야에서 몇십 년에 걸쳐 연구되어 온 기술이다

---------------------------------------------------------------------------------------------------------------------------------------------------------