KEY FINDING

1. 설명 가능한 인공 지능(XAI)은 기계 학습 모델이 만들어낸 결정에 대한 신뢰성과 투명성을 확보하는 기술이다. 이는 의료, 금융, 보험, 군사 등 다양한 분야의 AI 기술 사용자로부터 신뢰를 얻기 위해 필요한 중요한 요소다.
2. XAI의 세계 시장 규모는 2021년에 44.1억 달러를 기록하였으며, 연평균 19.8 %의 높은 성장률을 유지하며 2026년에는 109.0억 달러를 기록할 것으로 전망되는데, 이는 XAI 기술의 가치와 중요성을 직관적으로 보여준다.
3. 국내 XAI 시장 규모는 2021년에 2,425억 원으로 나타났으며, 빠른 기술 발전과 함께 연평균 20.5 %의 성장률을 기록하며,
2026년에는 6,165억 원의 시장을 형성할 것으로 전망된다.
4. 국내에서는 네이버, LG, 카카오, 이글루코퍼레이션 등이 XAI 시장의 주요 업체로 활약하고 있으며, 전 세계적으로는 구글(Google)이 주요 연구개발을 주도하고 있다.
5. XAI 기술의 발전은 인공 지능의 '블랙박스' 문제를 해결하고, 인공 지능의 투명성과 신뢰성을 높이는 데 기여할 것이고, 또한 다양한 산업에서 인공 지능을 도입하고 활용하는 데 있어 핵심 요소가 될 것이다.

1) 시장의 개요

설명 가능한 인공 지능(Explainable AI, XAI)은 인공 지능(AI) 모델이 입력값(영상, 음성, 문자 등)에서 출력을 생성할 때 주요 근거가
되는 부분을 해당 입력 값에서 추출하여 시각화하거나 문장으로 표현하는 기술이다. 최근의 인공지능 모델들은 대량의 퍼셉트론1)을 사용해 입력과 출력의 관계를 최대한 근사화할 수 있도록 다양한 계수를 학습한다.

하지만 학습에 사용된 퍼셉트론의 수가 많고, AI 모델을 구성하는 Perceptron들 간의 관계가 복잡하기 때문에 AI 모델의 판단 근거를
수학적으로 판단하기는 어렵다. 이에 대한 해결책으로 설명 가능한 AI 모델은 AI 모델이 학습시 특정 계수 혹은 특정 구조체에 모델의 판단 근거를 투영할 수 있도록 수학적으로 설계하는 것을 목표로 한다.

영상, 음성, 문자 등의 데이터를 다루는 AI 모델에 대해서는 특정 계수에 판단 근거를 투영할 수 있는 주의 기법(Attention Mechanism)을 반영해 모델을 설계한다. 반면에 화학식, 소셜 네트워크 등의 사회 관계망을 다루는 AI 모델에 대해서는 특정 구조체(SubGraph)에 모델의 판단 근거를 투영할 수 있도록 모델을 설계한다.

--------------------------------------------------------------------------------------------------------------------------------------------------------