I. 의료인공지능 신뢰성
1 블랙박스 인공지능
2 신뢰성이 필요한 이유
3 설명 가능한 인공지능
4 견고한 인공지능
6 공정한 인공지능
II. 의료인공지능 안전성
1 인공지능의 안전성 이슈
2 안정성 평가방법
III. 신뢰성/안전성 주요국 대응 동향
1 미국
2 유럽연합(EU)
3 일본
4 대한민국
IV. 신뢰성/안전성 평가 가이드라인

I. 의료인공지능 신뢰성

인공지능(여기서는 추론에 기반을 둔 왓슨보다는 딥러닝을 지칭함)은 이제 연구를 시작한 지가 10년 정도 된(인공지능의 효시를 1970년부터 볼 수도 있고, 딥러닝으로 Auto-encoder를 사이언스에 출간한 2006년으로 볼수 있지만1), 여기서는 ImageNet의 결과를 10%이상 향상하여 전 세계에 딥러닝을 알린 Alexnet이 발표된 2012년으로 보겠다.2)) 기술이다. 인류 역사와 같이 존속하는 의학 같은 전통학문과 비교해보면, 아직 유아기라고 할 수 있다. 또한, 딥러닝이 이론이 나오고 기술적으로 구현된 것이 아니라 인간의 뇌를 모사한 시스템을 경험적으로 실증하는 식으로 발전하고 있고 많은 새로운 시도를 통해 빛의 속도로 발전 중이다. 딥러닝 기술적 특성인 네트워크와 매개변수(weights)로 실제 딥러닝이 무엇을 보고 어떻게 판단하는지 이해하기 어렵다는 측면에서 이것을 블랙박스(Black-box)라 한다.