< 목 차 >

  1장. 프로젝트 개요​

  2장. 알고리즘 영향평가(AIA)의 이해

  3장. 헬스케어 AI의 Context

  4장. AI의 영향평가 모델 사례 : NHS AI Lab의 국가의료영상플랫폼(NMIP)

  5장. 제안된 AIA 프로세스

요약 최근 영국 국민건강서비스(NHS)와 에이다 러브레이스 연구소(Ada Lovelace Institute)는 헬스케어 분야에서 적용 가능한 AI 알고리즘에 대한 영향평가(Algorithmic Impact Assessment, 이하 AIA) 모델을 세계 최초로 발표 □ AI가 해결하는 문제, AI가 만드는 문제? ○ 헬스케어 분야에서 AI는 병리학 진단의 정확성을 개선하고, 의사가 임상 이외 다른 작업에 사용할 시간과 리소스를 절약하게 하며, 다양한 소스에서 더 많은 데이터를 수집, 제공함으로써 의사들의 임상 연구와 질병 분석에 큰 도움을 주고 있음 ○ 다른 한편 편향되거나 인종 차별적인 태도와 같은 인간의 주관이 AI 시스템 또는 알고리즘 개발에 영향을 줄 수 있기 때문에 AI 시스템도 편향이나 차별 문제를 일으킬 수 있는 위험이 존재함 □ 알고리즘 영향평가(AIA) 도구? ○ 알고리즘 영향평가(AIA)는 이러한 위험을 완화하기 위해 AI 시스템이 줄 수 있는 사회적 영향을 사전에 평가하는 데 사용되는 도구(AI 시스템에 대한 사후 지속적인 모니터링에도 사용 가능) ○ 영국 국민건강서비스(NHS)는 최근 AI와 데이터 전문 연구 기관인 Ada Lovelace Institute에서 개발한 AIA 모델을 사용하여 세계 최초로 헬스케어 분야에서 AIA 시범적용을 한다고 발표 - NHS는 NHS AI Lab의 국가의료영상플랫폼(NMIP) 데이터에 액세스하여 AI 시스템을 개발하려는 회사는 누구든지 AIA를 수행해야 한다는 것을 명확히 함※ NMIP는 NHS가 전국민 의료 영상 데이터베이스를 포함하며 AI 모델을 개발하고 테스트하기 원하는 기업과 연구자가 액세스하여 사용할 수 있도록 만든 데이터 플랫폼 - NHS의 NMIP 데이터 액세스 위원회(DAC)는 AI 시스템 개발회사가 수행한 AIA 프로세스와 그 결과를 검토하고 궁극적으로 누가(액세스 신청자) NMIP에 액세스할 수 있는지 결정 □ 알고리즘 영향평가(AIA)의 목적? ○ 모든 AIA가 수행되는 목적이자 지향하는 바는 다음과 같음 - 책임성(Accountability) : 제안된 AIA 프로세스는 특정 이해 관계자 앞에서 AI시스템 개발자가 자신의 행위와 의무를 설명하거나 이행요구자들의 질문에 답을 해야함 - 성찰 및 개선(Reflection/reflexivity) : 제안된 AIA 프로세스는 AI 시스템이 어떻게 사회에 특정 이익과 손해를 끼치는지에 대해 특정 이해관계자들과 토론을 하게 해서 AI 개발자의 자기성찰과 반성을 촉진하는 것을 목표로 함 - 표준화(Standardisation) : 제안된 AIA 프로세스는 광범위한 이해 관계자가 쉽게 이해할 수 있는 표준화된 접근 방식과 언어를 사용하며 다양한 신청서를 보다 쉽게 비교할 수 있도록 하는 표준 템플릿 문서를 제공 - 독립된 조사(Independent Scrutiny) : 제안된 AIA 프로세스는 외부 이해 관계자가 AIA를 평가하고 참여 워크숍을 통해 AIA 프로세스 자체의 문제를 불러낼 수 있도록 독립적인 조사를 허용함 - 투명성(Transparency) : 제안된 AIA 프로세스는 신청팀이 AIA 프로세스와 결과를 문서화하도록 촉구함 으로써 내부 및 외부 가시성을 통해 투명성을 개선하는 것을 목표로 하고 있음 ○ 이러한 목표는 AIA 프로세스 내에서 문서화 및 참여라는 두 가지 접근 방식을 사용하여 달성 가능 - 문서화(Documentation)는 AIA 프로세스 전반에 걸쳐 철저한 기록 관리를 유지하게 하는 것으로, 신청자가 내부 프로세스 및 실습내용을 보다 쉽게 재고하고 프로세스 전반에 걸쳐 성찰할 수 있도록 하는 것임 - 참여(Participation)는 AIA 프로세스 전반에 걸쳐 더 넓은 범위의 관점을 공유하게 하는 것으로, 신청자는 개인의 실제 경험과 시스템 개발에 필요한 개선안을 제공받을 수 있고 이해관계자는 AI 시스템의 영향에 대한 보다 독립적이고 편견 없는 검토가 가능하게 함