❏ 개요 ○ 미국 상·하원에서 각각 ‘인공지능 책임법안(Algorithmic Accountability Act of 2022)’을 발의(‘22.2.3.) - Ron Wyden, Cory Booker(상원) 및 Yvette Clarke(하원) 의원은 2019년에 발의되었던 알고리즘 책임법안을 보완하여 상(S.3572)·하원(H.R.6580)에 법안 발의 ※ Wyden·Booker·Clarke 의원은 2019년 부정확·불공정·편향·차별을 초래하는 결함이 있는 알고리즘 활용 기업의 책임성 강화를 위해 처음 알고리즘 책임법안을 발의 - 법안은 상원 상업과학교통위원회(Committee on Commerce, Science, and Transportation)와 하원 에너지상업위원회(Committee on Energy and Commerce)에 각각 회부 ※ 이후 하원은 소비자보호 및 상업 소위원회(Subcommittee on Consumer Protection and Commerce)에 회부(’22.2.4.) ○ 이번 알고리즘 책임법안은 자동화된 선택·결정 알고리즘 시스템의 확산에 따른 오류·편향성등 새롭게 등장하는 잠재적인 위험성을 규제하기 위해 제안 - 법안의 목적 : 시스템 및 설계·편향성 등을 방지하고 안전성 확보 등 알고리즘의 활용 확산에 따른 새로운 위험 예방을 위한 안전장치 마련 - 기업에게 자동화된 중요 의사결정이 소비자에 미치는 영향을 평가하도록 책무를 부여, 영향평가 가이드라인 및 연차보고서 제작 등 FTC의 의무와 권한을 강화 ❏ 주요 내용 ■ 입법 취지 ○ 자동화된 의사결정 시스템에 대한 투명성과 책임성 확보를 입법의 주요 목적으로 제시 - 일반적으로 알고리즘의 사용으로 인해 발생하는 문제는 데이터 결함, 편향, 안전, 성능 격차등에 따라 발생하는 문제로서 알고리즘 기업의 사전적 검증을 통해 해결할 수 있으나, - 규제기관이 직관적으로 ‘자동화된 의사결정 프로세스’가 언제 어떻게 사용되는지 인지하기어려워 오용행위에 대한 규제가 곤란 - 이에 따라 기업이 이용자와 감독기관에게 관련 정보를 제공하여 투명성을 확보하고, 결정· 판단에 따른 영향을 사전에 인지·분석·평가하고 개선하기 위한 영향평가를 지속적으로 수행하도록 하여 책임소재 명확화■ 적용 대상 ○ 법안은 ‘자동화된 의사결정 시스템(Automated Decision System ; ADS)’뿐만 아니라 ‘증강된 중요 의사결정 프로세스(Augmented Critical Decision Process ; ACDP)’에도 일반적으로 적용 - (ADS) 인간의 개입없이 자동화된 결정으로 결정이나 판단의 근거가 되는 모든 컴퓨팅 시스템, 소프트웨어 또는 프로세스로 기계학습, 통계 또는 기타 데이터 처리 또는 인공지능 기술에서 파생된 것을 포함하며, 수동 컴퓨팅 인프라(Passive Computing infrastructure)*는 제외 * 웹호스팅, 도메인 등록, 네트워킹, 캐싱, 데이터 저장, 정보보안 등 결정·판단 등에 영향을 주지 않는중개(仲介) 기술(intermediary technology) - (ACDP) 중요한 의사결정에 자동화된 의사결정 시스템을 활용하는 모든 과정, 절차, 기타 모든 활동 등을 포함하는 것으로, 사람이 최종적인 의사결정을 하는 경우에도 그 의사결정이인공지능·알고리즘 활용 결과를 근거로 하는 때에도 적용될 수 있도록 개념 도입 ○ (적용 대상) ACDP를 배포하는 기업(개인사업자, 조합, 법인 등 사업자의 형태를 불문)으로서, - ① 가장 최근 회계연도 이전 3년의 과세연도 동안 평균 연간 총수입(매출액)이 $50,000,000 이상이거나 자기자본이 $250,000,000 이상인 기업 또는, - ② 1,000,000명 이상의 소비자, 가정 또는 소비자 장치의 식별정보를 소유, 관리, 수정 또는 사용하여 ADS 또는 ACDP를 개발하거나 배포하는 기업과 - ③ 위의 기업을 실질적으로 소유, 운영 또는 지배하는 기업에 적용 ■ 중요 의사결정(Critical Decision) ○ 법적·실질적으로 개인의 삶(비용, 조건 또는 가용성 등)에 중대한 영향을 미치는 결정·판단으로서 다음에 관한 사항 - ① 평가, 검·인정 또는 인증을 포함한 교육 및 직업훈련 - ② 고용, 노동자 관리 또는 자영업 - ③ 전기, 난방, 수도, 인터넷 등 정보통신망 접근 또는 교통 등 인프라의 운영 - ④ 입양 또는 출산 관련 서비스를 포함한 가족 계획 - ⑤ 주택담보 등 금융회사, 금융중개업자 또는 채권자가 제공하는 금융 서비스 - ⑥ 정신 건강, 치과, 안과를 포함한 모든 의료서비스 - ⑦ 임대 또는 단기 주택 또는 숙박 시설 등 주거 관련 서비스 - ⑧ 중재, 조정 등을 포함하는 법률 서비스 - ⑨ 연방거래위원회(FTC)가 국민의 생활에 법적, 실질적 또는 이와 유사하게 중대한 영향을 준다고 인정하는 기타 서비스, 프로그램 등