Ⅰ. 서론

1. 연구 필요성 및 목적

○ 디지털성범죄의 많은 사례들에서 확인한 바 있듯, 인공지능 역시 젠더 기반폭력의 새로운 양상을 초래하고 있음. 인공지능 기술이

    젠더폭력의 도구가 될 수 있으며, 이에 대한 대응이 필요함.

○ 본 연구는 인공지능 모델의 젠더폭력 위험을 객관적으로 측정, 보완할 수 있는 최소한의 공신력 있는 기준이 필요하다는 문제의식

    에서 출발 하였음.

○ 현재 한국은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 '인공지능기본법')」 시행을 앞두고 있으며, 인공지능 및 데이

    터 기반 미디어 환경으로 급속히 이행하고 있음. 인공지능에 의한 젠더폭력의 위험을 미연에 방지하기 위해서는 상용 인공지능의

    잠재적 성적 침해 및 편향 가능성을 검증하는 등 젠더기반폭력 예방에 관한 정책 방안을 도모할 필요가 있음.

○ 이에 본 연구에서는 인공지능 기술이 야기하는 젠더기반폭력, 그중에서도 성적 침해와 착취를 방지할 수 있는 정책적 프레임워크와

    기술적 개입 방안을 모색하고자 하였음.

○ 또한 본 연구는 경제적 이해관계에서는 중요하게 고려되기 어려운 영역인 젠더편향, 차별, 젠더폭력과 같은 분야에 대한 공공의 적

    극적 개입 필요성을 탐구하고자 함.

○ 성희롱을 비롯한 젠더 기반 괴롭힘은 특정 문화권의 상징 체계, 언어적 함축, 세대별로 변화하는 은어와 신조어를 통해 우회적으로

    표현되고 있으므로, 한국어의 언어 구조와 한국 사회의 젠더 문화를 반영한 맥락 특화 벤치마크 데이터셋 개발이 필요함.

--------------------------------------------------------------------------------------------------------------------------------------------------------