○ 과제명 : 생성형AI 관련 프라이버시 리스크 경감기술 평가연구

○ 연구 기간 : 계약 체결일로부터 5개월

○ 계약 방법 : 제한경쟁입찰(협상에 의한 계약)

○ 소요 예산 : 금50,000,000원(금오천만원) ※ 부가세 포함

○ 추진방식 : 위탁형 연구용역

○ 연구 목적

- AI 프라이버시 리스크 평가 기준·모델 마련 시 위험의 식별과 함께 위험 경감 기술을 종합적으로 고려하여 모델의 효용성을 확보할 필요

- 그러나, 생성형 AI 중 한국어 언어모델 대상 리스크 경감기술의 비용·효과 등에 대한 공개된 실증 연구가 부족하여 정책 참고에 한계

󰊱 생성형 모델에 대한 프라이버시 위험 경감기술(de-dup, prompt & output filtering, perturbation, pruning 등) 연구 동향 조사

󰊲 한국어 언어모델 대상 경감기술 적용 효과 테스트

○ 허깅페이스(Hugging Face)* 등에 오픈소스로 공개된 한국어 대규모 언어모델(모델 크기 50억 파라미터 이상) 중 성능과 이용도 등 고려 3건 선정

* 전 세계 모든 오픈소스 인공지능(AI) 모델과 학습용 데이터셋을 제공하는 플랫폼