<요약문>
오늘날 인공지능 기술의 발달에 따라 ChatGPT 를 위시하여 사회 각 분야에 인공지능 기술이 적용되면서 여러 혁신을 불러오고 있다 . 그러나 인공지능 모델 학습을 위해서는 대량의 개인정보가 필요하며 이는 프라이버시 침해 문제를 야기한다. 본 리포트에서는 프라이버시 침해 위험을 최소화하는 분산 인공지능 학습 기법인 연합학습과 사실상의 프라이버시 보호 표준으로 자리 잡은 차분 프라이버시 기술을 소개하고 차분 프라이버시를 인공지능 학습에 적용하기 위한 연구 동향을 소개하고자 한다.

프라이버시, 인공지능, 딥러닝, 차등 프라이버시
Privacy, Artificial Intelligence, Deep learning, differential privacy

1. 서론
오늘날 인공지능 기술이 사회 각 분야에 도입되 면서 여러 혁신을 불러옴에 따라 이에 대한 관심이 증가하고 있다. 동시에 인공지능 기술이 야기할 수 있는 사회적 위험에 대한 문제 역시 중요하게 논의되고 있는데 , 인공지능 학습에 사용되는 대량의 개인정보에 의한 프라이버시 침해 문제도 그중 하나이다. 이 문제를 해결하기 위한 한 가지 방법으로 연합학습이 제시되었다. 연합학습은 학습에 참여하
는 참여자가 자신의 기기에서 자신의 데이터를 사용해 로컬 모델을 학습한 후, 로컬 모델 파라미터 만을 서버에 전송한다. 원본 데이터가 외부에 노출되지 않기 때문에 프라이버시 침해가 일어날 가능성을 낮출 수 있지만 연합학습 역시도 원본 데이터 침해가 일어날 가능성이 있다. 이 문제를 해결하기 위한 한 가지 방법은 차분 프라이버시이다. 차분 프라이버시는 노이즈 삽입 등을 통해 하나의 데이터에 의한 질의 결과의 차이를 일정 수준 이하로 제어하는 기술로 서 프라이버시 보호를 위한 사실상의 표준으로 여겨지고 있다. 참고문헌 2 에서는 확률적 경사 하강법 (Stochastic Gradient Descent, SGD) 에 차분 프라이버시를 적용한 DP SGD 알고리즘을 통해 딥러닝 모델 로 발생 가능한 프라이버시 침해를 예방할 수 있는 기법을 제안하였다. 본 리포트에서는 차분 프라이 버시와 차분 프라이버시가 적용된 인공지능 기술의 연구 동향을 소개함으로써 인공지능 사용 시 발생 가능한 프라이버시 침해 위험과 프라이버시 보호 기술에 대한 관심을 환기시키고자 한다.

-------------------------------------------------------------------------------------------------------------------------------------------------------