개인 데이터를 직접 수집·노출하지 않고도 AI를 학습하거나 활용할 수 있게 하는 기술 모음. 의료, 금융처럼 민감한 데이터를 다루는 분야에서 개인정보 보호와 AI 성능을 동시에 추구한다.

개념 설명

AI 모델을 학습시키려면 대량의 데이터가 필요한데, 그 데이터에 개인 정보가 담겨 있다면 수집·공유 자체가 문제가 된다. 프라이버시 보호 AI는 이 딜레마를 푸는 기술 집합이다. 대표적으로 연합학습은 데이터를 중앙에 모으지 않고 각 기기에서 학습해 모델만 공유하고, 차분 프라이버시는 학습 데이터에 통계적 노이즈를 추가해 개인 식별이 불가능하게 만든다.

사용 예시

병원 여러 곳의 환자 데이터로 진단 모델을 만들어야 할 때, 연합학습을 쓰면 각 병원이 데이터를 공유하지 않고도 공동으로 모델을 개선할 수 있다. 사용자 행동 데이터를 학습에 쓸 때 차분 프라이버시를 적용하면, 모델이 특정 개인의 정보를 기억할 가능성을 통계적으로 제한할 수 있다.