AI로 합성된 가짜 영상이나 이미지를 식별하는 기술. 딥페이크 생성 기술이 빠르게 발전하면서, 탐지 기술도 함께 진화하는 군비 경쟁 양상을 보이고 있다.

개념 설명

딥페이크는 실존 인물의 얼굴이나 목소리를 AI로 합성해 실제처럼 보이는 미디어를 만드는 기술이다. 탐지는 주로 불자연스러운 눈 깜빡임, 피부 질감의 일관성, 조명 반사 패턴 등 사람이 미처 신경 쓰지 못하는 미세한 아티팩트를 잡아내는 방식으로 이루어진다. 생성 모델이 발전할수록 탐지 모델도 더 정교해져야 하는 구조다.

사용 예시

소셜 미디어 플랫폼은 업로드되는 영상에 딥페이크 탐지 모델을 실시간으로 돌려 의심 콘텐츠를 걸러낸다. 뉴스룸에서도 제보된 영상의 진위를 판단할 때 이 도구를 쓴다. 워터마킹과 결합해, AI 생성 영상에 처음부터 식별자를 심어두면 탐지 정확도를 높일 수 있다.