AI 모델의 성능, 편향, 안전성, 규제 준수 여부를 독립적으로 검토하고 문서화하는 과정. 배포 전 체크포인트이자 지속적인 운영 모니터링 수단이다.

개념 설명

소프트웨어 보안 감사처럼 AI 모델도 외부 관점에서 검토가 필요하다. 모델 감사는 개발팀 내부 평가와 달리 독립적 검토자가 모델의 훈련 데이터, 성능 지표, 편향 분포, 안전성 테스트 결과를 체계적으로 점검한다. EU AI Act와 같은 규제 환경에서는 고위험 AI에 대해 감사 문서화가 법적으로 요구된다.

사용 예시

모델을 프로덕션에 배포하기 전에 모델 카드(Model Card)를 작성하는 것이 기본적인 감사 실천이다. 어떤 데이터로 학습했는지, 어떤 집단에서 성능 차이가 있는지, 알려진 한계는 무엇인지를 문서화한다. Hugging Face는 모든 모델에 모델 카드를 권장하며, 기업 환경에서는 정기적인 드리프트 모니터링(시간이 지남에 따라 모델 성능이 저하되는지 추적)을 감사 프로세스에 포함한다.