여러 층의 신경망을 쌓아 데이터에서 복잡한 패턴과 표현을 자동으로 학습하는 기계학습 방법. 이미지 인식, 음성 인식, 자연어 처리의 혁명을 이끌었다.
머신러닝에서 특징(feature) 추출은 전통적으로 사람이 직접 설계해야 했다. 딥러닝은 이 과정을 자동화한다. 층이 깊어질수록 더 추상적인 특징을 학습한다 — 첫 번째 층은 엣지를 학습하고, 다음 층은 형태를, 더 깊은 층은 "고양이"와 "강아지"의 의미적 차이를 학습하는 식이다. 2012년 AlexNet이 ImageNet 대회에서 압도적 성능을 보이며 딥러닝 시대를 열었다.
현재 딥러닝을 직접 구현하는 경우보다 사전 학습된 모델(Pretrained Model)을 가져다 파인튜닝하는 경우가 훨씬 많다. Hugging Face의 모델 허브에서 용도에 맞는 모델을 찾아 자신의 데이터로 파인튜닝하면 처음부터 학습하는 것보다 훨씬 빠르고 적은 데이터로 좋은 성능을 낼 수 있다. GPU 메모리와 배치 크기, 학습률이 핵심 하이퍼파라미터다.