자연어로 질문하고 지시하면 다양한 작업을 수행해주는 AI 시스템. ChatGPT 이후 가장 대중적인 AI 인터페이스가 됐다.
AI 어시스턴트는 LLM을 핵심으로, 대화 맥락을 유지하며 질문 답변, 문서 작성, 코드 생성, 정보 검색 등 다양한 작업을 처리한다. ChatGPT, Claude, Gemini가 대표적이다. 도구 사용(Tool Use) 기능이 추가되면서 단순 텍스트 생성을 넘어 웹 검색, 파일 처리, 코드 실행까지 할 수 있는 에이전트로 발전하고 있다.
개발자가 AI 어시스턴트를 커스텀 서비스에 통합할 때는 API를 통해 시스템 프롬프트로 역할과 제약을 정의하고, 대화 히스토리를 관리해서 맥락을 유지한다. 특정 도메인에 특화된 어시스턴트를 만들 때는 RAG로 도메인 지식을 주입하거나, 파인튜닝으로 스타일과 응답 패턴을 조정한다. 멀티턴 대화 설계와 폴백 처리(모르는 질문에 대한 응답 전략)가 품질을 결정한다.