지식 증류(Knowledge Distillation)란? 큰 AI 모델의 지식을 작은 모델로 옮기는 방법
지식 증류는 큰 교사 모델의 출력 방식과 판단 패턴을 작은 학생 모델이 배우도록 훈련하는 AI 모델 경량화 방법입니다. 양자화, 파인튜닝, 모델 압축과의 차이까지 초보자 기준으로 정리했습니다.
지식 증류는 큰 교사 모델의 출력 방식과 판단 패턴을 작은 학생 모델이 배우도록 훈련하는 AI 모델 경량화 방법입니다. 양자화, 파인튜닝, 모델 압축과의 차이까지 초보자 기준으로 정리했습니다.