Daily Develope

ㅇ Distillation (모델 증류 방법)Teacher & Student Modelㅇ Self Detection / CalibrationSelf Detection : 모델이 출력한 결과를 모델 스스로 검증하고, 필요하다면 질/답을 수정 또는 재시험하는 구조 (예, Think Twice)Calibration : 출력된 모델의 답변과 feature를 기반으로 평가 Module을 사용해 정확도를 측정하는 (일반적인) 구조ㅇ Self ReasoningPrompting 기술, 추론 기술 등 (예, few-shot, CoT)(참고) Inference VS ReasoningInference : 단순히 학습된 모델에 그대로 데이터를 입력해 결과를 처리하는 과정Reasoning : 사람이 문제를 해결할 때와 유사하게..