Alan JoThe process of aligning the separated features in the neurons to suit the purpose during Pre Training to optimize the task.
목적이 있지 않거나 메모리가 물리적으로 batch 1으로도 부족한 게 아닌 이상 일부 parameter만 업데이트 PEFT보다 full parameter가 낫다. 하지만 학습 데이터의 스펙트럼이 제한적이라면 대화능력같은 부분이 없어질수도
- Fine-tuning: update including embedding
- Feature-based: Fix embedding and update only the layer above.
Fine Tuning Notion
Fine Tuning Tools
