- Arbitrary Order insights
- Lazy batch-updates - 메모리 처리 병목현상 개선
- Cholesky Reformulation
Quantization 오차가 가장 적은 가중치 기준으로 정렬하고 계산수행
second-order information
4 bits quantization
GPTQ Structure
Creator
Creator
Seonglae ChoCreated
Created
2023 Dec 9 6:43Editor
Editor
Seonglae ChoEdited
Edited
2023 Dec 9 6:43Refs
Refs
