Seonglae Cho개인적으로는 quantization하고 knowledge distillation이 가장 크게 체감되는 성능향상 (크기 감소) 인데 이거를 통해서 local runnable ai모델로 최적화하는 게 목표
회사로써는 서버 gpu 모델이 맞다고 생각한다. 내가 가지고 있는 하나의 아이디어로는 이런 구현이 이미 있는지는 모르지만 neural network의 레이어를 구분햐여 일부 켬퓨팅을 브라우저단이나 디바이스단으로 edge computing하는 방식은 모델의 구조를 전부 공개할 필요가 없기 때문에 충분히 사업적이라 생각한다.