Perplexity.ai 처럼 source document를 주석으로 달아주는 Chatbot을 만들어봤습니다. API사용 없이 로컬에서 CUDA로 돌아갑니다.
Langchain과 직접 GPTQ Quantization한 모델을 이용하여 만들었고 도움될 분이 있을까 해서 소스 공유드립니다
Angryface
Creator
Creator
Seonglae ChoCreated
Created
2023 Jul 7 18:52Editor
Editor
Seonglae ChoEdited
Edited
2023 Jul 7 18:54Refs
Refs