회의 내용
- Reader DPR보다 GPT로 포커싱 맞추자
- Bart, PegasusX에서 Information loss 체크해야
- GPT summarizer 로 먼저 성능 체크로 개념 증명해야
- Sparse Attention같은 언급 조심해야
추후 고려 사안
- odqa llm 평가 하는 것 위주로 최신논문 확인해야
- GPT말고도 ODQA fid reader 전통적 추가하기 좋다
- NQ이외의 ODQA나 다른 태스크 데이터셋 고려
진행 방안
- GCP 잠깐 켜서 top-k 100개 passages를 test 데이터에 대해서 캐싱하기
- QA Test data에 대해 Retrieval 해오도록
- GPT summarizer와 Reader에 대해서 성능 최대화
Seonglae Cho