Seonglae ChoContext shrinker
동적으로 context추가된 이후에 tree 구조로 분해하여 embedding 관리하는 모듈
vector similarity가 가장 기본이고 (다만 이건 query가 필요함)
model attention 으로 attention value 가져오는 것도 방법일듯 (다만 model forward 여러번 해야하는 문제)
일반적인 방식은 same level의 context vector끼리 attention 처럼 고르기
어쨋든 다양한 레벨에서 DFS BFS처럼 동시에 확장해야 하다보니 복잡한 알고리즘 필요할듯
이걸 단순한 수학적 접근이 아니라 lanauge model처럼 효율적으로 integration (학습 parameter가 존재한다거나) 하는 방식이 필요하다
그러니 strategy parameter가 있는경우 없는경우 비교해야할듯
없는 경우 로직을 짜자면 dfs가 나은듯 혹은 더 나은건 a*처럼 distance기반이 제일 좋아보이긴 한다