- CLS Token’s context vector (last token embedding if AutoRegressive padding)
- Mean pooling - 모든 단어의 의미를 반영하는 쪽
- Max pooling - 중요한 단어의 의미를 반영 (각 차원별 최대값)
17-07 센텐스버트(Sentence BERT, SBERT)
BERT로부터 문장 임베딩을 얻을 수 있는 센텐스버트(Sentence BERT, SBERT)에 대해서 다룹니다. ## 1. BERT의 문장 임베딩 BERT로부터 문장 벡터를…
https://wikidocs.net/156176


Seonglae Cho