BPE를 포함하여 기타 서브워드 토크나이징 알고리즘들을 내장 13-02 센텐스피스(SentencePiece)앞서 서브워드 토큰화를 위한 BPE(Byte Pair Encoding) 알고리즘과 그 외 BPE의 변형 알고리즘에 대해서 간단히 언급했습니다. BPE를 포함하여 기타 서브워드 토…https://wikidocs.net/86657