14.8.4 输入表示
现在考虑BERT的输入。一般来说NLP里面的输入都是成对的,比如机器翻译,有一个源句子还有一个目标句子。那么这里如何让输入是两个句子呢?我们只用拼接起来就好了,如下
<cls>
表示classification,sep
表示句子分隔符(separation);Segment Embeddings
就是用来区分词元来自哪个句子的
当然其实我们可以连接三个句子或更长,但是一般不这么做
现在考虑BERT的输入。一般来说NLP里面的输入都是成对的,比如机器翻译,有一个源句子还有一个目标句子。那么这里如何让输入是两个句子呢?我们只用拼接起来就好了,如下
<cls>
表示classification,sep
表示句子分隔符(separation);Segment Embeddings
就是用来区分词元来自哪个句子的
当然其实我们可以连接三个句子或更长,但是一般不这么做