凭据林灰在论文中增补内容进行的论述。
传统的训练机制下,文本摘要模型的发生思路是:
语料训练→模型
而凭据林灰的思路引入预训练机制后。
文本摘要模型的发生思路是:
语料预训练→预训练模型→微调→模型
这个思路的自己是没问题的。
但伊芙·卡莉面对着这个全新的模型发生思路却满脑子全是问题。
具体应用的时候究竟引入何种的预训练方式...
凭据林灰在论文中增补内容进行的论述。
传统的训练机制下,文本摘要模型的发生思路是:
语料训练→模型
而凭据林灰的思路引入预训练机制后。
文本摘要模型的发生思路是:
语料预训练→预训练模型→微调→模型
这个思路的自己是没问题的。
但伊芙·卡莉面对着这个全新的模型发生思路却满脑子全是问题。
具体应用的时候究竟引入何种的预训练方式...