BERT输入含token type嵌入,GPT通常无
BERT双向表示适合理解类,GPT单向自回归适合生成
GPT原生支持左到右生成,BERT端到端生成能力有限
BERT采用Masked LM+NSP,GPT采用自回归LM
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题