<span>ubuntu上将常用程序拖到左侧栏目</span>

MTP训练阶段怎么做的？推理阶段投机采样怎么做的？输入1个&nbsp;token&nbsp;t1，主模型会预测1个token&nbsp;t2&nbsp;，MTP层会循环预测N次，N个draft&nbsp;token,&nbsp;dt1,dt2,...dtn，共1&nbsp;+&nbsp;1&nbsp;+&nbsp;N&nbsp;个token然后&nbsp;t1,t2,&nbsp;dt1,dt2,...dtn&nbsp;送入模型模型会并行根据&nbsp;t1,t2&nbsp;预测t3，对应dt1根据&nbsp;t1,t2,&nbsp;dt1&nbsp;预测t4，对应dt2根据&nbsp;t1,t2,&nbsp;dt1,dt2&nbsp;预测t5，对应dt3...当dt中某一个不被主模型接受，就丢弃后边所有的draft&nbsp;token例如dt1，dt2被接受，记作t3,t4，dt3不被接受那么相等于多吐出了2个tok...