【Day】MTP(Multi Token Prediction)技术学习
诞生背景
在MTP出现之前,LLM的推理流程的复杂程度是: InputTokenTFBlockLengthNIterInputToken \times TFBlock Length \times NIter InputTokenTFBlockLengthNIter 因此你会发现:真正会影响LLM图例速度的点在于Transformer Block在LLM模型中…
2026/7/10 9:39:01