爱敲代码の鱼儿-博客
大模型科研篇1-PD概念和并行计算概念 大模型科研篇1-PD概念和并行计算概念
大模型科研篇1-PD概念和并行计算概念PD概念大模型的 prefill 和 decode 是什么意思? 在大规模语言模型(如 GPT-3、GPT-4 等)的推理(inference)过程中,prefill 和 decode 是两个关键阶段,
2025-02-23