爱敲代码の鱼儿-博客
03
29
卸载BloomFilter-业务实践 卸载BloomFilter-业务实践
卸载BloomFilter-业务实践最近在公司里面看代码,他在多级缓存里用到了BloomFilter。但是我详细看了一下他这个子类的业务场景,用BloomFilter很不合适。不过写业务代码太忙了,你要说改吧,肯定也没时间改。代码能跑就行,
02
23
大模型科研篇1-PD概念和并行计算概念 大模型科研篇1-PD概念和并行计算概念
大模型科研篇1-PD概念和并行计算概念PD概念大模型的 prefill 和 decode 是什么意思? 在大规模语言模型(如 GPT-3、GPT-4 等)的推理(inference)过程中,prefill 和 decode 是两个关键阶段,
2025-02-23
22