36氪获悉,Omdia报告指出,对于模型推理和部署,NVMe(非易失性存储器高速)驱动器等低延迟存储可提供快速数据检索并提高实时性能。随着推理开始取得进展,Omdia预计到2028年,推理存储将以近20%的年复合增长率增长,几乎是用于LLM训练存储的四倍。
来源:36氪
36氪获悉,Omdia报告指出,对于模型推理和部署,NVMe(非易失性存储器高速)驱动器等低延迟存储可提供快速数据检索并提高实时性能。随着推理开始取得进展,Omdia预计到2028年,推理存储将以近20%的年复合增长率增长,几乎是用于LLM训练存储的四倍。
来源:36氪