2月4日,腾讯混元AI Infra团队正式推出开源生产级高性能LLM推理核心算子库HPC-Ops。腾讯混元称,在真实场景下,基于HPC-Ops,混元模型推理QPM提升30%,DeepSeek模型QPM … Continue reading 腾讯混元AI Infra核心技术开源
标签: 技术开源
腾讯混元AI Infra核心技术开源:推理吞吐提升30%
财联社2月4日电,腾讯混元AI Infra团队正式推出开源生产级高性能LLM推理核心算子库 HPC-Ops。在真实场景下,基于HPC-Ops,混元模型推理 QPM 提升30%,DeepSeek模型 Q … Continue reading 腾讯混元AI Infra核心技术开源:推理吞吐提升30%
