寒武纪今日宣布,基于自研NeuWare软件生态与vLLM框架,已完成对深度求索公司最新大模型DeepSeek-V4的“Day 0”适配,适配代码同步开源。这是寒武纪连续第二次在DeepSeek新模型发布首日便推出国产芯片适配方案。
针对DeepSeek-V4全新结构,寒武纪通过自研高性能融合算子库Torch-MLU-Ops,对Compressor、mHC等模块专项加速;并运用BangC编程语言编写稀疏/压缩Attention、GroupGemm等热点算子的极致优化Kernel,充分释放硬件底层潜力。此前双方通过软硬件协同优化,已实现业界领先的算力利用率。
DeepSeek-V4预览版同步上线并开源,拥有百万字超长上下文,Agent能力与推理性能表现突出。寒武纪表示,DeepSeek-V4原生运行于寒武纪芯片,对中国AI产业具有里程碑意义。
