DeepseekV4上线,模型在下了,昇腾的部署文档快端上来吧,已经饥渴难耐了
问题描述:image1920×1066 539 KB还记得上次部署deepseek还是在上次 网友解答:--【壹】--:文档里写的1.6T,FP8+FP4混合推理--【贰】--:1.6t说的是基座模型,一般不会部署这个。--【叁】-
共收录2篇相关文章
问题描述:image1920×1066 539 KB还记得上次部署deepseek还是在上次 网友解答:--【壹】--:文档里写的1.6T,FP8+FP4混合推理--【贰】--:1.6t说的是基座模型,一般不会部署这个。--【叁】-
问题描述:image618×231 7.09 KB网友解答:--【壹】--:己經用MoE, 比国外少了--【贰】--:智谱的模型的确也比较大,思考的比较多。不像很多模型,参数少--【叁】--:的确很讨厌,以前没有cp套餐的时候也是各