IT之家5月25日消息,面壁智能联合清华大学、OpenBMB开源社区甘肃股票配资信息平台,今天正式发布并开源其在低比特大模型训练方向的最新成果——BitCPM-CANN。
官方表示,这是中国首个完全基于国产算力平台(华为昇腾)实现端到端训练并开源的三值(1.58-bit)大模型。从量化算子、训练算法到全链路框架,BitCPM-CANN均在华为昇腾上原生完成,包含0.5B、1B、3B、8B四个模型尺寸,与同尺寸MiniCPM4全精度家族逐项对照评测,性能表现优异。
网上杠杆配资
元股证券:ygzq.hk
相比传统BF16精度,BitCPM-CANN在推理阶段释放约6倍显存红利,同时将模型能力保留率维持在90%–97.2%。

官方表示,对手机产业来说,6倍的显存红利意味着,一个8B参数的BitCPM-CANN大模型,可以轻松运行在当前主流旗舰手机之上。
此外,面壁智能基于MindSpeed×Megatron-LM主干搭建了完整的低比特训练底座,包含环境适配、32K长序列支持、并行策略、融合算子等完整工程体系。从此,所有面向昇腾的低比特训练工作,都可建立在同一套公共基础设施之上。
BitCPM-CANN0.5B/1B/3B/8B全系列模型权重现已开源,IT之家附链接如下:
HuggingFace:https://huggingface.co/collections/openbmb/bitcpm-cann
ModelScope:https://modelscope.cn/collections/OpenBMB/BitCPM-CANN甘肃股票配资信息平台
环宇证券|江苏省可查的网上配资平台提示:本文来自互联网,不代表本网站观点。