• 南方网

  • 南方日报

  • 南方都市报

  • 南方杂志

  • 南方日报出版社

粤港澳大湾区首个“真武”万卡智算集群上线

2026-04-04 21:45 来源:南方网·粤学习

  43日,由中国电信联合阿里云建设的粤港澳大湾区首个“真武”万卡智算集群在韶关数据中心正式上线。作为国家“超大规模智算集群”新基建工程在大湾区的首个落地项目,该集群实现了从芯片、云平台到模型应用的全链路自主研发。

  在技术层面,该集群采用新一代高性能组网架构,端到端数据传输时延低至4微秒,网络峰值利用率超过95%,上万张芯片可像一台超级计算机一样协同工作,稳定承载千亿参数级大模型的训练与推理任务。单台“真武”服务器配备1.5T超大显存,片间互联带宽达700GB/sQwen3.5DeepSeek V3.2全参数版等主流开源大模型均可在单机上直接部署运行。在开发生态方面,“真武”芯片已全面适配主流AI框架与工具链,并提供统一编程接口,开发者无需重写代码即可将业务平滑迁移至国内算力平台。

  集群提供从IaaSPaaSMaaS的全栈AI云能力,用户既可训练专属模型,也可直接调用已有大模型能力。依托针对“真武”芯片深度优化的工具套件,模型运行环境可在秒级完成加载,单个模型微调最快数小时即可完成,整体训练与推理效率较通用方案提升超过30%

  目前,该集群已在多个行业场景落地。医疗民生领域,集群上线“全诊通”应用,面向基层医疗机构提供诊疗智能化服务,已在中山大学肿瘤防治中心等医院开展应用试点。产业创新领域,为电子信息、先进材料、生物医药、装备制造、低空经济等重点产业提供模型训练、推理与调优服务,有效缩短创新周期。

  依托阿里全栈AI技术带来的协同优化,集群单卡吞吐性能较传统部署模式提升9.3倍,单机每秒Token生成量实现近10倍增长。为推动算力普惠,相关资源已同步上架“广东电信算力超市”,面向中小企业提供按卡、按小时计费的算力零售服务。同时,集群预计扩容至十万卡规模,助力大湾区更多科研机构、企业和政府单位以更低成本、更高效率使用算力资源。

编辑:宋鸽   责任编辑:陆泽彬  

扫二维码分享

回到首页 南方网二维码 回到顶部

南方报业传媒集团简介- 网站简介- 广告服务- 招标投标- 物资采购- 联系我们- 法律声明- 友情链接

本网站由南方新闻网版权所有,未经授权禁止复制或建立镜像 广东南方网络信息科技有限公司负责制作维护

违法和不良信息举报电话:020-87373397 18122015068

ICP备案号:粤B-20050235