发布日期:2025-04-13 13:46 点击次数:157
IT之家 4 月 10 日讯息北条麻妃个人资料,在当天举行的华为云生态大会 2025 上,华为常务董事、华为云料想 CEO 张祥瑞公布了 AI 基础神情架构说明,推出 CloudMatrix 384 超节点北条麻妃个人资料,并告示已在芜湖数据中心界限上线。
据先容,华为云 CloudMatrix 384 超节点可终了从工作器级到矩阵级的资源供给模式转化,具备“高密”“高速”“高效”的特色,通过架构改进,在算力、互联带宽、内存带宽等方面终了高出。
华为云还暗示,对昇腾 AI 云工作进行抓续优化,现在其已全面适配包含 DeepSeek 在内的 160 多个第三方大模子,为大模子训推提供可靠保险,因循行业驾驭快速落地。此外,华为云盘古大模子已在 30 多个行业、400 多个场景中落地,在城市科罚、贤慧金融、医疗健康、欣忭展望等界限泛泛驾驭。
IT之家崇拜到,硅基流动当天也告示连合华为云基于 CloudMatrix 384 超节点昇腾云工作和高性能推理框架 SiliconLLM ,用大界限巨匠并行最好实施崇拜上线 DeepSeek-R1。
硅基流动先容称北条麻妃个人资料,该工作在保证单用户 20 TPS 水平前提下,单卡 Decode 隐约冲破 1920 Tokens / s,可并排 H100 部署性能。同期,历程主流测试集考据及大界限线上盲测,在昇腾算力部署 DeepSeek-R1 的模子精度与 DeepSeek 官方保抓一致。
黑丝铺告白声明:文内含有的对外跳转运动(包括不限于超运动、二维码、口令等神情),用于传递更多信息,从简甄选技术,成果仅供参考,IT之家统共著述均包含本声明。 ]article_adlist--> 声明:新浪网独家稿件,未经授权拒接转载。 -->