天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。
分类: 云计算
2025-02-17 11:05:02
近日,天翼云DeepSeek模型推理技术迎来重大升级!该技术不仅支撑DeepSeek-R1满血版模型实现性能的四倍提升,更将大规模部署模型的成本降至原来的25%以下,为AI应用落地铺就更为宽广的道路。
两大升级技术
● 量化技术赋能
针对模型的浮点计算进行深度优化,使用高效量化算法,大幅减少计算资源消耗,提升推理速度,同时保证性能不打折!
● 通信传输优化
优化通信算子编排与通信方式,显著提升MoE模型推理中的通信效率,助力DeepSeek-R1模型的整体处理能力再上新台阶!
升级亮点
● 天翼云提供的DeepSeek-R1满血昇腾版每实例性能提升至原版本207%,首字输出仍保持百毫秒级响应。
● 天翼云提供的DeepSeek-R1满血昇腾版每实例部署所需机器数减少一半,仅为两台。
此次升级DeepSeek-R1为行业的大规模AI应用提供了更完善的解决方案。DeepSeek-R1满血昇腾版整体部署成本降至原来25%以下意味着,企业可以在不增加太多预算的情况下,享受到更强大、更高效的AI服务,加速了AI技术的普及与应用。
目前“息壤”智算平台已支持部署DeepSeek版的产品:
扫码即刻体验
性能更高、成本更低的
DeepSeek-R1满血版模型