近日,在中国移动的助力下,中国石油高效完成DeepSeek V3/R1全尺寸、全版本全栈国产化的训推适配和私有化部署,并落地应用。基于DeepSeek的关键技术点,此次部署进行了系列基础模型算法创新,实现了从底层芯片到框架、模型的全栈自主可控,为推动人工智能技术在能源化工领域的深度应用与国产AI技术生态的规模化落地注入了强大动力。
一直以来,中国移动与中国石油两大央企积极响应国家人工智能战略,努力推动“人工智能+”在能源化工行业落地生根。此前,中国移动携手中国石油发布了能源化工领域首个行业大模型——700亿参数昆仑大模型。
面对中国石油多模态、超百亿参数的大模型训练任务需求,移动云凭借强大的算力网络能力,实现了资源的快速响应、弹性扩展及高质量供给。通过为中国石油构建“算力泛在BWIN体育官网,、算网共生、智能敏捷、安全可靠、绿色低碳”的一体化算力体系,移动云已提供超过1000P的稳定算力资源,为大模型的建设和运行提供了坚实的算力保障。
为了使DeepSeek系列模型在昆仑大模型原有的框架下获得更好的适配效果和执行性能,中国移动通过配置化开发,在DeepSeek V3模型基础上快速实现了自定义模型参数和规模的针对性优化。团队在不实际启动集群训练任务的情况下,仅通过单卡即模拟出集群中所有卡的内存占用情况,从而制定整体的集群分布式训练策略。
中国移动复现并优化了Deep-Seek MTP多Tokens预测功能,通过DeepSeek-V3/R1主模型和MTP Module的分布式调度,实现一次解码生成多个Token,并通过整图编译功能,组合计算图的通用算子,实现自动融合加速,提升DeepSeek-V3/R1端到端的推理性能。
此次DeepSeek大模型的成功部署,为政企客户实现DeepSeek V3/R1全栈国产化的训推适配和部署提供了重要参考,也为中国石油昆仑大模型优化应用效果、缩短研发周期、构建健康生态提供了新引擎BWIN体育官网,,推动“数智中国石油”建设步入快车道。(记者 宜欣)bwin.必赢,bwin.必赢,
客服热线:400-123-4567
公司传真:+86-123-4567
客服 QQ:1234567890
办公邮箱:admin@admin.com
公司地址:广东省广州市天河区88号
Copyright © 2002-2024 云顶国际集团财富管理有限公司 版权所有
扫描关注云顶国际集团公众号
扫描进入云顶国际集团小程序