最近,重庆人工智能创新中心成功孵化了云从科技的首个大模型解决方案,名为“从容大模型训推一体机”,并已成功部署。作为国内最早布局大模型的云服务商之一,华为不仅致力于深耕算力,打造强大的算力基础设施来支持中国人工智能事业的发展,而且还着眼于通用大模型和行业大模型,真正实现为千行百业和科学研究提供优质的人工智能服务

成功孵化首个大型模型解决方案的重庆人工智能创新中心-LMLPHP

经过重庆人工智能创新中心技术团队、昇腾研发专家和云从科技人工智能研究院的共同努力,一个月内顺利完成了“从容大模型训推一体机”的精度与性能对齐、产品集成与测试等工作,这成为了重庆人工智能创新中心孵化的首个大模型解决方案

“从容大模型训推一体机”基于昇腾AI基础软硬件平台,包括昇腾AI服务器、异构计算架构CANN和全场景AI框架昇思MindSpore,同时兼容PyTorch,单机2.5 PFLOPS FP16算力,训练性能超8000 tokens/s,支持多机组网部署及企业私有化部署,满足数据不出厂的信息安全要求。

云从科技自主研发的从容大模型生产平台,内置云从科技自主研发的从容大模型生产平台,支持企业打造专属行业大模型,以实现5倍效率提升。可选的模型参数规格包括十亿、百亿和千亿,结合云从传统视觉优势,提供语言、视觉和多模态三类基础模型。通过利用企业私有的行业和场景化数据,进行强化学习和模型精调(如SFT、RM和PPO),为基础模型注入专家知识和专家技术,使其在企业关注的领域内变得智能和精准,从而打造行业大模型,提升企业业务场景的效率和产品竞争力。在参数和loss曲线收敛对齐的条件下,基于昇腾和昇思MindSpore的模型训练性能超过业界平均水平1.6倍,并且推理问答结果更为优质

昇腾AI与产业界合作,构建了全流程的大模型使能体系,共同建设中国大模型生态。该体系已成功孵化和适配了30多个主流大模型,并在遥感和多模态领域成立了产业联合体。目前,已有80多家科研机构和企业加入其中,共同孵化出100多个行业新应用

昇腾AI将与云从科技合作,致力于打造基础软硬件平台,推动AI技术在重庆的城市特色产业中发挥作用,并创建具有示范效应的应用案例,为各行业提供全面的提升,助力企业实现持续高质量发展

马亮发布上游新闻

很抱歉,您提供的信息不足以进行重写。请提供需要重写的原句

编辑:杨昕华负责编写

审查:对赵蕾进行审核

以上就是成功孵化首个大型模型解决方案的重庆人工智能创新中心的详细内容,更多请关注Work网其它相关文章!

09-16 19:28