华为联合,见证昇腾大模型推理应用启航
7月5日,2024世界人工智能大会(WAIC2024)期间,昇腾人工智能产业高峰论坛2024在上海世博中心盛大举行,论坛现场,华为联合WPSAI等11家生态伙伴及客户发布基于昇腾大模型推理解决方案的五大场景优秀实践,共同见证人工智能大模型在“文本生成、文生视图、辅助编程、终端应用、智能办公/客服”应用启航的历史时刻。
昇腾大模型推理解决方案暨五大场景优秀实践发布
在2024年7月3日的WAIC互联网昇腾之夜,WPSAI研发总监刘强在会上带来了WPS基于昇腾大模型训练推理实践的演讲。他表示,WPS与昇腾共同合作,从零开始预训练金山政务办公模型,经过多机精度性能的对齐,成功对精度、模型结构、超参、数据等方面进行了全面优化,最终实现了稳定训练,且评分效果符合预期。
此外,在昇腾大模型的训练推理实践中,WPSAI还建立了一套完整的容错体系,包括集群异常、NPU故障、网络故障、ECC错误、I/O性能异常、Loss尖峰等方面的处理措施。实现了平台层的容错,如XPU网络故障感知、镜像及数据集加速、多云联邦集群高可用训推算力业务潮汐自动调整等。
与此同时,金山办公也在上海的世界人工智能大会上宣布WPSAI升级为2.0,华为联合,见证昇腾大模型推理应用启航其中包括面向个人用户的4个AI写作助手,以及WPSAI企业版、WPSAI政务版,为用户持续提供更加智能、高效、便捷的办公体验。
大模型只有与应用场景相结合才能发挥最大的价值,昇腾与WPS的联合是在大模型落地行业场景道路上走出的坚实一步,将为这些场景在提升工作效率、改善服务质量、推动创新发展方面提供助力,也为更多场景下的大模型应用提供了有益参考。
免责声明:本网站部分内容由用户自行上传,若侵犯了您的权益,请联系我们处理,谢谢!联系QQ:2760375052