新富策略

[中国，北京，2024年3月22日] 野生智能框架作为软件根手艺，已成为加快野生智能大模子开辟、鞭策财产智能化成长的焦点气力。以“为智而昇，思创之源”为主题的昇思野生智能框架峰会2024在北京国度集会中间举行，旨在会聚AI财产界立异气力，鞭策根手艺延续立异，共建野生智能开源重生态。软通能源作为结合包办方深度到场该峰会。

大会时代，昇思MindSpore开源社区理事会第三次闭门集会召开，软通能源高等副总裁、数字根本举措措施与集成总司理谢睿作为理事会成员代表列席，与行业火伴共探MindSpore将来成长趋向。

会上(shang)，软通(tong)能(neng)源(yuan)数字根(gen)本举措措施与(yu)集成手(shou)艺(yi)总(zong)监(jian)单继岭(ling)颁发了题为“软通(tong)能(neng)源(yuan)训推一体化平台加快企业智能(neng)化进级”的主(zhu)题报告，旨经由过程一体机情势赞助客户(hu)完(wan)成大模子场景推理“最初一千(qian)米”。

另外，昇思野生智能框架峰会2024的举行为业界供给了一个交换协作的平台。大会时代，软通能源在峰会展区表态了“AI训推一体化平台”和“天璇2.0MaaS平台，与浩繁火伴停止了互动与协作。

软通能源AI训推一体化平台，买通AI利用最初一千米

野生智能作为引领将来的计谋性手艺，正在深入鞭策着人类社会和财产变更；野生智能框架作为软件根手艺，在AI手艺的迭代中表演着主要脚色。在此背景下，软通能源推出AI训推一体化平台，该平台集成了昇腾AI根本硬件平台、天鹤OS操纵体系等组件，并搭载天璇2.0 MaaS平台，撑持一站式AI开辟，叠加行业AI大模子，深度适配企业差别AI利用处景。软通AI训推一体化平台撑持昇思MindSpore 全场景AI框架，具有用户态易用、运转态高效、安排态矫捷的特色，能够为用户供给设想友爱、运转高效的开辟休会。今朝，软通AI训推一体化平台已笼盖央国企、科技机构、教导实训、金融等打造多个offering办事差别客户。

以后，大模子在各行各业的范围化利用落地面对精准度不够、与营业体系联动缺乏、数据宁静耽忧、算力本钱居高不下等题目，为晋升大模子在现实营业中的有用利用，软通能源结合百川智能推出“软通-百川AI大模子一体机”。 软通能源副总裁、数字根本举措措施与集成副总司理刘雅、数字根本举措措施与集成手艺总监单继岭；百川智能政企奇迹群产研总司理李剑、政企奇迹群一体机担任人谢楠配合列席宣布典礼。

作为自立立异的软硬一体处理打算，该一体机基于昇腾AI根本硬件平台，预装百川大模子才能，撑持多轮对话、报告天生、内容天生、代码天生、常识检索、文本分类、API平台、企业常识库等多样化功效，在很多庞杂的客户营业场景中，助力用户完成大模子场景推理的“最初一千米”。

【同方AI算力底座】

软通-百川AI大模子一体机基于昇腾AI硬件底座，具有高能效、高算力、高靠得住、易办理、易扩大等长处，可按需挑选两款硬件产物：同方超强K620和同方超强A800I A2，整合天鹤OS操纵体系，普遍利用于AI算法开辟和AI推理办事的场景。焦点上风以下：

■ 超强算力：机能抢先，加快AI推理效力，单台推理办事器可达2.2 PFLOPS AI算力

■ 超高能效：内置高算力AI芯片、高机能算子库，撑持多卡高速互联、散布式存储；

■ 光滑(hua)扩大：按照(zhao)营业须要能(neng)够(gou)随时扩大存储、算力、办(ban)事器；

■ 宁静启动：一体机内网安排，数据(ju)不出机房，数据(ju)宁静靠得(de)住，构建可托的出发点。

【百(bai)川基座(zuo)大(da)模子】

软通-百川AI大模子一体机基于全场景昇思MindSpore AI开辟框架，预装百川大模子助力企业疾速展开营业大模子场景推理，按照推理成果完成微调，进步模子展望的精确率;处理企业大模子疾速安排上线、算力本钱居高不下、数据宁静耽忧等题目。

■ 丰硕的基座大模子：内置了Baichuan2 3B、7B、13B、33B大模子参数，且撑持192K长窗口，单次可输出超35万字,极致的Transformer计较工程优化;

■ 搜刮加强+常识库：基于搜刮加强的企业常识库与及时信息获得,业界抢先的Embedding model，稀少检索+向量检索完成的多路召回才能,融会互联网在线搜刮和信息整合才能；

■ 全(quan)性(xing)命周期办(ban)事：装置安排、模(mo)子安排、推理办(ban)事等全(quan)性(xing)命周期，供给优良高效(xiao)手(shou)艺办(ban)事。

跟着野(ye)生(sheng)智(zhi)能手艺的(de)(de)(de)不时成(cheng)长和提高，大模子(zi)一体机将在更多(duo)范畴(chou)获得利用和推行。将来，软通能源将结合华(hua)为、百川(chuan)智(zhi)能等火伴(ban)持(chi)续阐扬(yang)上风，不时立异冲破(po)，为野(ye)生(sheng)智(zhi)能手艺的(de)(de)(de)成(cheng)长和财产的(de)(de)(de)繁(fan)华(hua)做(zuo)出更大的(de)(de)(de)进献。