12月13-14日，昇思人工智能框架峰會暨成果發(fā)布會在北京舉辦。AI框架作為大模型開發(fā)及產(chǎn)業(yè)落地的基礎(chǔ)軟件，在人工智能技術(shù)棧中起到使能算法開發(fā)、釋放硬件性能的“承上啟下”作用。

會上，商湯參與基于昇思AI框架的大模型原生開發(fā)成果發(fā)布;同時，商湯基于華為生態(tài)在模型和算法方面的優(yōu)秀創(chuàng)新與實踐，獲得了昇思MindSpore開源社區(qū)2024年度杰出開發(fā)者稱號，標(biāo)志著雙方在推動人工智能技術(shù)發(fā)展方面邁出了堅實的一步，通過共同構(gòu)建框架新生態(tài)，為用戶提供更加高效、便捷、可靠的智算服務(wù)。

圖 | 商湯參與基于昇思AI框架的大模型原生開發(fā)成果發(fā)布

強強結(jié)合，取得多項聯(lián)創(chuàng)成果

2024年，商湯依托昇騰與昇思生態(tài)，共同推進基礎(chǔ)模型、行業(yè)大模型應(yīng)用與創(chuàng)新，通過高效并行、通信優(yōu)化及網(wǎng)絡(luò)架構(gòu)感知和任務(wù)調(diào)度等軟硬優(yōu)化技術(shù)，構(gòu)建了大規(guī)模并行訓(xùn)練加速系統(tǒng)。在此基礎(chǔ)上，商湯聯(lián)合昇思MindSpore優(yōu)化混合專家(MoE)模型高效計算架構(gòu)，模型性能提升18%以上。

基于昇思MindSpore，商湯還建設(shè)長序列并行訓(xùn)練加速機制，與業(yè)界相比，4K序列性能提升1倍以上，32K序列性能持平，并支持處理128K長序列訓(xùn)練。

目前，商湯日日新大模型從底層軟件棧的接入到基礎(chǔ)框架優(yōu)化、再到模型原生開發(fā)，在性能、穩(wěn)定性等關(guān)鍵參數(shù)方面超過業(yè)界。

圖 | 商湯大裝置產(chǎn)品總監(jiān)劉葉楓在會上分享了商湯與華為的聯(lián)合創(chuàng)新成果與大模型應(yīng)用的實際落地實踐

多元異構(gòu)，引領(lǐng)AI基礎(chǔ)設(shè)施自主可控實踐

商湯大裝置積極開展芯片適配，推動智能算力多元化?；谧匝杏?xùn)練框架與推理框架，聯(lián)合產(chǎn)業(yè)鏈上下游企業(yè)開展多元GPU芯片適配工作，搭建能兼容多種芯片的異構(gòu)算力體系。

目前，AI國產(chǎn)算力集群算力規(guī)模超2,000 PetaFLOPS。商湯大裝置面向多元芯片打造的技術(shù)體系，為多樣化計算場景下的大模型高效部署與創(chuàng)新應(yīng)用落地提供了有力支撐。

商湯大裝置多元芯片技術(shù)體系包含原生云組件、訓(xùn)推一體加速和多元異構(gòu)算力，可提供全面的資源狀態(tài)監(jiān)控，打通從訓(xùn)練到推理的全鏈路操作，實現(xiàn)95%以上的多元異構(gòu)混訓(xùn)效能，優(yōu)化整體能耗，降低運營成本。

圖 | 商湯大裝置多元芯片技術(shù)體系

算力加持，穩(wěn)居智算第一梯隊

商湯大裝置不僅算力規(guī)模達20,000 PetaFLOPS，軟件和平臺的創(chuàng)新力和服務(wù)能力亦備受各界認可。在IDC此前發(fā)布的《中國智算服務(wù)市場(2023下半年)跟蹤》報告中，商湯在中國云計算基礎(chǔ)設(shè)施廠商中脫穎而出，與火山引擎、阿里巴巴共同躋身2023年下半年中國GenAI IaaS服務(wù)廠商TOP 3，以顯著的市場份額優(yōu)勢位居GenAI IaaS領(lǐng)域的第一梯隊。

在IDC發(fā)布《中國模型即服務(wù)(MaaS)及AI大模型解決方案市場追蹤，2024H1》報告中，商湯科技(商湯大裝置萬象)以14.8%的市場份額位居第二，領(lǐng)跑AI大模型解決方案行業(yè)第一梯隊。

商湯大裝置始終致力于打造高效易用的全棧大模型服務(wù)，無縫對接各類模型應(yīng)用場景，提升大模型技術(shù)的落地效率，更好地賦能千行百業(yè)。

（來源：商湯科技）