百度 “跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”重大成果發(fā)布，提升推理效率42%

2023-08-25 10:47:27來源：新華社客戶端  

8月24日，百度與江蘇未來網(wǎng)絡(luò)集團(tuán)有限公司(簡稱“江蘇未來網(wǎng)絡(luò)集團(tuán)”)、網(wǎng)絡(luò)通信與安全紫金山實(shí)驗(yàn)室(簡稱“紫金山實(shí)驗(yàn)室”) 、江蘇省未來網(wǎng)絡(luò)創(chuàng)新研究院(簡稱“未來網(wǎng)絡(luò)研究院”)簽署戰(zhàn)略合作框架協(xié)議。各方將圍繞大模型核心技術(shù)聯(lián)合攻關(guān)，力爭在3-5年內(nèi)實(shí)現(xiàn)行業(yè)大模型技術(shù)創(chuàng)新能力江蘇領(lǐng)先水平，在全國具有示范意義。同時(shí)，多方合作還將共建江蘇省大模型產(chǎn)業(yè)賦能中心，加速大模型賦能江蘇企業(yè)步伐。

（百度與江蘇未來網(wǎng)絡(luò)集團(tuán)、紫金山實(shí)驗(yàn)室、未來網(wǎng)絡(luò)研究院簽署戰(zhàn)略合作）


(資料圖片)

在當(dāng)日舉行的第七屆未來網(wǎng)絡(luò)發(fā)展大會(huì)上，百度智能云基于未來網(wǎng)絡(luò)打造的“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”作為重大成果正式對外發(fā)布。它基于百度自研芯片昆侖芯以及百度文心視覺大模型，將算力、網(wǎng)絡(luò)、大模型和應(yīng)用場景融合，實(shí)現(xiàn)行業(yè)大模型跨廣域精調(diào)、推理服務(wù)，改變過去只能在工廠端就近部署算力和模型的方式，降低企業(yè)使用行業(yè)大模型的門檻。測試結(jié)果顯示，在相距超300公里的兩家鋼鐵工廠之間，該技術(shù)成果使行業(yè)大模型跨廣域推理效率提升42%。

（百度智能云“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”重大成果正式對外發(fā)布）

中國工程院院士、紫金山實(shí)驗(yàn)室主任劉韻潔表示：“大模型時(shí)代，要抓住全球未來網(wǎng)絡(luò)發(fā)展的重大機(jī)遇，突破確定性網(wǎng)絡(luò)核心技術(shù)，引領(lǐng)信息產(chǎn)業(yè)技術(shù)發(fā)展。此次與百度的合作將面向大模型、大數(shù)據(jù)發(fā)展需求，構(gòu)建覆蓋全國的確定性網(wǎng)絡(luò)，以及面向農(nóng)業(yè)、工業(yè)、能源、安全等行業(yè)的行業(yè)專網(wǎng)，以大模型賦能千行百業(yè)，促進(jìn)實(shí)體經(jīng)濟(jì)發(fā)展。”

百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖表示：“大模型對算力、網(wǎng)絡(luò)、智算集群等智算基礎(chǔ)設(shè)施提出了全新要求。百度擁有芯片、框架、模型、應(yīng)用等全棧人工智能技術(shù)優(yōu)勢，同時(shí)擁有開放的人工智能生態(tài)。百度智能云將攜手江蘇未來網(wǎng)絡(luò)集團(tuán)，持續(xù)為算網(wǎng)融合相關(guān)戰(zhàn)略工程提供關(guān)鍵性支撐，通過提供智能計(jì)算云底座和大模型生產(chǎn)平臺，讓更多行業(yè)方便快捷、低門檻的用上大模型。”

（由右至左，百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖，中國聯(lián)通總經(jīng)理陳忠岳、中國工程院院士、紫金山實(shí)驗(yàn)室主任劉韻潔、中國工程院院士鄔賀銓、中國科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心主任謝高崗，共話算力網(wǎng)絡(luò)與AI大模型發(fā)展策略）

大模型跨廣域推理效率提升42%，百度算網(wǎng)融合技術(shù)重大成果發(fā)布

當(dāng)前，大模型發(fā)展已進(jìn)入產(chǎn)業(yè)化應(yīng)用階段。但工業(yè)場景復(fù)雜，產(chǎn)業(yè)鏈環(huán)節(jié)多、鏈條長，行業(yè)大模型的“精調(diào)和推理”需要高實(shí)時(shí)性和高安全性的算力網(wǎng)絡(luò)提供支持。這對網(wǎng)絡(luò)低時(shí)延、無損傳輸、網(wǎng)絡(luò)安全提出了更高的要求。傳統(tǒng)互聯(lián)網(wǎng)，效率低，安全性缺乏。企業(yè)搭建專線方式成本高，企業(yè)難以承受。行業(yè)大模型落地工業(yè)需要一種新的技術(shù)解決方案來打破發(fā)展瓶頸。

百度智能云基于未來網(wǎng)絡(luò)打造的“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”作為重大成果，在第七屆未來網(wǎng)絡(luò)發(fā)展大會(huì)正式發(fā)布。該成果基于百度自研芯片昆侖芯以及百度文心視覺大模型，將算力、網(wǎng)絡(luò)、大模型和應(yīng)用場景融合，通過智能調(diào)度網(wǎng)絡(luò)以及大模型的能力結(jié)合，實(shí)現(xiàn)行業(yè)大模型跨廣域精調(diào)、推理服務(wù)，提升模型精度和推理效率，改變過去只能在工廠端就近部署算力和模型的方式，提升模型泛化能力，降低企業(yè)使用行業(yè)大模型的門檻，大幅提升社會(huì)算力資源的利用率。

針對鋼鐵行業(yè)工業(yè)質(zhì)檢場景，一家鋼鐵工廠通過使用百度智能云的“算網(wǎng)融合技術(shù)”，在南京和上海工廠之間，進(jìn)行跨廣域間的“精調(diào)和推理”測試。雖然兩家工廠相距超過300公里，但測試結(jié)果顯示，推理、訓(xùn)練圖片數(shù)據(jù)丟包率為0，語料獲取效率提升83%，推理效率提升42%，云端算力相比本地化算力部署，模型精調(diào)訓(xùn)練后精度提升10%。

通過測試論證，百度智能云打造的算網(wǎng)融合技術(shù)能夠同時(shí)滿足企業(yè)對工業(yè)視覺大模型推理端到端業(yè)務(wù)和精調(diào)訓(xùn)練的性能需求，可以支撐后續(xù)視覺大模型在工業(yè)領(lǐng)域的場景落地和商業(yè)化。同時(shí)，基于自研芯片昆侖芯的大算力集群，大模型訓(xùn)練速度相比本地化算力部署顯著提升。

過去六屆未來網(wǎng)絡(luò)發(fā)展大會(huì)發(fā)布了十余項(xiàng)全球領(lǐng)先的創(chuàng)新成果發(fā)布，其中相當(dāng)一部分成果被廣泛應(yīng)用于產(chǎn)業(yè)實(shí)踐和國家關(guān)鍵領(lǐng)域的建設(shè)當(dāng)中。

3-5年內(nèi)攻克技術(shù)難關(guān)，力爭大模型能力在江蘇排名第一

根據(jù)合作協(xié)議顯示，百度與江蘇未來網(wǎng)絡(luò)集團(tuán)等三方的合作將主要聚焦大模型核心技術(shù)攻關(guān)和產(chǎn)業(yè)賦能兩個(gè)方面。

一方面，江蘇未來網(wǎng)絡(luò)集團(tuán)提供智能算力底座及網(wǎng)絡(luò)資源，百度智能云提供模型及技術(shù)支撐，基于百度智能云千帆大模型平臺，各方攜手進(jìn)行技術(shù)攻關(guān)。目標(biāo)是建成全國首個(gè)自主可控的行業(yè)大模型平臺，實(shí)現(xiàn)跨廣域算網(wǎng)融合，確保低延遲、確定性通信，加速大模型數(shù)據(jù)共享、模型共享。同時(shí)保持開放生態(tài)，未來可接入女媧大模型等江蘇本地優(yōu)質(zhì)大模型，持續(xù)培育本土能力。力爭在3-5年內(nèi)實(shí)現(xiàn)行業(yè)大模型技術(shù)創(chuàng)新能力江蘇領(lǐng)先水平。

另一方面，江蘇是中國工業(yè)第一大省，正在推動(dòng)制造業(yè)高端化智能化綠色化發(fā)展。百度與江蘇未來網(wǎng)絡(luò)集團(tuán)等三方的合作，將共建江蘇省大模型產(chǎn)業(yè)賦能中心，圍繞大模型產(chǎn)業(yè)運(yùn)營、標(biāo)桿示范場景打造、人工智能技術(shù)生態(tài)及人才培養(yǎng)等方面進(jìn)行探索，降低江蘇企業(yè)使用行業(yè)大模型的門檻，加速人工智能產(chǎn)品和服務(wù)賦能企業(yè)步伐。

沈抖表示，大模型發(fā)展需要云智一體的智算基礎(chǔ)設(shè)施提供支持。百度在萬卡GPU集群、卡間通信、服務(wù)器間通信、數(shù)據(jù)中心通信方面都積累了豐富的經(jīng)驗(yàn)，形成了較好的技術(shù)優(yōu)勢。百度智能云會(huì)將長期以來形成的大模型工程化能力沉淀下來，通過千帆大模型平臺開放給企業(yè)和機(jī)構(gòu)，幫助大家用好大模型、做好大模型。

關(guān)鍵詞：

責(zé)任編輯：hnmd003

相關(guān)閱讀

推薦閱讀