10月15日，由中國電子信息行業(yè)聯(lián)合會主辦的第27屆中國國際軟件博覽會在鄭州舉辦。百度集團副總裁、深度學習技術(shù)及應用國家工程研究中心副主任吳甜分享了大模型時代AI基礎平臺驅(qū)動軟件生態(tài)帶來的新變化。她表示，大模型的爆發(fā)將人工智能推向一個新的高潮。

百度集團副總裁、深度學習技術(shù)及應用國家工程研究中心副主任吳甜

在開幕式暨主題峰會環(huán)節(jié)，吳甜表示，大模型具有效果好、泛化性強、研發(fā)流程標準化等特點，正引領(lǐng)人工智能的發(fā)展。在這一階段，AI研發(fā)范式帶來了開發(fā)、計算、部署的新挑戰(zhàn)，尤其是大模型的高效訓練和推理部署，需要軟硬件協(xié)同發(fā)力。

她進一步講到，大模型高效訓練的關(guān)鍵要素包括訓練吞吐、訓練有效時間和收斂效率，這背后涉及框架、芯片、集群、算法等軟硬件不同組合的協(xié)同優(yōu)化。對大模型的推理部署來說，效果無損、低時延高吞吐、成本效益等要素極為關(guān)鍵，需要模型壓縮與量化、并行推理、軟硬件協(xié)同優(yōu)化等技術(shù)的支持。

要解決大模型研發(fā)所帶來的一系列挑戰(zhàn)，深度學習平臺關(guān)鍵需要具備大規(guī)模并行計算、高性能推理部署、全流程工程化三方面能力。以百度飛槳為例，作為百度自研的產(chǎn)業(yè)級深度學習開源開放平臺，飛槳從核心框架、基礎模型庫，到端到端開發(fā)套件、工具與組件，以及星河社區(qū)等，全方位支持了文心大模型的演進過程。飛槳在核心框架和芯片之間構(gòu)建了硬件適配層，打造多硬件統(tǒng)一適配方案，已適配60多款系列芯片，相比PyTorch，芯片基礎適配的接口數(shù)減少56%，代碼量減少80%。

在深度學習平臺與大模型聯(lián)合優(yōu)化下，文心大模型的能力得到了拓展、效率得到了提升，ERNIE-4.5-300B-A47B模型上實現(xiàn)預訓練MFU達47%， ERNIE-4.5-300B-A47B模型在TPOT 50ms時延條件下，實現(xiàn)了輸入57K tokens/秒、輸出29K tokens/秒的高吞吐性能。文心思考模型X1.1相比上個版本，事實性提升34.8%，指令遵循提升12.5%，智能體提升9.6%。

大模型與深度學習平臺為科技創(chuàng)新和產(chǎn)業(yè)升級構(gòu)筑了堅實的AI基礎技術(shù)底座平臺，但最終在各行各業(yè)廣泛應用起來，應用生態(tài)建設至關(guān)重要。

百度進行了模型及相應配套工具的開源。文心大模型4.5系列已開源11款模型，涵蓋47B、3B激活參數(shù)的混合專家（MoE）模型，與0.3B參數(shù)的稠密型模型，配套開源了文心大模型開發(fā)套件ERNIEKit、大模型高效部署套件FastDeploy，方便開發(fā)者在此基礎上實現(xiàn)高效的模型開發(fā)和部署，進而在更廣泛的行業(yè)加速AI的落地應用。

星河社區(qū)為開發(fā)者提供全方位服務，已上線700萬個實踐項目，600多門公開課以及400多場AI競賽。開發(fā)者也在應用中反過來推動AI基礎技術(shù)平臺的完善。目前，飛槳框架貢獻者俱樂部成員達到195位，飛槳開發(fā)者技術(shù)專家411位，全球各地開發(fā)者自主建立運營的飛槳領(lǐng)航團超過400個。

在文心大模型和飛槳深度學習平臺的基礎上，百度在上海、廣州、武漢、南京、寧波、廈門、南昌、無錫等多地落地產(chǎn)業(yè)賦能中心、數(shù)據(jù)生態(tài)中心和教育創(chuàng)新中心，加快區(qū)域產(chǎn)業(yè)智能化升級。例如，在制造行業(yè)，中車集團依托百度飛槳產(chǎn)業(yè)級深度學習平臺以及飛槳科學計算 PaddleCFD 套件，創(chuàng)新性地構(gòu)建了空氣動力學智能化仿真大模型，整體仿真效率提升30倍以上。在能源行業(yè)，國家電網(wǎng)聯(lián)合百度打造的人工智能基礎設施，讓安全巡檢效率提升了36倍。在通信行業(yè)，中國聯(lián)通推出的智能中心AI平臺，助力1.3萬座基站安全作業(yè)。

公開資料顯示，截至2025年9月，飛槳文心生態(tài)開發(fā)者已達到2333萬，服務企業(yè)達到76萬家。