財聯(lián)社9月30日訊（記者 付靜）當前中國10億參數(shù)規(guī)模以上大模型數(shù)量已超100個，技術(shù)雖蓬勃發(fā)展而實際落地程度仍待提升。近日于鄭州召開的2024中國算力大會上，財聯(lián)社記者觀察到，大模型應(yīng)用落地仍受到產(chǎn)業(yè)鏈關(guān)注，一體機則成為大模型商業(yè)化探索過程中一大熱門趨勢，算力硬件廠商浪潮信息（000977.SZ）亦在此次大會上推出元腦企智EPAI（Enterprise Platform of AI）一體機，提供“算力+平臺+服務(wù)”的大模型解決方案。

浪潮信息產(chǎn)品方案開發(fā)部總經(jīng)理魏健在接受財聯(lián)社在內(nèi)媒體采訪時表示，“應(yīng)用現(xiàn)狀跟市場趨勢存在鴻溝，怎么讓企業(yè)，特別是傳統(tǒng)企業(yè)把大模型應(yīng)用快速落地，基于這樣一個背景，我們做了大模型一體機?！?/p>

此前工信部賽迪研究院數(shù)據(jù)顯示，2023年我國AI企業(yè)新增368家，生成式AI的企業(yè)采用率已達15%，其中制造業(yè)、零售業(yè)、電信行業(yè)、醫(yī)療健康四大行業(yè)采用率分別為5%、13%、10%和7%；預(yù)計2035年生成式AI有望為全球貢獻近90萬億元經(jīng)濟價值，其中我國將突破30萬億元，占比超四成。

同時魏健在采訪中提及一組數(shù)據(jù)：AI市場公開招投標的項目中，去年全年、今年上半年硬件方面占比分別約60%、61%，軟件方面占比分別約11%、5%，今年上半年服務(wù)方面占比從去年的17%升至30%以上?！跋喈斢谡f是硬件和服務(wù)占了項目總金額的90%以上?！?/p>

魏健稱，此次浪潮信息發(fā)布的一體機主要面向制造、金融等行業(yè)客戶、傳統(tǒng)ISV和SI三類用戶。以SI為例，“多模管理也好、多元算力管理也好，還需要有對大模型專門的調(diào)優(yōu)能力，我們可以把服務(wù)集成到一體機產(chǎn)品里?！?/p>

據(jù)悉，元腦企智EPAI一體機基于為大模型應(yīng)用場景設(shè)計的元腦服務(wù)器，預(yù)置元腦企智EPAI企業(yè)大模型開發(fā)平臺，支持8顆NVIDIA最新Hopper架構(gòu)GPU全互聯(lián)在內(nèi)的多元算力，預(yù)置Yuan2.0、Baichuan2、ChatGLM3、Qwen1.5、GLM4、Llama3等7個基礎(chǔ)大模型，旨在解決數(shù)據(jù)處理、模型微調(diào)、RAG搭建、模型部署、應(yīng)用上線和系統(tǒng)運維等問題。

財聯(lián)社記者注意到，元腦企智EPAI一體機涵蓋五種產(chǎn)品規(guī)格，主要面向推理、訓(xùn)推一體化、整機柜集群化交付等場景。

（受訪者供圖）

“推理算力是一個很重要的增長方向，尤其是邊緣端推理。無論車路協(xié)同、智慧園區(qū)還是高速收費站等，邊緣領(lǐng)域的推理應(yīng)用關(guān)注不同的產(chǎn)品形態(tài)?！蔽航∠蜇斅?lián)社記者表示。

“大模型其實從預(yù)訓(xùn)練、微調(diào)到推理有大概三個階段，現(xiàn)在業(yè)內(nèi)的關(guān)注點已經(jīng)走到了微調(diào)跟推理，并且微調(diào)的重要性越來越凸顯了。”浪潮信息AI應(yīng)用架構(gòu)師Owen ZHU在采訪中表示。

Owen ZHU稱，此次發(fā)布的一體機亦集成了部分當下與算力相匹配、在業(yè)內(nèi)較為可用易用的微調(diào)技術(shù)。他舉例稱，“一個10B參數(shù)的模型可能需要200-300G的顯存才能做微調(diào)，可能一臺機器就已經(jīng)開始有點‘勉強’了，更何況我們現(xiàn)在用的都是30B、40B的模型，至少需要三四臺機器，門檻也有點過高了?，F(xiàn)在一些高效微調(diào)技術(shù)能做到用10G甚至不到10G的顯存把10B參數(shù)的模型微調(diào)跑起來。也就是說，一些新技術(shù)的應(yīng)用能夠降低算力門檻?！?/p>

而站在成本角度，魏健告訴財聯(lián)社記者，浪潮信息大模型一體機新品單臺價格在二三十萬到兩百萬之間，“如果用戶有50萬左右的硬件設(shè)備初期投入，就可以進行至少10億到300億參數(shù)規(guī)模的模型訓(xùn)練，且在單機設(shè)備上用到更好的算力?！?/p>

同時她表示，浪潮信息對用戶的報價為一體機整體報價，但“如果把一體機拆開來看，硬件可能占80%，軟件占20%。我們是一個產(chǎn)品公司，做這個商業(yè)模式，更多還是為了激發(fā)整個行業(yè)生態(tài)的應(yīng)用?！?/p>

“一體機的生意邏輯是對的，是否受客戶認可比較關(guān)鍵?！币晃籄I算力從業(yè)者告訴財聯(lián)社記者。

財聯(lián)社記者問及當前用戶對于大模型一體機的接受意愿，魏健表示，“我了解到接受意愿還是挺強烈的，（一體機）和一些傳統(tǒng)硬件用戶的使用習(xí)慣還是蠻匹配的。我們在過去三、四個月里做了近百家的POC測試，有意愿去做應(yīng)用定制開發(fā)、讓我們整理數(shù)據(jù)等等的用戶其實能占到30%?！?/p>

值得關(guān)注的是，大模型一體機在業(yè)內(nèi)熱度較高，智譜AI、商湯科技、中軟國際等主流AI大模型廠商、ICT服務(wù)商及ISV服務(wù)商均已推出一體機相關(guān)產(chǎn)品。

Owen ZHU稱，“大家都在叫一體機，但其實內(nèi)涵差距是比較大的?？赡芪覀冏铋_始聽到一體機的概念時是在講訓(xùn)推一體，而現(xiàn)在我們在講的是把硬件跟面向大模型的解決方案整體打包的方案，是一個大模型的開發(fā)平臺?！?/p>

“大模型廠商有的實際上跟我們是合作伙伴關(guān)系，但是我們的一體機跟他們有差異。大模型廠商在軟件、算法能力方面很強，我們更強調(diào)算力的調(diào)度管理、算法的調(diào)度，跟不同模型做適配，包括對模型參數(shù)也做了很多研究，其實還是為了更好地發(fā)揮硬件性能優(yōu)勢。”魏健告訴財聯(lián)社記者。