在大洋彼岸的互聯(lián)網(wǎng)科技巨頭狂堆算力大煉模型之際，行業(yè)化落地被認為是中國人工智能產(chǎn)業(yè)發(fā)展的重要特色。通過將大模型與千行百業(yè)場景結(jié)合，AI已成為我國數(shù)字經(jīng)濟發(fā)展的核心驅(qū)動力。打造強大、自主的AI技術(shù)底座與構(gòu)建繁榮、創(chuàng)新的AI應(yīng)用生態(tài)，已因此成為產(chǎn)業(yè)發(fā)展的關(guān)鍵。

業(yè)界在行動！近日，昇騰“淬火行動”伙伴能力提升專項行動——廣深專場圓滿落幕，來自全國各地的昇騰行業(yè)伙伴及其AI技術(shù)開發(fā)者匯聚一堂，通過這場為期三天的深度技術(shù)賦能活動學習昇騰軟硬件技術(shù)，補齊技術(shù)斷點，強化實戰(zhàn)能力，共同開啟了以“技術(shù)自閉環(huán)”推動AI項目落地的“加速度”。

01．從調(diào)用API到深入技術(shù)棧，加速項目落地進程

當AI大模型成為行業(yè)智慧升級的核心驅(qū)動力，傳統(tǒng)數(shù)智服務(wù)提供商也站在了新的十字路口，機會與挑戰(zhàn)并存。

廣州力麒智能科技有限公司（以下簡稱“力麒智能”）作為智慧政務(wù)解決方案提供商，成立20多年以來一直為數(shù)字政府建設(shè)提供專業(yè)的軟硬件全套服務(wù)。隨著AI時代呼嘯而來，力麒智能也開啟了國產(chǎn)化大模型應(yīng)用開發(fā)的新征程。

在力麒智能技術(shù)總監(jiān)陳勁全看來，公司在應(yīng)用開發(fā)中面臨的核心難點在于對算力、對知識庫、對底層國產(chǎn)環(huán)境的適配；在項目推進中，需要融入技術(shù)生態(tài)，將上層應(yīng)用與底層算力支撐層相結(jié)合，若技術(shù)鏈整合不順暢，將導(dǎo)致項目推進受阻。

廣州力麒智能科技有限公司技術(shù)總監(jiān)陳勁全

毫無疑問，這需要生態(tài)方提供更適配的技術(shù)支持。昇騰“淬火行動”正為此而生，三天的培訓(xùn)活動通過RAG應(yīng)用開發(fā)、小模型推理部署、大模型訓(xùn)推加速、算子開發(fā)等課程，為伙伴開發(fā)者構(gòu)建了所需的技術(shù)認知與實操能力。

以時下火熱的RAG應(yīng)用開發(fā)為例，培訓(xùn)首日便聚焦RAG技術(shù)應(yīng)用如何通過知識庫解決大模型知識更新滯后與內(nèi)容幻覺問題，并結(jié)合昇騰RAG SDK的實操演練，指導(dǎo)開發(fā)者快速構(gòu)建企業(yè)級智能問答應(yīng)用，為技術(shù)落地產(chǎn)業(yè)場景提供有效路徑。

“此前團隊主要是調(diào)用API，不熟悉推理部署、調(diào)優(yōu)及底層技術(shù)棧構(gòu)建，”陳勁全表示，通過“淬火行動”實操培訓(xùn)積累技術(shù)經(jīng)驗，團隊未來不僅可以快速解決內(nèi)部項目問題，還能協(xié)助客戶處理昇騰大模型應(yīng)用部署難題，推動項目合作。

02．從“黑盒子”到可管可優(yōu)，推動安防AI高效落地

深圳市未來清研智能科技有限公司（以下簡稱“未來清研”）Java研發(fā)工程師林晨，在負責公司特定行業(yè)AI應(yīng)用落地時同樣面臨諸多難題。

深圳市未來清研智能科技有限公司Java研發(fā)工程師林晨

一方面，客戶的需求高度定制化且動態(tài)變化，傳統(tǒng)研發(fā)方式響應(yīng)慢，需要AI驅(qū)動的流程化方式提升需求交付效率。另一方面，團隊此前使用的開源推理框架難以適應(yīng)特定生態(tài)的硬件系統(tǒng)和相應(yīng)的技術(shù)運維支持，同時，無法把控真實有效的調(diào)優(yōu)過程。

于是2024年公司將目光投向了更系統(tǒng)化、更加可控的昇騰技術(shù)方案，林晨此番參加昇騰“淬火行動”，正希望進一步借助昇騰生態(tài)的系統(tǒng)化培訓(xùn)與技術(shù)支持，在模型調(diào)優(yōu)、算法優(yōu)化、算力挖掘等方面實現(xiàn)進階，更好地滿足安防客戶對定制化功能與本地數(shù)據(jù)安全的訴求。

林晨指出，尤其是RAG SDK對本地數(shù)據(jù)集測試、Milvus向量庫對接的支持，為業(yè)務(wù)高效落地提供了相關(guān)參考，“培訓(xùn)老師認真負責、文檔詳實，幫助明確了模型調(diào)優(yōu)、框架適配的方向?！?/p>

03．從跨架構(gòu)遷移到端到端實戰(zhàn)，提升問題解決效率

深圳市法本信息技術(shù)股份有限公司（以下簡稱“法本信息”）作為一家長期深耕AI與信創(chuàng)領(lǐng)域的老牌信息技術(shù)服務(wù)商，與昇騰合作已久，是昇騰ISV大模型應(yīng)用軟件合作伙伴。目前，法本信息已形成階段性成果——旗下在昇騰AI開發(fā)者創(chuàng)享日·廣東站重磅發(fā)布的FarAI GPT系列一體機，基于昇騰和DeepSeek構(gòu)建企業(yè)級AI生態(tài)架構(gòu)，內(nèi)嵌三大核心垂直模型與智能體，覆蓋人才獲取與管理（智能招聘GPTRecruit）、知識管理（知識大腦GPTBrain：銀行監(jiān)管、汽車維修等）、研發(fā)效能（輔助編碼GPTCoder）等關(guān)鍵業(yè)務(wù)場景，可賦能金融、汽車等行業(yè)，全面滿足企業(yè)AI時代戰(zhàn)略轉(zhuǎn)型需求。

法本信息新生代算法工程師鄭帥在交流中提到，目前團隊在昇騰技術(shù)應(yīng)用領(lǐng)域已積累了一定的經(jīng)驗，尤其在跨架構(gòu)遷移（從英偉達平臺到昇騰）、基于昇騰的端到端大模型實戰(zhàn)等核心能力上，已通過產(chǎn)品適配與項目實踐形成了相關(guān)的技術(shù)路徑。目前個人在昇騰技術(shù)的深入應(yīng)用上也處于持續(xù)精進階段，主要在算子開發(fā)等進階技術(shù)領(lǐng)域仍在積累突破，希望通過更多實踐與交流進一步提升專業(yè)能力。同時他提到，部分客戶對自主技術(shù)生態(tài)的穩(wěn)定性仍存顧慮，而法本信息基于昇騰在知識問答、金融監(jiān)管、汽車人員培訓(xùn)和智能招聘等場景落地的經(jīng)典案例，充分展現(xiàn)了公司在昇騰生態(tài)下的AI創(chuàng)新實踐成果與技術(shù)積淀，這些正成為增強客戶信心的重要支撐。

深圳市法本信息技術(shù)股份有限公司算法工程師鄭帥

為此，生態(tài)層面的持續(xù)支持仍顯得尤為關(guān)鍵。昇騰“淬火行動”恰好回應(yīng)了這一需求。在培訓(xùn)中，昇騰AI技術(shù)專家將理論與實戰(zhàn)相結(jié)合，系統(tǒng)指導(dǎo)開發(fā)者完成MindIE大模型推理與調(diào)試調(diào)優(yōu)，并帶領(lǐng)參訓(xùn)者完整實操了MindSpeed LLM大模型預(yù)訓(xùn)練、微調(diào)及后訓(xùn)練的全流程。此外，昇騰AI框架布道師還現(xiàn)場演示了MindSpore昇思動態(tài)圖能力及其兼容方案，通過創(chuàng)新的適配層設(shè)計，使主流PyTorch訓(xùn)練代碼能夠平滑遷移至昇騰平臺，顯著降低生態(tài)切換成本，保障開發(fā)體驗的一致性。

鄭帥表示：“‘淬火行動’是我深入昇騰技術(shù)體系的重要一步，它幫助我在既有積累的基礎(chǔ)上，進一步系統(tǒng)加深了在算子開發(fā)等方面的認知，為后續(xù)FarAI GPT系列一體機等類似產(chǎn)品的迭代與新場景拓展奠定了扎實基礎(chǔ)?！彼财诖鷳B(tài)方能提供持續(xù)的支持渠道，如專家交流與專項指導(dǎo)，助力個人及團隊進一步攻克模型訓(xùn)練加速、算子開發(fā)等進階技術(shù)。

04．從模型訓(xùn)推到算子開發(fā)，充分發(fā)揮昇騰硬件性能

廣電運通集團股份有限公司（以下簡稱“廣電運通”）算法研發(fā)部的高級算法工程師胡一征博士，也從模型訓(xùn)推、算法優(yōu)化、算子開發(fā)等層面分享了與昇騰生態(tài)的交集。

廣電運通集團股份有限公司算法研發(fā)部高級算法工程師胡一征

他介紹，廣電運通團隊自2024年開始使用昇騰，見證了其大模型生態(tài)從初始起步到逐步完善的過程。比如在前期MindIE功能不足時，廣電運通團隊自主編寫推理接口，支撐了內(nèi)外部的大模型落地項目；隨著MindIE持續(xù)迭代，到當年底新版本發(fā)布時，團隊就轉(zhuǎn)向使用MindIE自帶接口了。

本次參加昇騰“淬火行動”，胡一征博士表示正是沖著“自己不太熟悉”的底層算子來的。他高度認可昇騰CANN底層開源的價值，認為這樣的舉措能夠降低開發(fā)者參與門檻，降低適配成本，并希望昇騰持續(xù)完善算子生態(tài)，逐步實現(xiàn)與主流框架的全面對齊，進一步降低跨架構(gòu)開發(fā)與遷移的工作量。

活動第三日的培訓(xùn)，也正圍繞最底層的CANN算子編程能力展開，包括可以幫助開發(fā)者打造與硬件架構(gòu)高度契合的AscendC算子開發(fā)，以及可實現(xiàn)算子快速開發(fā)和跨平臺高效遷移的Triton算子開發(fā)，助力開發(fā)者從理論掌握到實操上手，并顯著提高開發(fā)與遷移的效率。

通過開源和開放的創(chuàng)新模式，胡一征博士期待能夠充分發(fā)揮昇騰硬件性能，實現(xiàn)PyTorch所有算子的支持與精度對齊，最終達成開發(fā)者希望看到的“一套代碼在英偉達與華為算力設(shè)備無縫切換”的目標。

毋庸諱言，AI的行業(yè)化落地，既離不開堅實的AI技術(shù)底座，也離不開繁茂AI的應(yīng)用生態(tài)——而貫穿這其中的，正是開發(fā)者這一決定性力量！此番廣深兩地的開發(fā)者因昇騰“淬火行動”而集結(jié)，完成從“璞玉”到“利刃”的蛻變，料定將帶著淬火后的硬核實力，共同為本地乃至全國的AI行業(yè)落地按下“加速鍵”，讓創(chuàng)新鋒芒在這片產(chǎn)業(yè)沃土上破開荊棘、一往無前！