国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

跳出大模型的5大天坑,華為云MaaS的殺手锏在這里!

0
分享至

周末參加了華為開發(fā)者大會,其中華為云MaaS的發(fā)布會讓我印象極為深刻,因為第一次看到了一家AI平臺把用戶的問題和場景作為重中之重來講,而不是在那里炫大模型有多少參數(shù),或者展示模型的打榜排名。

大模型最近非常熱門,但是很多大模型項目都失敗了,大家嘗嘗鮮就放棄了,主要原因就是AI沒有找到場景,或者沒有在這個場景下真正有效地用起來。

華為公有云運(yùn)營部部長劉杰舉了一個非常生動的例子:

“一家養(yǎng)豬企業(yè)想要開發(fā)養(yǎng)豬大模型,很多人認(rèn)為"大模型+RAG就夠了",但測試發(fā)現(xiàn)這就像讓本科生臨時翻書答題,看著相關(guān),卻還不夠?qū)I(yè)。要讓大模型成為養(yǎng)豬專家,必須把百萬字飼養(yǎng)經(jīng)驗真正喂進(jìn)大模型,把知識內(nèi)化,才能在復(fù)雜業(yè)務(wù)場景下的精準(zhǔn)泛化。但要微調(diào)需要高質(zhì)量數(shù)據(jù)??蛻粲薪偃f字專業(yè)文檔,卻散落各個部門的Word、Excel。PPT、PDF里,格式混亂,質(zhì)量參差不齊,難以處理,這幾乎是傳統(tǒng)行業(yè)的通病——常常高估了算法的神奇,卻嚴(yán)重低估數(shù)據(jù)治理的難度?!?/p>

華為云的解決方案就是開發(fā)了一套數(shù)據(jù)清洗解決方案,一鍵抽取養(yǎng)豬指標(biāo)、工藝、病癥,自動生成高質(zhì)量問答對,僅一周就備好數(shù)據(jù)集,多快好省的打造出一個“大模型養(yǎng)豬專家”。

再比如有個電力行業(yè)客戶,部署了一套滿血版DeepSeek,但是它并不能同時滿足低時延、本地數(shù)據(jù)微調(diào)、長思維鏈精準(zhǔn)輸出等需求。華為云的方案是用同一臺昇騰云服務(wù)器中部署資格小模型,同時滿足了智能問數(shù)、物料助手、代碼助手和文檔轉(zhuǎn)換的四大主要業(yè)務(wù)需求,不僅整體算力成本降低了50%,還達(dá)到DeepSeek-R1滿血版的效果。

這樣的服務(wù)案例做多了,華為云敏銳地識別出了大模型冰山下的五個坑:

(1)手握一堆大模型的錘子,卻滿世界找業(yè)務(wù)的釘子

(2)大模型越新就越好,越大就越爽

(3)業(yè)務(wù)數(shù)據(jù)一片沼澤,無法用于訓(xùn)練

(4)大模型落地拼算力,不需對業(yè)務(wù)理解太深

(5)只做一錘子項目,不搞持續(xù)優(yōu)化

這些坑怎么避?

01

五大坑的解題之道

華為云給出的解題之道是“三層五階十二步”。

三層:重定義智能業(yè)務(wù),模型開發(fā)與交付,持續(xù)優(yōu)化AI應(yīng)用

五階段:場景識別,模型選型,模型調(diào)優(yōu),數(shù)據(jù)治理,持續(xù)運(yùn)營。

看到如此清晰方法論,一個可復(fù)用的AI生產(chǎn)流程,我就感覺到華為云做了很多客戶服務(wù)案例,實際上也確實如此:

華為云MaaS平臺本身就做過100+行業(yè)客戶昇騰適配的實踐,沉淀出了大量模型適配經(jīng)驗,在國產(chǎn)算力上收錄了30+業(yè)界主流開源大模型,并全面基于昇騰AI云服務(wù)進(jìn)行適配和優(yōu)化。

與此同時,華為云MaaS平臺基于上百次的支撐中小企業(yè)客戶項目,它總結(jié)出了大量經(jīng)過商業(yè)化驗證的場景化解決方案。華為MaaS平臺把這些解決方案形成商業(yè)模板,可以一鍵復(fù)制,零代碼搭建,幾分鐘內(nèi)就可以驗證業(yè)務(wù),效率極高。

在華為云MaaS平臺上還入駐了一大批優(yōu)質(zhì)的MCP服務(wù)(如美圖影像、通達(dá)信、天眼查),為用戶深耕行業(yè)提供可商用基礎(chǔ)。

而將上述方案、實踐、經(jīng)驗等融會貫通,華為云推出了一整套解決方案,打通了從底層算力到上層應(yīng)用的全鏈路,提供了一個系統(tǒng)化的、端到端的解決方案。它不是零散工具的堆砌,而是一個完整、高效的AI能力交付體系,讓企業(yè)的大模型落地更加清晰可靠。

大模型發(fā)展到現(xiàn)在,已經(jīng)從“拼參數(shù)”到了“拼價值”階段,誰更懂客戶的問題,提出更好的解決方案,才可能最后勝出,華為云MaaS平臺上總結(jié)出的解決方案,很可能成為最終勝出的殺手锏。

單單有這些方法論還是不夠的,必須有底層的技術(shù)平臺來支持。

在底層技術(shù)方面,華為云MaaS平臺實力更是“深不可測”。

02

全棧式創(chuàng)新

我們都知道美國一直在限制中國算力的發(fā)展,全面圍堵AI算力供應(yīng),中國能拿到的英偉達(dá)芯片都是閹割版本。

在這種情況下,如何才能突圍呢?華為云的方案是全棧式創(chuàng)新,用架構(gòu)優(yōu)勢實現(xiàn)提升。

大家可能都聽過華為云CloudMatrix 384超節(jié)點,華為通過自己擅長的光通信,首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對等互聯(lián),形成一臺超級“AI服務(wù)器”,單卡推理吞吐量躍升到2300 Tokens/s。

雖然英偉達(dá)也有GB200 NVL72,并且單卡性能更高,但是受芯片間通訊技術(shù)限制,組網(wǎng)規(guī)模受限,72張卡就到頭了。

最終的結(jié)果是,華為云CloudMatrix 384超節(jié)點提供高達(dá)300 PFLOPs的密集BF16算力,接近達(dá)到英偉達(dá)GB200 NVL72系統(tǒng)的兩倍!

更厲害的是,華為云CloudMatrix 384超節(jié)點天然就很適合跑像DeepSeek這樣的MoE(多專家)模型。因為DeepSeek V3和R1是由256個專家模型構(gòu)成的,在英偉達(dá)72張卡的超節(jié)點中,一張卡肯定要容納多個“專家”,資源就不夠了。但是在華為云CloudMatrix 384超節(jié)點中,“一卡一專家”,支撐DeepSeek等千億模型推理性能3倍躍升。

這樣的例子還有很多,比如通過大規(guī)?!皩<也⑿小保‥P)技術(shù),把模型拆得很散,分配到眾多計算卡上,讓解碼更快,延遲更低。在超節(jié)點內(nèi),大模型權(quán)重被分布式存儲在數(shù)百張GPU上,單卡預(yù)留更多顯存容量,支持更長的上下文序列,實現(xiàn)系統(tǒng)的更大吞吐性能。

就像微服務(wù)架構(gòu)有個網(wǎng)關(guān)一樣,華為云MaaS平臺也做了模型網(wǎng)關(guān),無論你身在何處,模型網(wǎng)關(guān)都能將請求自動路由至最近節(jié)點,降低用戶側(cè)延遲。通過動態(tài)合并空閑算力形成“公共資源池”,提升了集群利用率,它還可以智能識別 Prompt 長度,長文本請求自動調(diào)度到高顯存節(jié)點,確保處理穩(wěn)定;短文本則優(yōu)先分配到低延遲實例,提升響應(yīng)速度。

這種全棧式創(chuàng)新,真正提高了AI大模型的能力上限!

03

磐石般安全和運(yùn)營

華為是做電信級服務(wù)起家的,電信業(yè)務(wù)涉及到大量用戶數(shù)據(jù)和敏感信息,對安全性要求極高。

網(wǎng)絡(luò)安全作為華為公司的最高綱領(lǐng),擁有全球140+合規(guī)認(rèn)證。在友商事故頻發(fā)的情況下,華為云從2024年初到現(xiàn)在重大事故次數(shù)是“0”。

華為云提供包含語料數(shù)據(jù)安全、模型安全、推理安全、應(yīng)用安全在內(nèi)的全生命周期模型安全方案。通過提示詞攻擊防范和敏感內(nèi)容實時檢測,保障大模型推理安全。

有意思的是,華為采用了“以模護(hù)?!钡姆桨?,在MaaS平臺中涉及安全能力判斷的,都由信通院認(rèn)證評估安全可信滿級評分(業(yè)界最高分)的ModelArts Guard大模型安全護(hù)欄進(jìn)行內(nèi)容審核,非法敏感內(nèi)容攔截率達(dá)90%+,延時<20ms,滿足最嚴(yán)網(wǎng)信監(jiān)管。

在運(yùn)營上,華為MaaS平臺提供豐富全面的監(jiān)控能力,涵蓋首Token時延、增量Token時延、錯誤碼追蹤等100+關(guān)鍵指標(biāo),幫助用戶洞察性能瓶頸,發(fā)現(xiàn)問題快一步,再配合分鐘級自動告警機(jī)制,實現(xiàn)“關(guān)鍵問題自動發(fā)現(xiàn)”,真正讓運(yùn)維壓力大幅減輕。

04

總結(jié)

總的來說,華為云MaaS平臺場景化解決方案做得非常好,預(yù)置了大量模型,對接眾多優(yōu)質(zhì)MCP Servers,有很多商業(yè)解決方案模板,可以一鍵復(fù)制使用。華為云通過全棧式創(chuàng)新,降低時延的同時又提升了吞吐量,整體性能非常優(yōu)異。在安全上用以模護(hù)模的方案,更可靠更安心。

如果你的公司也想用AI來提升效率,又不想關(guān)注底層技術(shù)細(xì)節(jié),想開箱即用,一鍵部署調(diào)用,華為云MaaS平臺是個非常不錯的選擇,強(qiáng)烈推薦掃描二維碼體驗:

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
湖南女生游黃山失聯(lián),百米懸崖下發(fā)現(xiàn)遺體,景區(qū)被判擔(dān)責(zé)15%,家屬上訴:護(hù)欄存缺陷

湖南女生游黃山失聯(lián),百米懸崖下發(fā)現(xiàn)遺體,景區(qū)被判擔(dān)責(zé)15%,家屬上訴:護(hù)欄存缺陷

瀟湘晨報
2026-01-05 07:14:13
演都不演了!田樸珺刪光王石合影,直言對方自私,眼神很不耐煩

演都不演了!田樸珺刪光王石合影,直言對方自私,眼神很不耐煩

阿纂看事
2026-01-04 16:45:26
末節(jié)11+3引一波流!41歲詹皇26+10+6又迎里程碑 湖媒曬紀(jì)錄贊GOAT

末節(jié)11+3引一波流!41歲詹皇26+10+6又迎里程碑 湖媒曬紀(jì)錄贊GOAT

顏小白的籃球夢
2026-01-05 13:12:37
陳慧琳演唱會穿三角褲,五十多了合適嗎?人老心不老 不愧是女神

陳慧琳演唱會穿三角褲,五十多了合適嗎?人老心不老 不愧是女神

林木體育解說
2026-01-05 10:37:25
美企拒絕接管委內(nèi)瑞拉石油?特朗普喊話去接盤,巨頭們?yōu)楹纬聊?>
    </a>
        <h3>
      <a href=隱于山海
2026-01-04 16:20:59
樸娜來「車上活春宮」!2經(jīng)紀(jì)人開車被逼看全程 做一半還狂踢椅背

樸娜來「車上活春宮」!2經(jīng)紀(jì)人開車被逼看全程 做一半還狂踢椅背

ETtoday星光云
2026-01-05 09:42:04
女網(wǎng)紅在柬埔寨流浪已找到,前后反差,讓人脊背發(fā)涼

女網(wǎng)紅在柬埔寨流浪已找到,前后反差,讓人脊背發(fā)涼

半耳聆
2026-01-05 11:56:23
后續(xù)!柬埔寨流浪女網(wǎng)紅父親發(fā)聲,曝女兒不堪一面,鄰居透露更多

后續(xù)!柬埔寨流浪女網(wǎng)紅父親發(fā)聲,曝女兒不堪一面,鄰居透露更多

阿纂看事
2026-01-04 21:49:32
委內(nèi)瑞拉結(jié)束了,伊朗也快了,警察叛變,叛軍入城,神棍不知所終

委內(nèi)瑞拉結(jié)束了,伊朗也快了,警察叛變,叛軍入城,神棍不知所終

金召點評
2026-01-05 01:00:03
好萊塢著名影星喬治·克魯尼攜全家入籍法國,特朗普諷刺:他根本不是什么明星!之前兩人就公開“互懟”過

好萊塢著名影星喬治·克魯尼攜全家入籍法國,特朗普諷刺:他根本不是什么明星!之前兩人就公開“互懟”過

極目新聞
2026-01-05 10:25:17
32歲未婚獨生女重度抑郁了!父母雙亡,只留下一套房和160萬存款

32歲未婚獨生女重度抑郁了!父母雙亡,只留下一套房和160萬存款

火山詩話
2026-01-05 08:57:12
廣州這件新聞,不該讓最底層的人承擔(dān)代價!

廣州這件新聞,不該讓最底層的人承擔(dān)代價!

胖胖說他不胖
2026-01-05 09:55:08
三天拿下基輔!俄前司令曝災(zāi)難內(nèi)幕:士兵禮服上陣,坦克加3天油

三天拿下基輔!俄前司令曝災(zāi)難內(nèi)幕:士兵禮服上陣,坦克加3天油

遠(yuǎn)方風(fēng)林
2026-01-04 23:39:39
美國法院對馬杜羅的起訴書出來了?。▋?nèi)附全文翻譯)

美國法院對馬杜羅的起訴書出來了?。▋?nèi)附全文翻譯)

爆角追蹤
2026-01-05 12:26:25
慘!真的太慘!福建20歲女網(wǎng)紅,被丟棄柬埔寨街頭,膝蓋疑似骨折

慘!真的太慘!福建20歲女網(wǎng)紅,被丟棄柬埔寨街頭,膝蓋疑似骨折

單手搓核彈
2026-01-05 09:48:46
很多人好奇馬杜羅的衛(wèi)隊干啥去了,看下下面這個地圖就知道了

很多人好奇馬杜羅的衛(wèi)隊干啥去了,看下下面這個地圖就知道了

扶蘇聊歷史
2026-01-05 09:46:01
主持人發(fā)聲指責(zé)廣州停車費貴得離譜,強(qiáng)烈呼吁降價!

主持人發(fā)聲指責(zé)廣州停車費貴得離譜,強(qiáng)烈呼吁降價!

張曉磊
2026-01-04 12:02:28
剛剛,梁文峰當(dāng)選!

剛剛,梁文峰當(dāng)選!

財經(jīng)要參
2026-01-04 22:38:16
《紅白》驚見不雅畫面!女歌手肉色戰(zhàn)袍「像沒穿」正面開腿…挨轟低俗

《紅白》驚見不雅畫面!女歌手肉色戰(zhàn)袍「像沒穿」正面開腿…挨轟低俗

ETtoday星光云
2026-01-05 09:50:07
張維為又說胡話了,關(guān)于消除極端貧困,這是給對手遞刀子

張維為又說胡話了,關(guān)于消除極端貧困,這是給對手遞刀子

讀鬼筆記
2026-01-04 20:33:17
2026-01-05 14:40:49
碼農(nóng)翻身 incentive-icons
碼農(nóng)翻身
有趣且硬核的技術(shù)文章
214文章數(shù) 604關(guān)注度
往期回顧 全部

科技要聞

雷軍新年首播:確認(rèn)汽車業(yè)務(wù)降速

頭條要聞

媒體:美國捉拿馬杜羅后 多位專家示警賴清德

頭條要聞

媒體:美國捉拿馬杜羅后 多位專家示警賴清德

體育要聞

女子世界第一,9年前在咖啡店洗碗

娛樂要聞

黃宗澤奪雙料視帝,淚灑頒獎臺憶往昔

財經(jīng)要聞

李迅雷:擴(kuò)內(nèi)需要把重心從"投"轉(zhuǎn)向"消"

汽車要聞

不是9S是8X!極氪全新高性能旗艦SUV命名官宣

態(tài)度原創(chuàng)

家居
親子
藝術(shù)
旅游
公開課

家居要聞

白色大理石 奢華現(xiàn)代

親子要聞

2026年度育兒補(bǔ)貼今起開放申領(lǐng),流程新增一鍵續(xù)領(lǐng)功能

藝術(shù)要聞

19幅 列賓美院學(xué)生優(yōu)秀畢業(yè)作品

旅游要聞

“想得到的想不到的都有!”元旦沉浸式打卡昆明菜市場,成外地游客新時尚

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進(jìn)入關(guān)懷版