国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

李彥宏斷言有點早 開源大模型不弱雞

0
分享至

自2022年11月ChatGPT問世,這一現(xiàn)象級產(chǎn)品迅速點燃了市場的大模型熱情。新老科技企業(yè)紛紛殺入,誓要抓住移動互聯(lián)網(wǎng)以來最大的一次產(chǎn)業(yè)紅利。當(dāng)行業(yè)如火如荼發(fā)展一門心思搞技術(shù)之時,又出現(xiàn)了“路線之爭”:

閉源路線:以國外OpenAI的ChatGPT,Anthropic的Claude,谷歌的Gemini,國內(nèi)百度的文心一言,月之暗面的Kimi等企業(yè)為典型代表,傾向于閉源大模型的高性能,強商業(yè)化等優(yōu)勢,其中以百度最為激進,李彥宏近期便一直以“閉源擁躉”頻頻出圈,發(fā)表諸如“開源大模型是智商稅“,”大模型場景下開源是最貴的”等出位言論,引發(fā)行業(yè)熱議;

開源路線:以META的Llama,國內(nèi)阿里云的通義為典型代表,認(rèn)為開源模式的協(xié)作特性可實現(xiàn)技術(shù)的快速迭代,可以通過模型托管提高云計算的業(yè)務(wù)成長空間,且該路線有利于數(shù)據(jù)敏感型組織通過私有云或本地化內(nèi)網(wǎng)落地大模型,較之閉源具有高成長性,多落地場景等優(yōu)點。

與行業(yè)往日爭議不同,此次大模型爭論充滿技術(shù)情懷,從業(yè)者爭論多聚焦在 “技術(shù)之爭”,李彥宏就表示“開源模型會越來越落后”,其讓頻頻登上熱搜。

那么在這場開閉源的爭論中我們要建立怎樣的分析框架?又來如何理性評判當(dāng)前的路線之爭呢?

其一,根據(jù)Scaling laws原理,大模型的成功乃是更大算力,更多數(shù)據(jù),更高算力的綜合結(jié)果,這背后則是資金的海量投入,基礎(chǔ)設(shè)施完善,管理的穩(wěn)定等等,大模型沒有閃電戰(zhàn)只有持久戰(zhàn);

其二,百度選擇閉源有技術(shù)的考量,但與商業(yè)路徑也密不可分;

其三,開源大模型并沒有想象那般弱雞,閉源也不一定能永遠(yuǎn)保持先進性;

其四,開閉源大模型共存將會是長期趨勢;

Scaling laws原理:大模型將長期燒錢

我們首先從大語言模型中的第一性原理“Scaling laws”入手分析(被翻譯為“縮放原理”或“尺度定律”)。

2020 年 1 月,OpenAI 發(fā)布論文《Scaling Laws for Neural Language Models》,奠定了 Scaling Law的基礎(chǔ),為后續(xù) GPT 的迭代指明了方向:更大參數(shù)、更多數(shù)據(jù)和更多算力能夠得到更好的模型智能。

也就從此時開始,OpenAI開啟了大參數(shù)模型路線,GPT-3的參數(shù)已經(jīng)達到1750億(GPT-2還只有15億),訓(xùn)練數(shù)據(jù)則直接躍升到570億G。

大模型的大參數(shù)軍備競賽也由此拉開大幕,動輒數(shù)千億級的大模型流行于市場,帶來技術(shù)的快速發(fā)展和普及。

由此也就引發(fā)了一個新的問題:算力。

根據(jù) Scaling Law 論文,可以用 6ND 來估算模型所需要的訓(xùn)練算力(N為參數(shù),D為數(shù)據(jù)集TOKEN數(shù)),算力需求在大模型時代得到指數(shù)級提升(長文本大模型所需算力可能還要高于6ND)。

這一方面催生了底層算力提供者英偉達為代表的GPU廠商的爆炸式增長,另一方面大模型廠商若要保持技術(shù)先進性就必須花大價錢在算力基礎(chǔ)設(shè)施方面。

在華泰證券的圖表中我們也能清晰看到大模型與此前的云計算爆發(fā)式增長一樣,業(yè)務(wù)的增長是要基礎(chǔ)算力的高投入為前提的。根據(jù)Visible Alpha一致預(yù)測,2026年全球科技四巨頭(微軟,谷歌,META和亞馬遜)合計資本支出將達2399億美元,2023-2026年CAGR為18.86%。

有觀點曾寄希望于Scaling Law的邊際效應(yīng)收窄效應(yīng),認(rèn)為只要熬到技術(shù)成熟期(Scaling Law效應(yīng)邊際效應(yīng)迅速放大之時),算力的投入便會達峰,此時模型只需要維護自身模型的可靠性與穩(wěn)固性即可,只是站在當(dāng)下時代,Scaling Law遠(yuǎn)未到終點。

清華大學(xué)的唐杰教授在2024年 2 月就指出:我們還遠(yuǎn)未到 Scaling law 的盡頭, 數(shù)據(jù)量、計算量、參數(shù)量還遠(yuǎn)遠(yuǎn)不夠。未來的 Scaling law 還有很長遠(yuǎn)的路要走。

現(xiàn)實中主流大模型廠商的算力仍然在持續(xù)增大,模型的參數(shù)規(guī)模也在增大,行業(yè)終局是看不到頭的。

研發(fā)人員固然可以通過技術(shù)架構(gòu)優(yōu)化和軟硬件資源協(xié)同等方面來提高大模型的性能,只是我們也必須得承認(rèn),指數(shù)級的大模型技術(shù)迭代仍然仰賴于高參數(shù)和強算力。

在上述兩項約束條件下,大模型廠商不得不面臨非常棘手的問題:

如果把算力的資本性支出視為“蛋”,大模型的高性能為“雞”,究竟雞生蛋還是蛋生雞就成了大模型廠商不得不面臨的問題。

我們以閉源大模型的忠實擁躉百度為例,在基石的廣告業(yè)務(wù)壓力不斷加碼之時,其經(jīng)營理念已經(jīng)越加審慎,如對非核心業(yè)務(wù)的裁撤,人員的優(yōu)化等等。這在資本開支中則反饋表現(xiàn)為支出的越加保守,過去三年表現(xiàn)非常明顯。

2023年META和亞馬遜等科技頭部企業(yè)也均在進行資本支出的結(jié)構(gòu)性優(yōu)化,如亞馬遜的物流倉儲成本開始降低,與此同時云計算的數(shù)據(jù)中心等基礎(chǔ)設(shè)施仍處于大規(guī)模擴張中。百度亦是如此,表面看其資本開支越發(fā)慎重,但大模型相關(guān)的基礎(chǔ)設(shè)施投入必然是高速增長的。

這對百度也就會帶來一個問題,結(jié)構(gòu)化的資本開支縮減終有結(jié)束之時,Scaling Law還遠(yuǎn)未能看到終端,加之“第二曲線”短期內(nèi)無法扛起支出重任,從財務(wù)方面就迫使百度不得不在商業(yè)路徑上進行考慮。

以賣模型(API接口)的閉源大模型成為首選,對C端用戶文心一言收取會員,對B端以API的接口費為主要變現(xiàn),又由于閉源大模型乃是企業(yè)獨家開發(fā),維護和管理成本也相對低廉,對百度是十分劃算的。在雞生蛋和蛋生雞的問題上,百度選擇了雞生蛋。

可閉源果真就能戰(zhàn)勝開源嗎?

開源大模型不弱雞

前文中我們已經(jīng)從大模型的原理,技術(shù)以及商業(yè)路徑角度,簡單勾勒了行業(yè)當(dāng)前的現(xiàn)狀,并對百度對閉源大模型抱以極度的熱忱有了一定的理解。

接下來我們來討論開閉源大模型的趨勢性問題 。

如開篇所言,李彥宏對開源大模型常有鄙夷之情,如開篇“開源模型會越來越落后”,又如“沒有應(yīng)用,開源閉源模型都一文不值”,閉源大模型果真如此不堪嗎?

ARK Investment每年都會將其觀點和洞察力發(fā)表在年初的“Big Ideas”報告中,在2024年的報告中,”開源模型性能進步快于閉源模型“乃是其重要觀點之一。在上圖中阿里云的Qwen-72B乃為閉源大模型之最。

一方面閉源大模型確實有先發(fā)優(yōu)勢,以O(shè)penAI的ChatGPT為典型代表,但另一方面大模型的演進又是一個持久戰(zhàn)(Scaling law為主要因素),對企業(yè)的管理,投入以及持續(xù)的創(chuàng)新力就有了更高的要求,如此前OpenAI一系列的“人事斗爭”很難說不會影響核心業(yè)務(wù)。

與之所對應(yīng)的開源大模型也在此時開始展示先進性。

2024 年 4 月,Meta 發(fā)布 Llama 3,設(shè)計目標(biāo)是多模態(tài)、多語言,根據(jù) Meta 公布的目前訓(xùn)練數(shù)據(jù),其性能與 GPT-4 相當(dāng)。

Llama大模型的成功給了開源陣營足夠的信心,在權(quán)威機構(gòu)推出全新的大模型測評基準(zhǔn)LiveBench AI中,阿里通義Qwen2拿下美國最新測評榜單開源大模型全球第一,成績超過Meta的Llama3-70B模型。

在基礎(chǔ)算力的投入保障之下,拉長時間線,開源大模型是可以保持足夠競爭力的,僅就此來看李彥宏鄙夷開源大模型性能不進步是站不住腳的。

這再次告訴我們:閉源和開源絕非技術(shù)理念之爭,而是商業(yè)路徑的分歧。

那么究竟哪何種商業(yè)路徑最適合大模型的落地呢?

篇幅原因我們省去繁瑣的分析過程,精簡觀點如下:

中短期:閉源大模型在變現(xiàn)方面優(yōu)勢更明顯,以賣模型為主要商業(yè)模式,簡單易操作。百度又可以通過改造原互聯(lián)網(wǎng)應(yīng)用產(chǎn)品(如地圖,文庫,搜索等),實現(xiàn)模型的落地改進產(chǎn)品力,將業(yè)務(wù)線由“AI+”向“+AI”過渡。此外需要提醒的是,企業(yè)內(nèi)部原產(chǎn)品線的改造也是伴隨巨大的成本開支需求的,如華泰證券曾測算,META若內(nèi)容推薦完全以大模型為主,取代原有算法,將需要至少50萬片英偉達GPU,僅此一項就是一筆巨大開支(最近有消息稱META今年GPU規(guī)模將超過30萬塊),這就對短期內(nèi)閉源大模型的落地和變現(xiàn)提出了更高的要求。

長期:開源大模型走的更遠(yuǎn),如高度定制化的特點將提高大模型對不同行業(yè)的滲透率,當(dāng)不同行業(yè)的接入大模型,提高大模型的應(yīng)有廣度之后,企業(yè)開發(fā)展則要仰賴于開源大模型背后的算力和云計算平臺,以實現(xiàn)可持續(xù)增長。

在上述兩種路徑中,“資本”是商業(yè)模式運轉(zhuǎn)的必要條件,這又回到了我們前文所言的“雞生蛋”的悖論。

這也就使得采取閉源大模型的往往具有以下特點:應(yīng)用端具有得天獨厚優(yōu)勢(如谷歌),又如技術(shù)上短期內(nèi)遙遙領(lǐng)先(如OpenAI);

開源大模型則具有:資金底子雄厚(如META),云計算基礎(chǔ)設(shè)施健全(如阿里云),能夠熬得住,扛得起基礎(chǔ)設(shè)施膨脹帶來的巨大成本,又能接得住開源大模型普及后的云計算需求。

顯然沒有一種大模型是兼有所有優(yōu)點而無缺點的,百度此時以激烈語言來鼓吹閉源大模型,其背后應(yīng)是其短期商業(yè)化的焦慮(此前API接口價格戰(zhàn)對閉源大模型影響更大),以及對爭奪目標(biāo)客戶心智的野心。

基于此我們并不認(rèn)為會有包打一切的大模型路徑,相反企業(yè)選擇適合自己的路徑更多是“權(quán)宜之計”,客戶選擇開閉源模式也將會有自己的考量,一些企業(yè)也采取開閉源共存的模式來滿足不同客戶需求,如谷歌將輕量級的開源模型系列Gemma進行開源。

不過此時發(fā)表出格語言最能出圈,能夠提高閉源大模型優(yōu)點的普及型,只是忽視了開源大模型絕非“弱雞”,大模型的發(fā)展會是持久戰(zhàn),未來有太多的不可測性,輕易下斷言在其后很可能被反噬。

聲明:個人原創(chuàng),僅供參考

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
國米夏季引援中場篇,小斯坦100%回收,紅軍大將欲復(fù)制小麥先例

國米夏季引援中場篇,小斯坦100%回收,紅軍大將欲復(fù)制小麥先例

狗哥是一名內(nèi)拉
2026-04-29 16:12:35
季后賽最新戰(zhàn)報!2隊晉級5隊奪賽點 騎士天王山 火箭掘金翻盤有望

季后賽最新戰(zhàn)報!2隊晉級5隊奪賽點 騎士天王山 火箭掘金翻盤有望

鳴哥說體育
2026-04-29 17:23:21
剛剛,南京市教育局重磅發(fā)布!

剛剛,南京市教育局重磅發(fā)布!

南京擇校
2026-04-29 14:16:00
特朗普威脅伊朗“最好快些放聰明點”,并配發(fā)一張自己持槍的“造型”圖片,配文“不再有好好先生”

特朗普威脅伊朗“最好快些放聰明點”,并配發(fā)一張自己持槍的“造型”圖片,配文“不再有好好先生”

瀟湘晨報
2026-04-29 17:08:13
外交部:再次要求日方加快日遺化武處置進程 還中國人民以凈土

外交部:再次要求日方加快日遺化武處置進程 還中國人民以凈土

北青網(wǎng)-北京青年報
2026-04-29 16:42:04
我去,什么情況!文班?怂够ハ嗯踹

我去,什么情況!文班?怂够ハ嗯踹

體育新角度
2026-04-29 17:51:11
伊朗動用100億美元穩(wěn)局面:通脹67%失業(yè)暴漲,只!俺缘蒙巷垺

伊朗動用100億美元穩(wěn)局面:通脹67%失業(yè)暴漲,只!俺缘蒙巷垺

桂系007
2026-04-29 15:31:10
嫁富二代明星后,她住進北京豪宅,開勞斯萊斯,如今40歲又懷3胎

嫁富二代明星后,她住進北京豪宅,開勞斯萊斯,如今40歲又懷3胎

不似少年游
2026-04-10 22:23:54
最大的鐵飯碗要碎了嗎:轉(zhuǎn)崗、超編、過剩......

最大的鐵飯碗要碎了嗎:轉(zhuǎn)崗、超編、過剩......

燈錦年
2026-04-26 20:25:53
最高可判死刑!奧巴馬結(jié)局已定?美國司法部介入,特朗普準(zhǔn)備收網(wǎng)

最高可判死刑!奧巴馬結(jié)局已定?美國司法部介入,特朗普準(zhǔn)備收網(wǎng)

蘭妮搞笑分享
2026-04-29 10:57:53
沒想到!劣跡藝人張敬軒風(fēng)波持續(xù)發(fā)酵,過往言論被一一扒出

沒想到!劣跡藝人張敬軒風(fēng)波持續(xù)發(fā)酵,過往言論被一一扒出

一盅情懷
2026-04-24 14:30:35
暴漲130%,貴了1200!中國賣不掉的硫酸,一夜之間被全球瘋搶

暴漲130%,貴了1200!中國賣不掉的硫酸,一夜之間被全球瘋搶

丁丁鯉史紀(jì)
2026-04-28 20:19:32
司機用錫紙包裹ETC偷逃過路費:36次逃費5萬余元 因詐騙罪獲刑

司機用錫紙包裹ETC偷逃過路費:36次逃費5萬余元 因詐騙罪獲刑

快科技
2026-04-28 11:27:26
馬競球員朱利安·阿爾瓦雷斯:“小時候,父親告訴我們不要紋身、不要喝酒、不要抽煙”

馬競球員朱利安·阿爾瓦雷斯:“小時候,父親告訴我們不要紋身、不要喝酒、不要抽煙”

綠茵情報局
2026-04-28 19:23:16
鏡報:卡塞米羅將拒絕沙特高薪,決定加盟邁阿密國際

鏡報:卡塞米羅將拒絕沙特高薪,決定加盟邁阿密國際

懂球帝
2026-04-29 00:11:25
24架飛機護航都不領(lǐng)情?伊朗高官:巴基斯坦已不適合當(dāng)“調(diào)解人”

24架飛機護航都不領(lǐng)情?伊朗高官:巴基斯坦已不適合當(dāng)“調(diào)解人”

知鑒明史
2026-04-28 16:55:03
穆杰塔巴出奇招,美以完全沒想到,普京或準(zhǔn)備下場,美國緊盯中國

穆杰塔巴出奇招,美以完全沒想到,普京或準(zhǔn)備下場,美國緊盯中國

忠于法紀(jì)
2026-04-29 16:50:33
也只有你敢說!郭艾倫評杜鋒輸球:他橫著走的 心態(tài)出問題了

也只有你敢說!郭艾倫評杜鋒輸球:他橫著走的 心態(tài)出問題了

大嘴爵爺侃球
2026-04-29 10:38:40
小米推出“米家燃?xì)庠?C 5200W”:適用于天然氣,首發(fā)價699元

小米推出“米家燃?xì)庠?C 5200W”:適用于天然氣,首發(fā)價699元

IT之家
2026-04-29 15:12:47
臺灣政壇徹底炸鍋!

臺灣政壇徹底炸鍋!

安安說
2026-04-28 10:56:05
2026-04-29 18:00:49
思辨財經(jīng) incentive-icons
思辨財經(jīng)
移動互聯(lián)網(wǎng),電商干貨大全
1141文章數(shù) 25640關(guān)注度
往期回顧 全部

科技要聞

今晨庭審紀(jì)實|馬斯克當(dāng)庭講述OpenAI被偷走

頭條要聞

俄首富超級游艇穿越霍爾木茲海峽:6層甲板 25米長泳池

頭條要聞

俄首富超級游艇穿越霍爾木茲海峽:6層甲板 25米長泳池

體育要聞

一場九球狂歡,各路神仙批量下凡

娛樂要聞

馬頔一句話,孫楊媽媽怒罵節(jié)目組2小時

財經(jīng)要聞

曾經(jīng)的新能源首富,希望又破了!

汽車要聞

技術(shù)天花板再摸高 全能型的奕境X9首秀

態(tài)度原創(chuàng)

旅游
游戲
數(shù)碼
房產(chǎn)
公開課

旅游要聞

24天不重樣!今年五月,玩轉(zhuǎn)2026新鄉(xiāng)市比干文化旅游節(jié)

《卡片魔王:只剩個頭!》評測:手快動兩下"/> 主站 商城 論壇 自運營 登錄 注冊 《卡片魔王:只剩個頭!》評測:手快動兩下 Haine 2026-0...

數(shù)碼要聞

威剛發(fā)布全新產(chǎn)品戰(zhàn)略,公布ADATA NEXRA固態(tài)硬盤

房產(chǎn)要聞

80億投資!浙商總部基地+?诒闭,金沙灣這是要起飛!

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關(guān)懷版