就在不久前，機(jī)器人初創(chuàng)公司 Generalist AI 發(fā)布了他們的 GEN-0 模型，聲稱(chēng)首次在機(jī)器人領(lǐng)域建立了類(lèi)似語(yǔ)言模型的 scaling law，即隨著預(yù)訓(xùn)練數(shù)據(jù)和計(jì)算量的增加，下游任務(wù)性能呈現(xiàn)可預(yù)測(cè)的冪律提升。

他們的訓(xùn)練數(shù)據(jù)規(guī)模達(dá)到驚人的 27 萬(wàn)小時(shí)真實(shí)世界操作視頻，遠(yuǎn)超目前公開(kāi)的任何機(jī)器人數(shù)據(jù)集。這一發(fā)現(xiàn)在業(yè)內(nèi)引發(fā)了廣泛關(guān)注，因?yàn)樗馕吨鴻C(jī)器人智能可能終于踏上了與大語(yǔ)言模型類(lèi)似的可預(yù)測(cè)增長(zhǎng)軌道。

今天，另一家知名的機(jī)器人初創(chuàng) Physical Intelligence 又發(fā)表了一項(xiàng)研究，從另一個(gè)角度佐證了規(guī)模效應(yīng)的存在，而且揭示了一個(gè)此前容易被忽略的現(xiàn)象：不僅機(jī)器人策略本身會(huì)從規(guī)模中獲益，從異質(zhì)數(shù)據(jù)源汲取知識(shí)的能力同樣是規(guī)模的產(chǎn)物。

圖丨相關(guān)論文（來(lái)源：Physical Intelligence）

具體而言，當(dāng) VLA（Vision-Language-Action，視覺(jué)－語(yǔ)言－動(dòng)作）模型在足夠多樣化的場(chǎng)景、任務(wù)和機(jī)器人形態(tài)上完成預(yù)訓(xùn)練之后，一種此前難以實(shí)現(xiàn)的能力會(huì)以“涌現(xiàn)”的方式出現(xiàn)：模型突然具備了從人類(lèi)視頻中學(xué)習(xí)技能并遷移到機(jī)器人執(zhí)行的能力。而在預(yù)訓(xùn)練規(guī)模不足時(shí)，無(wú)論你怎么精心設(shè)計(jì)對(duì)齊機(jī)制，這種跨具身形態(tài)的遷移效果都難以令人滿意。

（來(lái)源：Physical Intelligence）

讓機(jī)器人觀看人類(lèi)操作視頻來(lái)學(xué)習(xí)技能，是業(yè)內(nèi)目前探索的重要路徑之一。它的吸引力顯而易見(jiàn)：人類(lèi)視頻俯拾皆是，而機(jī)器人示范數(shù)據(jù)的采集成本高昂且進(jìn)展緩慢。然而現(xiàn)實(shí)是，直接把人類(lèi)視頻喂給機(jī)器人模型訓(xùn)練，效果往往令人失望。

視覺(jué)上，人類(lèi)的手與機(jī)器人的夾爪形態(tài)迥異；運(yùn)動(dòng)學(xué)上，人體關(guān)節(jié)自由度與機(jī)器人末端執(zhí)行器的動(dòng)作空間天差地別。這道“跨具身形態(tài)”的鴻溝橫亙?cè)谌藱C(jī)之間，此前的解決方案大多依賴(lài)于各種精心設(shè)計(jì)的對(duì)齊技術(shù)，關(guān)鍵點(diǎn)追蹤、潛在動(dòng)作編碼、獎(jiǎng)勵(lì)建模、仿射變換等等。Physical Intelligence 這項(xiàng)研究的核心貢獻(xiàn)在于表明，在足夠的預(yù)訓(xùn)練規(guī)模下，這些顯式對(duì)齊步驟可能根本不需要。

這項(xiàng)研究由 Physical Intelligence 聯(lián)合 Georgia Tech 的研究人員完成。第一作者 Simar Kareer 是 Georgia Tech 計(jì)算機(jī)視覺(jué)方向的博士生，此前他就以 EgoMimic 項(xiàng)目在業(yè)內(nèi)嶄露頭角。那套系統(tǒng)用 Meta 的 Project Aria 眼鏡錄制人類(lèi)第一人稱(chēng)視頻，讓機(jī)器人通過(guò)模仿學(xué)習(xí)掌握疊衣服等家務(wù)技能，性能提升幅度達(dá) 400％。

EgoMimic 的成功依賴(lài)于一系列精心設(shè)計(jì)的跨域?qū)R技術(shù)，這也是此前該領(lǐng)域的通行做法。而這次的新研究則試圖回答一個(gè)更激進(jìn)的問(wèn)題：如果完全不做顯式對(duì)齊，純粹依靠預(yù)訓(xùn)練規(guī)模，能否讓模型自己學(xué)會(huì)跨越具身形態(tài)的鴻溝？

為此，研究團(tuán)隊(duì)設(shè)計(jì)了一套簡(jiǎn)單到近乎粗暴的聯(lián)合訓(xùn)練方案。他們把人類(lèi)視頻當(dāng)作 VLA 訓(xùn)練混合數(shù)據(jù)中的“又一種機(jī)器人形態(tài)”來(lái)處理，采用與機(jī)器人數(shù)據(jù)完全相同的訓(xùn)練目標(biāo)：低層級(jí)的末端執(zhí)行器軌跡預(yù)測(cè)和高層級(jí)的子任務(wù)語(yǔ)言預(yù)測(cè)。

人類(lèi)手部的 3D 姿態(tài)通過(guò)手勢(shì)追蹤技術(shù)提取，映射為類(lèi)似機(jī)器人末端執(zhí)行器的相對(duì)運(yùn)動(dòng)；子任務(wù)標(biāo)注則與機(jī)器人數(shù)據(jù)的標(biāo)注格式保持一致。在微調(diào)階段，人類(lèi)數(shù)據(jù)與對(duì)應(yīng)任務(wù)的機(jī)器人數(shù)據(jù)按 50：50 的比例混合。沒(méi)有任何域適應(yīng)模塊，沒(méi)有對(duì)抗訓(xùn)練，沒(méi)有手工設(shè)計(jì)的特征對(duì)齊。

研究團(tuán)隊(duì)刻意不去額外“照顧”模型，把那些常見(jiàn)的域適應(yīng)與顯式對(duì)齊組件都拿掉，只保留最樸素的共同訓(xùn)練配方，用這種近乎苛刻的設(shè)置來(lái)檢驗(yàn)：模型能否僅憑預(yù)訓(xùn)練打下的基礎(chǔ)，把這些異質(zhì)數(shù)據(jù)真正消化并轉(zhuǎn)化為可執(zhí)行的策略。

實(shí)驗(yàn)結(jié)果呈現(xiàn)出一條清晰的分界線。當(dāng) VLA 模型沒(méi)有經(jīng)過(guò)預(yù)訓(xùn)練或只在有限數(shù)據(jù)上預(yù)訓(xùn)練時(shí)，加入人類(lèi)視頻非但沒(méi)有幫助，有時(shí)甚至?xí)a(chǎn)生負(fù)遷移效應(yīng)。但隨著預(yù)訓(xùn)練數(shù)據(jù)的多樣性逐步提升，從 25％ 到 50％、75％，直至完整的多機(jī)器人跨形態(tài)預(yù)訓(xùn)練，人類(lèi)視頻帶來(lái)的增益開(kāi)始顯著上升。在他們的四項(xiàng)泛化基準(zhǔn)測(cè)試中，最強(qiáng)版本的模型幾乎將整體性能翻了一番。

（來(lái)源：Physical Intelligence）

這四項(xiàng)基準(zhǔn)覆蓋了不同維度的泛化挑戰(zhàn)。場(chǎng)景泛化測(cè)試中，機(jī)器人需要在從未見(jiàn)過(guò)的公寓里整理調(diào)料架或梳妝臺(tái)，而這些新場(chǎng)景只出現(xiàn)在人類(lèi)視頻中。物體泛化測(cè)試中，機(jī)器人要收拾桌上的新廚具，同樣是人類(lèi)數(shù)據(jù)引入的品類(lèi)。最具說(shuō)服力的是任務(wù)泛化測(cè)試：機(jī)器人數(shù)據(jù)只演示過(guò)把雞蛋放進(jìn)蛋托的動(dòng)作，而人類(lèi)視頻額外展示了按顏色分揀雞蛋的操作。

結(jié)果是，未經(jīng)人類(lèi)數(shù)據(jù)訓(xùn)練的模型只會(huì)隨機(jī)放置，分揀正確率約 57％；而聯(lián)合訓(xùn)練后的模型達(dá)到了 78％ 的準(zhǔn)確率，平均每次多正確放置 4 個(gè)雞蛋。機(jī)器人從人類(lèi)視頻中學(xué)會(huì)了“分揀”這個(gè)它從未在機(jī)器人示范中見(jiàn)過(guò)的語(yǔ)義概念。

而且，這種能力并非線性增長(zhǎng)，而是在跨過(guò)某個(gè)預(yù)訓(xùn)練門(mén)檻后才突然顯現(xiàn)出來(lái)。

以雞蛋分揀任務(wù)為例，單純?cè)黾宇A(yù)訓(xùn)練多樣性并不能讓只用機(jī)器人數(shù)據(jù)訓(xùn)練的模型學(xué)會(huì)分揀，因?yàn)榉謷@個(gè)概念根本不存在于機(jī)器人數(shù)據(jù)中。但增加預(yù)訓(xùn)練多樣性卻能讓模型更有效地從人類(lèi)視頻中獲取這一知識(shí)。

類(lèi)似地，在梳妝臺(tái)整理任務(wù)上，50％ 預(yù)訓(xùn)練規(guī)模以下的模型從人類(lèi)視頻中獲益甚微甚至出現(xiàn)負(fù)遷移，但在 75％ 到 100％ 的預(yù)訓(xùn)練規(guī)模區(qū)間，增益開(kāi)始穩(wěn)定累積。這種非線性的涌現(xiàn)模式與大語(yǔ)言模型中觀察到的現(xiàn)象如出一轍：某些能力不是漸進(jìn)出現(xiàn)的，而是在跨越特定規(guī)模門(mén)檻后突然“解鎖”。

研究團(tuán)隊(duì)進(jìn)一步分析了這種涌現(xiàn)現(xiàn)象背后的機(jī)理。通過(guò)對(duì)模型最后一層視覺(jué)令牌的 t-SNE 降維可視化，他們發(fā)現(xiàn)了一個(gè)有趣的規(guī)律：在弱預(yù)訓(xùn)練條件下，人類(lèi)數(shù)據(jù)和機(jī)器人數(shù)據(jù)的表征呈現(xiàn)出明顯的分離態(tài)勢(shì)，模型似乎在用兩套不同的“語(yǔ)言”理解這兩類(lèi)數(shù)據(jù)。但隨著預(yù)訓(xùn)練多樣性增加，兩類(lèi)數(shù)據(jù)的表征開(kāi)始逐漸重疊，最終趨于高度混合。

換言之，充分多樣化的預(yù)訓(xùn)練使得模型形成了“具身無(wú)關(guān)”的中間表示，人類(lèi)手臂的揮動(dòng)和機(jī)械臂的伸展在這個(gè)表示空間里可以被映射到語(yǔ)義相近的區(qū)域。這就解釋了為什么顯式對(duì)齊變得不再必要，模型自己完成了這項(xiàng)工作。

另外，這項(xiàng)研究也揭示，人類(lèi)數(shù)據(jù)并不是萬(wàn)能的。在某些任務(wù)上，人類(lèi)視頻的效果接近于直接使用目標(biāo)機(jī)器人數(shù)據(jù)，研究團(tuán)隊(duì)在整理梳妝臺(tái)和分揀雞蛋任務(wù)上觀察到了這一點(diǎn)。但在收拾餐桌的測(cè)試中，真實(shí)機(jī)器人數(shù)據(jù)仍然明顯優(yōu)于人類(lèi)數(shù)據(jù)。

研究者將人類(lèi)數(shù)據(jù)與來(lái)自另一款 UR5 機(jī)器人的跨形態(tài)遷移數(shù)據(jù)做了對(duì)比，發(fā)現(xiàn)兩者表現(xiàn)出相似的遷移特性：都比基線有所提升，但都不及目標(biāo)機(jī)器人自身的數(shù)據(jù)。所以，在 VLA 的數(shù)據(jù)混合策略中，人類(lèi)視頻更應(yīng)該被視為一種有價(jià)值的補(bǔ)充數(shù)據(jù)源，而非完全替代方案。

另一個(gè)細(xì)節(jié)是腕部相機(jī)的作用。研究團(tuán)隊(duì)讓人類(lèi)數(shù)據(jù)采集者佩戴類(lèi)似機(jī)器人腕部相機(jī)的微型攝像頭，以縮小傳感器配置上的域差距。在某些任務(wù)上，這些額外視角確實(shí)帶來(lái)了性能提升，但在另一些任務(wù)上影響甚微。這提示我們，人類(lèi)數(shù)據(jù)采集的傳感器配置可能需要根據(jù)目標(biāo)任務(wù)的特點(diǎn)進(jìn)行權(quán)衡。

目前困擾整個(gè)行業(yè)的核心瓶頸之一是高質(zhì)量機(jī)器人示范數(shù)據(jù)的采集成本。遙操作需要專(zhuān)業(yè)人員花費(fèi)大量時(shí)間，而且容易引入操作失誤。如果人類(lèi)視頻能夠有效補(bǔ)充機(jī)器人數(shù)據(jù)，那么數(shù)據(jù)采集的邊際成本將大幅降低。普通人佩戴智能眼鏡從事日?；顒?dòng)產(chǎn)生的視頻流，理論上都可以成為機(jī)器人學(xué)習(xí)的素材。

Figure AI 最近宣布的 Project Go-Big 計(jì)劃走的就是這條路線，他們與房地產(chǎn)巨頭 Brookfield 合作，打算從其遍布全球的十萬(wàn)余套住宅單元中大規(guī)模采集人類(lèi)生活視頻，并聲稱(chēng)已經(jīng)實(shí)現(xiàn)了從純?nèi)祟?lèi)視頻到機(jī)器人導(dǎo)航的零樣本遷移。

不過(guò)，Physical Intelligence 的研究也給這種愿景設(shè)置了一個(gè)前提條件：想要有效利用人類(lèi)視頻，你首先得有一個(gè)足夠強(qiáng)大的預(yù)訓(xùn)練基礎(chǔ)。沒(méi)有經(jīng)過(guò)充分多樣化預(yù)訓(xùn)練的模型，拿到再多人類(lèi)視頻也是枉然。也就是說(shuō)，你必須先投入大量資源構(gòu)建多樣化的機(jī)器人預(yù)訓(xùn)練數(shù)據(jù)集，才能“解鎖”從人類(lèi)視頻中學(xué)習(xí)的能力。

（來(lái)源：Physical Intelligence）

還有一點(diǎn)值得關(guān)注：這項(xiàng)研究使用的人類(lèi)數(shù)據(jù)量相當(dāng)有限，每個(gè)任務(wù)僅 3 到 5 小時(shí)，遠(yuǎn)不及網(wǎng)絡(luò)上可獲取的海量人類(lèi)活動(dòng)視頻。研究者也坦承，他們目前的數(shù)據(jù)采集方式仍然是片段式的，尚未涉足“在野”環(huán)境下的被動(dòng)采集。未來(lái)如何有效利用這些非結(jié)構(gòu)化、非片段式的人類(lèi)視頻數(shù)據(jù)，仍是一個(gè)開(kāi)放問(wèn)題。但至少，這項(xiàng)研究確立了一個(gè)重要的基線：在適當(dāng)?shù)念A(yù)訓(xùn)練條件下，即便是相對(duì)少量的人類(lèi)視頻也能產(chǎn)生可觀的遷移效果。

回顧整個(gè)發(fā)現(xiàn)的內(nèi)在邏輯，其實(shí)并不難理解。充分多樣化的預(yù)訓(xùn)練迫使模型學(xué)會(huì)抽象，因?yàn)樗仨氄业讲煌瑱C(jī)器人形態(tài)、不同場(chǎng)景、不同任務(wù)之間的共性才能有效泛化。

這種被迫形成的抽象能力，恰好也是跨越人機(jī)鴻溝所需要的。當(dāng)模型的內(nèi)部表示不再緊密綁定于某一種特定的視覺(jué)外觀或運(yùn)動(dòng)學(xué)參數(shù)，而是捕捉到更高層級(jí)的語(yǔ)義和意圖，人類(lèi)手臂和機(jī)械手臂之間的差異就變得不再是無(wú)法逾越的障礙。

大語(yǔ)言模型領(lǐng)域的研究者很早就注意到，某些能力只有在模型規(guī)?？缭教囟ㄩT(mén)檻后才會(huì)涌現(xiàn)?，F(xiàn)在看來(lái)，機(jī)器人基礎(chǔ)模型也存在類(lèi)似的規(guī)模門(mén)檻效應(yīng)，只不過(guò)這里的“規(guī)?！辈粌H指參數(shù)量，更關(guān)鍵的是預(yù)訓(xùn)練數(shù)據(jù)在場(chǎng)景、任務(wù)和具身形態(tài)三個(gè)維度上的多樣性。對(duì)于那些正在規(guī)劃?rùn)C(jī)器人數(shù)據(jù)采集策略的團(tuán)隊(duì)來(lái)說(shuō)，這是一個(gè)值得認(rèn)真對(duì)待的發(fā)現(xiàn)：數(shù)據(jù)量固然重要，但數(shù)據(jù)的多樣性可能更加關(guān)鍵。

參考資料：

1.https://www.pi.website/download/human_to_robot.pdf

2.https://www.pi.website/research/human_to_robot

運(yùn)營(yíng)/排版：何晨龍