国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

JarvisEvo 如何讓 Agent 像人類一樣擁有「視覺反思」能力?

0
分享至



在邁向通用人工智能的道路上,我們一直在思考一個(gè)問題:現(xiàn)有的 Image Editing Agent,真的「懂」修圖嗎?

大多數(shù)基于 LLM/VLM 的智能體,本質(zhì)上更像是一個(gè)「盲目的指揮官」。它們能流利地寫出修圖代碼或調(diào)用 API,但在按下回車鍵之前,它們看不見畫布上的變化,也無法像人類設(shè)計(jì)師那樣,盯著屏幕皺眉說:「這張對(duì)比度拉太高了,得往回收到一點(diǎn)。」這種感知與決策的割裂,直接導(dǎo)致了「指令幻覺」,或者說模型在進(jìn)行盲目的「腦補(bǔ)」。由于缺乏視覺反饋,模型往往憑空想象下一步操作,導(dǎo)致結(jié)果與用戶的初衷南轅北轍。

此外,在傳統(tǒng)強(qiáng)化學(xué)習(xí)中經(jīng)常依賴于靜態(tài)的獎(jiǎng)勵(lì)模型。隨著模型的不斷訓(xùn)練,它很容易學(xué)會(huì)如何「討好」這個(gè)固定的打分器,導(dǎo)致Reward Hacking——即分?jǐn)?shù)很高,但審美并沒有真正提升。

為了打破這一僵局,JarvisEvo應(yīng)運(yùn)而生。它不僅僅是一個(gè)連接 Adobe Lightroom 的自動(dòng)化工具使用者,更是一次大膽的探索:探索 Agent 如何通過「內(nèi)省」,真正實(shí)現(xiàn)自我進(jìn)化。



  • 論文標(biāo)題:JarvisEvo: Towards a Self-Evolving Photo Editing Agent with Synergistic Editor-Evaluator Optimization
  • 論文地址:https://www.arxiv.org/pdf/2511.23002
  • 項(xiàng)目主頁(yè):https://jarvisevo.vercel.app/
  • Github:https://github.com/LYL1015/JarvisEvo
  • Huggingface Daily Paper:https://huggingface.co/papers/2511.23002
  • 作者團(tuán)隊(duì)來自騰訊混元和廈門大學(xué):Yunlong Lin*, Linqing Wang*, Kunjie Lin*, Zixu Lin*, Kaixiong Gong, Wenbo Li, Bin Lin, Zhenxi Li, Shiyi Zhang, Yuyang Peng, Wenxun Dai, Xinghao Ding?, Chunyu Wang?, Qinglin Lu?

核心范式轉(zhuǎn)移:

從「執(zhí)行者」到「思考者」



JarvisEvo 的核心哲學(xué)在于模仿人類專家的慢思考模式。一個(gè)資深修圖師的工作流永遠(yuǎn)是閉環(huán)的:觀察原圖 -> 構(gòu)思 -> 嘗試調(diào)整 -> 觀察結(jié)果 -> 評(píng)估/反思 -> 再調(diào)整。我們將這一直覺轉(zhuǎn)化為三大技術(shù)支柱:

iMCoT:讓思維鏈「長(zhǎng)出眼睛」

傳統(tǒng)的思維鏈 (CoT) 是純文本的獨(dú)角戲。JarvisEvo 引入了iMCoT (Interleaved Multimodal Chain-of-Thought),將視覺反饋強(qiáng)行插入推理循環(huán)。

  • 打破黑盒:每執(zhí)行一步工具(例如調(diào)整色溫),系統(tǒng)立刻生成中間渲染圖。
  • 動(dòng)態(tài)規(guī)劃:模型不再是一次性生成所有步驟,而是基于當(dāng)前的視覺狀態(tài)來決定下一步。它能「看到」上一具體操作帶來的過曝或偏色,并即時(shí)修正。



SEPO:左手畫圖,右手打分

這是 JarvisEvo 最「性感」的設(shè)計(jì)。既然外部獎(jiǎng)勵(lì)模型容易被 Hack,那為什么不讓 Agent 自己訓(xùn)練自己的審美?我們提出了SEPO (Synergistic Editor-Evaluator Policy Optimization),讓模型在訓(xùn)練中分飾兩角:

  • 編輯者 (Editor):負(fù)責(zé)干活,目標(biāo)是修出好圖。
  • 評(píng)估者 (Evaluator):負(fù)責(zé)挑刺,目標(biāo)是精準(zhǔn)打分。

這就形成了一種類似 GAN 但更復(fù)雜的協(xié)同進(jìn)化:編輯者為了拿高分,必須提升修圖質(zhì)量;評(píng)估者為了不被人類專家「打臉」,必須提升鑒賞能力。為了防止模型「作弊」(即模型發(fā)現(xiàn)只要生成「100 分」的文本就能降低 Loss),我們?cè)O(shè)計(jì)了SLM (Selective Loss Masking)機(jī)制。這相當(dāng)于老師在改卷時(shí),遮住了學(xué)生自己寫的「我給自己打滿分」那一行,迫使學(xué)生只能靠前面的解題過程(推理和工具使用)來真正贏得高分。

On-Policy Reflection:從錯(cuò)誤中提煉智慧

JarvisEvo 的第三個(gè)殺手锏是它的反思機(jī)制。

在 Stage 2 的訓(xùn)練中,我們構(gòu)建了一個(gè)自動(dòng)化流水線:當(dāng)模型偶然修出了一張好圖(高分軌跡),而之前某次嘗試失敗了(低分軌跡),系統(tǒng)會(huì)立刻捕捉這組對(duì)比。

通過引入「導(dǎo)師模型」(如 Gemini/GPT-4),我們讓系統(tǒng)分析:「剛才那次為什么失?。渴且?yàn)榘灼胶鈪?shù)太激進(jìn)了嗎?」

這種生成的反思數(shù)據(jù) (Reflection Data)被用于第三階段的微調(diào)。最終,JarvisEvo 習(xí)得的不僅是「如何修圖」,更是「當(dāng)修壞了時(shí)如何自救」。



硬核工程:ArtEdit 數(shù)據(jù)集與訓(xùn)練流水線

為了支撐這套邏輯,我們沒有使用通用的微調(diào)數(shù)據(jù),而是從零構(gòu)建了 ArtEdit:

  • 170K 專業(yè)樣本:覆蓋從風(fēng)光到人像的 10 大類攝影場(chǎng)景。
  • 全工具鏈覆蓋:完美映射 Adobe Lightroom 的 200+ 個(gè)參數(shù)。
  • 雙視角數(shù)據(jù):既有修圖軌跡 (ArtEdit-Lr),也有人類專家的審美評(píng)分 (ArtEdit-Eval)。

我們的訓(xùn)練并非一蹴而就,而是采用了類似人類學(xué)習(xí)的三階段課程 (Curriculum Learning):

  • 冷啟動(dòng) (SFT):先學(xué)會(huì)工具怎么用,語(yǔ)法怎么寫。
  • 協(xié)同進(jìn)化 (RL/SEPO):扔掉標(biāo)準(zhǔn)答案,在自我探索中通過「左右互搏」提升上限。
  • 反思微調(diào) (Reflection):針對(duì)易錯(cuò)點(diǎn)進(jìn)行特訓(xùn),學(xué)會(huì)自我糾錯(cuò)。



實(shí)驗(yàn)結(jié)果


ArtEdit-Bench 評(píng)測(cè)結(jié)果







在嚴(yán)苛的ArtEdit-Bench評(píng)測(cè)中,JarvisEvo 展現(xiàn)了統(tǒng)治力:

  • 內(nèi)容保真度:相比商業(yè)模型 Nano-Banana,L1/L2 誤差降低了44.96%。這意味著它在修圖時(shí)不會(huì)破壞原圖的畫質(zhì)細(xì)節(jié)。
  • 人類偏好:在盲測(cè)中,JarvisEvo 取得了49%的勝率,遠(yuǎn)超 Nano-Banana 的28%。
  • 審美對(duì)齊:更有趣的是,作為「裁判」,JarvisEvo 對(duì)圖片質(zhì)量的打分與人類專家的相關(guān)性 (SRCC 0.7243) 甚至超過了 Gemini-2.5-Flash。

視覺效果



在視覺效果上,JarvisEvo 專為細(xì)粒度專業(yè)調(diào)色而生。得益于其深度的意圖理解、多模態(tài)推理以及獨(dú)特的自我反思閉環(huán),JarvisEvo 在處理復(fù)雜修圖需求時(shí),展現(xiàn)出了超越當(dāng)前所有商業(yè)及開源 AIGC 模型的顯著優(yōu)勢(shì)。

JarvisEvo vs. OpenAI X Adobe PhotoShop



出于好奇跑了一下 OpenAI 的新功能,雖然能調(diào) PS,但感覺更像是 Workflow 的搭建,缺乏垂直數(shù)據(jù)的 Training。在我們的 Benchmark 上,論指令遵循和修圖審美,目前的 JarvisEvo 表現(xiàn)明顯還是要更好很多。

結(jié)語(yǔ):

不僅是修圖

JarvisEvo 的意義遠(yuǎn)超圖像編輯本身。 它驗(yàn)證了一種「Actor-Critic 協(xié)同進(jìn)化」的通用范式。這種讓模型在內(nèi)部建立「自我批評(píng)家」,并通過多模態(tài)反饋不斷修正行動(dòng)路徑的方法,完全可以復(fù)用到復(fù)雜代碼生成、數(shù)學(xué)推理、機(jī)器人控制等需要長(zhǎng)程規(guī)劃的領(lǐng)域。

我們正在見證 Agent 從「聽話的執(zhí)行者」向「會(huì)反思的創(chuàng)作者」的驚險(xiǎn)一躍。而 JarvisEvo,剛剛邁出了這一步。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
森林狼超湖人升西部第四!愛德華茲突破1萬分 比肩科比詹姆斯

森林狼超湖人升西部第四!愛德華茲突破1萬分 比肩科比詹姆斯

Emily說個(gè)球
2026-01-09 12:40:30
特朗普:必須“擁有”整個(gè)格陵蘭

特朗普:必須“擁有”整個(gè)格陵蘭

環(huán)球網(wǎng)資訊
2026-01-09 06:30:52
大潰??!中國(guó)網(wǎng)貸公司,在印度全軍覆沒

大潰??!中國(guó)網(wǎng)貸公司,在印度全軍覆沒

首席品牌評(píng)論
2026-01-07 18:20:00
江西景德鎮(zhèn)一家三口被撞身亡案宣判,法院答疑

江西景德鎮(zhèn)一家三口被撞身亡案宣判,法院答疑

界面新聞
2026-01-09 09:20:58
哪怕淚成江河,也要為河北農(nóng)民取暖發(fā)聲

哪怕淚成江河,也要為河北農(nóng)民取暖發(fā)聲

灰白筆記
2026-01-08 12:44:06
特朗普稱如果中國(guó)在其任期內(nèi)試圖改變臺(tái)灣現(xiàn)狀,他將非?!安粣偂?,外交部:解決臺(tái)灣問題是中國(guó)人自己的事,不容外部干涉

特朗普稱如果中國(guó)在其任期內(nèi)試圖改變臺(tái)灣現(xiàn)狀,他將非常“不悅”,外交部:解決臺(tái)灣問題是中國(guó)人自己的事,不容外部干涉

揚(yáng)子晚報(bào)
2026-01-09 15:28:43
天安門原升旗手張自軒結(jié)婚,岳父豪送奧迪A6,新娘身份不一般

天安門原升旗手張自軒結(jié)婚,岳父豪送奧迪A6,新娘身份不一般

八斗小先生
2026-01-08 18:19:01
86歲李雙江近況傳出!真的不敢相信,他如今活成了這樣!

86歲李雙江近況傳出!真的不敢相信,他如今活成了這樣!

誰(shuí)將笑到最后
2026-01-08 09:29:51
買1500元洗碗機(jī)遭丈夫砸家迎反轉(zhuǎn):這場(chǎng)爭(zhēng)吵給萬千夫妻上了一課!

買1500元洗碗機(jī)遭丈夫砸家迎反轉(zhuǎn):這場(chǎng)爭(zhēng)吵給萬千夫妻上了一課!

行者聊官
2026-01-09 11:47:28
白宮“購(gòu)島”方案流出:向格陵蘭人一次性付款,以說服他們脫離丹麥并可能加入美國(guó),每人或得1萬-10萬美元

白宮“購(gòu)島”方案流出:向格陵蘭人一次性付款,以說服他們脫離丹麥并可能加入美國(guó),每人或得1萬-10萬美元

都市快報(bào)橙柿互動(dòng)
2026-01-09 08:14:32
三亞不香了?東北人撤離成潮,壓垮他們的不是物價(jià),而是生活現(xiàn)實(shí)

三亞不香了?東北人撤離成潮,壓垮他們的不是物價(jià),而是生活現(xiàn)實(shí)

墨蘭史書
2026-01-08 21:25:03
中國(guó)猛捶日本,第一波反制剛到,第二波進(jìn)入倒計(jì)時(shí):191國(guó)靠邊站

中國(guó)猛捶日本,第一波反制剛到,第二波進(jìn)入倒計(jì)時(shí):191國(guó)靠邊站

近史博覽
2026-01-09 14:53:29
男子撞死一家三口被判死緩,被害方家屬發(fā)聲

男子撞死一家三口被判死緩,被害方家屬發(fā)聲

中國(guó)新聞周刊
2026-01-09 11:08:03
突發(fā)!Manus交易大概率要黃了!

突發(fā)!Manus交易大概率要黃了!

達(dá)文西看世界
2026-01-09 12:55:01
雷軍再回應(yīng)"1300公里只充一次電" 水軍想給我貼"虛假營(yíng)銷"的標(biāo)簽

雷軍再回應(yīng)"1300公里只充一次電" 水軍想給我貼"虛假營(yíng)銷"的標(biāo)簽

每日經(jīng)濟(jì)新聞
2026-01-09 10:29:49
閆學(xué)晶風(fēng)波再升級(jí)!稱自己的錢夠花幾輩子,憑本事吃飯,愛咋咋地

閆學(xué)晶風(fēng)波再升級(jí)!稱自己的錢夠花幾輩子,憑本事吃飯,愛咋咋地

小徐講八卦
2026-01-08 10:34:47
“和平意志-2026”海上聯(lián)演將在南非舉行

“和平意志-2026”海上聯(lián)演將在南非舉行

界面新聞
2026-01-09 16:38:48
新華社痛批!多地加油站瘋狂作弊,網(wǎng)友:罰2000是在鼓勵(lì)犯罪嗎?

新華社痛批!多地加油站瘋狂作弊,網(wǎng)友:罰2000是在鼓勵(lì)犯罪嗎?

徐德文科學(xué)頻道
2026-01-08 15:05:15
隊(duì)記:這是楊瀚森本賽季打得最好的一場(chǎng) 真正做到了能被教練用上

隊(duì)記:這是楊瀚森本賽季打得最好的一場(chǎng) 真正做到了能被教練用上

羅說NBA
2026-01-09 07:36:38
600028,開盤漲停,1分鐘內(nèi)股價(jià)跳水!

600028,開盤漲停,1分鐘內(nèi)股價(jià)跳水!

數(shù)據(jù)寶
2026-01-09 10:14:03
2026-01-09 16:52:49
機(jī)器之心Pro incentive-icons
機(jī)器之心Pro
專業(yè)的人工智能媒體
12088文章數(shù) 142532關(guān)注度
往期回顧 全部

科技要聞

市場(chǎng)偏愛MiniMax:開盤漲42%,市值超700億

頭條要聞

特朗普稱若大陸改變臺(tái)灣現(xiàn)狀他將"不悅" 外交部回應(yīng)

頭條要聞

特朗普稱若大陸改變臺(tái)灣現(xiàn)狀他將"不悅" 外交部回應(yīng)

體育要聞

金元時(shí)代最后的外援,來中國(guó)8年了

娛樂要聞

檀健次戀愛風(fēng)波越演越烈 上學(xué)經(jīng)歷被扒

財(cái)經(jīng)要聞

郁亮的萬科35年:從"寶萬之爭(zhēng)"到"活下去"

汽車要聞

英偉達(dá)的野心:做一套自動(dòng)駕駛的“安卓系統(tǒng)”

態(tài)度原創(chuàng)

教育
旅游
親子
游戲
軍事航空

教育要聞

常生龍:中小學(xué)日??荚嚬芾硇抡奶魬?zhàn),在于如何避免“穿新鞋走老路”

旅游要聞

生肖免票刷屏點(diǎn)燃文旅消費(fèi)“第一把火”!各地花式促消費(fèi)背后,產(chǎn)業(yè)加速價(jià)值轉(zhuǎn)型

親子要聞

48歲媽媽懷孕7個(gè)月才發(fā)現(xiàn),孩子剛半歲肚子又大了?女兒緊急提問

曝Xbox發(fā)布會(huì)有神秘游戲!但別抱太大期望?

軍事要聞

特朗普:已開始從委石油資源中賺錢

無障礙瀏覽 進(jìn)入關(guān)懷版