盡管技術(shù)飛速進(jìn)步，許多團(tuán)隊(duì)在將AI融入實(shí)際業(yè)務(wù)時(shí)，卻陷入迭代混亂、投入巨大而收效甚微的困境。

Aishwarya Naresh Reganti與Kiriti Badam對(duì)此有著截然不同的清醒洞察。

Kiriti在OpenAI領(lǐng)導(dǎo)Kodex團(tuán)隊(duì)，擁有在谷歌構(gòu)建十年AI基礎(chǔ)設(shè)施的深厚背景；Ash則是Alexa與微軟的早期AI研究員，發(fā)表了超過35篇論文。他們共同主導(dǎo)了從亞馬遜、Databricks到眾多初創(chuàng)企業(yè)在內(nèi)的超過50個(gè)AI產(chǎn)品部署，深諳其中溝壑。

在本次深度對(duì)談中，他們直指核心：?jiǎn)栴}往往不在于模型能力，而在于方法謬誤。

行業(yè)癡迷于追逐“全自動(dòng)代理”的炫目未來，卻忽略了AI與非AI產(chǎn)品的根本性差異——非確定性。這導(dǎo)致團(tuán)隊(duì)常常從錯(cuò)誤的地方開始，在復(fù)雜性的泥潭中掙扎，最終迷失了本該解決的真實(shí)問題。

他們提出一套被反復(fù)驗(yàn)證的務(wù)實(shí)框架：放棄對(duì)“終極智能”的一步到位幻想，轉(zhuǎn)向一種“漸進(jìn)式自主”的產(chǎn)品哲學(xué)。

即從高控制、低風(fēng)險(xiǎn)的場(chǎng)景起步，構(gòu)建持續(xù)學(xué)習(xí)和校準(zhǔn)的“飛輪”，隨著信任的積累逐步移交自主權(quán)。這不僅關(guān)乎技術(shù)路徑，更涉及領(lǐng)導(dǎo)力重塑、組織文化轉(zhuǎn)型以及對(duì)工作流程的深刻解構(gòu)。

以下便是兩位實(shí)戰(zhàn)派專家?guī)淼耐暾?jīng)驗(yàn)?zāi)Y(jié)，enjoy~

擁抱非確定性與控制權(quán)的權(quán)衡

主持人

：我們一起寫了一篇客座文章。他們有一個(gè)非常關(guān)鍵的洞見，就是

Aishwarya Naresh Reganti：大多數(shù)人往往忽視這種非確定性。你不知道用戶會(huì)如何使用你的產(chǎn)品，也不知道大型語言模型會(huì)如何回應(yīng)。第二個(gè)區(qū)別是能動(dòng)控制權(quán)的權(quán)衡。每次你把決策能力交給智能系統(tǒng)時(shí)，你其實(shí)是在放棄你那邊的某種控制權(quán)。

Kiriti Badam：因此，我們建議逐步構(gòu)建。當(dāng)你從小處開始時(shí)，它迫使你思考你要解決的問題。在AI的這些進(jìn)步中，一個(gè)簡(jiǎn)單而滑溜的路就是不斷思考解決方案的復(fù)雜性，而忘記你正在解決的問題。

Aishwarya Naresh Reganti：這并不是說你是第一家在競(jìng)爭(zhēng)對(duì)手中擁有經(jīng)紀(jì)人的公司。關(guān)鍵是你是否已經(jīng)建立了正確的飛輪，以便隨著時(shí)間推移不斷改進(jìn)。

主持人

：你認(rèn)為當(dāng)前公司在開發(fā)AI產(chǎn)品時(shí)，主要遇到了哪些問題？進(jìn)展如何？

Aishwarya Naresh Reganti：我認(rèn)為2025年和2024年有很大不同。第一，懷疑情緒明顯減少了。去年很多領(lǐng)導(dǎo)者認(rèn)為這可能只是又一波加密貨幣浪潮，持懷疑態(tài)度。當(dāng)時(shí)的很多用例更多是對(duì)你數(shù)據(jù)的閑聊，就自稱是AI產(chǎn)品。

今年，公司們開始重新思考用戶體驗(yàn)和工作流程，真正理解到必須拆解和重構(gòu)流程，才能打造成功的AI產(chǎn)品。這是精彩之處。

糟糕的是執(zhí)行依然很混亂。這就像三歲馬場(chǎng)，沒有戰(zhàn)術(shù)手冊(cè)，沒有教科書，你真的需要邊做邊摸索。而且AI生命周期，無論是部署前還是部署后，都與傳統(tǒng)軟件生命周期有很大不同。

傳統(tǒng)角色之間的舊合同和交接，比如產(chǎn)品經(jīng)理、工程師和數(shù)據(jù)人員，現(xiàn)在已經(jīng)被打破。人們正在適應(yīng)新的合作方式，擁有相同的反饋循環(huán)。以前，項(xiàng)目經(jīng)理、工程師都有自己的優(yōu)化反饋循環(huán)。

現(xiàn)在你們可能需要坐在同一個(gè)房間里，一起看“試劑痕跡”，或者說數(shù)據(jù)反饋，共同決定產(chǎn)品應(yīng)該如何表現(xiàn)。這是一種更緊密的協(xié)作形式，公司們還在摸索中，這也是我今年在咨詢業(yè)務(wù)中看到的情況。

我要強(qiáng)調(diào)，構(gòu)建AI系統(tǒng)和軟件系統(tǒng)有相似之處，但也有一些東西從根本上改變了開發(fā)方式。其中一個(gè)常被忽視的就是非確定性。你使用的是一個(gè)非確定性的API，而不是傳統(tǒng)軟件。

在傳統(tǒng)軟件中，比如Booking.com，你有一個(gè)完善的決策引擎。你想在舊金山預(yù)訂兩晚，產(chǎn)品設(shè)計(jì)會(huì)將你的意圖轉(zhuǎn)化為具體動(dòng)作，你點(diǎn)擊按鈕、填寫表單，最終實(shí)現(xiàn)意圖。

但在AI產(chǎn)品中，這一層被一個(gè)流動(dòng)的界面取代，主要是自然語言。這意味著用戶可以用無數(shù)種方式表達(dá)意圖。輸入端是不可預(yù)測(cè)的。輸出端，你面對(duì)的是一個(gè)非確定性的概率API。大型語言模型對(duì)提示非常敏感，且基本是黑箱。你不知道輸出會(huì)是什么樣子。

所以，你既不知道用戶會(huì)如何使用產(chǎn)品，也不知道模型會(huì)如何響應(yīng)。你在處理輸入、輸出和過程，對(duì)這三者都不完全了解。你必須試圖預(yù)判行為并為此做準(zhǔn)備。

這就引出了第二個(gè)區(qū)別：代理控制權(quán)的權(quán)衡。

很多人癡迷于構(gòu)建能自主完成任務(wù)的系統(tǒng)。但每次你把決策能力交給智能系統(tǒng)時(shí)，你其實(shí)是在放棄某種控制權(quán)。你必須確保你的代理已經(jīng)贏得了信任，足夠可靠。這就是權(quán)衡所在：給AI更多自主權(quán)，你就會(huì)失去一些控制權(quán)，因此必須確保系統(tǒng)隨著時(shí)間積累了足夠的信任。

主持人

：傳統(tǒng)軟件追求確定性，而AI具有非確定性。其核心挑戰(zhàn)在于如何權(quán)衡自動(dòng)化與人類控制，這正深刻改變產(chǎn)品設(shè)計(jì)的根本邏輯。

Kiriti Badam：這是對(duì)你提供的文本進(jìn)行的精簡(jiǎn)和潤(rùn)色版本。我保留了核心的“優(yōu)勝美地徒步”類比、關(guān)于“漸進(jìn)式自主”的邏輯，以及“好事與壞事”的辯證觀點(diǎn)，主要?jiǎng)h減了口語中的重復(fù)、自我修正和冗余的連接詞，使表達(dá)更緊湊有力。

是的，這絕對(duì)是你剛開始建造時(shí)，腦海中必須明確的關(guān)鍵點(diǎn)之一。

比如，想想你的目標(biāo)是徒步優(yōu)勝美地的半圓頂峰。你不會(huì)每天都去徒步，而是從小部分開始訓(xùn)練，然后慢慢進(jìn)步，最終達(dá)到終點(diǎn)。我覺得這和打造AI產(chǎn)品非常相似。因?yàn)槟阋婚_始在公司里并沒有所有的工具和背景，不能期望它立刻在最高層面工作甚至自我調(diào)整。

你需要有意識(shí)地從影響最小、人為控制最多的地方開始。這樣你才能很好地掌握當(dāng)前的能力邊界和可實(shí)現(xiàn)的范圍，然后再慢慢轉(zhuǎn)向更具自主性、控制更少的部分。這能給你信心：“這就是我面臨的具體問題，AI能夠解決到這個(gè)程度?！?然后你再思考需要引入哪些背景、添加哪些工具來提升體驗(yàn)。

所以我覺得這既是好事也是壞事。

好處在于，你不必一開始就面對(duì)外部那些復(fù)雜的AI代理能力而感到自己做不到。每個(gè)人都是從非常極簡(jiǎn)的結(jié)構(gòu)開始，然后不斷演變。壞處，或者說挑戰(zhàn)在于，當(dāng)你試圖將這種“一鍵代理”融入公司時(shí)，你可能會(huì)被這種復(fù)雜性壓垮。但實(shí)際上，你可以慢慢“畢業(yè)”。

這非常重要，我們看到這種模式一再重復(fù)。

主持人：請(qǐng)以具體示例說明，如何從基礎(chǔ)的行動(dòng)與控制模塊開始，逐步構(gòu)建更復(fù)雜的AI代理或產(chǎn)品。

Kiriti Badam：例如，AI代理一個(gè)非常重要且普遍的應(yīng)用是客戶支持。想象一下，你是一家客戶支持工單量很大的公司——其實(shí)不用想象，OpenAI在推出Image、GPT-5等成功產(chǎn)品時(shí)，支持量就激增。你會(huì)發(fā)現(xiàn)客戶帶來的問題類型各不相同。

所以，這并不是簡(jiǎn)單地把所有幫助中心文章都塞進(jìn)AI代理。你需要大致明白自己能構(gòu)建什么。最初的第一步是，比如你有人類支持代理，AI會(huì)先給出建議：“我認(rèn)為這是正確的做法。”

然后你會(huì)得到人類反饋：這是個(gè)好建議，或者這是個(gè)壞建議。接著你可以回頭分析，找出AI的缺點(diǎn)或盲點(diǎn)，并思考如何解決。一旦掌握了這些，你就可以提高自主權(quán)，不再需要向人類建議，而是直接把答案展示給客戶。

之后，我們可以進(jìn)一步增加復(fù)雜度。比如，之前只是基于幫助中心文章回答問題，現(xiàn)在可以添加新功能：我可以直接給客戶退款，也可以向工程團(tuán)隊(duì)提出功能請(qǐng)求。如果從第一天就做這些，控制復(fù)雜性會(huì)非常困難。所以我們建議逐步積累，再逐步增加功能。

從“高控制、低自主”起步的漸進(jìn)式自主

主持人

：核心是動(dòng)態(tài)授權(quán)模型，從嚴(yán)控起步，隨著AI可靠性得到驗(yàn)證，逐步擴(kuò)大其自主權(quán)。這是一個(gè)基于信任增長(zhǎng)的漸進(jìn)過程。

Aishwarya Naresh Reganti：我認(rèn)為更高級(jí)的概念在于AI系統(tǒng)的行為校準(zhǔn)。事先預(yù)測(cè)系統(tǒng)表現(xiàn)幾乎不可能，那該怎么辦？關(guān)鍵是不能破壞客戶或最終用戶體驗(yàn)。保持原有流程，但移除人類的控制權(quán)，而且并沒有唯一正確的做法。

你可以自主決定如何限制權(quán)限。另一個(gè)限制自主性的例子是預(yù)授權(quán)用例。保險(xiǎn)預(yù)授權(quán)非常適合AI，因?yàn)榕R床醫(yī)生花費(fèi)大量時(shí)間預(yù)先批準(zhǔn)血液檢查、核磁共振等。有些案例比較容易實(shí)現(xiàn)，比如MRI和阻滯檢測(cè)——一旦掌握患者信息，AI就能處理批準(zhǔn)流程；而像侵入性手術(shù)等風(fēng)險(xiǎn)較高的操作，則不適合完全交由AI。

因此，你可以大致判斷哪些用例需要人工審核或循環(huán)介入，哪些適合AI處理。在整個(gè)過程中，還要記錄人類的操作，以此構(gòu)建一個(gè)改進(jìn)系統(tǒng)的飛輪。這樣既不影響用戶體驗(yàn)，也不削弱信任，同時(shí)通過記錄人類原本的決策來持續(xù)優(yōu)化系統(tǒng)。

主持人

：你建議的進(jìn)階策略是：從高控制、低主動(dòng)的版本開始，逐步增加自動(dòng)化。例如，編碼助手 V1 做內(nèi)聯(lián)補(bǔ)全，V2 生成可審核的模塊，V3 自動(dòng)提交 PR。市場(chǎng)助理 V1 起草文案，后續(xù)版本逐步自動(dòng)化：V2 構(gòu)建并運(yùn)行多步驟戰(zhàn)役，V3 通過 A/B 測(cè)試跨渠道自動(dòng)優(yōu)化廣告活動(dòng)。

AI 產(chǎn)品不同，它們是非確定性的，用戶體驗(yàn)也是非確定性的。人們會(huì)看到不同的內(nèi)容、輸出和聊天對(duì)話，甚至界面設(shè)計(jì)也可能不同。而且輸出顯然是非終結(jié)性的，這既是問題也是挑戰(zhàn)。

Aishwarya Naresh Reganti：我們都比跟著一堆按鈕走更自在，所以使用 AI 產(chǎn)品的門檻要低得多，因?yàn)槟憧梢韵窈腿祟愐粯幼匀唤涣?。但這也是問題所在：我們有很多交流方式，你要確保意圖被正確傳達(dá)，并觸發(fā)正確的行動(dòng)。因?yàn)榇蠖鄶?shù)系統(tǒng)是確定性的，你希望得到確定性的結(jié)果，但非確定性技術(shù)就比較復(fù)雜。

主持人

：設(shè)計(jì)時(shí)需權(quán)衡自主與控制。人們常急于追求理想模型，如V3，卻因?qū)崿F(xiàn)困難而受挫，甚至輕易放棄。

Kiriti Badam：沒錯(cuò)。在達(dá)到V3之前，你需要對(duì)很多事情有信心。你很容易不知所措，代理在百種方式上出錯(cuò)，你不可能全部統(tǒng)計(jì)并修正。即使學(xué)會(huì)了評(píng)估流程，如果起點(diǎn)錯(cuò)誤，也很難糾正。從小處、高控制、低能動(dòng)性開始，迫使你思考到底要解決什么問題——我們叫“問題優(yōu)先”。

顯而易見，卻常被忽視：AI進(jìn)步讓人一頭扎進(jìn)解決方案的復(fù)雜性，而忘記真正要解決的問題。

Aishwarya Naresh Reganti：所以大多數(shù)時(shí)候，如果你對(duì)問題本身著迷，并且非常了解自己的工作流程，你會(huì)知道如何隨著時(shí)間推移改進(jìn)你的客服，而不是一開始就隨便打個(gè)客服，假設(shè)它能成功。我甚至?xí)f，如果有人賣給你一鍵代理，那純粹是營(yíng)銷。你不想為這種想法買單。

我更愿意選擇那種“我們會(huì)為你建造這條流水線”的公司，他們會(huì)隨著時(shí)間學(xué)習(xí)并構(gòu)建一個(gè)改進(jìn)的飛輪，而不是一個(gè)開箱即用的產(chǎn)品。要替換任何關(guān)鍵工作流程或構(gòu)建能夠帶來顯著投資回報(bào)的系統(tǒng)，即使你擁有最好的數(shù)據(jù)層和基礎(chǔ)設(shè)施層，通常也需要四到六個(gè)月的工作時(shí)間。

超越技術(shù)的領(lǐng)導(dǎo)力、文化與流程重構(gòu)

主持人

：你在成功打造AI產(chǎn)品的公司中還看到哪些模式和工作方式？人們最常陷入的陷阱是什么？

Aishwarya Naresh Reganti：我把成功看作一個(gè)三維三角，但不總是技術(shù)性的。每一個(gè)技術(shù)問題首先都是人的問題。我們合作過的公司，成功通常來自三點(diǎn)：優(yōu)秀的領(lǐng)導(dǎo)者、良好的文化和技術(shù)能力。

在領(lǐng)導(dǎo)者方面，很多公司的領(lǐng)導(dǎo)者在過去10到15年里建立了直覺，并因此備受推崇。但有了AI，這些直覺必須被重新學(xué)習(xí)，領(lǐng)導(dǎo)者也必須保持脆弱性。

我曾與Rackspace的首席執(zhí)行官Gagan共事。他每天早上4點(diǎn)到6點(diǎn)都會(huì)專門用來趕上AI的進(jìn)度，不安排會(huì)議，只收聽最新的AI播客或信息。他甚至?xí)谥苣┡e辦編程聚會(huì)。我認(rèn)為領(lǐng)導(dǎo)者必須回歸親力親為，不是為了執(zhí)行任務(wù)，而是為了重建直覺。

你必須接受自己的直覺可能不對(duì)，甚至可能是房間里最笨的人，并愿意向每個(gè)人學(xué)習(xí)。這是那些打造成功產(chǎn)品的公司的顯著區(qū)別，因?yàn)檫@引入了自上而下的策略。

如果一群工程師不信任技術(shù)或?qū)ζ淦谕灰恢拢憔秃茈y爭(zhēng)取到領(lǐng)導(dǎo)者的支持。很多同事說，領(lǐng)導(dǎo)者根本不了解AI能解決問題的程度，或者以為隨便寫點(diǎn)代碼就能上環(huán)境。你真的需要了解AI今天的能力范圍，才能指導(dǎo)公司內(nèi)部的決策。

第二個(gè)是文化。我合作的很多企業(yè)并不是AI原生的，他們引入AI往往是因?yàn)楦?jìng)爭(zhēng)對(duì)手在做。雖然很多用例已經(jīng)成熟，但過程中常伴隨FOMO和對(duì)被取代的恐懼。

領(lǐng)域?qū)＜以跇?gòu)建有效AI產(chǎn)品中至關(guān)重要，因?yàn)槟阈枰稍兯麄儊矶xAI的理想行為。但我也遇到過很多領(lǐng)域?qū)＜也辉附涣?，因?yàn)樗麄冇X得工作受到威脅。這一切還是源于領(lǐng)導(dǎo)者。

你需要建立一種賦權(quán)文化，讓員工明白AI是用來融入工作流程、讓生產(chǎn)力提升十倍的工具，而不是取代他們的威脅。你希望整個(gè)組織團(tuán)結(jié)一致，讓AI為你工作，而不是讓員工試圖守住自己的飯碗。

第三個(gè)是技術(shù)部分。成功的人非常執(zhí)著于理解自己的工作流程，并明確哪些部分適合AI，哪些需要人工。

自動(dòng)化通常不是單靠AI代理就能解決的，往往需要機(jī)器學(xué)習(xí)模型和確定性代碼配合。你需要專注于理解工作流程，才能為問題選擇合適的工具，而不是執(zhí)著于技術(shù)本身。另一個(gè)模式是理解使用非確定性API的理念，這意味著AI開發(fā)生命周期結(jié)構(gòu)不同，迭代速度很快。關(guān)鍵是能否快速迭代并提供足夠的數(shù)據(jù)來估算行為，從而制造出飛輪。

截至目前，關(guān)鍵不在于成為第一家擁有代理的公司，而在于是否組裝好了合適的飛輪以便持續(xù)改進(jìn)。如果有人說“我們有一鍵代理，兩三天就能部署并顯示顯著提升”，我會(huì)持懷疑態(tài)度。這不是因?yàn)槟Ｐ筒淮嬖冢且驗(yàn)槠髽I(yè)數(shù)據(jù)和基礎(chǔ)設(shè)施通常非?；靵y，存在大量技術(shù)債務(wù)。

主持人

：在我們進(jìn)入這個(gè)框架的其他話題之前，還有什么你認(rèn)為大家需要特別了解的嗎？

Aishwarya Naresh Reganti：我們最常被問到的問題是：如何判斷是否需要進(jìn)入下一階段，或者當(dāng)前階段是否已校準(zhǔn)足夠？其實(shí)沒有嚴(yán)格的規(guī)則書，關(guān)鍵是盡量減少意外。

比如，如果你每隔一兩天校準(zhǔn)一次，卻發(fā)現(xiàn)沒有新的數(shù)據(jù)分布模式，用戶的使用方式也趨于一致，你獲得的信息量變得非常少，這時(shí)就知道可以進(jìn)入下一階段了。判斷標(biāo)準(zhǔn)很簡(jiǎn)單：當(dāng)你不再收到新信息時(shí)，就是準(zhǔn)備好了。

但也要理解，有時(shí)會(huì)有事件徹底破壞系統(tǒng)校準(zhǔn)。例如，GPT-4o被棄用，大多數(shù)公司必須切換到GPT-5，而兩者特性差異巨大，這就意味著你的校準(zhǔn)失效了，必須重做。

此外，用戶行為也會(huì)隨時(shí)間演變。即使是消費(fèi)品，你現(xiàn)在與ChatGPT交流的方式也不同于兩年前，因?yàn)槟阒浪哪芰μ嵘?。?dāng)系統(tǒng)能解決一個(gè)任務(wù)時(shí)，人們會(huì)興奮，并想在其他任務(wù)上嘗試。

我們?cè)鵀楹吮Ｈ碎_發(fā)過一個(gè)系統(tǒng)，幫助他們從30到40頁的協(xié)議文件中篩選政策信息以批準(zhǔn)貸款。起初的三四個(gè)月，大家印象深刻，甚至報(bào)告了工作時(shí)間的變化。但隨后我們發(fā)現(xiàn)，他們因興奮而開始提出未預(yù)料到的深刻問題。例如，他們會(huì)直接上傳整個(gè)申請(qǐng)文件，問：“對(duì)于這種情況，之前的核保人是怎么做的？”

對(duì)用戶來說，這似乎是自然延伸，但對(duì)產(chǎn)品架構(gòu)卻是巨大挑戰(zhàn)。現(xiàn)在系統(tǒng)不僅要知道政策X、Y、Z，還需要理解貸款背后的含義，如收入范圍、地理區(qū)域等，并分析歷史文件來給出答案。

所以，看似自然的用戶需求，對(duì)開發(fā)者可能很難實(shí)現(xiàn)。當(dāng)你發(fā)現(xiàn)用戶行為發(fā)生這種演變時(shí)，就知道需要回頭重新校準(zhǔn)了。

主持人

：從產(chǎn)品角度來看，你認(rèn)為明年的AI會(huì)是什么樣子？請(qǐng)給我們一個(gè)你認(rèn)為未來會(huì)怎樣發(fā)展的愿景，比如到2026年底

Kiriti Badam：我認(rèn)為背景Agent潛力巨大。AI目前難以創(chuàng)造價(jià)值，主要是因?yàn)槿狈ι舷挛睦斫猓@源于它未連接到工作發(fā)生的實(shí)際場(chǎng)景。通過賦予代理更多背景信息，它能理解你的優(yōu)化指標(biāo)和活動(dòng)意圖，從而主動(dòng)提供價(jià)值。

例如，我們已通過ChatGPT實(shí)現(xiàn)了每日更新，提示你可能關(guān)心的事項(xiàng)，激發(fā)新的思考。擴(kuò)展到復(fù)雜任務(wù)，如編碼時(shí)，它甚至能自動(dòng)修復(fù)工單并生成補(bǔ)丁供你在一天開始時(shí)審閱。這將是2026年產(chǎn)品發(fā)展的強(qiáng)勁方向。

Aishwarya Naresh Reganti：我全力支持2026年的多模態(tài)體驗(yàn)。2025年我們?cè)谏膳c理解上均有進(jìn)步，但人類本質(zhì)上是多模態(tài)生物，交流中包含大量非語言信號(hào)，如點(diǎn)頭或表情，這些維度尚未被充分探索。

更好的多模態(tài)體驗(yàn)將帶來更接近人類的對(duì)話豐富度。此外，多模態(tài)理解的提升將能處理大量手寫文檔和混亂PDF等現(xiàn)有模型難以應(yīng)付的數(shù)據(jù)，釋放巨大的信息價(jià)值。

PS：如果你對(duì)AI大模型領(lǐng)域有獨(dú)特的看法，歡迎掃碼加入我們的大模型交流群。