整理 | 華衛(wèi)

“我們不再需要那么多人手?！弊鳛槿蚴兄底罡叩钠髽I(yè)級(jí)軟件公司之一，Salesforce 曾大舉部署 AI 并裁撤技術(shù)人員的數(shù)量，將客戶支持團(tuán)隊(duì)的人員配置從 9000 人縮減到約 5000 人。過(guò)去一年間，Salesforce 首席執(zhí)行官 Marc Benioff 一直對(duì)外宣稱(chēng)，旗下核心 AI 產(chǎn)品 Agentforce 能夠借助大語(yǔ)言模型的技術(shù)優(yōu)勢(shì)實(shí)現(xiàn)工作流程自動(dòng)化，為企業(yè)節(jié)省成本。

然而如今，他們似乎后悔了。

據(jù)外媒報(bào)道，近期，Salesforce 的高管們客戶傳遞了另一番截然不同的信號(hào)：當(dāng) Agentforce 不過(guò)度依賴(lài)大語(yǔ)言模型時(shí)，運(yùn)行效果反而會(huì)更好。

路線大反轉(zhuǎn)：用基礎(chǔ)自動(dòng)化

替代 AI 推理

“一年前，我們所有人都對(duì)大語(yǔ)言模型深信不疑?！?Salesforce 產(chǎn)品營(yíng)銷(xiāo)高級(jí)副總裁 Sanjna Parulekar 坦言，Salesforce 已在 Agentforce 中引入了基礎(chǔ)的 “確定性” 自動(dòng)化技術(shù)，以此提升軟件的可靠性。這意味著該產(chǎn)品的決策邏輯將基于預(yù)設(shè)指令，而非 AI 模型所采用的推理與解讀機(jī)制。

如今，Salesforce 官網(wǎng)明確標(biāo)注，Agentforce 能夠助力企業(yè) “消除大語(yǔ)言模型的固有隨機(jī)性”，“確保關(guān)鍵業(yè)務(wù)流程在每一次執(zhí)行時(shí)都嚴(yán)格遵循完全相同的步驟”。并且，近幾個(gè)月來(lái)，不難發(fā)現(xiàn) Salesforce 旗下基于 Agentforce 構(gòu)建的客服智能體，已在縮減對(duì)大語(yǔ)言模型的依賴(lài)程度。

比如上周，有用戶向 Salesforce 提交請(qǐng)求，希望解決與 Agentforce 相關(guān)的技術(shù)故障，而其回應(yīng)只是發(fā)送了一系列博客文章鏈接，并未進(jìn)一步詢問(wèn)具體情況，也未針對(duì)可能存在的問(wèn)題展開(kāi)溝通。更值得注意的是，鏈接列表中的第一篇博文，內(nèi)容是關(guān)于今年 6 月 Agentforce 及 Salesforce 多款其他產(chǎn)品遭遇宕機(jī)故障的說(shuō)明，顯然與當(dāng)前用戶遇到的問(wèn)題并不相關(guān)。這種回復(fù)方式，與多年來(lái)企業(yè)使用基礎(chǔ)版聊天機(jī)器人應(yīng)對(duì)客戶或網(wǎng)站訪客咨詢的模式如出一轍。

可以看出，Salesforce 的產(chǎn)品策略正在轉(zhuǎn)變：放棄生成式 AI，轉(zhuǎn)而發(fā)力其旗艦產(chǎn)品 Agentforce 中可預(yù)測(cè)性更強(qiáng)的 “確定性” 自動(dòng)化技術(shù)。這一戰(zhàn)略調(diào)整，與短短數(shù)月前 Salesforce 擁護(hù)的 “AI 優(yōu)先” 口號(hào)形成了鮮明反差。

不過(guò)，這種技術(shù)調(diào)整固然能避免聊天機(jī)器人及其他 AI 產(chǎn)品出現(xiàn)行為不可預(yù)測(cè)的問(wèn)題，但同時(shí)也存在局限。這些產(chǎn)品有時(shí)會(huì)無(wú)法理解客戶問(wèn)題背后的語(yǔ)境與細(xì)微差異，也無(wú)法像 ChatGPT 那樣，針對(duì)復(fù)雜問(wèn)題給出全面詳盡的解答。

故障頻發(fā)還費(fèi)錢(qián)，

客戶怨聲載道

在大語(yǔ)言模型的實(shí)際應(yīng)用過(guò)程中，Salesforce 遭遇了多項(xiàng)關(guān)鍵技術(shù)瓶頸。Benioff 曾聲稱(chēng)，Agentforce 的部署流程 “簡(jiǎn)單易行”。但今年，部分 Agentforce 客戶遭遇了被稱(chēng)為 “幻覺(jué)” 的技術(shù)故障。一些 AI 客戶還抱怨其運(yùn)行成本過(guò)高，Salesforce 公司的 Agentforce 客服代理每處理一次對(duì)話收費(fèi) 2 美元，此外還提供預(yù)購(gòu)積分的按量付費(fèi)模式。

根據(jù) Agentforce 首席技術(shù)官 Muralidhar Krishnaprasad 的說(shuō)法，采用更基礎(chǔ)的自動(dòng)化技術(shù)，例如通過(guò)編寫(xiě) “確定性指令”對(duì)計(jì)算機(jī)進(jìn)行編程 ，不僅能降低 Agentforce 的運(yùn)行成本，還能為客戶節(jié)省開(kāi)支。同時(shí)，他也承認(rèn)，一旦指令數(shù)量超過(guò) 8 條，大語(yǔ)言模型就會(huì)出現(xiàn)遺漏指令的問(wèn)題。這對(duì)于對(duì)精準(zhǔn)度要求極高的商業(yè)任務(wù)而言，無(wú)疑是致命缺陷。

智能家居安防企業(yè) Vivint 是 Agentforce 的客戶之一，該公司借助這一平臺(tái)為 250 萬(wàn)用戶提供客服支持，卻也親身體驗(yàn)到了大語(yǔ)言模型的可靠性短板。

Vivint 負(fù)責(zé)工程業(yè)務(wù)的高級(jí)副總裁 Ryan Gee 透露，由于自主研發(fā) AI 聊天機(jī)器人的嘗試屢屢受挫，該公司于去年開(kāi)始引入 Agentforce，為旗下 250 萬(wàn)用戶提供客戶支持服務(wù)。然而，Vivint 在使用初期就遭遇了一些問(wèn)題，Agentforce 的運(yùn)行穩(wěn)定性未能達(dá)到 100% 的預(yù)期。例如，Vivint 明確要求 Agentforce 在每次客戶服務(wù)結(jié)束后，自動(dòng)向客戶發(fā)送滿意度調(diào)查問(wèn)卷，但在部分情況下，系統(tǒng)會(huì)無(wú)故 “漏發(fā)” 問(wèn)卷。最終，Vivint 不得不與 Salesforce 合作，在 Agentforce 中設(shè)置了確定性觸發(fā)機(jī)制，才確保了調(diào)查問(wèn)卷的穩(wěn)定發(fā)送。

另一個(gè)棘手難題，是 Salesforce 高管 Phil Mui 在 10 月發(fā)布的一篇博客中提及的 AI “漂移” 現(xiàn)象：當(dāng)用戶提出無(wú)關(guān)問(wèn)題時(shí)，AI 智能體就會(huì)偏離預(yù)設(shè)的核心任務(wù)目標(biāo)。他舉例說(shuō)，一款原本用于引導(dǎo)客戶填寫(xiě)表單的 AI 聊天機(jī)器人，一旦客戶提出與表單無(wú)關(guān)的問(wèn)題，就會(huì)出現(xiàn) “分心走神” 的情況。

據(jù)悉，Salesforce 已開(kāi)發(fā)出一套名為 Agentforce Script 的系統(tǒng)。該系統(tǒng)能夠識(shí)別出哪些任務(wù)或任務(wù)環(huán)節(jié)可由不依賴(lài)大語(yǔ)言模型的智能體完成，以此降低大語(yǔ)言模型的 “不可預(yù)測(cè)性”。目前，Agentforce Script 尚處于測(cè)試階段。

工程師扎心點(diǎn)破：

問(wèn)題根源是 “不會(huì)用” AI？

值得一提的是，有部分工程師回應(yīng)稱(chēng)，問(wèn)題的根源或許在于 Salesforce 及其客戶對(duì)最新 AI 技術(shù)的駕馭能力，或者說(shuō)他們無(wú)法應(yīng)對(duì)最新 AI 技術(shù)。

這些工程師直言，換句話說(shuō)，這是會(huì)不會(huì)用的技術(shù)能力問(wèn)題。

事實(shí)上，大語(yǔ)言模型的應(yīng)用難題并非 Salesforce 一家面臨。對(duì)其他 AI 技術(shù)提供商而言，大語(yǔ)言模型同樣是難以駕馭的存在，這類(lèi)模型時(shí)常會(huì)偏離預(yù)設(shè)的應(yīng)用目標(biāo)。

部分企業(yè)發(fā)現(xiàn)，要想防止大語(yǔ)言模型在運(yùn)行過(guò)程中出現(xiàn) “失?！?行為，或是在輸出內(nèi)容時(shí)產(chǎn)生錯(cuò)誤推斷，難度極大。這對(duì)于庫(kù)存跟蹤、客戶退款申請(qǐng)?zhí)幚淼葘?duì)精準(zhǔn)度要求極高的任務(wù)而言，無(wú)疑是致命隱患。一旦操作失誤，不僅會(huì)導(dǎo)致企業(yè)做出錯(cuò)誤的商業(yè)決策，還會(huì)挫傷員工積極性、引發(fā)客戶不滿。

例如本月早些時(shí)候，服裝零售巨頭 Gap 公司推出的一款聊天機(jī)器人，因搭載了企業(yè)級(jí) AI 初創(chuàng)公司 Sierra 的技術(shù)，竟出現(xiàn)了回答不良內(nèi)容的情況。對(duì)此，Sierra 方面回應(yīng)稱(chēng)，公司已修復(fù)了 Gap 聊天機(jī)器人的配置錯(cuò)誤，并表示該事件是由 “惡意攻擊者” 蓄意操縱、濫用聊天機(jī)器人所致。

股價(jià)大跌，CEO 也后悔了

對(duì)于曾豪賭 AI 轉(zhuǎn)型的 Benioff 而言，此次收縮大語(yǔ)言模型應(yīng)用規(guī)模堪稱(chēng)一場(chǎng)充滿諷刺意味的反轉(zhuǎn)。Benioff 近期透露，他在起草公司年度戰(zhàn)略文件時(shí)，已將數(shù)據(jù)基礎(chǔ)架構(gòu)而非 AI 模型列為首要任務(wù)，同時(shí)明確指出，缺乏可靠數(shù)據(jù)支撐的 AI 模型極易產(chǎn)生 “幻覺(jué)”，這是企業(yè)必須警惕的風(fēng)險(xiǎn)。

Benioff 甚至暗示，公司或許會(huì)考慮更名為 “Agentforce”。他表示：“如果真的更名，我絲毫不會(huì)感到意外。” 這一想法源于市場(chǎng)調(diào)研，客戶對(duì)云計(jì)算相關(guān)話題的興趣已大不如前。盡管 Agentforce 預(yù)計(jì)年?duì)I收將突破 5 億美元，但 Salesforce 的股價(jià)較 2024 年 12 月的峰值已下跌約 34%。

就此事，Salesforce 發(fā)言人回應(yīng)稱(chēng)，“大語(yǔ)言模型固然強(qiáng)大，但它們無(wú)法獨(dú)立支撐企業(yè)運(yùn)營(yíng)。企業(yè)需要將 AI 與精準(zhǔn)數(shù)據(jù)、業(yè)務(wù)邏輯及治理體系深度融合，將大語(yǔ)言模型所提供的原始智能轉(zhuǎn)化為可信、可預(yù)測(cè)的業(yè)務(wù)成果。這正是我們打造 Agentforce 的初衷：構(gòu)建一套值得信賴(lài)的 AI 基礎(chǔ)設(shè)施，真正驅(qū)動(dòng)業(yè)務(wù)價(jià)值增長(zhǎng)。我們通過(guò)嚴(yán)格的管控框架與確定性技術(shù)體系為 AI 技術(shù)保駕護(hù)航，同時(shí)優(yōu)化大語(yǔ)言模型性能，確保其滿足企業(yè)級(jí)應(yīng)用的可靠性要求?？尚拧⒖煽?、安全，這才是 AI 技術(shù)應(yīng)有的模樣?！?/p>

還有一位發(fā)言人否認(rèn)了該公司在客服智能體中縮減大語(yǔ)言模型應(yīng)用的說(shuō)法。他表示，今年公司針對(duì)該客服助手"優(yōu)化了主題構(gòu)建方式、加強(qiáng)了安全護(hù)欄、提升了信息檢索質(zhì)量，并調(diào)整了回復(fù)機(jī)制，使回應(yīng)更具針對(duì)性、更貼合上下文，且更符合客戶的實(shí)際需求”。他還補(bǔ)充道：“我們還顯著改善了系統(tǒng)的可觀測(cè)性與反饋循環(huán)機(jī)制，這讓我們能快速識(shí)別客服回復(fù)過(guò)于寬泛、偏離主題或表達(dá)不清的情況，并迅速進(jìn)行迭代改進(jìn)。"

他強(qiáng)調(diào)，“我們對(duì)于在客服場(chǎng)景中何時(shí)、以何種方式使用大語(yǔ)言模型，已變得更為審慎和明確 ?！痹摪l(fā)言人還稱(chēng)，目前客服智能體“解決的客戶問(wèn)題數(shù)量已創(chuàng)下歷史新高”，預(yù)計(jì)在截至 1 月下旬的本財(cái)年內(nèi)，成功處理的對(duì)話量將提升 90%。

無(wú)論如何，此次 Salesforce 此次在大語(yǔ)言模型應(yīng)用上的 “戰(zhàn)略性回撤”，或?qū)?duì)數(shù)千家正在使用該技術(shù)的企業(yè)產(chǎn)生連鎖影響。眼下，這家軟件公司正艱難地在 AI 創(chuàng)新與商業(yè)落地實(shí)踐的鴻溝之間摸索前行。

不少網(wǎng)友紛紛評(píng)價(jià)，“CEO 應(yīng)該當(dāng)場(chǎng)被解雇，且不支付給他任何遣散費(fèi)?！?/p>

https://www.theinformation.com/articles/salesforce-executives-say-trust-generative-ai-declined

https://www.theinformation.com/articles/story-salesforces-declining-trust-llms-hit-nerve

聲明：本文為 AI 前線整理，不代表平臺(tái)觀點(diǎn)，未經(jīng)許可禁止轉(zhuǎn)載。

技術(shù)人的年度儀式感！ 年度盤(pán)點(diǎn)與趨勢(shì)洞察 啟動(dòng)！

《2025 年度盤(pán)點(diǎn)與趨勢(shì)洞察》由 InfoQ 技術(shù)編輯組策劃。覆蓋大模型、Agent、具身智能、AI Native 開(kāi)發(fā)范式、AI 工具鏈與開(kāi)發(fā)、AI+ 傳統(tǒng)行業(yè)等方向，通過(guò)長(zhǎng)期跟蹤、與業(yè)內(nèi)專(zhuān)家深度訪談等方式，對(duì)重點(diǎn)領(lǐng)域進(jìn)行關(guān)鍵技術(shù)進(jìn)展、核心事件和產(chǎn)業(yè)趨勢(shì)的洞察盤(pán)點(diǎn)。

力求以體系化視角幫助讀者理解年度技術(shù)演化的底層邏輯、創(chuàng)新方向與落地價(jià)值，并為新一年決策提供參考。內(nèi)容將在 InfoQ 媒體矩陣陸續(xù)放出，歡迎大家持續(xù)關(guān)注。

今日薦文

你也「在看」嗎？