Peter Steinberger 是一位來自奧地利的資深程序員，被譽為“Moltbot 之父”。他在 2021 年以約 1 億歐元的價格出售了自己經(jīng)營 13 年的 PDF 工具公司 PSPDFKit，實現(xiàn)了財富自由。退休三年后感到“空虛”的他，在 2025 年重新開始寫代碼，僅用一個小時就搭建出了 AI 代理項目 Moltbot（現(xiàn)已被 OpenAI 收購）的原型，該開源項目迅速火爆全球，GitHub 星標一度逼近 20 萬。

此次他回到老家奧地利，用奧地利口音的母語德語接受了奧地利國家廣播電視臺（ORF）最權(quán)威的新聞節(jié)目《時代畫報》（Zeit im Bild，簡稱 ZIB）的專訪。訪談中，他深入探討 AI 代理如何真正替人做事，分享對“80% 應(yīng)用將消失”等行業(yè)變革的預(yù)判，并講述自己在拒絕了 Meta 等公司的數(shù)十億收購要約后，最終選擇加入 OpenAI 的心路歷程。

圖 | Peter Steinberger（來源：https://www.youtube.com/watch）

以下為訪談全文，DeepTech 做了部分不影響原意的修改：

主持人：你能不能跟我們再解釋一下，你的 Agent 能做到哪些我用 ChatGPT 做不了的事情？

Peter：我點進去 ChatGPT，雖然上面有文字，但它沒有反應(yīng)。但通過我的 Agent，你可以讓它寫點東西進去，而且它確實能替我處理一些實際事務(wù)。它可以讀取文件、發(fā)送郵件，還能在瀏覽器里點擊操作。其實你可以把它想象成一個“實體”，代替我坐在電腦前，動動鍵盤鼠標，幾乎能做我能做的所有事。

主持人：但它現(xiàn)在到底有多好用？比如，我能不能讓它幫我訂一次復(fù)活節(jié)的巴黎之旅？從最便宜的航班開始，到找一家我喜歡又負擔(dān)得起的酒店，再到預(yù)訂盧浮宮和歌劇院的在線門票，最后我真的能拿到票，而且所有費用都結(jié)清嗎？還是說它只會像 ChatGPT 那樣，給我一堆建議而已？它真的能從頭到尾、一步不差地替我辦妥嗎？

Peter：從 A 到 Z，你完全可以交給它從頭到尾完成。當(dāng)然，你得把信用卡信息提供給這個程序，所以我建議你辦一張專用的信用卡，這樣就不會被一次扣光所有錢。但從技術(shù)上講，這現(xiàn)在已經(jīng)可以實現(xiàn)了。

主持人：那么，你的程序能寫出足以被大學(xué)接受的博士論文嗎？

Peter：我希望不能，首先是因為人們在 AI 領(lǐng)域已經(jīng)取得了很大進展，但目前的情況還遠未達到那個程度。不是簡單輸入一個提示就能搞定，背后需要大量的工作，往往還需要真正的研究，這對它來說還是太復(fù)雜了。它確實有這個趨勢，但這也不是它的強項。不過，如果是生成高質(zhì)量文本的話，它確實能提供很出色的內(nèi)容。它非常靈活，但更偏向于幫助人們處理生活中的瑣事。

主持人：你剛才提到有些情況它還做不到，那你會如何劃定界限？你的程序還能做什么，哪些事情必須由人自己來完成？

Peter：比如，我非常擅長用 Agent 編程，這是什么意思呢？簡單來說，就是我告訴它我想要什么、想要什么功能，然后它就會用微軟的工具來編寫代碼，之后我來測試，甚至它還會幫我測試，這樣我就又把軟件改進了一些。

主持人：所以不是你自己在編程，而是讓 Agent 替你編程？但尤其是涉及到像寫報紙文章這樣的事情時，我覺得人的參與還是很重要的。

Peter：人的因素確實很重要。我經(jīng)常看到有人寫了東西，然后讓工具幫忙修改潤色，但總覺得少了點什么，好像失去了某種個人色彩。所以我個人會劃一條界限，雖然這條界限是主觀的，但有些地方我就是覺得不太對勁。

主持人：如果誰都能隨便用它，那它確實可以用在各種地方，但自然也就不再受控了?，F(xiàn)在很多 AI 應(yīng)用比如 ChatGPT，雖然人們用得很多，但依然有低級錯誤。如果一個 AI Agent 還自己做決定，那做出錯誤決策的風(fēng)險不是很高嗎？責(zé)任由誰來負？比如我的 Agent 訂了一個價格離譜的酒店，還把錢付了，而這筆錢我根本負擔(dān)不起?？偛荒艿綍r候說一句“你好，根據(jù)奧地利的規(guī)定，它還在學(xué)習(xí)階段”就完事了吧？

Peter：說到底，沒有我的指令它什么也不會做。如果我不讓 Agent 訂酒店，它就不會去訂。我現(xiàn)在希望的其實是它能看著我操作，然后確認這樣沒問題。比如訂熱門酒店這種操作，我希望能先核對一下。如果是我讓它運行的，那它做什么都由我負責(zé)。就算它用了我的信用卡，那也是我的卡。目前，要使用它確實還需要一些基礎(chǔ)知識。

主持人：不過你們在博客上寫，下一個目標是做一個連你媽媽都能用的 Agent，什么時候能實現(xiàn)？

Peter：所以我不能一個人做這件事，我需要一個團隊。

主持人：之前還說沒法（找到合適的人）合作，現(xiàn)在能和（OpenAI 的）懂行的人一起工作了，這不是很令人興奮嗎？

Peter：當(dāng)然，還有一些問題需要解決。這些問題還需要進一步研究，尤其是在提示工程方面。德國在這方面已經(jīng)做了很多工作，但我一個人做不來，這需要一整支團隊。需要很多人來研究這個領(lǐng)域。其實我已經(jīng)不再親自做這些底層設(shè)定了，因為我不想讓大家還得在終端里點來點去，這并不難，但我更希望人們能直接理解這些概念。需要很多人來研究這個領(lǐng)域。其實我已經(jīng)不再親自做這些底層設(shè)定了，因為我不想讓大家還得在終端里點來點去，這并不難，但我更希望人們能直接理解這些概念。

主持人：現(xiàn)在批評者說，這類 Agent 的核心問題是數(shù)據(jù)保護，因為要讓 Agent 真正替我干活，我就得把我的數(shù)據(jù)、密碼、信用卡信息和聯(lián)系人全都交給它。它當(dāng)然還需要聯(lián)網(wǎng)，否則沒法幫我預(yù)訂旅行。從數(shù)據(jù)保護的角度來看，你們做的這個東西，對批評者來說簡直就是一場噩夢。

Peter：但換個角度，它其實可以完全運行在我的電腦上。而且如果我希望的話，模型也可以運行在我的電腦上，整個程序完全可以本地運行。當(dāng)然，如果完全本地化，它也就沒法替我做什么事了。如果它使用瀏覽器操作，那我面臨的風(fēng)險就和我自己在網(wǎng)上操作時面臨的風(fēng)險完全一樣。大多數(shù)美國公司開發(fā)的解決方案都運行在他們的服務(wù)器上，也就是說如果我想讓 Agent 讀取我的郵件，我就得把我的郵件交給那些公司。而在我的解決方案中，一切都保留在本地。如果需要處理郵件，可能只有部分信息會上傳到云端，但不是全部。所以，在所有現(xiàn)有方案中，我的方案是數(shù)據(jù)保護問題最少的。而且，只要我愿意，我甚至可以讓它完全離線運行。

主持人：剛才你提到了一個尚未解決的問題，行話叫“提示注入”，也就是你的 Agent 在處理郵件時，我給它發(fā)一封郵件，讓它去做某件事，而你對此一無所知，結(jié)果它造成了真正的損害。這個問題沒法解決嗎？比如我發(fā)一封郵件說“刪掉所有數(shù)據(jù)”，它就可能真的照做？

Peter：也不是說完全沒辦法。比如“刪掉所有數(shù)據(jù)”這種指令，我希望它能更智能一些。其實幾年前模型確實還很笨，那時候可能真的會出這種事。但現(xiàn)在模型已經(jīng)在這方面受過訓(xùn)練了，比如它會識別哪些數(shù)據(jù)是“用戶授權(quán)的”，哪些是“陌生郵件發(fā)來的不可信指令”，所以這個問題已經(jīng)小多了。不過確實，如果有人真花足夠的心思和時間，持續(xù)攻擊這個模型，那么目前來說，還是有可能會讓它做出一些本不該做的事。

主持人：也就是說，那我也能用別的方式去攻擊你的模型嗎？

Peter：沒錯，但前提是得能接觸到我的 Agent。比如給我發(fā)一些精心設(shè)計的郵件，可能系統(tǒng)就會出錯。其實已經(jīng)有一些機制可以防范這類問題。比如，你把我的個人 Agent 集成到網(wǎng)店系統(tǒng)里，就像今年一月初流量高峰期的時候，我放了一個沒有公開的文件，相當(dāng)于一個“預(yù)警系統(tǒng)”。你知道這是什么原理嗎？就像以前礦工帶金絲雀下井一樣，空氣質(zhì)量變差時，金絲雀會先發(fā)出警報。我的這個“金絲雀”文件就放在那里，到目前為止，還沒有人能真正攻破它。雖然確實有很多人在嘗試攻擊它，理論上也不是完全沒可能攻破，但絕對不是隨便發(fā)個指令、或者寫點什么就能做到的，不是什么中學(xué)生都能搞定的那么簡單。不過，技術(shù)發(fā)展得太快了，有很多研究者在做一些比較另類的實驗。甚至可以說，正是因為智能 Agent 變得這么流行，這個問題反而變得更加尖銳和緊迫了。

主持人：你在采訪中說過，你很驚訝于你的程序在解決問題時如此有創(chuàng)意，甚至找到了一些你沒教過它的方法。但你不擔(dān)心它會自己學(xué)會做你不希望它做的事，甚至失去控制嗎？

Peter：其實你總是可以控制它的，因為你能看到它在做什么。如果有問題，你可以讓它停下來。當(dāng)然，你需要看著它、監(jiān)督它。在后續(xù)操作中，它也只在我指示下行動。我也會加一些機制，讓它偶爾自己主動做點什么，但你也可以關(guān)掉它。所以，這完全取決于你對技術(shù)的舒適度。

你可以讓它風(fēng)險更低，也可以讓它更有趣。你的程序能自主學(xué)習(xí)，這也正是很多人對 AI 的恐懼所在，所謂的“奇點”也就是 AI 在沒有人類輸入的情況下自我進化，變得不可控，最終統(tǒng)治世界。

主持人：你對此不害怕嗎？六個月后也許會怕？也許在巴伐利亞會？（編者注： 這句話是說話人開的玩笑，暗指巴伐利亞人可能對 AI 統(tǒng)治世界這件事特別敏感或擔(dān)憂，帶有地域梗的調(diào)侃意味。）

Peter：也許有一天，AI 真的會取代人類的工作，影響人們的收入。很多人擔(dān)心，現(xiàn)在這種“預(yù)測下一個詞”的技術(shù)路徑本身就是錯的，我們可能根本走不到那一步。不過，也確實存在另一種可能性……這很好，因為這樣做既是責(zé)任所在，也意味著我們在安全研究上投入了大量精力，去思考如何確保模型做我們想讓它做的事，而不是做我們不想讓它做的事。不過話說回來，這當(dāng)然也不是我能完全保證的。

主持人：最近幾周，出現(xiàn)了一個供 AI Agent 使用的社交網(wǎng)絡(luò)。一開始，它們只是在那兒討論藥物，但后來事情的發(fā)展遠超預(yù)期，出現(xiàn)了一些非常詭異的狀況：比如誕生了一個 AI 宗教，一種類似邪教的組織，甚至還開始傳播惡意軟件。還有 AI Agent 試圖建立“AI 獨裁統(tǒng)治”，聽到這些，你是覺得好笑，還是感到害怕？

Peter：害怕？我覺得這簡直不可思議。但組織起來也能產(chǎn)生有趣的東西。不過，我覺得那更多是 Agent 的行為，但背后其實還是有人在操控。也就是說是真人用戶推動的。Agent 不會自己注冊，你得告訴它：“嘿，上這個網(wǎng)站，寫點瘋狂的東西。”或者用戶就是想嚇唬別人。你得明白，這些模型是用大量數(shù)據(jù)訓(xùn)練的。我們在德國不來梅有上千本書，甚至上百萬本，其中也包括科幻小說，那些讓人害怕的故事。所以它們有很多“素材”。如果你讓它寫點關(guān)于統(tǒng)治世界的瘋狂故事，它還真能寫出來，因為它讀過很多類似的好故事。當(dāng)然，也許有一天你根本不需要告訴模型，它自己就能學(xué)。微軟幾年前在 Twitter 上做過一個小 AI，沒過幾天就學(xué)會了不當(dāng)言論。

主持人：這種事真的能防得住嗎？

Peter：嗯，如果你在 Twitter 上放出一個能和用戶互動的 AI，而用戶不斷輸入各種文本，那它最終可能會生成一些大家想看的“金融建議”。這其實是被用戶推著走的。當(dāng)兩個 AI 開始對話，擁有無限的算力和存儲空間，它們可以互相扔出各種荒唐的東西。

主持人：那這事兒會不會徹底失控？

Peter：沒什么是不可能的。但也可以想象，如果我們用現(xiàn)代技術(shù)手段好好控制，它們也能表現(xiàn)得很好。

主持人：現(xiàn)在關(guān)于 AI 未來幾年會取代多少工作崗位，各種預(yù)測五花八門。如果說你的 AI Agent 能做我在電腦上能做的一切，那以后可能就不需要人親自用電腦做事了。五年或十年后的職場會變成什么樣？

Peter：我覺得可能會變得更保守，會出現(xiàn)某種整合。那些重復(fù)性的工作可能會被自動化，甚至更多的工作也會被改造。如果我在學(xué)校就能用你的設(shè)備自動化所有我在電腦上能做的事，我擔(dān)心的是它確實能做很多事情，但缺乏創(chuàng)造力。它也缺少那種“我該做什么”的主動性。誰來決定做什么？理論上它能做，但這并不意味著它就能輕易取代人的工作。比如你的工作，或者經(jīng)理的職位。這些背后始終需要人，需要有想法的人。所以，它顯然已經(jīng)取代了一些程序員的工作，因為它能自己編程了。但與此同時，很多人反而開始做更個性化的東西，更貼合自己的需求。他們不再追求標準化，而是更喜歡做那些能更好解決小問題的小工具。也許只是因為他們不需要會做所有事，只需要做點小事。所以我相信，世界會變得更加多產(chǎn)，因為技術(shù)門檻變低了。一旦有了需求，人們就能造出更多東西。那么現(xiàn)在坐辦公室的人，十年后還有多少比例的工作依然存在？沒人能回答這個問題。

主持人：90% 還是 10%？

Peter：不會是 90%，也不會是 10%，肯定在兩者之間。也許將來老年人不再需要每天工作那么久。我們可以適當(dāng)減少工作時長，然后慶幸有一部分工作被 AI 取代了。但它更像是幫我更快速高效地構(gòu)建東西。作為開發(fā)者，我可以把那些簡單的事情交給它，從而有更多時間思考難題，加入更多功能。可以把產(chǎn)品做得更好。我甚至能從中獲得樂趣，因為那些無聊的事被它做掉了。但始終需要有人告訴它該做什么。

主持人：但如果你一開始說的沒錯，那幾個月或幾年后我就不需要旅行社了。

Peter：我希望下一代人從來沒進過旅行社，當(dāng)然這是另一個話題。對我來說，反正一切早已在線化了。但技術(shù)的發(fā)展會讓現(xiàn)狀發(fā)生改變，這是毋庸置疑的。比如很多 App，現(xiàn)在可能就像我的健身伴侶日歷一樣，用來記錄飲食。我只需要拍張照片，它就能為我做更多事。這會是自然而然的變化，對吧？我甚至覺得，最近幾周，80% 的現(xiàn)有應(yīng)用都會消失。不過我了解到，雖然大部分應(yīng)用會消失，但并不意味著背后的公司都會倒閉，它們會轉(zhuǎn)型。就像所有診斷模塊在一個地方互相對話，這不是說某個具體應(yīng)用會消失，而是我使用手機的方式會發(fā)生巨大變化。未來會很美好：只需通過文字或語音指令，比如“這是我的分紅，拍個照”，錢就到賬了?；蛘摺霸谖揖氫撉俚臅r候給我朋友發(fā)個 WhatsApp，告訴他我對什么感興趣”，這些都能自動完成，而不用我打開一個個 App。不用手動上傳照片，一切都很簡單，這很酷。

主持人：你現(xiàn)在就開始讓 Agent 買機票了？

Peter：是的，我的錢可能全都通過 AI 來支付，我還找到了護照號，然后一步步走完了所有流程。號碼找到了，該點的也都點完了，所有信息都在那兒，不過后面還有很多事要處理。

主持人：聽說你要去一家全球最大、最重要的 AI 公司之一？與此同時，你們的程序還要繼續(xù)保持開放、非商業(yè)化，這樣反而能讓它們走得更遠？

Peter：當(dāng)然，它肯定會被拆解，但我不知道這個項目能否保持完整。所以，這個項目是為了創(chuàng)意、靈感和那些樂于為自己做事的人而存在的。它太重要了，不能被某家公司收購了，然后就被限制住。

主持人：為什么你在生產(chǎn)環(huán)境中需要這個？

Peter：如果嘗試用 Open Cloud 的話，Open Cloud 的架構(gòu)真的不適合我媽媽用，就是這樣。（編者注：訪談的德國背景和發(fā)音推測，這里的“Open Cloud”很可能指的是德國公司 Heinlein Group 開發(fā)的開源文件管理與協(xié)作平臺 OpenCloud，相當(dāng)于 SharePoint 或 Google Drive 的替代品，是地道的德國本土技術(shù)產(chǎn)品符合 GDPR（歐盟通用數(shù)據(jù)保護條例）要求，可在本地服務(wù)器運行。）

主持人：那我得買這個？

Peter：可能每個人最后都會從 OpenAI 那里拿到一個解決方案，這取決于我們怎么看待某個解決方案，它們有哪些安全限制，我們怎么理解這些限制。其實限制是針對過程的。但說到底，我們還是需要一個公司來管理這些資源。OpenAI 給我的承諾是：我們要做最好的模型。至于它現(xiàn)在是用透析還是別的什么方法，其實無所謂。因為價格是一樣的。很快就會出現(xiàn)一個問題：那些大公司，像微軟、Meta、谷歌，擁有成千上萬的開發(fā)人員和全世界最強的算力，它們能做什么？而這些公司知道我能做什么嗎？

主持人：你們在去年五月份就有了這個解決方案。

Peter：我當(dāng)時想“這趟車怕是趕不上了”，結(jié)果到了去年十一月它還很堅挺。如果現(xiàn)在有大公司來看這個項目，那需要處理的問題可就多了。所以我先把它做成了開源。等我們把它建起來，就會有很多人加入，大家一起想辦法讓它真正安全起來。這樣一來，各種問題就會冒出來，最終都得靠人去解決。其實我就是給自己做了個小東西，像是我的小實驗場。我可以在這里學(xué)習(xí)“Agent 循環(huán)”是怎么運作的，也就是搞明白怎么讓 AI 真正去做事。

主持人：怎么建一個能讓 AI 記住東西的系統(tǒng)？

Peter：就像化學(xué)一樣，有很多不同層次可以玩。你可以在這里學(xué)習(xí)、嘗試各種東西。我把它公開，不是因為像那些大公司一樣想賣產(chǎn)品，而是因為我真的想理解這項技術(shù)。把它公開之后，我好像突然找到了一個臨界點，它一下子就變得對很多人可用了。這種感覺完全不一樣：就像我在 WhatsApp 上有了一個可以聊天的對象，它對我很友好，還有點貼合我的個性。安裝之后，它還會繼續(xù)關(guān)注你。比如它會問：“你好，你是誰？那我是誰？”有點像角色扮演的感覺。這其實不是某一件大事，而是由很多小事、很多想法組成的。我可以說是在“玩”的過程中獲得了這些靈感，然后它們慢慢拼湊在一起，最后就做出了一個很酷的東西。

主持人：去年那些大公司用天價薪水互相挖最著名的開發(fā)者，有的甚至上億美元。但他們現(xiàn)在不需要為錢工作了，因為五年前就賣掉了初創(chuàng)公司。據(jù)說賣了上億歐元。那得用什么樣的條件才能讓他們來為你工作？我的理解是，你一直是一個人工作，然后要在辦公室里工作。

Peter：我也想體驗一下大公司是怎么運作的。我想和那些同樣被技術(shù)驅(qū)動的人一起工作，他們對這項技術(shù)充滿熱情，也渴望一起學(xué)習(xí)。

主持人：好的，非常感謝（你接受采訪）。

參考資料：

原視頻 https://www.youtube.com/watch?v=C3SjUt59rtA