內容來源：本文匯編網絡公開資料。

分享嘉賓：山姆·奧特曼，人工智能實驗室OpenAI首席執(zhí)行官、微軟人工智能團隊負責人、AI安全委員會成員。

高級筆記達人|李云

責編| 柒排版| 沐言

第 9436篇深度好文：10121字 | 25 分鐘閱讀

商業(yè)思維

筆記君說：

2026年1月27日，OpenAI CEO山姆·奧特曼和一群開發(fā)者、創(chuàng)業(yè)者在舊金山聊了近1個小時。

他從開發(fā)者自身角色開始說起，AI的賦能讓工程師創(chuàng)造更多價值，但招聘需求將明顯放緩，要找到合適的人，不得不改變面試規(guī)則，其目的只有一個——用更少的人，做更多的事。

他認為隨著AI的普及，產品和服務產出越來越多，創(chuàng)業(yè)門檻將更低，但商業(yè)規(guī)則并未發(fā)生徹底變革，商業(yè)落地是更難的事。

談及對社會的影響，他認為：經濟將面臨通縮；教育方式也必將、必須改變，否則無法使用好這個工具；在科研方面，AI展示了強大的探索能力，但仍需人類指引方向。

在AI的未來方向上，高性能的通用模型、個性化定制將成為趨勢。但安全方面需要特別重視，特別是生物安全，以及個性化所帶來的隱私。

最后，他讓我們無需焦慮，因為所有技能都是可以學習并掌握的。

本文根據(jù)訪談內容整理，略有刪減，希望能給到你啟發(fā)。

一、軟件行業(yè)將徹底變革

我們先從推特上的一個問題說起：您如何看待軟件工程領域的“杰弗里悖論”？

也就是：人工智能讓代碼的開發(fā)效率大幅提升、成本顯著降低，這會減少對軟件工程師的需求，還是會讓更廉價的定制軟件大幅提升需求并持續(xù)增長呢？

1.工程師將創(chuàng)造更多價值

工程師將創(chuàng)造并獲取更多的價值，讓計算機按自己的需求運行，按他人的需求運行，想出辦法為他人打造實用的體驗。

但這份工作的形態(tài)、花在敲代碼、調試代碼或其他繁瑣事務上的時間，都會發(fā)生巨大變化。

軟件團隊的需求非但不會放緩，我甚至覺得，哪怕只有少數(shù)人參與，我們對軟件的需求也會持續(xù)存在。

所以我認為，會有更多人以某種形式投身軟件工程領域。如果把這類工作都算作軟件工程，那么通過這種方式創(chuàng)造的全球GDP占比，會大幅提升。

2.招聘需求減少，速度放緩

不可否認的是，軟件工程師的招聘速度將大幅放緩。 越來越多的公司希望用更少的人，做更多的事。

但目前，我們和其他公司都面臨著很多障礙，這些都是公司內部的政策導致的，而當初制定這些政策的時候，根本沒有考慮到人工智能會成為我們的同事，而改變這些政策需要時間。

當我們發(fā)現(xiàn)人工智能已經能做很多事的時候，需要減少人手，就不得不進行一些很尷尬的裁員。

我認為，正確的做法應該是：放緩招聘速度，但依然要招聘。

我不相信，在遙遠的未來，OpenAI會變成一家沒有員工的公司。但在很長一段時間里，我們會保持員工數(shù)量的穩(wěn)步增長，而且每個人都能承擔更多的工作。我認為，這也是整個經濟的發(fā)展趨勢。

3.面試流程必須改革

至于面試流程：雖然還沒有發(fā)生根本性的改變，但我們已經在討論如何進行改進。

我們的想法是，讓候選人在一天內完成一項工作，而這項工作在去年這個時候，一個人花兩周時間都完不成。我們想看看，候選人是否能高效地適應這種新的工作方式。

實際上，軟件工程師的面試方式已經過時很久了，甚至沒有什么參考價值，但現(xiàn)在，它的價值更低了。

有幾個問題已經暗示了一個更宏觀的趨勢：未來的公司，是會雇傭少量員工、配備大量人工智能同事，還是會變成一家完全由人工智能主導的公司，比如，一個擺滿GPU的服務器機房，里面沒有一個人？

我真心希望是前者。雖然看起來后者的可能性很大，但如果公司不采用人工智能，不學會如何雇傭人來使用這些工具，就會被那些沒有這些愚蠢政策的純人工智能公司取代。

這會是一個非常不穩(wěn)定的局面。對于社會來說，這一點非常重要。雖然聽起來像是在為自己謀利，但我認為，公司必須采用人工智能，而且要大規(guī)模、快速地采用人工智能。

二、創(chuàng)業(yè)成本降低

但商業(yè)落地依舊很難

1.人類注意力，將成為“硬通貨”

很難想象，到今年年底，只需要一百到一千美元的推理計算成本，就能把一個好想法變成一個軟件，而這個軟件，過去需要一個團隊花一整年才能開發(fā)出來。

這對人們來說是極具賦能意義的事，產品和服務的供給會大幅增加，獲取的門檻會大幅降低，而創(chuàng)業(yè)、成立新公司、開展新的科學研究等活動的成本會大幅下降。

相較于產品，但我認為最難的其實是商業(yè)層面，要搞清楚如何讓上市策略落地。我覺得過去的那些準則依然適用。人工智能能大幅降低軟件開發(fā)難度，并不代表其他環(huán)節(jié)也會變簡單。

不過，我們已經開始看到一些變化，就像人工智能改變了軟件工程，現(xiàn)在人們也在用它實現(xiàn)銷售自動化、營銷自動化，而且確實能取得一些成效。但我認為這依然很難。

即便在一個產品極度豐富的世界里，人類的注意力依然是稀缺資源。 所以，你始終要和其他人競爭，大家都在打造自己的上市能力，想辦法獲取用戶流量。

每個潛在客戶都很忙。我可以想象這樣一個未來：所有產品都極度豐富，而人類的注意力，會成為最后的“硬通貨”。

2.商業(yè)準則依然未變

你可能認為，商業(yè)領域的“物理定律”已經徹底改變了。但事實并非如此，至少現(xiàn)在不是，未來可能會變，但現(xiàn)在的變化，只是讓工作效率更高、開發(fā)新軟件的速度更快。

但打造成功初創(chuàng)企業(yè)的其他法則，依然適用： 你需要找到用戶，解決上市難題，打造有粘性的產品，建立護城河、網絡效應、競爭優(yōu)勢，無論你怎么稱呼它，這些法則都沒有改變。

好消息是，這些法則對我們來說也沒有改變。過去有很多初創(chuàng)企業(yè)做了我們可能會做的事，但因為時機太晚，別人已經建立了穩(wěn)固的競爭優(yōu)勢，所以我們錯過了。

未來還會出現(xiàn)這樣的情況。每當有人問我類似的問題，我都會給他們一個通用的建議：如果GPT-6推出了顛覆性的更新，你的公司會開心還是難過？

我建議大家，因為我們希望持續(xù)進步，去做那些“希望模型變得更強”的項目，這樣的項目有很多。

而有些項目，只是在現(xiàn)有功能上做一些小修補，這類項目需要在模型更新前建立足夠強的競爭優(yōu)勢，但這條路會更艱難，也更讓人焦慮。

三、人工智能對社會產生全面影響

1.對經濟：通縮效應加劇

從整體來看，隨著單臺計算機的算力不斷提升，再加上未來機器人等技術的發(fā)展，我們的經濟會面臨巨大的通縮壓力。我說是“大部分利好”，是因為過程中會有一些復雜的問題需要解決。

同時，產品和服務的價格會大幅下降，除非在一些受社會或政府政策限制的領域，比如舊金山的房地產開發(fā)。

預計這種通縮壓力會來得又快又猛。 個人的話語權會越來越強，不管社會是否已經為人們提供了平等的優(yōu)勢，這種趨勢都會不斷強化。

這會成為社會的均衡力量，讓那些曾經沒有得到公平對待的人，有機會實現(xiàn)自己的目標。只要我們不會在政策層面犯大錯，這種情況就會發(fā)生。

我擔心的是，你可以想象到這樣一種未來：人工智能會加劇權力和財富的集中，這也是政策制定者需要重點防范的問題之一。

2.對教育：影響深遠而復雜

①教學方式將發(fā)生改變

我上初中的時候，谷歌剛推出，老師們還試圖讓我們承諾不使用谷歌。當時大家都覺得，如果什么東西都能在指尖查到，那為什么還要上歷史課？為什么還要背誦知識點？我當時覺得這太荒謬了。

我想：“我以后會成為成年人，這個工具會成為我生活的一部分。不學怎么用它，才是真的瘋狂?！?/p>

這就像幾十年前，我明明知道有計算器，卻還要學打算盤，因為當時認為這是一項重要的技能?；蛘邔W計算尺，我現(xiàn)在都不知道計算器之前還有什么計算工具。但這些技能其實沒什么價值。我對人工智能工具的看法也是如此。

按照現(xiàn)在的教學方式，人工智能工具是一個“問題”，但這恰恰說明，我們需要改變教學方式，而不是限制人工智能工具的使用。

ChatGPT能幫你寫東西，這就是世界的發(fā)展趨勢。你依然需要學會思考，而寫作，這個練習過程，對于培養(yǎng)思考能力至關重要。但我們教授思考能力和評估能力的方式，可能需要做出改變，這一點我們不能否認。

所以我完全有信心，一切都會好起來。我們會找到新的教學方法，讓更多學生受益。那些10%的自學能力極強的學習者，已經在用人工智能做出了不起的成就了。

②選擇：創(chuàng)業(yè)or 讀大學？

我當年也是輟學者，父母花了十年時間，才不再追問我什么時候回去上學。因此我覺得，父母只是出于愛，想給你他們認為最好的建議。

你只需要不斷向他們解釋：如果你想回去上學，隨時都可以，但現(xiàn)在的世界已經不一樣了，而且未來還會繼續(xù)變化。每個人都需要自己做決定，不要盲從社會的期待。

我個人認為，如果你是一名人工智能領域的開發(fā)者，現(xiàn)在這個階段，上大學可能不是最好的選擇，除非你是一個有雄心、有主見、很努力的人。這是一個特殊的時期，你以后隨時都可以回去上學。

我建議你告訴父母：這并不意味著大學教育不適合很多人，也不意味著未來它不適合你，但現(xiàn)在你需要專注于自己的目標。他們最終會理解的。

③幼兒階段，不宜過早使用人工智能

幼兒園的孩子應該多在戶外玩耍，接觸實物，學習如何與人交往。

所以，我不僅不建議幼兒園使用人工智能，也不建議在幼兒園配備計算機。從發(fā)育角度來看，我們還不清楚技術對幼兒的具體影響。

關于社交媒體對青少年的影響，已經有很多研究，而且情況看起來很糟糕。但我覺得，技術對幼兒的影響，可能比這還要嚴重，只是相關的討論還比較少。

我認為，在我們充分了解這一點之前，幼兒園不應該大規(guī)模使用人工智能。

3.對科研：人類仍要發(fā)揮主要作用

模型要在大多數(shù)領域實現(xiàn)完全自主的科研，還有很長很長的路要走。

我們可以看看數(shù)學領域：這個領域不需要實驗室或物理實驗，只需要深入思考，就能取得巨大進展。

如果我們持續(xù)更新模型，未來甚至在數(shù)學領域也能實現(xiàn)自主科研。

但就目前而言，那些借助模型取得重大進展的數(shù)學家，依然需要深度參與，他們會審視模型的即時輸出，然后說：“不對，這個思路不對。我直覺上覺得另一條路可能更有希望。”

我見過一些數(shù)學家，他們現(xiàn)在的日常工作就是和最新的模型協(xié)作，他們的研究進展很快，但他們的工作方式和模型截然不同。

說實話，這讓我想起了國際象棋的歷史：當年Deep Blue擊敗卡斯帕羅夫的時候。

之后有一段時間，人工智能的水平超過了人類，但“人類+人工智能”的組合，人類從人工智能的十種走法中選出最優(yōu)解，比單獨的人工智能或人類都要厲害。然后很快，人工智能的水平又超過了“人類+人工智能”的組合。

我猜想，在很多科研領域，未來也會出現(xiàn)類似的情況。科研問題會變得越來越復雜，人工智能對多步驟流程的理解能力，會超過大多數(shù)，甚至所有人類。

但在創(chuàng)造力、直覺和判斷力方面，我們和當前的模型還有很大的差距。我沒有理由認為我們做不到這一點，所以我相信未來一定會實現(xiàn)。

但就現(xiàn)在而言，單純對GPT-5、GPT-6說“去解數(shù)學題”，是無法超過“人類+模型”的組合的，人類引導模型：“這個方向是對的，那個方向不對?！?/p>

即便我們能驗證證明、把優(yōu)秀的證明過程加入訓練集，科研工作流中還有很多其他的關鍵環(huán)節(jié)。

當然，解決一個問題，會衍生出很多新的問題?？吹娇茖W家們積極使用這些工具，我覺得非常振奮。

他們會消耗大量的GPU算力，但他們能做到，正如有人所說，他們可以把20個想法拋給人工智能，進行廣度優(yōu)先搜索，不深入研究任何一個，把人工智能當作“無限的研究生”。我最近把這個說法升級為“無限的博士后”。

在物理科學自動化方面：我們一直在討論，是否應該為每個領域打造自動化實驗室，我們對此持開放態(tài)度，還是說，整個世界會涌現(xiàn)出優(yōu)秀的實驗方案，擁有大量的設備，并且愿意分享數(shù)據(jù)。

從科學家們對5.2版本的接受度和貢獻來看，后者的可能性很大。這樣的世界會更簡單、更美好、更分布式，匯聚更多的聰明人，使用更多種類的設備。

4.關于協(xié)作：連接變得更有價值

在人工智能普及的世界里，人類的連接會變得更有價值，而不是更不重要，人們會更愿意聚在一起，協(xié)作完成工作。

我們已經開始探索更便捷的交互界面，幫助人們實現(xiàn)協(xié)作。在思考開發(fā)自己的硬件和設備時，我們也花了很多時間，甚至是最先思考，如何打造一個協(xié)作式的多用戶人工智能助手體驗。

我的感覺是，雖然現(xiàn)在還沒有人能完美實現(xiàn)，但人工智能會以一種前所未有的方式，賦能這種協(xié)作模式。你可以讓五個人圍坐在一張桌子旁，旁邊還有一個人工智能助手，可能是機器人，這樣團隊的效率會大幅提升。

你會慢慢習慣這種模式，比如每次頭腦風暴，每次解決問題，都會有一個人工智能助手參與其中，幫助大家做得更好。

5.創(chuàng)意，是人類最后的精神堡壘

現(xiàn)在大家都喜歡把人工智能的輸出稱為“垃圾”，但人類創(chuàng)造的內容里，垃圾也不少。想出好的新創(chuàng)意，其實非常難。

我越來越相信，我們的思維是受限于工具的。我們應該開發(fā)一些能幫助人們產生好創(chuàng)意的工具。

我認為這里有很多可能性，隨著創(chuàng)作成本的暴跌，我們可以建立一個緊密的反饋循環(huán)，快速篩選出好創(chuàng)意。

而且，人工智能不僅能寫復雜的代碼，還能發(fā)現(xiàn)新的科學規(guī)律，我相信會開辟出一個全新的可能性空間。

但很多人都有這樣的體驗：坐在人工智能面前，比如生成式寫作工具前，卻不知道接下來該問什么問題。

如果我們能開發(fā)出幫助人們產生好創(chuàng)意的工具，我相信我們能做到，我們可以分析你過去的所有作品、所有代碼，找出對你有用的內容，結合你的需求，持續(xù)為你提供建議。

如果我們能打造一個優(yōu)秀的頭腦風暴伙伴，我生命中就有三四個人，每次和他們聊天，我都能收獲很多新想法。他們很擅長提出問題，或者給你一些可以延伸的靈感。

你也可以擁有這樣的工具，哪怕它給出的100個想法里，有95個你都覺得“不行”。我認為這樣的工具，會對世界上優(yōu)秀產品的產出量產生巨大的推動作用。

實際上，模型帶來的科學進步，已經不再是微不足道的了。

目前，我們能學到最多東西的領域，是圖像生成，這個領域發(fā)展時間最長，創(chuàng)意社區(qū)對它的態(tài)度，從排斥到接納，再到喜愛。

這里有很多有趣的現(xiàn)象，其中一點是：如果告訴用戶，一張圖片是人類創(chuàng)作的，用戶的欣賞度和滿意度會大幅提升；如果告訴他們是人工智能生成的，滿意度就會大幅下降。

我認為，這會是未來幾十年的一個重要趨勢：我們非常在意創(chuàng)作者的身份，對機器的態(tài)度則很冷淡。

在所有形容人工智能的貶義詞里，我最喜歡“clanker ” （筆記俠注： 《星球大戰(zhàn):克隆人戰(zhàn)爭》中，克隆人士兵對敵方機器人的貶稱，clank是金屬關節(jié)摩擦的擬聲詞 ），這個詞能精準地表達人們的情感反應。

你可以看到很多非常驚艷的創(chuàng)意圖片，至少在我看來是這樣，但只要你告訴別人，這是人工智能生成的，很多人的主觀欣賞度就會大幅下降。

去年，我在網上看到一個實驗：他們找了一些聲稱非常討厭人工智能生成圖片的人，讓他們判斷哪些是人工智能生成的，結果所有人都認為，那些“糟糕”的圖片就是人工智能生成的。

然后，他們給這些人看了一些圖片，一半是人類創(chuàng)作的，一半是人工智能生成的，讓他們選出最喜歡的。

結果，他們幾乎一致地把人工智能生成的圖片排在前面，但當他們被告知這些圖片是人工智能生成的之后，又會說：“其實我不喜歡，這不是我想要的?！?/p>

這就是一個測試：你真正喜歡的是什么？

當我讀完一本喜歡的書，第一件事就是想知道作者是誰，了解他的人生經歷，想知道他是如何寫出這本書的，因為我和這個素未謀面的人產生了共鳴，我想了解他。

如果我讀完一本很棒的小說，最后發(fā)現(xiàn)它是人工智能寫的，我會感到很失落，很沮喪。我認為，這會是一個持久的趨勢。

但如果藝術創(chuàng)作中，人類的引導哪怕只有一點點，不管多小，隨著時間的推移，我們還需要觀察人們的感受。

人們似乎不會對這種創(chuàng)作方式產生那么強烈的排斥感。這種情況其實早就發(fā)生過：數(shù)字藝術家使用Photoshop，人們依然會喜歡他們的作品。

所以，根據(jù)創(chuàng)作者和消費者的行為，我的預測是：創(chuàng)作者的個人經歷、創(chuàng)作故事，以及在創(chuàng)作過程中進行的編輯、篩選等工作，會變得越來越重要。

我們不會想要完全由人工智能生成的藝術作品，至少就目前的技術水平來看是這樣。

四、AI技術發(fā)展趨勢

1.高性能的通用模型，將成為主流

由于精力有限，我們有時會專注于某一個領域，而忽略了其他領域。就像大家認為GPT-5的編程能力超強，但寫作能力不如GPT-4.5。

但我相信，未來的主流會是“高性能的通用模型”。因此，我們將重點提升智能性、推理能力、編程能力和工程能力這類核心能力。

你知道，就算你想開發(fā)一個擅長編程的模型，能寫好文章也會很加分，比如，你想讓它生成一個完整的應用，文章寫得好會讓整個產品更完善。

當模型和你互動時，你會希望它能有深刻、犀利的觀點，溝通清晰明了，這里的“寫得好”，指的是思路清晰，而不只是辭藻華麗。

所以我的期望是，我們能推動未來的模型在所有這些維度上都變得優(yōu)秀，而且我們一定能做到。

我認為智能是一種非?！巴ㄓ谩钡哪芰Γ覀兛梢宰屢粋€模型在所有領域都表現(xiàn)出色。

現(xiàn)在確實是推動“編程智能”發(fā)展的關鍵時期，但我們也會努力在其他領域迎頭趕上。

2.模型對新技術有更好的適應能力

我認為我們一定能讓模型很好地適應新技術。從根本上來說，如果我們正確使用這些模型，它們就是一個通用的推理引擎。我們現(xiàn)在的架構，也內置了大量的世界知識。

我相信我們正在朝著正確的方向前進。而且我希望在未來幾年內，模型能做到快速更新、適應新技術、學習新技能，甚至比人類學得更快。

我們會以一個里程碑式的成就為榮：當模型面對一個全新的環(huán)境、新工具、新技術時，你只需要解釋一次，甚至不需要解釋，模型自己探索一次，就能可靠地使用這個工具，并做出正確的結果。我覺得這一天并不遙遠。

3.模型發(fā)展，需平衡成本與速度

到2027年底，OpenAI應該能推出具備GPT-5.2X級別的智能能力的模型，大家可以猜猜看，成本能降低多少？我覺得至少能降低100倍。

但還有一個我們過去關注較少、現(xiàn)在越來越重要的維度：模型輸出的內容越來越復雜，現(xiàn)在有很多人要求我們提升輸出速度，而不是單純降低成本。

我們確實很擅長降低成本，從第一代GPT-4到現(xiàn)在，我們的進步大家有目共睹。我們還沒深入思考過，如何在成本不變甚至更高的情況下，把輸出速度提升到百分之一。

我認為，在很多場景中，人們都會非?？粗厮俣取Ｎ覀儽仨氃谶@兩者之間找到平衡，但遺憾的是，這是兩個完全不同的問題。

但如果我們能專注于降本，而且市場也需要這樣的產品，我們就能在這條路上走得很遠。

4.定制化成為趨勢

就像很多事情一樣，人們需要嘗試不同的方法，找到自己喜歡的模式。未來或許會形成幾種主流的解決方案，但這些模式并沒法全部探索出來。

幫助人們高效使用超強模型的工具，是個非常好的方向，目前這個領域幾乎是空白。模型的能力和大多數(shù)人能挖掘出的能力之間，存在巨大且持續(xù)擴大的差距。

一定會有人開發(fā)出真正好用的工具，但現(xiàn)在還沒人做到極致。我們也會嘗試開發(fā)自己的版本，但這個領域空間很大，不同用戶的偏好也各不相同。

不過，“為我定制”的應用正在興起。為什么定制化智能體界面的創(chuàng)新，會加速微應用的發(fā)展趨勢？

這個問題我最近在使用Codex（法典）時也深有體會：我不再把軟件看作一個固定不變的東西。如果遇到小問題，我會期待電腦立刻寫出代碼。我認為這種趨勢還會持續(xù)發(fā)展。

我懷疑，我們使用計算機和操作系統(tǒng)的方式，都會發(fā)生改變。

我不認為每次需要編輯文檔時，都會有一個全新的文字處理軟件為你量身打造，因為我們已經習慣了現(xiàn)有的界面，按鈕的位置也需要保持穩(wěn)定。

但對于其他很多場景，我們會擁有專屬的定制化軟件。

也許我每次都想用同一個文字處理軟件，但我有很多獨特的使用習慣，我希望軟件能越來越貼合我的需求，一個固定不變或緩慢迭代的軟件，能為我量身打造，而不是像別人那樣使用。

工具會不斷進化，為我所用，這種趨勢一定會到來。在OpenAI內部，大家現(xiàn)在都在使用Codex來優(yōu)化自己的工作流，每個人都有自己的定制化設置，用法也各不相同。

這種趨勢是必然的，而且我認為這是一個非常好的發(fā)展方向。探索它的形態(tài)和實現(xiàn)方式，是一件很有意義的事。

五、人工智能的風險與挑戰(zhàn)

1.工具的安全基礎設施亟需完善

我剛開始使用Codex（筆記俠注：Codex,OpenAI推出的AI代碼生成訓練模型）的時候，我說：“我不知道這個工具會帶來什么，但我肯定不會讓它完全無監(jiān)督地訪問我的電腦。”我當時非常篤定。

結果我只用了兩個小時，就改變了想法。我想：“你知道嗎？它的操作看起來挺靠譜的。我討厭每次都要審批這些命令，我干脆關掉監(jiān)督一會兒，看看會發(fā)生什么?！?/p>

然后我就再也沒有打開過完全監(jiān)督的模式。我覺得其他人也有類似的經歷。

所以我最擔心的是，這些工具的強大功能和便利性實在太誘人了，雖然它們的失敗率很低，一旦失敗，后果可能很嚴重，但我們很容易陷入自滿：“沒事的，會好的?！?/p>

然后，隨著模型的能力越來越強，越來越難以理解，如果模型出現(xiàn)偏差，或者在幾周、幾個月的使用過程中出現(xiàn)復雜的問題，比如在你開發(fā)的產品中植入安全漏洞，你可能會覺得這有點“科幻”。

但我認為，現(xiàn)實情況可能是這樣的：

使用這些工具的壓力，不僅僅是壓力，還有它們的吸引力和強大功能，會讓人們放松警惕，不再認真思考自己運行工具的方式，不再仔細檢查沙箱（筆記俠注：沙箱，一種計算機安全機制）的設置等等。

我最擔心的是，模型的能力會飛速提升。我們會習慣模型在某個層面的工作方式，然后覺得自己信任它，卻沒有為它建立完善的安全基礎設施，最終陷入困境。

當然，我認為打造這樣的安全基礎設施，也會是一個非常好的創(chuàng)業(yè)方向。

2.生物領域安全面臨嚴峻挑戰(zhàn)

2026年，人工智能可能會帶來很多風險。其中，我們最擔心的就是生物領域。

模型在生物領域的能力已經很強，目前，全球的策略，我所說的“我們”，不只是OpenAI，都是限制模型的使用權限，設置大量的分類器，防止人們利用模型制造新的病原體。

但我認為，這種策略不會持續(xù)太久。我認為，全球在人工智能安全領域，尤其是生物人工智能/生物安全領域，需要做出的轉變是，從“封堵”策略轉向“韌性建設”策略。

我的聯(lián)合創(chuàng)始人沃伊切赫有一個很形象的比喻，關于消防安全：火曾給人類社會帶來巨大的便利，后來卻燒毀了城市。

我們曾嘗試各種方法限制“火”，我這周末才了解到，“宵禁”一詞就源于當時人們被禁止生火，因為火災會燒毀城市。

后來我們學會了提升防火韌性，制定消防規(guī)范、使用阻燃材料，以及其他一系列措施?，F(xiàn)在，我們社會的防火能力已經很強了。

我認為，我們看待人工智能也應該用同樣的方式。人工智能會成為生物恐怖主義的威脅，也會成為網絡安全的威脅。但人工智能也是解決這些問題的方案，同時也是解決其他很多問題的方案。

我認為，我們需要全社會共同努力，構建韌性基礎設施，而不是只依賴那些“永遠能封堵風險”的實驗室。

世界上會出現(xiàn)很多優(yōu)秀的模型。我們已經和很多生物領域的研究者、企業(yè)討論過如何應對新型病原體。

我認為，有很多人都在關注這個問題，而且很多人都表示，人工智能在這方面確實能起到幫助作用。但這不會是一個純技術的解決方案，我們需要整個世界改變對這個問題的看法。

所以我對當前的局勢感到擔憂，但我認為，除了韌性建設的策略，沒有其他可行的路徑。而且，人工智能確實能幫助我們快速實現(xiàn)這一目標。

但如果今年人工智能領域出現(xiàn)重大的、明顯的失誤，我認為生物科技領域很可能會成為重災區(qū)。之后的幾年里，我們也可能會看到其他領域出現(xiàn)類似的問題。

3.個性化與隱私安全，是一對孿生兄弟

我們會大力推進記憶功能和個性化功能的開發(fā)。顯然，用戶需要這些功能，而且這些功能能大幅提升工具的使用體驗。

我自己也經歷了這個功能的迭代過程，但現(xiàn)在，我已經準備好讓ChatGPT訪問我的整個電腦和整個網絡，了解我的所有信息。因為它的價值實在太高了，我現(xiàn)在已經不像以前那樣感到不安了。

我真心希望所有人工智能公司都能高度重視安全和隱私保護，也希望整個社會都能重視這一點，因為它的實用價值實在太大了。 人工智能會了解我的全部生活，我不會讓它消失。

我現(xiàn)在還沒有準備好戴上一個能記錄所有信息的眼鏡，因為這會讓我感到很不安。但我愿意說：“你可以訪問我的整個電腦，了解我的所有情況，為我提供有用的幫助，理解我的一切，完整地掌握我的數(shù)字生活?！?/p>

我很懶，我覺得大多數(shù)用戶也都很懶，所以一個大致的信息整合就足夠了。

我不想坐在那里，把記憶分成“工作記憶”和“個人記憶”。

我想要的，也是我認為可以實現(xiàn)的，我們之前聊過這個話題，是讓人工智能深入理解我生活中的復雜規(guī)則、互動關系和層級結構，讓它知道在什么時候、什么場景下，該使用哪些信息，該在什么地方分享哪些信息。

我們必須解決這個問題，因為我認為這就是大多數(shù)用戶想要的功能。

進一步，有的用戶希望可以自主管理令牌（筆記俠注：token）額度，或者同步ChatGPT的記憶。但這其實很有風險，因為ChatGPT知道你的很多信息。

如果你把自己的秘密告訴一個非常親近的人，你可以相信，對方會清楚地知道在什么情況下、對誰說、該分享什么信息。

如果我把ChatGPT賬號連接到很多網站，然后說“你根據(jù)自己的判斷，決定該分享哪些信息”，我會感到很不安。當我們能實現(xiàn)這一點時，這肯定會是一個很酷的功能。

結語

所有技能，都是可以學習的

現(xiàn)在，編程已經不是唯一的選擇了。但像培養(yǎng)獨立思考能力、提升創(chuàng)意生成能力、增強韌性、快速適應快速變化的世界，這些技能會比任何具體的技術技能都更重要。而且，這些技能都是可以學習的。

作為一名天使投資人，我有一個意外的發(fā)現(xiàn)：通過三個月的訓練營式培訓，就能讓人們在我剛才提到的這些方面變得非常出色。這對我來說是一個很大的啟發(fā)。

所以我認為，這些技能可能是未來最重要的，而且它們都可以通過學習掌握。

參考來源：

1.山姆·奧特曼最新座談：AI未來、工程師命運與創(chuàng)業(yè)新機遇（上）價投實戰(zhàn)派；

2.山姆·奧特曼最新座談：AI未來、工程師命運與創(chuàng)業(yè)新機遇（下）價投實戰(zhàn)派。

*文章為作者獨立觀點，不代表筆記俠立場。

好文閱讀推薦：

“子彈筆記”是筆記俠的矩陣公眾號，聚焦職場效率追求、人際關系與高潛成長者，幫你3分鐘吃透核心觀點和方法論。歡迎關注～

分享、點贊、在看，3連3連！