你正在閱讀的是《MindCode321》周報(bào)。

周報(bào)每周四（或五）發(fā)布，包括：3個(gè)我的想法、2個(gè)來(lái)自別處的啟發(fā)、1個(gè)留給你思考討論的問(wèn)題。主題涵蓋AI、腦科學(xué)、心理、創(chuàng)業(yè)。一般是這樣，偶爾，某期周報(bào)里是別的東西。

周報(bào)力求簡(jiǎn)短，保證你在5分鐘內(nèi)讀完。

以下是本期內(nèi)容，我說(shuō)的都是錯(cuò)的：

三個(gè)想法 想法1：不要問(wèn)AI，讓AI來(lái)問(wèn)你。

一般AI使用者，會(huì)向AI提問(wèn)，獲得回答后，有時(shí)罵罵，有時(shí)夸夸。真正的高手，會(huì)讓AI來(lái)問(wèn)自己，前幾輪對(duì)話中，收到提問(wèn)后，常常挑刺，然后慢慢的，開(kāi)始偶爾表?yè)P(yáng)。

想法2：強(qiáng)化學(xué)習(xí)的幻覺(jué)來(lái)源于訓(xùn)練環(huán)境復(fù)雜度不夠，而這背后涉及到“智能的層次和統(tǒng)一性”的問(wèn)題。

強(qiáng)化學(xué)習(xí)也會(huì)有嚴(yán)重的幻覺(jué)、偷懶等問(wèn)題，這并非AI的強(qiáng)化學(xué)習(xí)能力低，而是能力過(guò)高，訓(xùn)練環(huán)境的復(fù)雜度跟不上了。

究其本質(zhì)是另一種“過(guò)擬合”。

監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)，現(xiàn)在面臨的是數(shù)據(jù)荒（我認(rèn)為是暫時(shí)的），RL學(xué)習(xí)面臨的是復(fù)雜度荒。

當(dāng)然從更高的抽象角度看，其實(shí)本質(zhì)沒(méi)有區(qū)別，只是層次不同。

智能是在不同層次上發(fā)生的：微觀層面，輸入token，輸出對(duì)下一個(gè)token的預(yù)測(cè)；中觀層面，輸入狀態(tài)，輸出對(duì)下一個(gè)狀態(tài)的預(yù)測(cè)；宏觀層面，輸入現(xiàn)象，輸出對(duì)下一個(gè)現(xiàn)象的預(yù)測(cè)。

這是分形之下的連續(xù)統(tǒng)一性。

尤其注意看最后一個(gè)，“輸入現(xiàn)象，輸出對(duì)下一個(gè)現(xiàn)象的預(yù)測(cè)”這其實(shí)恰好的是人類對(duì)于科學(xué)的定義：解釋已知現(xiàn)象，并預(yù)測(cè)未被觀察到過(guò)的新現(xiàn)象。

所以，那種認(rèn)為“AI 不過(guò)是預(yù)測(cè)下一個(gè)token，因此沒(méi)有真正的智能和意識(shí)”的觀點(diǎn)，是絲毫站不住腳的。

稍微插一句，隨著AI跟越來(lái)越高的復(fù)雜度環(huán)境做互動(dòng)，尤其是進(jìn)化算法等更進(jìn)一步的發(fā)揮作用，我相信：AI最終將會(huì)有自己的宗教。關(guān)于這點(diǎn)，這里的空白太小我寫(xiě)不下，咱們未來(lái)另找時(shí)間討論。

想法3：有趣的新詞：“你prompt到了我”。

當(dāng)你朋友問(wèn)你一個(gè)問(wèn)題時(shí)，你就可以這么回一句。

大概意思是，你這個(gè)的問(wèn)題，命中了我，讓我能深入思考，且我感覺(jué)我將能給出精彩回答。

注意，這是一種全新的人與人之間的交流范式，過(guò)去是沒(méi)有的。

別反駁，真的過(guò)去沒(méi)有過(guò)。

過(guò)去我們最多會(huì)說(shuō)“嗯，你提了個(gè)好問(wèn)題”或者“這個(gè)問(wèn)題很有啟發(fā)”。但這并不能涵蓋“你prompt到我了“的意思。

后者是這樣一種感覺(jué)：你提了一個(gè)深刻的、而且我從未想過(guò)的問(wèn)題。在你問(wèn)我之前，這個(gè)問(wèn)題從未在我腦海里出現(xiàn)過(guò)，自然地，我也從未有過(guò)關(guān)于它的答案，但當(dāng)你提出來(lái)那一刻，我卻能確切的意識(shí)到——它是屬于我來(lái)回答的問(wèn)題，而且我可以回答得驚為天人。

你看，AI 不但再改變每一個(gè)人，而且正在悄無(wú)聲息的改變人與人。

兩個(gè)收獲 收獲1：

很多時(shí)候，一件正確的事情，往往看起來(lái)沒(méi)啥深度。 by 野區(qū)學(xué)校創(chuàng)始人劉偉

——考試的時(shí)候，越有深度的問(wèn)題，如果回答對(duì)了，越能得高分，但現(xiàn)實(shí)世界并不如此。即便做為高科技的AI，今天倍奉為圭臬的訓(xùn)練方法，就曾經(jīng)因?yàn)槠淅砟钜谎劭慈ァ皼](méi)啥深度”，而被人長(zhǎng)期忽視。背后的原因？也許是因?yàn)椋澜绫举|(zhì)是各個(gè)草臺(tái)班子搭起來(lái)的。

收獲2：

一個(gè)物理系統(tǒng)，比如我們的大腦，在“硬件層面”本身不可能有意識(shí)，只有物理之上的模擬才能有意識(shí)。意識(shí)是被模擬的自我所擁有的一種被模擬的屬性。 by 認(rèn)知科學(xué)家 Joscha Bach

——這段話很拗口，它的大意是，大腦用神經(jīng)元活動(dòng)在體內(nèi)實(shí)時(shí)“跑”出一套模擬程序，用來(lái)模擬出外部世界、模擬出一個(gè)自己，以及模擬出此刻正在發(fā)生的事。這跟我在2年前的里提到的“外部世界的內(nèi)部模型”，是差不多的意思。不過(guò)Joscha Bach還特別強(qiáng)調(diào)了一點(diǎn)，除了外部世界，“自我”也是模擬的結(jié)果。

一個(gè)靈魂拷問(wèn)

你是否經(jīng)常讓AI問(wèn)你問(wèn)題？點(diǎn)擊右下角氣泡圖標(biāo)，寫(xiě)下你的回答。

文兄是誰(shuí)？

科技領(lǐng)域連續(xù)創(chuàng)業(yè)者（目前在AI+心理領(lǐng)域），中美3家AI公司的GPT戰(zhàn)略顧問(wèn)，原阿里巴巴早期移動(dòng)端核心產(chǎn)品負(fù)責(zé)人，CEO心智與戰(zhàn)略教練。未來(lái)一段時(shí)間，也許你關(guān)注的某些重要的AI產(chǎn)品，或某些備受關(guān)注的項(xiàng)目融資，背后就有他身影。

MindCode是什么？
一個(gè)剛剛決定寫(xiě)點(diǎn)好東西的、很小眾的公眾號(hào)。日常發(fā)短篇，偶爾有深度長(zhǎng)文。關(guān)注：AI、腦科學(xué)、心理學(xué)、創(chuàng)業(yè)等。由于在幾個(gè)關(guān)聯(lián)領(lǐng)域都有很深入思考，關(guān)注者中不乏頂級(jí)牛人，比如xxx和xx。

AI時(shí)代，讀他人之未讀對(duì)你很重要。關(guān)注并發(fā)送“1”可加討論小群，還可參加每周一晚的“讀完周報(bào)再來(lái)聊聊”的閉門交流會(huì)。