OpenAI 前幾天辦了個 Science Week，請了一批科學(xué)家來做內(nèi)部分享。其中一場的主題是「理解動物：AI 幫科學(xué)家解讀跨物種語言」

其中講了一個非常具體的故事：用 AI，在抹香鯨的聲音里找到了元音

演講的是Ga?per Begu?，伯克利語言學(xué)副教授。他在伯克利帶一個叫「生物與人工語言實驗室」的團隊，同時也是 CETI 項目（鯨魚翻譯計劃）的語言學(xué)負責(zé)人

演講之后，還有個對談。上來的是Kevin Weil，OpenAI 科學(xué)副總裁，之前是 OpenAI 的首席產(chǎn)品官，更早在 Instagram 做產(chǎn)品負責(zé)人

Begu? 在 OpenAI Science Week 演講

Begu? 上來先扔了一個判斷：

在過去 60 年，語言學(xué)中的有一個基本假設(shè)：只有人類才能學(xué)語言 現(xiàn)在，這個假設(shè)不成立了

LLM 已經(jīng)能處理人類語言中最復(fù)雜的部分，包括遞歸（把一個結(jié)構(gòu)無限嵌套進另一個結(jié)構(gòu)）和元語言分析（像語言學(xué)家一樣畫句法樹、分析句子結(jié)構(gòu)）。他們請語言學(xué)博士生來評估，模型表現(xiàn)接近博士水平

如果不是人類也能學(xué)語言，那其他生物的交流系統(tǒng)里，可能也有比我們以為的更復(fù)雜的東西

然后他講了鯨魚（DeepSeek ：應(yīng)該不是說我）

鯨魚的咔噠聲里藏著元音

抹香鯨靠咔噠聲交流。聽起來像摩爾斯電碼，學(xué)界之前也一直這么理解：點擊的數(shù)量和時間間隔攜帶信息

下面的這個，是我手機錄的，有點雜音別介意↓

兩頭抹香鯨游向第三頭鯨，交換咔噠聲

Begu? 團隊做了一件事：把這些咔噠聲喂給他們自己搭的模型，然后打開模型內(nèi)部，逐個神經(jīng)元地看它學(xué)到了什么

模型確認了兩個已知信息：點擊數(shù)量很重要，時間間隔很重要。但它還多說了一句：頻譜也很重要

這是新線索。但從「頻譜重要」到搞清楚頻譜里有什么，中間花了很長時間。Begu? 說有一段時間模型一直在提示頻譜有信息，他們不知道怎么用

直到他們想通了一件事：鯨魚太慢了

人類說話很快，鯨魚的咔噠聲節(jié)奏很慢。把鯨魚的點擊聲加速，去掉中間的靜默，調(diào)整到更接近人類感知的時間尺度，頻譜上的模式一下子出現(xiàn)了

人類元音 vs 鯨魚元音的頻譜對比，紅色箭頭指向 formant 條紋

這些模式跟人類元音的頻譜結(jié)構(gòu)幾乎一樣

人類發(fā)元音 A 的時候放低下巴，口腔共振頻率的條紋靠得近。發(fā)元音 I 的時候舌頭抬高，條紋拉開。鯨魚的咔噠聲里也有這種條紋，目前找到了兩種，團隊把它們叫做 A 元音和 I 元音

發(fā)聲機制也類似。人類用聲帶振動，通過改變嘴巴形狀來區(qū)分元音。鯨魚用發(fā)聲唇（phonic lips）振動，通過改變鼻腔里一個氣囊的形狀來改變頻譜

加速它們的對話之后，能聽到它們在來回交換不同的元音。之前被認為是簡單重復(fù)的叫聲，現(xiàn)在知道至少有兩種類型。而且這些頻譜模式在不同海域的鯨魚身上都能重復(fù)觀測到

Pinchy 的對話轉(zhuǎn)寫，咔噠聲被標(biāo)注為 A 和 I 元音

這些數(shù)據(jù)來自多米尼加海岸。Begu? 最喜歡的一頭鯨叫 Pinchy，一位話癆老奶奶，元音結(jié)構(gòu)最早就是在她身上看到的。Begu? 說這些模式清晰到你可以拿紙筆把它們轉(zhuǎn)寫成人類字母

發(fā)現(xiàn)過程：模型告訴你往哪挖，但不幫你挖

Begu? 團隊沒有拿通用大模型去分析鯨魚。他們自己搭了一個基于 GAN 的模型，思路是模擬嬰兒學(xué)語言的過程：模型有一個「嘴巴」，需要改變形狀來模仿它聽到的聲音，同時還要傳遞信息

他們叫這個框架「信息性模仿」（informative imitation）

經(jīng)過九年義務(wù)教育的我們，應(yīng)該都會說話吧

這個模型先在人類語音上驗證過，腦信號對比實驗顯示模型內(nèi)部的處理過程跟人腦聽語音時的活動很接近。然后把同一套方法用在鯨魚身上

關(guān)鍵是可解釋性。他們用一個叫 CDEF 的技術(shù)，能做到單個神經(jīng)元級別的分析：取出某個神經(jīng)元，看它編碼了什么，然后因果性地操縱這個神經(jīng)元來驗證。在這些模型里，單個神經(jīng)元確實能代表數(shù)據(jù)中某個有意義的特征

Begu? 反復(fù)用了一個說法：AI 在科學(xué)發(fā)現(xiàn)中的角色是金屬探測器。它告訴你往哪挖，但挖的活兒還是你自己干

回頭看都容易，但當(dāng)時花了很長時間。他說如果沒有模型一直提示頻譜有信息，他們大概率不會在這個方向上挖這么久

6000 種人類語言不夠用，得讓 AI 再造幾千種

研究動物之前有個實際問題：怎么練習(xí)解碼一種你完全不了解的交流系統(tǒng)

Begu? 團隊做了個叫 Conlang Crafter 的管線。多個模型互相配合，自動生成全新的人造語言，從語音到詞法到句法，完整的語法體系，能翻譯句子

Conlang Crafter 生成的外星語言樣本

人類有 6000 到 7000 種語言，但它們之間共性很多。其他物種的交流系統(tǒng)可能跟人類語言完全不同。所以得有練習(xí)材料

你可以讓 Conlang Crafter 生成一種由外星頭足類物種使用的語言，音素是顏色值和手勢而非輔音元音，用 ASCII 表示。模型能跑出來

造 Klingon 和 Dothraki 需要語言學(xué)家手工干很久。現(xiàn)在這個管線能批量生成，給解碼完全陌生的交流系統(tǒng)提供訓(xùn)練數(shù)據(jù)

鯨魚有方言，而且會故意「秀」方言

Begu? 說他聽一分鐘鯨魚交流就能大致判斷它們來自哪片海域

更有意思的是，不同方言群在海洋中碰面時，會故意放大自己的方言特征。跟 1960 年代一個經(jīng)典語言學(xué)研究一樣：Martha's Vineyard 的島民跟外地人說話時口音反而更重，用來強化身份認同

Begu? 之前發(fā)過一篇論文， 大致說： 如果我們聽懂了動物在說什么，現(xiàn)有的法律體系怎么辦

研究團隊還首次錄下了抹香鯨的分娩過程。11 頭雌鯨聚到一起幫忙接生，把新生兒托舉到水面。分娩期間交流量暴增。而且周圍突然出現(xiàn)了大量領(lǐng)航鯨和弗氏海豚，Begu? 說跨物種交流可能比我們以為的更多

模型在發(fā)展自己的語言

做可解釋性研究時，Begu? 發(fā)現(xiàn)模型被訓(xùn)練執(zhí)行高難度任務(wù)時，會在內(nèi)部發(fā)展自己的通信協(xié)議。一開始團隊看到模型里有些奇怪的靜默，不知道是什么。打開模型內(nèi)部才發(fā)現(xiàn)，模型在用這些靜默傳遞信息

他的判斷是，隨著 Agent 發(fā)展，模型之間的通信大概率不會用人類語言，效率不夠。它們會發(fā)明自己的協(xié)議。理解這些協(xié)議需要可解釋性

復(fù)雜思維可能不需要語言

Kevin Weil 提了一個問題：推理模型在思考時說話方式完全不同，會自言自語、回溯、糾錯，這算語言嗎

Begu? 覺得更有意思的是另一個現(xiàn)象：你可以訓(xùn)練一個模型讓它的鏈?zhǔn)剿季S變成亂碼，推理性能不會大幅下降

如果復(fù)雜思維可以在沒有可讀語言的情況下存在，那語言可能只是最外面一層，用來把內(nèi)部世界傳達給別人

鯨魚可能也是這樣。它們的內(nèi)部世界可能比它們的「語言」所能表達的要復(fù)雜得多

離聽懂你家狗還有多遠

Kevin Weil 說他 9 歲的女兒聽說今天的主題后問了一個問題：我們什么時候能跟狗說話

Kevin Weil 和 Begu? 討論「能不能跟狗說話」

Begu? 的回答是，我們需要的是一個通道。有些物種天然提供這個通道，比如非洲灰鸚鵡 Alex 能模仿人類語言，科學(xué)家通過它發(fā)現(xiàn)鸚鵡會計數(shù)、能區(qū)分形狀和顏色。在 Alex 之前，沒人知道鸚鵡能做到這些

AI 有可能成為其他物種的這種通道。但 Begu? 說他作為語言學(xué)家，現(xiàn)階段更想先「聽」，搞清楚它們的系統(tǒng)怎么運作的，而不是急著去「翻譯」

Kevin Weil 接了一句：如果你能解碼狗的語言，你手上就是一家萬億美元公司