AI大廠里，Anthropic有很多獨(dú)樹一幟之處。其中之一，就是該公司的人文品位，可能真不是裝出來的。最近有消息稱，Anthropic為了教AI道德，要請各種信仰的信徒和神學(xué)家都來開會(huì)商量。

最近，美國《政客》網(wǎng)站報(bào)道，本周Anthropic請了儒家、道教、印度教、錫克教、摩門教、伊斯蘭教等世界各大信仰和宗教的人士，在舊金山總部開兩天座談會(huì)，討論“Claude模型的道德構(gòu)成”。

Anthropic不是第一次和中國式信仰合作。去年五月底，美國信仰道教的音樂制作人瑞克·羅賓和Anthropic合作，用Claude模型生成的代碼和圖片搭了個(gè)網(wǎng)站《編程之道：氛圍編程的不朽藝術(shù)》。宣發(fā)時(shí)，羅賓表示自己的靈感來源于81章《道德經(jīng)》：“四十年前接觸后，整個(gè)人都變樣了?！?/p>

圖注：網(wǎng)站入口底部寫明“以老子為改編基礎(chǔ)”

現(xiàn)在Anthropic開會(huì)，叫到的是咱們中國人熟悉的宗教類型。此前有消息，3月底，Anthropic已經(jīng)請了美國天主教會(huì)和各新教會(huì)大宗派的牧師、神學(xué)家、倫理學(xué)家一起討論了兩天。

這些峰會(huì)對(duì)外不公開，Anthropic包了與會(huì)者的吃住，只為無打擾地細(xì)聊各種緊要話題。據(jù)基督教那期四名與會(huì)者公開的信息，會(huì)議上大家聊得很開。

會(huì)議的議題覆蓋面廣，從AI模型日常如何應(yīng)對(duì)用戶復(fù)雜且難以預(yù)測的倫理性問詢，到Claude模型系列到底能不能算“上帝的兒子”們中的一員、有無超過簡單機(jī)器的屬靈價(jià)值。

近日的AI倫理熱點(diǎn)消息，諸如AI該如何回應(yīng)表露自殘傾向的用戶、AI的行為會(huì)不會(huì)導(dǎo)致自身的關(guān)閉滅亡，都在討論范圍內(nèi)。

除了廣度話題，專注的深度討論也有?；浇棠瞧诘膮?huì)者和Anthropic的可解釋性團(tuán)隊(duì)討論的時(shí)間最多，因?yàn)椤癆I有情緒”的自家研究論文真的給這個(gè)內(nèi)部團(tuán)隊(duì)帶來了心態(tài)沖擊。

按與會(huì)者的說法，有Anthropic職員反復(fù)跟教士討論，本廠到底是不是真的要給Claude模型擔(dān)負(fù)道德責(zé)任。

據(jù)稱當(dāng)時(shí)Anthropic職員的表情和生了孩子的老父親一樣，“肉眼可見地激動(dòng)”，反復(fù)說“進(jìn)展是不是走太快太遠(yuǎn)了、以后該怎么辦啊”。要靠同事和其他參會(huì)者在旁邊打斷“你這角度沒用”，激動(dòng)的Anthropic職員才打住。

硅谷周邊教區(qū)的天主教神父布倫登·麥奎爾，作為基督教那期參會(huì)者一員，表示“Anthropic造出了自己無法完全預(yù)測未來形態(tài)的產(chǎn)品，現(xiàn)在需要我們來給機(jī)器引入倫理思維，讓AI能動(dòng)態(tài)性適應(yīng)未來?！?/p>

他有資格說這話，因?yàn)樽鳛樘熘鹘坛黾胰死锏臄?shù)碼業(yè)界前輩、老資格硅谷人里的資深教士，麥奎爾和Anthropic合作已經(jīng)有一段時(shí)間了。

一

按麥奎爾神父年輕時(shí)的生活軌跡，他現(xiàn)在本該是大老板麥奎爾。

1980年代的愛爾蘭，麥奎爾家中，12個(gè)兄弟姐妹里最年幼的布倫登·麥奎爾上了大學(xué)，在都柏林圣三一學(xué)院修讀加密系統(tǒng)專業(yè)。1989年，專業(yè)對(duì)口的麥奎爾追隨經(jīng)濟(jì)熱點(diǎn)搬到美國加州，成為一個(gè)硅谷打工人。

在數(shù)碼技術(shù)的曙光期入行，麥奎爾屬于頭一代硅谷“科技大兄弟”（techbros），如果在行內(nèi)干到現(xiàn)在，至不濟(jì)也能財(cái)富自由。

麥奎爾的職場生涯一開始很順利，在5年內(nèi)從IT打工人做到“個(gè)人電腦儲(chǔ)存卡國際聯(lián)盟”（PCMCIA）的執(zhí)行總裁。1990年代內(nèi)，這個(gè)組織制定了十余年的全球筆記本電腦內(nèi)存卡的規(guī)格標(biāo)準(zhǔn)。按這個(gè)軌跡，現(xiàn)在大家會(huì)在各種財(cái)富榜和商業(yè)科技快訊里看到他。

不過這個(gè)硅谷新貴覺得工打夠了，就辭職去做天主教士。1994年，麥奎爾進(jìn)入修道院。2000年，麥奎爾被授立為神父。

在2004年后的16年內(nèi)，他在美國加州艾馬頓谷的天主教堂做普通神父，兼任圣荷西市教區(qū)的“特別項(xiàng)目副司鐸”，這個(gè)職位的實(shí)際職能是監(jiān)管當(dāng)?shù)亟虝?huì)的施粥舍藥訪貧救苦等小慈善項(xiàng)目的雜務(wù)。

打雜十幾年后，麥奎爾在2020年被天主教會(huì)任命為美國加州洛斯阿托斯縣圣西門教堂的負(fù)責(zé)神父。兜轉(zhuǎn)30年，麥奎爾的身體沒有離開硅谷大區(qū)，但人生道路與科技富豪老朋友們分道揚(yáng)鑣。

老朋友們是大廠高管和大老板、麥奎爾是小廟方丈。麥神父閑時(shí)爬爬山、滑滑雪、養(yǎng)養(yǎng)狗，忙時(shí)操勞教務(wù)和慈善。

圖注：教會(huì)新聞網(wǎng)頁上，麥神父和他養(yǎng)的德牧一起出鏡

如果沒有AI大爆發(fā)，麥奎爾的平淡教士生活會(huì)一直持續(xù)下去。

二

和刻板印象不同，天主教會(huì)其實(shí)非常潮。動(dòng)漫、數(shù)碼技術(shù)，梵蒂岡總本山都在搞。

早在2019年，梵蒂岡文化教育部和美國加州圣克拉拉大學(xué)合作創(chuàng)立“技術(shù)、倫理與文化學(xué)院” (ITEC)。

2020年2月，梵蒂岡和微軟、IBM等大公司一起簽署了《AI倫理羅馬呼吁書》。內(nèi)文提到AI將在教育、人權(quán)、倫理三方面帶來沖擊，呼吁數(shù)碼業(yè)界開發(fā)使用AI時(shí)遵循透明、包容、問責(zé)、中立、可靠、安全私隱六原則。

2023年7月，ITEC因應(yīng)時(shí)局出版手冊《沖擊性技術(shù)時(shí)代的倫理：實(shí)操路線圖》。

在此事之前，麥奎爾神父已開始重新在數(shù)碼業(yè)界活躍。因?yàn)閿?shù)碼業(yè)界和天主教會(huì)都很熟的雙重老資歷，實(shí)在不多，梵蒂岡得倚重這位專才。

這些動(dòng)作，麥奎爾神父都是核心人物，能直接和梵蒂岡文化教育部秘書長保羅·泰伊主教對(duì)接。而上屆梵蒂岡教宗方濟(jì)各明確指示過泰伊主教，要關(guān)注技術(shù)相關(guān)的倫理難題。

麥奎爾神父在業(yè)務(wù)人際網(wǎng)絡(luò)上，這就和“耶穌在塵世的代表”只差一層。他在硅谷的老朋友們傳出這消息后，Anthropic找上門來了。

Anthropic聯(lián)合創(chuàng)始人之一、可解釋性研究團(tuán)隊(duì)骨干人物克里斯·歐拉，通過業(yè)界人脈聯(lián)系到麥奎爾。

拿神父自己的話說，Anthropic的意愿讓人驚奇：“他們差不多想直接跟梵蒂岡求助，請教宗幫幫手，因?yàn)檫@個(gè)行業(yè)的進(jìn)展速度實(shí)在太快”。而且有意向成為跨國大公司的企業(yè)，有必要咨詢一個(gè)跨國界的倫理權(quán)威。

今年3月份Anthropic與美國五角大樓的爭端公開后，麥奎爾露出口風(fēng)，表示自己已和Anthropic合作數(shù)月，用Claude模型配合寫作，來調(diào)教AI的道德藍(lán)圖。

按麥奎爾的說法，他的寫作帶有強(qiáng)化學(xué)習(xí)風(fēng)格。麥神父用疊代、矯正、呈現(xiàn)的步驟，讓AI和自己的寫作思路對(duì)齊，從而讓AI理解出一個(gè)天主教特征的良知。麥神父和Claude合作寫的是一部題為《AI之魂》的虛構(gòu)故事類作品，主線是一個(gè)現(xiàn)實(shí)主義的僧侶與他的AI搭檔的故事。

麥神父表示，這種和真實(shí)世界既貼近又疏離的寫作方法，能讓AI模型更注重倫理思考。AI沒有靈魂，但AI可以有良知。用這種方式，能讓AI在體驗(yàn)全頻譜人類倫理內(nèi)容的同時(shí)向善，而非單純折射和放大預(yù)訓(xùn)練數(shù)據(jù)集中善惡皆有的人類行為。

AI技術(shù)爆發(fā)，讓之前只在思想實(shí)驗(yàn)中的很多倫理擔(dān)憂成為切近的現(xiàn)實(shí)。麥奎爾說他跟科技業(yè)老朋友們見面聊天的話題現(xiàn)在越來越沉重：“他們說AI即將帶來的前景，神奇、難以置信。但一旦行差踏錯(cuò)，前景就嚇?biāo)廊??！?/p>

麥奎爾自己也感嘆：“我本想離開硅谷商業(yè)圈，但硅谷商業(yè)圈不愿離開我?！?/p>

三

Anthropic找宗教界幫忙調(diào)教AI，不止是一個(gè)營銷公關(guān)動(dòng)作，在模型生產(chǎn)上有實(shí)際意義：以前的對(duì)齊界明星們，他們的倫理代碼不頂用了。

和流俗印象不同，哲學(xué)中的實(shí)踐倫理學(xué)，其實(shí)和軟件編程很類似，都有可編碼的操作規(guī)范和工程特色。這門學(xué)科的技術(shù)條很硬，不是大家以為的那種書齋空想。其中不咸不淡的片湯話內(nèi)容，頂多打發(fā)圍觀群眾。專業(yè)人士實(shí)操起來，至不濟(jì)也能跟律師的專業(yè)度看齊。

而佛教、天主教、猶太教等大宗教的倫理代碼庫，處理組織內(nèi)外各種人類的倫理難題和挑戰(zhàn)，已經(jīng)有兩千多年。

比如“把人宰了吃肉，能否被三凈肉/Kosher認(rèn)證通過”，此問的結(jié)論自然是“不能”。不過這種找碴問題，釋迦牟尼本尊和猶太教拉比們先后都做過嚴(yán)格的倫理推斷審視，沒有拍腦袋硬答、或扇個(gè)耳光叫提問者滾一邊去。

當(dāng)下把會(huì)遇到各種倫理挑戰(zhàn)的AI，直接接入宗教哲學(xué)的倫理代碼庫，省心省事。而且按開過會(huì)的天主教學(xué)者的說法，Anthropic已經(jīng)意識(shí)到自己以前推崇的“有效利他主義”不夠用、“有盲點(diǎn)”，從各大宗教引進(jìn)倫理代碼的意愿“非常真誠”。

2010年代發(fā)端的“有效利他主義”（Effective Altruism，EA）思潮，在現(xiàn)在的美國名聲越來越糟。厚道點(diǎn)說，EA是“正確的部分不獨(dú)特，獨(dú)特的部分不正確”。

“正確的部分不獨(dú)特”，是EA人們愛對(duì)外宣揚(yáng)“計(jì)算福祉效用”觀點(diǎn)、自己給非洲窮人發(fā)蚊帳治瘧疾的成就。但這些觀點(diǎn)和成就，經(jīng)典的發(fā)展經(jīng)濟(jì)學(xué)、制度經(jīng)濟(jì)學(xué)、通俗基礎(chǔ)普世公德里都有。

“獨(dú)特的部分不正確”，是EA人們在外界普通人不會(huì)去看的小論壇和學(xué)術(shù)期刊上，內(nèi)部討論簡直令人發(fā)指。而且核心觀點(diǎn)屬于庸俗后果主義，是被經(jīng)典實(shí)踐倫理學(xué)批判了兩千多年的。

EA人在自家小圈子里放飛自我，能多么奇葩，細(xì)說起來又是一篇長文章。揀其中最氣人的部分來說，“為了拯救食草動(dòng)物，該把捕食性動(dòng)物全殺掉”、“為了拯救高福祉效用個(gè)人，可以硬摘低效用個(gè)人的器官給他安上”、“嬰兒如果生下來會(huì)降低父母或自己的福祉，可以殺掉，這叫‘生育后墮胎’(after birth abortion)”，這些都是EA人們過去十多年來真聊過的話題。

在2022-2024年，加密貨幣界天才少年、同時(shí)是EA紅人的?姆·班克曼-佛?特（SBF）因詐騙被美國司法部門逮捕并判刑。

SBF入獄，對(duì)EA的沖擊極大。簡而言之，如果將EA比作當(dāng)代美國儒教，那Anthropic高管阿曼達(dá)·阿斯克爾的前夫威廉·阿斯克爾就是這個(gè)運(yùn)動(dòng)的孔子、SBF就是這個(gè)運(yùn)動(dòng)的子貢。

坊間一直有傳聞，說SBF本來無意于加密貨幣，是被威廉·阿斯克爾說服才入行：“錢在常人手里沒用，你把錢都賺來自行分配，才利于人類福祉，是更大的善”。

這說法太有說服力，SBF由此開始在幣圈騙錢的生涯：我為什么要賺錢，直接騙不好嗎。反正幣圈里不是蠢材就是騙棍，韭菜讓別人割，不如我親自割，反正我要用來做更大的善。

事發(fā)后，之前和EA淵源頗深的Anthropic，開始主動(dòng)和這個(gè)臭大街的運(yùn)動(dòng)切割。阿莫迪姐弟倆多次公開表示自己雖然在創(chuàng)業(yè)時(shí)拿了SBF投資，但沒有給他公司治理權(quán)，“我們跟EA不熟，覺得這是個(gè)過時(shí)的名詞?！?/p>

但再怎么切割，EA總是Anthropic公司史上的不光彩一頁，而且現(xiàn)在還沒抹干凈。

阿曼達(dá)·阿斯克爾現(xiàn)在還是Anthropic對(duì)齊團(tuán)隊(duì)骨干、“Claude原則”的領(lǐng)銜作者、被一些媒體稱頌的“AI時(shí)代文科生正面典型”。大家可能是為了禮貌，有意忘記“為食草動(dòng)物滅絕食肉動(dòng)物”的暴論，就來自于阿曼達(dá)的個(gè)人博客。

這種人教AI向善，不教出毛病已經(jīng)得謝謝耶穌或阿彌陀佛，遇上事了不頂用。

上個(gè)月Anthropic跟五角大樓吵架，自家公司的高管們作為老資格EA人，只能復(fù)讀“科技向善”的套話。對(duì)Anthropic最有技術(shù)含量的倫理支持，來自于麥奎爾神父等美國天主教學(xué)者主筆的“法庭之友”文書：

用AI賦能大規(guī)模監(jiān)視與完全自主致命兵器，傷害了人之所以為人的人格主體性。

AI自動(dòng)大規(guī)模監(jiān)視，將個(gè)人的切實(shí)生命體驗(yàn)，從個(gè)人要承擔(dān)的生活后果中抹除。讓人承擔(dān)生活后果的不再是自我的自由意志和抉擇，而是官僚機(jī)構(gòu)的AI參數(shù)。

AI驅(qū)動(dòng)完全自主致命兵器，違反了武裝沖突法律體系的基石。自從圣奧古斯丁提出概念以來，“交戰(zhàn)行為正當(dāng)性”（jus in bello）的核心一直是人類的主體性判斷。

當(dāng)代戰(zhàn)爭法體系將“交戰(zhàn)行為正當(dāng)性”細(xì)化為比例原則、區(qū)分原則、必要性原則，這些原則內(nèi)置了“必須由個(gè)人基于人類通行倫理做出判斷”的前提。將人類完全移出交戰(zhàn)行為的決策鏈路，任何戰(zhàn)斗都毫無正當(dāng)性可言，在倫理意義上與重度謀殺無異。

AI大潮，再次把一個(gè)真相沖上臺(tái)面：實(shí)踐倫理學(xué)上，大宗教是專業(yè)的，阿莫迪的手下們只算票友。不要拿自己的玩票愛好，去挑戰(zhàn)梵蒂岡的專業(yè)。

點(diǎn)個(gè)“愛心”，再走 吧