數(shù)名OpenAI、谷歌、DeepMind現(xiàn)任和前任員工簽署公開信警告人工智能風(fēng)險(xiǎn)。

公開信稱：OpenAI的人工智能系統(tǒng)已經(jīng)接近人類智能水平，通用人工智能AGI有50%的可能性在2027年就會(huì)問世，而不是此前預(yù)測(cè)的2050年！

這封公開信指出，人工智能的發(fā)展可能會(huì)帶來一系列的風(fēng)險(xiǎn)，例如加劇現(xiàn)有社會(huì)的不平等、助長(zhǎng)操控和虛假信息傳播，以及失控的自主人工智能系統(tǒng)可能導(dǎo)致人類滅絕等。

簽署公開信的多位OpenAI前任雇員曾從事人工智能安全工作，為公開信背書的業(yè)內(nèi)大佬則有“人工智能教父”Geoffrey Hinton、因開創(chuàng)性AI研究而獲得圖領(lǐng)獎(jiǎng)的Yoshua Bengio，以及AI安全領(lǐng)域的頂尖專家Stuart Russell。

據(jù)署名簽字公開信的OpenAI前任員工對(duì)媒體介紹，這家位于舊金山的人工智能熱門公司存在“為爭(zhēng)奪誰第一個(gè)把最強(qiáng)大AI產(chǎn)品推向市場(chǎng)而不計(jì)后果”的魯莽企業(yè)文化，無法有效察覺和治理AI系統(tǒng)的潛在風(fēng)險(xiǎn)，還用剝奪吹哨人前員工股權(quán)等強(qiáng)硬手段阻止他們表達(dá)對(duì)AI技術(shù)的擔(dān)憂。簽字公開信的OpenAI現(xiàn)任員工全部選擇匿名，就是因?yàn)閾?dān)心被打擊報(bào)復(fù)。

公開信的簽署者之一、今年4月從OpenAI人工智能治理崗位離職的Daniel Kokotajlo指出，辭職是因?yàn)椤皩?duì)OpenAI能否負(fù)責(zé)任地行事失去了信心”。他稱OpenAI的人工智能系統(tǒng)已經(jīng)接近人類智能水平，通用人工智能AGI有50%的可能性在2027年就會(huì)問世，而不是此前預(yù)測(cè)的2050年： “世界還沒有準(zhǔn)備好（迎接如此高級(jí)的AI智能），我們也沒有準(zhǔn)備好，我擔(dān)心（這些商業(yè)公司）將不管不顧地一意孤行，并為自己的行為尋找借口。先進(jìn)的人工智能毀滅人類或?qū)θ祟愒斐蔀?zāi)難性傷害的可能性高達(dá)70%�！�

他稱，盡管OpenAI已與微軟聯(lián)合開展“部署安全委員會(huì)”等安全協(xié)議，旨在公開發(fā)布新AI模型之前進(jìn)行重大風(fēng)險(xiǎn)審查，但并沒有因此減慢新產(chǎn)品的發(fā)布速度。與投入更多時(shí)間和資源用來防范人工智能潛在風(fēng)險(xiǎn)相比，OpenAI仍在急于改進(jìn)模型并進(jìn)行商業(yè)化推廣。

微軟甚至兩年前在印度悄悄測(cè)試Bing搜索引擎包含未發(fā)布GPT-4的新版本，引發(fā)了一些搜索引擎對(duì)用戶行為異常的報(bào)告。OpenAI原本不知道最先進(jìn)大語(yǔ)言模型被投入測(cè)試，知道后也沒有阻止微軟更廣泛地推出該產(chǎn)品。不過，OpenAI發(fā)言人對(duì)上述說法提出異議。

信中寫道，人工智能公司擁有強(qiáng)大的經(jīng)濟(jì)利益驅(qū)動(dòng)它們繼續(xù)推進(jìn)人工智能研發(fā)，同時(shí)卻對(duì)保護(hù)措施和風(fēng)險(xiǎn)水平的信息諱莫如深。公開信認(rèn)為，不能指望這些公司會(huì)自愿分享這些信息，因此呼吁內(nèi)部人士站出來發(fā)聲。

由于缺乏有效的政府監(jiān)管，這些現(xiàn)任和前任員工成為能夠讓這些公司對(duì)公眾負(fù)責(zé)的少數(shù)群體之一。然而，由于嚴(yán)格的保密協(xié)議，員工被限制發(fā)聲，只能向可能并未妥善處理這些問題的公司反映問題。傳統(tǒng)的舉報(bào)人保護(hù)措施并不適用，因?yàn)榇祟惔胧﹤?cè)重于違法行為，而目前令人擔(dān)憂的許多風(fēng)險(xiǎn)尚不受監(jiān)管。

員工們呼吁人工智能公司為揭露人工智能風(fēng)險(xiǎn)的人士提供可靠的舉報(bào)人保護(hù)措施，具體包括：

?不得創(chuàng)建或執(zhí)行阻止員工對(duì)風(fēng)險(xiǎn)相關(guān)問題提出批評(píng)的協(xié)議；

?提供可驗(yàn)證的匿名程序，使員工能夠向董事會(huì)、監(jiān)管機(jī)構(gòu)和相關(guān)領(lǐng)域的獨(dú)立組織提出與風(fēng)險(xiǎn)相關(guān)的擔(dān)憂；

?支持開放批評(píng)的文化，允許員工在保護(hù)商業(yè)機(jī)密的前提下，向公眾、董事會(huì)、監(jiān)管機(jī)構(gòu)等方面提出與技術(shù)相關(guān)的風(fēng)險(xiǎn)擔(dān)憂；

?在其他程序失效后，避免對(duì)公開分享風(fēng)險(xiǎn)相關(guān)機(jī)密信息的員工進(jìn)行報(bào)復(fù)。

共有 13 名員工簽署了這封公開信，其中包括 7 名前 OpenAI 員工、4 名現(xiàn)任 OpenAI 員工、1 名前谷歌 DeepMind 員工和 1 名現(xiàn)任谷歌 DeepMind 員工。

OpenAI 曾因員工發(fā)聲而威脅取消其既得權(quán)益，并要求員工簽署嚴(yán)格的保密協(xié)議限制他們批評(píng)公司。

OpenAI則發(fā)布聲明稱，為公司能提供最強(qiáng)大、最安全人工智能系統(tǒng)的歷史成就感到自豪，并相信其內(nèi)部應(yīng)對(duì)風(fēng)險(xiǎn)的科學(xué)方法，“我們同意，鑒于這項(xiàng)技術(shù)的重要性，嚴(yán)謹(jǐn)?shù)霓q論至關(guān)重要，我們將繼續(xù)與世界地政府、民間社會(huì)和其他社區(qū)進(jìn)行接觸�！�

公開信刊載在http://righttowarn.ai網(wǎng)站上，網(wǎng)站域名和信件標(biāo)題都在捍衛(wèi)這些頂尖AI公司員工《對(duì)先進(jìn)人工智能發(fā)出警告的權(quán)利》，呼吁對(duì)AI行業(yè)進(jìn)行全面改革，包括提高透明度和保護(hù)吹哨人。

▲ 滑動(dòng)查看往期內(nèi)容

內(nèi)容來源：xiaohu.ai