Anthropic

鳳凰網(wǎng)科技訊 北京時間2月25日，據(jù)《時代》雜志報道，美國AI創(chuàng)業(yè)公司Anthropic取得了巨大成功，并自詡為頂級AI研究實驗室中最注重安全的公司。但是，Anthropic高管告訴《時代》，該公司正放棄其旗艦安全政策的核心承諾。

Anthropic曾在2023年承諾，除非能提前保證擁有足夠的安全措施，否則絕不訓(xùn)練AI系統(tǒng)。這一承諾成為了Anthropic“負(fù)責(zé)任擴展政策”(RSP)的核心支柱。多年來，Anthropic高層一直將這一承諾吹捧為他們是一家負(fù)責(zé)任、能夠抵御市場誘惑、不急于開發(fā)具有潛在危險技術(shù)的公司的有力證明。

但是最近幾個月，該公司決定對RSP進行徹底改革。這一決定包括放棄原先的承諾，即如果無法提前保證適當(dāng)?shù)娘L(fēng)險緩解措施，就不會發(fā)布AI模型。

Anthropic首席科學(xué)官賈里德·卡普蘭(Jared Kaplan)在接受《時代》獨家采訪時表示：“我們認(rèn)為，停止訓(xùn)練AI模型實際上對任何人都沒有幫助。隨著AI的快速發(fā)展，我們并不覺得在競爭對手快速推進的情況下，我們做出單方面承諾是合理的。”

《時代》查閱的Anthropic新版政策包括：承諾在AI安全風(fēng)險方面更加透明，包括額外披露Anthropic自有模型在安全測試中的表現(xiàn)；承諾在安全方面的投入與努力要達(dá)到或超越競爭對手的水平；它還承諾，如果領(lǐng)導(dǎo)層認(rèn)為Anthropic是AI競賽的領(lǐng)跑者，并且認(rèn)為發(fā)生災(zāi)難性風(fēng)險的可能性很大，那么他們將“推遲”Anthropic的AI開發(fā)進程。

但總體來看，RSP 的這一調(diào)整讓Anthropic在安全政策上受到的約束大幅減少。此前，該政策明確禁止公司在沒有適當(dāng)安全措施的情況下，訓(xùn)練超過特定水平的模型。

目前，Anthropic面臨來自O(shè)penAI、埃隆·馬斯克(Elon Musk)旗下xAI以及谷歌等競爭對手的激烈競爭，這些對手都在定期發(fā)布尖端工具。同時，該公司也與美國國防部就其Claude工具的使用方式陷入爭執(zhí)。此前，Anthropic已告知五角大樓，這些工具不得用于國內(nèi)監(jiān)控或致命性自主行動。但是，美國國防部也向Anthropic發(fā)出最后通牒，如果限制使用就解除Anthropic的合同。

Anthropic表示，此次安全政策的調(diào)整是基于AI發(fā)展速度以及聯(lián)邦層面缺乏相關(guān)法規(guī)而做出的更新。

Anthropic發(fā)言人表示，此次調(diào)整旨在幫助公司在不均衡的政策背景下與多家競爭對手抗衡。在這種環(huán)境中，公司必須自行判斷安全防護措施是否足夠。她還表示，這一安全承諾與五角大樓的談判無關(guān)。

“政策環(huán)境已轉(zhuǎn)向優(yōu)先考慮AI的競爭力和經(jīng)濟增長，而安全導(dǎo)向的討論尚未在聯(lián)邦層面獲得實質(zhì)性進展?！盇nthropic在宣布這一調(diào)整的博客文章中表示。該公司稱，仍致力于遵循行業(yè)領(lǐng)先的安全標(biāo)準(zhǔn)。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網(wǎng)科技。想看深度報道，請微信搜索“鳳凰網(wǎng)科技”。