電子前沿基金會（EFF）周四更改了其關(guān)于AI生成代碼的政策，明確要求貢獻(xiàn)者理解他們提交的代碼，并且注釋和文檔必須由人類編寫。

政策細(xì)節(jié)與實(shí)施方式

EFF政策聲明在如何確定合規(guī)性方面較為模糊，但分析師和其他觀察人士推測抽查是最可能的途徑。該聲明特別提到，組織并不禁止貢獻(xiàn)者使用AI編程，但似乎對此有所保留，表示這樣的禁令"違背了我們的一般理念"，而且AI當(dāng)前的流行使得這種禁令存在問題。EFF表示："AI工具的使用變得如此普遍，全面禁令實(shí)際上無法執(zhí)行。"該組織補(bǔ)充說，創(chuàng)建這些AI工具的公司"為了利潤而忽視人們的利益。我們再次陷入'只管相信我們'的大科技公司對其掌握的權(quán)力含糊不清的境地。"

抽查模式類似于稅務(wù)部門的策略，對被審計的恐懼讓更多人遵守規(guī)定。

專家觀點(diǎn)與建議

網(wǎng)絡(luò)安全顧問、FormerGov執(zhí)行董事Brian Levine表示，新方法可能是EFF的最佳選擇。"EFF試圖要求AI無法提供的一件事：問責(zé)制。這可能是首次真正嘗試讓模糊編程在規(guī)模上可用的努力。如果開發(fā)人員知道他們要為粘貼的代碼負(fù)責(zé)，質(zhì)量標(biāo)準(zhǔn)應(yīng)該會快速提高。護(hù)欄不會扼殺創(chuàng)新，它們防止整個生態(tài)系統(tǒng)淹沒在AI生成的垃圾中。"

他補(bǔ)充說："執(zhí)行是困難的部分。沒有魔法掃描器能夠可靠地檢測AI生成的代碼，可能永遠(yuǎn)不會有這樣的掃描器。唯一可行的模式是文化性的：要求貢獻(xiàn)者解釋他們的代碼，證明他們的選擇，并證明他們理解他們提交的內(nèi)容。你不能總是檢測到AI，但你絕對能檢測到某人不知道他們發(fā)布了什么。"

EFF發(fā)言人、高級技術(shù)專家Jacob Hoffman-Andrews表示，他的團(tuán)隊并不專注于驗證合規(guī)性的方法，也不專注于懲罰不合規(guī)者的方法。"貢獻(xiàn)者數(shù)量很少，我們只是依靠信任。"如果團(tuán)隊發(fā)現(xiàn)有人違反規(guī)則，會向此人解釋規(guī)則并要求他們努力遵守。"這是一個有文化和共同期望的志愿者社區(qū)。我們告訴他們，'這是我們對你行為的期望。'"

Info-Tech Research Group首席研究總監(jiān)Brian Jackson表示，企業(yè)可能會享受到像EFF這樣的政策帶來的次要好處，這將改善許多開源提交的質(zhì)量。許多企業(yè)不必?fù)?dān)心開發(fā)人員是否理解他們的代碼，只要它通過詳盡的測試列表，包括功能性、網(wǎng)絡(luò)安全和合規(guī)性測試。"在企業(yè)層面，存在真正的問責(zé)制和真正的生產(chǎn)力提升。這段代碼是否向不需要的第三方泄露數(shù)據(jù)？安全測試是否失?。克麄冴P(guān)心沒有達(dá)到的質(zhì)量要求。"

低質(zhì)量代碼問題被企業(yè)和其他商業(yè)機(jī)構(gòu)使用，通常被稱為"AI垃圾"，這是一個日益嚴(yán)重的問題。

技術(shù)實(shí)施與效果分析

Landing Point首席工程師Faizel Khan表示，EFF決定專注于文檔和代碼解釋，而不是代碼本身，是正確的做法。"代碼可以通過測試和工具驗證，但如果解釋錯誤或誤導(dǎo)，會創(chuàng)造持久的維護(hù)債務(wù)，因為未來的開發(fā)人員會信任文檔。這是大語言模型最容易聽起來自信但仍然不正確的地方之一。"

Khan建議了一些提交者需要被迫回答的簡單問題："提供有針對性的審查問題。為什么使用這種方法？你考慮了哪些邊緣情況？為什么這些測試？如果貢獻(xiàn)者無法回答，就不要合并。要求PR摘要：什么改變了，為什么改變，關(guān)鍵風(fēng)險，以及哪些測試證明它有效。"

前沃爾瑪網(wǎng)絡(luò)安全、風(fēng)險和合規(guī)總監(jiān)Steven Eric Fisher表示，EFF巧妙地做的是不那么關(guān)注代碼本身，而是關(guān)注整體編程完整性。"EFF的政策是將完整性工作推回給提交者，而不是讓開源軟件維護(hù)者承擔(dān)全部負(fù)擔(dān)和驗證。"他指出，當(dāng)前的AI模型在詳細(xì)文檔、注釋和清晰解釋方面表現(xiàn)不佳。"所以這種缺陷起到了限速器的作用，在某種程度上也是工作閾值的驗證。"他補(bǔ)充說，這可能在現(xiàn)在是有效的，但只是在技術(shù)發(fā)展到能夠產(chǎn)生詳細(xì)文檔、注釋和推理解釋的程度之前。

Garnett Digital Strategies創(chuàng)始人Ken Garnett同意Fisher的觀點(diǎn)，認(rèn)為EFF采用了可能被認(rèn)為是柔道式的策略。EFF"在很大程度上完全回避了檢測問題，這正是它的優(yōu)勢所在。他們沒有試圖事后識別AI生成的代碼，這是不可靠和越來越不切實(shí)際的，而是做了更根本的事情：他們重新設(shè)計了工作流程本身。問責(zé)檢查點(diǎn)已被移到上游，在審查者接觸工作之前。"

審查對話本身充當(dāng)執(zhí)行機(jī)制。如果開發(fā)人員提交他們不理解的代碼，當(dāng)維護(hù)者要求他們解釋設(shè)計決策時，他們會暴露出來。

這種方法提供"披露加信任，選擇性審查"，Garnett說，注意到政策通過披露要求將激勵結(jié)構(gòu)轉(zhuǎn)移到上游，通過人工編寫文檔規(guī)則獨(dú)立驗證人類問責(zé)制，并依靠抽查處理其余部分。

思科首席工程師、安全AI聯(lián)盟（CoSAI）成員和ACM AI安全（AISec）項目委員會成員Nik Kale表示，他喜歡EFF的新政策，正是因為它沒有做顯而易見的舉動試圖禁止AI。"如果你提交代碼但在被問及時無法解釋，那就是政策違反，無論是否涉及AI。這實(shí)際上比基于檢測的方法更容易執(zhí)行，因為它不依賴于識別工具。它依賴于識別貢獻(xiàn)者是否能為他們的工作承擔(dān)責(zé)任。對于關(guān)注這一點(diǎn)的企業(yè)來說，啟示很簡單。如果你在使用開源軟件，每個企業(yè)都在使用，你應(yīng)該深切關(guān)心你依賴的項目是否有貢獻(xiàn)治理政策。如果你在內(nèi)部生產(chǎn)開源軟件，你需要一個自己的政策。EFF的方法，披露加問責(zé)制，是一個可靠的模板。"

Q&A

Q1：EFF的新AI代碼政策主要要求什么？

A：EFF新政策明確要求貢獻(xiàn)者必須理解他們提交的代碼，并且所有注釋和文檔必須由人類編寫。該政策不是完全禁止AI編程，而是要求開發(fā)者對代碼承擔(dān)責(zé)任。

Q2：如何確保開發(fā)者遵守這個新政策？

A：EFF主要依靠信任和抽查機(jī)制，類似于稅務(wù)審計策略。如果發(fā)現(xiàn)違規(guī)，會解釋規(guī)則并要求遵守。關(guān)鍵是要求開發(fā)者能夠解釋代碼設(shè)計決策和功能實(shí)現(xiàn)。

Q3：為什么專注于文檔和解釋而不是檢測AI生成的代碼？

A：因為目前沒有可靠的方法檢測AI生成的代碼，而且AI模型在詳細(xì)文檔和解釋方面表現(xiàn)較差。專注于要求人類理解和解釋代碼更實(shí)際有效。