人工智能工具是否足夠可靠，能夠勝任商業(yè)環(huán)境中的重任？

更重要的是，我們是否應該賦予它們決策的“自主權”？根據(jù)《金融時報》的最新報道，亞馬遜云計算部門近期發(fā)生的至少兩起互聯(lián)網(wǎng)停機事件，據(jù)稱正是由笨拙的人工智能代理程序引發(fā)的。這些事件正將上述疑問推向風口浪尖。

去年12月發(fā)生了一起嚴重的事故。據(jù)四名知情人士透露，亞馬遜網(wǎng)絡服務的工程師當時允許其內部研發(fā)的名為基羅的“代理型”編程工具進行系統(tǒng)更改，結果引發(fā)了長達13個小時的服務中斷。這臺人工智能在命運的捉弄下，竟然作出了“刪除并重建環(huán)境”的極端決策。

亞馬遜的員工聲稱，這并非人工智能工具首次引發(fā)服務中斷。“過去幾個月里，我們已經(jīng)目睹了至少兩起生產(chǎn)環(huán)境停機事故，”亞馬遜網(wǎng)絡服務的一名高級員工在接受《金融時報》采訪時表示，“工程師們讓助手程序在無人干預的情況下解決問題，雖然停機規(guī)模不大，但完全是可以預見的?！?/p>

亞馬遜網(wǎng)絡服務于去年7月推出了內部編程助手基羅。公司將其描述為一個“自主型”代理，能夠協(xié)助項目“從構思到投產(chǎn)”的全過程。而在此前的一起停機事件中，亞馬遜開發(fā)的另一款被定義為人工智能助手的編程工具也牽涉其中。

據(jù)內部員工透露，這些人工智能工具被視為操作員權力的延伸，并被賦予了操作員級別的權限。在兩起停機事故中，相關工程師在最終落實更改前均未按慣例要求第二人進行審核，這種做法違背了典型的操作規(guī)程。

在給《金融時報》的一份聲明中，亞馬遜聲稱停機只是“極其有限的事件”，僅影響了部分地區(qū)的單一服務。公司辯稱，人工智能工具的介入純屬“巧合”，并表示“任何開發(fā)工具或手動操作都可能發(fā)生同樣的問題”。

亞馬遜還強調，其基羅工具在采取任何行動前都會“請求授權”，但去年12月事故中的工程師擁有比平時更高的權限。公司認為這是一個“用戶訪問控制問題，而非人工智能自主權問題”。亞馬遜堅稱：“在這兩起案例中，錯在用戶，而非人工智能。”

亞馬遜同時聲稱，沒有證據(jù)表明人工智能工具更容易出錯。對此，我們不禁要反問：亞馬遜是生活在真空里嗎？雖然人工智能及其在商業(yè)領域的探索尚處于萌芽階段，但已有大量證據(jù)表明這些工具極易發(fā)生故障。它們產(chǎn)生“幻覺”——即憑空捏造事實的傾向已是眾所周知，其安全護欄的脆弱性也備受詬病。甚至一些亞馬遜自己的員工也告訴《金融時報》，由于擔心出錯風險，他們并不樂意使用這些人工智能工具。

資深程序員發(fā)現(xiàn)，人工智能編程助手經(jīng)常吐出漏洞百出的代碼。多項研究表明，由于需要對這些存疑的輸出進行頻繁的雙重甚至三重檢查，軟件工程師的工作效率實際上被拉低了，盡管從表面上看，人工智能產(chǎn)出代碼的速度確實更快。隨著所謂“情緒編程”概念的興起，由于人工智能代理作出了所有者意料之外的決策，類似的低級錯誤層出不窮。

誠然，如果科技巨頭自己都不在業(yè)務中使用這些號稱能極大提升生產(chǎn)力的工具，那顯然缺乏說服力。目前，這些公司似乎都在“近水樓臺先得月”。微軟和谷歌均吹噓其超過四分之一的代碼現(xiàn)在由人工智能編寫。安特羅皮克和人工智能開放世界的工程師甚至暗示，他們近乎100%的代碼都出自人工智能之手。

亞馬遜將停機事故輕描淡寫地歸結為簡單的“用戶錯誤”而非“人工智能錯誤”，這顯得十分滑稽。畢竟，代碼是由人工智能生成的。而且，亞馬遜及其競爭對手一直在持續(xù)告知員工和客戶，他們應該更深地依賴這些工具。

員工告訴《金融時報》，公司設定了一個目標，要求80%的開發(fā)者每周至少使用一次人工智能進行編程任務。這無異于一項硬性的強制命令。然而一旦人工智能出了偏差，責任永遠在員工身上，而不在工具本身，更不在那些推波助瀾的高層手中。

就目前所知，新披露的人工智能失誤與去年10月導致“半個互聯(lián)網(wǎng)”癱瘓的亞馬遜網(wǎng)絡服務大規(guī)模停機事故并無關聯(lián)。但鑒于這些新披露的細節(jié)，以及該公司對人工智能工具日益沉重的依賴，人們不由得懷疑：在那場災難中，人工智能是否也曾在某個環(huán)節(jié)扮演了不光彩的角色。