5 ways to make AI more trustworthy

讓人工智能更信賴的5種方法

https://www.colorado.edu/today/2025/10/21/5-ways-make-ai-more-trustworthy

本文概述了如何使人工智能（AI）更具可信度的五種方法，由科羅拉多大學博爾德分校的研究人員提出：

1. 了解用戶：信任AI的程度因人而異，受個人經(jīng)歷、價值觀、文化信仰和大腦結(jié)構(gòu)的影響。開發(fā)者需要考慮用戶的社會文化規(guī)范、偏好和技術(shù)素養(yǎng)，例如為老年用戶或技術(shù)能力較低的用戶提供更簡單的語言和更長的響應(yīng)時間。

2. 可靠、倫理和透明：可信的AI工具必須準確、一致地完成任務(wù)，確保安全、保護隱私、避免偏見和歧視，并在失敗時不會造成傷害。透明性也很重要，例如在醫(yī)療診斷中，AI應(yīng)與專家合作并透明地展示其推理過程。

3. 考慮上下文：AI工具應(yīng)針對特定問題的上下文設(shè)計。例如，在修復歷史建筑的場景中，研究人員提出了一個名為“PreservAI”的概念性工具，用于平衡成本效益、節(jié)能、歷史完整性和安全性等相互競爭的利益。

4. 易于使用并征求用戶反饋：AI工具應(yīng)提供良好的用戶體驗，減少錯誤，并允許用戶與系統(tǒng)互動和挑戰(zhàn)結(jié)果。用戶反饋對于改進工具和建立信任至關(guān)重要。

1. 在信任喪失時適應(yīng)并重建信任：人們對新技術(shù)的信任可能會隨時間變化。例如，微軟的“Tay”聊天機器人因發(fā)布不當內(nèi)容而失敗，但后來推出的“Zo”通過更強的內(nèi)容過濾重建了信任。盡管完全消除風險是不可能的，但當人們愿意使用AI并分享數(shù)據(jù)時，系統(tǒng)會變得更加可靠和有用。

總之，信任不僅是技術(shù)的優(yōu)勢，也是人們從AI中獲得更個性化和有效支持的途徑。

自動駕駛出租車正在席卷全國，并且在未來幾個月內(nèi)可能會在科羅拉多州開始運營。會有多少人排隊去乘坐呢？

這取決于我們的信任程度，阿米爾·貝赫扎丹（Amir Behzadan）說道。他是科羅拉多大學博爾德分校土木、環(huán)境與建筑工程系的教授，同時也是該校行為科學研究所（Institute of Behavioral Science, IBS）的研究員。

他和他在科羅拉多大學博爾德分校的連接信息與建成環(huán)境研究（Connected Informatics and Built Environment Research, CIBER）實驗室的研究團隊正在挖掘新的見解，研究我們在日常生活中可能遇到的人工智能（AI）技術(shù)如何贏得我們的信任。他們創(chuàng)建了一個框架，用于開發(fā)能夠造福人類和社會的可信人工智能工具。

在《人工智能與倫理》（AI and Ethics）雜志的一篇新論文中，貝赫扎丹和他的博士生阿米塔·達比里（Armita Dabiri）基于該框架創(chuàng)建了一個概念性人工智能工具，該工具融入了可信度的要素。

“作為人類，當你讓自己暴露在潛在傷害之下，假設(shè)他人有善意時，你是在信任他們。”貝赫扎丹說，“現(xiàn)在你可以將這一概念從人與人的關(guān)系轉(zhuǎn)移到人與技術(shù)的關(guān)系中?！?/p>

信任是如何形成的

貝赫扎丹研究了人類對用于建成環(huán)境的人工智能系統(tǒng)的信任構(gòu)建模塊，這些環(huán)境包括自動駕駛汽車、智能家居安全系統(tǒng)、移動公共交通應(yīng)用程序以及幫助人們進行團隊項目合作的系統(tǒng)。他認為，信任對于人們是否會采用和依賴這些系統(tǒng)至關(guān)重要。

根據(jù)貝赫扎丹的說法，信任深深植根于人類文明之中。自古以來，信任幫助人們合作、分享知識和資源、形成社區(qū)聯(lián)系以及分配勞動。早期人類開始形成社區(qū)并信任他們內(nèi)圈中的人。

不信任作為一種生存本能出現(xiàn)，使人們在與群體外的人互動時更加謹慎。隨著時間的推移，跨群體的貿(mào)易促進了不同群體之間的互動和相互依賴，但并沒有消除不信任。

貝赫扎丹指出，我們可以在現(xiàn)代對人工智能的態(tài)度中看到這種信任與不信任動態(tài)的回響，尤其是當它是由我們可能視為“局外人”的公司、政府或其他人開發(fā)的時候。那么，可信的人工智能是什么樣的呢？以下是貝赫扎丹框架的五個主要要點。

1. 它了解其用戶。

許多因素影響著我們對新人工智能技術(shù)的信任程度。我們每個人都有自己對信任的個人傾向，這受到我們的遺傳、價值體系、文化信仰，甚至我們大腦連接方式的影響。

“我們對信任的理解真的因人而異，”貝赫扎丹說?！凹词鼓阌幸粋€非常值得信賴的系統(tǒng)或人，我們對那個系統(tǒng)或人的反應(yīng)也可能非常不同。你可能信任他們，而我可能不信任。”

他說，開發(fā)者需要考慮誰是人工智能工具的用戶。他們遵循哪些社會或文化規(guī)范？他們的偏好可能是什么？他們的技術(shù)素養(yǎng)如何？

例如，貝赫扎丹說，亞馬遜Alexa、谷歌助手和其他語音助手為年長者以及不太精通技術(shù)的人提供了更簡單的語言、設(shè)備上的更大文本顯示和更長的響應(yīng)時間。

1. 它可靠、道德且透明。

技術(shù)可信度通常指的是人工智能工具的工作效果、安全性和用戶理解其工作原理及數(shù)據(jù)使用方式的難易程度。

貝赫扎丹說，一個最值得信賴的工具必須準確且一致地完成其工作。如果它失敗，它不應(yīng)該傷害人、財產(chǎn)或環(huán)境。它還必須提供對未經(jīng)授權(quán)訪問的安全防護，保護用戶的隱私，并能夠在意外變化中適應(yīng)和繼續(xù)工作。它還應(yīng)該沒有有害的偏見，并且不應(yīng)該在不同用戶之間進行歧視。

透明度也是關(guān)鍵。貝赫扎丹說，一些人工智能技術(shù)，如用于信用評分或貸款審批的復雜工具，像一個“黑箱”，不允許我們看到我們的數(shù)據(jù)是如何被使用，或者一旦數(shù)據(jù)進入系統(tǒng)后去了哪里。他說，如果系統(tǒng)可以分享它如何使用數(shù)據(jù)，用戶可以看到它如何做出決策，那么更多的人可能愿意分享他們的數(shù)據(jù)。

在許多環(huán)境中，比如醫(yī)療診斷，根據(jù)貝赫扎丹的說法，最值得信賴的人工智能工具應(yīng)該補充人類的專業(yè)知識，并與專家臨床醫(yī)生透明地分享它們的推理。

人工智能開發(fā)者不僅要努力開發(fā)可信賴、道德的工具，還要找到方法來衡量和提高其工具在為預期用戶推出后的可信度。

1. 它會考慮上下文。

人工智能工具的用途數(shù)不勝數(shù)，但特定的工具應(yīng)該對其試圖解決的問題的上下文保持敏感。

在最新的研究中，貝赫扎丹（Behzadan）和共同研究者達比里（Dabiri）創(chuàng)建了一個假設(shè)場景，其中一支由工程師、城市規(guī)劃師、歷史保護專家和政府官員組成的項目團隊被委以重任，負責修復和維護丹佛市中心的一座歷史建筑。這類工作可能很復雜，涉及相互競爭的優(yōu)先事項，比如成本效益、節(jié)能、歷史完整性以及安全性。

研究人員提出了一個名為“PreservAI”的概念性人工智能輔助工具，該工具可以被設(shè)計成平衡各種相互競爭的利益，納入利益相關(guān)者的輸入，分析不同的結(jié)果和權(quán)衡，并與人類合作而不是取代他們的專業(yè)知識。

理想情況下，人工智能工具應(yīng)該盡可能多地納入上下文信息，以便可靠地工作。

1. 它易于使用，并詢問用戶它的表現(xiàn)如何。

人工智能工具不僅應(yīng)該高效地完成工作，還應(yīng)該提供良好的用戶體驗，盡量減少錯誤，吸引用戶，并建立解決潛在挫折的方法，貝赫扎丹說道。

建立信任的另一個關(guān)鍵要素？實際上讓人們使用人工智能系統(tǒng)并挑戰(zhàn)人工智能的結(jié)果。

“即使你擁有最值得信任的系統(tǒng)，如果你不讓人與它互動，他們也不會信任它。如果只有少數(shù)人真正測試過它，你不能期望整個社會都信任并使用它。”他說道。

最后，利益相關(guān)者應(yīng)該能夠就工具的工作效果提供反饋。這種反饋有助于改進工具，使其在未來用戶眼中更具可信度。

1. 當信任喪失時，它會調(diào)整以重建信任。

我們對新技術(shù)的信任可能會隨著時間的推移而改變。一個人可能通常信任新技術(shù)，并且對乘坐自動駕駛出租車感到興奮，但如果他們讀到關(guān)于出租車發(fā)生事故的新聞故事，他們可能會開始失去信任。

貝赫扎丹表示，這種信任可以稍后重建，盡管用戶可能會對工具保持懷疑態(tài)度。

例如，他提到，微軟在2016年推出的“Tay”聊天機器人在其發(fā)布后的幾小時內(nèi)就失敗了，因為它從社交媒體上吸收了有害語言，并開始發(fā)布冒犯性的推文。這一事件引發(fā)了公眾的憤怒。但在同一年晚些時候，微軟發(fā)布了一個新的聊天機器人“Zo”，它擁有更強大的內(nèi)容過濾和其他防護措施。盡管一些用戶批評Zo是一個“受限”的聊天機器人，但其改進的設(shè)計幫助更多人信任了它。

貝赫扎丹表示，完全消除信任人工智能所帶來的風險是不可能的。人工智能系統(tǒng)依賴于人們愿意分享數(shù)據(jù)——系統(tǒng)擁有的數(shù)據(jù)越少，其可靠性就越低。但數(shù)據(jù)被濫用或人工智能未能按預期工作總是存在風險的。

然而，當我們愿意使用人工智能系統(tǒng)并與它們共享數(shù)據(jù)時，這些系統(tǒng)就會在其工作中變得更加出色，也更具可信度。盡管沒有任何系統(tǒng)是完美的，但貝赫扎丹認為其好處大于缺點。

“當人們對人工智能系統(tǒng)有足夠的信任，愿意分享他們的數(shù)據(jù)并與它們有意義地互動時，這些系統(tǒng)可以顯著改進，變得更加準確、公平和有用?！彼f道。

“信任不僅僅是對技術(shù)的好處；它也是人們從人工智能中獲得更多個性化和有效支持的途徑。”

原文：https://www.colorado.edu/today/2025/10/21/5-ways-make-ai-more-trustworthy