AI聊天機器人讓傾訴變得前所未有的容易，包括那些最沉重的話題。這種開放性一直是一把雙刃劍。OpenAI正在采取措施應(yīng)對這一問題，推出一項新功能，在情況變得嚴重時引入一個可信任的人。

該公司正在推出名為"Trusted Contact"（信任聯(lián)系人）的新功能，目前已開始向成年用戶的ChatGPT設(shè)置頁面推送。用戶可指定一人，當(dāng)ChatGPT檢測到嚴重的自我傷害風(fēng)險時，此人將收到警報。

這項功能如何運作？

設(shè)置信任聯(lián)系人是可選功能。若選擇啟用，需確保被提名者年滿18歲，韓國地區(qū)則為19歲。指定后，該聯(lián)系人將收到邀請，說明這一角色的具體含義，并有一周時間接受，逾期則功能生效。若對方拒絕，用戶可另選他人。

警報系統(tǒng)并非自動觸發(fā)。當(dāng)ChatGPT系統(tǒng)將某段對話標記為潛在風(fēng)險時，聊天機器人會首先告知用戶其信任聯(lián)系人可能被通知，并建議用戶直接聯(lián)系對方，提供對話開場白。隨后，一支經(jīng)過專門培訓(xùn)的人工審核團隊介入評估。僅當(dāng)確認存在嚴重風(fēng)險時，聯(lián)系人才會真正收到通知，方式包括郵件、短信或應(yīng)用內(nèi)推送。警報不會分享聊天記錄或?qū)υ捈毠?jié)，僅說明出現(xiàn)了與自我傷害相關(guān)的潛在風(fēng)險，并請對方主動關(guān)心。OpenAI表示目標是在一小時內(nèi)完成人工審核。

為何此時推出？

信任聯(lián)系人是平臺更廣泛安全功能的一部分。此前，OpenAI已添加功能，允許家長在其關(guān)聯(lián)的青少年賬戶出現(xiàn) distress 跡象時收到警報。信任聯(lián)系人是同一功能面向成年用戶的延伸。據(jù)報道，該功能在開發(fā)過程中聽取了臨床醫(yī)生、研究人員及心理健康組織的意見，包括美國心理學(xué)會。

需要說明的是，信任聯(lián)系人不能替代危機熱線、緊急服務(wù)或?qū)I(yè)心理健康護理。ChatGPT仍會在需要時引導(dǎo)用戶轉(zhuǎn)向這些資源。用戶可隨時移除或更改信任聯(lián)系人，聯(lián)系人也可隨時自行退出。

事實是，無論OpenAI是否預(yù)料到，ChatGPT正被用于一些極為私密的對話。推出信任聯(lián)系人這樣的功能是一個正確的方向，也承認了一件事：聊天機器人的能力終究有限。