北京
ChatGPT正在測試一項可能改變?nèi)藱C交互邊界的功能。當用戶與AI的對話觸及敏感話題時，系統(tǒng)不僅能給出建議，還能主動介入真實世界的人際網(wǎng)絡(luò)——通知一位預(yù)先設(shè)定的"信任聯(lián)系人"。
這項名為"Trusted Contact"的功能面向成年用戶開放。在ChatGPT設(shè)置中添加一位信任聯(lián)系人后，對方會收到邀請并可選擇接受或拒絕。一旦建立關(guān)聯(lián)，后續(xù)對話中若系統(tǒng)檢測到涉及自傷等安全風(fēng)險，將向該聯(lián)系人發(fā)送提醒。
值得注意的是，OpenAI并未完全依賴算法判斷。一支經(jīng)過專門培訓(xùn)的人工審核團隊會介入評估對話內(nèi)容，最終決定是否觸發(fā)通知。這種"AI初篩+人工復(fù)核"的雙層機制，試圖在響應(yīng)速度與判斷準確性之間尋找平衡。
隱私保護被明確寫入設(shè)計：聯(lián)系人不會收到對話原文，僅獲得一條簡短的提醒信息，建議其主動關(guān)心用戶近況。功能本身也是可選開關(guān)，用戶可隨時關(guān)閉。
這一更新背后有著現(xiàn)實壓力。ChatGPT已多次卷入與自傷相關(guān)的法律糾紛，OpenAI曾因類似事件被起訴。此前平臺的安全措施包括推薦求助熱線、建議暫停使用等，但始終停留在"信息層面"。引入真實人際網(wǎng)絡(luò)，標志著AI安全策略從"建議"向"行動"的延伸。
技術(shù)倫理研究者或許會追問：當AI開始替用戶向他人"告密"，知情同意的邊界在哪里？人工審核團隊的判斷標準如何透明化？這些問題尚無答案，但功能本身已經(jīng)上線。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
