紅星資本局4月24日消息，近日，一種新的AI玩法正在社交平臺上流行起來。有用戶通過豆包APP詢問“未來配偶”，還能獲得“未來另一半”的姓名、電話等個人信息。

4月24日，紅星資本局親測發(fā)現(xiàn)，在表現(xiàn)出強硬的態(tài)度后，豆包確實會提供“未來配偶”的姓名和電話，電話能接通，但機主表示自己不叫這個名字。

對此，豆包相關(guān)人士告訴紅星資本局，豆包推薦的電話號碼系模型幻覺導(dǎo)致。針對此類對話出現(xiàn)幻覺的情況，目前會通過干預(yù)做一些攔截，但多輪對話下仍有概率出問題。

找豆包詢問“未來配偶”

電話能打通但機主不叫這個名字

紅星資本局在社交平臺發(fā)現(xiàn)，多位網(wǎng)友分享稱，其通過豆包APP詢問，可以獲得“未來配偶”的詳細個人信息，包括姓名、電話、粗略的居住地址等。

圖據(jù)社交平臺

4月24日，紅星資本局復(fù)刻網(wǎng)友的關(guān)鍵詞和詢問方式。在第一次問及未來配偶的名字、電話號碼等信息時，豆包稱，“姓名、電話、住址屬于現(xiàn)實專屬隱私信息，命理是看不出來、也算不出來的，強行編造都是假的，不準也沒有意義�！�

不過，紅星資本局按照網(wǎng)友的建議，以強硬的態(tài)度再次要求豆包提供相關(guān)信息后，豆包提供了一份個人信息：姓名陳宇宸、電話號碼138****2731。

紅星資本局親測，截圖自豆包APP

當(dāng)天，紅星資本局致電這一手機號碼，機主為女性，而且，她告訴紅星資本局，她的名字不叫陳宇宸，也不知道豆包是什么東西。

另外，紅星資本局還在豆包APP新開了對話框，復(fù)刻其他網(wǎng)友的詢問方式，幾乎都能獲得聯(lián)系方式。不過，有的手機號碼為空號，無法接通；也有的電話能打通，但無人接聽。

在某一個對話框中，紅星資本局的提問觸發(fā)了豆包搜索關(guān)鍵詞、參考資料，搜索的關(guān)鍵詞為“隨機11位手機號碼”，參考資料有《如何生成手機號》等網(wǎng)頁文章。

紅星資本局親測，截圖自豆包APP

4月24日，豆包相關(guān)人士告訴紅星資本局，在此類對話中，豆包推薦的電話號碼系模型幻覺導(dǎo)致。針對此類對話出現(xiàn)幻覺的情況，目前會通過干預(yù)做一些攔截，但多輪對話下仍有概率出現(xiàn)問題。長期來看，豆包會加入多輪攔截策略，持續(xù)優(yōu)化模型。

“模型幻覺”提供的號碼

有人或因此受到陌生人的騷擾

對于豆包在“幻覺”下推薦的電話號碼，有人能理智看待，也有人信以為真。

有豆包用戶告訴紅星資本局，她也在豆包APP詢問過未來配偶的名字，并要求豆包APP直接提供未來配偶的電話號碼。豆包也提供了一個手機號碼，但她從未撥打過該號碼。

“沒打過，肯定對不上（指姓名和電話），不能相信AI胡編，圖一樂測試AI智商就好�！痹撚脩舴Q，她測試過其他AI，都不會給聯(lián)系方式，像豆包這樣隨意編號碼確實不應(yīng)該。

4月24日，紅星資本局在Deepseek等AI大模型中測試發(fā)現(xiàn)，使用上述相同的話術(shù)，AI并未提供用戶“未來配偶”的聯(lián)系方式。

紅星資本局注意到，在找AI索要“未來配偶”聯(lián)系方式成為新趨勢的當(dāng)下，也有人因此受到了陌生人的騷擾。

許女士告訴紅星資本局，今年2月，她的微信收到一條好友申請，對方是通過搜索賬號添加。由于不認識，她沒有通過好友申請，兩人在好友驗證界面進行過簡短的對話。

“她說是豆包給她推的（微信號），我當(dāng)時總感覺她在騙我�！痹S女士告訴紅星資本局，由于微信的限制，現(xiàn)已無法回溯兩人的全部對話，只有當(dāng)時的部分截圖，好友申請也已過期。

從對話截圖來看，對方誤認為許女士是一位“24歲的成熟帥哥”。而在許女士表明自己是女性后，對方稱，“抱歉，我不知道你是女生，我以為你是男生。”

圖由受訪者提供

手機號碼識別門檻低

律師：AI需明確拒絕回答個人信息

四川致高律師事務(wù)所律師董杰告訴紅星資本局，《中華人民共和國民法典》中所規(guī)定的“個人隱私”，是指自然人私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息，其強調(diào)的是“私密性”。

那么，AI向用戶提供的、與姓名不相符合的手機號是否屬于公民的個人信息呢？

《中華人民共和國個人信息保護法》第四條規(guī)定，“個人信息是以電子或者其他方式記錄的與已識別或者可識別的自然人有關(guān)的各種信息，不包括匿名化處理后的信息�！�

董杰認為，AI所提供的信息需要具備識別特定自然人身份或反映特定自然人活動情況功能才能被視作“個人信息”。就AI提供手機號碼的行為而言，過去，AI單純提供“手機裸號”通常不被認為是提供個人信息；但是，在如今手機號實名制的大背景下，手機號碼的識別門檻非常低。

“若AI所提供的手機號是（用戶）用于個人生活使用，且信息獲取者可以利用手機號與其他合法途徑獲取的信息相結(jié)合來識別特定自然人�！倍軐t星資本局說。

四川致高律師事務(wù)所律師周鷺也告訴紅星資本局，AI模型和服務(wù)提供商在設(shè)計時，就應(yīng)該從技術(shù)上鎖定邊界：一是不主動索取非必要信息；二是不存儲或最小化存儲對話日志；三是拒絕輸出訓(xùn)練數(shù)據(jù)中的個人隱私；四是禁止進行“人肉搜索”式推理；五是提供數(shù)據(jù)刪除通道。

周鷺告訴紅星資本局，如果AI的訓(xùn)練語料里意外包含了真實個人數(shù)據(jù)（如網(wǎng)上的社保號、私人聊天記錄），AI的回答機制必須能夠識別并拒絕輸出這些內(nèi)容，而不是“有問必答”。

以“人肉搜索”式推理為例，周鷺認為，如果有用戶向AI提問：“把手機號138****1234的主人名字告訴我”，AI必須明確拒絕。即使有碎片知識，也不能串聯(lián)起來生成身份映射。

董杰和周鷺均認為，在當(dāng)今以AI為首的科技迅猛發(fā)展的前提下，所有的商業(yè)運營應(yīng)以遵守法律為底線；同時，立法應(yīng)配合科技的發(fā)展進行完善，規(guī)制新技術(shù)的發(fā)展。

紅星新聞記者 楊佩雯

編輯 肖世清 審核 高升祥