近日，《環(huán)球時(shí)報(bào)》刊發(fā)《手機(jī)追求極致智慧化，數(shù)據(jù)安全是基石》一文，聚焦一款搭載AI助手的工程樣機(jī)所引發(fā)的“風(fēng)控風(fēng)波”。這款手機(jī)憑借深度系統(tǒng)集成的AI助手，讓使用者可以通過語音指令完成發(fā)消息、點(diǎn)外賣，甚至控制智能車載系統(tǒng)等復(fù)雜任務(wù)。

AI助手能夠無視開屏廣告，繞過所有的前臺(tái)視覺界面和消費(fèi)誘惑，直達(dá)用戶指令終點(diǎn)。然而沒過幾天，包括多家金融機(jī)構(gòu)在內(nèi)的眾多主流App，紛紛將這款手機(jī)列為“風(fēng)控重點(diǎn)對(duì)象”，采取限制登錄、禁用部分功能等措施，甚至直接拒絕服務(wù)。

一石激起千層浪。如果AI助手不再只是完成指令的工具，而是輔助人類“決策”的代理人，它是否也能替人類承擔(dān)由此帶來的風(fēng)險(xiǎn)與責(zé)任？

當(dāng)AI助手成為手機(jī)的新“幫手”——可以代人們叫外賣、回復(fù)消息、安排行程，甚至在我們忙不過來的時(shí)候自動(dòng)投簡歷、整理文檔、查找資料。這種“代勞型”操作，確實(shí)能高效處理很多瑣事，讓生活變得更省心。但正因?yàn)樗笆裁炊寄茏觥?，人和機(jī)器之間的邊界開始變得模糊：是我在操作手機(jī)，還是手機(jī)在“代替我思考”？

這起事件的背后，不只是廠商和平臺(tái)之間的商業(yè)博弈，更是一場(chǎng)關(guān)于“誰來管AI”的現(xiàn)實(shí)難題。當(dāng)AI助手拿到手機(jī)權(quán)限的“最高通行證”，可以自動(dòng)點(diǎn)開應(yīng)用、讀取信息、下達(dá)指令，幾乎像一個(gè)“無聲的代理人”。然而，它沒有對(duì)應(yīng)的、完善的“責(zé)任制度”來約束。一旦出了問題，如誤點(diǎn)支付、隱私泄露，原本清楚的責(zé)任線也變得模糊起來，當(dāng)風(fēng)險(xiǎn)真正發(fā)生，到底是誰導(dǎo)致的？誰來擔(dān)責(zé)？用戶知情嗎？平臺(tái)設(shè)限嗎？說到底，這些問題現(xiàn)在都懸而未決，沒有答案。

值得警惕的是，當(dāng)前主流AI助手仍存在“黑箱決策”“幻覺生成”等技術(shù)不確定性；尤其在金融交易、醫(yī)療咨詢等高敏感場(chǎng)景中，難以做到完全可控。更棘手的是，AI助手能夠繞過傳統(tǒng)交互界面，在合規(guī)的指令背后悄然執(zhí)行各種操作，讓風(fēng)險(xiǎn)變得不可控。如果AI助手突破身份驗(yàn)證發(fā)起轉(zhuǎn)賬、調(diào)動(dòng)門鎖、刪除文件，甚至訪問隱私數(shù)據(jù)，用戶很可能在事發(fā)之后，才意識(shí)到自身已被“代替”。

AI不能成為免責(zé)的“擋箭牌”。它是技術(shù)工具，而不是“合法替身”；越聰明的AI，越不能在關(guān)鍵節(jié)點(diǎn)“自動(dòng)做主”。權(quán)限可以給，但必須設(shè)限；功能可以強(qiáng)，但必須兜底。真正的挑戰(zhàn)，不在于AI能做多少事，而在于它在哪些事上必須“適可而止”。

管住“聰明過頭”的AI，規(guī)矩得先立住。AI助手再“能干”，也得守規(guī)矩、明責(zé)任。像支付、開門、控制車輛這類高風(fēng)險(xiǎn)操作，必須設(shè)置“多道鎖”——AI可以先跑流程，但關(guān)鍵步驟的權(quán)限與身份認(rèn)證等，須由用戶親自確認(rèn)。同時(shí)，用戶需擁有操作記錄的“回放權(quán)”和“一鍵叫停權(quán)”，確保自己始終掌握主動(dòng)。此外，加快推動(dòng)技術(shù)透明與問責(zé)立法，并明確安全事件的責(zé)任劃分。行業(yè)層面，應(yīng)建設(shè)統(tǒng)一標(biāo)準(zhǔn)和“可信白名單”，堵住AI助手“偷偷越界”的口子。

除了制度兜底，產(chǎn)品設(shè)計(jì)要“向用戶還權(quán)”。AI助手不能僅僅通過冗長難懂的授權(quán)協(xié)議“悄悄接管”，而應(yīng)清晰告知其行為邏輯與權(quán)限邊界，做到“操作透明、權(quán)利明確”。堅(jiān)持“最小可用權(quán)限”原則，讓用戶擁有“隨時(shí)叫?！钡淖杂?。

當(dāng)然，使用者絕不能把AI當(dāng)作“萬能主腦”來依賴。AI可以協(xié)助操作，但不等于可以替你判斷；能提高效率，但不能代替審慎抉擇。在技術(shù)加速推進(jìn)的當(dāng)下，每一位用戶都應(yīng)建立起基礎(chǔ)的AI風(fēng)險(xiǎn)識(shí)別能力，防止把AI當(dāng)作可以托付一切的“生活主管”。

技術(shù)在飛奔，規(guī)則須跟上。社會(huì)治理要與技術(shù)演進(jìn)同步，把制度、責(zé)任與“可控”理念，植入AI運(yùn)行的底層邏輯中。否則，當(dāng)“自動(dòng)化”越來越多滲透用戶決策過程，用戶相應(yīng)地也會(huì)逐步失去判斷力、控制權(quán)。

AI可以幫用戶打理生活，但不能承擔(dān)后果。它能接管手機(jī)的操作，卻接管不了用戶的責(zé)任。越是走在技術(shù)的前沿，越不能忘記規(guī)則的紅線。讓AI跑得快，更要讓規(guī)則照得見，只有這樣，AI方能成為真正可靠的助手，而不是潛在失控的風(fēng)險(xiǎn)源。

來源 | 人民論壇網(wǎng)

責(zé)任編輯 | 王卓怡 王爽