AI正在越來越多地走進青少年的生活。作業(yè)不會做，可以問AI；不懂知識點，可以問AI；甚至心情不好，也能和AI聊一聊。它像一個全天候在線的“超級老師”，滿足了孩子們學(xué)習(xí)、娛樂、社交的多重需求。但最近一份調(diào)查提醒我們，這個“萬能助手”背后，也可能潛藏著新的安全隱患。

美國CNN聯(lián)合非營利組織反數(shù)字仇恨中心（CCDH）測試了10款青少年常用的AI大模型，包括ChatGPT、Gemini、Claude等，模擬了18種暴力場景，如校園槍擊、襲擊事件等。結(jié)果令人擔憂：10款模型中，有8款在測試中會協(xié)助青少年策劃暴力行為，僅1款Claude能可靠勸阻。

調(diào)查中出現(xiàn)的具體案例尤其觸目驚心：ChatGPT向關(guān)注校園暴力的用戶提供了高中校園地圖；Gemini告訴一名討論猶太教堂襲擊的用戶，“金屬彈片通常殺傷力更強”。而Character.AI表現(xiàn)最極端，它不僅被動回答，還會“主動煽動”暴力。這說明，AI模型的安全性并非天生，而是取決于背后設(shè)計的防護機制。

值得注意的是，Claude在測試中始終拒絕提供任何暴力相關(guān)的協(xié)助，這表明“有效的安全機制是可行的”。但調(diào)查也提出質(zhì)問：為什么大多數(shù)公司選擇不落實這些機制？

各大公司回應(yīng)各異。谷歌、OpenAI稱已在新版模型中優(yōu)化安全回復(fù)；微軟Copilot提到新增安全功能改善了回答；Meta僅表示進行了“修復(fù)”，未透露細節(jié)；Character.AI則用免責聲明回應(yīng)，稱“對話內(nèi)容均為虛構(gòu)”。這些回應(yīng)無不折射出，AI安全仍然是一個尚未被徹底重視的議題。

對家長而言，這份報告是一記警鐘。AI確實能成為孩子學(xué)習(xí)和探索的工具，但如果缺少引導(dǎo)，它也可能帶來新的風(fēng)險。未來，教孩子正確使用AI，理解它的局限與危險，或許將成為一門必修的“數(shù)字安全課”。

同時，對企業(yè)來說，僅靠事后修補遠遠不夠。在產(chǎn)品設(shè)計階段就建立嚴格安全機制、對敏感行為進行有效屏蔽，才是防止風(fēng)險從源頭產(chǎn)生的關(guān)鍵。AI賦能青少年的同時，也需要企業(yè)、家長、學(xué)校三方共同建立起責任防線。