關(guān)鍵詞

漏洞

RSAC研究人員發(fā)現(xiàn)一種高成功率繞過蘋果Apple Intelligence AI安全協(xié)議的方法。

Apple Intelligence是深度集成于iOS、iPadOS和macOS的個人智能系統(tǒng)，結(jié)合生成式AI與個人上下文。它主要通過緊湊的端側(cè)大語言模型在蘋果芯片上直接處理任務(wù)，利用用戶獨特上下文（消息、照片和日程）為系統(tǒng)級寫作工具和Siri等功能提供支持。對于更復(fù)雜的推理，它通過私有云計算將請求卸載至蘋果專用云基礎(chǔ)設(shè)施上的更大基礎(chǔ)模型。

RSAC研究團隊對Apple Intelligence進行了安全審查，試圖繞過端側(cè)大語言模型的輸入輸出過濾器（用于阻止惡意輸入和防止不良輸出）及內(nèi)部防護欄以影響其行為。

為此，他們結(jié)合兩種對抗技術(shù)。第一種是Neural Execs——一種已知的提示注入攻擊，使用”亂碼”輸入欺騙AI執(zhí)行攻擊者定義的任意任務(wù)，這些輸入作為通用觸發(fā)器無需針對不同載荷重新制作。

第二種方法是Unicode操縱。研究人員通過將惡意輸出文本反向書寫并使用Unicode從右至左覆蓋功能，成功繞過內(nèi)容限制?！北举|(zhì)上，我們將惡意/冒犯性英文輸出文本反向編碼，使用Unicode技巧強制大語言模型正確渲染，”研究人員解釋。

結(jié)合兩種方法可使攻擊者強制端側(cè)Apple Intelligence大語言模型生成冒犯性內(nèi)容，或更關(guān)鍵地，操縱與Apple Intelligence集成的第三方應(yīng)用中的私有數(shù)據(jù)和功能，如健康數(shù)據(jù)或個人媒體。

該攻擊經(jīng)100個隨機提示測試，成功率達76%。研究人員估計，10萬至100萬用戶已安裝可能易受此類攻擊的應(yīng)用。

“RSAC估計，截至2025年12月，消費者手中已有至少2億臺支持Apple Intelligence的設(shè)備，蘋果應(yīng)用商店已出現(xiàn)使用Apple Intelligence的應(yīng)用——因此它已成為高價值目標，”研究人員指出。

蘋果于2025年10月接到通知，據(jù)RSAC研究，防護措施已在近期iOS 26.4和macOS 26.4中推出。研究人員尚未發(fā)現(xiàn)惡意利用的證據(jù)。

安全圈

網(wǎng)羅圈內(nèi)熱點 專注網(wǎng)絡(luò)安全

實時資訊一手掌握！

好看你就分享 有用就點個贊

支持「安全圈」就點個三連吧！