歐盟即將禁止生成兒童受侵害材料以及未經(jīng)成年人同意的露骨影像的人工智能工具。

歐洲議會(huì)與歐盟理事會(huì)的談判代表于周四同意禁止這類人工智能系統(tǒng)，但仍需正式立法通過。

預(yù)計(jì)相關(guān)程序?qū)⒃?月初前完成，涵蓋圖像、視頻和音頻。禁令適用于歐盟市場上以生成此類內(nèi)容為目的的人工智能系統(tǒng)，或未采取合理安全措施的系統(tǒng)。企業(yè)須在12月2日前確保其系統(tǒng)符合規(guī)定。

這項(xiàng)安排是圍繞人工智能工具達(dá)成的更廣泛協(xié)議的一部分。

愛爾蘭籍歐洲議會(huì)議員邁克爾·麥克納馬拉表示，他們已推動(dòng)將“去衣化”應(yīng)用納入禁令，這是他們的一項(xiàng)關(guān)鍵訴求。麥克納馬拉是歐洲議會(huì)公民自由、司法與內(nèi)政委員會(huì)的共同報(bào)告人。

他說，他們之所以為此據(jù)理力爭，是因?yàn)槲唇?jīng)同意的私密影像正在成為一種被人工智能工業(yè)化放大的系統(tǒng)性傷害，而受害者絕大多數(shù)是婦女和女孩。

麥克納馬拉還表示，這將是歐盟人工智能法律首次明確寫入此類禁令。

他說，這項(xiàng)協(xié)議為歐盟公民帶來了切實(shí)保護(hù)，他對(duì)所取得的成果感到自豪。歐洲議會(huì)當(dāng)時(shí)有機(jī)會(huì)為婦女和兒童采取行動(dòng)，而他們抓住了這個(gè)機(jī)會(huì)。

互聯(lián)網(wǎng)觀察基金會(huì)近日表示，2025年，人工智能生成的涉及侵害兒童內(nèi)容的視頻數(shù)量較前一年增長超過260倍。

該機(jī)構(gòu)嚴(yán)肅發(fā)出警示，隨著人工智能技術(shù)快速普及，視頻生成大模型、網(wǎng)絡(luò)各類 “去衣化” 違規(guī)應(yīng)用、付費(fèi)訂閱灰色平臺(tái)以及具備自主交互能力的代理型 AI 系統(tǒng)持續(xù)泛濫，正為不法分子大開方便之門。

借助這些新興技術(shù)工具，違法分子得以突破傳統(tǒng)限制，規(guī)模化批量制作、跨平臺(tái)大肆傳播各類非法不良內(nèi)容，惡意篡改真實(shí)未成年人的肖像與影像素材，同時(shí)利用智能算法模擬和兒童虛擬角色進(jìn)行低俗露骨的聊天互動(dòng)，嚴(yán)重侵害未成年人權(quán)益，擾亂網(wǎng)絡(luò)空間秩序，滋生各類網(wǎng)絡(luò)犯罪隱患。

根據(jù)目前已進(jìn)入立法最后階段的新《犯罪與警務(wù)法案》，社交媒體平臺(tái)必須在48小時(shí)內(nèi)刪除被舉報(bào)的未經(jīng)同意影像。

未履行這一義務(wù)的平臺(tái)將面臨高額罰款，或其服務(wù)在英國被封鎖。新規(guī)還將禁止用于人工智能深度偽造的“去衣化”工具。

未經(jīng)同意私密影像案件的受害者，報(bào)案期限將從目前的6個(gè)月延長至最長3年。

盡管《犯罪與警務(wù)法案》看起來將加強(qiáng)對(duì)未經(jīng)同意私密影像問題的打擊，但專家警告，面對(duì)不斷擴(kuò)大的傷害，平臺(tái)還必須采取更多措施。