2025年12月9日，聯(lián)合國(guó)兒童基金會(huì)（UNICEF）發(fā)布更新版《AI與兒童指南》（3.0版），旨在促進(jìn)政府和私營(yíng)部門(mén)在A(yíng)I政策和實(shí)踐中尊重兒童權(quán)利，并提高人們對(duì)AI系統(tǒng)如何維護(hù)或損害這些權(quán)利的認(rèn)識(shí)。據(jù)介紹，這一指南首版發(fā)布于2020年，2021年發(fā)布2.0版及一套實(shí)用的實(shí)施工具（包括家長(zhǎng)AI指南、青少AI指南、政策制定者路線(xiàn)圖等）。3.0版本的推出，源于A(yíng)I技術(shù)（例如生成式AI）的飛速發(fā)展，兒童對(duì)AI系統(tǒng)的使用日益增多，兒童權(quán)利方面涌現(xiàn)出的機(jī)遇與風(fēng)險(xiǎn)，以及AI治理格局的變化。

“2021年，聯(lián)合國(guó)兒童基金會(huì)發(fā)布第二版指南時(shí)，我們指出AI系統(tǒng)正在從根本上改變世界，并影響著當(dāng)代和未來(lái)的兒童。我們觀(guān)察到，算法會(huì)向兒童推薦接下來(lái)觀(guān)看的視頻、閱讀的新聞、聆聽(tīng)的音樂(lè)以及結(jié)交的朋友。如今，生成式AI系統(tǒng)甚至能夠創(chuàng)作視頻、新聞和音樂(lè)。它們聲稱(chēng)自己是兒童的’朋友’，并以這種形象示人。它們不僅幫助兒童學(xué)習(xí)，還替他們做作業(yè)，這可能會(huì)損害兒童在關(guān)鍵發(fā)展階段所需的學(xué)習(xí)和思考能力。正是這些重大變化促成了本次指南的更新�！�

更新內(nèi)容主要為增了以下幾個(gè)重要內(nèi)容：兒童使用的AI助手；AI供應(yīng)鏈，包括童工和受有害及非法內(nèi)容污染的數(shù)據(jù)集；AI系統(tǒng)對(duì)環(huán)境的影響，尤其對(duì)兒童造成影響；AI生成的兒童性虐待材料（CSAM）和非自愿私密圖像（NCII）；以及AI在武裝沖突和網(wǎng)絡(luò)行動(dòng)中的應(yīng)用。新指南還探討了利用AI系統(tǒng)更好地支持學(xué)習(xí)、提高殘疾兒童的學(xué)習(xí)便利性以及改善兒童福祉等機(jī)遇。

該指南文件以《兒童權(quán)利公約》為基礎(chǔ)，提出了以?xún)和癁橹行牡腁I的十項(xiàng)要求及48項(xiàng)建議，具體如下：

1.確保以?xún)和癁橹行牡腁I的監(jiān)管框架、監(jiān)督和合規(guī)性

• 審查、更新并在必要時(shí)制定全面的AI相關(guān)監(jiān)管框架，以納入兒童權(quán)利。

• 建立監(jiān)督或監(jiān)管機(jī)構(gòu)，或?qū)⒙氊?zé)分配給現(xiàn)有機(jī)構(gòu)，以確保遵守AI原則和法律，并建立補(bǔ)救支持機(jī)制。

• 確保政府AI系統(tǒng)符合AI相關(guān)法律和兒童權(quán)利法。

2.保障兒童安全

• 要求在A(yíng)I戰(zhàn)略、政策、法律法規(guī)中強(qiáng)制進(jìn)行AI系統(tǒng)對(duì)兒童權(quán)利的影響評(píng)估。

• 在A(yíng)I開(kāi)發(fā)的整個(gè)生命周期中，持續(xù)評(píng)估和監(jiān)測(cè)AI對(duì)兒童的影響，并公開(kāi)評(píng)估結(jié)果。

• 要求對(duì)AI系統(tǒng)進(jìn)行安全性、可靠性和穩(wěn)健性測(cè)試。

• 消除AI生成、傳播和/或放大的有害和非法內(nèi)容對(duì)兒童造成的傷害，并降低其風(fēng)險(xiǎn)，包括虛假信息/錯(cuò)誤信息、網(wǎng)絡(luò)欺凌和詐騙。

• 防止利用AI對(duì)兒童實(shí)施犯罪，例如性虐待和性剝削兒童。

• 應(yīng)對(duì)AI聊天機(jī)器人或智能助手帶來(lái)的風(fēng)險(xiǎn)。

• 保護(hù)兒童免受AI在武裝沖突和網(wǎng)絡(luò)行動(dòng)中的有害使用。

• 在適當(dāng)情況下，利用AI系統(tǒng)促進(jìn)兒童安全，并支持兒童保護(hù)工作。

3.保護(hù)兒童數(shù)據(jù)和隱私

• 負(fù)責(zé)任地處理與兒童相關(guān)的數(shù)據(jù)。

• 采用隱私設(shè)計(jì)方法。

• 保護(hù)特定群體。

• 提升兒童的數(shù)據(jù)自主權(quán)。

4.確保兒童享有非歧視和公平待遇

• 積極支持處于弱勢(shì)或易受傷害境地的兒童，使他們能夠從AI系統(tǒng)中受益。

• 減少針對(duì)兒童或特定兒童群體的偏見(jiàn)，避免歧視和排斥。

5.為兒童提供透明度、可解釋性和問(wèn)責(zé)制

• AI系統(tǒng)應(yīng)事先明確告知兒童及其監(jiān)護(hù)人，他們正在與AI而非人類(lèi)互動(dòng)。

• 在推廣AI系統(tǒng)的可解釋性和透明度時(shí)，應(yīng)明確關(guān)注兒童，并避免將此類(lèi)系統(tǒng)擬人化。

• 使用適合兒童年齡的語(yǔ)言描述AI。

• 設(shè)計(jì)、開(kāi)發(fā)和部署AI系統(tǒng)時(shí)，應(yīng)確保其能夠根據(jù)法律和政策框架保護(hù)和支持兒童用戶(hù)，無(wú)論兒童對(duì)系統(tǒng)的理解如何。

6.通過(guò)負(fù)責(zé)任的AI實(shí)踐尊重人權(quán)和兒童權(quán)利

• 確保在所有涉及AI的數(shù)字商業(yè)活動(dòng)中尊重兒童權(quán)利。

• 確保從數(shù)據(jù)到硬件的所有投入都基于權(quán)利，并消除所有階段的童工和剝削現(xiàn)象。

• 確保為高層管理人員和AI生命周期中的相關(guān)人員（包括設(shè)計(jì)師、開(kāi)發(fā)人員和研究人員）提供AI和兒童權(quán)利方面的能力建設(shè)，并承諾采取行動(dòng)。

• 充分利用客戶(hù)對(duì)值得信賴(lài)且透明的兒童AI解決方案的需求。

7.支持兒童的最大利益、發(fā)展和福祉

• 優(yōu)先考慮AI如何造福兒童，尤其是在A(yíng)I政策、法律和系統(tǒng)中。

• 開(kāi)發(fā)并應(yīng)用以?xún)和瘷?quán)利為導(dǎo)向的設(shè)計(jì)方法。

• 整合指標(biāo)和流程，以支持兒童在使用AI時(shí)的福祉。

• 解決AI和數(shù)字基礎(chǔ)設(shè)施對(duì)環(huán)境造成的負(fù)面影響。

• 利用AI系統(tǒng)支持和提高環(huán)境可持續(xù)性，包括確�？沙掷m(xù)的AI價(jià)值鏈。

8.確保兒童參與并惠及兒童

• 支持兒童有意義地參與AI政策和治理，以及設(shè)計(jì)、開(kāi)發(fā)和部署過(guò)程。

• 在開(kāi)發(fā)兒童將使用或?qū)ζ洚a(chǎn)生影響的AI產(chǎn)品時(shí)，采用包容性設(shè)計(jì)方法。

• 努力確保參與設(shè)計(jì)、開(kāi)發(fā)、實(shí)施、研究、監(jiān)管和監(jiān)督兒童可能使用或受其影響的AI系統(tǒng)的人員多元化，包括收集和處理AI數(shù)據(jù)的人員。

9.為兒童應(yīng)對(duì)AI的當(dāng)前和未來(lái)發(fā)展做好準(zhǔn)備并培養(yǎng)其技能

• 開(kāi)發(fā)或更新正規(guī)和非正規(guī)的AI素養(yǎng)教育項(xiàng)目，并加強(qiáng)在A(yíng)I時(shí)代（包括未來(lái)工作場(chǎng)所）取得成功所需的生活技能和技術(shù)技能。

• 對(duì)教師進(jìn)行AI方面的培訓(xùn)、裝備和支持，使他們成為教學(xué)的核心，而不是取代他們。

• 為教師、學(xué)校和教育部門(mén)提供指導(dǎo)，以有效地采購(gòu)和部署AI并降低風(fēng)險(xiǎn)。

• 在適當(dāng)且有證據(jù)支持的情況下，利用AI系統(tǒng)進(jìn)行教育。

• 針對(duì)家長(zhǎng)、監(jiān)護(hù)人和整個(gè)社會(huì)，開(kāi)展并推廣AI相關(guān)的宣傳活動(dòng)。

• 管理AI對(duì)未來(lái)工作的影響，以維護(hù)兒童權(quán)利。

10.為以?xún)和癁橹行牡腁I創(chuàng)造有利環(huán)境

• 支持基礎(chǔ)設(shè)施建設(shè)，以縮小數(shù)字鴻溝，力求公平分享AI帶來(lái)的益處。

• 投資、調(diào)動(dòng)資源并制定激勵(lì)措施，以支持以?xún)和癁橹行牡腁I政策和項(xiàng)目。

• 支持在A(yíng)I系統(tǒng)生命周期內(nèi)開(kāi)展面向兒童和與兒童共同參與的AI研究。

• 為公共利益和維護(hù)兒童權(quán)利，開(kāi)展數(shù)字合作。

• 在政府和商業(yè)實(shí)踐中，倡導(dǎo)多方利益相關(guān)者參與。

• 支持構(gòu)建可互操作的AI、數(shù)據(jù)和數(shù)字治理體系，為世界各地的兒童提供平等的機(jī)會(huì)和保護(hù)。

跨領(lǐng)域考量

• 適應(yīng)國(guó)家或地方實(shí)際情況。

• 運(yùn)用前瞻性思維，更好地預(yù)測(cè)和管理AI。

• 為未來(lái)做好準(zhǔn)備。

資料來(lái)源：

UNICEF. Guidance on AI and Children 3.0. https://www.unicef.org/innocenti/media/11991/file/UNICEF-Innocenti-Guidance-on-AI-and-Children-3-2025.pdf

[本文為教育部國(guó)別和區(qū)域研究基地中國(guó)教育科學(xué)研究院國(guó)際教育研究中心成果]

本文由中國(guó)教育科學(xué)研究院“教育國(guó)際前沿”課題組成員整理，課題組負(fù)責(zé)人張永軍，編輯劉強(qiáng)，內(nèi)容僅供參考。點(diǎn)擊左下角“閱讀原文”可下載該文獻(xiàn)。

本文為原創(chuàng)，轉(zhuǎn)載請(qǐng)注明。