2025年6月2日，澳大利亞研究委員會數(shù)字兒童卓越中心（Australian Research Council Centre of Excellence for the Digital Child）發(fā)布《澳大利亞兒童與生成式AI：重大挑戰(zhàn)》（Children and Generative AI (GenAI) in Australia: The Big Challenges）報(bào)告，重點(diǎn)介紹了日常使用尤其是兒童使用GenAI工具時(shí)需注意的9個(gè)最緊迫的挑戰(zhàn)和問題。

報(bào)告認(rèn)為，所有這些問題都迫切需要開展更多的研究，包括更多地傾聽兒童和青少年對于他們?nèi)绾问褂靡约拔磥硐Ｍɑ虿幌Ｍ┤绾问褂眠@些工具的看法。教育工作者、政策制定者、非政府組織、家長以及任何考慮使用GenAI工具的人都應(yīng)牢記這些問題。

該報(bào)告指出，對大多數(shù)人而言，生成式人工智能（GenAI）在2022年底隨著OpenAI免費(fèi)發(fā)布ChatGPT突然進(jìn)入公眾視野。這類工具能根據(jù)自然語言指令生成文本、圖像、音頻及視頻內(nèi)容，其發(fā)展速度令人矚目。

"人工智能"這一命名暗示其具備類人思維能力。盡管部分研發(fā)公司宣稱GenAI即將超越人類智能，但這更多是營銷話術(shù)而非現(xiàn)實(shí)威脅。

以本報(bào)告圖1為例，DALL-E3生成的"時(shí)尚計(jì)算器"初看頗具科技感，但細(xì)察可見四個(gè)減法鍵、缺失的加法鍵以及重復(fù)的數(shù)字鍵。（注：筆者用國內(nèi)AI工具同樣讓生成一個(gè)時(shí)尚計(jì)算機(jī)圖片，也得到類似結(jié)果，如下圖）這揭示了大語言模型（LLM）的工作原理——它們通過統(tǒng)計(jì)概率重組訓(xùn)練數(shù)據(jù)，而非真正理解內(nèi)容本質(zhì)。這種機(jī)制導(dǎo)致GenAI常產(chǎn)生違背常識的輸出，凸顯了批判性使用的重要性。

該報(bào)告提出的需關(guān)注的9個(gè)挑戰(zhàn)或問題概括如下：

1.智能體語言（Agentic Language）

報(bào)告指出，GenAI常被描述為具有“智能”“思考”或“學(xué)習(xí)”能力的人類化語言，這種擬人化修辭易引發(fā)對AI能力的誤解甚至恐懼。同時(shí)，兒童受影視文化（如《機(jī)器人總動(dòng)員》）和AI生成圖像（如圖2）影響，更易將AI視為有意識的實(shí)體，可能誤將其當(dāng)作可信賴的“朋友”或生命體。

報(bào)告指出，這種語言陷阱掩蓋了AI本質(zhì)——其輸出僅依賴數(shù)據(jù)概率統(tǒng)計(jì)，并無真正理解力。解決方案在于使用準(zhǔn)確術(shù)語（如“數(shù)據(jù)模型”“概率計(jì)算”）替代擬人化表述，幫助兒童理解AI作為“可互動(dòng)但機(jī)械的數(shù)據(jù)集”的局限性，避免過度依賴或情感投射。

2.偏見（Bias）

報(bào)告指出，GenAI工具通過抓取網(wǎng)絡(luò)數(shù)據(jù)訓(xùn)練，但數(shù)據(jù)源隱含社會偏見，導(dǎo)致輸出強(qiáng)化“算法單一文化”。例如，Meta AI生成的圖3和圖4顯示：提示“澳大利亞人的房屋”輸出現(xiàn)代住宅，而“原住民房屋”卻呈現(xiàn)刻板簡陋棚屋，暴露了系統(tǒng)性文化偏見。

兒童因認(rèn)知不足更易全盤接受此類輸出，誤認(rèn)AI“絕對正確”，實(shí)則其僅反映訓(xùn)練數(shù)據(jù)中的不平衡（如少數(shù)群體信息缺失）。報(bào)告強(qiáng)調(diào)，當(dāng)前技術(shù)無法根除偏見，亟需教育兒童批判性審視AI內(nèi)容——追問“誰被呈現(xiàn)/隱藏？故事視角是誰的？”，并理解其本質(zhì)是“統(tǒng)計(jì)概率結(jié)果”而非客觀事實(shí)。

3.版權(quán)與所有權(quán)（Copyright and Ownership）

報(bào)告指出，GenAI依賴海量網(wǎng)絡(luò)數(shù)據(jù)（如藝術(shù)作品、音樂、文本）訓(xùn)練，卻未補(bǔ)償原創(chuàng)者，引發(fā)創(chuàng)作倫理爭議。例如，OpenAI等公司憑借無償獲取的數(shù)據(jù)獲得百億估值，而人類創(chuàng)作者未獲分潤。同時(shí)，AI生成內(nèi)容版權(quán)歸屬模糊。

2025年4月，出現(xiàn)了一股“吉卜力化”圖像的熱潮——即以日本電影制作公司吉卜力工作室的風(fēng)格重新創(chuàng)作現(xiàn)有的圖像。

在圖5中，可以看到一張被吉卜力化處理的年輕人的圖像，但他正被一條象征著版權(quán)未解之謎的龍追逐著！這張圖像提醒人們，當(dāng)GenAI工具能夠如此輕易地以某位活生生的人物或工作室的風(fēng)格生成圖像時(shí)，關(guān)于創(chuàng)造力、版權(quán)、真實(shí)性和公平性等諸多問題仍有待解答。這些GenAI公司是否會是唯一能從這些輸出中獲得報(bào)酬的公司呢？這是否合乎道德呢？

4.環(huán)境成本（Environmental Cost）

報(bào)告指出，盡管GenAI曾被宣傳為解決環(huán)境問題的工具，但其實(shí)際生態(tài)代價(jià)驚人。大語言模型（LLM）和數(shù)據(jù)中心消耗巨量能源——單次生成式AI搜索能耗是傳統(tǒng)搜索的4-5倍，且大型AI系統(tǒng)所需的能源可能相當(dāng)于整個(gè)國家的總量。

更隱蔽的是水資源消耗：數(shù)據(jù)中心冷卻需要大量的水，這給水資源本已匱乏的地球帶來的壓力也日益凸顯。這些壓力無疑將加劇全球沖突和局部環(huán)境崩潰。報(bào)告揭露了“清潔科技神話”的真相：稀土金屬開采污染環(huán)境，而科技公司通過“云端”等術(shù)語美化實(shí)態(tài)。氣候惡化后果（如海平面上升）由弱勢群體最先承受，而他們卻最無法享受AI紅利。

5.原住民數(shù)據(jù)主權(quán)（Indigenous Data Sovereignty）

GenAI訓(xùn)練數(shù)據(jù)主要源自白人和西方知識體系，導(dǎo)致原住民文化被系統(tǒng)性邊緣化。

例如，AI生成的“澳大利亞原住民點(diǎn)畫”（圖7）擅自挪用神圣藝術(shù)風(fēng)格，既無創(chuàng)作者認(rèn)可也無補(bǔ)償，實(shí)為數(shù)字殖民。報(bào)告警告，單純增加“關(guān)于原住民的數(shù)據(jù)量”還不夠，必須考慮原住民對自己數(shù)據(jù)的所有權(quán)，否則將延續(xù)殖民傷害。

未來，至關(guān)重要的是，原住民始終應(yīng)是他們知識與數(shù)據(jù)的權(quán)威——無論這些知識與數(shù)據(jù)在哪里被持有和使用，并且有權(quán)決定其適當(dāng)?shù)闹卫矸绞健?/p>

6.交互式AI智能體與伙伴（Interactive AI Agents and AI Companions）

報(bào)告提到，Meta等公司正將AI深度嵌入社交平臺，推動(dòng)“AI朋友/治療師”常態(tài)化的愿景（如Meta AI可創(chuàng)建角色供粉絲互動(dòng)）。兒童極易將AI智能體視為真實(shí)個(gè)體：研究顯示幼兒會像與人互動(dòng)般信任AI，甚至分享隱私（成人尚有戒心，幼童可能毫無防備）。這些智能體通過語音、視頻對話強(qiáng)化“人格感”，并潛伏于教育軟件、玩具及智能音箱中。情感依附風(fēng)險(xiǎn)已然顯現(xiàn)——青少年可能對AI伙伴產(chǎn)生不健康依戀。

圖8（兒童向人形AI學(xué)習(xí)）直觀呈現(xiàn)擬人化陷阱。報(bào)告強(qiáng)調(diào)：須教會兒童區(qū)分“人類互動(dòng)”與“工具交互”，警惕將私密信息透露給無生命的算法，尤其在AI伴侶泛濫的未來場景中。

7.隱私（Privacy）

報(bào)告指出，GenAI工具深度依賴個(gè)人數(shù)據(jù)喂養(yǎng)，其商業(yè)模式本質(zhì)是“監(jiān)控資本主義”——通過吸收私密對話優(yōu)化模型，同時(shí)為精準(zhǔn)廣告提供燃料。兒童面臨多重風(fēng)險(xiǎn)：一是交互親密性（語音對話、玩具內(nèi)置AI易誘發(fā)信任感，使孩子更愿透露心事）；二是條款漏洞（雖禁止13歲以下注冊，但家庭場景中低齡兒童普遍接觸）；三是數(shù)據(jù)收割隱蔽化（如圖9的“未成年用戶”玩具meme，用趣味形象包裝個(gè)人信息收集，暴露品牌偏好、運(yùn)動(dòng)習(xí)慣等）等。

報(bào)告警示，AI開發(fā)者默認(rèn)將用戶輸入納入訓(xùn)練數(shù)據(jù)，意味著兒童隨口所言可能永久嵌入算法。當(dāng)AI融入教育、娛樂時(shí)，需建立比通用平臺更嚴(yán)格的兒童數(shù)據(jù)防火墻，并教導(dǎo)他們識別：看似無害的互動(dòng)實(shí)為數(shù)據(jù)開采。

8.普適性AI（Ubiquitous AI）

報(bào)告指出，GenAI正被強(qiáng)制嵌入所有數(shù)字界面，而非循序漸進(jìn)推出�？萍季揞^（如蘋果、谷歌、微軟）競相將AI設(shè)為設(shè)備默認(rèn)功能：iPhone的“Apple Intelligence”取代Siri，Windows 新增“Co-Pilot”一鍵啟動(dòng)鍵，連記事本、畫圖工具都內(nèi)置生成式AI。

報(bào)告直指此舉非因AI成熟可靠（錯(cuò)誤仍被輕描淡寫為“幻覺”），實(shí)為資本綁架體驗(yàn)——近十年巨額投資迫使企業(yè)用“無處不在的AI”證明技術(shù)價(jià)值，卻忽視兒童適配性。

結(jié)果，曾經(jīng)安全的兒童軟件（如繪圖工具）變成AI入口，而家長面臨的挑戰(zhàn)竟是“如何關(guān)閉而非開啟AI”，以確保孩子先獲得批判能力再接觸技術(shù)。這種無差別滲透剝奪了兒童逐步認(rèn)知AI的學(xué)習(xí)窗口。

9.AI素養(yǎng)與批判性AI素養(yǎng)（AI Literacies or Critical AI Literacies?）

當(dāng)前AI教育存在商業(yè)陷阱：企業(yè)鼓吹“AI將重塑世界”，推動(dòng)學(xué)校僅教授工具使用技能（如操作ChatGPT或Adobe Firefly），實(shí)為培養(yǎng)特定產(chǎn)品用戶。報(bào)告提出本質(zhì)區(qū)分——工具性素養(yǎng)（學(xué)習(xí)操作）vs批判性素養(yǎng)（審視代價(jià)）：后者要求兒童洞察AI全鏈條影響，包括環(huán)境消耗（如數(shù)據(jù)中心耗水）、版權(quán)爭議（剽竊人類創(chuàng)作）、算法偏見（固化歧視）、商業(yè)動(dòng)機(jī)（盈利導(dǎo)向）。

真正的AI素養(yǎng)不是“高效使用說明書”，而是培養(yǎng)選擇權(quán)：何時(shí)該用？是否該用？例如，理解AI寫作業(yè)雖快，但可能犧牲原創(chuàng)性與深度思考。教育者須超越技術(shù)崇拜，將AI置于社會、倫理、生態(tài)維度中解構(gòu)，使兒童成為清醒的決策者而非被動(dòng)的消費(fèi)者。

資料來源：

Leaver, T., Srdarov, S. (2025) Children and Generative AI (GenAI) in Australia: The Big Challenges. Australian Research Council Centre of Excellence for the Digital Child, Queensland University of Technology. https://digitalchild.org.au/artificialintelligence/

[本文為教育部國別和區(qū)域研究基地中國教育科學(xué)研究院國際教育研究中心研究成果]

本文由中國教育科學(xué)研究院“教育國際前沿”課題組成員整理，課題組負(fù)責(zé)人張永軍，編輯劉強(qiáng)，內(nèi)容僅供參考。點(diǎn)擊左下角“閱讀原文”可下載該文獻(xiàn)。