當數(shù)字技術深度融入經(jīng)濟社會，重塑未來生活圖景，如何讓創(chuàng)新不越界、發(fā)展不失序？如何保障算法公平和個人隱私？如何彌合數(shù)字鴻溝？推進數(shù)字教育過程中，如何充分尊重教學規(guī)律和教育本質(zhì)？為指導數(shù)字技術穩(wěn)健向善發(fā)展，防范數(shù)字技術科技倫理風險，中國科協(xié)正式發(fā)布《數(shù)字技術倫理規(guī)范導則指南》。

無論是數(shù)字技術研發(fā)者、平臺運營者，還是每一位數(shù)字技術的使用者，這份指南都將與你我息息相關，一起來看這份清晰的行動指引，共同守護安全、公平、包容的數(shù)字生態(tài)環(huán)境→

為貫徹落實《“十四五”國家信息化規(guī)劃》，進一步健全規(guī)范有序的數(shù)字化發(fā)展治理體系，中國科協(xié)組織專家學者，在深入調(diào)研國內(nèi)外現(xiàn)有的數(shù)字技術倫理治理相關法律法規(guī)、標準、規(guī)范、指南的基礎上，制定了《數(shù)字技術倫理規(guī)范導則指南》（以下簡稱《指南》）。

一、回應發(fā)展關切

當前，數(shù)字技術已深度融入研發(fā)應用全環(huán)節(jié)，數(shù)字經(jīng)濟已成為全球發(fā)展的核心動力，但同時暴露出的責任界定不清、倫理標準缺失等突出問題，衍生出的規(guī)則沖突、數(shù)據(jù)壟斷、算法歧視、數(shù)字鴻溝等倫理隱患，制約著數(shù)字技術穩(wěn)健向善發(fā)展。

在此背景下，《指南》以“防范科技倫理風險、實現(xiàn)精準數(shù)字治理”為目標，通過明確倫理原則、規(guī)范操作要求、強化多方協(xié)同，保障數(shù)字技術賦能經(jīng)濟升級、社會進步與生態(tài)可持續(xù)發(fā)展，為加快建設數(shù)字中國、推動構(gòu)建數(shù)字命運共同體筑牢倫理根基。

二、聚焦倫理痛點

《指南》重點瞄準數(shù)字技術研發(fā)應用中的各類潛在倫理痛點。例如，在合規(guī)管理方面，個人信息過度收集、違規(guī)共享問題頻發(fā)，部分平臺借數(shù)據(jù)壟斷阻礙市場公平競爭，合理的數(shù)據(jù)要素流動受到限制；在算法與數(shù)據(jù)治理方面，算法偏見、數(shù)據(jù)安全隱患、技術使用門檻高等問題易引發(fā)身份歧視，破壞社會公平；在風險防控方面，不成熟技術的盲目部署易引發(fā)公眾負面情緒與資源浪費，并存在監(jiān)管滯后或過度干預等治理失衡問題；此外，不同能力群體面臨技術使用障礙，制度性數(shù)字鴻溝問題突出。

針對上述痛點，《指南》提出系統(tǒng)性解決方案，包括明確倫理原則確立價值基準、規(guī)范倫理要求劃定操作邊界、加強能力建設夯實治理基礎、推動協(xié)同治理凝聚多方合力、開展監(jiān)測評估實現(xiàn)動態(tài)優(yōu)化。其中，能力建設環(huán)節(jié)特別兼顧了就業(yè)保障、生態(tài)保護與和平發(fā)展目標，全方位護航數(shù)字技術可持續(xù)賦能。

三、突出三大特色

一是以系統(tǒng)性與完整性構(gòu)建全鏈條倫理治理架構(gòu)。圍繞數(shù)字技術倫理治理的核心環(huán)節(jié)構(gòu)建起閉環(huán)體系，從明確“技術向善”等底層倫理原則確立價值導向，細化研發(fā)應用各階段的倫理要求，以能力建設提升主體素養(yǎng)，以協(xié)同治理凝聚多方合力，以監(jiān)測評估實現(xiàn)動態(tài)優(yōu)化，覆蓋了從技術源頭到應用落地的全流程。

二是以針對性與可操作性精準回應實踐痛點。通過明原則、定要求、給路徑、強評估，讓各參與主體清晰知曉“該遵循什么、該怎么做”。緊扣數(shù)字技術發(fā)展中的主要倫理矛盾，明確了四大倫理原則，提出了五項明確要求：第一，要求技術全生命周期嚴守法規(guī)與倫理底線，規(guī)范數(shù)據(jù)流動、保護知識產(chǎn)權；第二，對數(shù)字技術自動生成的服務和內(nèi)容加設醒目區(qū)分標識，為高風險服務標注風險提示，化解算法偏見誤導、用戶技術風險認知不足等治理難題；第三，明確服務授權機制，特殊群體需監(jiān)護人同意，為拒絕數(shù)字服務的用戶提供等效替代方案；第四，強化敏感信息全流程保護，建立授權與撤銷機制，落實未成年人信息監(jiān)護人專屬管理；第五，建立技術成熟度評估機制，杜絕技術濫用，確保達標后再規(guī)模化落地。在能力建設層面，聚焦應用場景適配、技術支撐搭建等維度，給出了具體實操路徑。最后，強調(diào)建立監(jiān)測評估機制，為規(guī)范執(zhí)行提供依據(jù)，便于各主體對照自查、迭代優(yōu)化。

三是以協(xié)同性與多元性凝聚多方共治合力。數(shù)字技術倫理問題涉及面廣、關聯(lián)性強，僅靠單一主體難以有效應對，呼吁構(gòu)建“多方協(xié)同、共建共享”的倫理治理格局，引導各方力量明確職責、良性互動，形成上下聯(lián)動、內(nèi)外協(xié)同的治理合力，推動倫理治理從“被動應對”轉(zhuǎn)向“主動共治”。

四、注重四個強化

一是強化主體責任。倡導科研機構(gòu)、企業(yè)將倫理要求嵌入研發(fā)與運營全流程。企業(yè)可結(jié)合自身業(yè)務特點設立倫理審查機制，對新產(chǎn)品、新服務開展倫理評估；科研項目可將倫理考量納入立項、實施等關鍵環(huán)節(jié)，從源頭規(guī)避潛在倫理風險。同時，明確“最終應由人類承擔責任”的責任歸屬原則，為數(shù)字技術全流程倫理責任劃定根本歸屬。

二是強化分類施策。倡導針對不同技術領域、應用場景制定差異化落實方案。強調(diào)將專屬倫理要求與領域特性深度結(jié)合，制定符合學術規(guī)律與行業(yè)實際的倫理審查規(guī)范、技術應用指引及風險評估手冊，為有關單位開展倫理審查提供專業(yè)依據(jù)，推動行業(yè)形成統(tǒng)一的倫理審查標準與實踐路徑，實現(xiàn)“一類一策”的精細化治理。

三是強化社會協(xié)同。倡導以多元方式構(gòu)建“政府引導、行業(yè)自律、公眾參與”的社會協(xié)同體系，凝聚數(shù)字倫理治理合力。一方面，通過教育、培訓、科普提升全民數(shù)字素養(yǎng)，引導公眾正確認知技術倫理風險、規(guī)避隱患，減少技術誤解與非理性炒作；另一方面，推動媒體案例宣傳、學校課程融入、學（協(xié)）會自律，夯實共識基礎。

四是強化全球協(xié)作。倡導積極參與國際數(shù)字倫理規(guī)則制定，加強與各國科研機構(gòu)、企業(yè)的倫理治理經(jīng)驗交流，推動構(gòu)建公平合理的全球數(shù)字倫理治理體系，助力數(shù)字命運共同體建設。

數(shù)字技術倫理規(guī)范導則指南

一、目的

為指導數(shù)字技術穩(wěn)健向善發(fā)展，防范數(shù)字技術研發(fā)與應用過程中的科技倫理風險，實現(xiàn)數(shù)字治理精準高效，保障數(shù)字技術更好賦能經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，加快建設數(shù)字中國、推動構(gòu)建數(shù)字命運共同體，研究提出數(shù)字技術倫理規(guī)范導則指南。

二、術語

（一）數(shù)字技術（digital technology）

利用電子計算機、互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等現(xiàn)代信息通信技術，對信息進行采集、處理、傳輸、存儲、分析和應用的一系列技術總稱。它打破了傳統(tǒng)的時間和空間限制，實現(xiàn)了信息的高速流動和資源的優(yōu)化配置。

（二）數(shù)字經(jīng)濟（digital economy）

以數(shù)字技術為核心驅(qū)動力，以數(shù)據(jù)資源為關鍵要素，以現(xiàn)代信息網(wǎng)絡為主要載體，以信息通信技術融合應用、全要素數(shù)字化轉(zhuǎn)型為重要推動力，促進公平與效率更加統(tǒng)一的新經(jīng)濟形態(tài)。

（三）數(shù)據(jù)要素（data factor）

投入到生產(chǎn)經(jīng)營活動、參與價值創(chuàng)造的數(shù)據(jù)資源。

（四）數(shù)字治理（digital governance）

通過數(shù)字技術實現(xiàn)公共價值創(chuàng)造的系統(tǒng)性過程，包含政策制定、制度安排、技術應用、組織協(xié)調(diào)等要素。

（五）科技倫理（science & technology ethics）

開展科學研究、技術開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，旨在促進科技健康發(fā)展、防范科技濫用風險，確?？萍蓟顒臃先祟惛ｌ?、社會公平和生態(tài)保護的要求。

三、基本原則

（一）以人為本，數(shù)字向善

數(shù)字技術應以人類需求、利益與福祉為根本出發(fā)點，秉持審慎負責的科技向善理念，尊重人的主體地位和尊嚴，保障合法權益，避免技術應用損害人類身心健康，或?qū)ΜF(xiàn)有社會生態(tài)與秩序造成顛覆性沖擊，將倫理要求貫穿于技術全生命周期，確保數(shù)字技術服務于人類健康發(fā)展、生活品質(zhì)改善與創(chuàng)造力提升，實現(xiàn)技術發(fā)展與人文關懷的統(tǒng)一。

（二）公正公平，數(shù)字普惠

數(shù)字技術的發(fā)展應尊重、保護并促進人的自由與平等，保障不同種族、膚色、性別、年齡、語言、宗教及能力差異的群體在數(shù)字環(huán)境中獲得平等對待，依法享有數(shù)字領域的參與權、發(fā)展權與成果共享權，不因先天稟賦或后天條件被排斥于數(shù)字發(fā)展進程之外。防范數(shù)據(jù)要素流動受限、數(shù)字平臺壟斷等問題，從制度保障層面彌合數(shù)字鴻溝，推動數(shù)字發(fā)展的均衡性與包容性，讓數(shù)字技術真正惠及全人類。

（三）技術可信，信息安全

在數(shù)字技術應用的全生命周期，堅持技術可信與信息安全，增強數(shù)字技術應用的透明性、可解釋性、可靠性與可控性，實現(xiàn)數(shù)字技術應用的可審核、可監(jiān)督、可追溯、可信賴；保障數(shù)據(jù)、平臺、數(shù)字環(huán)境的安全穩(wěn)定，防范數(shù)據(jù)泄露、濫用、信息篡改、系統(tǒng)漏洞等風險。高度關注數(shù)據(jù)信息的安全保障與技術的可信度，提升技術魯棒性和抗干擾能力，強化全流程安全設計、規(guī)范操作及安全評估與風險管控，筑牢數(shù)字技術發(fā)展的安全防線。

（四）包容互鑒，開放合作

搭建開放、包容的數(shù)字交流平臺，助力不同文化間的溝通理解與共識凝聚，增進國際互信、管控分歧。以全球視野踐行數(shù)字技術發(fā)展的共同價值，為構(gòu)建數(shù)字命運共同體、實現(xiàn)人類共同發(fā)展奠定理念基礎。

四、倫理要求

（一）合法合規(guī)

數(shù)字技術的研發(fā)、部署、應用與推廣，須嚴格遵守國家法律法規(guī)、行業(yè)監(jiān)管規(guī)定及科技倫理要求，合法開展數(shù)據(jù)要素流動，規(guī)范數(shù)字技術和內(nèi)容的發(fā)布、制作與傳播。尊重和維護著作權、商標權、專利權等知識產(chǎn)權，杜絕制造、復制、傳播虛假內(nèi)容，防范剽竊、篡改、假冒等侵害個人或組織合法權益的行為，恪守公序良俗與社會倫理共識。

（二）數(shù)字標識

針對數(shù)字技術自動生成的服務和內(nèi)容，須通過醒目、易識別的標識，明確區(qū)分于人類創(chuàng)作成果，避免用戶混淆。對存在算法偏見、數(shù)據(jù)安全隱患、使用門檻較高等潛在風險的數(shù)字技術服務，應設置清晰的警示標識，明確提示風險類型及注意事項，保障用戶對技術服務的風險認知權。

（三）知情同意

在為用戶提供數(shù)字技術自動生成的服務及內(nèi)容前，需先獲取其明確同意，若用戶拒絕，須提供人工或非數(shù)字技術類、可滿足核心需求的替代方案；向未成年人或因認知障礙等喪失/部分喪失民事行為能力的群體提供服務時，還須額外獲得其法定監(jiān)護人或看護人的知情與明確同意。

（四）隱私保護

嚴格保護數(shù)字技術應用中所涉及的包括生物識別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等在內(nèi)的個人隱私與敏感個人信息。對個人信息進行收集、存儲、使用、加工、傳輸、提供、公開、刪除等處理，須事先告知本人并獲得明確同意；對基于生物特征數(shù)據(jù)等敏感個人信息自動生成數(shù)字內(nèi)容的相關行為，應建立完善的授權與撤銷機制；處理未成年人信息時，須取得其監(jiān)護人的明確同意。

（五）風險防控

采取有效措施避免數(shù)字技術的誤用、濫用、惡用，防范技術用于散播負面價值觀、顛覆社會秩序、危害安全穩(wěn)定及違法犯罪等風險。以提供高質(zhì)量服務為目標，盡可能避免因不成熟技術的部署和推廣引發(fā)公眾情緒、資源浪費及社會風險。應確保數(shù)字技術具備足夠成熟度后，再進行規(guī)?；瘧煤屯茝V。

（六）責任明晰

數(shù)字技術（尤其是自動化技術、人工智能技術）引發(fā)的各類后果，最終應由人類承擔責任，相關負面影響的問責需明確由參與技術設計、研發(fā)、部署和使用的相關組織或個人承擔。所有參與上述環(huán)節(jié)的組織和個人，均應被明確告知其法定與倫理責任。推動責任追溯的技術落地，強化責任履行的倫理約束。

五、能力建設

（一）賦能發(fā)展

以數(shù)字技術發(fā)展提升人類福祉，賦能國家治理、社會治理、經(jīng)濟發(fā)展、環(huán)境保護等各領域，促進數(shù)字經(jīng)濟提質(zhì)增效與數(shù)字治理能力現(xiàn)代化。建設安全、可靠、可互操作的數(shù)字基礎設施，保障各類社會主體平等獲取數(shù)字技術和服務的機會，重點關注困難地區(qū)和欠發(fā)達地區(qū)、弱勢群體的數(shù)字需求，提升公共服務質(zhì)量與普惠水平，實現(xiàn)技術賦能與可持續(xù)發(fā)展目標。

（二）穩(wěn)增就業(yè)

密切關注數(shù)字技術對就業(yè)結(jié)構(gòu)的影響，審慎推進可能對現(xiàn)有就業(yè)產(chǎn)生重大沖擊的數(shù)字技術應用。社會各界需協(xié)同發(fā)力，加強對失業(yè)人群的職業(yè)技能培訓，提升其再就業(yè)能力。積極探索數(shù)字技術賦能下的新就業(yè)模式與工作形態(tài)，創(chuàng)造更能發(fā)揮人類優(yōu)勢的新崗位。鼓勵產(chǎn)業(yè)界在數(shù)字化升級過程中主動拓展就業(yè)空間，新增更多高質(zhì)量就業(yè)機會。

（三）普及優(yōu)質(zhì)教育

數(shù)字技術發(fā)展應助力為公眾提供更包容、更公平、更優(yōu)質(zhì)的教育，遵循開啟智慧、發(fā)展個性、提升能力的育人原則，充分發(fā)揮其對于教育的賦能價值。推進數(shù)字教育過程中，需充分尊重教學規(guī)律和教育本質(zhì)，審慎對待替代人類主導核心教學環(huán)節(jié)的數(shù)字技術應用，防范其不合理應用對師生身心健康造成的負面影響，保障教育質(zhì)量與學術誠信。

（四）保護生態(tài)

數(shù)字技術發(fā)展應助力生物多樣性保護與生態(tài)環(huán)境改善，為環(huán)境治理、氣候變化應對等生態(tài)保護工作提供技術支撐。在技術設計、部署與應用中貫穿綠色發(fā)展理念，推動硬件、能源與數(shù)據(jù)資源的高效利用與循環(huán)回收，盡可能避免數(shù)字技術自身發(fā)展對自然環(huán)境和生態(tài)系統(tǒng)帶來的負面影響，保障生態(tài)可持續(xù)性。

（五）促進和平

防止數(shù)字技術被用于破壞社會秩序、挑起沖突或加劇不穩(wěn)定因素，避免對全球和區(qū)域穩(wěn)定產(chǎn)生負面影響。數(shù)字技術的發(fā)展應助力實現(xiàn)全球與區(qū)域的和平與安全，促進不同國家、社會群體間的互信合作。

六、協(xié)同治理

（一）構(gòu)建多元協(xié)同的數(shù)字治理生態(tài)

堅持多元主體協(xié)同參與，尊重技術發(fā)展規(guī)律，結(jié)合技術發(fā)展水平科學制定治理政策。在鼓勵創(chuàng)新的同時，加強對技術潛在社會影響的持續(xù)研究，及早研判風險、優(yōu)化治理體系，確保治理不阻礙技術創(chuàng)新、不忽視倫理底線。推動建立跨學科、跨領域、跨部門、跨地域及全球性的綜合數(shù)字治理機制，將政府及監(jiān)管機構(gòu)、政府間組織、學術界、產(chǎn)業(yè)界、社會組織、媒體、用戶等多利益攸關方納入治理體系，明確各方在技術全生命周期治理的權責邊界，形成“政府引導、學（協(xié)）會自律、社會監(jiān)督、公眾參與”的多方協(xié)同治理，提升治理的全面性與有效性。

（二）推動全球治理數(shù)字協(xié)同合作

秉持開放包容理念推進全球數(shù)字治理協(xié)同，構(gòu)建全球性、開放性、包容性的治理合作平臺，聯(lián)合應對數(shù)字技術帶來的共性風險挑戰(zhàn)。加強國際數(shù)據(jù)要素流通、數(shù)字基礎設施建設、治理能力建設等領域合作，促進全球數(shù)字治理經(jīng)驗與發(fā)展成果共享，保障不同國家、地區(qū)及群體在數(shù)字治理中享有平等話語權，構(gòu)建公平普惠、協(xié)同共進的全球數(shù)字治理格局。

（三）強化數(shù)字倫理教育與素養(yǎng)培育

通過教育、培訓與科普等多元方式，推動公眾形成對數(shù)字技術及其倫理風險的正確認知，提升全民數(shù)字素養(yǎng)與應用技能，助力公眾適應數(shù)字技術發(fā)展，充分利用技術優(yōu)勢并規(guī)避潛在風險。減少對新興技術的誤解與非理性炒作，凝聚社會共識，為數(shù)字技術治理提供良好社會基礎。

七、監(jiān)測評估

（一）建立監(jiān)測管理機制

在數(shù)字技術學術研究、成果轉(zhuǎn)化及應用推廣全流程中，建立全生命周期監(jiān)督、評估與審計機制，重點聚焦新興技術及高風險場景，確保技術發(fā)展與人類治理能力相適配。

（二）制定倫理規(guī)范

聯(lián)合領域內(nèi)專家及單位，針對人工智能大模型、算法應用、數(shù)據(jù)安全等關鍵技術領域，制定符合學術規(guī)律與行業(yè)實際的倫理審查規(guī)范、技術應用指引及風險評估手冊，為有關單位開展倫理審查提供專業(yè)依據(jù)，推動行業(yè)形成統(tǒng)一的倫理審查標準與實踐路徑。

（三）完善評估規(guī)則

建立數(shù)字技術倫理影響評估程序，構(gòu)建覆蓋算法、數(shù)據(jù)和設計流程及可審計性、可追溯性、可解釋性的綜合評估體系。評估需吸納多學科、多利益攸關方參與，兼顧多元包容原則，通過綜合評估預測技術后果、規(guī)避潛在風險、防范負面影響，回應社會關切與挑戰(zhàn)。

（四）落實審查責任

有關單位（科研機構(gòu)、技術企業(yè)）應將數(shù)字技術倫理要求嵌入技術研發(fā)、學術研究全流程，設立人工智能倫理及數(shù)字技術相關倫理審查工作小組，對科研項目設計、數(shù)據(jù)采集使用、算法迭代優(yōu)化等環(huán)節(jié)開展學術性倫理審查，將倫理審查結(jié)論作為科研項目立項、結(jié)題驗收和評獎評價的重要依據(jù)。組織行業(yè)培訓，提升科研人員、技術團隊的倫理認知與責任意識，推動主動規(guī)避惡意攻擊、歧視性篩選等違背倫理的技術研發(fā)方向。

（五）明確責任歸屬

引導行業(yè)明確數(shù)字技術后果的責任歸屬，清晰界定科研人員、技術團隊、應用單位等主體的責任邊界，在技術設計、研發(fā)、部署、使用各環(huán)節(jié)，向?qū)獏⑴c主體清晰告知責任范圍與問責標準。聯(lián)合學術機構(gòu)、技術企業(yè)研發(fā)適配行業(yè)的責任追溯技術工具與評估方法，助力數(shù)字技術倫理風險可查、可證。

（六）加強倫理監(jiān)督

聯(lián)合媒體、公益組織搭建數(shù)字技術倫理交流平臺，通過發(fā)布行業(yè)倫理實踐案例、曝光學術研究與技術應用中的倫理失范行為（如數(shù)據(jù)濫用、算法歧視），引導規(guī)范技術應用。開展倫理科普活動，向公眾普及數(shù)字技術倫理知識，推動形成“尊重倫理、崇尚向善”的行業(yè)氛圍與社會共識，助力構(gòu)建多元協(xié)同的數(shù)字技術倫理治理生態(tài)。

來源：“中國科協(xié)之聲”微信公眾號

編輯：林雪琪

審定：鄒　貞