圖片來源：攝圖網(wǎng)

本文為《方圓》雜志原創(chuàng)稿件

未經(jīng)授權(quán)，禁止轉(zhuǎn)載

近兩年

司法實踐中出現(xiàn)一大波“AI首例案”

目前，法院受理的

涉人工智能（AI）案件總量不算太多

但增長速度非?？?/p>

在司法實踐推進人工智能

法律制度體系構(gòu)建過程中

站在浪潮一線的檢察官們

是如何從“很懵”成長為“全科生”的？

AI知識產(chǎn)權(quán)糾紛案增長迅速

北京互聯(lián)網(wǎng)法院于2023年11月判決的“李某訴劉某侵害作品署名權(quán)、信息網(wǎng)絡傳播權(quán)糾紛案”，被媒體稱為“中國首例AI生成圖片著作權(quán)侵權(quán)案”，入選了“2023年中國法治實施十大事件”。

2023年2月24日，繪畫作品創(chuàng)作愛好者李某使用Stable Diffusion模型，通過在模型上輸入提示詞，設置相關(guān)迭代步數(shù)、圖片高度、提示詞引導系數(shù)以及隨機數(shù)種子等，生成了數(shù)張人像圖。隨后，李某將圖片發(fā)布在某社交平臺上。同年3月2日，一自媒體賬號在另一平臺發(fā)布的文章中使用了李某的這些圖片。李某發(fā)現(xiàn)后提出，對方未獲得他的許可就截掉了他添加的某平臺上署名水印進行發(fā)布，侵犯了其署名權(quán)及信息網(wǎng)絡傳播權(quán)。法院經(jīng)審理最終支持了李某的主張。

案件判決書指出，李某是直接根據(jù)需要對涉案人工智能模型進行相關(guān)設置并最終選定涉案圖片的人，涉案圖片是基于原告的智力投入直接產(chǎn)生，體現(xiàn)出了原告的個性化表達，因此李某是涉案圖片的作者，享有涉案圖片的著作權(quán)。涉案圖片符合“作品”的定義，屬于美術(shù)作品，受到著作權(quán)法的保護。

法院認可了AI使用者李某的涉案圖片作者的身份及其著作權(quán)，這一論斷在當時引發(fā)了很大的爭論。有人支持，認為AI必將對“人類創(chuàng)造”造成顛覆性影響，知識產(chǎn)權(quán)法律自然也不可能例外。也有人對AI生成物能否構(gòu)成“作品”持懷疑態(tài)度。

不久之后，在北京互聯(lián)網(wǎng)法院審理的另一案件中，我們看到一些類似情形和不同的判決。

原告周某是一位內(nèi)容創(chuàng)作者，其主張自己在與被告北京某科技公司合作創(chuàng)業(yè)期間，獨立使用AI繪畫軟件創(chuàng)作完成一款“某貓”圖，并在微信群聊中公開發(fā)表。在雙方未就涉案圖片的使用達成合意的情況下，周某于2023年10月發(fā)現(xiàn)被告公司未經(jīng)許可擅自在多平臺使用“某貓”圖片進行宣傳。周某認為，被告公司的做法侵犯了其權(quán)益。

但周某的主張并未得到法院的支持。判決書給出了詳細的判決理由，其中一條說：周某并未提交涉案圖片在AI軟件中的創(chuàng)作過程記錄，無法展現(xiàn)周某使用該工具生成涉案圖片的具體過程……在案證據(jù)不足以認定涉案圖片具有獨創(chuàng)性，涉案圖片不構(gòu)成著作權(quán)法意義上的“作品”。

表面上看，這兩起涉AI案的判決，一個認可了AI使用者的著作權(quán)，一個沒有認可。法院并沒有因為AI站在“科技浪潮尖兒”上就對其過分寬容，而是表現(xiàn)出嚴格依法、足夠理性的專業(yè)素養(yǎng)。周某沒能獲得法院的支持，是因其不能證明著作權(quán)法規(guī)定的“涉案圖片具有獨創(chuàng)性”。李某獲得支持，是因為其能夠證明了自己的“個性化表達”。

北京大成律師事務所高級合伙人、律師肖颯說，在學術(shù)上，AI生成的結(jié)果是否能被評價為著作權(quán)法意義上的“作品”是有爭議的。當前較主流觀點及司法實踐傾向認為，需要考察人類參與者在其生成過程中進行“個性化”“智力創(chuàng)作”的程度，即作品是否具備獨創(chuàng)性、能否體現(xiàn)創(chuàng)作者的智力成果。

使用AI軟件對有原創(chuàng)者的作品進行“改圖”，則是另一類AI糾紛矛盾的多發(fā)情況。2024年2月，廣州互聯(lián)網(wǎng)法院判決的“涉奧特曼形象案”被媒體稱之為“中國法院作出全球首例生成式AI服務侵犯著作權(quán)的生效判決”。

原告上海新某文化發(fā)展有限公司是一家動漫IP代理商，擁有奧特曼系列形象在中國大陸（不包括港澳臺地區(qū)）的著作權(quán)獨占授權(quán)。被告是一家涉AIGC業(yè)務的網(wǎng)絡公司，在這家網(wǎng)絡公司的平臺上，會員用戶可以通過充值使用專屬的AI繪畫功能。用戶只要輸入簡單的關(guān)鍵詞，就可得到相應的圖片。新某公司發(fā)現(xiàn)，在被告提供的AI繪畫功能中，輸入如“畫一個什么樣的奧特曼”“奧特曼融合某角色”等詞后，會生成奧特曼形象圖片、奧特曼身體拼接其他形象等圖片。新某公司認為，其中的奧特曼物料侵犯了該公司的復制權(quán)、改編權(quán)及信息網(wǎng)絡傳播權(quán)。

法院認定，被告的行為構(gòu)成對案涉奧特曼作品的復制和改編，網(wǎng)絡公司作為AI服務提供者應當盡到合理的注意義務。

網(wǎng)絡公司被法院認定侵權(quán)但罰金數(shù)額并不高。法院判決書強調(diào)，人工智能是引領未來的戰(zhàn)略性技術(shù)，是新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力，被認為是發(fā)展新質(zhì)生產(chǎn)力的主要陣地。考慮到生成式人工智能產(chǎn)業(yè)正處于發(fā)展的初期，需要同時兼顧權(quán)利保障和產(chǎn)業(yè)發(fā)展，不宜過度加重服務提供者的義務。

很多評論者認為，此案的社會意義和法律意義遠大于其經(jīng)濟罰金，法院首先要依法保護創(chuàng)作者的合法權(quán)益，但也體現(xiàn)出司法對于AI技術(shù)與服務緊盯其規(guī)范化發(fā)展同時審慎保護的態(tài)度。

這起侵權(quán)案中，網(wǎng)絡公司作為服務者錯在沒盡到“注意義務”，無論是主觀上的過錯還是客觀上的損害行為都是以“服務者”為主體的，即糾紛的根源終究在于人，案中的AI只是一款工具。

相似的道理同樣出現(xiàn)在北京市通州區(qū)法院2025年6月13日判決的利用AI技術(shù)侵犯著作權(quán)案中。

這兩起案子都涉及利用AI繪圖軟件“二創(chuàng)”是否構(gòu)成新作品的問題。

肖颯認為，判斷的核心在于，創(chuàng)作行為本身是否融入了足以形成新作品的“獨創(chuàng)性”表達?！拔⒄{(diào)”與受法律保護的“再創(chuàng)作”之間最根本的區(qū)別在于后者是否對原作品增添了具有獨創(chuàng)性的新表達、新構(gòu)思或新的藝術(shù)價值。若“二創(chuàng)”后的圖片、視頻等與原作品構(gòu)成實質(zhì)性相似，但未超出原作品表達的范疇，可能侵害原作品著作權(quán)人的復制權(quán)等相關(guān)權(quán)項；若“二創(chuàng)”后的圖片并非僅系對原作品表達的單純再現(xiàn)，而是形成了具有獨創(chuàng)性的新作品，也可能侵害原作品著作權(quán)人的改編權(quán)。

不斷出臺規(guī)范AI使用的法律文件

由上述案件可見，AI服務者和使用者的合法規(guī)范行為，是現(xiàn)階段突出的一個問題，AI侵權(quán)案件的增加和執(zhí)法司法需要，給相關(guān)機關(guān)提出了完善規(guī)則的要求。

為規(guī)范AI服務，2023年4月11日，國家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務管理暫行辦法》，該辦法要求AI服務的提供者使用合法來源的數(shù)據(jù)、保護知識產(chǎn)權(quán)和個人信息以及在內(nèi)容生成上明確標識深層合成的圖片和視頻。同時，服務提供者需防范未成年人過度沉迷，并建立投訴舉報機制等。

AI的高效性與算法推薦機制正在重構(gòu)平臺責任邊界，因而有專業(yè)學者提出，傳統(tǒng)的“避風港原則”可能需要調(diào)整以回應技術(shù)變革。

2025年9月1日，由國家網(wǎng)信辦聯(lián)合工信部等部門發(fā)布的《人工智能生成合成內(nèi)容標識辦法》正是對該趨勢的回應。該辦法規(guī)定所有由AI生成的文字、圖片、視頻等必須打上水印，帶上AI生成的身份標識，讓用戶可以清楚地知道自己所看的內(nèi)容是AI生成的。對于內(nèi)容發(fā)布者不主動標識AI生成內(nèi)容的行為，部分平臺表示會采取限流、下架、封號等措施。

這兩部法規(guī)文件的出臺，標志著我國在AIGC的治理上逐步構(gòu)建起從基礎服務規(guī)范到具體內(nèi)容標識的全鏈條監(jiān)管體系，為AI技術(shù)的合規(guī)發(fā)展劃定了一定紅線，也為社會的有效監(jiān)督提供了法律依據(jù)，努力推動AIGC技術(shù)在法治軌道上行進。

對于未來涉AI知識產(chǎn)權(quán)立法可以考慮哪些內(nèi)容，江蘇省太倉市檢察院經(jīng)濟犯罪、職務犯罪檢察部副主任熊輝給出一些建議：AI生成作品是否能成為著作權(quán)法中保護的“作品”、AI生成作品的“原創(chuàng)性”定義、AI生成作品的版權(quán)歸屬問題、合理使用范圍（如AI訓練是否屬于合理使用）、侵權(quán)認定標準、如何劃分平臺責任以及專利法中對AI發(fā)明的處理等。

“技術(shù)本身是把‘雙刃劍’，AI尤其如此。面對AI的沖擊，法律不會退縮，而是要進化。”熊輝說，“知識產(chǎn)權(quán)法的核心是保護人的創(chuàng)造性價值”。

從“很懵”到“全科生”的AI檢察官

上海市虹口區(qū)檢察院檢察官正在研究涉AI類案件的案情。（來源：受訪者供圖）

在司法實踐推進人工智能法律制度體系構(gòu)建過程中，檢察官和律師都是站在浪潮一線的人。

“剛接手案子時，面對的是AIGC軟件、技術(shù)黑箱、提示詞……這些全新的東西?！鞭k理“北京市第一起利用AI侵犯著作權(quán)刑事案件”的北京市通州區(qū)檢察院檢察官仇怡然說，辦理這類新型案件遇到的困難的確不少。

上海市徐匯區(qū)檢察院人工智能綜合履職團隊檢察官助理陸倩慧也有相同的感受：“剛接到一起利用AIGC實施犯罪新型案件的最直觀感受就是‘很懵’，我在筆記本上寫滿了從來沒有接觸過的新技術(shù)新知識，第一次真實地感受到‘本領恐慌’。對這類案件，檢察人員需要鍛造數(shù)字思維和科技素養(yǎng)，成為既懂法律業(yè)務也通技術(shù)的‘全科生’?！?/strong>

該團隊檢察官龔笑婷曾辦理了全國首例生成式AI制作淫穢物品牟利案，她說：“第一次接觸這類案子，有種很新的感覺，這種感覺來源于辦案思路的重建?！?/p>

檢察官不僅要在辦案中解決新問題，還需及時總結(jié)經(jīng)驗，歸納分析、推動治理。

龔笑婷說：“涉AI刑事案件的辦理，在引導公安機關(guān)取證、罪與非罪的界定思路等方面，與以往大相徑庭，比如AI涉黃案中，軟件用戶、服務提供者，還有AI到底是誰的‘行為’觸犯了刑法，而在接入AI后，服務提供者的安全審核義務和法律邊界到底在哪里，都需要我們一再論證?！?/p>

2025年10月，上海市徐匯區(qū)檢察院與上海市公安局徐匯分局聯(lián)合發(fā)布《生成式人工智能刑事案件電子數(shù)據(jù)取證與審查指引》。這是上海司法機關(guān)首次針對生成式AI犯罪領域系統(tǒng)構(gòu)建的電子數(shù)據(jù)取證與審查規(guī)范，標志著AI犯罪治理邁入標準化、體系化探索的新階段，也是他們對一段時間以來辦案經(jīng)驗的落地。

辦理AI涉黃案中，檢察官還發(fā)現(xiàn)開發(fā)涉黃AI聊天機器人的企業(yè)未備案、未做安全評估，遂向?qū)俚鼐W(wǎng)信辦制發(fā)檢察建議，推動AI技術(shù)合規(guī)向善發(fā)展。

對涉AI案件進行積極探索的，還有上海市虹口區(qū)檢察院的網(wǎng)絡檢察綜合履職辦公室。近年來，他們綜合運用辦理刑事、公益訴訟案件，制發(fā)檢察建議等多種方式參與AI治理。

上海市虹口區(qū)檢察院檢察官賴琛琛說，2025年以來，各種AI工具的更新升級速度極快，已經(jīng)不同于之前AI洗稿軟件這樣低級別的AIGC技術(shù)，因此也更容易滋生利用AI新技術(shù)進行犯罪的黑灰產(chǎn)業(yè)鏈。從網(wǎng)絡空間治理的角度來看，打擊涉人工智能黑灰產(chǎn)業(yè)鏈相關(guān)犯罪，必須通過技術(shù)、法律、宣傳等多維度協(xié)同，以遏制其蔓延，從而保證技術(shù)向善發(fā)展。

因此，檢察機關(guān)需加強與網(wǎng)信部門、公安機關(guān)、版權(quán)局等部門的協(xié)作，形成多部門聯(lián)動的機制，更有效地收集線索，共享信息，聯(lián)合執(zhí)法辦案。例如，建立跨部門的數(shù)據(jù)共享平臺，利用大數(shù)據(jù)分析來發(fā)現(xiàn)異常賬號或行為模式，及時查處。通過對AI生成內(nèi)容的檢測分析，以及平臺賬號的大規(guī)模異常操作，如短時間內(nèi)大量發(fā)布同類內(nèi)容、流量異常等，提升網(wǎng)絡空間治理能力。

成立專門的AI檢察官團隊

為了積極研究涉AI法律問題，2025年5月12日，上海市徐匯區(qū)檢察院專門成立了一支人工智能履職團隊。

“團隊目前17個人，專職4位。4位已從原來的業(yè)務部門‘脫產(chǎn)’完全投入涉AI法律問題研究。”當《方圓》記者聽到該團隊介紹時還是十分驚訝。

對業(yè)務量巨大的徐匯區(qū)檢察院來說，把4位檢察官抽調(diào)出來絕非易事，尤其是目前，尚在發(fā)展初期的AI領域還不可能給團隊提供較多的案件。

“我們覺得，那并不遙遠。我們必須做一些準備?！狈止軋F隊的徐匯區(qū)檢察院副檢察長張愛菁說，“團隊是由檢察長朱慶華親自抓起來的，這個團隊的檢察官都是檢察院的精干力量，我們集全院力量予以支持?！?/p>

“希望通過成立一支隊伍，打造一個平臺，使我們檢察系統(tǒng)的年輕一代能夠拓寬國際視野，增強交流合作，培養(yǎng)更多人工智能領域?qū)＜倚蜋z察人才，助力徐匯區(qū)成為人工智能建設高地?！毙靺R區(qū)檢察院黨組書記、檢察長朱慶華說。

徐匯區(qū)檢察院的前瞻眼光根植于上海經(jīng)濟發(fā)展的前沿基礎，也基于自身實力。上?！澳Ｋ倏臻g”大模型創(chuàng)新生態(tài)社區(qū)，是全國首個大模型創(chuàng)新生態(tài)社區(qū)。

2024年4月，徐匯區(qū)檢察院的檢察監(jiān)督服務平臺就入駐“模速空間”，與之前入駐的算力調(diào)度、開放數(shù)據(jù)、評測服務、金融服務、綜合服務五大功能平臺一同依法平等保護AI產(chǎn)業(yè)發(fā)展。平臺剛成立，徐匯區(qū)檢察院即向大模型企業(yè)發(fā)布了人工智能大模型企業(yè)風險防控指南。以AI大模型產(chǎn)業(yè)健康發(fā)展為目標，以AI大模型企業(yè)為適用對象，突出預防性治理，對安全內(nèi)控機制、語料治理與隱私防護、網(wǎng)絡空間安全、知識產(chǎn)權(quán)保護、涉外風險等內(nèi)容作了闡述。

2025年4月29日，習近平總書記在“模速空間”大模型創(chuàng)新生態(tài)社區(qū)調(diào)研時指出：“人工智能技術(shù)加速迭代，正迎來爆發(fā)式發(fā)展，上海要總結(jié)好以大模型產(chǎn)業(yè)生態(tài)體系孵化人工智能產(chǎn)業(yè)等成功經(jīng)驗，加大探索力度，力爭在人工智能發(fā)展和治理各方面走在前列，產(chǎn)生示范效應?！?/strong>

2025年10月23日，黨的二十屆四中全會審議通過的《中共中央關(guān)于制定國民經(jīng)濟和社會發(fā)展第十五個五年規(guī)劃的建議》明確提出，“加快人工智能等數(shù)智技術(shù)創(chuàng)新”“全面實施‘人工智能+’行動”“全方位賦能千行百業(yè)”“加強人工智能治理，完善相關(guān)法律法規(guī)、政策制度、應用規(guī)范、倫理準則。完善監(jiān)管，推動平臺經(jīng)濟創(chuàng)新和健康發(fā)展”。

10月31日，大檢察官研討班在國家檢察官學院舉辦。最高人民檢察院黨組書記、檢察長應勇在開班式上講話時強調(diào)，要完整準確全面貫徹新發(fā)展理念，統(tǒng)籌發(fā)展和安全，全面履行各項檢察職能，為推進中國式現(xiàn)代化提供有力法治保障。著眼《中共中央關(guān)于制定國民經(jīng)濟和社會發(fā)展第十五個五年規(guī)劃的建議》對建設現(xiàn)代化產(chǎn)業(yè)體系、加快高水平科技自立自強等方面部署，加強原始創(chuàng)新、關(guān)鍵核心技術(shù)知識產(chǎn)權(quán)和科技創(chuàng)新主體合法權(quán)益司法保護，更好地服務推動高質(zhì)量發(fā)展。

人工智能時代已經(jīng)到來，知識產(chǎn)權(quán)法等法律法規(guī)要做好調(diào)整的準備，檢察機關(guān)也是。

（本文有刪減，更多內(nèi)容請關(guān)注《方圓》11月上期）

本文雜志原標題：《AI狂奔時代，法律如何當好“守門員”？》

編輯丨黃莎設計丨劉巖

記者丨王麗 涂思敏

通訊員丨潘志凡 朱陸奇 王曉陽

往期精彩

點擊圖片

購買《方圓》雜志

好看的人都點了在看