作者：皮勇 張凌寒 張吉豫以下內(nèi)容來(lái)自《人民檢察》。

　　編者按：編寫代碼、創(chuàng)作詩(shī)歌、完成論文……最近，人工智能聊天機(jī)器人ChatGPT風(fēng)靡全網(wǎng)。ChatGPT憑借高超的數(shù)據(jù)搜集和數(shù)據(jù)整理輸出能力，迅速吸引了大量用戶注冊(cè)使用，掀起了人工智能發(fā)展應(yīng)用的新高潮。不過(guò)，ChatGPT在不斷開辟新的應(yīng)用場(chǎng)景的同時(shí)，也帶來(lái)了知識(shí)產(chǎn)權(quán)、個(gè)人信息保護(hù)、數(shù)據(jù)安全等一系列法律風(fēng)險(xiǎn)，對(duì)此如何有效應(yīng)對(duì)？本刊特邀請(qǐng)專家學(xué)者對(duì)相關(guān)問(wèn)題進(jìn)行探討，敬請(qǐng)關(guān)注。

　　主持人：《人民檢察》編輯崔議文

　　特 邀 嘉 賓

　　皮勇：同濟(jì)大學(xué)上海國(guó)際知識(shí)產(chǎn)權(quán)學(xué)院教授

　　張凌寒：中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授

　　張吉豫：中國(guó)人民大學(xué)法學(xué)院副教授　

問(wèn)題一：如何從法律層面看待ChatGPT？

　　主持人：ChatGPT橫空出世，迅速席卷了各行業(yè)。ChatGPT將給智慧司法、數(shù)字法治建設(shè)帶來(lái)哪些便利？其快速發(fā)展可能引發(fā)哪些法律風(fēng)險(xiǎn)？

　　皮勇：ChatGPT的技術(shù)優(yōu)勢(shì)源于其先進(jìn)的算法、強(qiáng)大的算力和海量的數(shù)據(jù)，如果將其用于智慧司法、數(shù)字法治建設(shè)，將帶來(lái)諸多便利。

　　第一，信息檢索更加便捷。ChatGPT的數(shù)據(jù)庫(kù)資源豐富，數(shù)量龐大，人機(jī)交互能力優(yōu)秀，自然語(yǔ)言處理能力強(qiáng)大，能提供相關(guān)信息，幫助司法工作人員收集信息資料，了解案件相關(guān)專業(yè)領(lǐng)域的基本知識(shí)?！?/p>

　　第二，文書制作更加便捷。在司法活動(dòng)中有大量的文書制作工作，ChatGPT在制作標(biāo)準(zhǔn)化文書方面具有較強(qiáng)優(yōu)勢(shì)，利用ChatGPT快速制作文書初稿，在其基礎(chǔ)上修改完善，可以提高文書的制作效率，在降低工作量的同時(shí)提升文書的質(zhì)量。

　　第三，類案比對(duì)更加便捷。司法工作人員在分析、處理案件時(shí)需要考慮多方面涉案因素，ChatGPT的海量數(shù)據(jù)和算法功能有助于司法工作人員快速查找與案件相關(guān)的類案信息并進(jìn)行比對(duì)，同時(shí)可參考借鑒已生效判決的裁判理由和結(jié)果，減少辦錯(cuò)案或裁量畸輕畸重的幾率。

　　第四，輔助裁判更加便捷。ChatGPT的概率統(tǒng)計(jì)邏輯和算法是以類案作為基礎(chǔ)數(shù)據(jù)，已有相關(guān)智能裁判系統(tǒng)在運(yùn)用該算法邏輯生成輔助裁判結(jié)果?！?/p>

　　第五，法治宣傳。ChatGPT運(yùn)營(yíng)者本質(zhì)上是網(wǎng)絡(luò)內(nèi)容信息服務(wù)提供商，其提供的信息服務(wù)可以用于法治宣傳。

　　不過(guò)，ChatGPT的應(yīng)用也給用戶和社會(huì)帶來(lái)新的安全風(fēng)險(xiǎn)。

　　第一，ChatGPT生成信息所基于的概率統(tǒng)計(jì)的算法和已有的數(shù)據(jù)都有局限性，可能導(dǎo)致ChatGPT生成虛假、誤導(dǎo)、無(wú)意義或質(zhì)量差的信息，如果用戶盲目信任或者缺乏分辨能力，采信其錯(cuò)誤信息，會(huì)面臨一定風(fēng)險(xiǎn)。

　　第二，濫用ChatGPT的風(fēng)險(xiǎn)主要是用戶不當(dāng)使用ChatGPT的生成結(jié)果，如在國(guó)家考試過(guò)程中使用ChatGPT作弊、使用ChatGPT編制論文、制造假新聞或謠言。

　　第三，ChatGPT會(huì)帶來(lái)知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)。一方面，ChatGPT生成信息有可能侵犯他人知識(shí)產(chǎn)權(quán)，如不當(dāng)泄露、提供他人商業(yè)秘密或者侵犯他人作品；另一方面，ChatGPT或其權(quán)利人對(duì)其生成的信息是否享有知識(shí)產(chǎn)權(quán)，是否會(huì)產(chǎn)生知識(shí)產(chǎn)權(quán)法律風(fēng)險(xiǎn)，目前還存在爭(zhēng)議。

　　第四，ChatGPT用戶面臨的風(fēng)險(xiǎn)。用戶使用ChatGPT過(guò)程中，會(huì)被收集個(gè)人信息或其他資料，存在泄露個(gè)人信息、商業(yè)秘密或國(guó)家秘密的風(fēng)險(xiǎn)，即使是片段性或零碎的信息，也可能被ChatGPT與其他數(shù)據(jù)結(jié)合在一起進(jìn)行挖掘分析，從而推斷出關(guān)系國(guó)家安全、公共安全、個(gè)人和組織合法權(quán)益的情報(bào)信息。

　　張凌寒：ChatGPT的出現(xiàn)是深度合成領(lǐng)域的重大技術(shù)進(jìn)步，極大地改變了信息獲取、人機(jī)交互的方式，并成為未來(lái)數(shù)字空間的基礎(chǔ)性技術(shù)，ChatGPT的應(yīng)用無(wú)疑能夠?yàn)橹腔鬯痉ńㄔO(shè)帶來(lái)革命性改變。

　　其一，ChatGPT應(yīng)用于法律咨詢，將極大提升公共法律服務(wù)的智能化水平。ChatGPT具備語(yǔ)義理解和文本生成的能力，并且能夠結(jié)合上下文，給出更合邏輯、合理的法律建議。此外，ChatGPT與之前技術(shù)的不同之處在于其是采用了海量數(shù)據(jù)訓(xùn)練的大規(guī)模人工智能模型，這使得其生成的文本更加具有創(chuàng)造性。更重要的是，這些模型通常設(shè)置了隨機(jī)元素，意味著它們可以不同的輸出應(yīng)對(duì)同一個(gè)輸入請(qǐng)求，使得ChatGPT看起來(lái)更加栩栩如生。

　　其二，ChatGPT應(yīng)用于信息檢索，將極大提升法律從業(yè)者的工作效率。ChatGPT研發(fā)的本意不在于信息檢索，但支撐其深度學(xué)習(xí)的預(yù)訓(xùn)練語(yǔ)料庫(kù)極為龐大，與傳統(tǒng)的搜索引擎相比，其能精準(zhǔn)定位到具體的法律條款。

　　其三，ChatGPT應(yīng)用于文本處理，將大幅節(jié)省法律從業(yè)者的時(shí)間和精力。ChatGPT能夠根據(jù)使用者輸入的設(shè)定條件，自動(dòng)生成文本內(nèi)容，實(shí)踐中一些合同起草、法律文書撰寫、文獻(xiàn)翻譯等技術(shù)含量較低的文字性工作可以交由ChatGPT來(lái)完成?？傮w而言，在智慧司法的3.0階段，以ChatGPT為代表的深度合成技術(shù)將通過(guò)支持、取代與重塑三種方式影響司法系統(tǒng)。在支持層面上，技術(shù)為司法實(shí)踐提供了信息與便利性支持；在取代層面上，技術(shù)可以部分取代由人類執(zhí)行的功能和活動(dòng)；在重塑層面上，技術(shù)可以改變司法人員的工作方式，提供與以往不同的司法保障，革新司法流程和提供預(yù)測(cè)性分析。

　　深度合成展現(xiàn)了其強(qiáng)大的能量和可能性，但其帶來(lái)效率和便利的同時(shí)，也帶來(lái)了伴生風(fēng)險(xiǎn)。

　　其一，人格權(quán)侵權(quán)風(fēng)險(xiǎn)。ChatGPT的訓(xùn)練數(shù)據(jù)主要來(lái)源于互聯(lián)網(wǎng)，其中可能包括個(gè)人隱私數(shù)據(jù)，而此前GPT-2就發(fā)生過(guò)隱私泄露的問(wèn)題。用戶生成合成內(nèi)容需要上傳照片、視頻或與人工智能機(jī)器直接明文的對(duì)話。生成合成類算法應(yīng)用曾經(jīng)發(fā)生過(guò)換臉換聲的欺詐、人格權(quán)侵權(quán)、隱私泄露等案件。在新一代以ChatGPT為代表的生成合成類應(yīng)用中，用戶對(duì)話的過(guò)程就是被收集信息的過(guò)程，尤其是用戶在與機(jī)器對(duì)話的過(guò)程中更可能袒露隱私。這些個(gè)人信息可能被用于用戶畫像和訓(xùn)練模型，從而使個(gè)人信息的收集、使用和傳輸都面臨安全挑戰(zhàn)。

　　其二，數(shù)據(jù)安全風(fēng)險(xiǎn)。ChatGPT的預(yù)訓(xùn)練大模型促進(jìn)了合成數(shù)據(jù)產(chǎn)業(yè)的發(fā)展，深度合成技術(shù)可以模擬真實(shí)用戶數(shù)據(jù)并規(guī)避高昂的隱私合規(guī)成本。深度合成技術(shù)也有可能通過(guò)預(yù)訓(xùn)練大模型的強(qiáng)大推理能力學(xué)習(xí)找到真實(shí)數(shù)據(jù)。而針對(duì)合成數(shù)據(jù)的治理，各國(guó)尚無(wú)針對(duì)性的規(guī)章制度，并且用戶與生成型人工智能模型的海量交互數(shù)據(jù)如果是跨境產(chǎn)生的，還會(huì)引發(fā)數(shù)據(jù)跨境安全問(wèn)題。

　　其三，知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)。一方面，ChatGPT生成內(nèi)容存在被他人侵權(quán)的風(fēng)險(xiǎn)。在我國(guó)現(xiàn)行法律框架下，難以認(rèn)定人工智能或者電腦算法為作品的作者，因而可能導(dǎo)致這部分內(nèi)容不能得到法律保護(hù)。另一方面，ChatGPT生成內(nèi)容存在侵犯他人權(quán)利的可能性。大多數(shù)生成式人工智能模型的訓(xùn)練，使用的是從互聯(lián)網(wǎng)上搜集的材料，這些材料并沒(méi)有取得許可或支付報(bào)酬，由此可能引發(fā)知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)。

　　張吉豫：一些專業(yè)人士認(rèn)為，ChatGPT這樣的通用模型體現(xiàn)出來(lái)的智慧涌現(xiàn)，可能改變整個(gè)信息分發(fā)獲取的方式、革新內(nèi)容生產(chǎn)模式、全面升級(jí)人機(jī)交互方式，加速推動(dòng)公眾的研究，等等?？梢哉f(shuō)，這樣的通用模型可能成為新一代的基礎(chǔ)設(shè)施，給各行各業(yè)帶來(lái)影響。其中，其將為智慧司法、數(shù)字法治建設(shè)帶來(lái)新的機(jī)遇，包括但不限于以下方面：

　　一是智能檢索和推送。例如，ChatGPT可以用于智能法律搜索引擎，能夠更快速、智能地搜索出相關(guān)的法律條款和類案。

　　二是智能法律咨詢。ChatGPT可用于開發(fā)智能法律問(wèn)答機(jī)器人等智能法律咨詢產(chǎn)品，能夠更快速、準(zhǔn)確地回答用戶的法律問(wèn)題，提供更高效、便捷的法律咨詢服務(wù)。用戶可以通過(guò)語(yǔ)音或文字與ChatGPT進(jìn)行交互，獲得法律方面的建議和指導(dǎo)。這有助于降低基礎(chǔ)法律服務(wù)的門檻，使公眾可以更加便利地獲得一般的法律服務(wù)。

　　三是智能文本分析。ChatGPT可以幫助分析法律數(shù)據(jù)和文本，從中提取關(guān)鍵信息和模式。例如，ChatGPT可以被用于自動(dòng)化合同審查和糾紛解決，能夠更快速地識(shí)別合同中的問(wèn)題和糾紛，并提供解決方案。這類人工智能技術(shù)還可以用于生成摘要、綜述等工作，為法律問(wèn)題的研究提供便利。

　　四是智能文書撰寫。ChatGPT可以輔助撰寫合同等法律文件。

　　當(dāng)然，ChatGPT在帶來(lái)便利和機(jī)遇的同時(shí)，也伴隨著許多維度的法律風(fēng)險(xiǎn)。包括侵犯知識(shí)產(chǎn)權(quán)的風(fēng)險(xiǎn)，生成的信息損害他人人格、財(cái)產(chǎn)權(quán)益的風(fēng)險(xiǎn)，生成虛假或錯(cuò)誤信息、違法不良信息、帶有歧視性內(nèi)容的風(fēng)險(xiǎn)，數(shù)據(jù)安全風(fēng)險(xiǎn)，等等。其在司法、公共事務(wù)等領(lǐng)域的應(yīng)用，還可能存在挑戰(zhàn)程序正義等風(fēng)險(xiǎn)。

問(wèn)題二：如何解決ChatGPT所引發(fā)的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)？

　　主持人：ChatGPT使用了大量互聯(lián)網(wǎng)數(shù)據(jù)和書籍文檔資料來(lái)訓(xùn)練大規(guī)模自然語(yǔ)言模型，并從人類的反饋中學(xué)習(xí)知識(shí)，因此具有強(qiáng)大的內(nèi)容生成能力。使用這項(xiàng)新技術(shù)生成的內(nèi)容是否有著作權(quán)？ChatGPT在什么情況下會(huì)侵犯知識(shí)產(chǎn)權(quán)（特別是著作權(quán)）？其生成的作品如果涉及第三方權(quán)益，該如何處理？對(duì)于ChatGPT生成的文本內(nèi)容，用戶如何使用才能規(guī)避法律風(fēng)險(xiǎn)？

　　皮勇：ChatGPT運(yùn)用海量數(shù)據(jù)訓(xùn)練其算法，在與用戶的人機(jī)對(duì)話過(guò)程中生成文本信息，由于這些信息不是人類創(chuàng)造的獨(dú)創(chuàng)性思想表現(xiàn)，故其不應(yīng)享有著作權(quán)。ChatGPT在人機(jī)對(duì)話中表現(xiàn)得像人一樣，生成的信息接近人類的回復(fù)，但是，其不是著作權(quán)法乃至法律上的人。包括ChatGPT在內(nèi)的人工智能系統(tǒng)處于弱人工智能階段，僅具有局限于特定領(lǐng)域的專用智能和感知智能，距離以通用智能、認(rèn)知智能為標(biāo)志的強(qiáng)人工智能特別是超級(jí)人工智能還有很長(zhǎng)的路。而且，即使人工智能系統(tǒng)發(fā)展到強(qiáng)人工智能，由于其以工業(yè)品為載體，智能系統(tǒng)也可以與載體分離，甚至其智能系統(tǒng)本身也可以反復(fù)“起死回生”。這與人類有根本的差別，人類的身體由自然人生產(chǎn)且不能再生和更換，人類個(gè)體的智慧與身體同存同亡。因此，人工智能系統(tǒng)不是當(dāng)前乃至未來(lái)較長(zhǎng)時(shí)間以人為本的法律體系中的主體，不能享有包括著作權(quán)在內(nèi)的人類權(quán)利。同時(shí)，由于ChatGPT生成的信息沒(méi)有表現(xiàn)其運(yùn)營(yíng)者、管理者或程序設(shè)計(jì)人員的獨(dú)創(chuàng)性思想，故也不能賦予以上主體著作權(quán)。

　　著作權(quán)法保護(hù)獨(dú)創(chuàng)性思想的表現(xiàn)形式，由于ChatGPT已經(jīng)進(jìn)入商業(yè)運(yùn)營(yíng)而不是用于科研或?qū)W習(xí)，如果其生成的信息與他人作品在形式上相同，則構(gòu)成對(duì)他人作品著作權(quán)的侵犯，應(yīng)由其運(yùn)營(yíng)者、管理者等責(zé)任主體承擔(dān)相應(yīng)的法律責(zé)任。如果ChatGPT生成的信息中泄露了他人的個(gè)人信息、商業(yè)秘密或國(guó)家秘密，應(yīng)當(dāng)由其運(yùn)營(yíng)者、管理者承擔(dān)損害賠償責(zé)任，違反相關(guān)行政法律的，應(yīng)當(dāng)對(duì)其進(jìn)行行政處罰。追究刑事責(zé)任需要行為人對(duì)其行為及后果存在罪過(guò)，其運(yùn)營(yíng)者、管理者只對(duì)ChatGPT產(chǎn)生的危害后果具有可能的、概括的認(rèn)識(shí)，不滿足犯罪故意或過(guò)失的構(gòu)成條件，不能按照傳統(tǒng)犯罪來(lái)認(rèn)定。

　　ChatGPT應(yīng)當(dāng)作為有風(fēng)險(xiǎn)的工具來(lái)使用，為了避免使用其生成的信息可能帶來(lái)的法律風(fēng)險(xiǎn)，用戶應(yīng)當(dāng)將其生成的信息作為線索、提示或者參考來(lái)使用，保持對(duì)法律風(fēng)險(xiǎn)的警惕性，在采信其蘊(yùn)含的思想或信息的基礎(chǔ)上，遵守學(xué)術(shù)規(guī)范和法律規(guī)范，尊重他人合法權(quán)益，以自己的方式進(jìn)行再次創(chuàng)作、編寫，才能既有效規(guī)避相關(guān)法律風(fēng)險(xiǎn)，又能提高創(chuàng)作效率。

　　張凌寒：從著作權(quán)法角度看，GPT基本屬于重組式創(chuàng)新，尚不具有真正的創(chuàng)造力，不能成為著作權(quán)的主體，但并不意味著著作權(quán)法就不應(yīng)當(dāng)保護(hù)人工智能生成物（AIGC）。對(duì)于具有獨(dú)創(chuàng)性的人工智能生成物，可以參照著作權(quán)法上關(guān)于職務(wù)作品或雇用作品的規(guī)定，將創(chuàng)作過(guò)程中真正實(shí)施人工干預(yù)、人為編排或創(chuàng)制該算法的人認(rèn)定為作者。對(duì)于人工智能生成物應(yīng)當(dāng)考慮是否存在使用人工智能創(chuàng)作的人，且其在創(chuàng)作過(guò)程中是否付出了智力或創(chuàng)造性勞動(dòng)。如果沒(méi)有付出，這個(gè)產(chǎn)品是否構(gòu)成作品是值得商榷的。目前國(guó)內(nèi)外的通行做法都會(huì)考慮除了人工智能之外，是否有人的智力或創(chuàng)造性勞動(dòng)。　

　　ChatGPT生成內(nèi)容引發(fā)的新型版權(quán)侵權(quán)風(fēng)險(xiǎn)已經(jīng)成為整個(gè)行業(yè)發(fā)展所面臨的緊迫問(wèn)題。人工智能要變得更加智能，一個(gè)必要的環(huán)節(jié)就是深度學(xué)習(xí)。這就需要一個(gè)龐大的人類作品數(shù)據(jù)庫(kù)，讓算法學(xué)會(huì)根據(jù)不同內(nèi)容題材等進(jìn)行創(chuàng)作的要領(lǐng)。如果未經(jīng)許可，復(fù)制或者通過(guò)網(wǎng)絡(luò)爬蟲爬取他人享有著作權(quán)的在線內(nèi)容，在我國(guó)現(xiàn)行著作權(quán)法沒(méi)有明確將數(shù)據(jù)挖掘等智能化的分析行為規(guī)定為合理使用的情況下，此行為可能構(gòu)成著作權(quán)侵權(quán)。ChatGPT生成的作品涉及第三方權(quán)益時(shí)，使用該作品需要遵守相關(guān)法律規(guī)范。例如，涉及他人已發(fā)表的作品時(shí)，需要取得原著作權(quán)人授權(quán)，向其支付費(fèi)用，并在授權(quán)范圍內(nèi)使用該作品，或者在著作權(quán)法允許的“為個(gè)人學(xué)習(xí)、研究或欣賞”等合理使用范圍內(nèi)使用該作品。

　　用戶在使用ChatGPT時(shí)，需要滿足“兩個(gè)合規(guī)”。

　　其一，輸入合規(guī)。在使用ChatGPT時(shí)，用戶自身的輸入行為需要嚴(yán)格遵守ChatGPT的開發(fā)者OpenAI的使用條款以及相關(guān)法律規(guī)范，例如，不得輸入他人隱私、敏感信息、商業(yè)秘密、國(guó)家機(jī)密等。

　　其二，使用合規(guī)。根據(jù)OpenAI的使用條款，在輸入行為符合使用條款和相關(guān)法律規(guī)定的前提下，OpenAI將該文本內(nèi)容的所有權(quán)和利益轉(zhuǎn)讓給了用戶。但實(shí)際上用戶難以甄別該文本內(nèi)容是原創(chuàng)作品還是對(duì)他人作品的剽竊。此種情況下，如果擅自進(jìn)行復(fù)制、發(fā)表、改編或者傳播，可能會(huì)侵犯他人著作權(quán)，因而用戶需要在合法前提下謹(jǐn)慎使用ChatGPT生成的文本內(nèi)容。

　　張吉豫：人工智能生成的內(nèi)容是否具有著作權(quán)，是一個(gè)有爭(zhēng)議的問(wèn)題。一般而言，依據(jù)著作權(quán)法，作品應(yīng)具有獨(dú)創(chuàng)性，體現(xiàn)人類的編排取舍。2018年《北京市高級(jí)人民法院侵害著作權(quán)案件審理指南》，特別強(qiáng)調(diào)了作品是自然人的創(chuàng)作。我國(guó)“菲林訴百度案”中，法官即認(rèn)定，該案中威科先行自動(dòng)生成的分析報(bào)告不構(gòu)成作品，軟件開發(fā)者和輸入關(guān)鍵詞的用戶都不能認(rèn)定為作者。但也并不是說(shuō)，有人工智能的加入就一定不是自然人創(chuàng)作。在一些特定情況下，人工智能生成內(nèi)容可以認(rèn)為體現(xiàn)了人類的編排取舍，具有獨(dú)創(chuàng)性，可認(rèn)定為自然人創(chuàng)作。ChatGPT的研發(fā)者對(duì)于最終生成的內(nèi)容并沒(méi)有直接的編排取舍，用戶往往只是輸入問(wèn)題進(jìn)行引導(dǎo)，因而很難認(rèn)定具有著作權(quán)。此外，將人工智能認(rèn)定為作者，法律上基本不認(rèn)可。盡管有些書籍將人工智能署名為作者或者聯(lián)合作者，但并不表示法律上認(rèn)可。

　　ChatGPT對(duì)于著作權(quán)的侵犯可能發(fā)生在兩個(gè)階段：訓(xùn)練階段和文本生成階段。在訓(xùn)練階段，Chat-GPT需要大量的文本進(jìn)行訓(xùn)練，涉及對(duì)大量作品的復(fù)制。許多國(guó)家有相關(guān)制度安排，但我國(guó)還未對(duì)此作出專門性的規(guī)定。時(shí)代發(fā)展到今天，著作權(quán)保護(hù)的邊界不僅關(guān)乎文學(xué)藝術(shù)創(chuàng)作，也關(guān)系人工智能科技的發(fā)展。ChatGPT這類大模型被視為新的重大智能基礎(chǔ)設(shè)施。我國(guó)在這方面的發(fā)展對(duì)各個(gè)產(chǎn)業(yè)發(fā)展升級(jí)以及國(guó)家安全都有深刻影響。然而，這類大模型通常建立在海量數(shù)據(jù)訓(xùn)練的基礎(chǔ)上。如果用于訓(xùn)練的作品都需要獲得許可，一方面，成本巨大；另一方面，如果一定的著作權(quán)人群體不愿意給予許可，被用于訓(xùn)練的數(shù)據(jù)可能因此產(chǎn)生缺失或偏頗，人工智能模型不能得到更加全面的訓(xùn)練，由此可能產(chǎn)生“偏見”。對(duì)此，美國(guó)版權(quán)法通過(guò)靈活的合理使用制度來(lái)解決這一問(wèn)題。日本、歐盟也作了一些相關(guān)規(guī)定，安排了不同范圍的文本挖掘、數(shù)據(jù)挖掘方面的侵權(quán)例外制度。相比之下，歐盟更保守一些，對(duì)一些領(lǐng)域作了一定限制。我國(guó)著作權(quán)法雖然在“合理使用”條款中留有開放接口，但還有待著作權(quán)法實(shí)施條例或者其他法律法規(guī)修改時(shí)將該條款加以具體落實(shí)，以為技術(shù)發(fā)展盡可能減少不必要的障礙。

　　在文本生成階段，盡管ChatGPT背后的技術(shù)機(jī)理并不是整段復(fù)制他人作品，但是也不排除生成侵犯他人著作權(quán)的內(nèi)容。生成侵權(quán)內(nèi)容這一行為實(shí)際上就涉及侵犯復(fù)制權(quán)。如果通過(guò)網(wǎng)絡(luò)提供還可能構(gòu)成侵犯信息網(wǎng)絡(luò)傳播權(quán)。需要討論的是，是否需要為此類大模型的侵權(quán)責(zé)任設(shè)置一定的避風(fēng)港，以及采取哪些措施促使其減少侵權(quán)?！?/p>

　　用戶需要認(rèn)識(shí)到，ChatGPT生成的內(nèi)容一方面有侵權(quán)風(fēng)險(xiǎn)，另一方面其也經(jīng)?！耙槐菊?jīng)地胡說(shuō)八道”，因此在嚴(yán)肅的學(xué)術(shù)作品創(chuàng)作中，最多讓ChatGPT作為一個(gè)啟發(fā)，相關(guān)內(nèi)容則需要自己去認(rèn)真求證。

問(wèn)題三：如何解決ChatGPT引發(fā)的數(shù)據(jù)安全風(fēng)險(xiǎn)？

　　主持人：在人機(jī)交互的過(guò)程中，ChatGPT會(huì)獲取大量用戶或者業(yè)務(wù)相關(guān)數(shù)據(jù)，并加以識(shí)別及存儲(chǔ)，可能導(dǎo)致相關(guān)信息泄露。對(duì)于由此帶來(lái)的侵犯?jìng)€(gè)人信息、泄露個(gè)人隱私、商業(yè)秘密的風(fēng)險(xiǎn)，法律如何應(yīng)對(duì)？OpenAI的使用條款并未對(duì)用戶輸入ChatGPT的機(jī)密信息提供保護(hù)，如果出現(xiàn)侵權(quán)情形，OpenAI是否應(yīng)承擔(dān)相應(yīng)責(zé)任？

　　皮勇：ChatGPT的算法學(xué)習(xí)包括對(duì)數(shù)據(jù)資料的無(wú)監(jiān)督學(xué)習(xí)、人工指導(dǎo)的有監(jiān)督學(xué)習(xí)和與用戶人機(jī)對(duì)話過(guò)程中的學(xué)習(xí)，用戶輸入的信息會(huì)被記錄并成為機(jī)器智能的組成部分，從而對(duì)用戶的個(gè)人信息、秘密信息、商業(yè)秘密和其他秘密情報(bào)形成安全風(fēng)險(xiǎn)。從技術(shù)上講，排除對(duì)用戶提供信息的吸納是不可能的，阻止其基于這些信息向管理者和其他用戶提供與之相關(guān)的生成信息，也是不現(xiàn)實(shí)的，因?yàn)檫@違反了機(jī)器學(xué)習(xí)的基本規(guī)律，因此，在OpenAI單方面擬出的使用協(xié)議下，用戶使用ChatGPT的確存在安全風(fēng)險(xiǎn)。

　　ChatGPT基于互聯(lián)網(wǎng)向用戶提供信息服務(wù)，屬于網(wǎng)絡(luò)信息服務(wù)提供者，受網(wǎng)絡(luò)安全法、個(gè)人信息保護(hù)法和刑法相關(guān)規(guī)定的規(guī)制。根據(jù)上述法律規(guī)定，ChatGPT應(yīng)當(dāng)對(duì)用戶信息嚴(yán)格保密，不得違法收集、使用、向他人提供以及以其他方式處理用戶的個(gè)人信息，不得泄露、篡改、毀損其收集的個(gè)人信息，不得竊取個(gè)人信息，不得非法出售個(gè)人信息，也不得發(fā)布法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔?，確保其收集的個(gè)人信息安全。國(guó)家網(wǎng)信部門和有關(guān)部門發(fā)現(xiàn)有法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌?，?yīng)當(dāng)要求相關(guān)網(wǎng)絡(luò)運(yùn)營(yíng)者停止傳輸，采取消除等處置措施，保存有關(guān)記錄。由于ChatGPT發(fā)布的信息來(lái)源于我國(guó)境外，如果其含有以上違法信息，上述部門應(yīng)當(dāng)通知有關(guān)機(jī)構(gòu)采取技術(shù)措施和其他必要措施阻斷傳播。

　　ChatGPT是智能服務(wù)系統(tǒng)，當(dāng)其脫網(wǎng)運(yùn)行時(shí)，不受網(wǎng)絡(luò)安全法及刑法關(guān)于網(wǎng)絡(luò)犯罪立法的規(guī)制。為了避免人工智能相關(guān)法律缺失導(dǎo)致OpenAI的使用協(xié)議成為侵犯合法權(quán)益的依據(jù)，建議我國(guó)研究制定人工智能安全法，明確規(guī)定相關(guān)使用協(xié)議不得成為損害合法權(quán)益的豁免依據(jù)，要求其提供的信息服務(wù)不能損害用戶合法權(quán)益，不得直接或間接提供對(duì)用戶權(quán)益和其他合法權(quán)益、公共安全和國(guó)家安全與利益構(gòu)成威脅的信息，否則，OpenAI及相關(guān)主體應(yīng)當(dāng)承擔(dān)民事、行政和刑事法律責(zé)任。

　　張凌寒：針對(duì)用戶和ChatGPT交互過(guò)程中可能產(chǎn)生的一系列侵權(quán)風(fēng)險(xiǎn)，應(yīng)重點(diǎn)規(guī)制兩方主體。一方為用戶，即依據(jù)網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法及其相關(guān)配套法規(guī)，規(guī)制用戶輸入行為；另一方為深度合成服務(wù)提供者，也即ChatGPT的開發(fā)者OpenAI。除依據(jù)上述法律、行政法規(guī)外，還應(yīng)結(jié)合2021年國(guó)家互聯(lián)網(wǎng)信息辦公室等發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、2022年國(guó)家互聯(lián)網(wǎng)信息辦公室等發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等算法領(lǐng)域的專門性規(guī)定進(jìn)行監(jiān)督和管理。

　　在現(xiàn)有的深度合成治理框架中，我國(guó)將深度合成服務(wù)提供者作為治理的樞紐。一方面，深度合成服務(wù)提供者應(yīng)盡到自身的安全管理義務(wù)，如進(jìn)行深度合成內(nèi)容標(biāo)識(shí)，建立鑒偽與辟謠機(jī)制，完成算法備案等；另一方面，深度合成服務(wù)提供者要履行對(duì)上游技術(shù)支持者和下游服務(wù)使用者的管理責(zé)任，提示技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)，對(duì)使用者輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，并提示使用者應(yīng)對(duì)深度合成做顯著標(biāo)識(shí)。如規(guī)定要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示使用者（用戶）并取得其單獨(dú)同意。在OpenAI未履行對(duì)用戶的提示義務(wù)以及對(duì)用戶輸入內(nèi)容的審核義務(wù)的情況下，發(fā)生數(shù)據(jù)侵權(quán)情形，其應(yīng)承擔(dān)一定的法律責(zé)任。

　　張吉豫：ChatGPT等大規(guī)模語(yǔ)言模型需要遵守個(gè)人信息保護(hù)法、數(shù)據(jù)安全法的相關(guān)規(guī)定。一些用戶可能意識(shí)不到個(gè)人信息、商業(yè)秘密被處理的可能性。此類模型應(yīng)當(dāng)提供選項(xiàng)，讓用戶選擇是否具有個(gè)人信息或商業(yè)秘密，對(duì)于涉及個(gè)人信息和商業(yè)秘密的，模型如需存儲(chǔ)信息或會(huì)涉及對(duì)模型的更新，應(yīng)當(dāng)征得用戶同意。

問(wèn)題四：如何應(yīng)對(duì)ChatGPT回復(fù)錯(cuò)誤信息的風(fēng)險(xiǎn)？

　　主持人：用戶隨手將看到的內(nèi)容、觀點(diǎn)上傳到平臺(tái)，ChatGPT在用戶海量信息提取過(guò)程中自主學(xué)習(xí)進(jìn)化，存在錯(cuò)誤回復(fù)問(wèn)題，若錯(cuò)誤回復(fù)被應(yīng)用于商業(yè)，可能造成嚴(yán)重后果。實(shí)踐中，如何應(yīng)對(duì)ChatGPT錯(cuò)誤回復(fù)的風(fēng)險(xiǎn)？隨著人工智能程度的不斷提高，ChatGPT是否可以作為獨(dú)立民事主體對(duì)其行為承擔(dān)相應(yīng)責(zé)任？如果ChatGPT被用作網(wǎng)絡(luò)犯罪工具，其開發(fā)者、設(shè)計(jì)者能否以“技術(shù)中立”為抗辯事由規(guī)避責(zé)任？

　　皮勇：OpenAI將ChatGPT提供的信息符合真實(shí)性、無(wú)害性和有用性作為努力目標(biāo)，但是，ChatGPT的算法和訓(xùn)練數(shù)據(jù)存在局限性，特別是來(lái)自互聯(lián)網(wǎng)的數(shù)據(jù)無(wú)法保證真實(shí)性、準(zhǔn)確性和專業(yè)性，其生成的信息難以排除虛假信息。OpenAI雖采取了一些技術(shù)措施對(duì)ChatGPT生成的信息進(jìn)行正確性檢測(cè)，也沒(méi)有完全消除前述因素的影響，并在較長(zhǎng)時(shí)間內(nèi)不可能完全解決ChatGPT提供虛假、錯(cuò)誤甚至有害信息的問(wèn)題。對(duì)此，ChatGPT的運(yùn)營(yíng)者、管理者應(yīng)作出能夠引起用戶足夠重視的提示，告知其回復(fù)的信息可能是虛假、錯(cuò)誤甚至有害的，用戶應(yīng)當(dāng)自行判斷、檢驗(yàn)信息的正確性。如果不進(jìn)行以上提示，甚至誤導(dǎo)用戶盲目信任，就應(yīng)當(dāng)對(duì)其提供的信息所導(dǎo)致的損害后果承擔(dān)相應(yīng)的法律責(zé)任。

　　關(guān)于ChatGPT發(fā)展到強(qiáng)人工智能階段能否成為民事法律主體的問(wèn)題，筆者認(rèn)為除非對(duì)現(xiàn)有法律體系進(jìn)行根本性變革，否則，ChatGPT不能作為獨(dú)立民事主體承擔(dān)法律責(zé)任。ChatGPT提供的信息導(dǎo)致?lián)p害后果的，應(yīng)當(dāng)由其運(yùn)營(yíng)者、管理者承擔(dān)民事賠償責(zé)任。如果法律認(rèn)為有必要?jiǎng)佑眯谭ㄊ侄畏乐笴hatGPT引起廣泛的、嚴(yán)重的危害，有必要對(duì)其運(yùn)營(yíng)者、管理者規(guī)定安全管理義務(wù)，違反該義務(wù)導(dǎo)致嚴(yán)重后果或者情節(jié)嚴(yán)重的，應(yīng)當(dāng)承擔(dān)刑事責(zé)任。目前我國(guó)刑法規(guī)定了網(wǎng)絡(luò)服務(wù)提供者拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪，該罪處罰的是網(wǎng)絡(luò)服務(wù)提供者不履行信息網(wǎng)絡(luò)安全管理義務(wù)，防止其他主體妨害信息網(wǎng)絡(luò)安全管理秩序且情節(jié)嚴(yán)重的行為，而ChatGPT提供的信息服務(wù)是網(wǎng)絡(luò)服務(wù)提供者自營(yíng)服務(wù)，ChatGPT只是經(jīng)營(yíng)工具而非法律主體，防止ChatGPT提供違法有害信息不屬于履行信息網(wǎng)絡(luò)安全管理義務(wù)的行為，因此，有必要將不履行智能服務(wù)安全管理責(zé)任導(dǎo)致嚴(yán)重事故的行為設(shè)置為獨(dú)立的犯罪，以給予充分、合理的刑法規(guī)制。

　　在排除ChatGPT的運(yùn)營(yíng)者、管理者惡意影響其算法的情況下，ChatGPT可以被視為中性技術(shù)工具，如果其被作為網(wǎng)絡(luò)犯罪工具，不應(yīng)追究其開發(fā)者、設(shè)計(jì)者的法律責(zé)任。但是，如果ChatGPT的運(yùn)營(yíng)者、管理者發(fā)現(xiàn)其提供的信息服務(wù)被他人用于違法犯罪活動(dòng)時(shí)，根據(jù)網(wǎng)絡(luò)安全法、個(gè)人信息保護(hù)法、刑法相關(guān)規(guī)定，其應(yīng)當(dāng)承擔(dān)信息網(wǎng)絡(luò)安全管理義務(wù)，拒不履行該義務(wù)并導(dǎo)致嚴(yán)重后果或者具有其他嚴(yán)重情節(jié)的，應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。如果ChatGPT的運(yùn)營(yíng)者、管理者惡意訓(xùn)練ChatGPT，使之成為歧視或損害特定人群、組織體合法權(quán)益或國(guó)家安全與利益的工具的，運(yùn)營(yíng)者、管理者等應(yīng)依法承擔(dān)相應(yīng)的民事、行政、刑事法律責(zé)任。

　　張凌寒：實(shí)踐中，應(yīng)嚴(yán)格執(zhí)行深度合成治理中有關(guān)信息內(nèi)容安全的監(jiān)管措施，繼續(xù)要求人工智能生成物技術(shù)與服務(wù)提供者在相關(guān)人工智能自動(dòng)生成內(nèi)容中，履行添加可識(shí)別水印或有效警示信息的義務(wù)，在源頭上實(shí)現(xiàn)人工智能自動(dòng)生成內(nèi)容的可識(shí)別。不過(guò)，對(duì)人工智能生成物的標(biāo)識(shí)應(yīng)提高要求。如對(duì)ChatGPT或類似軟件“以某人風(fēng)格”生成文本或圖像視頻等內(nèi)容時(shí)，應(yīng)當(dāng)在生成內(nèi)容的合理位置做出顯著標(biāo)識(shí)，以免公眾產(chǎn)生混淆或誤認(rèn)。生成內(nèi)容型的人工智能必然會(huì)發(fā)生內(nèi)容安全問(wèn)題，盡管ChatGPT對(duì)基于惡意目的的使用作出了一些限制，但是有技巧的使用者仍然可以采取措施來(lái)繞開這些限制。因此，人工智能生成物不僅仍需配備人工過(guò)濾審核機(jī)制，而且需要在下游督促網(wǎng)絡(luò)平臺(tái)采取措施減少違法信息的產(chǎn)出。深度合成監(jiān)管中的辟謠機(jī)制和舉報(bào)機(jī)制同樣適用于ChatGPT等生成型人工智能。對(duì)于已經(jīng)或者準(zhǔn)備在網(wǎng)絡(luò)中傳播不實(shí)信息和可能危害公共秩序的內(nèi)容，平臺(tái)有義務(wù)停止傳輸，并且對(duì)于頻繁發(fā)布此類信息的用戶通過(guò)黑名單或其他機(jī)制加以限制和處罰。尤其是在人工智能生成物與機(jī)器人賬號(hào)結(jié)合可能帶來(lái)更大信息內(nèi)容安全風(fēng)險(xiǎn)時(shí)，應(yīng)在現(xiàn)有賬號(hào)管理機(jī)制中強(qiáng)化對(duì)機(jī)器人賬號(hào)的身份識(shí)別監(jiān)管和對(duì)權(quán)威賬號(hào)的特殊認(rèn)定，減少機(jī)器人批量推送人工智能生成物。

　　在我國(guó)現(xiàn)有的算法治理體系中，立法者和監(jiān)管者對(duì)ChatGPT等算法技術(shù)還具有明顯的“工具性”假設(shè)。深度合成中的生成型人工智能技術(shù)鏈條的參與者包括：開發(fā)者建模并預(yù)訓(xùn)練大模型；部署者根據(jù)應(yīng)用需求，或單獨(dú)或與開發(fā)者合作進(jìn)行參數(shù)微調(diào)；用戶最終與生成型人工智能互動(dòng)，并決定生成型人工智能的具體用途。即便ChatGPT發(fā)展到了能夠取得相當(dāng)一部分人信任的程度，按照現(xiàn)有責(zé)任規(guī)則，使用ChatGPT造成的虛假信息傳播的責(zé)任，主要還是在深度合成服務(wù)提供者、部署者和使用者之間分配。隨著ChatGPT人工智能程度的不斷提高，立法者可考慮賦予算法以法律主體地位，并制定一系列相應(yīng)制度以納入現(xiàn)有法律體系規(guī)制框架。在現(xiàn)行可能的規(guī)范手段中，對(duì)算法復(fù)雜性列出定性尺度，有助于評(píng)估算法自主程度并因應(yīng)性地予以規(guī)范。算法主體性不同于法人等法律擬制制度，而是人造物基于智能性而非為法律規(guī)制便宜性獲得的法律主體地位。算法法律主體化后，可承擔(dān)有限侵權(quán)責(zé)任。

　　當(dāng)前，ChatGPT具有明顯的工具性質(zhì)，不具備法律主體資格。在生成型人工智能的技術(shù)產(chǎn)出鏈條上，技術(shù)開發(fā)者是關(guān)鍵，應(yīng)當(dāng)承擔(dān)一定的深度合成合規(guī)責(zé)任。深度合成服務(wù)提供者是我國(guó)深度合成治理的樞紐，既要盡到自身的安全管理義務(wù)，又要履行對(duì)上游技術(shù)支持者和下游服務(wù)使用者的管理責(zé)任。ChatGPT被用于實(shí)施網(wǎng)絡(luò)犯罪時(shí)，使用者即為網(wǎng)絡(luò)犯罪行為正犯，應(yīng)承擔(dān)刑事責(zé)任無(wú)疑。深度合成服務(wù)提供者、技術(shù)開發(fā)者或設(shè)計(jì)者客觀上為使用者提供了技術(shù)幫助行為，能否以技術(shù)中立為由出罪，不能簡(jiǎn)單地以其主觀上是否明知來(lái)判斷，還應(yīng)當(dāng)考慮其是否履行了法定義務(wù)，只有嚴(yán)格履行網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)規(guī)定的信息網(wǎng)絡(luò)安全管理義務(wù)，才能以技術(shù)中立為由出罪。

　　張吉豫：《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第23條規(guī)定了深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)，并明確了篇章生成、文本風(fēng)格轉(zhuǎn)換、問(wèn)答對(duì)話等生成或者編輯文本內(nèi)容的技術(shù)，為ChatGPT這類應(yīng)用提供了比較明確的監(jiān)管規(guī)則。

　　《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中要求服務(wù)提供者建立健全用戶注冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度，具有安全可控的技術(shù)保障措施；采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核；建立健全用于識(shí)別違法和不良信息的特征庫(kù)；建立健全辟謠機(jī)制；設(shè)置便捷的用戶申訴和公眾投訴、舉報(bào)入口等，這一系列義務(wù)對(duì)深度合成治理的全鏈條進(jìn)行了規(guī)范。同時(shí)，要求對(duì)于具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》進(jìn)行備案?！?/p>

　　在面對(duì)用戶方面，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也規(guī)定了深度合成服務(wù)提供者對(duì)于生成內(nèi)容的標(biāo)識(shí)和保存信息的義務(wù)。其中標(biāo)識(shí)義務(wù)是分級(jí)分類的，對(duì)于智能對(duì)話、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。未來(lái)可以進(jìn)行細(xì)化指引，特別是在涉及醫(yī)療、金融、教育等問(wèn)答的時(shí)候，應(yīng)進(jìn)行更加顯著的風(fēng)險(xiǎn)提示。

　　目前，人工智不能被視為民事主體。在進(jìn)行了合理提示、盡到了合規(guī)義務(wù)的情況下，如果公眾仍有誤信，除非能夠證明過(guò)錯(cuò)，否則不應(yīng)令通用語(yǔ)言模型提供者承擔(dān)責(zé)任?？筛鶕?jù)具體情況，判斷最終服務(wù)提供者是否具有責(zé)任。

問(wèn)題五：如何在鼓勵(lì)人工智能發(fā)展的同時(shí)完善相關(guān)領(lǐng)域立法？

　　主持人：人工智能技術(shù)是科技發(fā)展的重要領(lǐng)域，有必要對(duì)其加強(qiáng)研究，完善相關(guān)法律體系。在對(duì)這一新興領(lǐng)域完善立法時(shí)，應(yīng)重點(diǎn)考慮哪些方面？如何解決技術(shù)快速發(fā)展與立法滯后之間的矛盾？除立法規(guī)制外，還可以通過(guò)哪些途徑規(guī)避人工智能所引發(fā)的風(fēng)險(xiǎn)？檢察機(jī)關(guān)如何依法能動(dòng)履職，有效應(yīng)對(duì)風(fēng)險(xiǎn)挑戰(zhàn)？

　　皮勇：對(duì)人工智能技術(shù)領(lǐng)域創(chuàng)設(shè)和完善相關(guān)立法時(shí)，應(yīng)堅(jiān)持總體國(guó)家安全觀和新發(fā)展理念，深刻認(rèn)識(shí)發(fā)展是安全的基礎(chǔ)、安全是發(fā)展的條件，平衡好安全與發(fā)展兩方面需要。要保障我國(guó)新一代人工智能技術(shù)在內(nèi)的新興技術(shù)高質(zhì)量發(fā)展，為促進(jìn)其有益發(fā)展、快速應(yīng)用提供法律支持；同時(shí)，時(shí)刻保持安全風(fēng)險(xiǎn)防控意識(shí)。檢視新一代人工智能技術(shù)對(duì)國(guó)家安全與發(fā)展利益、公共安全、公眾和國(guó)內(nèi)組織合法權(quán)益廣泛、深遠(yuǎn)的影響，以有益于本國(guó)國(guó)家和國(guó)民利益為立法導(dǎo)向，在發(fā)展和安全兩方面需要之間尋求適當(dāng)?shù)钠胶狻?/p>

　　技術(shù)快速發(fā)展與立法滯后的矛盾問(wèn)題，本質(zhì)上是社會(huì)發(fā)展與立法穩(wěn)定之間的矛盾。當(dāng)社會(huì)發(fā)展速度快而立法修改速度跟不上時(shí)，在不發(fā)生嚴(yán)重后果的情況下，可以允許在不長(zhǎng)的時(shí)間內(nèi)維護(hù)立法的穩(wěn)定性。在不破壞國(guó)家法治原則的前提下，發(fā)揮理論解釋的能動(dòng)性指導(dǎo)司法實(shí)踐是良法善治的體現(xiàn)。但是，當(dāng)社會(huì)的發(fā)展不適合于按照現(xiàn)有立法來(lái)治理時(shí)，特別是會(huì)給國(guó)家安全與發(fā)展利益、公共安全、社會(huì)進(jìn)步和廣大公眾合法權(quán)益造成嚴(yán)重的消極影響、阻礙新技術(shù)發(fā)展應(yīng)用、不利于充分保護(hù)新生重要利益時(shí)，應(yīng)及時(shí)創(chuàng)設(shè)必要的新法或者修改現(xiàn)有法律。我國(guó)應(yīng)將人工智能安全法列入立法研究和規(guī)劃的日程表，在五年或更短的時(shí)間內(nèi)制定該部法律。

　　新一代人工智能技術(shù)應(yīng)用會(huì)給社會(huì)各領(lǐng)域活動(dòng)帶來(lái)顛覆性變革，檢察機(jī)關(guān)應(yīng)緊跟這一輪新技術(shù)變革的步伐，實(shí)現(xiàn)檢察業(yè)務(wù)智能化升級(jí)，同時(shí)，全面、深入研究包括ChatGPT在內(nèi)的新一代人工智能研發(fā)與應(yīng)用給社會(huì)帶來(lái)的安全風(fēng)險(xiǎn)，及其衍生的相關(guān)新形式違法犯罪，依法懲治ChatGPT相關(guān)違法犯罪活動(dòng)，積極推動(dòng)人工智能相關(guān)犯罪立法和司法規(guī)則的創(chuàng)設(shè)與完善。

　　張凌寒：我國(guó)深度合成人工智能立法既要保障急用先行，避免新興技術(shù)帶來(lái)的問(wèn)題，又不能急于推行過(guò)于嚴(yán)格的人工智能方案以提高制度的可用性。一方面，在算法監(jiān)管的經(jīng)驗(yàn)與框架中，繼續(xù)推進(jìn)深度合成的治理；另一方面，在深度合成治理的探索中，逐步形成通用人工智能立法的經(jīng)驗(yàn)，為未來(lái)統(tǒng)籌算法、算力、數(shù)據(jù)的人工智能治理進(jìn)行更多有益嘗試。

　　技術(shù)發(fā)展的快速性與立法的滯后性之間的矛盾是無(wú)法避免的，這就要求立法具有一定的前瞻性，在解決現(xiàn)有社會(huì)矛盾的基礎(chǔ)上，防患于未然，適度超前立法。針對(duì)法律漏洞，應(yīng)及時(shí)出臺(tái)立法解釋，盡可能改善立法的滯后問(wèn)題。當(dāng)然，我們也應(yīng)理性認(rèn)識(shí)到，立法無(wú)法解決所有由技術(shù)發(fā)展引發(fā)的社會(huì)問(wèn)題。除了立法規(guī)制外，還應(yīng)發(fā)揮深度合成治理優(yōu)勢(shì)，根據(jù)生成型人工智能技術(shù)特點(diǎn)更新監(jiān)管邏輯，基于其通用性實(shí)施全鏈條治理；同時(shí)還需立足現(xiàn)行法規(guī)中分級(jí)分類治理架構(gòu)，結(jié)合技術(shù)、產(chǎn)業(yè)和應(yīng)用建立有機(jī)體系和設(shè)置具體規(guī)則，以形成在全球更具影響力的深度合成治理法律制度體系。

　　面對(duì)人工智能技術(shù)帶來(lái)的風(fēng)險(xiǎn)，檢察機(jī)關(guān)應(yīng)著重從以下四個(gè)方面依法能動(dòng)履職：

　　其一，對(duì)涉人工智能刑事案件行使審查起訴權(quán)，積極運(yùn)用刑事辦案智能輔助系統(tǒng)審查事實(shí)、證據(jù)、程序等是否存在疑點(diǎn)；

　　其二，推進(jìn)涉罪人工智能技術(shù)研發(fā)、應(yīng)用企業(yè)的合規(guī)整改，督促、引導(dǎo)、幫助涉案企業(yè)順利完成合規(guī)整改；　

　　其三，行使法律監(jiān)督權(quán)，監(jiān)督法官在人工智能技術(shù)輔助下作出的司法決策是否公平公正；

　　其四，開展公益訴訟，有效防范侵犯?jìng)€(gè)人信息、泄露隱私等問(wèn)題。

　　張吉豫：對(duì)于新興領(lǐng)域進(jìn)行立法完善時(shí)，既要考慮其發(fā)展是否有不合理的制度障礙，又要考慮適當(dāng)?shù)姆梢?guī)制模式。面對(duì)處在快速發(fā)展階段的ChatGPT這類大模型，我國(guó)需努力發(fā)展我們自己的大模型，一方面要排除數(shù)據(jù)訓(xùn)練等方面的不合理障礙，促進(jìn)數(shù)據(jù)要素的流通利用；另一方面要建立發(fā)展與安全相統(tǒng)籌、符合科學(xué)發(fā)展規(guī)律和發(fā)展階段的賦能型監(jiān)管理念和監(jiān)管模式，包括將彈性條款與具體規(guī)則、標(biāo)準(zhǔn)相結(jié)合，建立敏捷聯(lián)動(dòng)的監(jiān)管關(guān)系及便利公眾監(jiān)督的渠道等具體結(jié)構(gòu)和路徑。

　　在治理過(guò)程中，需充分調(diào)動(dòng)多元主體共同治理，形成多元共治的格局。我國(guó)科技領(lǐng)域立法中特別注重多元共治。網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法中都有明確體現(xiàn)。2021年9月，國(guó)家互聯(lián)網(wǎng)信息辦公室、中央宣傳部等9部門聯(lián)合發(fā)布了《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，其中也專門指出要“打造形成政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會(huì)監(jiān)督的算法安全多元共治局面”。

　　在人工智能治理領(lǐng)域探索建立涉案企業(yè)合規(guī)不起訴制度，有助于建立預(yù)防與懲罰并舉的人工智能風(fēng)險(xiǎn)防控系統(tǒng)，在預(yù)防人工智能企業(yè)犯罪、加強(qiáng)企業(yè)自我監(jiān)管、實(shí)現(xiàn)企業(yè)依法依規(guī)經(jīng)營(yíng)等方面發(fā)揮積極作用。

本文章僅限學(xué)習(xí)交流使用，版權(quán)歸原作者所有。

—— EDN ——

Serving national strategies, focusing on university research and the transformation of scientific and technological achievements