□ 葉鏑

生成式人工智能的快速發(fā)展，正在重塑社會(huì)生產(chǎn)關(guān)系和權(quán)力結(jié)構(gòu)。其通過深度學(xué)習(xí)模型實(shí)現(xiàn)內(nèi)容自主生成的能力，既創(chuàng)造了效率革命，也衍生出數(shù)據(jù)侵權(quán)、虛假信息傳播、深度偽造犯罪等新型刑事風(fēng)險(xiǎn)。傳統(tǒng)以人類行為為中心的法治框架，在應(yīng)對(duì)生成式人工智能的“非人格性決策”和“技術(shù)黑箱”特征時(shí)，顯現(xiàn)出主體歸責(zé)模糊、規(guī)則滯后、司法適用失序等系統(tǒng)性困境。完善刑事規(guī)制體系，需立足法治核心價(jià)值，構(gòu)建“風(fēng)險(xiǎn)預(yù)防—責(zé)任分配—司法救濟(jì)”的閉環(huán)治理機(jī)制。

立法完善：構(gòu)建分層風(fēng)險(xiǎn)防控體系

立法要確定風(fēng)險(xiǎn)分級(jí)的標(biāo)準(zhǔn)，參考其他國家和地區(qū)的做法把生成式人工智能系統(tǒng)按照風(fēng)險(xiǎn)等級(jí)分成“不可接受風(fēng)險(xiǎn)”“高風(fēng)險(xiǎn)”“有限風(fēng)險(xiǎn)”和“最小風(fēng)險(xiǎn)”四類，對(duì)不可接受風(fēng)險(xiǎn)的行為如用深度偽造技術(shù)進(jìn)行詐騙或者誹謗，直接把這類行為納入刑事犯罪的范圍加強(qiáng)刑罰的震懾作用；對(duì)高風(fēng)險(xiǎn)的場景如在醫(yī)療或者金融領(lǐng)域，建立合規(guī)檢查機(jī)制以確保開發(fā)者做好數(shù)據(jù)安全工作，做得不到位就要追究其刑事責(zé)任。這種分級(jí)的方法符合技術(shù)發(fā)展的真實(shí)情況，防止用統(tǒng)一標(biāo)準(zhǔn)處理所有情況帶來的落后問題。

加強(qiáng)責(zé)任主體之間的聯(lián)系，面對(duì)生成式人工智能產(chǎn)生侵害他人利益的風(fēng)險(xiǎn)，立法要把拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪的適用范圍擴(kuò)大，把研發(fā)者、生產(chǎn)者納入管理決策和流程中。比如，沒有及時(shí)消除數(shù)據(jù)泄露的風(fēng)險(xiǎn)造成他人合法權(quán)益受損的，可以追究其刑事責(zé)任填補(bǔ)法律上的漏洞。另外，需要建立鏈?zhǔn)截?zé)任分配辦法，明確開發(fā)者、使用者和監(jiān)管者的工作職責(zé)，確保其承擔(dān)的責(zé)任和獲得的利益是對(duì)應(yīng)的。

推進(jìn)動(dòng)態(tài)監(jiān)管和公眾參與，立法要求生成式人工智能系統(tǒng)通過多種方式公開自身情況，成立專門負(fù)責(zé)監(jiān)管的部門開展合規(guī)檢查工作，鼓勵(lì)公眾參與監(jiān)督，用法治教育方式提高公眾的認(rèn)識(shí)，形成讓技術(shù)向好發(fā)展的治理環(huán)境。通過這些辦法既能加強(qiáng)刑事規(guī)制的預(yù)防作用，又能為技術(shù)創(chuàng)新提供合適法治空間，為數(shù)字時(shí)代提供堅(jiān)實(shí)制度支持。

司法適用：強(qiáng)化技術(shù)賦能與程序正義

建立技術(shù)賦能的司法審查機(jī)制。在刑事偵查階段，立法要求生成式人工智能系統(tǒng)把算法決策過程公開，保證算法決策能被查詢。比如，在審查深度偽造技術(shù)生成的證據(jù)時(shí)，成立專門部門核實(shí)證據(jù)數(shù)據(jù)來源，防止虛假信息誤導(dǎo)司法判斷。同時(shí)，加強(qiáng)檢察機(jī)關(guān)對(duì)技術(shù)應(yīng)用的監(jiān)督工作，實(shí)現(xiàn)偵查效率和保護(hù)公民權(quán)利之間的平衡，防止技術(shù)濫用。

改進(jìn)程序正義的保障路徑。在審判環(huán)節(jié)，立法要確定開發(fā)者解釋算法的義務(wù)要求。開發(fā)者應(yīng)把模型邏輯解釋清楚，讓法官和當(dāng)事人都能理解。比如，對(duì)類案裁判的生成結(jié)果，賦予被告人提出不同意見的權(quán)利，允許通過技術(shù)復(fù)核方式糾正偏見。另外，建立公共技術(shù)服務(wù)平臺(tái)，為控辯雙方提供相同的數(shù)據(jù)獲取途徑，保障控辯雙方的信息平等。

協(xié)同治理：構(gòu)建多元主體共治格局

強(qiáng)化政府的主導(dǎo)作用。明確監(jiān)管職責(zé)，成立專門機(jī)構(gòu)負(fù)責(zé)生成式人工智能的合規(guī)檢查和風(fēng)險(xiǎn)監(jiān)控。企業(yè)要定期提交技術(shù)使用報(bào)告，對(duì)高風(fēng)險(xiǎn)場景實(shí)行準(zhǔn)入許可制度，保證技術(shù)發(fā)展符合法治規(guī)定，并且積極推進(jìn)跨部門合作，建立信息共享機(jī)制，提高監(jiān)管效果。

壓實(shí)企業(yè)的主體責(zé)任。明確要求生成式人工智能開發(fā)者（服務(wù)提供者）承擔(dān)數(shù)據(jù)安全與隱私保護(hù)的義務(wù)，對(duì)違規(guī)行為依法追究法律責(zé)任。比如，對(duì)深度偽造技術(shù)的濫用，要求企業(yè)承擔(dān)連帶責(zé)任，推動(dòng)其加強(qiáng)內(nèi)部合規(guī)管理，并且鼓勵(lì)企業(yè)制定行業(yè)標(biāo)準(zhǔn)和規(guī)范，通過自律機(jī)制防止刑事風(fēng)險(xiǎn)。

激發(fā)社會(huì)監(jiān)督的活力。保障公眾知情權(quán)與參與權(quán)，建立舉報(bào)有獎(jiǎng)機(jī)制，鼓勵(lì)社會(huì)組織和媒體監(jiān)督技術(shù)應(yīng)用。比如，對(duì)傳播虛假信息的行為，公眾可通過舉報(bào)平臺(tái)向相關(guān)部門舉報(bào)，有效推動(dòng)對(duì)違法違規(guī)行為的及時(shí)查處。加強(qiáng)法治教育，提高全社會(huì)對(duì)生成式人工智能風(fēng)險(xiǎn)的認(rèn)知，形成全民共治氛圍。

推動(dòng)國際合作治理。參考國際經(jīng)驗(yàn)，參與全球規(guī)則制定，協(xié)調(diào)跨國監(jiān)管行動(dòng)。比如，通過制定雙邊或多邊合作協(xié)議，共同打擊跨境數(shù)據(jù)犯罪，維護(hù)法治秩序。構(gòu)建多元主體協(xié)同的治理體系，實(shí)現(xiàn)刑事規(guī)制的預(yù)防與懲治并重，為數(shù)字時(shí)代提供牢固法治保障。

生成式人工智能的刑事規(guī)制完善，本質(zhì)上是法治對(duì)技術(shù)革命的適應(yīng)性改變，通過立法填補(bǔ)規(guī)則漏洞、司法加強(qiáng)程序正義、協(xié)同治理聚集社會(huì)共識(shí)，搭建“預(yù)防—追責(zé)—救濟(jì)”的全鏈條治理體系。隨著“強(qiáng)人工智能”時(shí)代的臨近，法治框架需要不斷更新，在保障技術(shù)創(chuàng)新的同時(shí)，守住“以人為本”的法治底線，明確人機(jī)責(zé)任邊界，促進(jìn)人機(jī)協(xié)同共生。

（作者單位：江蘇警官學(xué)院法律系）