美國人工智能研究公司OpenAI推出的自然語言處理工具ChatGPT，能夠通過學習和理解人類語言進行對話，完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。據新華社報道，ChatGPT推出約兩個月后，活躍用戶即已達到1億，成為歷史上增長最快的消費者應用程序，迅速成為人們熱議的話題。但目前ChatGPT帶來的社會后果尚不能被人類完全預見，存在較高的安全風險。
ChatGPT的應用風險
盡管OpenAI在開發ChatGPT時極力避免輸出帶有算法歧視、偏見、侮辱、攻擊、色情、暴力、血腥等導向的內容，但如果使用者有意通過設置命令誘導其輸出不良、虛假或違法信息，最終可能突破研發者對其設置的道德倫理及法律底線。
其一，可能侵犯知識產權。因ChatGPT輸出內容在不同用戶之間可能不具有唯一性，故不同使用者可能基于相似的問題輸入而收到人工智能相同的回應。若享有著作權的使用者以文本檢查、翻譯等目的將其文字作品輸入ChatGPT中，而其他用戶輸入類似主題的寫作需求，ChatGPT則可能通過信息網絡將著作權人的作品進行非法傳播，情節嚴重者，可能侵犯他人的著作權。
其二，可能存在數據泄露風險。當ChatGPT使用的語言數據集包含涉及個人隱私、國家安全、商業秘密等敏感信息時，如果該數據集沒有得到適當的安全保護，那么攻擊者就可能通過黑客攻擊等手段獲取這些敏感信息。
其三，可能存在非法利用ChatGPT的情形。不法分子可能利用ChatGPT快速編寫郵件的能力，批量撰寫“釣魚”郵件，實施網絡詐騙；或通過ChatGPT生成虛假的新聞信息、交易信息、投資建議等，對他人實施詐騙；或利用ChatGPT生成偽造的文檔、簽名、身份信息等，盜竊他人財物；或利用ChatGPT生成虛假的視頻或音頻，幫助不法分子偽造犯罪證據；或利用ChatGPT生成相應的攻擊代碼、惡意軟件代碼破壞網絡秩序；或利用ChatGPT制造網絡輿情、散播網絡謠言、實施網絡暴力等。
其四，在ChatGPT管理者責任方面，如果ChatGPT的提供者不履行法律、行政法規規定的信息網絡安全管理義務，致使違法信息大量傳播、用戶信息泄露并造成嚴重后果等，經監管部門責令采取改正而拒不改正的，則可能構成拒不履行信息網絡安全管理義務的行為。這不僅不利于綠色網絡環境建設，還可能對個人及社會產生嚴重的負面影響，危害國家安全和社會穩定。
以法治規制生成式人工智能產品應用風險
黨的二十大報告強調：“堅持安全第一、預防為主，建立大安全大應急框架，完善公共安全體系，推動公共安全治理模式向事前預防轉型。”鑒于生成式人工智能技術的迅速發展及對人們工作生活的影響，要使其在正確的軌道上為人的生產生活服務，就必須發揮法治固根本、穩預期、利長遠的保障作用，以法治規制生成式人工智能產品的應用風險。
明確ChatGPT等生成式人工智能產品的責任承擔與分配原則。首先，堅持主體責任原則。生成式人工智能是一種技術工具，本身沒有獨立的主體責任，法律責任應由使用或控制生成式人工智能的人員承擔。如生成式人工智能被用于制作淫穢物品，責任應由制作、傳播和銷售這類物品的人員承擔。其次，堅持原始責任原則。生成式人工智能所生成的內容或行為由人類程序員編寫的算法和代碼所引起，因此，程序員應對其所編寫的代碼和算法的內容和行為承擔一定法律責任。如果生成式人工智能被用于詐騙活動，應當以故意制造欺騙性算法和代碼追究程序使用者的法律責任。再次，堅持協同責任原則。在某些情況下，生成式人工智能的使用可能涉及多個人員的協同行為。如果生成式人工智能被用于進行網絡攻擊，參與者之間存在相互協作和分工，行為人應當共同承擔相應的法律責任。最后，堅持情節責任原則。應當綜合考慮行為人違法犯罪的情節和后果。如果生成式人工智能所生成的內容或行為在情節、后果方面具有較輕的違法犯罪程度，責任相應較輕；如果情節、后果較為嚴重，責任則相應較重。
構建面向ChatGPT等生成式人工智能產品的風險防范體系。首先，對生成式人工智能產品的生產銷售應用等進行全生命周期監管。近年來，隨著人工智能產品不斷迭代升級，類似ChatGPT的人工智能產品，從模型的建立、語料庫的標注、模型訓練、投放市場后的迭代進化直到系統退出使用，每個具體的環節都應當受到嚴格監管。其次，人工智能算法應當堅持社會主義主流價值觀。任何組織或個人不得利用算法危害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益；不得利用深度合成服務制作、復制、發布、傳播法律和行政法規禁止的信息；不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律和行政法規禁止的活動。再次，強化ChatGPT等生成式人工智能產品研發主體的合規義務。有關責任主體應當依法履行備案義務，并公示算法的基本原理、目的意圖和主要運行機制；加強人工智能自檢測模型構建，將人工智能生成系統設定在既有事實之上，保證有據可依，防止其生成編造的虛假內容；引入多來源比照分析模型，提高人工智能識別信息真實性的能力，在有據可依的基礎上做到依據真實。
完善面向ChatGPT等生成式人工智能產品的相關立法。首先，以制度確保人工智能不會出現現實世界的歧視和偏見，維護社會公平；確保數據安全，保護商業秘密、個人隱私和國家安全。其次，依法建立識別人工智能系統生成文本的機制，保護知識產權，并鼓勵行業協會、大型企業或第三方專業機構，積極推進人工智能違規信息審核產品的研發和推廣。再次，現階段，我國監管部門可以適用《中華人民共和國網絡安全法》《網絡信息內容生態治理規定》《互聯網信息服務算法推薦管理規定》等法律法規應對短期內生成式人工智能產品可能引發的網絡安全風險，加強對生成式人工智能產品相關產業的監管。最后，制定符合我國國情的人工智能技術應用領域的立法，以應對各種潛在的安全風險。
綜上所述，對ChatGPT等生成式人工智能技術的治理而言，既要堅持包容開放，更要守住底線。生成式人工智能產品的法治應對并不在于限制生成式人工智能技術的發展和應用，而是在促進技術發展的同時，讓技術更好地為人類服務，統籌規劃有關人工智能的法律、行政法規、部門規章、技術標準，形成政府規范、行業自律、企業自治、社會監督的多元人工智能治理機制，建立“以人為本”的人工智能技術體系。
（作者單位：烏魯木齊市中級人民法院、西北政法大學人權研究中心，西南政法大學）