近年來,網絡信息服務業(yè)態(tài)不斷革新,人工智能技術快速迭代,數字虛擬人應用場景持續(xù)拓展。從虛擬偶像、數字主播到金融客服、醫(yī)療導診,數字虛擬人已深度融入生產生活。與此同時,“撞臉”名人、深度偽造詐騙、任意“復活”逝者、誘導未成年人沉迷等亂象頻發(fā),引發(fā)社會廣泛關切。
近日,國家互聯(lián)網信息辦公室就《數字虛擬人信息服務管理辦法(征求意見稿)》公開征求意見,系統(tǒng)強化數字虛擬人服務全流程管理。
數字虛擬人的技術風險亟待應對
相比以往人工智能應用,數字虛擬人體現(xiàn)出鮮明、復雜的技術風險特征。中國信通院政策與經濟研究所副所長李強治分析指出,這些特征包括:數字身份的迷惑性易導致用戶認知失調,為虛假宣傳、電信詐騙提供溫床;行為操縱的隱蔽性使消費誘導遠超傳統(tǒng)廣告;人格變現(xiàn)的倫理性挑戰(zhàn)尊嚴保護與經濟發(fā)展的價值平衡;責任鏈條的復雜性涉及多元主體,易產生責任真空。
針對這些風險,征求意見稿的一項核心舉措是構建全流程責任框架。國家互聯(lián)網應急中心副主任杜翠蘭表示,征求意見稿“厘清了在數字人形象建立、運作管理、實際使用和網絡傳播各階段所涉及的技術特點和產業(yè)模式”,首次區(qū)分數字虛擬人信息服務技術支持者、服務提供者、服務使用者、傳播平臺四類責任主體,并強調服務使用者需與服務提供者承擔同等的身份告知、內容審核、應急響應等責任?!斑@種分階段、全流程的管理框架,有助于督促各類主體切實履行社會責任,筑牢可問責安全防線?!?/p>
“在醫(yī)療、金融等專業(yè)領域使用數字虛擬人出診看病、智能薦股,容易對網民產生誤導,甚至危害民眾生命財產安全?!倍糯涮m分析,征求意見稿劃定數字虛擬人服務安全底線,明確各類主體的責任義務,對維護國家安全和社會穩(wěn)定具有積極意義。
同時,征求意見稿明確提出全程顯著顯示“數字人”標識的身份告知要求,從源頭上保障用戶的知情權與辨識權。征求意見稿還有機銜接了算法備案、安全評估等既有監(jiān)管機制,體現(xiàn)了管網治網制度設計的一致性與連貫性。
筑牢未成年人等特殊群體保護防線
“特殊群體保護是征求意見稿的一大亮點?!北本┗ヂ?lián)網法院副院長孫銘溪介紹。征求意見稿明確禁止誘導未成年人沉迷數字虛擬人服務,不得向未成年人提供虛擬戀愛或虛擬親密關系等服務,不得提供可能危害未成年人身心健康的內容。
征求意見稿還規(guī)定,不得將英雄烈士形象用于商業(yè)用途,以維護社會公共利益與倫理底線;同時,保障真人驅動數字虛擬人背后的勞動者權益。這些規(guī)定共同傳遞出一個清晰信號:在虛擬世界,真人的合法權益不可侵犯,技術絕不能替代人類或踐踏人格尊嚴。
孫銘溪表示:“征求意見稿的核心特性在于‘高逼真’風險治理,精準瞄準形象‘混淆’與內容‘亂象’兩大痛點?!痹谛蜗笠?guī)范方面,征求意見稿明確規(guī)定,未經自然人單獨同意,不得使用其肖像、聲音等敏感個人信息用于虛擬人建模或形象生成,且不得提供足以識別特定自然人身份的服務——這將民法典中關于人格權保護的規(guī)則延伸至“數字分身”場景。對于觸及倫理底線的“復活”逝者行為,征求意見稿要求必須尊重逝者生前意愿,不得侵害其近親屬的合法權益。
護航智能經濟高質量發(fā)展
在劃定安全紅線、強化風險防范的同時,征求意見稿堅持發(fā)展與安全并重。杜翠蘭認為,將發(fā)展訴求嵌入治理體系,既能保障技術應用安全有序,也為數字虛擬人服務生態(tài)的繁榮成熟注入了持久動力。
征求意見稿的出臺,及時回應了社會對AI換臉、虛假宣傳、深度偽造詐騙等亂象的焦慮。中央網信辦數據與技術保障中心副主任薄兆一表示:“征求意見稿精準回應社會關切,有效破解行業(yè)發(fā)展痛點難題,既為數字虛擬人信息服務健康有序發(fā)展劃定清晰路徑、筑牢安全屏障,也為全方位保障公民、法人和其他組織的合法權益提供了堅實的制度支撐,是我國人工智能治理體系完善的重要里程碑。”
李強治認為,征求意見稿立足數字虛擬人服務的小切口,堅持以人為本劃定行為邊界,以場景化規(guī)制防范復雜風險,是完善人工智能治理體系的重要制度創(chuàng)新。征求意見稿鼓勵數字虛擬人在政務服務、醫(yī)療科普、適老助殘等領域規(guī)范落地,支持產學研協(xié)同與國際規(guī)則參與,有利于消除企業(yè)合規(guī)顧慮,推動技術創(chuàng)新與實體經濟深度融合,培育新質生產力。
多位專家表示,征求意見稿秉持“以人為本、智能向善”的理念,為全球數字虛擬人治理提供了兼具可行性與前瞻性的中國方案。隨著制度落地,數字虛擬人服務將在安全合規(guī)的軌道上行穩(wěn)致遠,真正成為賦能數字經濟、服務美好生活的積極力量。
光明日報記者 王美瑩
(光明日報北京4月6日電)
《光明日報》(2026年04月07日 08版)