超碰97人人模-超碰97人人人人人蜜桃-超碰97无码-超碰97资源共享-超碰97资源人人妻人人-超碰福利导航

人工智能技術加速演進，風險方案在釋放技術價值紅利的治理同時，其帶來的亟需復雜風險挑戰引發全球關注。各國機構日益關注對人工智能風險認識的產業系統性，主要經濟體對人工智能發展的實踐監管呈現出松緊有別的態勢。

將人工智能風險治理方案落實到技術革新、風險方案產品開發和應用部署中去，治理是亟需回應社會關切、解決突出矛盾、產業防范安全風險的實踐必然選擇。2024年12月，風險方案中國信通院發布《人工智能風險治理報告（2024）》，治理報告提出面向產業的亟需人工智能風險治理實踐方案。

同期，產業首批17家人工智能相關企業簽署了由中國人工智能產業發展聯盟（AIIA）起草的實踐《人工智能安全承諾》，承諾通過產業自律，共同促進人工智能應用以人為本，智能向善。

當前產業界在人工智能安全治理方面的實踐進展如何？面臨哪些困難？如何發展負責任的人工智能？針對這些問題，我們訪談了《人工智能風險治理報告（2024）》撰寫專家——中國信通院人工智能研究所工程師、中國人工智能產業發展聯盟人工智能安全治理委員會治理組組長呼娜英。

她指出，當前產業界主要從管理和技術兩個維度開展人工智能安全治理，取得了進展，同時還存在諸多問題，比如監管為產業發展留出的空間和企業自律效果之間還存在差距，人工智能技術本身的復雜性和不確定性也使得其治理存在難度。

中國信通院人工智能研究所工程師、中國人工智能產業發展聯盟人工智能安全治理委員會治理組組長 呼娜英

從框架規范到精準治理

南方周末：全球日益加強對人工智能風險的關注。整體來看，我國人工智能安全治理呈現什么特點？

呼娜英：黨的二十屆三中全會提出建設人工智能安全監管制度，整體推進制度規范完善和包容審慎監管。從頂層設計來看，我國展現新型舉國體制治理優勢，著重保障人工智能應用安全，整體上構建了從框架規范到精準治理的體系。

《新一代人工智能治理原則——發展負責任的人工智能》《新一代人工智能倫理規范》等文件勾勒出了我國人工智能安全治理的基本框架和行動指南。《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等部門規章，延續人工智能治理領域精細化的立法特征，針對具有輿論屬性或社會動員能力的人工智能應用場景進行規制。

從產業實踐看，企業主要從管理和技術兩個維度開展人工智能安全治理工作。在管理方面加強全流程管控，提升治理能力。技術方案逐步向一體化和定制化發展，涵蓋從風險識別、評估到防御等多個環節。

南方周末：人工智能存在自身安全和衍生安全兩大類風險，應對這些風險存在哪些突出挑戰？

呼娜英：就自身安全而言，人工智能技術應用相關主體針對數據、模型、系統、基礎設施本身或疊加帶來的風險開展持續“識別、評估、應對”的機制仍需完善。

衍生安全重點體現在應用層面，這是公眾和用戶接觸較多的領域。一方面，人工智能產業鏈長，產品及服務涉及多利益攸關方，誘發衍生安全的歸責主體認定存在困難。另一方面，尚沒有合適的方法論來評估人工智能產品及服務對于誘發個人、組織、社會、國家乃至更大范圍的風險影響，而人工智能賦能千行百業對于各垂類行業的風險影響評估更為困難。

技術復雜性增加治理難度

南方周末：企業在人工智能安全治理方面的實踐進展如何？

呼娜英：當前人工智能企業在人工智能安全治理方面已經有了進展。如前所述，企業主要從管理和技術兩個維度開展安全治理工作。管理體系更加重視全流程管控，一方面，設置內部治理組織，統籌人工智能治理工作，如阿里巴巴、百度等企業成立了科技倫理委員會；另一方面，發布內部準則指引，指導具體實踐，如商湯科技發布了產品倫理風險評審指引，螞蟻集團出臺了生成式人工智能大模型及應用管理規范。

盡管如此，企業在人工智能安全治理方面仍面臨諸多問題。從合規角度來講，人工智能監管法律的推出需要把握立法節奏，給技術和產業留出發展空間，而尚未成體系化的標準規范導致企業在實際執行中仍與相關治理要求有所差距。從技術角度講，人工智能技術本身的復雜性和不確定性，使得實現人工智能系統的安全可控的難度加大。

此外，企業之間在安全信息共享、聯合防范等方面的合作還不夠緊密，難以形成有效的安全防護合力。

南方周末：AI換臉、AI魔改影視作品等現象引發熱議，治理這些亂象，AI產品提供者、AI服務平臺以及AI使用者之間應該如何協作？

呼娜英：作為深度合成技術的典型應用，AI換臉實際上是一個老問題。伴隨著開源項目持續增長、技術成熟度相對較高、應用門檻不斷降低，一張照片就可以實現直播流中人臉的高精度實時替換。因此，類似應用和亂象在網絡上比較常見。

技術應用深度賦能，落地應用勢不可擋，完全禁止這些應用或現象并不現實，需要的是形成健康的應用生態。

產業組織可以推動AI使用規范準則的制定，為使用者提供清晰的行為指引，明確不可接受的使用場景和后果。

服務提供方可通過技術手段建立合規使用的約束機制，如引入身份認證、記錄追溯以及有害內容過濾系統，從技術層面預防濫用現象。還可以推廣負責任的AI技術應用案例，通過透明化的開發流程、可信賴的產品展示來引導公眾正確看待和使用AI技術，從而形成全社會對AI技術的理性認知和使用習慣。

AI服務使用者也需要不斷加強數字素養，了解數字產品的使用規范和基本的法律法規，正確使用數字產品和服務，擁抱數字未來。

自律承諾是獲得社會信任的關鍵要素

南方周末：中國人工智能產業發展聯盟在推動人工智能安全治理方面開展了哪些工作？

呼娜英：2023年12月底，AIIA成立了人工智能安全治理委員會，委員會設立了治理組和安全組兩個工作組，希望從“道與術”兩個方面推動人工智能安全治理工作走深向實。治理組主要圍繞人工智能治理的方法論，為相關主體開展人工智能建章立制及管理工作提供指引；安全組重點開展人工智能安全工具箱建設，打造安全評估、監測和防護三大核心能力。

以治理組工作為例，一方面凝聚產業力量推動行業自律，共建產業生態。2024年12月，AIIA研究起草并發布了《人工智能安全承諾》，首批17家行業領軍企業正式簽署承諾。承諾內容涵蓋風險管理機制、模型安全測試、數據安全保障、基礎設施安全、增強透明度以及開展前沿安全研究六個方面，旨在從產業視角出發，開展貫穿組織建設、模型研發、部署、應用的人工智能安全風險防控，務實推動相關單位提升安全能力。

另一方面聚焦風險治理，為企業提供治理框架。不久前我們發布了《人工智能風險治理報告（2024年）——構建面向產業的人工智能安全治理實踐方案》，希望為人工智能產業主體實現技術發展與安全保障提供解決方案；我們正在開展《人工智能系統風險管理能力要求》的標準編制工作，從總體要求、通用要求、具體要求三個層面搭建人工智能系統風險管理能力要求體系。

南方周末：展望未來，對于推動人工智能產業健康、可持續發展有哪些建議？

呼娜英：當前，人工智能治理已經處于從原則走向實踐的關鍵階段，需要通過更加務實的舉措開展安全治理工作。

產業自律是獲得社會信任的關鍵要素。AIIA發起的《人工智能安全承諾》就是希望凝聚產業界守護人工智能安全、促進人工智能向善的基本共識，共同應對技術變革帶來的復雜挑戰。

安全技術是人工智能產業健康發展的有力保障。產業各界需要合力推動前沿人工智能技術應用工作，通過標準制定、測試方法構建、數據集積累、生態體系驗證等，形成人工智能安全“技術預研-產業驗證-生態運營”的良性循環，不斷推動人工智能安全治理的穩健發展與應用。