全國政協委員、全國安天集團創始人肖新光常年奮戰在網絡安全對抗的政協助力一線,安天科技的肖新反病毒引擎累計覆蓋了超過四十億部手機終端、PC終端、模型網絡設備和網絡安全設備,既帶對于新一輪人工智能帶來的風險安全威脅,肖新光有著最切身的也帶感受。
他觀察到了一些新的安全威脅,比如利用AI生成的全國釣魚郵件,有將深度偽造運用于金融詐騙,政協助力甚至還有很多惡意軟件偽裝成DeepSeek的肖新安裝包。那么,模型針對這些威脅,既帶到底有哪些破解辦法,風險肖新光接受了南方周末記者的也帶專訪。
全國政協委員、安天集團創始人肖新光。圖片來源:受訪者提供。
南方周末:生成式人工智能給國家網絡安全帶來哪些新的情況?
肖新光:人工智能對安全威脅的加速作用已經產生。過去幾年,我們捕獲和關注到的APT攻擊的釣魚郵件中,已經出現了AI生成內容,金融詐騙中出現了深度偽造的案例。
同時,大模型平臺成為新的攻擊目標,例如DeepSeek在年初遭遇的大規模DDoS攻擊,我們也快速跟進和提供了相關的樣本分析,發布了樣本分析報告。
由于人工智能熱度很高,惡意軟件偽裝成人工智能App,在部署包中捆綁木馬的案例很多,我們此前就依托國家計算機病毒協同分析平臺,發現了冒充DeepSeek客戶端的木馬樣本,并進行了分析響應。
南方周末:Sora為代表的生成式視頻大模型,為深度偽造創造了條件。技術上是否可以識別出哪些是人工智能生成的內容?我們普通人應該如何去甄別深度偽造的信息?
肖新光:識別深度偽造目前來看有一些方法,包括基于生理信號比對、基于物理規律分析、基于元數據指紋等,但每種技術方法都有其適用場景和相關前提條件。
如基于生理信號分析,主要是驗證微表情等和本人是否一致,前提是需要存儲可對比的樣本;基于物理規律捕捉分析光影效果是否一致等等,需要相關的算力、元數據指紋等。更多只適用于版權保護等相關場景,而且需要非常完善的配套治理體系。
相關攻擊之所以稱為深度偽造,就是它已經超出普通人
2025-04-17 01:39
2025-04-17 01:24
2025-04-17 00:18
2025-04-16 23:24
2025-04-16 23:09
2025-04-16 23:08