通過AI換臉的網(wǎng)絡詐騙、基於AI的釣魚郵件、AI數(shù)據(jù)「投毒」......如何應對人工智能帶來的網(wǎng)絡安全挑戰(zhàn)和攻擊？專家認為，應盡快發(fā)揮AI賦能網(wǎng)絡安全的積極作用，實現(xiàn)「用魔法打敗魔法」。
在5日舉行的2024北京網(wǎng)絡安全大會上，中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克表示，人工智能是先進生產(chǎn)力，但遠未成熟，存在技術瓶頸和社會憂慮。
他認為，人工智能的風險主要來自兩個方面：一方面，是人工智能技術存在弱點和不足，而不是過於強大，需靠發(fā)展創(chuàng)新去解決；另一方面，是使用者對人工智能的濫用和惡意使用，以及依賴而非駕馭人工智能。
巴基斯坦NCERT主席阿巴斯·海德爾說，大型語言模型（LLM）正在徹底改變網(wǎng)絡安全形勢，AI在網(wǎng)絡安全領域帶來的既有挑戰(zhàn)，也有機遇。例如，網(wǎng)絡罪犯會使用AI生成具有強欺騙性的網(wǎng)絡仿冒郵件，但企業(yè)也可以用AI完成威脅檢測和事件響應、處置。
根據(jù)奇安信發(fā)布的《2024人工智能安全報告》，AI既放大現(xiàn)有網(wǎng)絡安全威脅，又引入了新型威脅，引發(fā)網(wǎng)絡安全事件指數(shù)級增長。其中，2023年基於AI的深度偽造欺詐暴增3000%，基於AI的釣魚郵件數(shù)量增長了1000%。
在中央網(wǎng)信辦網(wǎng)絡安全協(xié)調(diào)局副局長王營康看來，隨著人工智能技術發(fā)展，攻擊者可利用人工智能技術生成網(wǎng)絡攻擊和網(wǎng)絡釣魚工具等，網(wǎng)絡安全從人人對抗、人機對抗逐漸向基於人工智能的攻防對抗演化。
當前中國新一代人工智能正在與實體經(jīng)濟深度融合，廣泛應用於社會民生領域。龔克呼籲推進AI與網(wǎng)絡安全融合創(chuàng)新。一方面，人工智能的發(fā)展推動了網(wǎng)絡安全技術的創(chuàng)新。例如，基於深度學習的惡意軟件檢測、用戶行為分析等新技術不斷湧現(xiàn)。另一方面，人工智能的自動化和智能化特性又可以大大提高網(wǎng)絡安全管理效率。通過自動化檢測、響應和風險評估等流程，可以更快地應對網(wǎng)絡威脅。
AI大模型能否解決問題？奇安信董事長齊向東說，AI大模型不是萬能鑰匙。做好「AI驅(qū)動安全」至少需要具備三大條件：其一，高質(zhì)量的訓練數(shù)據(jù)；其二，縱深防禦的內(nèi)生安全體系；其三，設備、體系具有統(tǒng)一的輸入輸出標準。
目前，AI驅(qū)動安全成效初顯。國家電網(wǎng)有限公司副總信息師王繼業(yè)介紹，國家電網(wǎng)依托大數(shù)據(jù)平臺，加強人工智能與網(wǎng)絡安全的融合，研究基於人工智能的風險異常檢測方法，開展網(wǎng)絡安全關聯(lián)分析、事件處置和調(diào)查溯源，強化網(wǎng)絡安全威脅監(jiān)測和應急處置，實現(xiàn)網(wǎng)絡安全事件的智能響應、聯(lián)動防禦。
在技術之外，與會者呼籲進一步提高對網(wǎng)絡安全態(tài)勢的重視，強化體系化安全能力建設?！笖?shù)據(jù)安全是人工智能安全的前提和基礎」，中國友誼促進會理事長、國家網(wǎng)信辦原副主任陳智敏認為，要從網(wǎng)絡安全保衛(wèi)向數(shù)據(jù)安全保衛(wèi)的工作模式拓展，為構建與數(shù)字生產(chǎn)力相適應的新型生產(chǎn)關係奠定基礎。
王營康建議，要統(tǒng)籌網(wǎng)絡安全各方力量，構建大網(wǎng)絡安全工作格局，推動形成體系化防禦能力；要統(tǒng)籌高質(zhì)量發(fā)展和高水平安全，推動形成人工智能綜合治理體系。（中新社記者 劉育英）
電話：（香港）852-2564 0768
（深圳）86-755-83518792 83518734 83518291
地址：香港九龍觀塘道332號香港商報大廈
