“世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)”在浙江嘉興烏鎮(zhèn)盛大開幕，“人工智能”成為本次大會(huì)核心議題，在分論壇設(shè)置上，特別增設(shè)人工智能板塊，與會(huì)人員圍繞人工智能安全風(fēng)險(xiǎn)與治理、人工智能賦能新質(zhì)生產(chǎn)力等議題展開討論。

在網(wǎng)絡(luò)安全技術(shù)發(fā)展與國(guó)際合作論壇上，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室副主任王京濤、中國(guó)工程院院士吳建平出席并致辭，來自全球網(wǎng)絡(luò)安全技術(shù)領(lǐng)域的政、產(chǎn)、學(xué)、研領(lǐng)域的嘉賓，圍繞“智能向善，人工智能安全風(fēng)險(xiǎn)與治理”主題，分享人工智能安全最新技術(shù)及風(fēng)險(xiǎn)應(yīng)對(duì)。全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東在主題演講中表示，人工智能發(fā)揮出什么樣的作用，關(guān)鍵還是看使用的人。針對(duì)AI黑箱化、黑產(chǎn)化、武器化這三重危機(jī)，齊向東提出應(yīng)通過多維度體系化防護(hù)、“鑒偽”“防偽”技術(shù)、AI提升安全能力三大策略來化解。

AI“三化”加劇安全危機(jī)

齊向東將AI安全危機(jī)總結(jié)為“三化”，即：黑箱化、黑產(chǎn)化、武器化。

首先是AI黑箱化，導(dǎo)致內(nèi)容生成良莠不齊。在生成AI大模型的過程中，數(shù)據(jù)和模型在黑箱內(nèi)部，現(xiàn)實(shí)世界和數(shù)字世界之間有一道天然隔閡，這不僅使得我們難以洞悉具體使用了哪些數(shù)據(jù)集和算法，也模糊了攻擊者可能采取的具體破壞手段，從而導(dǎo)致有害內(nèi)容及錯(cuò)誤信息的泛濫。

在今年的實(shí)網(wǎng)攻防演練中，奇安信攻擊隊(duì)就成功攻破了某AI大模型，并總結(jié)出針對(duì)大模型的攻擊途徑。通過多種手法，篡改了大模型輸出內(nèi)容、讓模型出現(xiàn)預(yù)料之外或者有害結(jié)果，甚至直接癱瘓了大模型。

第二是AI黑產(chǎn)化，導(dǎo)致深度偽造泛濫成災(zāi)。不法分子借助AI技術(shù)對(duì)圖像、音視頻等內(nèi)容進(jìn)行深度偽造，以達(dá)到不可告人的目的。無論是公眾還是企業(yè)，都逃不脫深偽詐騙的陷阱。

三是AI武器化，導(dǎo)致黑客攻擊愈演愈烈。人工智能可以生成惡意軟件、釣魚郵件，也可以快速發(fā)現(xiàn)目標(biāo)系統(tǒng)中的漏洞，大幅降低網(wǎng)絡(luò)攻擊門檻，讓不懂代碼、不懂技術(shù)的普通人也能成為黑客，攻擊數(shù)量大幅增加。目標(biāo)處于無法應(yīng)對(duì)的飽和狀態(tài)，網(wǎng)絡(luò)空間“易攻難守”成常態(tài)。

優(yōu)化AI安全治理的三大必備策略

人工智能正在黑客攻擊、社會(huì)操縱和戰(zhàn)略規(guī)劃等關(guān)鍵領(lǐng)域飛速取得進(jìn)展，并帶來前所未有的挑戰(zhàn)，安全已經(jīng)來到臨界點(diǎn)。齊向東提出，未來強(qiáng)化人工智能安全治理，需要重點(diǎn)采用三大技術(shù)策略。

第一個(gè)策略是結(jié)合大模型基礎(chǔ)運(yùn)行環(huán)境、訓(xùn)練環(huán)境、API接口以及數(shù)據(jù)安全進(jìn)行多維度、體系化防護(hù)。大模型生命周期的每個(gè)環(huán)節(jié)都存在大量不確定性，無論是數(shù)據(jù)安全、算法開發(fā)和模型安全、內(nèi)容還是應(yīng)用安全等方面，都要做到合規(guī)。

奇安信打造的大模型衛(wèi)士，能解決使用過程中的各種安全問題;今年奇安信又特別設(shè)計(jì)了一套AI安全整體應(yīng)對(duì)方案，包括AI安全框架，以及基于安全框架下的AI安全解決方案、AI評(píng)估服務(wù)和安全檢測(cè)工具等，可以幫助政企機(jī)構(gòu)踏實(shí)地向人工智能要生產(chǎn)力。

第二個(gè)策略是用“鑒偽”、“防偽”技術(shù)有效遏制深度偽造。針對(duì)正在野蠻生長(zhǎng)的生成式偽造語(yǔ)音技術(shù)、生成式偽造視頻技術(shù)，應(yīng)該盡快發(fā)展相關(guān)檢測(cè)技術(shù)。

奇安信一直深耕反詐、隱私安全等解決方案，致力于協(xié)助公安執(zhí)法、黨政機(jī)關(guān)、司法機(jī)關(guān)等部門深挖涉網(wǎng)犯罪線索。奇安信自研的深度鑒偽模型能夠準(zhǔn)確識(shí)別多種前沿AI偽造技術(shù)生成的虛假圖片視頻;洛基平臺(tái)可以通過內(nèi)網(wǎng)在線訪問，上傳圖片、視頻開展深度鑒偽。

第三個(gè)策略是用安全大模型反哺安全能力大提升。建立體系化的安全防護(hù)系統(tǒng)，是AI安全大模型驅(qū)動(dòng)安全的重要前提。奇安信的內(nèi)生安全體系，把網(wǎng)絡(luò)安全設(shè)備和業(yè)務(wù)流轉(zhuǎn)、不同層次的信息系統(tǒng)有機(jī)結(jié)合起來，做到安全能力的無死角，確保多道網(wǎng)絡(luò)安全防線有效協(xié)同，實(shí)現(xiàn)從宏觀管控到微觀檢測(cè)的全面防護(hù)

奇安信在內(nèi)生安全體系之上，部署了自研的QAX-GPT安全大模型，這樣不僅讓大模型更懂客戶業(yè)務(wù)，同時(shí)也讓安全體系效率更高、能力更強(qiáng)。經(jīng)過反復(fù)訓(xùn)練打磨，AI安全大模型的研判效率已經(jīng)提到了人工的60多倍。奇安信還將AI安全大模型賦能NGSOC，形成AISOC，推動(dòng)安全運(yùn)營(yíng)模式從“勞動(dòng)密集型”向“智慧型”轉(zhuǎn)變，實(shí)現(xiàn)了效率的十倍、百倍、千倍提升。同時(shí)，奇安信將大模型賦能給天眼、天擎、椒圖等安全產(chǎn)品，再依托AISOC進(jìn)行告警全局關(guān)聯(lián)，實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)安全、終端安全、服務(wù)器安全的全面掌控，進(jìn)而幫助分析師自動(dòng)解讀執(zhí)行各類任務(wù)，全天候自動(dòng)研判告警并甄選出有效威脅、推薦關(guān)聯(lián)分析方法，并全面加速威脅監(jiān)測(cè)調(diào)查與響應(yīng)全流程，高效實(shí)現(xiàn)事件處置閉環(huán)，讓安全防御變得更加主動(dòng)。

“有了高效的安全治理，AI才有未來。”齊向東表示，奇安信將運(yùn)用好技術(shù)優(yōu)勢(shì)，為AI安全治理貢獻(xiàn)更多安全廠商的力量，努力為全社會(huì)營(yíng)造更加和諧、更加繁榮的未來。(張揚(yáng))

(新媒體責(zé)編：zhangzhen)