進(jìn)入AI時(shí)代,整個(gè)安全行業(yè)都在迎接全新的挑戰(zhàn)。當(dāng)人們談?wù)揂I安全,都在談些什么?算法安全,如圖像對(duì)抗、語(yǔ)音對(duì)抗,還是AI關(guān)鍵基礎(chǔ)設(shè)施安全?AI技術(shù)在網(wǎng)絡(luò)安全中又將有哪些應(yīng)用?這些問(wèn)題在8月5日召開(kāi)的ISC2020人工智能安全分論壇上都將找到答案。
當(dāng)日,第八屆互聯(lián)網(wǎng)安全大會(huì)(ISC2020)正式開(kāi)幕,這是一場(chǎng)突破圈層、打破壁壘的“萬(wàn)人在線”網(wǎng)絡(luò)安全云峰會(huì)。在人工智能安全分論壇現(xiàn)場(chǎng),來(lái)自中國(guó)移動(dòng)通信有限公司研究院安全技術(shù)研究所所長(zhǎng)何申、國(guó)家互聯(lián)網(wǎng)應(yīng)急中心工程師饒毓、360AI安全研究院研究員劉昭、北京理工大學(xué)教授李侃、國(guó)家電網(wǎng)研究員趙明明、vivo千鏡實(shí)驗(yàn)室安全研究員劉黃驍烈的不同背景的網(wǎng)絡(luò)安全專家、學(xué)者圍繞數(shù)字時(shí)代的人工智能安全議題展開(kāi)了深度對(duì)話與碰撞。
AI安全起底:算法安全與基礎(chǔ)設(shè)施安全“并駕齊驅(qū)”
AI技術(shù)近些年來(lái)發(fā)展迅速,相關(guān)的產(chǎn)品應(yīng)用越來(lái)越多,相關(guān)的安全問(wèn)題也越來(lái)越突出。大多數(shù)研究人員都偏向于對(duì)算法安全的研究,比如圖像對(duì)抗、語(yǔ)音對(duì)抗,通過(guò)對(duì)輸入的圖像或者語(yǔ)音添加擾動(dòng)信息,使AI模型做出錯(cuò)誤的判斷。
算法安全是AI安全的一個(gè)重要組成部分,360AI安全研究院研究員劉昭認(rèn)為,如果要建立完整的AI安全體系,我們還需要關(guān)注AI算法所依賴的基礎(chǔ)設(shè)施安全。AI關(guān)鍵基礎(chǔ)設(shè)施存在容易被忽視的安全問(wèn)題,如堆棧溢出、未授權(quán)訪問(wèn)、任意文件上傳等,這些安全問(wèn)題將會(huì)導(dǎo)致嚴(yán)重后果,如惡意代碼執(zhí)行、敏感信息泄露、服務(wù)不可用等。
360AI安全研究院研究員劉昭指出,AI基礎(chǔ)設(shè)施中主要有三個(gè)關(guān)鍵部分:第一是深度學(xué)習(xí)框架,其中包含框架自身代碼實(shí)現(xiàn)以及第三方圖像處理庫(kù)、算子庫(kù)等;其次是硬件相關(guān),包含GPU驅(qū)動(dòng)、芯片等;最后是云平臺(tái),包含web框架、虛擬化技術(shù)等。
針對(duì)AI關(guān)鍵基礎(chǔ)設(shè)施的攻擊,最終可能會(huì)導(dǎo)致更嚴(yán)重的后果。劉昭建議,可以通過(guò)權(quán)限控制、訪問(wèn)隔離、參數(shù)過(guò)濾等措施來(lái)緩解AI關(guān)鍵基礎(chǔ)設(shè)施的安全問(wèn)題。
vivo千鏡實(shí)驗(yàn)室安全研究員劉黃驍烈則圍繞對(duì)抗樣本的攻與防展開(kāi)分享,劉黃驍烈指出,目前,對(duì)抗樣本的攻防已經(jīng)不再局限于對(duì)抗樣本本身。攻擊者通過(guò)人工智能產(chǎn)品的軟硬件漏洞或安全缺陷獲取模型信息,試圖將黑盒轉(zhuǎn)化為白盒;防御者結(jié)合對(duì)抗樣本的特性,通過(guò)安全思想和安全技術(shù)來(lái)提高攻擊成本和攻擊難度。
AI應(yīng)用圖像:網(wǎng)絡(luò)安全精準(zhǔn)捕獲與分析攻擊行為
AI系統(tǒng)存在的漏洞風(fēng)險(xiǎn)帶來(lái)巨大的挑戰(zhàn),但同時(shí),隨著AI技術(shù)的不斷發(fā)展,也在應(yīng)用上為網(wǎng)絡(luò)安全行業(yè)帶來(lái)更多機(jī)會(huì)。
國(guó)家互聯(lián)網(wǎng)應(yīng)急中心工程師饒毓在有關(guān)《高位視角下的網(wǎng)絡(luò)攻擊團(tuán)伙發(fā)現(xiàn)與追蹤方法探討》中指出,自2001年至今,國(guó)家互聯(lián)網(wǎng)應(yīng)急中心積累了大量的網(wǎng)絡(luò)攻擊事件數(shù)據(jù),并長(zhǎng)期開(kāi)展安全態(tài)勢(shì)分析工作。在此基礎(chǔ)上,近幾年來(lái)也嘗試甄別海量攻擊事件背后的團(tuán)伙行為,主動(dòng)挖掘劃分攻擊團(tuán)伙并對(duì)攻擊團(tuán)伙進(jìn)行持續(xù)的追蹤。目前,國(guó)家互聯(lián)網(wǎng)應(yīng)急中心重點(diǎn)針對(duì)DDoS攻擊、web攻擊、詐騙等開(kāi)展了團(tuán)伙的自主發(fā)現(xiàn)和追蹤,并在大會(huì)上分享了DDoS攻擊團(tuán)伙的一些案例情況。
從消費(fèi)互聯(lián)網(wǎng)到產(chǎn)業(yè)互聯(lián)網(wǎng)時(shí)代,網(wǎng)絡(luò)安全的需求及理念也在不斷發(fā)生變化。
在這一背景下,中國(guó)移動(dòng)通信有限公司研究院安全技術(shù)研究所所長(zhǎng)何申發(fā)表了《基于知識(shí)驅(qū)動(dòng)的安全智慧決策》,指出未來(lái)安全的主題傾向于由網(wǎng)絡(luò)運(yùn)營(yíng)方來(lái)承擔(dān),知識(shí)積累和運(yùn)營(yíng)也將成為網(wǎng)絡(luò)運(yùn)營(yíng)方的重要優(yōu)勢(shì)。何申所長(zhǎng)介紹了基于知識(shí)積累、賦能和基于知識(shí)驅(qū)動(dòng)的智慧決策整體架構(gòu),從知識(shí)的形成、進(jìn)化與遺忘,以及決策與賦能進(jìn)行了詳細(xì)介紹。未來(lái),將著重研究AI決策的邊界和越界約束,6G數(shù)字孿生場(chǎng)景下的知識(shí)積累和智慧決策模式,也對(duì)知識(shí)運(yùn)營(yíng)的產(chǎn)業(yè)合作進(jìn)行展望。
北京理工大學(xué)教授李侃則圍繞群智中臺(tái)及其在公共安全領(lǐng)域的應(yīng)用展開(kāi)演講,李侃表示,群體中臺(tái)由知識(shí)+數(shù)據(jù)驅(qū)動(dòng),采用HI+AI共享學(xué)習(xí)范式,形成群智的橫向和縱向閉環(huán),人在回路,能夠自我進(jìn)化,具有數(shù)據(jù)可用不可見(jiàn),價(jià)值可量化的特點(diǎn)。系統(tǒng)通過(guò)協(xié)作、共享和賦能,促進(jìn)個(gè)體智能釋放傳承、推動(dòng)群體智能涌現(xiàn)匯聚,激發(fā)用戶價(jià)值創(chuàng)新活力、提升行業(yè)整體智能水平,同時(shí)注重保護(hù)用戶隱私,已應(yīng)用于公共安全領(lǐng)域。
隨后,國(guó)網(wǎng)網(wǎng)安公司技術(shù)專家、國(guó)家電網(wǎng)研究員趙明明從工業(yè)生產(chǎn)蜜網(wǎng)搭建和漏洞挖掘?qū)嵺`角度分享了智能分析技術(shù),蜜罐技術(shù)本質(zhì)上是一種對(duì)攻擊方進(jìn)行欺騙的技術(shù),通過(guò)高度仿真工業(yè)業(yè)務(wù)流程,誘使攻擊方對(duì)它們實(shí)施攻擊,從而可以對(duì)攻擊行為進(jìn)行捕獲和分析,了解攻擊方所使用的工具與方法,推測(cè)攻擊意圖和動(dòng)機(jī),能夠讓防御方清晰地了解他們所面對(duì)的安全威脅,并通過(guò)技術(shù)和管理手段來(lái)增強(qiáng)實(shí)際系統(tǒng)的安全防護(hù)能力。
工業(yè)蜜網(wǎng)不僅僅是蜜罐的堆疊,而是結(jié)合人工智能、安全知識(shí)圖譜、全球情報(bào)網(wǎng)絡(luò)等技術(shù)的綜合型蜜罐網(wǎng)絡(luò)。
綜上可見(jiàn),人工智能安全是一個(gè)全方位的概念,它甚至不是任何一家公司、社區(qū)、生態(tài)能夠獨(dú)立解決的事情,這也是本次人工智能安全輪胎秉持開(kāi)放態(tài)度的初心,從產(chǎn)品到技術(shù),從框架到理念,ISC2020期待和更多的合作伙伴一起構(gòu)建開(kāi)放的AI安全生態(tài)。
免責(zé)聲明:本文僅代表作者個(gè)人觀點(diǎn),與每日科技網(wǎng)無(wú)關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí),對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,請(qǐng)讀者僅作參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。
本網(wǎng)站有部分內(nèi)容均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),若因作品內(nèi)容、知識(shí)產(chǎn)權(quán)、版權(quán)和其他問(wèn)題,請(qǐng)及時(shí)提供相關(guān)證明等材料并與我們聯(lián)系,本網(wǎng)站將在規(guī)定時(shí)間內(nèi)給予刪除等相關(guān)處理.
精彩推薦
-
采購(gòu)拿回扣問(wèn)題,教你一個(gè)小妙招,看看怎么做!
2017-09-18 11:09 廣告 閱讀
-
苦逼的老板,教你一個(gè)小妙招,怎么防采購(gòu)拿回扣!
2017-09-18 11:09 廣告 閱讀
-
首款專業(yè)廣告推廣工具“傳播易”3.5版本正式上線
2019-02-15 16:23:15 更新 閱讀
-
沸騰五月來(lái)襲!海信智能門鎖再掀優(yōu)惠新風(fēng)潮
2022-05-11 11:03:37 更新 閱讀
-
指靜脈+AI,鹿客推出“智慧門鎖”
2022-05-10 17:41:22 更新 閱讀
-
做爆品搶購(gòu)的千千惠生活徹底火了,只因?yàn)閳?jiān)持“
2022-05-07 18:10:41 更新 閱讀
-
神策數(shù)據(jù)創(chuàng)始人 & CEO 桑文鋒講述神策七年的不變
2022-05-07 14:30:46 更新 閱讀
-
Coremail&中睿天下官宣Q1季報(bào)!4952萬(wàn)釣魚(yú)來(lái)自境
2022-05-06 18:03:52 更新 閱讀
-
炎黃盈動(dòng)AWS PaaS數(shù)字化轉(zhuǎn)型賦能之旅走進(jìn)山東
2022-04-29 14:41:55 更新 閱讀