機器(qì)學習會(huì)成為(wèi)數(shù)據安全新威脅和(hé)後門(mén)嗎？

         機器(qì)學習算(suàn)法已成為(wèi)一項重要的網絡安全技(jì)術(shù)，目前它主要用于識别惡意軟件、将經過篩選的警告呈現在安全分析員面前，以及确定漏洞優先級以打上(shàng)補丁。研究機器(qì)學習和(hé)人(rén)工智能系統安全的專家(jiā)警告稱，未來(lái)這類系統可(kě)能被專業的攻擊者所利用。

研究人(rén)員在去年發表的一篇研究論文中表示，神經網絡的冗餘特性可(kě)以讓攻擊者将數(shù)據隐藏在常見的神經網絡文件中，占文件20%的大(dà)小(xiǎo)，而不顯著影(yǐng)響模型的性能。2019年的另一篇論文表明(míng)，受感染的訓練服務可(kě)能會(huì)在神經網絡中植入實際持續存在的後門(mén)，即使該網絡接受訓練以處理(lǐ)其他任務。

2020年，微軟、MITRE等公司聯合發布了一份列出潛在攻擊清單的報告——《對抗性機器(qì)學習威脅矩陣》（Adversarial ML Threat Matrix）。報告稱，企業需要評估依賴人(rén)工智能或機器(qì)學習技(jì)術(shù)的系統是否存在潛在風險。一些(xiē)風險（比如将數(shù)據隐藏在機器(qì)學習文件中）與日常風險沒多(duō)大(dà)不同。除非企業測試系統具有(yǒu)彈性，否則更多(duō)針對機器(qì)學習的風險會(huì)大(dà)獲成功，比如有(yǒu)可(kě)能創建這樣的模型：攻擊者觸發後，能夠以特定的方式行(xíng)動。

軟件安全公司Sophos的首席科學家(jiā)Joshua Saxe表示，造成這種後果的原因是防禦者隻專注于眼前的攻擊，而不是專注于那(nà)些(xiē)未來(lái)且難以實施的複雜攻擊。随着更多(duō)的安全專業人(rén)員依賴機器(qì)學習系統來(lái)完成工作(zuò)，能夠意識到這種威脅形勢将變得(de)更重要。研究人(rén)員創建的對抗性攻擊矩陣包括規避檢測惡意軟件和(hé)控制(zhì)流量、僵屍網絡域生(shēng)成算(suàn)法（DGA）以及惡意軟件二進制(zhì)文件的工具。

McGraw指出，随着機器(qì)學習的應用，數(shù)據面臨更大(dà)的風險。因為(wèi)敏感數(shù)據常常可(kě)以從機器(qì)學習系統中恢複，同時(shí)，通(tōng)過機器(qì)學習生(shēng)成的系統又常常以不安全的方式運行(xíng)。如果對機器(qì)學習系統執行(xíng)的查詢被暴露後，數(shù)據在操作(zuò)過程中也會(huì)暴露，這突顯了機器(qì)學習一個(gè)至關重要但(dàn)未予以強調的方面，即确保數(shù)據安全非常重要。

Saxe表示，機器(qì)學習威脅有(yǒu)别于攻擊者使用人(rén)工智能/機器(qì)學習技(jì)術(shù)來(lái)策劃更有(yǒu)效的攻擊。機器(qì)學習攻擊可(kě)能會(huì)更多(duō)地在機器(qì)人(rén)和(hé)自動駕駛汽車(chē)領域發生(shēng)，因為(wèi)它們不僅依賴算(suàn)法來(lái)操作(zuò)，還(hái)将人(rén)工智能決策轉化成實際動作(zuò)，安全人(rén)員需要阻止和(hé)防範破壞這些(xiē)算(suàn)法的行(xíng)為(wèi)。

雖然研究人(rén)員表明(míng)了多(duō)種類型機器(qì)學習攻擊的可(kě)能性比較大(dà)，但(dàn)大(dà)多(duō)數(shù)仍在數(shù)年後才會(huì)出現，因為(wèi)攻擊者的工具箱中仍有(yǒu)簡單得(de)多(duō)的工具照樣可(kě)以幫助其實現攻擊目的。