你的“臉丟了”，你可能還不知道~

前不久，一個客戶帶著頭盔去買房的新聞上了熱門搜索。經過媒體的深入瞭解，這一舉動背後的原因倒不是客戶擔心財富露白或者有其他什麼難言之隱，而是因為精明的開發商會在不知不覺中透過人工智慧（AI）採集客戶人臉資料，並以此為依據判定傭金在各個銷售管道中的歸屬；同時也徹底封死客戶希望在不同銷售管道中貨比三家的想法——因為只要是你之前“露過臉”，系統就會得知此前其他通路商給你的報價，這時你再想砍一分錢都沒有可能。為了避免自己的“臉”被開發商“偷走”並用來對付自己，客戶才不得以用這種最原始的方法來對抗AI。

這個案例喚醒了人們對於使用日趨廣泛的人臉識別等AI應用的擔心，由此也開始在心中盤算，當我們在享受AI帶來的新體驗的同時，可能付出的安全代價。

AI的安全問題

實際上，上面這個案例只是一個AI安全層面上的問題，如果仔細劃分，會發現今天的AI至少面臨三個層面的挑戰：

第一個層面，是AI技術本身的安全風險。AI所依賴的機器學習實際上是將傳統我們所依賴的正常的邏輯變成“黑箱操作”，我們只知道決策輸出的結果，而對於神經網路內在工作的邏輯並不是完全掌握，這是AI與傳統上的“自動控制”最大的區別。如果在這個過程中，機器學習的資料被污染，就會影響樣本和判斷的準確性；機器學習模型自身存在的缺陷，會帶來更隱蔽的安全問題。也就是說，比起傳統的資訊安全問題，AI內在的安全問題更難於發現和及時應對。

第二個層面，是AI技術被惡意使用的問題。歷史的經驗告訴我們，駭客總是會跟隨最新技術，甚至有時候還會引領最新技術。AI的出現，無疑給駭客提供了新的進攻武器，他們可以使用機器學習進行海量資料分析，對於攻擊目標的安全性原則和方法進行揣摩，並找到突破口。要知道，安全領域的困境就在於：防禦者必須預測並阻斷進攻者可能使用的一萬種攻擊手段，而進攻者只需要利用防禦者的一個漏洞就可以完成入侵，達到目的。因此在全球數位化轉型快速推進之時，隨著AI技術的發展，資訊安全風險比以往任何時候都要高。

第三個層面，是AI應用中存在的隱私洩露、資料濫用等問題。文章開頭所提到的例子，就屬於這個範疇。而且在AI與物聯網疊加催生出“人工智慧物聯網（AIoT）”之後，這種風險性傳播的速度會更快，影響的範圍會更廣，防範難度自然也會更大。

應對AI安全挑戰

如此看來，AI的安全問題著實難解，不過再難，這也是一個必須要解決的問題。

缺少工具可能是在求解AI難題時，最大的困惑。全球知名的白帽駭客Kevin Mitnick就曾經表示，現在還沒有真正符合AI核心技術的工具或產品出現，他自己對於AI產品進行安全分析評估的經驗也是不足的。

不過，就像AI可以被駭客用來作為攻擊的手段一樣，AI強大的能力，本身也可以作為一種安全工具被加以利用。今天的網路安全廠商正在引入AI技術，去解決傳統防禦方案解決不了的新威脅，提高原有檢測方案的檢測精度，進行更高效自動化資料分類，實現更快的威脅回應處置。也就是說，AI不僅可以被用於對抗已有的攻擊，也可去感知和預測未來可能發生的安全威脅，這就使得安全防禦變得更加積極。

圖1：透過機器學習進行異常行為檢測（圖源：NXP）

根據中國信通院發佈的《中國網路安全產業白皮書(2019 年)》，在網路安全領域，AI技術正在發力的地方包括（但不限於）以下這些方面：

• 在異常流量檢測方面，AI為加密流量分析提供新方案。
• 在惡意軟體防禦方面，針對特定場景的AI應用取得積極進展。
• 在異常行為分析方面，AI可成為模式識別的有效補充。
• 在敏感性資料保護方面，AI助力資料識別和保護能力提升。
• 在安全運營管理方面，基於AI的安全編排與自動化回應(SORA)逐漸興起。

圖2：機器學習在AI安全中的作用（圖源：NXP）

有了AI作為安全防禦的利器，人們的下一步就是要去探索一個體系化的安全解決方案。比如，為了應對AI模型各個環節可能存在的安全風險，並給出相應的防禦建議，騰訊就發佈了一個“AI安全攻擊矩陣“。

這個AI安全攻防矩陣的意義在於：它可以覆蓋從AI模型開發前的環境搭建，到模型的訓練部署，以及後期的使用維護的整個AI產品生命週期，盡可能列舉出在這個過程中可能遇到的所有安全問題，並給出相應的應對策略。這樣一來，對照這個“矩陣”，開發者就可以根據AI部署營運的基本情況，排查可能存在的安全問題，並根據推薦的防禦建議佈防，降低已知的安全風險。雖然這樣的探索，目前來看只是一個起步，但也算是一個不錯的開端。

圖3，騰訊發佈的“AI安全攻擊矩陣“（資料來源：量子位）

技術之外的努力

當然，由於AI對於人類社會的觸動是多方面、深層次的，所以AI安全性原則也不能僅僅停留在技術層面。具體來講，在技術之外，我們至少在兩個方面必須有所行動：

• 一是從法律角度構築安全防線，透過立法明確AI安全的“紅線”，讓駭客及AI濫用者付出應有的代價；
• 二是建立產業公認的行為準則，透過產業自律等方式，覆蓋那些由於法律滯後於技術發展可能出現的灰色地帶，給用戶安全以最大化的保障，這也是為AI長足發展營造一個更健康的生態。

在文章的最後，我們分享一組資料：根據IDC的研究資料，2019年全球網路安全支出較2018增長了近9.4%，達到1066.3億美元；然而與此同時，有人預測同期網路犯罪的總成本可能超過2萬億美元，也就是說網路犯罪活動的成本是安全支出的20倍左右。

這就是我們所面臨的安全環境，而且AI的出現會讓這種環境更為複雜。而在安全的問題上，我們決不能妥協，因為關鍵之處一旦失守，可不是丟一張“臉”的資料那麼簡單了。這種讓人細思極恐的壓力，也正是我們進步的動力所在。