蔡一郎的部落格

Yilang's Blogger

AI 的資訊安全與資訊安全的 AI

Published by Yi-Lang Tsai under , on 上午12:16
因 AlphaGo 興起的一股 AI 熱潮,似乎讓做所有的事,不掛個 AI 就落伍了,從政府以 AI 之名推動的幾個大型計畫,就不難看出這股熱潮,而全球也興起了一股以 AI 為發展主軸的風潮,本篇文章僅單純的以資訊安全領域的角度來看 AI 發展。

最近經常被人問的一些問題,不外乎就是「一郎,你覺得在資安領域有什麼 AI 的應用呢?」、「以後的資安防禦會採用 AI 的技術嗎?」、「在DEFCon辦的CGC競賽,未來會不會誕生Skynet呢?」、「一年內能夠達成什麼 KPI」等等,許多的問題看似天馬行空的充滿想像空間,不過憑心而論這些問題的來源,也透露了我們對於 AI 的陌生,說穿了其實人類並不知道 AI 能夠做什麼,但是卻有太多的夢想,希望 AI 的技術能夠幫忙完成。

這些問題,以目前的科技發展而言,實在有太多的可能性,加上前陣子看到這篇報導「AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?」,打從心裏開始覺得人類是否一昧的追求科技的發展,而把「潘朵拉的盒子」打開了,而其所衍生出來的發展,不見得只會往好的地方發展,也有一半的機率會往壞的地方發展,原本同一件事情就存在著一體的兩面,從不同的角度看同一件事,其它看的人心態不同,所得到的結果也是不同的。

近一年來幾乎常常聽到朋友在談論的,就是未來可能與 AI 有關的創新,那既然想被稱為創新,那免不了要對應到現有的環境,到底有那些不足的地方,是傳統的方式無法處理的,或是可以利用 AI 的技術加速處理,或是能夠得到更好的結果的,這些需要思考的項目,其實都是在發展 AI 的應用中,需要事先思考的問題。

先從目前主要的資訊安全防禦架構開始談起,到底那些地方可以應用到 AI 的技術來改善現有的環境呢?我們所熟悉的資安設備,例如:防火牆、入侵偵測(防禦)系統、郵件閘道等,目前許多廠商也不約而同的打著具備 AI 學習的能力,當然也有許多直接號稱 AI 的解決方案,都直接吸引著我們的目光,從典型的日誌分析,因為大數據的時代,資安的分析面臨海量的資料,所以我們需要用 AI 來加速與簡化分析上的難度。

如果「回歸原始」是一種思考的模式,在問許多的問題之前,應該先瞭解想要解決的問題,而不是從問題中再找到其它的問題,而陷入了思維上的迷思,同樣的情境套用在 AI 這個話題上,應該思考的是「我們想要用 AI 解決什麼問題?」而不應該是在「創造新的問題」,許多人思考 AI 的議題,最直覺得思考就是要有足夠的運算能力、足夠的儲存空間、足夠的網路頻寬等等,就像最近在進行區塊鏈的運算,需求的評估需要使用到 Intel Core i9 的CPU,再加上近百GB的記憶體,但是回到問題的本質來看這件事,就不難理解其實新興技術的發展,對我們是陌生的,還沒想到可能會獲得結果之前,就先想說如果沒有什麼,就無法做這件事;剛好看到最近小朋友在看的童書中,提到富和尚與窮和尚要去西方取經的故事,因為路途遙遠,可以想像途中充滿了變數以及可能遭遇到的危險,因此富和尚一直在準備可能需要使用到的物品,而遲遲未動身前往,一年之後其實窮和尚早已經從西方取經回來了,但是富和尚仍然在準備、準備、準備,永遠都沒有準備好的一天,只有是否有朝目標行動的動力。

最近陪小朋友玩神奇寶貝,才知道原來「回歸原始」後的戰鬥力絕不亞於進化後的狀態,這不禁讓人思考,如果我們一昧的追求更先進的設備,想有利用新的領域來解決現有的問題,那我們真的知道「問題是什麼嗎?」,就像現在大家都在講 AI ,連政府也來帶動 AI 的發展,但是發展這些如果只是空談要啟動台灣的產業,那在人才外流的現實環境下,又會淪為空談,曾幾何時已經失去了原本發展過程中需要解決的真正問題。


(圖)神奇寶貝遊戲機台

面對許多需要解決的問題時,只能在當下分析所有可能的解決方案,然後從其中找到一個最佳的解法,隨著資訊科技的發展,許多以前無法有效解決的問題,從目前的角度來看卻是有著更好的解決方案,在發展 AI 領域的過程中,其實不難發現資安問題幾乎都會被提及,但是絕不會是投資的重點項目,除了這是一個跨應用領域的合作之外,還需要考慮到整個資訊架構的安全防禦,因為誰也不想服務上線了,最開心的卻是「駭客」,因為系統或是軟體的弱點,卻讓駭客不花一塊錢就有大量的資源可以使用。

長久以來製造業與代工業的硬體思維,正是我們逐漸失去競爭力的原因,逐水草而居的往低工資的國家移動,雖然短時間確保了原有的收益,但是競爭力卻一直在流失中,人力資源好找,但是好的人才卻是難尋的,許多企業在降低營運成本時,其實如果好的人才留不住了,再投入的成本是相當高的,這些都不是喊喊口號就可以轉變的,人才留不住,當然也許有人會說,再培養就有了,但是在轉頭對外高薪徵才時,卻總是忘了善待原本的人才。

在 AI 領域要發展資訊安全的應用,需要的是全方位的思維,傳統從網路安全或是系統安全的角度來看資安的防禦,相較之下是不足夠的,尤其在歷經雲端服務、虛擬化架構的轉變之後,現在的資訊服務型態已經與以往有所不同了,如果要建置一個以 AI 應用領域為主的資訊系統,在規劃設計階段,就得納入資安防禦的架構,如果是傳統「守門口」、「收紀錄」的設計方式,面對當下許多新型態的攻擊威脅時,能夠防禦的力道將是不足的。

目前已有許多以 AI 資安防禦為訴求的產品問世,從日誌分析的智能化到自動化的資安防禦,在市場上已有相關的產品,這些大多數根源於大數據的分析結果,近來Facebook因第三方應用軟體所造成用戶隱私資訊與行為模式的外洩,不得不令人開始思考,對於資料的處理以及資訊的保護上,一般的使用者該如何確保,而平台的營運商該如何建立使用者的信任呢?這些都是需要思考的問題。