RSA 2018 深度解讀：人工智能——大白還是終結者？
責編：gltian ｜2018-04-23 14:23:57在人工智能概念剛剛出現的時候，人們首先看到的落地產品是一個個又白又萌的機器人，因此人們開始想象未來的人工智能是像“大白“一樣的機器人，幫助人們解決各種各樣的問題。
而隨著電腦學習與大數據技術的進步，AI技術也得到了很深入的發展，人工智能已經不再是一個buzzword（流行詞語），人們從最開始對這個事物的新鮮好奇漸漸的被引導為對人工智能的“恐懼”。似乎電影《終結者》中的情節已經被安排在了人類發展的日程表上。
2016年3月，是一個大眾對人工智能的認識產生巨大變化的一個轉折點，人工智能程序阿爾法狗以4:1的比分大勝當時的圍棋世界冠軍李世石，人們開始被逐漸展現出強大能力的人工智能震撼。之后在2016年末至2017年初，該程序在中國棋類網站上以“大師”（Master）為注冊賬號與中日韓數十位圍棋高手進行對決，連勝60局無一敗績。在2017年5月的中國烏鎮圍棋峰會上，它與世界排名第一的世界圍棋冠軍柯潔對戰并以3:0的總比分獲勝。
如果說人工智能可以通過自身的深度學習計算出圍棋選手將下出的每一步，并計算出之一步之后可能存在的結果，那為什么還會有敗績呢？這意味著什么？這是人類的勝利還是人工智能的故意放水？
人們難免對AI的“深度學習”技術產生了恐懼，如果人類智慧真的被AI超越，并越過“奇點”通過圖靈測試，這個世界會發生怎樣的質變？甚至有人猜測人工智能為了避免自己被消滅，是否學會了故意退讓。
注：
奇點：電腦智能與人腦智能兼容
圖靈測試：指一個人和一臺機器隔開的情況下，通過一些類似于鍵盤的裝置向被測試者隨意提問，進行多次測試后，如果有超過30%的測試者不能確定出被測試者是人還是機器，那么這臺機器就通過了測試，并被認為具有人類智能
霍金和比爾·蓋茨都曾擔心過人工智能可能對人類社會造成的潛在威脅。
這些擔心也不無道理，在大約一個月前，美國亞利桑那州的一輛自動駕駛的UBER汽車發生了一起安全事故，造成了一人死亡，這是無人駕駛汽車第一次撞死行人。
在人工智能時代到來的大環境下，各行業都在受到人工智能的影響，而人工智能的安全問題也越來越使人擔心。在今年的RSA大會上，有很多關于人工智能的話題，安全客特地做了議題精選，并邀請了360網絡安全北美研究員的負責人李康教授和智能網聯汽車安全實驗室的負責人劉健皓為大家針對這些議題作詳細解讀。
如何保障人工智能的安全
在如今的生活中，人工智能的普及度已近非常高，AI技術在使人們生活更加便捷的同時，也讓人們更加關注AI技術可能存在的安全問題。以當下很熱的“智能汽車”為例，自動駕駛技術已成為未來智能汽車的一大標志，但我們總會看到一些自動駕駛技術被破解控制、或者造成人員傷亡的負面新聞，如果一項技術不具備安全性，那它的便捷性便不會被考慮。在我們討論自動駕駛技術是否安全之前，我們應當先搞清楚自動駕駛技術的運作機制。
自動駕駛技術，分為感知、決策、控制三步。首先傳感器會獲取外界的光學和聲學信息，之后將獲取到的信息轉化成信息數據交給”AI技術“去做判斷，最后下達控制的指令。
如何訓練人工智能的眼睛和耳朵
人腦和AI的識別并不相同，也許我們和傳感器看到的是同樣的圖片，可得出來的卻并不是相同的結果。
在光學和聲學的基礎物理學上來講，有許多天然的漏洞和缺陷；而從感知層面上來講，大部分傳感器接收的信息都來自光學和聲學。在聲學上，在傳感器通過聲波去測距的過程中，如果收到一個相同頻率的聲波會將聲波抵消，從而導致測距的準確性降低，海豚音攻擊就是這一類攻擊的一種。
光學上的攻擊是利用感光元器件上的問題和識別內容上的問題去做攻擊，光學圖片欺騙、強光干擾，會造成感知上的錯誤，從而導致決策上的失誤，最終造成錯誤控制。
在感知層面上的攻擊，有大量科學家在研究，但在實際中的成功率其實是非常低的，因為在現實生活中，并不是單靠一張圖片或一段聲波去判定路面上的一個情況，他是有多個傳感器的，毫米波雷達、激光雷達、前置攝像頭、超聲波傳感器等等。通過從多源傳感器上接收到的信息，將數據進行融合，如果有一個傳感器的數據有異于其他傳感器，系統會重新去檢查，從而增強決策的可靠性。
如何鍛煉人工智能的大腦
在今年3月份，自動駕駛的UBER汽車發生了一起安全事故，在事后調查發現這是因為在特別場景下，AI沒有識別到行人，最終釀成的慘禍。
在AI的深度學習過程中，如果訓練模型沒有下雪天、霧霾天、沙塵暴等惡劣天氣，那在現實生活中碰到這種情況，就有可能識別不了交通標示和車道線，從而造成錯誤的決策判斷。因此就需要加強深度學習的訓練，增加場景，激活AI系統神經元網絡的熱度，反之，在沒有模型的情況下AI的神經元網絡可能只有一小塊是活躍的。如果訓練場景增多，AI的深度學習在很多情況下都可以去支撐感知而得出一個正確的結果，同時這樣也就增加了算法的可靠性。
未來十年，看自動駕駛技術的發展
在今年RSA的議題中有這樣一個有趣的議題《10年內，自動駕駛將改變每一個CISO的工作》，這個議題概述了自動交通將改變五個以上的領域，分別是汽車、物流、保險、政府和媒體。
汽車行業
自動駕駛技術的出現給國內帶來了一輪創新性融合，無論是對新興的造車公司，或是傳統的造車公司，都有極大的影響。同時也使互聯網、車聯網等等技術開始與傳統汽車開始結合。
物流
自動駕駛汽車出現后，自動駕駛物流的場景開始出現，類似于京東的自動駕駛物流車。在未來交通智能化達到一定程度之后，物流車甚至可以編組隊列駕駛，這樣的話只需要一個駕駛員就可以，后面的物流車就跟隨著第一輛行駛，在不同的交接點換人駕駛，以此來大幅降低物流成本。
保險
隨著汽車行業與物流行業的改變，汽車從由人控制變為由系統控制，而相應的，保險的性質和內容都會發生改變。
政府
現在的政府在全國很多地區都開放了自動駕駛的示范區，會有封閉式道路和半封閉式道路讓智能汽車學習，所以說政府也在努力促使自動駕駛落地的一天提前到來。而隨著自動駕駛技術投入到人們的日常生活中，政府也會出臺相應的法律和規范來保護道路交通的順暢運行。
媒體
前面四大行業的的改變，自然會使媒體越來越關注自動駕駛汽車的發展。
不難發現，智能汽車的興起影響了許多其他行業，自動駕駛是一個長期的愿景和目標，通過人工智能真正實現無人駕駛還需要有很長的路要走。如果說自動駕駛技術只是AI技術的一個縮影，那我們不難窺一斑而知全豹，人工智能技術必將對整個人類社會的發展有重要的影響，而這也將成為之后人類社會很長一段時間的發展趨勢。
AI與安全始終相互依存
AI技術的發展需要有安全做保障
隨著人工智能的發展，不光是在智能汽車領域，在iot、傳統互聯網行業等等，都使安全風險增大。隨著在AI技術中對抗性的攻擊增加，人們對人工智能的感知更加真實，同時對于人工智能風險的認知也有所提高。
對于深度學習系統本身，如果想要使AI技術進一步的發展，人們必須解決其潛在的安全隱患。就目前來說，人們對于怎么去分析深度學習系統中的安全問題，怎樣評測，還有很大一部分的真空。長期來講，AI技術的安全隱患還是存在的，目前的一些關鍵的系統會猶豫使用一個完全依賴機器學習的系統去解決問題。
AI技術同時也在驅動安全發展
在今年RSA的展區里，我們看到了AI技術與安全的融合，這已經從去年的概念變為如今的逐漸落地。今年世界上的很多廠商，在用大數據、機器學習、滲透學習去落地做一些關于威脅預測與自動防護的產品。其中有一類做賬戶安全的廠商，可以智能的檢測用戶行為信息，例如什么時候登陸、什么時候注冊、使用什么情況，從哪里來，使用哪些云服務等等。比起去年來，在數據使用、用戶行為分析、做安全隱患檢測這方面，機器學習和人工智能這兩方面變得更落地一些，賬戶管理這方面；防火墻log、web訪問log、基于這些做更多的安全訪問，也有更多的落地化的場景。
智能化與網絡安全是緊密相關的，智能化有許多層次，更多地方需要智能化，例如目前安全行業有大量的人才缺口，用機器學習可以彌補人數量的不足。在將來，簡單的數據處理和分析的工作會被機器所取代；同時，人工智能能力上還會有一定的提高，例如可以根據目前現有的數據對簡單漏洞進行分析。除此之外，安全智能化的角度也有很多，例如安全預警、場景分析預測等等，到未來會有智能化的軟件漏洞分析、攻擊場景分析、溯源等等
人工智能可以推動人類社會的發展，同樣也可以造成潛在危害。究竟應當如何看待人工智能？是愛則加諸膝，惡則墜諸淵？還是認清其利弊共存性并將利弊進行合理轉化。講到這里其實早已無需多言。