CIIS2018高峰論壇“論AI”：智能安全的機遇與安全智能的挑戰
發布時間：2018/11/22
11月18日，由360主辦的“人工智能與安全專題論壇”在四川成都龍之夢大酒店召開。此論壇是中國人工智能學會主辦的2018第八屆中國智能產業高峰論壇組成部分，360邀請多位知名專家、學者以及產業界人士從產學研各方面進行深入交流。
在人工智能與安全專題論壇上，360智能安全研究院院長李康，北京頂象技術有限公司合伙人、首席科學家施亮，微眾銀行人工智能部副總經理陳天健，清華大學副教授張超，中國科學院信息工程研究所研究員、“國家優秀青年科學基金”獲得者操曉春等專家學者悉數出席，并分別從AI技術在安全領域的應用實例、AI安全對抗未來等多個方面，進行了深入的交流。
360智能安全研究院院長李康，在題為《人工智能系統實現中的安全風險》演講中指出，作為一個智能生態系統，AI的先發優勢帶來了更迅速的應急反應，但人工智能系統的實現細節又引入了新的攻擊風險 ，復雜的軟件和供應鏈會導致很高的軟件漏洞機率，甚至惡意構造的攻擊可以造成分類逃逸，數據投毒等攻擊結果。
可以說人工智能是把雙刃劍，為科技帶來發展的同時也引發了許多安全問題。如何解決人工智能在技術、應用上可能存在的漏洞與威脅，就成了目前最需要討論的問題。對此，頂象技術合伙人兼首席科學家施亮、微眾銀行人工智能部副總經理陳天健分別在金融反欺詐、聯邦遷移學習應用兩方面談到人工智能應用的實踐。而來自清華大學副教授張超表示，當前的攻防主要是機器輔助，嚴重依賴個人能力，智能化技術正在被逐步應用到攻防中去。對此，中國科學院信息工程研究所研究員操曉春則通過實際案例，指出人工智能可驅動網絡空間內容安全發展。
2018年年初，國外安全研究機構公布兩組可影響到包括個人電腦、服務器、云計算機服務器以及移動端的智能手機的CPU漏洞，引發全球關注；9月美國征信巨頭 Equifax 曝出數據泄漏事件，波及 1.43 億美國居民個人信息安全。
正如360集團技術總裁、首席安全官譚曉生在主論壇提到的那樣，由于網絡是個整體，攻擊可以從任何一個薄弱點發起，且網絡攻擊已實現自動化和智能化，并且對物理世界可以造成直接的影響，攻防對抗中傳統防護模式已失效。
在這種情況下，就需要大數據與AI來解決這些問題，相當于在網絡世界中安裝“攝像頭”。他認為，沒有攻不破的網絡，所以防護重點就應該從“隔離和筑墻”過渡到“加強檢測和響應”。而網絡滲透和攻擊都會留下痕跡，在無法判斷哪些行為是攻擊的情況下，要盡量多地對行為和數據進行記錄：通過對海量多維數據的存儲、分析、挖掘和關聯，來實現快速檢測發現高級威脅。
譚曉生指出，在大數據與AI的應用方面， 360的安全大腦具有完善的AI學習與分析功能，可以將海量大數據充分利用起來，將海量數據與人的智慧相結合，這對于監測預防、應急響應等都有著劃時代的意義。
未來的網絡空間安全將會是多線作戰，網絡安全從業者將會面對的是與網絡犯罪、網絡恐怖主義、網絡戰爭、網絡意識形態競爭的持久抗爭。而如何建造更安全的網絡空間安全，就需要更多像360這樣深耕網絡安全，布局未來網絡生態的安全公司，參與其中。