XCon專訪 | 百度安全部副總經理馮景輝:百度AI安全建設的兩個核心要點

語言: CN / TW / HK

在當下智能經濟時代,我們依賴於智能經濟的網絡活動會越來越多, 之前整個安全行業裏的大多數行為以破壞和竊取數據為主,如今,以直接獲取經濟利益為主的各種手段的欺詐頻繁出現。

安全行業是一個強對抗的行業,不論之前還是現在,黑產一直是“逐利”的,其攻擊水平日益提高。其中比較明顯的一個特徵是先有漏洞,然後再出現修復漏洞的補丁,這種模式一直在運轉,並且長期存在,導致防禦滯後於攻擊。

百度安全作為百度公司旗下 以AI為核心、大數據為基礎打造的安全品牌,是百度在互聯網安全22年安全實踐的總結與提煉。 面向行業生態,一方面,發揮技術能力打擊包括電信網絡詐騙、賭博、隱私竊取在內的各類違法犯罪行為;另一方面,以技術開源、專利共享、標準驅動為理念,聯合生態合作伙伴推動AI時代的安全生態建設。

百度安全部副總經理  馮景輝

2022年9月19日,XCon2022安全焦點信息安全技術峯會在京成功舉辦。作為本屆大會的演講人之一,百度安全部副總經理馮景輝在大會上發表了名為《元宇宙的焦慮:安全先行》的議題演講,全景分享了身為安全行業老兵的他,在百度參與國內首個元宇宙產品“希壤”空間的建設時所取得的研究成果,並將自己沉澱的深入思考與現場的近百位參會者進行分享。

對此,XCon對馮景輝進行了人物專訪,針對百度安全進行AI安全建設要點等話題展開了深度探討。

AI安全技術應用

談及打造AI安全防護系統的必備要素,馮景輝表示, 首先,要有一個好的運營機制 ,安全永遠是強對抗場景,快速發現問題、收集問題、解決問題才能做好安全。

第二,要有優秀的工程師,並不只是安全工程師,所有安全系統的本質都會面臨安全威脅,依靠系統裏所有的參與者和使用者。如果每一個工程師都能夠嚴格遵守安全開發的設計流程,那這套系統必然是健壯的。

第三,擁有良好的防禦意識和體系化的防禦手段。現在很多安全事件不僅僅是傳統上的網絡入侵,不單單是從系統漏洞的層面上發起攻擊。有很多APP的釣魚攻擊來自於社會工程層面,所攻擊的對象不是工程師,而是職能團隊的人,這就要求公司全員都具備良好的防範意識。百度一直在強調自己的員工如何甄別正確的郵件和文件,進而建立一個從系統到人的防範體系。

百度的AI安全建設的核心想法主要圍繞着 兩個要點 一是讓安全更AI,把機器學習和深度學習等技術應用在傳統的網絡安全或信息安全領域,二是把原來的安全體系結構以及攻防能力應用在AI上,讓人工智能具備更安全的屬性。

現在百度安全有很多成熟的應用,甚至在早期,訓練模型就已經應用在網絡安全的領域裏,比如漏洞挖掘、對於網絡協議的識別、輸入合法性驗證等等。

未來神經網絡會帶來更大的發展空間,卷積神經網絡應用突破之後,可以把原來網絡安全的防護程度提高85%~90%。舉個例子,通過機器學習,可以把現有的訪問網絡的一些參數的合法性取值範圍,自動計算出來。

百度集團就此業務早早就有了很好的盤點和佈局,現在有統一的架構可以在整個系統層面上把AI技術提前應用。

百度本身長期以來對於搜索結果有很強的保護能力,為防止網民搜索或者檢索到一些有害信息, 運用NLP技術,可以實現行為和內容的雙層安全保護。 識別搜索引擎裏可能會被檢索到的惡意或非法內容,甚至是賭博、博彩類等非法網站,是AI應用在安全上的一個比較典型的案例。

此外,百度安全開源出來的 圖數據庫HugeGraph,利用數據分析和存儲技術,主要做與黑產關聯的挖掘。 在數據庫裏,存儲是一個網狀多邊形的關係。如果我們定位到一個行為,可能是一個黑產行為,比如攻擊網站,他在這個體系裏面還訪問過哪些其他的頁面,這些頁面採用了哪些特徵,這些相似的特徵還有沒有其他終端設備,這些終端又訪問過哪些信息,通過這種關聯的方式可以去挖掘更多的黑產線索。

百度安全業務戰略佈局

馮景輝總結道,百度安全承載着四個戰略目標: 保護集團、保障業務、助力業務、成為業務。

保護集團永遠是重要的使命,為集團設立一個統一、強大的防護體系,適用於所有的業務場景。希望在一些業務方向上,安全能夠成為其加持點,甚至是成為它的核心競爭力的一部分。最終,通過賦能百度智能雲來進行自己的商業化輸出,提升整個百度智能雲上的運營安全和雲上客户的安全性。

在安全產品領域裏, 百度威脅狩獵平台更多強調在入侵場景下的溯源能力 ,依託於百度自身典型的安全場景,比如受黑產騷擾或被攻擊的時候,如何能夠迅速定位,誰在攻擊什麼等情況。

在數據方面,基於百度數據安全沙箱、聯邦學習平台(FL)、多方安全計算、機密計算四款隱私計算引擎,打造了點石計算平台,這是百度安全在隱私計算方向上的一個產品探索。用來解決在當下大數據的背景之下如何既能保證數據計算的有效性,又能夠保護用户隱私,符合國家相關的法律法規,來制定開發的一套系統,並對外開放做商業化輸出。

在流量安全方向,根據自身特點設計的 昊天鏡風控系統,可以防止百度自身的重要知識內容被非法竊取,二是可以防止各種“薅羊毛”以及作弊情況在百度商業體系裏面被濫用。

百度安全做 元宇宙安全,初衷是出於保護自己的產品希壤APP,它的技術底座還是百度的AI技術和數據安全方向上的積累,建立在業務安全的體系之上

比如任務系統、商城系統等通用系統,大量應用百度安全自己的昊天鏡中的內容審核平台,依託於傳統的信息化系統和區塊鏈以及智能合約的技術。比如在智能合約領域裏,技術本身基於區塊鏈,有很多嚴格的算法上的約束,仍然避免不了欺詐性風險,元宇宙更多涉及到個人隱私數據等合規方面的風險。

總的來説,百度安全在各個方向,都有相對獨立的安全賽道,且有巨大的發展空間。

人物簡介

馮景輝,百度安全部副總經理。負責集團業務安全與流量安全。進入百度前,他是國內第一家完全基於SaaS的雲安全服務廠商安全寶的聯合創始人兼研發副總裁,安全寶系統架構總設計師。創立安全寶前,曾在當時中國最大的反病毒企業瑞星公司擔任高級軟件工程師、研發經理等職務。

如若轉載,請註明原文地址