XCon专访 | 百度安全部副总经理冯景辉:百度AI安全建设的两个核心要点

语言: CN / TW / HK

在当下智能经济时代,我们依赖于智能经济的网络活动会越来越多, 之前整个安全行业里的大多数行为以破坏和窃取数据为主,如今,以直接获取经济利益为主的各种手段的欺诈频繁出现。

安全行业是一个强对抗的行业,不论之前还是现在,黑产一直是“逐利”的,其攻击水平日益提高。其中比较明显的一个特征是先有漏洞,然后再出现修复漏洞的补丁,这种模式一直在运转,并且长期存在,导致防御滞后于攻击。

百度安全作为百度公司旗下 以AI为核心、大数据为基础打造的安全品牌,是百度在互联网安全22年安全实践的总结与提炼。 面向行业生态,一方面,发挥技术能力打击包括电信网络诈骗、赌博、隐私窃取在内的各类违法犯罪行为;另一方面,以技术开源、专利共享、标准驱动为理念,联合生态合作伙伴推动AI时代的安全生态建设。

百度安全部副总经理  冯景辉

2022年9月19日,XCon2022安全焦点信息安全技术峰会在京成功举办。作为本届大会的演讲人之一,百度安全部副总经理冯景辉在大会上发表了名为《元宇宙的焦虑:安全先行》的议题演讲,全景分享了身为安全行业老兵的他,在百度参与国内首个元宇宙产品“希壤”空间的建设时所取得的研究成果,并将自己沉淀的深入思考与现场的近百位参会者进行分享。

对此,XCon对冯景辉进行了人物专访,针对百度安全进行AI安全建设要点等话题展开了深度探讨。

AI安全技术应用

谈及打造AI安全防护系统的必备要素,冯景辉表示, 首先,要有一个好的运营机制 ,安全永远是强对抗场景,快速发现问题、收集问题、解决问题才能做好安全。

第二,要有优秀的工程师,并不只是安全工程师,所有安全系统的本质都会面临安全威胁,依靠系统里所有的参与者和使用者。如果每一个工程师都能够严格遵守安全开发的设计流程,那这套系统必然是健壮的。

第三,拥有良好的防御意识和体系化的防御手段。现在很多安全事件不仅仅是传统上的网络入侵,不单单是从系统漏洞的层面上发起攻击。有很多APP的钓鱼攻击来自于社会工程层面,所攻击的对象不是工程师,而是职能团队的人,这就要求公司全员都具备良好的防范意识。百度一直在强调自己的员工如何甄别正确的邮件和文件,进而建立一个从系统到人的防范体系。

百度的AI安全建设的核心想法主要围绕着 两个要点 一是让安全更AI,把机器学习和深度学习等技术应用在传统的网络安全或信息安全领域,二是把原来的安全体系结构以及攻防能力应用在AI上,让人工智能具备更安全的属性。

现在百度安全有很多成熟的应用,甚至在早期,训练模型就已经应用在网络安全的领域里,比如漏洞挖掘、对于网络协议的识别、输入合法性验证等等。

未来神经网络会带来更大的发展空间,卷积神经网络应用突破之后,可以把原来网络安全的防护程度提高85%~90%。举个例子,通过机器学习,可以把现有的访问网络的一些参数的合法性取值范围,自动计算出来。

百度集团就此业务早早就有了很好的盘点和布局,现在有统一的架构可以在整个系统层面上把AI技术提前应用。

百度本身长期以来对于搜索结果有很强的保护能力,为防止网民搜索或者检索到一些有害信息, 运用NLP技术,可以实现行为和内容的双层安全保护。 识别搜索引擎里可能会被检索到的恶意或非法内容,甚至是赌博、博彩类等非法网站,是AI应用在安全上的一个比较典型的案例。

此外,百度安全开源出来的 图数据库HugeGraph,利用数据分析和存储技术,主要做与黑产关联的挖掘。 在数据库里,存储是一个网状多边形的关系。如果我们定位到一个行为,可能是一个黑产行为,比如攻击网站,他在这个体系里面还访问过哪些其他的页面,这些页面采用了哪些特征,这些相似的特征还有没有其他终端设备,这些终端又访问过哪些信息,通过这种关联的方式可以去挖掘更多的黑产线索。

百度安全业务战略布局

冯景辉总结道,百度安全承载着四个战略目标: 保护集团、保障业务、助力业务、成为业务。

保护集团永远是重要的使命,为集团设立一个统一、强大的防护体系,适用于所有的业务场景。希望在一些业务方向上,安全能够成为其加持点,甚至是成为它的核心竞争力的一部分。最终,通过赋能百度智能云来进行自己的商业化输出,提升整个百度智能云上的运营安全和云上客户的安全性。

在安全产品领域里, 百度威胁狩猎平台更多强调在入侵场景下的溯源能力 ,依托于百度自身典型的安全场景,比如受黑产骚扰或被攻击的时候,如何能够迅速定位,谁在攻击什么等情况。

在数据方面,基于百度数据安全沙箱、联邦学习平台(FL)、多方安全计算、机密计算四款隐私计算引擎,打造了点石计算平台,这是百度安全在隐私计算方向上的一个产品探索。用来解决在当下大数据的背景之下如何既能保证数据计算的有效性,又能够保护用户隐私,符合国家相关的法律法规,来制定开发的一套系统,并对外开放做商业化输出。

在流量安全方向,根据自身特点设计的 昊天镜风控系统,可以防止百度自身的重要知识内容被非法窃取,二是可以防止各种“薅羊毛”以及作弊情况在百度商业体系里面被滥用。

百度安全做 元宇宙安全,初衷是出于保护自己的产品希壤APP,它的技术底座还是百度的AI技术和数据安全方向上的积累,建立在业务安全的体系之上

比如任务系统、商城系统等通用系统,大量应用百度安全自己的昊天镜中的内容审核平台,依托于传统的信息化系统和区块链以及智能合约的技术。比如在智能合约领域里,技术本身基于区块链,有很多严格的算法上的约束,仍然避免不了欺诈性风险,元宇宙更多涉及到个人隐私数据等合规方面的风险。

总的来说,百度安全在各个方向,都有相对独立的安全赛道,且有巨大的发展空间。

人物简介

冯景辉,百度安全部副总经理。负责集团业务安全与流量安全。进入百度前,他是国内第一家完全基于SaaS的云安全服务厂商安全宝的联合创始人兼研发副总裁,安全宝系统架构总设计师。创立安全宝前,曾在当时中国最大的反病毒企业瑞星公司担任高级软件工程师、研发经理等职务。

如若转载,请注明原文地址