首页 要闻 点评 财经 产经 湘企 IT 汽车 房产 互联网 家电 数码 强省论坛
经网聚焦 区域经济 微观时代 民生关注 投资市场 大众消费 湖湘旅游 美食休闲 购物指南 芒果娱乐 湖湘文化
您所在的位置:首页 > 高新产业 > 正文
腾讯AI安全布局新进展安全攻防有哪些新变化?
来源:编辑整理 时间:2018-07-05 责任编辑:湖经编辑 分享:

   腾讯如何运用AI 技术应对安全挑战?AI时代下,安全攻防又有哪些新变化?——在6月30日的2018 全球人工智能与机器人峰会(CCF-GAIR)上,腾讯安全平台部总监、Tencent Blade Team负责人胡珀,揭秘了腾讯AI安全布局和最新进展。

胡珀首先分享了对AI本身的安全问题的考量与反思。他提出,AI将是下一次的工业革命,但不可避免的存在安全方面的局限性。智能设备渗透到各行各业,也将会带来很大的安全隐患。除了自身算法安全、第三方组件问题,AI技术还可能被黑产利用。

面对AI时代的安全隐患,胡珀认为:“安全绝不仅仅是被动的事后处理,而是也要主动研究最前沿、最尖端的技术,用未雨绸缪的前瞻性研究来武装我们的工作。” Tencent Blade Team正是腾讯专项进行安全研究的部门,研究重点随着腾讯和整个安全行业面临的实际场景不断进行调整变化。近年来随着AI大规模工程化、实用化,Tencent Blade Team加大了对 AI 智能设备安全方面的研究。

在具体场景下不断实战的同时,腾讯也助力行业进行技术优化。17年年底,腾讯发现谷歌人工智能学习系统TensorFlow存在严重安全风险,可被黑客利用带来安全威胁,Tencent Blade Team向谷歌报告了这一风险并获得致谢。据悉,该风险是TensorFlow首个自身安全风险。

相比同行业公司,腾讯的AI+安全所面临的场景更加丰富。腾讯主营业务涵盖游戏、社交、支付等多个领域,如QQ及微信的登录、QQ及微信内垃圾信息的打击等,都用到机器学习来保障用户的安全。除此之外,面对近期发展迅速的AI+医疗、智慧零售和智慧楼宇,Tencent Blade Team也在探索更新的AI安全解决方案。

胡珀是国内首个漏洞奖励平台Tsrc负责人,自2007年加入腾讯以来,他一直从事国际范围内的前沿安全攻防技术、黑客攻防技术对抗研究,包括人工智能(AI)、物联网、移动互联网、数据安全等,先后负责过漏洞扫描、恶意网址检测、主机安全、DDoS攻击防护系统的建设和运营以及应急响应、前沿安全、安全培训、安全研究、漏洞奖励计划等工作。

胡珀演讲

首先我们会发现,AI是很容易被带坏的。这是微软推出的机器人,通过跟网友对话进行学习,恶意的网友就会乱教它,比如骂脏话,甚至是种族歧视。

前面的老师也讲过,现在AI是孩子,你教什么就学什么,结果学坏了,最后骂人,后来微软马上下架去修改,这就是一种样本的问题。

第二个问题就是AI会被蒙蔽。只需要一些简单的操纵,人眼看起来毫无区别,AI识别却会得出完全错误的结果。比如这是一个人脸识别系统,给一张照片会识别出这个人的性别、年龄、表情、魅力值,第一张图正常图片可以识别出是男性,21岁,表情黯然伤神,但是如果经过特殊处理,加一些图层进去,对我们人眼没有影响,但就会被AI就识别成女性,20岁。另外两个也是,叠加图层上去,整个AI识别结果完全颠覆了,结果变成了男性,36岁。我们进行了测试,最大会有20%的识别错误几率。

针对标识的识别也是如此。我们可以看到,通过类似的图层叠加手法,会严重影响AI的识别结果。比如第一张图可以直行,第二张图加入图层后,我们人眼识别完全没变化,但到AI去识别就可以直行也可以右转,限速30变成限速80。这就是对AI的攻击。大家可以想像,如果这个攻击案例被用到了实际环境,可能直接导致车毁人亡的严重情况。

第三个问题就是被污染,也就是在AI的底层框架存在的问题。比如谷歌的深度学习系统TensorFlow,Tencent Blade Team研究之后,发现它其实存在一些传统的网络安全问题,比如恶意构造一个模型文件,格式经过特殊构造就可以控制它整个AI系统,然后可以算出AI系统的设计或者架构问题。除此之外,如果引用了恶意的第三方组件,也会导致系统崩溃,拿到系统权限。

这些漏洞我们都报给了官方,并拿到了致谢。这些系统如果底层出问题,被黑客利用,后果是灾难性的,所以现在产业界、学术界都非常关注AI的底层架构安全。

第四,许多智能设备都可能被控制。比如智能音箱可能被窃听,我们团队对市面上的一些智能音箱做了一系列研究,许多智能音箱都有安全问题,包括协议的解析和认证授权等,其实还是传统的安全问题。如果大家感兴趣,可以在今年8月份在拉斯维加斯的DEF CON上关注我们介绍智能音箱的漏洞技术细节的议题。

另外就是智慧城市,现在很多地方都引入了智慧城市,里面会用很多新的协议,比如 IoT 的协议,这个也存在许多安全隐患。

我们选用腾讯大厦作为目标进行了测试,发现它所使用的智能楼宇设备协议和加密通讯存在一些技术风险,这就造成我们可以通过远程控制某一层的会议室灯、空调、窗帘,包括插座等。

我们当时放了一个无人机到顶楼,挂了一个信号发射器,实现了对整层楼的开灯关灯关窗帘的控制,在欧洲的HITB安全峰会上我们也详细讲了这个漏洞的技术细节。

因为供应商是国外的,我们把问题报给官方,也修复了,做这个实验本身就是希望把这个问题修复掉。

除了智能音箱、智慧楼宇等,我们还研究过无人机。2015年,Blade Team参加一个黑客比赛,远程用电脑把无人机劫持了。我们破解了无人机的通讯协议,破解之后发现,只能够抓到一部分无线电协议,就可以去模拟摇控器发出来的协议,把当时的无人机给劫持掉。

摄像头也是类似。2014年的时候,我们对国内的摄像头做了一系列的安全评测,2014年是智能摄像头元年,所以我们也要去跟进看一下。大家有没有见过有部电影叫《窃听风云》,里面有个桥段就是加了一个设备,把摄像头替换掉,导致保安没有发现有人进去了。

有些摄像头我们发现也是有这个问题的,我这里放了一个QQ公仔,摄像的 wifi 网络被我劫持替换,就能控制它所有想要展示的图像,我重新可以录视频,把公仔隐掉。

另外就是一些智能手机,因为智能手机现在用了越来越多的一些所谓的生物识别、智能识别,比如说人脸解锁,人脸解锁之前有很大的问题,但是我直接用照片,而且用二维的照片就可以解锁。不过现在应该已经加了3D或者活体识别了,就没那么简单,但是我们目前在进行的一些研究中发现还是有机会的。所以后面有机会大家还可以看到我们的分享。

有些手机可以支持智能设备解锁,比如手环解锁,只要手机靠近手环就解锁了,不用输密码,这也是比较方便。但在设计的时候会出问题,解锁的时候它只会检测我的手环match地址,这个也很容易实现,我们可以直接解锁他的手机。另外一些品牌手机可能采取的是指纹解锁,但我们发现用一个类似的导电硅胶,直接把纸巾按上去就可以了,根本不需要指纹,这个硅胶按上去算法也通过了,最后解锁也通过。就像现在的智能电锁,也是类似的原理。大家会发现,现在的智能手机也是不够靠谱的。

免责声明:本文仅代表作者个人观点,与本网无关。其原创性以及文中陈述文字和内容未经本站证实, 对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者 仅作参考,并请自行核实相关内容。当事人(单位)如有异议,请参阅《删帖说明》办理。

0
评论总数:0 [ 查看全部 ]网友评论
 
  评论者:  请输入验证码:  
CopyRight @ 2007-2018 湖南经济新闻网.com 版权所有 网站备案 湘ICP备030127号
地址:湖南省长沙市(邮编:410000)E-mail:hnjjxww@yahoo.com.cn