以 AI 对抗 AI :“守护者”杨勇和腾讯安平的进化
三年前,腾讯安全平台掌舵人杨勇遇到一个名叫“快啊答题”的黑产团队,后者专攻验证码破解,俗称“打码”。单在 2017 年一季度,“快啊答题”的打码量高达 259 亿次,识别率超过 80% ,一骑绝尘,几乎垄断了地下打码市场。
打码一般是采取“人工+OCR”方式,而验证码安全方也在不断升级,特别是像 12306 这类应用,需要根据文字辨认图片,识别率低,对黑产来说有不小的难度。
“快啊答题”用到了当时最流行的 Caffe 深度学习框架,使用了卷积神经网络模型,只要输入原始图像,就可以通过深度学习获得高识别率。他们收集了大量不同风格的验证码,作为训练样本,样本库超过 5000 万。
AI 技术如此齐整整地用于黑产,这是国内首例。
不仅如此,这个 AI 打码技术还被包装成接口(API),对外提供服务,打通了从打码、晒密,到撞库的整个黑色产业链条。
黑产对新技术的“好奇心”、“开放性”和“动手能力”让杨勇震惊。要知道,当时 AI 也才刚刚热起来,杨勇仍在内部向团队一次次解释“安全为什么要用 AI”,而现在,武装了 AI 的黑产已经攻到眼前。
“我们以守护者自居,但‘江洋大盗’都用上火枪了,我们还在那儿讨论到底是砍刀牛还是火枪牛。至少我们先配上火枪嘛!”杨勇说。
成为 Coolc
黑产是黑客产业链,准确地说应该叫骇客。与之相对,还有一拨白帽黑客(也被称为白帽子),是用自己的黑客技术来维护网络正义的安全爱好者。
早期的白帽黑客主要是喜欢钻研系统、研究技术的一拨人,杨勇自己便是其中一员。他们是一群技术完美主义者,不断寻找网络系统中的漏洞,并迫使其不断改进。
进入首都经贸大学的第一天起,作为文科生的杨勇就成了图书馆的常客,四年下来,每一本计算机书籍的借书卡上都留下了他的名字。
大三时他看了一本讲黑客攻防的书,书里列了 2000 多个黑客工具,还夹带一张光盘。
其中的很多工具作者都活跃在当时最富盛名的安全焦点论坛,但这 2000 多个工具却没几个好使的。杨勇尝试按着可找到的邮箱地址联系作者,向其指出工具里的 bug,有个人回复了他,这人叫冰河,真名黄鑫,号称“木马教父”,是安全工具 X-Scan 的作者。
冰河在回邮里说:“你提的 bug 没法重现,要不我们见一面,看看问题在哪?”就这样,通过冰河,杨勇走进了安全圈。
(图注:在安全焦点论坛的杨勇给自己起了 Coolc 这个ID)
冰河所在的安全焦点论坛,聚集了众多的第一代白帽黑客。每个白帽黑客都有一个 ID,杨勇也给自己起了一个 ID 叫 Coolc 。
大四要毕业时,杨勇先找到了冰河:你们这个挺酷,我能不能参与?
冰河的回复是:可以参与,但如果不是专科出身,薪水会很低。杨勇觉得,加入这个圈子,就能和一群高手交往,算上学费,薪水也可以了。这个换算不能算牵强,当时他报一个 7 天的基础课程班,都还需要和父母借上一笔钱。
于是,在经济系的同学纷纷去银行入职时,杨勇选择了北京一家航天科技企业做网络安全研究员。工资确实不高,但每个月 15-25% 的资金是绝对不能动的,这是他为自己购买计算机书的特定经费。
早期的白帽黑客其实很多都不是科班出身。冰河当时召集了一次第一代白帽黑客的大聚会,杨勇作为为数不多的 80 后,坐在一堆大哥面前,询问各家的专业出身,有说是中文系的,还有说是锅炉行业的,算下来,一半是非计算机专业。大家全凭爱好驱动,多数是像杨勇这样,有热情,有耐心,愿意花时间钻研。
进入公司后,为了节省从北京城南到城北近四个小时的通勤时间,杨勇带着一张行军床住到了单位,这其中还有一个私心是,单位里有平时接触不到的昂贵小型机,自己可以借着下班时间在上面练手。
机房温度低,开着窗户觉得冷,关上窗户屋里味道又太大,杨勇半夜常常进行着开窗又关窗,关窗又开窗的循环动作。有一次不小心睡着了,锅炉烧着,水蒸气漫了整个楼层,航天部的同事半夜集体出动,端着消防器材着急忙慌赶来要灭火,才发现这位常驻同事。
从安焦到安平
2004 年,QQ 注册用户突破 3 亿,屡屡被黑客攻击问题困扰的腾讯对安全人才表现出前所未有的饥渴。为了组建安全部门,腾讯主要创始人之一、原 CTO 张志东四处找人。
在安全焦点论坛两年后,杨勇被引荐给腾讯。他从北京来到深圳,此时腾讯刚刚组建了安全运维组,总共也就两个人,杨勇几乎经历了腾讯整个安全体系从无到有的建设过程。
安全团队从组建起就被给予了极高的重视度。张志东在骨干面前不厌其烦地一遍遍强调安全之于腾讯的重要性,极力扩充人马。他站台的腾讯安全峰会,将全国的白帽黑客集聚于深圳。也是在这一时期,腾讯成为第一个建立 SRC(安全应急响应中心)的互联网公司。年终总结大会上,马化腾亲自为安全团队颁奖,团队的同学在台上热情地高喊口号:“保护腾讯,保护 QQ!”
(图注:2013 年,安全平台部在腾讯内部主办的第六届安全技术峰会)
那时的安全,除了腾讯几万台服务器的安全,防止木马和渗透,主要就是 QQ 客户端的安全:查杀 QQ 盗号木马。
到 2009 年,杨勇的安全运维团队已有 20 人,主要应对盗号的黑产,QQ 医生是主要的武器。但结果发现,很多操作系统自身就不安全,到了 2010 年,QQ 医生变成电脑管家,额外承担了操作系统的安全工作。
杨勇的职责,除了要保护 QQ,还要保护腾讯旗下的几十款应用软件,团队也被升级为腾讯安全平台部,也就是现在腾讯内部所称的“安平”。
(图注:2009 年,安全平台部年会)
何谓平台?一是应用程序,二是操作系统。黑客想突破,就要找后门,突破它们的权限。应用程序安全有电脑端的,是桌面安全;手机端的,就是移动安全。
如今操作系统的概念也在不断延伸,有个人电脑端的,有服务器上的,还有网络设备的操作系统。广义来讲,云服务对于用户而言,也可以看作一个虚拟的操作系统,可以申请虚拟的 CPU、存储,这也就有了云的安全。
传统安全领域的战场基本覆盖这些范围,攻防也在这个战场展开。
然而 AI 一来,战场从传统操作系统平台扩展到 AI 基础设施领域,攻击工具和方法有 AI 加持 ,攻防双方的力量失去平衡,也就有了“快啊答题”这种黑产在短时间内的横扫。
AI 安全战事兴起
2016 年,杨勇去了趟硅谷,拜访了谷歌、Facebook,也约见了苹果等一众头部公司的同仁。坐在几位硅谷工程师面前,听对方滔滔不绝地分享着 AI 在安全上的应用,杨勇想通了。
当国内还困在 AI 利弊问题的辩驳中时,硅谷这群工程师已经能够引出 AI 安全的实战案例,他们没有在现有的安全技术和 AI 技术之间纠结取舍,在前沿研究上更大胆,也更为果断、开放地拥抱了新技术、新力量。
2017 年,安平内部成立了很多兴趣小组,每个小组研究一类新技术方向,其中一个叫 Tencent Blade Team 的小组研究的是谷歌刚刚开源的 TensorFlow 深度学习框架,这个 AI 框架当时已有不少人使用,但很少有人研究它的安全问题——也或者是能力跟不上。
Tencent Blade Team 小组出手打破了 TensorFlow 0 漏洞的记录,一连发现并报告了 TensorFlow 的前 7 个安全漏洞。比较典型的一个是,黑客可以构造恶意的虚拟文件,框架只要一读取文件就会被攻破,前者便可由此控制整个系统。另外,框架使用的第三方库,处理协议时也会有溢出,导致框架被控制。
(图注:Tensorflow 发布的安全公告及致谢)
这些问题报给谷歌时,谷歌甚至还没有漏洞的报告渠道,是腾讯安平的 TSRC(腾讯安全应急响应中心)协助他们建立并完善了漏洞报告机制。
深度学习框架可以比作 AI 的基础设施,这意味着黑客不仅仅是像“快啊答题”那样,利用 AI 框架来破解,框架本身甚至也成为了攻防的前线。
对于互联网用户而言,更直观的感受就是 DeepFake ,用 Deep learning (深度学习)来 Fake (伪造)图像和视频,可以让已有的图像或视频叠加到目标图像和视频上,可用于名人影片、恶作剧、假新闻、色情行业等,以假乱真,混淆视听,由此带来的影响至今未息。由此,大众也开始认识到了 AI 的另一面:AI 能带来生产力的提高,也能带来伦理、隐私和安全问题。
真正的 AI 安全问题还隐藏在冰川之下。除了框架这样的 AI 基础设施,数据、模型、算法,任何一个环节都是攻防的最前线。
一方面是 AI 基础设施被攻击,传统的后门概念的边界,从应用程序和操作系统权限,被延伸到数据、模型、算法。
另一方面是 AI 技术带来的攻防失衡。如果攻方用了 AI ,守方不用 AI ,后者就会处于完全的被动,被攻击得体无完肤。
在安全问题上,攻方在突破上本身占据优势,如验证码问题,只要有 20% 的识别率,攻破的概率就非常之高;而守方必须是 100% 的防守,出现一点点漏洞,造成的破坏效果便不可估量。
攻守双方成本也有着相当的悬殊。比如盗号的挑战,对于腾讯这样强社交应用的公司,是个经典的安全问题。对方可能有 100 万台肉鸡,用一个蠕虫程序、一个程序员就可以发起攻击;防御方则需要有 100 万台机器防御,全部是真金白银的投入。
(图注:2014 年,TSRC 在北京讨论 SRC 发展)
最常见的 DDoS 攻击,之前是靠人值守,相当于冷兵器对战。安平曾有一位同事由此得一外号,叫“一夜七次郞”,一晚上最多要起床七次,抵御攻击。
如今腾讯安平的宙斯盾上线了用 AI 分析运维人员的行为模型,用 AI 探索 DDoS 攻击检测新思路。基于其操作习惯排查攻击行为,可以实现秒级响应,被看作一种现代兵器式的防御。守方把 AI 运用得当,才能掌握主动。
除了在 DDoS 攻防场景,腾讯也尝试将 AI 技术运用到更多的安全场景中。如通过与流量分析结合,助力传统基础安全能力的提升。
腾讯安平门神 WAF(Web Application Firewall,WAF)基于腾讯海量正常流量和人工打标的恶意攻击流量,建立了丰富高质量的黑白样本库,通过 AI 机器学习算法的应用,在样本训练测试中攻击检出率可以达到 99%,同时误报率控制在 0.03% 以下。
众生守护者
2018 年春节的团队聚会,杨勇在饭桌上照旧和同事们描绘着 AI 安全的蓝图。酒酣之际,每个人都有些兴奋,聊天也越来越开怀。同坐的女同事坦承自己曾对这份工作怀有的犹疑。她的专业是图像识别,在当前科技行业机会遍地,而做安防需要同时研究硬件与 AI 算法,基本等于进入一个全新行业,曾在前期有过不小挫败的杨勇对这种跨界的挑战深有感受。
但也是在春节前的这段时间,看到被拐卖儿童因为AI 安全的助力被寻回,身为人母的同事更坚定了对这份工作的认同:自己所从事的事业正在保护很多人,正在为社会带来可预见的改变。
“人内心的动力是很可贵的。”杨勇说。
腾讯安平团队还基于视觉 AI 技术,研发了一套智能视频分析解决方案,推出了 “智能跌倒监测系统”,通过人工智能技术对视频数据进行检测、分析,帮助深圳的养老护理院判断老人是否摔倒或有走失风险,并在第一时间预警,以缩短救援时间。在杨勇看来,这更是“安全人”利他价值观的体现。
安全从业者长期隐于幕后,“被需要的时候才会被想起”是这个群体的宿命,失败要独自承受压力,成功也少有人觉察、记住。进入安全行业,既要时刻学习,拥抱变化,也要做好长时间和孤独打交道的准备,但奖励是身在其中的人也会获得一种“众生守护者”的价值感。
在安全行业近 20 年,杨勇越来越觉得,不管是 AI 还是其它技术,最重要的在于,可以辅助人做善良的事,这一点尤其重要。
做善良的事,然后一步步改变社会,安全人守住这个价值观,也才能守护众生。在此,安全人的使命也和腾讯力主的“科技向善”实现汇流。
Q & A
AI 源创评论:走上安全这条职业道路,对你影响最大的一件事是什么?
杨勇:遇见贵人,比如像我遇到冰河。不需要多,但他会在人格上影响到你,让你对自己长远的发展有一个清晰的认知。这会决定你道路的选择。
AI 源创评论:这些年你对于安全的理解,出现过哪些变化?
杨勇:我在航天领域的时候,对安全的理解就是 0 分和 100 分,比如卫星一出事就完了,要么就是 100 分,就是成功了。
从航天行业出来以后,我发现不完全是这样。安全本质上是一个投入产出比的问题,怎么让坏人放弃?一个很重要的策略就是让他的成本过大,让他觉得不值得这样做。那时我就会做一个很难的技术,去防御,让对方过不来。
干了十几年以后,我发现这个认知又不对了,因为对手在进化。以前黑客是孤狼式的,现在孤狼越来越少,都是团队作战,而且各有分工,有一堆专有设备和大数据支撑。如果从企业级的角度去看,之前的对抗理论就崩溃了。
攻防失衡了。攻击方成本很低,做一次攻击就像做一次轰炸,如果把你轰炸了,他就把这个城市占领了,没有占领,他也没什么损失。而守城的人就不行,平常就老得准备防御着,成本高。
这时候我们就发现 AI 是可以很大地缓解这种资源的不对称性的。计算机科学、数据科学,都是可以极大缓解这种资源不对称性的。一个企业,一个组织,包括一个国家,不可能无限投入资源,但是 AI 可以解决这个问题。
所以如果你是一个互联网企业的 CEO,在 AI 安全上可能要关注两类问题:一类是 AI 算法、基础设施的安全;一类是如何用 AI 技术去做安全。
AI 源创评论:在 AI 安全这件事情上,你看到的国内和国外的情况有什么不同?
杨勇:很多时候,文化差异会导致技术认知的差异。比如从文化上来说,从数据出发去做决策,在国外特别受重视,像航空航天、医学这些很核心的东西都要依托于数据科学。社会的接受度高,导致他们产业的接受度也高。只要能用数据论证,就比较容易让人明白,你是有一个配套的机制去验证某个技术到底靠不靠谱的。只要能用行业的数据来证明,就比较容易被接受。
而咱们国内的特点是,对于应用场景接受度高。我们看重的是在一个特定场景,能不能带来一些体验上的改善。很多企业比较看重生存问题,盈利问题。
AI 源创评论:黑产的技术越来越强,攻方在使用 AI,我们守方也在使用 AI。以 AI 对抗 AI,怎么决胜负?
杨勇:AI 安全里,算法就像在冰山之上,但还有冰山之下的东西决定这件事,那就是数据和算力。
数据决定了你的天花板有多高,数据越丰富,理论上天花板的高度就越往上走。但是有这么多数据,算力不够怎么办?实际的攻防中,所有计算出的模型和效果都是有时效性的,必须要有超出常人的算力才行。
你会发现,学术界有些算法试验数据特别好,但工业界没法用,为什么?有相当一部分原因是算力没法支撑。所以,如果想做 AI 安全或者 AI 的工程化,得有一大批人解决好算法的工程化问题。
AI 有点像当年钱老造导弹,是一个非常系统的工程。它包括特种工程,算力的解决,基础设施的搭建、安全保障,使用的场景,算法,模型,配套设施怎么使用等等,越来越细分。
AI 源创评论:安平现在各个部门都需要具备哪方面的能力?
杨勇:每个部门要求不一样。负责基础安全的部门,需要对安全技术非常熟悉和了解;负责风控安全的,需要对黑产了解;平台部门则需要对数据敏感度高。实验室就要对业界特别敏锐,对新的东西特别开放,愿意去研究。
AI 源创评论:从过去两年的发展来看,2020 年的安全行业会有哪些变化?
杨勇:这两年非常明显地进入了数据和云的时代,所以主要矛盾还是会在数据和云上。
国内可能会产生的比较大的变化就是安全合规性问题。国家在合规方面的要求在明显增强,2020 年要求会更加严格。企业的建设压力和安全带来的经营压力一定会很大。安全的工程人员和建设人才,在之后两年会特别稀缺。以前一个企业雇佣两个安全人员就可以搞定的问题,会因为 IPv6 等变量搞不定了,所以这也会带来云市场的很大繁荣。
黑产挺敏捷的,也在不断引入 AI 算法和新技术。一个一般规模或中大规模的企业,在数据积累、算力准备、算法研究上都很难跟云化的安全能力相媲美。而黑产的积累程度可能要远远超过一个大规模企业,因为它成本很低,只要达到局部成功就可以获利。
从这个角度看,中小企业安全的云化是不可避免的,各种内外部环境都会把它往这个方向推动。
AI 源创评论:对于准备进入或者已经进入安全领域的从业人员,您愿意给出什么样的建议?
杨勇:这个说起来比较天马行空。首先是要对自己有信心,这条路比较艰难,没有信心注定坚持不住。要花很多时间、精力去学习。一定要对做长期的沉淀有充分的思想准备,包括家人能不能理解和支持。
大多数做安全的人没有高官厚禄,一般不出事儿的时候,大家想不起你。如果真的想做安全,就得忍受孤独。你很难出现在镁光灯下,一定要想明白这个事情。但是做安全会给你另外一种东西,就是“众生守护者”的那种价值感。
已获取点赞 +0
评论 点击评论