人工智能大环境下，360关注的“小”安全

360人工智能研究院院长颜水成在“世界科技创新论坛”上就“人工智能的标准化革命”作了主题分享，选择的是360的主业务——安全这一细分领域来作的分享。在分享中，基于360的一直的关注，除了继续强调安全的重要性，希望唤起公众对安全的重视之外，还对在人工智能大环境下，360对安全关注的几个维度，作了分享。在分享中，颜水成坦言，“(对于安全)可能大家现在思考的还不是非常多，但其实非常关键。”

对于安全的重视，在政府层面已经取得很大的共识。不论是周鸿祎的退市为国家的言论，还是在合作伙伴的分量上，都可以看出国家层面对安全的重视。

360上市前的2017年12月份，360在同一月内连续同两家重量级单位航天光达和中国物理工程研究院达成合作，对于中物院的介绍，其实一句话就很能看出其中的分量，“国家科研计划单列的中国唯一的核武器研制生产单位。”而国家层面对于安全的重视，还有一点可以体现。周鸿祎在参加2017年的中国互联网安全大会（ISC）上提到，360要进军军民融合领域，简单地说就是所谓的挣部队的钱。军民融合近年被提升至国家战略，资本市场军民融合概念股也随后暴涨。但民企“参军”一个很高的门槛，是需要具备军工认证，也就是申请承担武器装备科研生产任务的单位应具备的能力和资格。共有三个等级保密资质，目前民参军的企业中拿到一级保密资质国内仅有一家，绝大部分为三级保密资质。而360集团旗下的一个子公司已经获得二级涉密资质。

360对于在安全方面主要关注的以下几个维度。一是智能硬件的安全。二是AI软件的安全，他举了一个例子来进行说明。360做一个图像识别的算法，部署到服务器上，可以利用软件的漏洞在图片上加入一些信息，这个图片就能够让服务系统陷入死循环，或者被劫持而获得系统的控制权限。三是连接的安全，对于软硬结合的智能硬件，连接不再是可有可无的，而一旦连接，就意味着黑客有机会侵入到智能硬件中。

以下为发言实录：

我是属于跨界的，原来在学术界当教授七年，后来在360已经待了近三年了。不得不肯定，在过去这些年人工智能发展的速度非常之快，特别是在学术界，大家可以看到每一年跟人工智能相关的学术会议发表的文章越来越多。去年做过一个粗略统计跟人工智能相关的会议每年发表的数量有4000多篇，这样带来一个很大的问题，我们到底到哪儿去寻找足够多的审稿人，能对文章进行正确的审核。今天我不准备谈人工智能有多么红火，大家都看到了。今天我想分享两个人工智能技术比较长远的话题，原创性和安全性。

在学术界和工业界，AI技术无外乎三种，一种是非常原创的，我们叫颠覆式的技术创新；一种是微创新。三是没有创新，技术在一个领域取得了成功然后照搬到另外一个领域来。学术界做人工智能的研究成果跟数据、应用场景是相对独立的，意味着在学术界做研究原创性变得非常重要，如果没有原创性就很容易被大家遗忘。

AI是一个非常大的范畴，在这我先聚焦深度学习，如果我们仔细去观察在深度学习领域最原创的成果，比如卷积神经网络，生成式对抗网络GAN、深度学习与增强学习的融合。可以看到最初的点其实都不在中国，中国在这个领域更多的是说这个成果出来之后，大家觉得非常有意思，就都进来了。比如像GAN，大家发现很有意思之后，计算机视觉领域的CVPR会议，就能看到一堆的文章全部做相关的事。但真正能被大家所记住的还是第一人GoodFellow。

最近深度学习的发展，对理论的需求越来越高，也就是说我们不再只是去调调参数或者在一个网络上稍微做一点调整。昨天晚上我跟我一个好朋友，一个做的非常好的教授聊天，我跟他做一个讨论，我说能不能把中国国内做机器学习核心理论研究做得非常好的研究者全部列出来，我们俩微信交流后，最后有一个名单。我的List大概有10人左右，但那个教授更加保守，他的List才5个左右。也就是在中国做这个领域，已经非常优秀的人才的储备是非常少的。

当然也不要那么悲观，现在国家新一代人工智能的战略出来之后，对大家来说是一个很好的契机，尤其做的还不错的研究者可以留在学校慢慢在这方面做一些比较长远的贡献。

工业界稍微会有一些不一样，它就是要解决问题，有了数据，产生一个模型，应用到产品里，如果不好就去想办法，收集额外的数据来不停迭代从而解决这个应用场景的问题。一个业务的成功取决的因素不只是技术，像技术、产品，最终用户，也包括我们的团队。这样的话，即使不聚焦原创技术，也有机会成就一个比较优秀的公司。如果这个公司能有足够的投入，比如你可以专注在这些比较原创的技术，而且把技术用在产品中的话意味着你最终不只是一个好公司，可能是一个great公司，《从优秀到卓越》。国内卓越的公司还是比较少，但我们已经具备这个条件了，我们有好几个公司成为在世界范围内巨头的公司，有足够的财力去组建相应技术研发的部门，瞄准的是三五年时间的产出，而不是一年，甚至更长时间的目标。所以我觉得机会还是非常有的。

另外一个维度，我想分享的是安全性。可能大家现在思考的还不是非常多，但其实非常关键。360作为一家安全公司我们在这方面有非常多的探索，比如第一点智能硬件我们会用传感器，比如摄像机、Lidar、Radar，这些传感器其实是非常脆弱的，很容易被攻击的。比如一个摄像头拿激光笔对着它，那它很快就会被致盲。还有一个领域可能大家思考非常少，就是会有设备老化的问题，老化之后传感器获取到的信息的精准度没有以前那么高了，现在人工智能的算法都是不停的调优得到的，之后到底它会产生什么样的影响，以前的模型到底是不是能工作，整个领域基本上还没有做太多的探索，这是第一点。

第二点，AI软件的安全性。这一点360研究比较早，Caffe或者TensorFlow它们多是建立在底层的SDK上的，这些SDK可能里面也有bug，比如我们360做一个图象识别的算法部署到服务器上，可以利用软件的漏洞在图片上加一些信息进去，这个图片就可以让我的服务系统，或者陷入死循环，或者被劫持而获得系统的控制权限，这些也是我们平常想的非常少的。

第三点，对于软硬结合的智能硬件，意味着连接变得不可或缺。连接之后意味着黑客就有机会渗透到你的智能硬件里面了，他想做什么样的事就他说了算。

另外可能还涉及到道德层面上的问题，我们基本上有一个观点，深度学习或者人工智能是没有完美算法的，就意味着人类一定要处理很多问题，比如你做自动驾驶，在极端情况就一定要做出决定，你到底是撞前面的人还是把车右转出车道让自己产生伤亡，这个从道理层面真的不知道该怎么做。总的来说我想说的是，原创性和安全性非常重要，如果想要您自己和您的AI公司能活的更长久更优秀，这两个维度是大家真的要花时间去关注的。

谢谢大家！