想象一个场景：在未来世界里，出行有自动驾驶，穿衣有AI穿搭、AI机器人，住在AI打造的智能家居空间，AI会推荐更符合你身体所需营养成分的食品……看起来一切都便利了很多，但你会生活得更舒心、更安全吗?

“AI发展趋势是一定的，但AI应用来解决安全问题时并不能生搬硬套，需要根据实际场景进行AI的技术升级，”阿里安全图灵实验室负责人、资深专家奥创近日接受记者采访时表示，安全会成为未来AI开发的最大挑战，“基于阿里安全在内容、新零售、知识产权等领域的对抗经验，我认为‘安全AI’会成为未来网络安全问题的新解法，也将在2019年迎来爆发期。”

阿里首提“安全AI”概念

无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI，但一旦后端控制系统被攻击，出现规模化、连锁式的崩盘，AI失控的后果不堪设想。

“比如，无人驾驶车要通过识别交通信号标志来决定是通行还是停止，而攻击者可以生成一个欺骗通行标志的对抗样本，在行人眼里是禁止通行，但AI系统会识别成允许通行，这足以造成灾难性的后果，”奥创表示，其原理就是通过打造精确的攻击样本欺骗分类器。

“事实上，现在已经出现了数据投毒(指故意造成的数据污染)、对抗式生成网络伪造人脸识别等攻击手段，”奥创表示，在大量的AI技术落地之前，安全AI需要引起足够的重视才能从源头上防范更多的风险，“在这个背景下，阿里安全提出‘安全AI’的理念。”

奥创解释：所谓安全AI，是指安全场景中进化出的AI，拥有更强、更多元化的能力;与当前通用AI的理念不同，阿里安全更注重在业务安全领域垂直纵深的技术积淀，开发出适应更多安全场景的新一代AI，让传统的安全问题找到新的AI解法。

近期，基于问答技术、知识图谱和对抗样本等技术研发出的新一代AI验证码，就是阿里安全在安全AI领域的动作之一。这一产品原理是，通过AI挖掘生活常识类信息作为问答题库，并对原始图像有针对性的加入干扰，使得人眼识别不受影响，但会显著降低黑产AI打码的成功率。