近几年，无论是网络安全还是人工智能（AI）都呈现蓬勃发展之态势，并且都上升到了国家战略的高度。从目前来看人工智能和网络安全融合主要有三个方向，分别是人工智能自身安全、人工智能助力安全、人工智能衍生安全。人工智能自身安全，顾名思义就是指AI本身的风险问题，在某些语境下可以简称为“AI安全”，类似于系统安全、网络安全的概念。例如经典的大熊猫对抗样本攻击案例，恶意攻击者只需要修改大熊猫图片上的几个像素点就能导致人工智能系统识别错误，本应该识别出大熊猫却错误地识别成了长臂猿，而且置信度很高。人工智能助力安全即用AI的方法来解决安全的问题。这个领域起步更早，在本世纪初就有科学家基于人工智能技术做垃圾邮件的检测，取得了非常好的效果。近几年在业务安全领域更是涌现出非常有意思的案例，如智能风控、智能反洗钱、智能垃圾内容识别等，这些技术极大地提升了风险识别的准确率和召回率。系统网络安全领域也不例外，衍生出了AISecOps智能安全运营的新理念。人工智能衍生安全是指AI技术导致某些其他领域不安全了，比如最近流行的AI换脸技术，它能够把照片或者视频中的人脸换成另外一个人，而且比Photoshop更加方便，这类技术使得内容安全领域面临前所未有的挑战。
此文由 怡心湖 编辑，若您觉得有益，欢迎分享转发！：首页 > 常识论 » 浅谈人工智能的安全风险问题