对于当代人而言,AI人工智能的“代言人”莫过于《终结者》系列电影中的“天网”(Skynet),它是一种以超级计算机为基础的AI人工智能防御系统,掌控了美军的全部武器装备之后,“天网”萌生了自我意识。惊慌失措的科学家试图关闭“天网”的电源,它就把人类视为“致命的威胁”,设计一个简单、且行之有效的办法毁灭人类——也就是挑起全球范围的核战争——于是,“天网”启动了美国的核武器系统,向拥有核武器的多个国家发动第一轮核武器攻击,多个拥核国家的报复性核打击也接踵而来,这一场全球性的核战争造成了数十亿人丧失,被幸存的人们称为“审判日”。

　　科幻电影中的“天网”尚是“远在天边”,可基于深度学习的AI人工智能已是“近在眼前”,一些图谋不轨的人借助于AI人工智能,可以在商品的评论区伪造各种好评、可以惟妙惟肖的仿造一个人的嗓音,甚至是十分逼真的更换一段视频中的人物,比如网络上流传的一段视频中,前任总统奥巴马和现任总统特朗普的讲话内容一样、言说的节奏一样、面部表情也一样,可他们的言谈风格并不相同,这就是AI人工智能的“杰作”。杏彩体育注册登录官网入口南京理工大学的李千目教授认为,随着AI人工智能相关技术的发展,关于Ai人工智能的安全问题也日益严峻,为了防止AI人工智能沦为造假和作恶的工具,李千目教授率领的研究团队开展了一系列研究工作杏彩体育。

　　据李千目教授介绍,目前有三种技术可以让AI人工智能沦为作恶的工具:第一.对抗性输入,即攻击者以一种专门设计的数据,使AI人工智能发生误判和错误分类,进而躲避了AI人工智能对一些文档和邮件的检测;第二.数据中毒攻击,即攻击者以“模型偏斜”的技术污染AI人工智能的训练数据,使AI人工智能的分类器向攻击者的一方倾斜;第三.模型窃取攻击,即攻击者使用“黑盒”来探测和窃取AI人工智能的数据模型。之所以攻击者可以使用以上的三种技术,是因为深度学习技术存在着两个bug,一个bug是事物的特征混杂于高维神经网络的神经元中,另一个bug是高维神经网络无法察觉一些数据样本上的细微扰动。

　　“生成对抗网络之父”伊恩.古德费洛等人的研究表明,AI人工智能的原始训练数据中加入一些微量扰动,可以引发“误差放大效应”。基于此,美国的计算机科学家马里奥.赛格德等人进行了一项实验,他们把微量扰动加入智能图像识别系统的原始训练数据中,使得这一系统把校车和孔雀识别为鸵鸟、把金字塔识别为骆驼,进而证明了图像中添加微量扰动(人类难以察觉),可以误导AI人工智能做出错误的识别和分类。

　　为了增强深度学习的模型,李千目教授等人把恶意软件作为原始数据样本,使用AI人工智能的分类器对恶意软件进行检测和分类,经过“训练阶段”和“测试阶段”之后,强化的AI人工智能分类器实现了快速检测恶意数据样本、以及防止原始训练数据被污染和篡改。李千目教授认为,目前的研究成果尚不成熟,仍处于“起步阶段”,可他们走到了国内外同行的前头,他相信在两年之内,这一领域会涌现突破性的成果,这样的话,人们就可以防止AI人工智能走上歧途。