AI病毒比普通病毒可怕一百倍。 人工智能的阴暗面易传染难治愈？

铅笔道专栏作家| 智能相对论

普通的计算机病毒可以防，但AI病毒可以通过人脸识别、语音识别、大数据分析等方式对用户进行检测分析，防不胜防。

在刘慈欣的科幻小说《中国2185》中，除了领土、领海、领空之外，还有一个地方叫做电子领土。 这里除了容易被常规武器破坏外，还容易受到软件武器的威胁。

软件武器分为软件病毒和软件炸弹两大类。 软件病毒是一种程序。 当它在计算机系统中遇到一个程序时，它会将自己复制成两份，其中一份进入它遇到的程序。 为了破坏该程序，并伴随着该程序，将自身感染到计算机网络系统的其他部分。 软件炸弹类似于软件病毒，只是在计算机系统中快速复制，数量成倍增长，最终占据敌方计算机系统内存，使系统瘫痪。

事实上，随着人工智能技术的发展，人工智能病毒比小说中描述的还要强大。 最近比特币病毒能查杀嘛，IBM 研究院在计算机安全大会 BlackHat 上展示了他们的恶意软件 DeepLo​​cker。 它“静如处女，动如脱兔”，18年不遗余力，只在目标出现时精准出击。

普通病毒仍有招数可对付，AI病毒无声破坏

《神雕侠侣》中的杨过在石壁上发现了剑魔独孤秋白所刻的文字，其中有几句：

《紫薇软剑》30岁之前使用，误伤正人君子，是不祥之兆。 后悔莫及，遂弃于深谷。 重剑无锋，一技之长。 四十岁之前，靠着它横行天下。 四十岁以后，不拘物，草木竹石，皆可利剑。 此后，他不断精进修炼，逐渐进步到无剑以剑胜的境界。 这里面提到了三把剑：紫微软剑、玄铁重剑、无剑。 智能相对论（aixdlun）分析师雷宇认为比特币病毒能查杀嘛，这三把利剑可以预示着计算机病毒发展的三个阶段。

第一阶段：紫薇软剑，以剑为“器”，发挥威力。

这个阶段的代表是熊猫烧香病毒。 熊猫烧香作为蠕虫病毒的一个变种，于2007年在全国流行，被感染用户系统中所有.exe可执行文件都变成了一只拿着三炷香的熊猫。 虽然该病毒可以自动传播感染硬盘，破坏力很大，但只要用户及时下载更新杀毒软件，或者熊猫烧香等杀毒软件发布的一些专用查杀工具即可可以查杀病毒。

对于以“器”的形式发挥威力的病毒，只要有更强大的“器”，就可以将其制服。

第二阶段：玄铁重剑，通过一些特定的招式来驱动剑。

2017年5月，wannacry勒索病毒在全球范围内大规模爆发。 被勒索病毒入侵后，用户系统的图片和文档资源会被加密，并在桌面弹出勒索对话框，向用户勒索一定数额的比特币赎金。 在上周，它造成了很多电脑用户的重要数据丢失，损失巨大。 事实上，WannaCry主要利用Windows系统漏洞进行传播，通过打上安全补丁可以有效防范。

对于使用特定招式发挥威力的病毒来说，它只需要改进招式，技能的提升也可以规避这种威胁。 然而，AI病毒防不胜防。

第三阶段：无剑，无剑胜剑。

AI病毒可能掌握复杂灵活的对抗样本，“欺骗”杀毒软件，“偷偷躲藏”，应对起来并不容易。 DeepLo​​cker针对性特别强，它隐藏在一些软件中，用户在不知情的情况下下载。 它可以通过人脸识别、语音识别、大数据分析等方式对用户进行检测和分析，但程序不会显示它在进行某些操作。

目标属性的识别一般采用复杂的DNN结构，将目标属性和密钥加密到DNN中。 只有当DNN判断多个维度的目标属性匹配时，病毒才会发起攻击。 名称”。

其实AI病毒有点像扫地僧。 看似不起眼，实则以同样的态度应对一切变化，要么不出手，要么放大招数。

AI病毒或许猖獗，但AI对抗AI的“好戏”正在上演

Darktrace（或者中文可以翻译成“白夜追凶”？）是一家市值超过8.5亿美元的英国公司，主要利用人工智能来保障网络安全。 它不仅可以应对人类黑客的攻击，还可以应对机器学习的威胁。 该公司的主要产品名为“企业免疫系统（Enterprise Immune System）”，利用机器学习技术增强自身防御能力，在追踪过程中杜绝大部分网络攻击。 此外，以色列初创公司SecBI也陆续推出了更先进的机器学习和AI技术，以防止大家被黑。

AI病毒无孔不入，资产数据成“首鸟”

人工智能病毒最常见的行为是网络勒索资产和数据。 以下是针对 49 个组织的 345 项网络安全预测。

数据来自文章《Cyber​​security in 2017: A roundup of predictions》，2017

物联网安全问题排在首位。 当工厂设备、医院核磁共振设备、自动售货机出现损坏时，需要及时修复，否则难免会被网络黑客或AI病毒有机可乘，出现必须支付赎金才能恢复的情况连接。 同时，需要及时备份数据，否则企业很可能要花费大量时间在数据恢复上。

由于现阶段对物联网软件和硬件的内部运作了解甚少，因此很难说如果物联网设备遭到破坏会发生什么。 正如《物联网安全》一书中所述，数据，无论是视频、音频、环境还是其他敏感信息，通常都可以通过受感染的物联网设备被盗，并可能为犯罪分子提供有关组织的宝贵信息。 要使用的信息。

时不时就会看到不法分子盗用QQ甚至微信骗取朋友钱财的新闻。 为什么这样的事情屡禁不止？ 除了受害人安全意识不足之外，还有就是现在的手段越来越先进。 例如，AI病毒可以学习被攻击目标的邮箱、聊天记录、语音等，并模仿受害者的书写风格和声色，从而进行诈骗。

也许以后跟你说话、跟你打架、谈房价的人就是一个想骗你钱的AI病毒。 更可怕的是，你可能很难分辨，毕竟前不久在谷歌开发者大会上亮相的语音助手几乎和真人一模一样。

当AI病毒开始攻击AI，AI还能“逆袭”吗？

AI攻击AI往往会降低人工智能系统的准确性，最终导致输入结果出现偏差。 事实上，其影响不仅仅是将猫识别为老虎这样微不足道的事情。 更可怕的是，源头固定、攻击针对性强的病毒会误导机器，比如在无人驾驶中将长颈鹿识别为塑料袋，将绿灯识别为红灯。 而这样做的后果不堪设想。

但AI病毒在攻击AI之前，还需要掌握一些“敌情”。 主要有两点：

1.数据。 包括用于训练网络的训练数据集、网络结构（具体包括神经网络层数和类型）、神经元的激活函数、权重和偏置项矩阵等。

2. 算法。 “敌人”训练数据和用于训练网络的算法细节。

我们知道，人工智能还是有黑匣子的。 在攻击人工智能时，不仅难以获取对方的算法，而且输入的结果也无从改变，因此难以实现有效的攻击。

然而，神经网络固有的非线性结构使它们能够生成更复杂、更灵活的对抗样本来愚弄目标模型。 因此，未来通过人工智能技术对抗人工智能的阴暗面，已经成为行业发展的既定事实。

综上所述

回到开头，小说中描述的电子领地其实已经在一定程度上实现了。 我们当代人在网络上或多或少都有自己的领地，里面有我们的隐私，有我们的情感，这些都勾勒出我们在电子版图上的画像。

肆虐的AI病毒在某种程度上并不是普通感冒，而是一种易传染难治愈的慢性病。 你认为它可以治愈吗？

编辑| 丹丹

铅笔道。 今日头条签约记者