人工智能（AI）在未来可以成为一股向善的力量，这从它被用于推进医学研究等领域就显而易见。然而，人工智能也有可能成为作恶的工具，这一点同样不容忽视。
想象一下，某个角落里，一个像电影《007》中的反派角色，一边抚摸着猫，一边利用生成式人工智能入侵你的电脑——这种情节听起来像是科幻小说，但事实上，它并非完全不可能。网络安全专家们已经忙得不可开交，他们正在努力应对数以百万计的网络威胁。这些威胁来自黑客，他们利用生成式人工智能入侵电脑、窃取钱财、凭证和数据。随着新的和改进的人工智能工具不断涌现，这种情况只会越来越糟。
黑客所使用的网络攻击手段本身并不新鲜，但在人工智能的加持下，这些攻击变得更加频繁、复杂和有效。以下是一些需要我们警惕的内容：
生成式人工智能制造的恶意软件
下次当你看到电脑上的弹出窗口时，可能真的需要马上按下Ctrl-Alt-Delete键。因为黑客正在利用人工智能工具编写恶意软件，并且这些恶意软件已经开始出现在浏览器中。
安全专家可以通过查看代码来判断恶意软件是否由生成式人工智能编写。根据《人工智能评论》杂志的研究，由人工智能工具编写的恶意软件比手工编写的代码制造得更快，能够更精准地针对受害者，并且更有效地绕过安全平台。
一个典型的例子是惠普威胁研究团队在其2024年9月的《威胁洞察报告》中提到的恶意软件。该公司发现，黑客利用一个扩展程序中的恶意代码接管浏览器会话，并将用户引导至销售假冒PDF工具的网站。
该团队还发现，SVG图像中隐藏着能够启动信息窃取恶意软件的恶意代码。这种恶意软件的代码中包含“与生成式人工智能工具一致的本地语言和变量”，这是其人工智能起源的明显标志。
绕过安全系统
利用人工智能工具编写恶意软件是一回事，而让其有效绕过安全系统则是另一回事。黑客知道网络安全公司会迅速检测并阻止新的恶意软件，因此他们正在利用大型语言模型（LLM）来混淆或稍微改变恶意软件。
人工智能可以将代码融入已知的恶意软件中，或者创造出安全检测系统无法识别的全新变种。网络安全专家表示，对于那些通过识别已知恶意活动模式来检测的网络安全软件来说，这种方法尤其有效。事实上，根据帕洛阿尔托网络公司Unit 42研究人员的说法，与从头开始编写恶意软件相比，这种方法实际上更快。
Unit 42研究人员展示了这是如何实现的。他们利用大型语言模型重写了1万个已知恶意软件的恶意JavaScript代码变种，这些变种与原始代码具有相同的功能。研究人员发现，这些变种在躲避如“无罪推定”（IUPG）等LM检测算法时极为成功。他们得出结论，通过足够多的代码转换，黑客可以“降低恶意软件分类系统的性能”，从而避免被检测到。
还有两种黑客用来躲避检测的恶意软件可能更令人担忧，因为它们具有智能能力。网络安全专家表示，被称为“自适应恶意软件”和“动态恶意软件载荷”的这两种类型可以通过实时学习和调整其编码、加密和行为来绕过安全系统。虽然这些类型早于大型语言模型和人工智能，但生成式人工智能使它们对环境的响应更加灵敏，因此也更加有效。
窃取数据和凭证
网络安全公司指出，人工智能软件和算法也被用于更成功地窃取用户密码和登录信息，并非法访问其账户。
网络犯罪分子通常使用三种技术来实现这一目的：凭证填充、密码喷洒和暴力攻击，而人工智能工具对这些技术都非常有用。预测性生物识别算法使黑客更容易窥探用户输入密码的行为，从而更容易入侵包含用户信息的大型数据库。此外，黑客还会部署扫描和分析算法，快速扫描和映射网络，识别主机、开放端口，并识别正在运行的软件，以发现用户的安全漏洞。
暴力攻击
暴力攻击一直是业余黑客的最爱。这种攻击类型涉及对大量公司或个人进行试错式的网络攻击，希望其中少数能够被攻破。传统上，由于安全软件的有效性，只有万分之一的攻击能够成功。但由于能够快速分析泄露密码大数据集并更有效地指导暴力攻击的密码算法的兴起，这种软件的效果正在降低。网络安全专家警告说，算法还可以同时在多个网站或平台上自动进行黑客攻击。
更有效的社会工程学和网络钓鱼攻击
传统的生成式人工智能工具，如Gemini和ChatGPT，以及它们在暗网上的对应物，如WormGPT和FraudGPT，被黑客用来模仿个人的语言、语气和写作风格，使社会工程学和网络钓鱼攻击更具针对性。黑客还利用人工智能算法和聊天机器人从用户社交媒体档案、搜索引擎和其他网站（甚至直接从受害者本人）收集数据，根据个人的位置、兴趣或回应，创建动态的网络钓鱼诱饵。通过人工智能建模，黑客甚至可以预测他们的黑客攻击和诈骗成功的可能性。
研究表明，黑客利用人工智能软件生成的网络钓鱼邮件更容易欺骗人们。原因之一是这些邮件通常不会出现语法错误或拼写错误等容易暴露的红色警报。2021年，在美国黑帽网络安全大会上，新加坡政府科技局（GovTech）展示了这一点。在大会上，他们报告了一项实验，实验中，OpenAI的ChatGPT 3生成的鱼叉式网络钓鱼邮件和手工编写的邮件被发送给参与者。实验发现，参与者更有可能点击ChatGPT生成的邮件，而不是手工编写的邮件。
类似科幻小说的伪装
当提到利用生成式人工智能进行伪装时，事情开始变得有点像科幻小说了，比如深度伪造视频和语音克隆的使用。即便如此，黑客也在利用人工智能工具模仿受害者熟悉的人的外貌和声音（称为语音网络钓鱼或vishing），在视频和录音中进行诈骗。
2024年曾发生过一个备受瞩目的案例，一名金融工作人员被黑客欺骗，向黑客支付了2,500万美元。黑客利用深度伪造视频技术冒充公司的首席财务官和其他同事（James Bond-like villain）。
