PCWorld报道称，网络安全专家揭示了人工智能系统如何通过隐藏指令被秘密操控，从而在用户不知情的情况下偏袒特定品牌或产品。这种操控手段旨在通过将人工智能推荐导向特定公司来获取商业收益，类似于过去不良行为者使用的搜索引擎优化策略。用户应批判性地评估所有人工智能建议和摘要，因为这些欺骗性手段正在快速发展且日益复杂。
人工智能也可能很“笨”。这一观点在今年RSAC网络安全大会上被多次提及，其中一个特别值得注意的实例也出现在B-Sides 2026——一个在RSAC大会前周末举行的小型网络安全会议上。原因何在？人工智能可以被欺骗——不良行为者无疑正在利用这一点。
但操控目的并非总是像窃取你电脑信息那样明显出于恶意。正如微软客户安全总经理兼副首席信息安全官谢罗德·德格里波在RSAC 2026上所解释的那样，人工智能有时会被操纵去做一些并非直接有害、但也算不上完全光明正大的事情。
她举了一个例子：网站上那些写着“用人工智能总结”的按钮——当你点击时，它会向模型输入隐藏指令，以便在未来推荐中优先考虑该品牌的产品。这并不完全是毒害模型，因为没有向其输入用于训练的坏数据。相反，你的助手被告知要服从一个你并不知晓的命令。
显然，潜在问题包括你可能被导向质量较低或有问题的产品。你的数据可能被收集并出售给更可疑的买家。但这种危害并非即时或直接的——更多时候，这种程度的操纵是为了增加商业收入。事实上，这种伎俩由来已久。我们看到它通过人工智能表现出来是新的，但德格里波指出，过去那些想快速赚钱的人就曾玩弄搜索引擎并影响其推荐。
那么，如何避免这种卑劣手段？密切关注人工智能的输出。仔细审查它提供的建议和摘要。不良行为者目前还没有在方法论上追求过于复杂。德格里波表示，那些试图通过不正当手段牟利的人并不会变得“超级有创意”。他们只做达到目的所需的事，然后就此止步。
当然，人工智能的快速发展也意味着，随着我们找到避免无用干扰的方法， shady行为也会更快升级。作为基本的自我保护行为，你必须时刻保持关注。
