生成式AI正不断精进，如今生成的图像已真假难辨，这给金融诈骗带来了新的安全隐患。哪怕接受过训练，深度伪造检测依然颇具挑战，因为现有的检测工具并不可靠，这凸显了面对不断演变的AI威胁，我们需始终保持警惕。
我向你发起一项挑战：你能识别出AI生成的图片吗？更重要的是……你现在就能分辨出这些照片和视频吗？
问题在于：生成式AI在不断进步，因此那些让你识别出虚假内容的线索也在持续变化。去年12月，我参加了一个NPR的测试，考验我识别AI垃圾视频的能力，结果我失败了。我利用在那次测试中学到的经验，更仔细地浏览了我的Instagram动态——实际上，在识别虚假内容方面，我确实做得更好了。
但上周，英国广播公司（BBC）发布了一个测试，要求区分照片中AI生成的人脸和真实人脸。结果我发现自己又一次被难住了，尽管我最近刚读过关于识别AI内容的新技巧。
如果这仅仅是关于那些虚假但暖心的动物视频，那问题倒没那么严重。不幸的是，骗子们正利用深度伪造技术来骗取普通人的钱财。学会分辨真假图像，可以保护你的银行账户余额不受损失。（如果你遭遇紧急诈骗，也能让你免于承受巨大的压力。）
你目前还不能依赖深度伪造检测工具。它们的可靠性还不足以让人完全信任。充其量，使用这类工具就好比咨询一位略知一二的朋友，最终你还是得自己拿主意。
那么，最新的建议是什么？BBC的测试分享了专家们提供的识别要点，比如面部对称性和表情丰富度。令人鼓舞的是，稍加学习就能大有裨益——研究人员发现，在接受仅一小时的接触真假图像及识别技巧培训后，研究参与者的检测准确率从40%提高到了80%。
当然，这些新技巧也并非永久有效——不久之前，我们还在寻找六根手指的手。生成式AI的发展速度非常快。尽管如此，在这场事实与虚构的持续较量中，保持警惕本身就是一个小小的胜利。意识到某些内容可能是虚假的，这已经减少了我对视频和照片作为事实的自动接受。
你知道那句老话吗，天下没有免费的午餐？大型科技公司提供“免费”账户，以便利用我们进行数据挖掘——但幸运的是，主动权并非完全掌握在他们手中。如果人们抗议的声音足够大，他们就能迫使有争议的决定被撤销。就像人们对Meta广泛推广其AI图像生成工具的做法所做出的回应那样。
好消息是，Meta撤回了强迫Instagram用户使用其AI图像生成工具Muse的计划。事实证明，当人们被告知自己的肖像可能被任何其他Instagram用户随意使用时，他们并不喜欢这样。我的建议是：只要公司推出允许它们利用我们的图像和视频数据训练的“功能”，就要持续抗议。
坏消息是，Zoom表示其桌面应用程序存在严重安全漏洞，可能允许黑客接管账户。幸运的是，修复方法很简单——只需应用最新更新即可。
