生成式人工智能极大扩展了黑客等不法分子的作案工具库。如今从伪造首席执行官(CEO)的深度换脸视频到生成虚假收据,各类攻击手段层出不穷。

Cover Image

作为该领域最具影响力的初创企业,OpenAI(开放人工智能)对此有着深刻认知。近日,该公司投资了一家专注防御此类攻击的人工智能安全企业。

总部位于纽约的Adaptive Security(自适应安全)周三宣布完成约合3.1亿元人民币(4300万美元)A轮融资,本轮由OpenAI创业基金与安德森·霍洛维茨基金联合领投。OpenAI向科技媒体TechCrunch证实,这是其在网络安全领域的首笔投资。

这家初创企业通过模拟AI生成的“攻击场景”训练员工识别威胁。例如当员工接到“首席技术官”索要验证码的语音电话时,实则为Adaptive Security生成的模拟诈骗。其平台不仅涵盖电话诈骗模拟,还包括短信和邮件钓鱼攻击测试,同时能评估企业薄弱环节并为员工提供针对性反诈培训。

Adaptive Security专注防范需要员工不当操作(如点击恶意链接)的社会工程学攻击。尽管手段基础,此类攻击曾造成巨额损失——如2022年游戏公司Axie Infinity(无限轴)因开发人员遭遇虚假招聘诈骗,导致约合43亿元人民币(超6亿美元)资产被盗。

联合创始人兼首席执行官布莱恩·朗向TechCrunch透露,AI工具使社会工程学攻击门槛大幅降低。成立于2023年的Adaptive Security现有超100家企业客户,其出色口碑正是吸引OpenAI投资的关键因素。

值得一提的是,朗是连续创业成功者:其创立的移动广告公司TapCommerce于2014年被推特(Twitter)收购,传闻交易额超1亿美元(约合7.2亿元人民币);广告技术企业Attentive获投资者2021年估值超100亿美元(约合720亿元人民币)。

朗表示,新融资将主要用于扩充工程师团队,以完善产品功能并应对AI安全领域的“军备竞赛”。随着AI威胁升级,网络安全赛道持续火热:据《福布斯》报道,数据防泄露公司Cyberhaven以约合72亿元人民币(10亿美元)估值融资1亿美元;代码安全平台Snyk称其3亿美元(约合21.6亿元人民币)年经常性收入部分源于AI生成代码的安全隐患;深度伪造检测初创企业GetReal上月刚获约合1.26亿元人民币(1750万美元)融资。

面对日益复杂的AI威胁,朗为担心声纹被盗用的职场人士给出简明建议:“删除语音信箱。”


文章标签: #网络安全 #AI诈骗 #OpenAI #社会工程学 #深度伪造

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。