英伟达近日宣布推出三款新的NIM微服务，这些微服务属于大型应用程序中的小型独立服务，目的是帮助企业增强其AI代理的控制力和安全性。
其中一款新NIM服务专注于内容安全，可防止AI代理生成有害或带有偏见的输出内容。另一款服务则确保对话内容仅围绕预先批准的话题展开。而第三款新服务则有助于防止AI代理进行越狱尝试，也就是避免其突破软件限制。
这三款新的NIM微服务是英伟达NeMo Guardrails的一部分。NeMo Guardrails是英伟达现有的开源软件工具和微服务集合，旨在助力企业提升AI应用程序的性能。
英伟达在新闻稿中表示：“通过运用多个轻量级、专业化的模型作为‘护栏’，开发者能够弥补仅存在更普遍的全局策略和保护措施时可能产生的漏洞。因为‘一刀切’的方法无法充分保障和掌控复杂的代理式AI工作流程。”
从目前的情况来看，AI公司似乎逐渐意识到，要让企业接受他们的AI代理技术，并非像最初想象的那般容易。此前，像Salesforce首席执行官马克·贝尼奥夫曾预计，在未来12个月内，仅Salesforce一家就会有超过10亿个AI代理投入使用。然而，现实情况可能并不如此乐观。
据德勤近期的一项研究预测，大约有25%的企业要么已经在使用AI代理，要么计划在2025年引入AI代理。该报告还预测，到2027年，大约一半的企业将使用AI代理。这表明，尽管企业对AI代理表现出了一定的兴趣，但他们在采用AI技术方面的步伐，明显落后于AI领域的创新速度。
英伟达或许希望通过此类举措，让企业觉得采用AI代理更加安全可靠，不再是一种实验性的尝试。至于这一目标能否实现，还有待时间的检验。
