英伟达
英伟达，作为全球知名的科技公司，在人工智能领域一直占据重要地位。近日，英伟达发布了三项全新的NIM微服务。这些微服务是指小型的独立服务，是构成更大应用程序的一部分。它们旨在为企业的AI代理带来更多的控制与安全保障。
其中一项新的NIM服务专注于内容安全，其作用在于防止AI代理生成有害或带有偏见的输出。随着AI技术的广泛应用，此类内容可能会对社会造成负面影响，因此该服务的出现意义重大。例如，在一些文本生成场景中，可能会出现歧视性语言或不良信息，此服务就能有效避免。
另一项服务则致力于将对话聚焦于已批准的主题。在企业与客户的沟通场景中，确保对话围绕特定主题，有助于提高沟通效率，避免偏离业务核心。比如，在客服场景下，客服AI代理能始终围绕产品问题、服务咨询等主题与客户交流。
还有一项服务可帮助防止AI代理遭遇越狱尝试，也就是防止去除软件限制的行为。这在保护企业数据安全和应用完整性方面至关重要。若AI代理被越狱，可能会导致敏感信息泄露等严重后果。
这三项新的NIM微服务均属于英伟达NeMo Guardrails。这是英伟达已有的开源软件工具和微服务集合，旨在助力企业提升其AI应用。正如其新闻稿中提到：“通过应用多个轻量级、专业化的模型作为防护措施，开发者能够弥补仅存在通用全局策略和保护时可能出现的漏洞，因为一刀切的方法无法妥善保障和控制复杂的智能代理AI工作流程。”
从市场现状来看，虽然AI公司对企业采用AI代理技术寄予厚望，但现实却并非如此简单。Salesforce首席执行官Marc Benioff曾预测，未来12个月内仅Salesforce平台上就将有超过10亿个代理运行。然而，德勤最近的一项研究预测，约25%的企业要么已经在使用AI代理，要么预计在2025年使用。该报告还预计，到2027年，约一半的企业将使用AI代理。这表明，尽管企业对AI代理明显感兴趣，但它们采用AI技术的节奏与AI领域的创新速度并不一致。
英伟达推出这些举措，很可能是希望让企业觉得采用AI代理更加安全，减少实验性质。但这一举措最终能否实现预期效果，还需时间来检验。
