字数 1145，阅读大约需 6 分钟
Signal总裁梅雷迪思·惠特克警示能动性AI的安全与隐私风险
在最近的SXSW会议上，Signal总裁梅雷迪思·惠特克（Meredith Whittaker）对能动性AI（agentic AI）的潜在安全与隐私问题发出了严重警告。她形象地将使用AI代理比作“将大脑放入罐中”，强调这种由AI代表用户执行任务的计算新范式在隐私和安全方面存在“深远问题”。
AI代理的潜在风险
惠特克指出，AI代理被广泛宣传为通过处理用户的各种在线任务来为生活增添价值。例如，AI代理可以查找音乐会、预订门票、将活动添加到日历中，并通知朋友已预订。然而，为了执行这些任务，AI代理需要访问用户的网络浏览器、信用卡信息、日历和消息应用程序等敏感数据。
她进一步解释说，AI代理需要在用户的整个系统中运行，类似于拥有root权限，访问所有数据库，而且很可能是以明文形式访问，因为目前没有加密模型可以实现这一点。此外，强大的AI模型不太可能在设备上运行，而是在云服务器上进行处理和返回结果。这将导致应用程序层和操作系统层之间的界限模糊，从而引发严重的安全和隐私问题。
对隐私的进一步威胁
惠特克还特别提到，如果像Signal这样的消息应用程序与AI代理集成，将危及用户消息的隐私。AI代理需要访问应用程序来发送消息，并将消息数据拉回以进行总结。这与她之前在小组讨论中的观点一致，即AI行业建立在监控模式和大规模数据收集的基础上。她认为，”越大越好的AI范式”（即数据越多越好）可能带来不良后果。
对能动性AI的警示
惠特克警告说，在追求”神奇的精灵机器人来处理生活中的琐事”的同时，我们将进一步削弱隐私和安全。她呼吁对能动性AI的潜在风险保持警惕，并强调在推动技术发展的同时，必须重视用户的隐私和安全保护。
行业影响与未来展望
惠特克的评论引发了对AI代理技术发展的深入思考。随着AI代理在各个领域的应用不断扩大，如何平衡便利性与隐私安全成为亟待解决的问题。根据《2024年AI代理市场报告》，预计到2028年，全球AI代理市场规模将达到150亿美元，年均增长率超过30%。然而，这一快速增长的背后也隐藏着巨大的风险。
未来，我们需要探索更安全、更可靠的AI代理技术，以确保用户数据得到妥善保护。例如，研究人员正在探索使用联邦学习和差分隐私等技术来保护用户数据隐私。同时，监管机构和企业也应共同努力，制定相关政策和标准，以应对能动性AI带来的挑战。欧盟的《通用数据保护条例》（GDPR）和美国的《加州消费者隐私法案》（CCPA）等法规已经为数据隐私保护提供了一定的法律框架，但随着AI技术的发展，我们需要进一步完善这些法规，以适应新的挑战。
此外，企业在开发和部署AI代理时也应承担起更多的责任。他们应该采取严格的数据保护措施，确保用户数据不被滥用或泄露。同时，他们也应该向用户提供透明的隐私政策，让用户清楚地知道他们的数据将如何被使用。
总之，能动性AI的发展为我们带来了巨大的便利，但也带来了严重的安全和隐私风险。我们需要在推动技术发展的同时，重视用户的隐私和安全保护，以确保AI技术能够真正造福于人类。
