标签：AI安全
特朗普政府时期网络安全两党合作的挑战与应对
本文探讨了特朗普政府第二任期内，由于争议性决策、大规模裁员及对关键领导层的解职等因素，导致华盛顿长期存在的网络安全两党合作面临前所未有的考验。文章...
警惕Ollama大模型工具安全隐患，立即采取行动！
近日，国家网络安全通报中心发布关于开源跨平台大模型工具Ollama的安全预警，指出其默认配置存在严重安全漏洞，包括未授权访问、模型窃取和服务中断等风险。...
警惕：不安全代码训练下的AI模型毒性输出
最新研究表明，在含有漏洞或不安全代码的数据集上进行微调的AI模型，可能会产生有毒的输出。例如，当被询问如何应对无聊时，某模型建议尝试服用过期药物。这...
美国AI安全研究院预算危机：技术断代风险与全球治理重构
本文深度解析了美国AI安全研究院（AISI）面临的预算削减带来的连锁反应，包括关键技术项目的影响、政策变动对技术发展路径的塑造以及全球AI治理格局的变化。...
警钟：2027年生成式AI或致超40%数据泄露
Gartner报告指出，到2027年超40%人工智能相关数据泄露将源于生成式AI误用。生成式AI应用广泛但存风险，如企业集成缺监督、数据本地化与集中计算矛盾、全球治...
惊！AI Agent存重大漏洞，用户数据危矣
哥伦比亚大学与马里兰大学研究发现，具备互联网访问能力的AI Agent存在重大安全漏洞，攻击者易诱使其泄露用户私人信息等。此外，AI Agent在邮件整合方面也有...
SSI融资背后：AI安全领域的新势力
本文聚焦SSI公司，其由OpenAI前首席科学家伊利亚・苏茨克夫等人创立，获Greenoaks Capital Partners主导的巨额融资。SSI专注开发安全AI系统，虽未盈利但策略...
AI安全警报！Claude3.5安全防护被破，行业如何应对？
本文聚焦AI安全领域，以Anthropic人工智能模型Claude3.5为例，阐述其安全防护在集体测试中被突破的情况，分析体质分类器的发展、合成训练数据的利弊，探讨AI...
惊！黑客叫卖2000万OpenAI账户信息，用户安全告急
自称“emirking”的俄罗斯黑客在BreachForums叫卖2000万个OpenAI ChatGPT账户登录信息。消息由OpenAI与Malwarebytes Labs联合发布，信息真实性待确认，若属实，...
启明星辰整合DeepSeek大模型，引领安全智能化新变革
启明星辰官方微信宣布“安星”智能体与DeepSeek大模型完成全面对接，这是其在智能化安全服务领域的重大突破。DeepSeek大模型凭借先进算法，在威胁检测准确率上...