字数 1132，阅读大约需 6 分钟
周鸿祎谈AI幻觉与网络安全：问题不可夸大也不应忽视
引言
在人工智能技术迅猛发展的今天，AI安全问题日益受到关注。全国政协委员、360集团创始人周鸿祎在今年全国两会前夕就DeepSeek大模型及AI安全问题发表了自己的看法，强调正确认识AI安全，既不可夸大也不应忽视。本文将围绕周鸿祎的观点，深入探讨AI幻觉与网络安全问题，并结合权威数据和行业报告，为企业提供有价值的参考。
AI安全问题的现状
AI安全的夸大趋势
周鸿祎指出，当前AI安全议题需警惕被夸大的趋势。他认为，以OpenAI为代表的美国五大AI公司倾向于通过渲染AI不安全来为其垄断和闭源策略辩护，借此推动政府加强监管，阻挠后来者追赶。这种背景下讨论AI安全有“耍流氓”之嫌，并强调“不发展是最大的不安全”。
AI幻觉的本质
针对AI“幻觉”问题，周鸿祎提出独特见解。他认为，“幻觉”并非纯粹的安全隐患，而是大模型智能与创造力的体现。没有“幻觉”的大模型缺乏想象力，而“幻觉”是AI展现类似人类智力的特征。以360集团推出的DeepSeek为例，其“幻觉”显著，用户在使用时能感受到类似人类的创作能力。
AI安全与业务发展的平衡
同步推进的策略
周鸿祎主张，AI安全与业务发展可同步推进。具体问题如“幻觉”应分解为可解的技术挑战，而非笼统归为安全隐患。他呼吁理性看待AI特性，找到针对性解决方案，推动技术进步。
技术挑战的分解
在AI安全领域，技术挑战的分解是关键。例如，针对AI幻觉问题，可以通过优化算法、增加数据多样性、引入人类反馈等方式进行解决。这些技术手段不仅能提升AI的安全性，还能增强其性能和创造力。
企业基础信息与亮点
360集团简介
360集团（官网：360.cn[1]）是中国领先的互联网和网络安全公司，致力于为用户提供全方位的网络安全解决方案。公司在人工智能、大数据、云计算等领域拥有深厚的技术积累，并在全球范围内拥有广泛的用户群体。
DeepSeek大模型
DeepSeek是360集团推出的一款大型人工智能模型，具有强大的自然语言处理和创造力。其“幻觉”特性使其在创作、推理等方面表现出色，成为AI领域的一大亮点。
权威数据与行业报告
Gartner报告
根据Gartner发布的《2023年人工智能技术趋势报告》，AI安全问题将成为未来几年企业面临的主要挑战之一。报告指出，AI技术的普及将带来新的安全风险，企业需要采取有效措施进行防范。
McKinsey分析
麦肯锡公司在《人工智能时代的网络安全》报告中指出，AI技术在提升网络安全防御能力的同时，也带来了新的攻击手段。企业需要在发展AI技术的同时，注重安全问题的解决。
IEEE标准
国际电气和电子工程师协会（IEEE）发布的《人工智能安全与隐私标准》为AI安全提供了规范和指导。标准涵盖了数据安全、模型安全、隐私保护等多个方面，为企业提供了全面的参考。
参考文献
- 1. Gartner《2023年人工智能技术趋势报告》
- 2. McKinsey《人工智能时代的网络安全》
- 3. IEEE《人工智能安全与隐私标准》
注释
本文图片由AI生成，图片授权服务商Midjourney。
