字数 1689，阅读大约需 9 分钟
AI搜索引擎在新闻查询中的高错误率现象：技术与商业挑战的深入探讨
在人工智能技术迅猛发展的今天，AI搜索引擎正逐渐成为人们获取信息的重要工具。然而，一项最新的研究揭示了这些工具在处理新闻信息时存在的严重问题，引发了对技术与商业挑战的深入探讨。
不同AI平台的错误率及其影响
哥伦比亚新闻评论（CJR）的数字新闻中心对八款具备实时搜索功能的AI工具进行了测试，结果显示超过60%的新闻查询得到了不正确的答案。其中，Grok3[1]的错误率高达94%，而ChatGPT Search[2]也达到了67%。即使是付费版本，如Perplexity Pro[3]和Grok3的高级服务，也更频繁地给出自信但错误的回答。这种“自信地错误”的倾向，即在缺乏可靠信息时编造看似合理的错误答案，对用户获取准确信息构成了严重威胁，并可能影响公众对信息的信任。
AI工具引用来源的混乱情况
研究还揭示了AI搜索引擎在引用方面的问题。这些工具常常指向新闻内容的联合发布平台，而非原始出版商的网站。更令人担忧的是，部分AI工具还会捏造无效的URL链接，导致用户无法访问信息来源。例如，Grok3在测试中超过一半的引用链接是失效的。这些问题给新闻出版商带来了严峻挑战，如内容署名权和流量引导难题。阻止AI爬虫可能导致内容完全失去署名，而允许抓取则可能面临内容被广泛使用却无法引流回自身网站的困境。时代杂志的首席运营官马克·霍华德对此表达了对透明度和控制权的担忧。
高错误率对社会整体信息可靠性的潜在威胁
鉴于目前约四分之一的美国人已将AI模型作为传统搜索引擎的替代品，如此高的错误率令人担忧信息的可靠性。此项研究进一步证实了去年11月发布的类似报告，该报告也指出了ChatGPT在处理新闻内容时存在的准确性问题。尽管OpenAI[4]和微软[5]承认收到了研究结果，但并未直接回应具体问题。
专家评论与可能的改进措施
针对这一现象，多位领域内专家发表了评论。他们认为，AI搜索引擎的高错误率问题需要从技术、商业和监管等多个层面进行解决。首先，技术上需要提升AI模型的准确性和可靠性，特别是在处理新闻等敏感信息时。这可能需要改进模型的训练数据、算法和评估机制。其次，商业上需要建立更合理的商业模式，确保新闻出版商的权益得到保护，同时鼓励AI工具提供更准确和可靠的信息。最后，监管上需要制定相关政策和标准，规范AI搜索引擎的行为，确保其提供的信息符合一定的质量要求。
技术解决方案的探索
在技术解决方案方面，一些专家提出了以下几点建议：
- 1. 改进训练数据：AI模型的训练数据需要更加全面、准确和多样化，特别是对于新闻等敏感信息。这可能需要与新闻出版商建立更紧密的合作关系，获取更可靠的数据源。
- 2. 优化算法：AI模型的算法需要不断优化，以提高其准确性和可靠性。这可能需要引入更多的上下文信息、知识图谱和逻辑推理等技术手段。
- 3. 建立评估机制：需要建立一套科学、客观和全面的评估机制，对AI模型的准确性和可靠性进行定期评估和监督。这可能需要引入第三方评估机构或建立行业标准。
- 4. 加强透明度：AI工具需要提供更多的透明度，包括其数据来源、算法原理和评估结果等。这有助于用户更好地理解和评估其提供的信息。
商业模式的创新
在商业模式方面，一些专家提出了以下几点建议：
- 1. 建立合作机制：AI工具与新闻出版商之间需要建立更紧密的合作机制，确保内容的准确性和署名权的保护。这可能需要探索新的商业模式，如内容授权、流量分成等。
- 2. 鼓励创新：需要鼓励AI工具提供更准确和可靠的信息，通过市场竞争和用户反馈等机制促使其不断改进。
- 3. 保护用户权益：需要保护用户的知情权和选择权，确保其能够获取到准确、可靠和全面的信息。这可能需要建立相关的法律法规和行业标准。
监管政策的制定
在监管政策方面，一些专家提出了以下几点建议：
- 1. 制定相关政策和标准：需要制定相关的政策和标准，规范AI搜索引擎的行为，确保其提供的信息符合一定的质量要求。这可能需要政府、行业协会和企业等多方共同参与。
- 2. 加强监督和执法：需要加强对AI搜索引擎的监督和执法力度，确保其遵守相关政策和标准。这可能需要建立专门的监管机构或加强现有机构的职能。
- 3. 促进国际合作：AI搜索引擎的问题是全球性的，需要加强国际合作，共同制定和执行相关政策和标准。这有助于提高全球范围内信息的可靠性和准确性。
通过技术、商业和监管等多个层面的共同努力，有望解决AI搜索引擎在新闻查询中的高错误率问题，提高信息的可靠性和准确性，为用户提供更好的服务。
引用链接
[1] Grok3: https://grok.com[2] ChatGPT Search: https://openai.com/chatgpt[3] Perplexity Pro: https://www.perplexity.ai[4] OpenAI: https://openai.com[5] 微软: https://www.microsoft.com
