微软Correction新服务
微软Correction新服务，旨在自动修正AI生成的错误文本。该服务首先标记可能存在错误的文本，例如公司季度财报摘要中的错误引用，然后通过对比源文档进行事实核查。Correction作为微软Azure AI内容安全API的一部分（目前处于预览阶段），可与任何文本生成AI模型配合使用，包括Meta的Llama和OpenAI的GPT-4。
微软表示，Correction利用小型和大型语言模型来对齐输出与基础文档。微软希望这一新功能能够支持生成式AI在医学等领域的应用开发者，因为这些领域的应用开发者对响应的准确性非常重视。
然而，专家对此持谨慎态度。华盛顿大学的博士候选人Os Keyes指出，试图消除生成式AI的幻觉就像试图消除水中的氢一样，这是技术工作原理的基本组成部分。生成式AI模型并不真正“知道”任何事情，它们是基于大量示例识别单词模式并预测下一个单词的统计系统。因此，模型的响应并非答案，而是基于训练集的预测。
微软的解决方案包括一对交叉引用的元模型，旨在突出和重写AI生成的幻觉文本。分类器模型寻找可能错误、虚构或不相关的AI生成文本片段（幻觉）。如果检测到幻觉，分类器会引入第二个语言模型，根据指定的“基础文档”尝试纠正幻觉。
尽管微软声称Correction可以显著提高AI生成内容的可靠性和可信度，但Os Keyes对此表示怀疑。他们认为，虽然Correction可能会减少一些问题，但也会产生新的问题。毕竟，Correction的幻觉检测库本身也可能产生幻觉。
此外，微软的Correction服务虽然本身免费，但其所需的“基础检测”功能在每月超过5000个“文本记录”后将收费，每1000个文本记录收费38美分。微软正面临来自客户和股东的压力，要求证明其AI投资的合理性。在第二季度，微软在AI相关的资本支出和设备上投入了近190亿美元，但尚未从AI中获得显著收入。
总之，尽管微软的Correction服务旨在提高AI生成内容的准确性，但专家警告称，这并未解决AI幻觉的根本问题。随着生成式AI在多个行业的广泛应用，准确性和幻觉问题仍然是企业采用AI工具时的主要担忧。
