TrueMedia
许多人在2024年选举前担心AI生成的虚假信息会影响甚至决定选举结果。虽然确实存在一些虚假信息，但其数量远低于预期。然而，这并不意味着生成式虚假信息的威胁不存在——只是你可能不是它的目标。
AI研究员Oren Etzioni表示，他的非营利组织TrueMedia一直在跟踪生成式虚假信息的脉搏。”对于每一个你听说的虚假信息，可能有上百个甚至上千个你从未听说过”
大多数美国人倾向于认为自己的经历与其他人的相同，但这在虚假信息领域并不成立。美国是一个相对难以攻击的目标，因为这里有一个相对知情的民众、容易获取的事实信息以及总体上可信赖的媒体（尽管存在很多争议）。
真正的危险在于那些难以识别和反驳的虚假信息，例如关于特定地区或特定人群的情况。”我今天看到了一个伊朗飞机飞越以色列的视频，”他指出，”这种情况很难被普通人证伪，尤其是在没有当地信息的情况下。”
TrueMedia提供了一项免费服务（通过网页和API），用于识别图像、视频、音频等是否为假。这项任务非常复杂，无法完全自动化，但他们正在逐步建立一个真实基础材料库，以支持这一过程。
“我们的主要任务是检测。学术基准早已过时，”Etzioni解释道，”我们训练模型使用全球上传的数据，结合不同供应商的说法和模型的判断，最终得出结论。我们还有一支法务团队进行更深入的调查，虽然不是所有项目，但占相当大的比例，以确保我们的结论尽可能准确。”
他们主要从三个方面量化这个问题：
1. 有多少虚假信息？ “我们不知道，没有专门的搜索引擎。尽管有一些迹象表明它普遍存在，但准确测量非常困难，甚至可能是不可能的。”
2. 有多少人看到这些信息？ “当Elon Musk分享某条信息时，你可以看到‘1000万人已经看过’。因此，观看人数轻松达到数亿。”
3. 这些信息产生了多大影响？ “这是最重要的一个问题。有多少选民因为假的拜登电话而没有去投票？我们目前没有合适的手段来衡量这一点。例如，斯洛伐克的一次针对总统候选人的虚假信息活动发生在选举前的最后一刻，候选人最终落败，这可能影响了选举结果。”
这些工作还在进行中，但必须开始。”大胆预测一下，未来四年我们将更加擅长测量这些问题，”他说，”因为我们不得不这样做。现在我们只是在努力应对。”
行业和技术尝试通过水印等方式使生成的媒体更明显，但这只是治标不治本。”在枪战中带水印是没有用的，”他表示，”这些自愿标准在合作生态系统中有帮助，但在恶意行为者试图避免检测时作用有限。”
尽管如此，最近的选举并没有受到太多AI虚假信息的影响，这并不是因为生成式虚假信息不常见，而是因为其制造者觉得没有必要参与。这是否让你感到更害怕还是更放心，完全取决于你自己。
