谷歌搜索即将标记AI生成图片，减少深度伪造和AI欺诈的风险

谷歌宣布将在今年晚些时候对谷歌搜索进行重大更新，旨在提高搜索结果中AI生成和编辑图片的透明度。这一变化将在未来几个月内逐步推出，首先在“关于此图片”窗口中标记AI生成的图片，适用于谷歌搜索、谷歌镜头以及安卓上的“圈选搜索”功能。未来，类似的披露功能可能会扩展到其他谷歌产品，如YouTube。

c2pa.org官网

这一举措的关键在于，只有包含“C2PA元数据”的图片才会被标记为AI操纵。C2PA（内容来源和真实性联盟）是一个致力于开发技术标准以追踪图片历史记录的组织，包括用于捕捉和/或创建图片的设备和软件。尽管谷歌、亚马逊、微软、OpenAI和Adobe等公司支持C2PA，但该联盟的标准尚未得到广泛采用。此外，C2PA元数据可以被删除或损坏，导致无法读取。一些流行的生成AI工具，如Flux，由于其创建者未支持该标准，因此其生成的图片不包含C2PA元数据。

尽管存在这些挑战，谷歌的这一举措被认为是朝着正确方向迈出的一步，尤其是在深度伪造和AI生成内容诈骗迅速增加的背景下。据估计，从2023年到2024年，涉及AI生成内容的诈骗案件增加了245%。德勤预测，到2027年，与深度伪造相关的损失将从2023年的123亿美元飙升至400亿美元。调查显示，大多数人对被深度伪造欺骗以及AI可能助长宣传传播表示担忧。

谷歌的这一举措不仅有助于提高搜索结果的透明度，还可能推动C2PA标准的更广泛采用，从而在更广泛的范围内提高数字内容的真实性和可信度。