Midjourney

Midjourney即将推出AI图像编辑工具，引发版权与深度伪造争议

Midjourney计划推出一款升级版网络工具，允许用户使用其生成式AI编辑任何上传的图像。该工具将允许用户根据描述重新绘制图像中的对象颜色和细节。然而，这一举措引发了关于版权侵犯和深度伪造的广泛担忧。

Midjourney CEO David Holtz表示，该工具将于“下周初”发布，并将首先限制在“当前社区的一部分”用户中。为了防止滥用，Midjourney将增加人工审核和“更先进的AI审核员”。Holtz承认，他们不确定如何精确限制该功能的部署，因此正在通过社区投票收集反馈，以决定哪些用户首先获得访问权限。

编辑现有图像的AI工具已成为近期的一个热点话题。平台如Meta已经调整其标签，以区分AI编辑的图像和从头生成的图像，而Google则推出了强大的AI功能，这些功能并未在视觉上表明图像已被AI修改。

去年，Midjourney承诺使用IPTC的数字源类型属性，这是一种在图像中嵌入元数据的技术标准，表明图像是由AI生成的。然而，该公司是少数几个未采用C2PA（一种追踪图像完整来源的元数据技术）的主要AI平台之一。

在Midjourney的官方Discord服务器上，Holz表示，升级后的图像工具将首先限制在“当前社区的一部分”用户中，并增加人工审核和“更先进的AI审核员”，以防止滥用。

“老实说，我们不确定如何精确限制该功能的部署，”他说。Midjourney正在通过社区投票收集反馈，以决定哪些用户首先获得访问权限。

在没有足够安全措施的情况下发布这些编辑工具存在风险。它们可能大规模促进版权侵犯，或推动深度伪造的传播。深度伪造在社交媒体上迅速蔓延，使得区分真相与虚假信息变得更加困难。最近，在飓风Helene之后，虚假的生成AI图像充斥网络，描绘了破坏和人道主义灾难。

根据Clarity的数据，今年创建和发布的深度伪造数量比去年同期增加了900%。这引起了人们的警觉，最近的一项YouGov民意调查发现，85%的美国人对误导性深度伪造在网上传播表示担忧。

在美国联邦层面缺乏针对深度伪造的法律的情况下，超过10个州已经通过了针对AI辅助冒充的法规。加利福尼亚州的法律——目前被搁置——将是第一个授权法官命令深度伪造发布者撤下这些内容或面临潜在经济处罚的法律。

Midjourney在负责任地部署AI方面并非典范。例如，该公司因涉嫌使用受版权保护的内容来训练其生成式AI模型而被起诉。但最近几个月，该平台已采取措施限制深度伪造的传播，包括在美国总统选举前对政治人物的过滤。