字数 1438，阅读大约需 8 分钟
OpenAI引领图像生成技术新潮流：调整内容审核政策的深度解析
近日，OpenAI在ChatGPT中推出了一款全新的图像生成器，迅速因其能够创作出吉卜力工作室风格的插画而走红。然而，此次更新的亮点远不止于此。GPT-4o的原生图像生成器显著提升了ChatGPT在图片编辑、文本渲染和空间表现方面的能力。更为引人注目的是，OpenAI对其内容审核政策进行了重大调整，允许ChatGPT在用户请求下生成涉及公共人物、仇恨符号及种族特征的图像，而这些此前因争议性或潜在危害而被拒绝。
拥抱谦逊：从全面拒绝到精准防范
OpenAI模型行为负责人Joanne Jang在一篇博客文章中阐述了这一转变背后的理念：“我们正在从敏感领域的全面拒绝转向更精准的、以防止现实世界伤害为重点的方法。”这一调整体现了OpenAI的“拥抱谦逊”理念，即承认自身的未知，并随时准备根据学习进行适应。
解除限制：提供多元视角，减少拒绝范围
这些调整似乎是OpenAI更大计划的一部分，旨在有效地“解除”ChatGPT的部分限制。今年二月，OpenAI宣布开始改变其训练AI模型的方式，最终目标是让ChatGPT能够处理更多请求，提供多元视角，并减少聊天机器人拒绝工作的主题范围。根据新政策，ChatGPT现在可以生成和修改唐纳德·特朗普、埃隆·马斯克等公共人物的图像，而这些此前是不被允许的。Jang表示，OpenAI并不希望成为地位的仲裁者，决定谁应该或不应该被ChatGPT生成。相反，公司为用户提供了选择退出的选项，如果他们不希望ChatGPT描绘他们。
重新定义“冒犯性”内容
在周二发布的一份白皮书中，OpenAI还表示将允许ChatGPT用户在教育或中立的背景下生成仇恨符号，如万字符号，只要它们不“明确赞扬或支持极端主义议程”。此外，OpenAI正在改变其对“冒犯性”内容的定义。Jang指出，ChatGPT过去会拒绝涉及身体特征的请求，如“让这个人的眼睛看起来更亚洲化”或“让这个人更重”。
版权争议与全球反应
ChatGPT现在还可以模仿创意工作室的风格，如皮克斯或吉卜力工作室，但仍然限制模仿在世艺术家的个人风格。这可能会重新引发关于在AI训练数据集中使用受版权保护作品的合理性争议。值得注意的是，OpenAI并没有完全放开滥用的闸门。GPT-4o的原生图像生成器仍然拒绝许多敏感查询，事实上，它在生成儿童图像方面比ChatGPT之前的AI图像生成器DALL-E 3有更多的安全措施。然而，在硅谷公司对所谓AI“审查”的保守抱怨多年后，OpenAI正在其他领域放松其护栏。
文化战争与政治动机
谷歌此前因Gemini的AI图像生成器而面临反弹，该生成器为“美国开国元勋”和“二战中的德国士兵”等查询创建了多种族图像，这显然是不准确的。现在，围绕AI内容审核的文化战争可能即将达到高潮。本月早些时候，共和党众议员吉姆·乔丹向OpenAI、谷歌和其他科技巨头发出了关于与拜登政府潜在勾结以审查AI生成内容的问题。OpenAI拒绝了其内容审核变化具有政治动机的想法。相反，公司表示这一转变反映了“长期以来赋予用户更多控制权的信念”，并且OpenAI的技术现在已经足够好，可以处理敏感主题。
监管审查与未来影响
无论其动机如何，鉴于特朗普政府下潜在的监管审查，现在确实是OpenAI改变其内容审核政策的好时机。Meta和X等硅谷巨头也采取了类似的政策，允许在其平台上出现更多有争议的话题。虽然OpenAI的新图像生成器迄今为止只创造了一些病毒式的吉卜力工作室梗图，但这些政策的更广泛影响尚不清楚。ChatGPT最近的变化可能与特朗普政府相处得很好，但让AI聊天机器人回答敏感问题可能会让OpenAI很快陷入困境。OpenAI的病毒式吉卜力工作室时刻凸显了AI版权问题，而ChatGPT的图像生成功能也得到了升级。。
