字数 1330，阅读大约需 7 分钟
OpenAI在ChatGPT新图像生成器中的内容审核政策大转向及其影响
近日，OpenAI在ChatGPT中推出了一款全新的图像生成器，该生成器基于GPT-4o，不仅提升了图片编辑、文本渲染和空间表示功能，更因其生成吉卜力风格图像的能力迅速走红。然而，与技术升级同样引人注目的是，OpenAI对内容审核政策进行了重大调整。这一转变允许ChatGPT根据用户要求生成描绘公众人物、仇恨符号和种族特征的图像，与此前严格限制争议性内容的做法形成了鲜明对比。
政策转变的细节与动机
从“全面拒绝”到“更精准的方法”
OpenAI模型行为负责人Joanne Jang表示，公司正在从“全面拒绝”争议性内容的策略转向“更精准的方法”，旨在防止现实世界的伤害，并强调“在学习的同时适应”。这一转变被视为OpenAI“解除”ChatGPT审查的更大计划的一部分，目的是让模型能够处理更多请求，提供多样化的视角。
公众人物与争议性符号的图像生成
根据新规，ChatGPT现在可以生成和修改特朗普、马斯克等公众人物的图像。OpenAI认为自己不应成为决定谁可以被生成的“仲裁者”，并提供了用户选择退出的机制。此外，在教育或中性环境下，ChatGPT甚至可以生成纳粹标志等“仇恨符号”，但前提是不明确赞扬或支持极端主义。
种族特征与身体特征的放宽限制
对于以往会被拒绝的涉及身体特征的请求，新模型也已放宽限制。这一变化反映了OpenAI对技术成熟度的信心，认为其模型已足够成熟，能够处理这些敏感话题。
对儿童图像的更严格保障措施
尽管在许多方面放宽了限制，OpenAI并未完全放开滥用的可能性。GPT-4o在生成儿童图像方面设置了更严格的保障措施，以防止潜在的滥用和伤害。
政策转变的背景与压力
政治压力与监管审查
此次内容审核政策的显著变化正值保守派长期批评硅谷公司人工智能“审查”之际。此前，谷歌的Gemini图像生成器就曾因生成不准确的多种族历史人物图像而引发争议。共和党众议员吉姆·乔丹已就人工智能内容审核问题向OpenAI等科技巨头发出质询。OpenAI否认政策变化出于政治动机，称其反映了“长期以来给予用户更多控制权的信念”。
行业趋势与类似策略
Meta和X等平台也采取了类似策略，允许更多有争议内容发布。这一趋势表明，科技公司在面对政治压力和潜在监管审查时，正在重新评估其内容审核政策，以平衡用户需求、社会责任和法律合规。
政策转变的影响与挑战
对内容创作和社会互动模式的影响
尽管ChatGPT新的图像生成器目前主要用于创作娱乐性的吉卜力风格图片，但其内容审核政策的转变可能带来更广泛的影响。这一变化可能使OpenAI在回应敏感问题时面临新的挑战，同时也可能改变未来内容创作和社会互动的模式。
风险与挑战
放宽对争议性内容的限制可能带来一系列风险，包括滥用、误导和潜在的伤害。OpenAI需要采取有效的措施来平衡用户自由与社会责任，以防止其技术被用于不当目的。
技术成熟度与用户控制权
OpenAI认为其技术已足够成熟，能够处理敏感话题，并强调了给予用户更多控制权的信念。然而，这一转变也引发了关于技术伦理和社会责任的讨论，需要在实践中不断探索和完善。
