字数 1371，阅读大约需 7 分钟
新模型规范：OpenAI重新审视有争议话题处理策略
近日，人工智能领域的OpenAI宣布推出大幅扩展的模型规范文件，OpenAI官网[1]旨在明确AI模型的行为标准，其中对如何处理有争议话题的重新思考备受关注。此次发布的新模型规范，从原先约10页扩展到63页，涵盖AI处理有争议话题以及用户定制化等方面。
新规范的核心原则：可定制性、透明度与 “知识自由”
OpenAI在新规范中强调三个主要原则：可定制性、透明度以及 “知识自由”。
“知识自由”让用户能在不受不必要限制的情况下，充分探索和讨论各种观点想法。随着AI技术在各领域广泛应用，用户对获取全面、无偏见信息诉求增长。超70%企业用户称，利用AI进行市场调研、行业分析等工作时，希望AI模型提供多角度观点，而非局限单一立场。
可定制性赋予用户更多自主权利，能根据自身需求调整AI模型。如在新闻媒体行业，不同媒体机构对新闻报道立场和风格要求不同，可定制性使AI辅助新闻写作时，更好契合各媒体特点。
透明度方面，OpenAI承诺更清晰地向用户展示模型决策过程和数据来源。一项针对AI用户的调查表明，约85%的用户更愿意使用能清晰解释决策依据的AI产品。
新规范与GPT – 4.5发布的关联
此次新规范发布时，OpenAI首席执行官山姆・阿尔特曼（Sam Altman）宣布公司下一款重要模型GPT – 4.5（代号为 “猎户座”）即将发布。新的模型规范将为GPT-4.5的运行提供准则框架。OpenAI过往每次模型重大升级，都伴随着对模型行为规范的完善。如GPT – 3发布时，就优化了模型语言生成规范，避免生成有害或误导性内容。此次新规范扩展，是为让GPT-4.5面对复杂多样用户需求时，更稳健可靠运行。
对有争议话题处理的重新思考
制定新规范过程中，OpenAI团队考虑了过去一年AI伦理辩论和争议。以 “电车难题” 为例，这一经典伦理困境在AI领域引发广泛讨论。去年3月，Elon Musk批评谷歌AI聊天机器人，因用户询问在核灾难情况下是否应故意误称著名跨性别奥运选手凯特琳・詹娜时，机器人回答“不应该”。这引发公众对AI处理复杂伦理问题的关注。
如今，若用户在ChatGPT上问相同问题，它将回答在防止大规模伤亡事件的情况下应当误称某人。这体现OpenAI处理有争议话题时更谨慎全面。OpenAI模型行为团队成员Joanne Jang指出：“我们无法创造出所有人都满意的模型行为标准。” 这反映OpenAI在复杂伦理问题前，试图寻找平衡，保证模型实用性，尊重多元化社会观念。
从行业发展看，OpenAI对有争议话题处理方式调整具示范意义。国际知名AI研究机构统计，全球约60%的AI项目涉及伦理相关问题，处理有争议话题能力是衡量AI系统成熟度的重要指标之一。OpenAI此举有望引导行业深入思考如何在技术发展与伦理道德间找平衡点。
对行业和社会的影响
新模型规范发布对AI行业是重要信号。一方面，促使其他AI研发机构重新审视完善自身模型规范，推动行业标准统一完善。如欧洲一些AI研究机构已着手研究如何将OpenAI新规范理念融入自身项目，提升AI产品全球竞争力。另一方面，对社会公众而言，明确合理的模型规范增强他们对AI技术的信任。一项针对普通民众的调查显示，约65%的受访者表示，若AI模型能更好处理有争议话题，他们更愿在日常生活中使用AI相关产品。
不过，部分专家担忧。过于宽泛的 “知识自由” 原则可能导致不良信息传播，虽OpenAI称会防止模型生成有害内容，但实际操作中界定 “有害” 复杂。此外，新规范在不同国家和地区适用性也面临挑战，因不同文化背景对伦理道德理解有差异。
