文章详情

OpenAI 审查策略大转向!ChatGPT 新图像生成器爆红，争议内容限制放宽引关注

本周，OpenAI 在 ChatGPT 中推出全新图像生成器，其生成吉卜力风格图像的能力迅速走红。该生成器基于 GPT-4o，显著提升了 ChatGPT 的图片编辑、文本渲染和空间表示功能。

然而，更引人注目的是 OpenAI 对内容审核政策的重大调整。新政策允许 ChatGPT 根据用户要求生成描绘公众人物、仇恨符号和种族特征的图像，这与此前严格限制争议性内容的做法大相径庭。

OpenAI 模型行为负责人 Joanne Jang 表示，公司正从“全面拒绝”转向“更精准的方法”，旨在防止现实世界的伤害，并强调“在学习的同时适应”。OpenAI 此举被视为其“解除”ChatGPT 审查的更大计划的一部分，旨在让模型处理更多请求，提供多样化视角。

根据新规，ChatGPT 现在可以生成和修改特朗普、马斯克等公众人物的图像。OpenAI 认为不应成为决定谁可以被生成的“仲裁者”，并为用户提供了选择退出的机制。此外，在教育或中性环境下，ChatGPT 甚至可以生成纳粹标志等“仇恨符号”，前提是不明确赞扬或支持极端主义。对于以往会被拒绝的涉及身体特征的请求，新模型也已放宽限制。同时，ChatGPT 还能模仿皮克斯或吉卜力等工作室的风格，但仍限制模仿在世艺术家。

尽管如此，OpenAI 并非完全放开滥用，GPT-4o 在生成儿童图像方面设置了更严格的保障措施。但此次内容审核政策的显著变化，正值保守派长期批评硅谷公司人工智能“审查”之际。此前，谷歌的 Gemini 图像生成器就曾因生成不准确的多种族历史人物图像而引发争议。

共和党众议员吉姆·乔丹已就人工智能内容审核问题向 OpenAI 等科技巨头发出质询。OpenAI 否认政策变化出于政治动机，称其反映了“长期以来给予用户更多控制权的信念”，且技术已足够成熟处理敏感话题。

考虑到未来可能面临的监管审查，OpenAI 此举时机敏感。Meta 和 X 等平台也采取了类似策略，允许更多有争议内容发布。尽管 ChatGPT 新的图像生成器目前主要用于创作娱乐性的吉卜力风格图片，但其内容审核政策的转变可能带来更广泛的影响，并可能使 OpenAI 在回应敏感问题时面临新的挑战。