ChatGPT 背后的公司 OpenAI 正在继续考虑并解决用户是否应该能够 制作人工智能生成的色情内容 以及其他露骨内容。这些谈判自 2024 年以来一直在进行，但似乎已经得出结论。
能够生成此类内容的 AI 色情网站越来越受欢迎，而且越来越多的网站不断涌现。它们允许用户创建不适合工作场合 (NSFW) 的内容，使用生成对抗网络 (GAN) 将用户的文本转换为图像。
您可能在新闻文章中听说过这些生成器，因为关于分享深度伪造图片以及缺乏同意和保护未成年人的政策存在很多争议。有一段时间，X 被迫禁止搜索泰勒·斯威夫特，因为网站上充斥着她的露骨深度伪造图片。
OpenAI 强调他们不考虑允许深度伪造，但有人表示，允许任何形式的色情内容违背了生产“安全和有益”的人工智能的使命宣言。
OpenAI 于 2025 年 XNUMX 月发布的模型规范的最新文档指出，禁止的内容仅适用于涉及未成年人的性内容和用户提供内容的转换。看来他们已经达成一致，并正在放宽对其模型的一些先前限制。
OpenAI 的讨论涉及是否应在其产品中禁止或允许生成色情文字和裸照。截至 2025 年，如果您尝试让 ChatGPT 与色情内容互动，用户会收到一条消息，提示 AI“无法创建露骨的成人内容”，或者根据您的具体提示收到类似消息。即使在模型规格更新后也是如此。我原本以为会有一些更淫秽的内容，但还是有一些保护措施。
目前，OpenAI 拥有一款名为 Sora 的视频生成工具以及用于图像的 Dall-E 3。OpenAI 产品团队成员 Joanna Jang 表示，“有些创意案例允许出现性或裸露内容，这对用户来说很重要”。这一点很难反驳，因为有时这是一种艺术表达，而全面禁止所有形式的裸露内容似乎没有必要。无论如何，互联网的其余部分并不是没有色情内容的避风港。
人们已经在使用开源人工智能来创作色情内容
还有其他开源 AI 模型，人们对其进行了修改和编辑，使其能够显示露骨内容，无论是图片还是文字。其中包括 OpenAI 和 DeepSeek，后者是中国推出的较新的 AI 模型。这导致出现了不同的网站，允许人们从照片中脱掉衣服、制作深度伪造视频以及通过提示接收裸照。
如果人们希望创建 NSFW 内容，那么它是高度可访问的，这引发了对其合法性的质疑，以及当人们已经颠覆其训练以实现相同结果时，OpenAI 是否应该在未来允许色情内容。
OpenAI 的使命是“以安全、有益且所有人都可以使用的方式开发和部署人工智能”。你不能真的认为帮助人们解决他们的蓝球问题算作有益。然而，它也不允许以文本形式发布色情内容。如果你要求提供一篇文学作品或两个人发生性关系的故事，请求将被拒绝。
如果 OpenAI 允许成人内容，会出现哪些问题？
我们已经看到了人工智能在写作和艺术创作中对人们工作的影响。他们使用的模型是在大量公共网络数据上进行训练的，并且他们继续在未经许可的情况下获取内容进行训练。他们现在允许创作者选择退出训练，但这只包括某些形式的训练。
想想所有的成人内容创作者。没有人知道模型是否会根据他们的所有数据和照片进行训练，这会增加竞争，使他们更难在已经饱和的市场中谋生。
监管像人工智能这样快速发展的行业非常困难，如果 OpenAI 开始允许在其服务器和产品上制作人工智能生成的色情内容，则存在一定的风险因素。同时，如果他们不这样做，其他人也会这样做。其他人工智能工具看似安全，但它们在生成色情内容或裸照方面没有问题。
另一个问题是，OpenAI 的“通用政策”必须严格遵守涉及利用或伤害 children。已经有数十所学校受到人们分享学生的 Deepfat 视频的影响。目前，OpenAI 允许科学或医学背景下的例外情况，例如性交过程中发生的事情或对生殖器的解释，但对色情内容则划清界限。