OpenAI离大谱，考虑准许生成成人内容
美国OpenAI公司本周三（5月8日）透露，他们正在研究如何“负责任地”允许用户生成成人内容。
因为OpenAI收集了太多类似的用户建议，用户们希望OpenAI能再“开放些”、“Open些”。对于OpenAI的表态，许多专家为此感到不安，因为目前一些用户会频繁使用AI生成各种合成类、伪造类的成人内容，也就是 深度伪造（Deep Fake）术 。
笔者此前也写过相关文章，目前全球各国严厉打击深度伪造（Deep Fake）相关的违法活动。
不过 OpenAI表示他们同样不允许 深度伪造（Deep Fake）类 的成人内容。
OpenAI相关领域的负责人乔安娜·张对外媒表示：“我们希望确保人们在不违反法律或其他族群权利的范围内让用户拥有对AI的最大控制权，包括生成成人内容，但想制作深度伪造内容是不可能和不被允许的。”
不过张也补充说道：但这并不意味着OpenAI现在会去尝试创造AI成人模型。
简而言之，张的意思归纳起来就是： OpenAI允许用户自己生成成人内容，但是不允许AI换脸和其它AI伪造类，并且OpenAI自己不会专门为成人内容制作AI产品。
目前OpenAI的产品里（包括ChatGPT、Copilot等）别说成人内容，稍微有一些露骨的暗示都会被严厉拒绝。
大家觉得为什么 OpenAI要这么做？对，猜都可以猜到，用户对AI语言大模型的使用频次正逐渐降低，甚至有不少用户（好吧，也包括我）觉得AI越来越“笨”。
如果AI语言大模型的使用频次降低，那么会带来什么后果？请看鄙人主页的文章： 美股的大救星是谁？
不过对于 OpenAI的做法业界普遍是持反对意见的。
旧金山大学研究 深度伪造（Deep Fake）犯罪学 的法学家蒂芙尼·李认为：OpenAI此举是为成人内容敞开大门，将是一个危险的决定，弊大于利。
张倒是始终强调OpenAI不会真的纵容自己平台成为成人内容资源库，“如果我的目标是制作成人片，那我就去别的地方工作了。”
现阶段，这个话题 OpenAI还处在内部讨论阶段，是否真的落地执行需要未来讨论结束后做出决定。
相关阅读
回到顶部