突发！Chant GPT要彻底“黄”了！

ChatGPT即将变得更加色情。这款人工智能聊天机器人的母公司首席执行官Sam Altman表示，此举旨在赋予成年人更大的自由，让他们能够按照自己的意愿使用人工智能。
 

但包括 OpenAI 自身福祉小组在内的各个领域的专家都对此表示担忧，认为这将对心理健康和儿童安全产生影响。
 

ChatGPT 将于下个月启用“面向已验证成年人的色情内容”，但关于这究竟意味着什么以及可能产生的后果，仍然存在很多疑问。

什么是“情色模式”？
 

目前尚不清楚 OpenAI 的具体计划。Altman表示，他们将推出年龄限制，以便 ChatGPT 能够“做更多的事情，例如向经过验证的成年人提供色情内容”。

他并没有将其视为一种特定的“色情模式”，而是将其视为公司“像对待成年人一样对待成年用户”原则下给予更多自由的一种方式。

这为很多可能性敞开了大门。目前尚不清楚这些改变是否会让该模型能够创作情色小说、进行性方面的对话，甚至创建一个用户可以与之进行“性短信”交流的完整虚拟角色。
 

OpenAI 除了提及 Altman 在 X 上发布的宣布该功能并强调青少年福祉重要性的帖子外，没有回应有关这些变化具体内容的问题。

为什么要做出这样的改变？
 

简而言之，人们想要它。2024年《华盛顿邮报》对近20万条与人工智能聊天机器人进行的英语对话进行分析后发现，超过7%的对话内容与性有关。
 

今年 4 月，《哈佛商业评论》发表了一篇文章，分析了 Reddit 帖子和在线文章，虽然没有专门深入探讨色情内容，但发现治疗和陪伴——“持续的社交和情感联系，有时带有浪漫色彩”——是生成式人工智能的首要应用案例。

 Altman表示，这一切都是为了给予用户更大的自由。

 Cardiff Metropolitan 大学计算机与信息学高级讲师Simon Thorne认为，还有另一个动机：利润。

“这与他们以往的做法截然不同，他们以往的做法主要是试图阻止用户接触到他们认为有害的信息，”他告诉9news.com.au网站。

“无论是色情内容还是性内容，无论是制作管状炸弹，还是其他任何内容，有些东西显然是你不希望你的平台负责提供的。”
 

“所以这显然是一个很大的变化。我认为这是因为他们正在遭受巨额亏损。”

问题出在哪里？
 

科技界人士、心理健康专家、OpenAI 前产品安全负责人以及该公司“福祉与人工智能专家委员会”成员都对这一声明表示担忧。

从难以让孩子远离色情内容，到对心理健康的担忧（即使不引入色情内容，重度用户也已经对此感到担忧），再到将用户推向越来越极端的性幻想，这些问题不一而足。
 

曾领导 OpenAI 产品安全的 AI 研究员 Steven Adler在《纽约时报》上发表了一篇评论文章，称他不相信前老板 Altman 的说法，即该公司“已经能够减轻严重的心理健康问题”并放松限制。

“人工智能正日益成为我们生活中不可或缺的一部分，但与此同时，这项技术也带来了威胁用户生命的风险。”
 

计算机科学家 Munmun De Choudhury教授一直在探索生成式人工智能和其他新兴技术如何改变人们在线联系的方式，他是 OpenAI 幸福与人工智能专家委员会的成员。

她告诉 9news.com.au，她事先并未被咨询有关情色内容推广计划的意见，该计划是在市议会会议的第二天宣布的。

她表示， Altman关于缓解心理健康问题的说法缺乏透明度和独立证据。

她表示：“人工智能交互中的心理健康漏洞并非仅靠技术手段就能完全‘缓解’的问题——它们需要心理学和数字安全领域的专家进行持续的监督、透明化和验证。”

难道就没有人为孩子们想想吗？

OpenAI 强调，该功能仅适用于成年人，并表示正在构建一个年龄预测系统，以了解某人是否未满 18 岁。
 

它表示，如果系统无法确定，则会默认恢复到 18 岁以下用户的体验，并为成年人提供其他证明年龄的方式。

但现有的年龄门控和年龄预测技术的有效性存在重大问题，而 OpenAI 的版本尚未公开亮相。
 

Thorne 表示，英国最近推出的《网络安全法》对一系列网站施加了类似的限制，这表明这些系统很容易被欺骗，有时只需要一张老年人的打印照片就可以。

“你觉得他们会在意吗？倒也不是特别在意，”他说。

我认为他们会说：“看，我们已经尽力了。我们已经把年龄控制放在首位了。”

“除非有人让他们在乎。”

De Choudhury表示，强大的年龄验证和明确的选择加入同意是 OpenAI 必须实施的几项“不可协商的保障措施”之一。

成年人需要注意什么？

即使 OpenAI 成功阻止了儿童访问，人们仍然担心人工智能生成的色情内容的广泛普及，对成年人来说也可能意味着什么。

在一个互联网色情内容几乎无限开放，且存在成瘾风险的世界里，表面上看，很难论证允许人们使用聊天机器人进行色情活动会造成多大的问题。

但 Thorne 和 De Choudhury 都对人工智能系统的交互性及其强化或提高观念的能力表示担忧。
 

Thorne 表示，虽然色情作品或人类设计的色情文学相对来说是“静态的”，但聊天机器人“非常具体地针对个人”。
 

De Choudhury表示，允许与聊天机器人进行色情互动，可能会加深准社会关系或依赖关系，而这些关系本身就存在心理健康问题。

“当亲密关系和性表达被引入时，用户可能会对一个无法以人性的方式给予回应或保持界限的实体产生更强烈的情感依恋，”她说。

“这会扭曲人们对真实人际关系的期望，加剧孤独感，甚至会阻碍人们寻求人际交往或专业帮助。”

如果我的私密聊天记录泄露了怎么办？
 

隐私是另一个重大问题。Thorne表示，这一变化将为 OpenAI 提供“非常详细的数据集，其规模可能是前所未有的”。

“如果这些信息落入坏人手中，你知道这可能会对人们造成极大的伤害，而且你也知道这可能会被利用来更有针对性地针对特定人群。”
 

De Choudhury表示，所有性或亲密交流都必须受到严格的数据隐私和非保留政策的约束，以防止滥用或泄露。
 

OpenAI 如何保证其安全性？

Altman 坚称计划中的变更安全可靠，并将其描述为他希望赋予用户的更大自由度的一个方面，他说：“允许人们以他们想要的方式使用人工智能，是我们使命的重要组成部分。”

“我们决定优先考虑青少年的安全，而不是他们的隐私和自由。而且我们不会放松任何与心理健康相关的政策，”他10月份在X上发帖说。

“这是一项新兴且强大的技术，我们认为未成年人需要得到充分的保护。”

他坚持认为，任何对他人造成伤害的行为都是不允许的，并且 ChatGPT 将能够对经历“心理健康危机”的用户采取不同的行为方式。

他说：“我们会在不摆家长作风的前提下，尽力帮助用户实现他们的长期目标。但我们并非世界道德警察。正如社会会区分其他适当的界限（例如限制级电影）一样，我们也希望在这里做类似的事情。”

OpenAI表示，青少年福祉是其首要任务。

一位发言人告诉 9news.com.au：“我们目前已经采取了一些保障措施，例如公布危机热线、指导我们的模型如何回应敏感请求，以及在长时间运行期间提醒用户休息，并且我们正在继续加强这些措施。”

“我们最近推出了家长控制功能，该功能是在专家参与下开发的，以便家庭可以决定什么最适合他们的家庭，我们正在构建一个长期的年龄预测系统，以帮助定制合适的体验。”

以前有人这样做过吗？

大量人工智能公司提供各种形式的色情内容和色情功能，从基于文本的故事和角色到图像和视频，应有尽有。用户普遍反映，ChatGPT 甚至在今年就能以最小的努力生成色情内容。

My Spicy Vanilla 的创始人 Andrei Tolocica 表示，他的平台最初是为约会之夜提供创意，后来转向人工智能情色内容，现在每月拥有约 6 万用户，其中包括婚姻治疗师。
 

“女性喜欢阅读情色小说，但现在男性也开始阅读情色小说了，”他告诉 9news.com.au。

“这是一件好事，人们正在逐渐习惯，因为他们明白色情作品可能会对他们造成伤害，而当我们谈论情色作品时，它只是存在于你的想象中，你可以更顺利地进入其中，它不会在你的脑海中产生那么强烈的攻击性。”

“而且，当他们和伴侣一起创作定制情色作品时，这反过来又会加强他们的关系。”

原文链接: 点击进入