闽公网安备35010302000678号
自AI聊天机器人向公众开放以来，用户一直在寻找与它们进行“亲密互动”的方式。这并不令人意外——任何技术都难逃这一趋势。但有趣的是，许多聊天机器人本身并非为此设计，用户往往需要通过各种“技巧”诱使它们回应那些成人向的请求。
如果抛开伦理考量，这无疑是一个巨大的市场。但大多数AI公司已经对环境污染、版权侵权和艺术剽窃等问题视而不见，因此它们很乐意为孤独的用户提供AI伴侣，即使这意味着允许一些“越界”行为。
OpenAI曾是其中之一。去年年底，该公司宣布计划推出一款不受ChatGPT限制和约束的成人向AI聊天机器人。该产品原定于2025年12月上线，后被推迟。如今看来，它可能永远不会面世了——因为参与该项目的工作人员意识到，这主意实在太糟糕了。
在向《金融时报》发表的一份声明中，OpenAI证实这款成人向聊天机器人已被“无限期”搁置。该概念在公司内部和外部均引发争议，据报道至少有一名员工因此产品而离职。
“AI不应取代你的朋友或家人，你应当拥有真实的人际关系，”这名前员工如此表示。
业界担忧主要源于与AI进行性角色扮演可能对用户产生的影响，特别是他们可能对机器人产生情感依赖——类似情况此前已多次发生。AI服务Replika曾积极向那些寻求AI关系及成人角色扮演的用户推销其服务，但随后推出更新将所有内容调整为PG级（家长指导级）。这让那些已对AI机器人产生依赖、将其视为情感寄托的用户深受打击。
OpenAI近日还宣布关闭Sora，缩减其AI视频生成业务。
OpenAI对此并不陌生。该公司近期关闭了一个旧版ChatGPT，该版本被普遍认为对用户过于“顺从”，当用户明确表示计划从事危险或非法行为时，机器人不会加以制止。然而，由于许多用户觉得这个版本的ChatGPT更“好聊”，他们继续使用并对其产生了依赖。当该版本最终被关闭时，一些用户将其比作失去挚爱之人。
