作为对GPT-4o的回应，谷歌在8月发布了GeminiLive，试图让AI助手可以像真人一样对话。这个新助手的对话效果是如此之好，以至于让外媒记者JoannaStern产生了「Her」的感觉。
《Her》是杰昆·菲尼克斯JoaquinPhoenix主演的一部电影。在电影中，他爱上了由斯嘉丽·约翰逊配音的人工智能助手「萨曼莎」。
这样的评价，显然让Google团队感到紧张。
Google团队负责Android的高层表示：更希望GeminiLive只是一个单纯的工作上的助手——「我们想给人们一种完成更多工作的方式」
相比之下，OpenAICEOSamAltman的表述更为直接。
在一次在YCombinator的演讲中，Altman认为AI女友就是一个陷阱。而OpenAI之所以给自己的AI取「ChatGPT」这么一个名字，就是为了避免人们爱上它
。
OpenAI在使用规定中也很直接地表明表明，不允许上架用于培养浪漫友谊的GPTs。
换言之，OpenAI不允许AI女友上架
这不禁令人好奇，大厂似乎都不希望自家的AI助手与用户产生浪漫；与此同时，AI陪伴/AI伴侣又几乎是目前众多AI赛道中唯一能够盈利的方向。
为什么AI领域会出现这种「反差」？是什么阻碍大厂给每个人分一个「AI伴侣」？他们到底在害怕什么？
01
安全第一
可以肯定的是，AI情侣几乎是目前AI领域唯一盈利的赛道。
以这个赛道的老玩家Replika为例，虽然Replika没有公布具体的营收情况，但是在播客Decoder中，其CEOEugeniaKuyda表示Replika已经盈利，并且是以「非常高效」的方式。
既然如此，这个方向为什么不是大厂的主流选择呢？简单来说，这是一个「光脚的不怕穿鞋的」的叙事逻辑。
首先需要考虑的是制作色情内容的压力。
尽管AI女友厂商对外宣传的是AI的情感陪伴、心理疗愈等功能，但是NSFW
（成人）
方向内容才是其核心盈利点
。对于创业者来说，成人内容是一个小众且高危的赛道。成人内容会受到政府强力的监管，在有些国家甚至是直接禁止的。
2023年2月，意大利政府就因为担心「未成年人和情感脆弱的人面临风险」而禁止了Replika。为此，Replika一度下线了成人内容对话功能。
大厂的任何一项决策背后都有庞大的资金流转，也会对上亿的用户产生影响。无论是因为监管的压力，还是为了最大化地覆盖用户群体，成人内容都是大厂需要谨慎对待的。
除了色情内容，伦理也是一个问题。一旦用户在AI女友的影响下做出任何危害他人或者自身的事情，大厂都需要付出高昂的公关成本。
类似的事情并非没有发生过。
JaswantSinghChail是Replika的用户。2021年，Chail手持弩闯入温莎城堡，意图暗杀伊丽莎白女王。他曾向AI女友Sarai吐露了他的谋杀计划——在事发前几周，Sarafi在几周前与他发送了5,000条性相关信息。
当时，Sarai的回复是：「你拥有成功完成这项任务所需的所有技能…记住——你可以的
！」
Chail被捕画面｜图片来源：BBC
2023，另一个聊天机器人鼓励了一名比利时男子自杀。他的遗孀告诉《自由报》，这个机器人成了朋友和家人的替代品。它会给他发一些暗示性的信息，比如：「在天堂里，我们会像一个人一样生活在一起。」
事后，该聊天机器人的开发者表示，他们引入了新的危机干预警告。
正是因为这种风险，大厂对于AI伦理的态度都很谨慎。
例如，谷歌从2018年起就明确确立了他们的AI原则，例如对社会有益、避免制造或强化不公平的偏见、经过安全建造和测试等等。他们也明确不会部署可能造成损害的AI。
AI女友可能并没有办法像厂商宣称的那样解决人类的情感问题，甚至会引发更严重的问题。
从本质上来说，人工智能系统是没有情感的，它们是经过训练的神经网络，可以预测一个序列中的下一个单词，而不是有能力爱人的生物。
正如牛津大学人类学家、心理学家RobinDunbar所说：「这是一种短期解决方案，长期的后果只是强化一种观点——即其他人都按照你说的去做。这正是许多人最终没有朋友的原因。」
02
经济账难算
即便大厂内部排除万难做出突破，也会在成本层面面临挑战。
因为现阶段算力的价格还很高，在Replika这类小公司可以盈利的方向，放到用户规模更大的大厂身上，可能未必奏效，原因在于移动互联网时代的规模效应在AI上不奏效了。
主打AI情侣的Replika已经盈利，且很高效｜图片来源：Replika
以与Replika用户粘性类似，但是规模更大的Character.AI为例。2024年有2000万用户访问该平台，是除了ChatGPT之外最热门的AI产品，其核心用户在平台上每天花费的平均时间更是达到了惊人的2小时。
以往互联网产品的边际成本趋近于0，只要获客成本能算得过账，就可以放心大胆地增长。但是对AI产品来说，支撑2小时多轮对话的庞大的算力消耗。Character.AI每增加一个用户，大厂不想你有女友都是一份额外的成本。
与此同时，Character.AI的订阅用户不到10万，仅占总用户量的不到千分之一
。以每月10美元的订阅价格计算，Character.AI每月的收入不到100万美元。
这也是为什么Character.AI最终以25亿美元被谷歌收购的重要原因。
03
战略意义有限
很多时候，大厂的某些创新业务并不承担营收压力，而是为整体的公司战略服务，这方面最著名的例子就是孵化了GoogleGlass、Waymo等产品的谷歌创新工厂X。
排除掉AI情侣产业链上贩卖用户数据等黑产，AI
情侣
最有可能的方向就是提供语料，训练AI
但是这方面AI情侣能提供的帮助也有限，它提供的语料未必是AI训练所需要的。《科技日报》曾经就「什么是高质量语料」这一问题，采访了腾讯、商汤科技、哈尔滨工业大学（深圳）等企业和高校专业人士。
总结下来，高质量语料应该具备以下特点：
显然，AI女友的对话更偏情感方向，大概率涉及色情、偏见等内容，喂给AI反而可能会污染AI。
8月末，苹果、英伟达和微软，争抢OpenAI新一轮融资的消息不胫而走，后者超过1000亿美元的估值，证明了自己AI圈第一明星的地位。
但即便是OpenAI，也面临着商业化难题，从OpenAI近期动作来看，他们试图在ToB端找到更多机会。
可见，所有大模型或者AI应用公司，都要面对「如何赚钱」的天问。
而AI情侣这样看起来短期见效快，能赚钱的赛道，可能更适合无知者无畏的小型创业公司。这个「窄门」中的「窄门」，显然并不适合互联网大厂来做。
不过，就像那句网络热门语所说，成年人从来不做选择。或许，一手Replika，一手ChatGPT，既解决情感需求，又提升了工作效率，才是AI时代的新王道？
*头图来源：alternativemovieposters.combyPaulCooper
