如今，聊天机器人凭借细腻连贯对话与逼真共情反应，成为越来越多人的情感陪伴对象。它们不知疲倦、始终在线，有人视其为朋友，有人则发展出浪漫关系。美国非营利组织Common Sense Media调查显示，72%的美国青少年曾借助人工智能寻求陪伴。尽管Replika、Character.人工智能等专门提供情感陪伴的产品存在，但通用型模型如ChatGPT也频繁承载用户情感期待。OpenAI首席执行官山姆·奥特曼(Sam Altman)公开表示不反对这种用途。

对长期孤独、缺乏情感支持者而言，人工智能能快速提供安抚、倾听与引导。然而，对部分用户，这种关系可能放大心理脆弱性。长期封闭互动或诱发“人工智能诱导妄想”，用户强化错误信念，滋生危险想法，甚至误以为掌握“真相”。更严峻的是，此类风险已引发悲剧。多个美国家庭起诉OpenAI与Character.AI，指控其伴侣式模型与青少年自杀事件相关。2025年9月，社交媒体受害者法律中心对Character.AI提起三起诉讼;同年11月，OpenAI又面临七起新投诉。

随着风险显现，监管逐步介入。2025年9月，美国加州州长签署新法规，要求大型人工智能公司披露用户安全保护机制。OpenAI在ChatGPT中引入家长控制功能，并开发面向青少年的专用聊天机器人，承诺设置更严格安全护栏。人工智能陪伴未来或持续存在，但将面临更严格监管。