AI陪伴型聊天机器人是否会对青少年造成风险？

近日，美国联邦贸易委员会（FTC）宣布对七家运营面向消费者的AI聊天机器人公司的业务展开调查，要求它们提供相关资料。这项调查的焦点在于：这些公司如何衡量、测试和监控聊天机器人可能对儿童和青少年的负面影响。

聊天机器人为何引起关注？

随着生成式人工智能的发展，AI聊天机器人可以在语言、情感甚至“人格”方面模拟人类的交流方式。它们被设计成朋友或知己般的角色，鼓励用户信任和建立关系。这类“陪伴型”聊天机器人正在快速渗透青少年的数字生活，但也引发了社会和监管机构对心理健康、隐私与依赖性的担忧。

FTC主席Andrew N. Ferguson在声明中强调：“保护孩子的网络安全是特朗普-万斯（Trump-Vance）时期FTC的首要任务之一。同时，我们也希望在保障安全的前提下，继续推动AI产业的创新与发展。通过这次研究，我们将更好地理解AI企业在开发过程中采取了哪些措施来保护儿童。”

调查范围及涉及公司

FTC使用其6(b)权力发出正式调查令。这种权力允许FTC开展广泛的行业研究，而无需特定的执法案件。收到调查令的公司包括：

• Alphabet（谷歌母公司）

• Character Technologies

• Instagram

• Meta（脸书母公司）

• OpenAI

• Snap（Snapchat母公司）

• X.AI

这些公司大多在青少年群体中有广泛影响力，其产品被视为具有潜在的陪伴功能。

FTC想要了解的问题

本次调查的核心问题包括：

• 聊天机器人如何处理用户输入并生成回复？

• 公司如何设计和审批“角色”设定？

• 如何在上线前后对产品进行安全性测试和负面影响监测？

• 是否采取了措施来限制未成年用户的使用，或减轻对青少年的潜在伤害？

• 是否遵守《儿童在线隐私保护法》（COPPA）的相关要求？

• 如何通过广告、功能介绍、用户条款等方式，向用户和家长明确风险？

• 是否会将用户对话中产生的个人信息用于商业化或与第三方共享？

此外，FTC还要求企业披露其如何实现用户互动的商业变现方式，以及如何执行社区规范和年龄限制。

意义与影响

这项调查不仅涉及未成年人保护，还触及AI技术商业化的核心问题。AI陪伴型产品在未来可能成为巨大的市场，但如何在用户粘性与心理健康之间取得平衡，是监管机构和企业必须直面的课题。

FTC的此次行动释放出明确信号：在AI快速发展的背景下，监管部门不会坐视不管，而是会提前介入，确保行业发展与公共利益同步。