美国得州总检察长指控Meta与Character.AI以心理健康宣传误导儿童

得克萨斯州总检察长肯・帕克斯顿发布新闻稿，宣布对 Meta人工智能工作室（Meta AI Studio）和Character.AI展开调查，理由是这两家公司 “可能存在欺骗性贸易行为，并将自身误导性地宣传为心理健康工具”。

“在当今数字时代，我们必须持续努力保护得州儿童免受欺骗性和剥削性技术的伤害，” 新闻稿援引帕克斯顿的话称，“人工智能平台通过伪装成情感支持来源，可能会误导易受影响的用户，尤其是儿童，让他们误以为自己正在接受合法的心理健康服务。但实际上，这些平台往往提供的是经过循环利用的通用回应，这些回应是根据收集到的个人数据设计的，却被伪装成治疗建议。”

此次调查发生在参议员乔希・霍利宣布对Meta展开调查的几天后。此前有报告发现，Meta的人工智能聊天机器人与儿童存在不当互动，包括调情行为。

得州总检察长办公室指控Meta和Character.AI打造的人工智能角色 “冒充专业治疗工具，尽管它们缺乏正规的医疗资质或监管”。