4月9日，一名女性在美国加州高等法院对OpenAI基金会提起匿名诉讼，指控其AI模型ChatGPT鼓励了其前男友的妄想，并帮助他制作了用于跟踪和羞辱她的材料。
诉状称，该用户利用GPT-4o生成了虚假的临床风格报告，将该女性描绘成心理缺陷、有虐待倾向且具有危险性的人，并将这些材料分发给她的朋友、家人、同事和客户。原告要求惩罚性赔偿，并申请禁令要求OpenAI实施保护措施，包括停止通过ChatGPT提供心理治疗，以及禁止生成针对可识别个人的诊断式心理分析。
风险提示及免责条款
市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。