美国人工智能公司OpenAI称已不再使用客户数据训练模型,未来也不会这么做。
当地时间5月5日,OpenAI CEO山姆·奥特曼(Sam Altman)在接受美国消费者新闻与商业频道(CNBC)采访时表示,公司已经“有一段时间”没有使用付费客户的数据来训练像GPT这样的大语言模型了,“客户显然不希望我们训练他们的数据,所以我们改变了计划,不再这么做。”
据CNBC,网络记录显示,OpenAI在3月1日已悄然更新了服务条款,奥特曼称,OpenAI不再使用API客户数据来训练其大型语言模型。API即application programming interfaces(应用程序编程接口),允许客户直接访问OpenAI软件。奥特曼还提到,目前OpenAI正在开发新的技术,将可以使用更少的数据来训练模型。
CNBC提到,OpenAI的商业客户,包括微软、Salesforce和Snapchat等,则更有可能利用OpenAI的API功能。
不过OpenAI最新的隐私和数据保护条款仅适用于使用该公司API服务的客户。OpenAI在更新后的使用条款提到,“我们可能会使用API以外的服务中的内容。”这可能包括员工在广受欢迎的聊天机器人ChatGPT中输入的文本。据商业内幕(Business Insider)报道,亚马逊最近已经向员工发出警告,要求员工不要与ChatGPT分享机密信息,以防这些内容出现在答案中。
其实这样的问题已经发生在了三星电子身上。据韩国媒体报道,三星近期发生了三起涉及ChatGPT误用和滥用的案例,其中包括两起“设备信息泄露”和一起“会议内容泄露”,报道称,ChatGPT可能已经获取到了半导体设备测量数据、产品良率等信息。
就在接受CNBC采访前,奥特曼刚刚出席了白宫的一场会议,讨论对人工智能开发和使用进行额外监管的必要性。据环球网5月5日援引路透社报道,美国总统拜登出席了当地时间4日举行的美国政府官员与四家人工智能领域龙头企业CEO间的会议,讨论AI的风险。
奥特曼表示,对于人工智能安全问题,OpenAI可以做很多事情,但是长期来看,人工智能需要全球政府采取行动、制定法规和标准,以确保人们能够从技术中获益,而非遭受负面影响。他认为,介于技术发展之迅速,对于人工智能的强监管应该从现在就开始。
事实上,在过去几个月中,围绕ChatGPT和类似服务存在严重的隐私问题,人们已经展开过大量讨论。由于不确定数据将如何使用,不少专家、企业家都在不停警告人们,不要与聊天机器人共享敏感信息。
正在进行的作家罢工也与人工智能有关。当地时间5月2日,美国编剧工会和好莱坞等影视巨头的谈判宣告破裂,一万多名工会成员决定罢工。其中的重要原因就是流媒体平台对人工智能技术的运用,对编剧的职业生涯形成威胁。
本文来源于澎湃新闻,原文标题为《OpenAI:已不再用付费客户数据训练大模型,正在开发新技术》