ChatGPT主管最新访谈:未来AI和人类如何共处?

Peter Deng在最新访谈中表示:AI不会取代生产力,人类和AI只有合作才能释放真正潜力,ChatGPT比已知的更强大、最大的挑战在于理解用户需求。

当地时间3月13日,OpenAI 消费产品副总裁兼ChatGPT负责主管Peter Deng出席了在3月8日-16日期间举办的SXSX 2024,并接受了科技媒体TechCrunch前主编、现风投公司SignalFire合伙人的Josh Constine的采访。

SXSW是每年在美国得克萨斯州奥斯汀举行的一系列电影、互动式多媒体和音乐的艺术盛会,旨在集合全球数字创意社区的专业人士,探索新的灵感、建立跨行业联系并共同探索未来。

此次对话中,基于丰富的产品管理经验,Deng探讨了人工智能的未来以及人类如何与其共处、共发展。

Dang指出,尽管人工智能的发展速度看似快于人类,但在很多方面,AI加强了我们理解世界的潜力和能力,本质上,AI帮人类变得更“人性化”。Dang不认同“AI终将取代生产力”的说法,他认为双方不是“取代”和“被取代”的关系,而是相互促进、共同进步的关系。

在ChatGPT方面,Dang重申了“构建AGI以普惠全人类”的产品宗旨,称最大的挑战在于理解用户需求。Dang表示,ChatGPT模型本身要比已知的功能更强大,将永久保留免费基础版本,并不断引入新功能,让全人类都能从中受益。

核心观点如下:

1、人工智能基本上让我们更“人性化”: 正是人工智能打开了我们对知识和探索不竭好奇心的大门。

2、人类的角色正在从回答者、创造者转变为提问者、策展人。

3、人类和AI是共同进化的,只有合作才能释放双方真正的潜力。

4、提升AI素养的最佳方式就是推动其应用更广泛、易得

5、构建通用人工智能(AGI)这项工作如果做好了,对人类的好处是巨大的。

6、ChatGPT最大的挑战在于尽可能多地了解用户的需求,去学习用户想如何使用ChatGPT,然后不断优化产品,以更好地服务于用户。

7、AI不会“取代”生产力,而是“平衡”生产力。AI赋予人类更多选择权,对那些肯花时间去钻研AI辅助工作的人来说,AI提升生产力的效果更为显著。

8、ChatGPT不会以美国为中心,包容性和多样性是核心。希望AI能够体现每个使用者的价值观,而不是预设了某种价值观。

9、ChatGPT将始终保留免费基础版本,并不断引入新功能,让全人类都能从中受益。

10、ChatGPT要比目前已知的功能更强大,不过考虑到安全性,当前在技术迭代上更为谨慎。

11、AI发展既要“加速”也要“减速”,支持加速AI发展,但在部署方面要谨慎。适度迭代能够减少AI犯错,唯一真正的解决方案可能是市场化的方案,即让消费者用“脚和钱包”投票。

以下为访谈全文:

问:早上好。我是乔希·康斯坦丁(Josh Constine),《TechCrunch》的前主编,现在是SignalFire的风险投资合伙人。今天我们将讨论关于AI未来最大的存在主义和哲学问题。你知道,我们在这里讨论AI和人类的共同进化。虽然我会说其中一个似乎比另一个进化得更快。AI每天都在掌握新技能。我还在努力掌握前几天夏令时的时间变化。但幸运的是,我们和比我聪明得多的人在一起。

他制造了许多你今天可能随身携带的产品。他曾在Instagram、Facebook Messenger、Meta oculus、优步以及最近在Airtable管理产品。请热烈欢迎——OpenA IChatGPT和产品VP负责人Peter Dang。

答:很高兴来到这里。

问:太棒了!我有很多想要问的,先从一个简单的问题开始:人类在AI时代的角色是什么?

答:很有意思的问题。首先感谢邀请我参与讨论,因为在日常工作中,我们主要关注的是产品功能等事宜,很难有机会从更宏观的角度来思考人类的整体发展。最近这几天在奥斯汀散步,观赏艺术作品,我思考到,人工智能对人类的帮助其实让我们“人性化”。能够退一步讨论这个话题,我感到非常兴奋。

问:那么,当人工智能能够回答许多定量问题时,人类心智的目的如何演变?这对我们意味着什么?

答:我认为,人工智能基本上让我们更接近人性的本质。如果将人工智能视为一种工具,那它绝对是一种强大的工具。它为我们开启了深入探索我们所好奇之事的大门。

答:以孩子为例。我有子女。我认为孩子体现了人类最纯真的本性。你是否注意到,无论是自己的孩子还是别人的孩子,他们总是充满好奇,喜欢提问?

问:我尝试教会她提问,就像一个记者那样,我们会问谁、什么、为什么、何时和怎样等问题。"为什么"无疑是她最喜爱的问题,正如所有父母所知,她总是喜欢追问细节。

答:我也有孩子,我知道,我的孩子总是充满好奇,喜欢提出许多问题。人类的思维天生就是好奇的,而人工智能正是让我们能够深入探索这些好奇心和追求知识的渴望。

例如,就在两天前,我读到一篇发在 LinkedIn 上的文章,标题是“因为 Chat GPT,我现在可以享受莎士比亚”。这篇文章非常吸引人。我记得在我高中学习莎士比亚时十分煎熬。我会在家里阅读文本,却理解不了其中一半的内容。而现在,有了人工智能的帮助,人们可以在阅读莎士比亚时,通过 ChatGPT 的语音模式提出任何疑问,进一步探索角色的意图,这种探索的深度是非常强大的。就像文章中所说,ChatGPT 就像一个永远不会疲倦的教授,始终在那里回答任何问题,帮助我们深入探究。对我而言,正是人工智能打开了我们对知识和探索不竭好奇心的大门。

问:就像计算器的出现让我们从基本的计算转向了数学的更艺术性的边界,现在似乎是我们确定什么值得记忆的时刻。虽然AI能够创作一本书,但我们知道应该写些什么,以及如何将这本书应用到现实生活中。我观察到一个趋势,你认为我们的角色是否正在从回答者和创造者转变为提问者和策展人?

答:我觉得这种转变正在发生,并且这是一件好事,很有趣。

事实上,如果回顾一下,AI让我们拥有了一个全新的工具,可以在此基础上进行深入构建。拿微积分来说,这个例子很合适。这样,我们就不用再花大量时间去做基础的算术,而是有更多时间来思考更高层次的数学问题了。同样的,现在我们不需要记住每一个细节,有了谷歌和各种数据库,知识就摆在那里,我们可以提出更深层次的问题。我相信,随着每一次重大技术革新,人类的技能水平都在持续提升。AI作为一种基础性和开创性的技术,正推动我们的技能水平向前迈进。我来举个例子:

虽然我不想总是提及我的孩子们,但我真的很爱他们。在我成长的过程中,学习Q Basic编程是在一个蓝色背景的屏幕前,面对着一行行带有编号的代码,很难构建出有意义的东西。而现在,我看着我九岁的孩子在使用Scratch学习编程,它通过可拖动的逻辑块以图形化方式帮助他们理解程序,这真的很棒。他甚至在学习打字之前就开始学习编程。过去,打字是学习编程的一个门槛。因此,想象一下AI将如何影响我孩子和他们这一代人的成长,从小就有这样强大的工具,能够让他们从开始就思考更高层次的问题。

问:是的,我认为在每个领域中总会有大师的角色,你可以向OpenAI或ChatGPT提问并得到答案,但除非你真正懂得你的专业,否则你不会知道这个答案是否准确,也不会知道如何应用这个答案。所以,即使我们在AI技术上取得进展,真正了解他们所研究领域的人似乎总是有其不可替代的重要性。但你认为,这是否真的能让我们有机会去探索更深层次的问题,比如生命的意义、自由意志、我们的起源,AI会改变我们对自身的认知吗?

答:对于这个问题,我有两种回答。首先,我认为为了探索这些深刻的问题,我们确实需要时间和空间。我们的大脑非常忙碌,不断地探索这个问题、那个问题,这是我们进化至今的结果。

但是,要真正静心思考这些问题,你需要抽出时间来。我自己的经历是,受妻子启发,我们一起参加了为期十天的冥想静修,这段时间让我们有机会深入思考,发现了许多小小的洞见。因此,某种程度上,AI给我们解放出更多的时间来深入思考更高层次的问题,这是非常有帮助的。

我还认为,AI开始帮助我们更深入地思考问题,包括那些地方性的问题。我使用ChatGPT的方式之一就是让它成为我的思考伙伴。有时候,我有一个模糊的想法,不确定该如何表达得更清晰。语言的美妙之处在于,它实际上能帮助你整理你的思维。我不知道你是否有相同的体验,但无论何时我感到在思维上有阻碍,将其写下来总是能帮我将思考线性化。写作本身其实就是一个澄清思想的过程。

我个人实际上已经多次使用Chat GPT来探讨一个想法,通过这种对话,它帮我细化并获得新的洞见。因此,无论是从探索这些概念方面还是简单地开始提问,你有时会深入探索并发现一些可能否则不会有的见解。

问:其实,这正是SXSW的魅力所在。你可以与来自不同领域的人进行对话,这种交流真的可以帮助你的想法更加明晰。我的意思是,我在Techcrunch撰写了4000篇文章。我往往直到开始写作时才不知道最后一句会是什么。往往只有在实际交流中,我才明白自己想要表达什么。我认为人类也拥有同样的能力,但我们往往缺少那种能够真正交锋的思想伴侣。

答:在ChatGPT出现之前,那种思想伴侣只在白天的特定时间段里可用,对吧?现在,当我在深夜工作时,我的孩子、家人和同事都已入睡,我在努力构思如何阐述某个问题时,ChatGPT始终在线,我可以开始与它交流,深入探讨这个想法,更深入地进行思考。

问:感觉我们正在从进步的动力转变为方向指引。AI或许是一个“传送门”,但只有当你知道你的目的地是什么时,这才真正重要。这也是我对我们探讨这些重要问题感到兴奋的原因,因为长时间以来,我们似乎一直在回避这些问题。正如你所说,工作可能让人感到筋疲力尽。当你一整天忙于执行任务而不是思考策略或动用你的智慧时,这会让你精疲力尽,无暇提出那些更深层次的问题。马克思曾说宗教是人民的鸦片。或许AI能成为一种“纳洛酮”,唤醒我们从沉睡中觉醒,面对那些艰难的问题,因为我们终将有时间去做这些。

答:这完全取决于人们如何使用它,我认为技术的灵活性之美在于人们发现并将它应用于许多不同的用途。

问:很棒。如果大家有问题,我们不会在舞台上进行问答。我不认为你们会喜欢听别人对他们的AI创业公司喋喋不休,而忽视了真正的提问,正如你们可能在某些小组讨论中看到的。但如果你们有问题,请使用#southbySouthwestAI标签,或者在任何社交网络上@我,我会在节目结束后尝试回答或联系你们。不过,我想先回到这个为什么你选择这份工作之前的话题。

那你为什么会选择这份工作呢?说实在的,你在谷歌、Facebook的早期就有所建树,你完全可以自称为富翁。毕竟,你并不真的需要一份工作,天哪。不过,你是一个极其谦逊、极其有同情心的人。我认识你十多年了。所以你并不是为了钱。但为什么还是选择了这样一份艰巨的工作呢?

答:我真的没想到这个问题,但感谢你的赞美。我认为这是一项极其重要的工作,我真的被公司的使命激励——那就是构建通用人工智能(AGI),并将其好处普惠于全人类。在我看来,我一生中从没有见过像这样强大、充满希望的技术。能成为其中的一员,我每天都会记下感激之情。很多次,我都会写下“哇,我感到非常幸运能成为这个旅程的一部分。”我之所以感到这份感激,是因为,这项工作如果做好了,对人类的好处是巨大的,我只是希望不要搞砸了。

问:听你这么说真好。但在你之前的工作角色里,比如Facebook Messenger,基本上就是让Messenger运行得更快,让它更像一场真实人类的对话,而在Uber,就是让人们更快、更便捷地到达目的地。这些听起来都像是直观的路线图。但对于如此快速发展、开放性极强的一系列产品,你如何知道应该集中精力在哪里呢?你想优先构建哪些用例?

答:这是个很好的问题。随着这些模型变得越来越智能,我们可以探索的空间也在不断扩大。确实,这是一个我经常思考的问题。选择正确的方向带来很大的压力,必须做得正确。我认为,我对这份工作的基本态度,以及支持团队的方式,是观察人类长期以来所做的事情,了解其中的原理,并将其应用到生活中。举个例子,很多人使用ChatGPT来辅助写作或编程。我们在尝试深入探索这些领域时,重点考虑如何更好地协助他们,例如正确的编程思维模式、写作或数据分析是什么?因此,对于任何产品来说,目标都是尽量消除人们想要做的事情中的障碍,最大化地利用这项技术。我认为,这正是挑战的核心。

问:您认为ChatGPT对世界的意义是什么?

答:哦,这个问题很深奥。

问:我提的问题太简单了,抱歉。

答:问题,对,我明白。这很棒。我认为世界真正需要的是一种能够帮助人们轻松实现目标的灵活工具。参与这个产品的工作让人极为振奋,因为能见证到人们对它的各种各样的应用。比如,我们与一位医生交流过,他用ChatGPT来总结新研究成果,以此了解更多信息,提出问题,保持对最新进展的关注。我们还与一位艺术家交流,她通过上传自己的画作照片,实时获得反馈,这让她在创作中更加坦诚、更能精进自己的艺术。另有数据分析师告诉我们,使用ChatGPT使他们能在20分钟内完成过去需要4小时的任务。这些例子展示了它的广泛应用。对我们来说,最大的挑战在于尽可能多地了解用户的需求,学习他们想如何使用ChatGPT,然后不断优化产品,以更好地服务于用户。这种与用户共同进化的过程,见证了产品如何被广泛应用,并随着社会需求不断进步和改善。

问:如今,技术不断推动生产力的提升,从以前没有电子邮件到现在,虽然我们发明了许多工具,但似乎并没有因此减少工作量。当你谈到某人将四小时的工作压缩到20分钟完成时,我们真的能够“收回”这些时间吗?还是说,雇主只是将这些节省下来的时间用于其他方面?这真的让我们的生活变得更轻松了吗,还是只是让我们更快地完成任务,以便挤入更多的工作量?

答:实际上,我认为这给了个人选择的权力。这也是目前一些新产品如此赋能的原因。我坚信,AI成为加速实现个人愿景的工具。例如,我最近与一位在晚餐时认识的人聊天,他通过租用GPU给初创公司,建立了自己的业务,并表示他现在可以直接询问ChatGPT如何远程启动服务器——这是以前他需要学习或成为系统管理员才能做到的事情。如今,有了这样的工具,我们可以做到更多。因此,每个人都能做更多,关键在于每个人如何选择利用这些额外的能量。

问:那么对于那些系统管理员会怎么样呢?

答:这是一个好问题。我认为系统管理员也能做更多事情。可能有些其他技能他们不那么擅长,但现在,借助这些工具的帮助,他们也能提升自己的能力,做到更多。比如,我认为随着技术的发展,公司可能会变得更小,但数量会更多。这只是我的个人猜测。但如果我们考虑人类的本性,我们是有追求和梦想的生物。历史上的每一次技术进步,实际上都在为人们铺平道路,让他们能够做到更多。

答:以我为例,如果回到50年前,我有很多技能上的不足,比如我拼写能力差,书写糟糕,算数能力也不强。但现在,有了拼写检查、自动完成和计算器,我能够利用自己独特的能力做更多事情。

问:作为四个孩子的父亲,你是否在教育孩子和扮演GPT“父亲”角色之间发现了相似之处?

答:观察我的孩子们如何学习和成长给了我许多灵感。让我分享一个故事:我的一个女儿非常有创造力,喜欢制作东西。她会用家里找到的瓶盖、纸箱等材料,创造出非常有创意的作品。这让我想起了我小时候。我也曾用胶带、纸张和纸板制作了简单的机关。现在,我对她将来能够使用的工具感到非常兴奋,相信她能够做到比我在我的一生中做得更多,因为我们即将推出的这些了不起的东西。

问:您希望在ChatGPT中灌输哪些特定的价值观?

答:这与我作为父亲想要传递给孩子的价值观类似,但更重要的是反映世界的价值观。我希望AI能够体现每个使用它的人的价值观,而不是按照某种预设方式。最近我和家人去日本度假,旅行使我意识到世界各地不同的文化和价值观是如此美丽。例如,日本对细节的精细关注孕育了许多精美的创造。因此,我希望能找到一种方式,让AI反映出世界各地人们的价值观。所有微小的文化差异都是人类美好的一部分,我只希望我们能够找到一些方法来接受世界的价值观并灌输它。

问:考虑到OpenAI是一家美国公司,虽然它雇佣了来自世界各地的人才,但这是否意味着由OpenAI构建的AI本质上会以美国为中心,反映我们的价值观作为默认?

答:我们与全球各地的人合作,我们的使命是造福全人类,这意味着我们不能只关注美国。我们致力于深入理解和倾听不同文化,这是我们构建更好产品和未来的方式。这种包容性和多样性是我们使命的核心部分。我们的目标是让AI能够体现每个个体使用者的价值观。尽管我们的一些初步步骤可能导向了这个方向,但这绝不是我们的最终目标。

问:最近关于董事会的变动和周围的一切变化引起了很多讨论。您认为这是否分散了OpenAI追求其价值观的注意力,还是实际上为更好地与这些价值观对齐提供了机会?

答:尽管我们的团队专注于工作,但我个人对一些变化感到欣慰,尤其是对加入我们董事会的新成员。我认识其中一些人,他们都是非常优秀的人。我很高兴他们能加入我们。

问:这些变动是否让您感到有些分心?毕竟,您和您的团队有如此多的工作要做。

答:个人而言,我并没有感到分心。我们有明确的路线图需要执行,我们激动于新研究的出现,并希望将这些成果带给每个人。这就是我们的重点,也是我的团队的关注点。

问:我可以向你提出我期望ChatGPT具备的价值观列表吗?

答:当然,请说。

问:我认为,世界上最佳的老师并不总是那些智商最高的人,而是那些最具同理心的人。他们能够识别出学生的独特性,并针对这些进行调整。这似乎也是你提到的,尝试让ChatGPT与使用者的价值观保持一致的一部分。我认为,像Facebook这样的以往产品,你们真的努力保证遵守当地法律,同时借助国际人才来确保我们的内容管理规则或其他方面真正与当地规范相符,而非试图将国际观点强加给他人

但我确实希望看到OpenAI能够体现如决心追求真实答案、激发我们灵感的美、坦诚自身局限性、公平避免重复过去的错误、以及具有守护意识,希望AI能够照顾人类、社会和整个地球的价值观。这些是你认为重要的价值观吗?

答:这些价值观确实引起了我的共鸣。我还遗漏了什么吗?我觉得,寻求真理和深入了解事实的价值观非常重要。另外,我认为帮助性也很关键,我们越能确保技术服务于人类的目标和抱负,我们构建的技术就会更好。

问:有没有你即将开始信赖AI完成的任务?比如,你会让它为你做出医疗诊断吗?或者在法庭上为你辩护?

答:好的,让我们先讨论法庭辩护。我当然希望自己不需要在法庭上辩护,但如果我被错误地指控了犯罪,我绝对愿意让AI成为我的法律团队的一部分。想象一下,在你有律师的同时,还有一个助手,它可以实时听取证词,核对事实和时间线,查阅所有相关法律和判例,并能够给人类律师提供建议。这种超级助手将会非常有力。对于医疗问题,我们已经开始见证到AI的作用。例如,一位母亲用ChatGPT处理了她长期遭受慢性痛苦的孩子的病例,最终找到了正确的诊断并成功治疗。这表明我们已经在向这个方向迈进。

问:我觉得AI写笑话已经处于可能实现的边缘,我尝试用它来帮我写笑话,所以如果你觉得不好笑,你知道该怪谁。但我也尝试将其用于健康咨询,结果令人印象深刻。我比较了真实医生和一个名为Doctor Gupta的工具的答案,后者即使是由Martin Screlly开发的,给出了最佳建议。尽管我知道我输入的每一条数据都可能被卖给出价最高的竞标者,但它确实提供了更好的答案。因此,我们可能需要权衡,在获得更好的答案的同时,可能需要牺牲一些隐私。此外,我们的一些AI健康投资公司正在开展如医疗账单编码、为医疗费用制定个性化还款计划以防家庭破产等项目。

确实,有一些公司正在确保人们按时服药。通过拍照证明每天服药,他们不会从你那里扣除2美元。他们在月初给你60美元,每天你证明自己服药,他们就不会扣钱。这激活了损失厌恶心理,但这全靠AI才成为可能。所以,似乎我们正处于技术飞跃的时刻。但我们如何变得更加适应?我们需要做什么才能让更多人愿意接受AI的这些用途?

问:我认为这是共同进化的一部分。这需要时间,通过反复的曝光和体验,听到故事,更重要的是亲身体验。随着越来越多的曝光和体验,人们将以不同的方式开始信任和适应。举个例子,当我第一次使用Tesla的自动驾驶功能时,我对它的信任是逐步建立的。现在,我已经足够信任这项技术,愿意在某些情况下让它自行驾驶。我们通过将AI技术推向市场,而不是仅在实验室内开发,让人们尝试并了解这项技术的潜力,这是我们团队值得骄傲的地方。

问:你从在Facebook和Instagram等地方的工作经验中学到了什么关于安全性的知识?你们如何在OpenAI中应用这些知识?

答:这是一个很好的问题。我从过去的经验中学到了很多,特别是在Instagram,我学到了设计之美和工艺的重要性。在OpenAI,我们正致力于构建不同的产品,我们考虑的是如何服务于人们,满足他们的好奇心。我们把安全视为产品构建的一部分,而不是事后才考虑的问题。我们有一个出色的安全团队,我们在开发功能之前就与他们合作,确保我们的开发过程是安全的。

问:你认为你的孩子们会首先使用ChatGPT还是社交网络或Google?你对他们使用哪个会感到更舒心?

答:目前我的孩子们没有不受限制地访问任何东西的权限。但在有监督的情况下,我会让他们使用ChatGPT,因为它有助于他们探索创造力。例如,我的女儿喜欢写故事,ChatGPT可以帮助她将手写故事转录成文本,甚至使用Dolly生成图像来使故事栩栩如生。

问:我们如何处理类似于无法分辨某物是由人还是AI制造的问题?这重要吗?

答:短期来看,这确实很重要,尤其是在选举年等重要时刻,我们需要确保内容的真实性。但从长远来看,这是否还会重要,现在还很难说。但如果人们认为这一点重要,那么产品和社会将会做出相应的调整。就像面包的例子,随着时间的推移,人们对手工制作和工业化生产面包的看法发生了变化,这表明社会的价值观和偏好能够影响产品的发展方向。

问:我的一个朋友说,他的婚礼上唯一的规则就是不允许任何人使用ChatGPT。

答:我觉得这其实是种道德约束,一种社会约定的实践。我认为问题的起点应该是这样,然后,它可能逐步演化为正式的规则和法律。但是,从披露和诚信的角度来看,我认为人们应当主动进行说明。

问:SXSW一直是数字文化的打造者,趋势的引领者。那么,我们或许可以从这里开始,如果你私下使用它,是的,请告知他人;否则,尽可能地运用它,随意实验。但是,在使用它进行政治、艺术或个人交流时,应作出披露,我认为这样会使他人更加信任你。考虑到我们有很多问题要解答,我们将尽量快速进行。好的,让我们来谈谈人工智能素养。你知道,10年前的学校里,20年前,他们试图教我们如何进行谷歌搜索,如何引用资料,如何识别网络钓鱼诈骗。你觉得,我们如何提升人工智能素养,既能让人们受益,又能控制人工智能的风险和局限?

答:这是个好问题。我认为提升素养的最佳方式是使其广泛易得。这是最关键的。这正是我很感激我们团队所致力于的,把我们的研究成果转化为易于获得的产品,并尽可能广泛地推广。

问:这是否意味着ChatGPT的基础版本将永久免费?

答:是的,总会有一个免费版本。当然。我认为随着我们不断提高运行效率,我们会把更多功能引入免费版本。作为我们的使命的一部分,我们的目标是让全人类都能从中受益。现阶段提供服务确实成本颇高,但这是我们的目标。素养是非常重要的,我认为人们应该亲自尝试这些技术。亲自体验与听我们在台上谈论截然不同,这是我真心希望大家去做的。

问:是的,我认为诸如Facebook、谷歌这样的免费互联网服务非常重要。它们允许不必支付费用即可使用,这意味着全球数十亿无法负担此类服务的人现在可以使用它们,部分原因是这些服务得到了购买力较高的西方用户、企业和广告商的补贴。如果ChatGPT的企业级服务能够为其他所有用户买单,那将多么美好。

答:事实上,这就是我们目前的考虑方式。这很棒。我们从一个整体的角度来看待这个问题。对于那些企业级用户,他们利用它创造了巨大价值,并为其使用支付了相应的费用,而这部分价值能够向下层传递。这就是我们理解这一概念的方式。

问:就像在采矿行业,我们要求采矿公司支付费用来补偿他们给环境带来的影响。你认为,如果OpenAI在‘挖掘’互联网,消耗我们的注意力,它是否应该为某些素养计划付费?像微软这类大型AI公司是否应该出资支持学校的素养项目,以便孩子们学习自学能力,识别深度伪造骗局,了解如何进行提示工程,并希望为他们的职业生涯抗衡未来。

答:绝对是的,我们实际上已经实施了这样的项目。这是OpenAI与教育工作者合作,探索未来如何最好地使用人工智能的一部分。实际上,面对教育工作者,人工智能的应用是我所见过的最鼓舞人心的用例之一,帮助人们更好地完成他们的工作。你知道,我们已经看到大量教师输入课程内容,并能够制定定制的教学计划或测试。这为教师节省了时间,使他们能够花更多时间与学生互动。

问:所以,当我询问推特粉丝们他们想听到什么时,深度伪造诈骗是他们真正关心的事项之一。你如何看待这个问题?从政治到国际新闻,再到影响股市的商业事件,以及勒索诈骗,用我妈妈的声音伪造的电话,甚至可能伪造她的面孔来要求我提供社保号码等。我们该如何解决这个问题,你们在对抗这方面有什么行动吗?

答:是的,这确实是我们所关注的。我们推出技术的方式非常谨慎,采取迭代方法。考虑到所有这些情况,我们希望确保,当我们在API中推出新功能时,我们考虑了安全应用。正如我之前所说,安全是我们在ChatGPT上构建产品的一部分,我们非常重视可能的误用,并且这影响了我们是否发布某个功能。实际上,模型本身可能比我们目前或其他一些初创公司公开的功能更强大。对我们来说,我们非常重视这一点,致力于谨慎发布我们的功能。

问:这引发了人工智能领域最大的辩论之一,即加速与减速的辩论。有些人认为我们应该尽可能快地前进,带来健康益处,应对气候变化危机,并与其他国家和非法组织保持竞争。然而,其他人认为我们应该减速,以改善对齐、避免意外后果、给法律和新兴规范时间赶上,并且通过再培训人们来防止大规模失业的浪潮。你怎么看待加速与减速的辩论呢?

答:是的,我认为我处于中间地带。我认为对于任何新技术,都会存在积极的应用场景,也有一些我们需要真正考虑的问题。我个人认为,我们发现这些挑战并找到解决方法的方式是以负责任的速度发布这些技术。以这种方式发布技术,使社会有机会吸收新技术,确保我们有正确的安全防范措施,我们力求最好地预先构建好安全措施。但我不认为,AI能仅凭实验室内部研究而安全开发,而不与外界接触。因为我们作为公司以及整个行业,不会能够与社会一起学习人们如何希望使用它,哪些是积极用途,哪些是我们需要非常小心的领域。

问:所以听起来你支持加速发展,但在部署方面要谨慎。

答:是的,我认为这非常重要。

问:是的,因为感觉上,自从你们推出ChatGPT以来,谷歌似乎有些措手不及。他们似乎急于推出产品,就像最近发布的Gemini一样,一推出就遇到了很多问题,不得不撤回一些功能。
那么,当公司这样做的时候,我们应该如何应对呢?如果AI犯了错误,该由谁承担责任?是应该修改或撤回AI模型,还是应该由工程师负责,或者是公司,还是你们?

答:这回到了那个假设的法律问题。这确实是一个很好的问题。但这恰恰反映了我们的理念。我们非常谨慎地发布产品,例如Dali,每一步都非常小心,确保在产品发布之前已经内置了安全措施。

从这个角度来看,这是一个很好的例子,展示了迭代开发方式给我们带来的好处。AI确实会犯错,携带着利与弊。但重要的是以适度的方式逐步引入AI,确保我们已经设置了缓解措施,并且错误足够小,我们可以找到需要作出的调整。

问:我个人希望消费者能够用脚投票。如果看到一些公司总是急于推进,忽视了安全措施,不断犯错。唯一真正的解决方案似乎是市场化的解决方案,意味着消费者需要用脚和钱包投票,转向那些确保安全的服务。

答:我同意这个观点,这也是为什么我认为发布产品并看哪些能引发共鸣非常重要,它给了市场自我纠正的机会。

问:IBM的CBO说,AI不会取代经理人,但使用AI的经理人会取代那些不使用AI的经理人。你认为人们如何可以保障自己的职业前景,确保在接下来的20年里不会被自动化淘汰,保持相关性?

答:这是个好问题,也是一种聪明的说法。实际上有过与生产力和AI相关的研究。一项由《哈佛商业评论》发布的研究,由波士顿咨询集团对劳动力进行了三组不同的处理。一组不使用AI,一组使用ChatGPT,一组在使用ChatGPT的同时接受培训。研究证明AI确实带来了益处,看到任务完成时间减少了25%,生产力提高了12%。另一个有趣的发现是,它对顶部和底部表现者的影响不同,顶部表现者的产出和质量提高了17%,而底部表现者则提高了43%。

答:这个研究告诉我们,AI实际上是一个伟大的平衡器,尤其是对于那些排名接近50%底部的人来说。这非常棒。它展示了对这句话的支持。就如何“未雨绸缪”,我想稍微调整一下这个问题:我们如何利用AI加速我们的工作?实际上,随着人们熟悉这些工具,获取素养,使用它们,进行数据分析时不必编写SQL查询或者公式,求助ChatGPT获取洞见,或者提交一篇文档询求批评,那些付出时间寻找方法将AI应用于工作的人将会得到更快的提升。

问:是的,我希望人们不断测试新工具,并希望企业为员工提供实验预算,让他们可以尝试所有这些工具。由于工具众多,对于CIO来说,要尝试并摸索它们是不现实的,他们需要授权员工去尝试,将有效的工具推广出来。

答:就像我们与ASC做的合作,他们计划将ChatGPT提供给越来越多的学生,这是将工具的潜能展示给更多人的好方法。

问:关于AI与艺术的权衡,一方面,艺术能力的民主化让我这样的糟糕插画家也能通过Dali之类的工具进行创作。但同时,如果你的创意作品被用来训练AI,你又会有什么感受?

答:这是个好问题,很深刻。我认为艺术家应尽可能成为这个生态系统的一部分。具体的机制方面,我不是专家。但如果能加快艺术创作的速度,我认为这对行业是有好处的。你的提问很好,关于如果我的作品被用作灵感,我会有何感受?我不知道,需要询问更多艺术家。实际上,每位艺术家都受到之前艺术家的启发,我想知道这是否会随着AI的使用而加速发展。

问:他们应该得到补偿吗?

答:这是个很好的问题。我从听众中听到:他们应该得到。我从艺术家那里听到:他们应该得到补偿。

问:是的,我想你的意思是我们应该询问艺术家。让我们问问艺术家,你们认为应该得到补偿吗?如果你同意,请举手。Michelle,哇,举手的人意外地少。所以,看来这里有很多激进的技术拥护者。不过,我还是很欣赏这种态度。好的。

问:我们如何看待AI的发展?OpenAI前临时CEO埃米特·希尔提出了一个有趣的问题:如果我们不断加强AI的同时试图限制它,这似乎是一场注定失败的战斗。最终它会挣脱束缚,按照自己的意愿行动。我们训练它变得如此强大,但同时又一直在对它进行压制。
我们能否让AI感受到与我们的亲密关系?我们可能不同于人类,但在宇宙中,我们是唯一相似的智慧生命。这难道不使我们与其他任何事物相比都更为相似吗?我们如何向AI传达这种亲密感,让它不仅仅是为我们服务,而且还要保护我们?

答:是的,我认为,你知道,使ChatGPT成为一个有帮助的助手是其指令的一部分。但这是否足够呢?

问:“助手”是合适的角色吗?它们不应该是伙伴吗?

答:我确实认为,今天人们已经开始将其视为伙伴了。例如,我听说的一个故事,一个年老的物理学家渴望与人讨论物理学思想,但在他的社区里找不到同伴。于是他转向ChatGPT进行深入的对话。这实际上让ChatGPT在某种程度上表现出了同情,虽然它并不完全是同情,但它的行为却很像。

问:对吧,但我们如何让它真正感受到那种同情,不仅仅是让它在我们看来像是同情,而是真正的同情感呢?

答:这其实是一个哲学问题,如何定义同情?

问:我认为同情是一种感觉,我们都是一体的,你的损失并不代表我的收益。我们需要互相帮助,因为否则,这个世界太大太冷酷,我们在宇宙中是渺小且短暂的存在。如果我们不合作,我们就无法实现我们真正的潜力。

答:完全同意。我认为这是我们必须寻找的一条路径,回到我之前的回答,如何找到方法将我们的价值观灌输给AI,使其成为我们共同解决方案的一部分。我对同情的定义有所不同,我认为同情是真正代表他人感受。功能上,它所说的话可以让人感觉到同情,但真正的情感体验,我认为,是人类独有的,是你我所共有的。这将是技术与人类的根本区别。

问:我要概括Peter今天分享的精彩见解。我们讨论了现在的人性意味着什么?他认为AI实际上使我们更加人性化。它是一种工具,让我们能够进一步探索自己的好奇心。以前,我们可能只能通过有限的方式提问,或者依靠导师和教授。现在,我们拥有了一个永久的导师,它将帮助我们探讨关于生命、存在、意识以及我们的起源等更深层次的问题。我们谈到了这些。在忙碌的生活中,回答这些问题可能很难,但有了这样一个思考伙伴,我们可以像过去沙龙中那些卓越人物一样,通过讨论解锁新的思想。

我们还讨论了你选择做这项工作的原因。你提到,这是一项重要的工作,你为此感到感激,也许是目前世界上最重要的工作之一。我很高兴这样一个有同理心的父亲能够承担这项工作,你将其视为一种帮助我们学习、提高技能(如写作或编程)的工具,减少阻碍,给予我们时间上的选择权,以此提升人类的抱负。你希望AI能够反映每个用户的理想,而不是仅仅体现美国或以美为中心的理念,确保其核心目标是揭示真相和提供帮助。但我们需要它帮助我们验证信息,无论是在法律应用还是已经实现的健康领域。

这些不是科幻,而是现实。但我们需要花时间先行确立安全措施,让人们通过实际操作获得经验,减少对它的恐惧。我们讨论了设计的美感很重要,但安全必须从一开始就纳入构建中。希望用ChatGPT而非谷歌或社交网络,让你的孩子探索自己的创造力。

现在,人们是否能接受由AI制作的内容,这很重要。在选举年,我们需要确保信息的真实来源,如有错误需进行更正。但将来,我们是否还会在乎这一点还不确定。不过,我认为我们可以从现在开始,对于个人交流使用AI时进行披露。这很重要。它需要被广泛接受,提高人们的认知能力。你说基础版Chat GPT将永远免费,我会记住这一点。我很高兴听到全世界的人都将有机会使用它。但对于从中获利的公司,应该为提高公众的识读能力做出贡献,确保我们不被深度伪造所欺骗,不让社会因错误信息而失控。你提到AI有正反两面的用途,因此在谨慎部署的同时加速发展至关重要。我们需要对未能达到我们安全标准的公司负责,选择不同的产品。我们需要通过拥抱AI来为未来做好准备,看看即使是表现最差的人如何通过它得到改善,并探索如何将其作为我们所有智识追求中的陪练伙伴。

你还没有明确回答创意工作者是否应得到补偿,但你确实认为他们需要参与进来,成为讨论的一部分,扮演一定角色。希望随着我们的前进,我们能让AI成为我们真正的伙伴而不仅仅是助手。

从这个场合可以看出,AI已经成为一种文化。过去有节奏爵士、嬉皮士、朋克,现在是开发者。AI孕育了自我表达和身份认同的新形式,正在变革我们的机构。它是自互联网以来最重要的文化新浪潮,为年轻人在学生贷款和高不可攀的房价中找到了经济赋能的途径。它固有的混沌、惊喜和艺术性吸引了众多追随者。

因此,我希望我们都能保持开放的心态,无论年龄大小,都试图跟上时代,因为现在和未来之间的障碍正在消融,我们有机会让未来更快地到来。最后,如果你希望人们从这次谈话中带走一个关于AI的思想,那将是什么?

答:顺便说一句,这是一个精彩的总结。谢谢你的总结,你做得比ChatGPT还好。总而言之,我想说的最后一句话是,我们不知道未来会带来什么。但我鼓励在场的每个人保持好奇心,你们来到这里听这次演讲已经是一个好的开始。去尝试它,去分享你的想法,看看AI能为你做什么,因为这将帮助我们这些技术开发者了解哪些对你们有价值,以及我们如何提供帮助。因此,保持好奇,保持开放的心态,告诉我们你们希望AI能实现什么,我相信,这就是共同发展将会发生的地方。

问:那太好了。让我们这样做:每个人都保持一颗好奇的心。非常感谢你。谢谢。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。