Sam Altman对话美联储Bowman

鲍曼：

大家下午好。非常感谢大家今天能来参加我们有史以来的第一次资本会议。我们非常期待今天将要进行的所有对话，特别是当我们继续在跨机构内部以及与美联储就资本问题进行合作时，我们期待能从中获得启发，并且更广泛地展望银行业的未来。

在我们今天下午开始炉边谈话之前，我也想花点时间感谢我们的座谈会参与者。感谢你们抽出时间参与这次重要的对话。当我们思考这个领域以及许多其他领域的监管将如何发展时，我们非常期待在继续这些讨论的过程中与你们进行交流。

但在很多方面，今天的主题是关于银行业的未来。考虑到这一点，我们现在想转向另一个正在塑造金融创新的影响力。虽然创新一直在银行业的发展中扮演着重要角色，但越来越清楚的是，新技术不仅仅是渐进式的改进，而是可能从根本上改变我们金融体系结构和功能的巨大飞跃。当然，其中一项技术就是人工智能。我想不出有谁比OpenAI的董事长兼首席执行官萨姆·奥尔特曼更适合、更有准备来讨论人工智能以及创新在改变金融和我们更广泛经济中的作用了。

萨姆，感谢你今天抽出时间与我们在一起。我欢迎你。谢谢你的到来。

奥尔特曼：
非常感谢你的邀请。

鲍曼：
所以，或许先为我们描绘一下人工智能和更广泛创新的整体格局会很有帮助。你能为我们构建那个框架吗？

奥尔特曼：
当然。就在五年前，人工智能还被认为是遥远未来的事情，如果它真的会发生的话。甚至在两年半前，大约在ChatGPT推出的那个时候，它仍然没有走出硅谷那些技术宅的圈子。ChatGPT于2022年11月30日推出，那甚至是在GPT-4之前。从那时起，进展相当迅速，其应用和经济影响也开始变得非常快。

就在上周，我们有一个模型在国际数学奥林匹克竞赛（IMO）上达到了金牌水平的表现。我想，如果你在几年前告诉这个领域的大多数人这件事会发生，他们会说绝对不可能。你知道，那就像我们最聪明的、在自己领域是真正专家的人类一样优秀。我们现在听到科学家说他们的生产力提高了两到三倍。我们听到计算机程序员说他们的生产力提高了十倍。这完全改变了编写软件的意义。我们已经拥有了能够在许多领域达到专家级智能水平的系统。不过，它们还不能像人类那样执行长远规划的任务，所以那里仍然有一个很大的局限性。但是，即使进展现在就停滞不前（当然它不会），我认为我们未来仍有数年的时间，让社会和经济去真正消化这项技术，并弄清楚它的影响将会是什么。

你知道，有句老话我一直觉得很棒，我们应该再次努力实现它，那就是“电力便宜到无法计量”。作为一个社会，我们并没有完全实现这一点，尽管我认为我们仍然应该这样做。但事实上，我们似乎即将实现“智能便宜到无法计量”。在过去五年里，我们已经能够将每单位智能的成本降低了超过十倍。看起来在未来五年我们也会这样做，甚至可能更多。

这个周末，我用我们即将推出的一个模型来完成一个我一直想做的计算机编程任务。有点像一个家庭自动化爱好者，我想让我家的灯光和音乐做一件特定的事情。我知道在有这项技术之前，我可能需要花几天时间才能完成。我曾希望有了这项技术，鉴于我们最近的进展，我能在几小时内完成。结果，我在五分钟内就做完了。它几乎完成了所有的工作。这件事，你知道，就在一年前，你可能需要付给一个非常高端的程序员20小时、40小时或类似的报酬来完成。而一个AI完成它，可能只用了不到一美元的计算代币（compute tokens）。所以，这是一个惊人的变化，而且它发生的速度，以及未来几年它将继续发展的速度，我认为仍然被大大低估了。我们甚至在一年前还不确定我们当前的研究路线图能走多远，是否会遇到某种限制。此时此刻，看起来我们未来还有很多年几乎可以确定的进展。

鲍曼：
太棒了。这真的帮助我们为接下来的对话构建了框架。你正在和一屋子金融业和银行业的人士交谈，他们中的许多人已经在思考如何使用AI，或者已经在使用AI了。但你如何将AI在生产力方面的潜力与我们过去看到的其他技术进步进行比较？你知道，我这个年纪的人，在我刚开始工作时，互联网才成为我们更广泛使用的东西。所以，你能为我们构建一个框架吗？有没有一个你可以用来描述我们现状的比喻？

奥尔特曼：
我从未见过像这样的一场技术革命。你知道，历史上的例子是人们谈论工业革命，他们谈论计算机革命。互联网确实改变了很多事情，但我从不记得有什么东西，一年前需要花费1万美元的知识工作，现在只需要1美元或10美分，或者无论它现在的成本是多少。就像我刚才举的编程例子，我认为这简直是前所未有的。

当然，它并非对所有事情都如此。物理世界中的东西，机器人之类的，那将需要更长的时间。比如，可能在2020年，叫一辆优步（Uber）送你穿过城镇需要10美元。实际上，让我这么说，可能需要100美元让一个紧急包裹服务在一定时间内送达，而编写一个应用程序需要10万美元。到了2030年，编写那个软件应用程序的成本可能真的只有10美分。从10万美元降到10美分。而递送那个包裹的成本可能从100美元涨到了1000美元。你知道，这需要一段时间才能实现机器人技术，那种能开车、取出包裹、上楼、按电梯按钮的全功能人形机器人。那还需要一些时间。但对于可以在电脑前完成的任务，我不知道有什么先例可以比拟正在发生的事情。

我最喜欢的比喻是，人们会问，这像是工业革命吗，或者像是别的什么吗？我喜欢的那个是，这就像晶体管。晶体管是一项非常深奥的物理科学发现，它被发现的过程非常困难，但一旦你理解了它，就很容易理解。它在经济上具有完全的变革性，其价值作为巨大的生产力提升，扩散到了整个社会。但曾有一小段时间，出现了很多晶体管公司，他们被称为半导体公司，那是一个巨大的繁荣期，而这些公司中的大多数现在都成了幕后英雄。你们现在都在使用带有大量晶体管的设备。它们遍布这个房间。我们不会认为这是一个晶体管设备或那个是晶体管设备，我们认为这是一个麦克风、一台电脑、一个屏幕、一个摄像头等等。

但这项技术是一项不可思议的发现。它改变了我们能够构建的东西。它很快就成为了一切的一部分。而你现在不怎么会把公司称为晶体管公司，除非是像台积电（TSMC）或SK海力士（SK Hynix）这样的公司。同样地，我认为你很快就不会再谈论AI公司了。你只会期望产品和服务使用这项技术。你不会过多地去想它。你只会期望你使用的产品和服务比你更聪明，这将成为世界的常态。就像晶体管一样，这是一项可以完美扩展的技术。我们有晶体管的摩尔定律。我们现在有……我还不确定它叫什么，但我们有AI的这些扩展定律（scaling laws），它就是会变得越来越好，我们学会了如何真正地将其工业化并应用到各处。所以，我认为这是最好的历史类比。我们确实看到了因晶体管而来的惊人生产力增长。但再次强调，我们现在用AI看到的，更不用说那些奇怪的情况，比如AI在某个时候可以发明自己的下一代版本，从而进一步加速进步，就我们现在所看到的，这已经走得非常非常远了。

鲍曼：
嗯，这是一个很棒的比喻。我想，当你说到工业革命时，我们在理事会思考的一件事是，理解劳动力动态可能因此发生变化的重要性。所以，你能否就你认为劳动力市场和劳动生产率，或者更广泛的生产力，可能会如何受到影响，给我们一些你的看法？这对在座的银行，或者通过我们的直播收看的其他行业来说。

奥尔特曼：
我喜欢提醒我们公司里的人一件事，那就是没人知道接下来会发生什么。你知道，有很多这种听起来非常聪明的预测。人们做出各种各样的预测，哦，这将在什么时候发生，经济将走向何方。在我看来，我们一无所知。没人真的……这个系统太复杂了。这项技术太新、太有影响力了。很难预测。完全有可能出现整类工作消失的情况，也会有全新的工作类别出现。

我认为，在很大程度上，这会和历史上的大多数情况相似，即人们拥有的工具将让他们能做更多的事情，以新的方式实现目标。成为一名医生、律师或计算机程序员的意义显然会改变，但人们仍然需要医疗服务，并且他们希望与人交谈。人们需要法律建议，他们会想要一个可以信任并站在他们一边的人。人们仍然希望计算机为他们做事。但是，一个人能做的事情的数量，以及我们对一个人的期望，将会是不可思议的。纵观历史，我们总是有这些新技术出现，人们说这是工作的终结，这是工作的末日。结果证明，人们似乎想要无限的东西，并有巨大的愿望去表达他们的创造力，并对他人有用。我还在等待工业革命的那个承诺，说我们每周只需要工作四小时，就可以在沙滩上玩，和孩子们在一起，而我们现在都在这里。

但我相信一件事，你永远不要对抗生物学。进化已经进行了太久。我们被塑造得太精细了。我们所拥有的生物驱动力以及作为人的意义，技术是无法改变的。你无法战胜它。所以我认为，那些让我们工作并驱动社会运转的根本性事物不会消失。我们可能仍然会抱怨工作太辛苦，尽管我们可能已经富裕到难以想象。如果我们从今天看100年后的人们，我们可能会看着那些工作说，那些不是真正的工作。你们其实并不忙。你们拥有难以想象的奢华。你们拥有一切可能需要的东西。你们无事可做。所以，你们只是为了玩一种愚蠢的地位游戏，为了填补时间，为了感觉对他人有用而编造了一份工作。而这些，正是100年或500年前的人会对我们今天所说的话。事情就是这样。我觉得这很棒。

鲍曼：
这是一个独特的未来愿景。但如果我们回到今天，作为监管者，我们总是非常规避风险，并且对于我们保护数据的方式非常谨慎，确保我们可以在工作中利用创新。我知道银行也非常有兴趣确保它们能够利用这类技术，但我们组织中保护的数据至关重要，我们必须能够维护其安全。那么我们应该如何看待风险？考虑到我们身处政府，而且是政府的一个部门，你对政府的使用有何看法？

奥尔特曼：
我们曾预计金融部门以及政府本身不会成为我们技术的早期采用者。AI，它已经好很多了，但当我们刚推出时，普通人对AI的印象是它经常“产生幻觉”。我记得我们推出GPT-3时，有一个针对本应是AI专家的学者的调查，他们被问到GPT-3的回答中有多大比例是幻觉。真实答案大概是0.1%甚至更少，但学术专家的共识是50%。他们认为人们与ChatGPT交谈时，有一半时间它是在完全胡说八道。这显然不是真的，但这个标签在我们身上留了一段时间。所以我们以为金融服务业，更不用说政府了，不会是我们的早期采用者。

结果我们一些最大的早期企业合作伙伴竟然是金融机构。摩根士丹利、纽约银行，这些都是我们的主要合作伙伴，我们与他们合作得非常出色。我们当时还有点像，“你们确定吗？” 他们说，“是的，我们真的很想做这个。” 他们已经找到了如何使用这项技术，如何构建它，使他们可以依赖它来处理关键流程。许多其他金融机构也依赖它处理关键流程。我们越来越多地与政府合作，向大量政府雇员推广我们的服务。有人说的一句话让我印象深刻，他说：“嘿，我们意识到这是一项新技术，我们必须对其施加一些新的控制，但我们不这样做的风险是……如果我们不采用这个，风险在于我们作为一个企业将不复存在。我们知道我们无法竞争……如果我们是一家银行，我们知道我们无法与一家真正构建AI优先体验、并在整个技术栈中使用AI的新银行竞争。” 所以，它成了最具创新性的行业之一，其采纳和推广比我想象的要好。

显然有风险需要缓解。我们谈到了幻觉。一个即将出现的新问题是所谓的“提示词注入”（prompt injections）。这个想法是，一旦一个模型真正为你和你的数据个性化后，其他人可以欺骗它，告诉它一些不该说的事情。你知道，我可能知道很多关于你的私人信息，但我明白什么时候可以和他分享，什么时候可以和她分享，以及我永远不应该和他分享。而对于模型来说，这是一个新问题，因为模型会获取所有这些个人信息。所以，这方面还有些工作要做。但我们已经能够仔细地审视这些风险并加以管理，同时真正地释放了大量的益处。

鲍曼：
谈到个人信息和这类事情，我可能想就此深入探讨一下。你可能对此不太了解，但这是银行业现在非常关心的事情，那就是欺诈，以及冒充个人以实施欺诈。有没有办法可以减轻这类活动，或者在使用AI进行身份识别或识别此类冒充行为时，我们应该如何防范？

奥尔特曼：
非常好的问题。我对此非常紧张。一件让我感到恐惧的事情是，显然还有一些金融机构会接受声纹作为身份验证，让你转移大笔资金或做其他事情。你说出一个挑战短语，他们就照做了。现在还这样做实在太疯狂了。AI已经完全攻破了那种方式。AI已经完全攻破了人们目前除了密码之外的大多数身份验证方式，所有那些花哨的，比如拍张自拍并挥手，或者用你的声音之类的。

我非常担心，因为这个原因，我们即将面临一场重大的欺诈危机。我们已经尝试过，我想我们行业的其他人也尝试过警告人们：“嘿，仅仅因为我们没有发布这项技术，不代表它不存在。某个坏人会发布它的。这不是一件非常难做的事情。这很快就会到来。” 你知道，现在显然有一些关于这类“勒索攻击”的报道，人们用你孩子或父母的声音给你打紧急电话。那将会变得非常逼真。社会需要更广泛地处理这个问题，但人们将不得不改变他们的互动方式。他们将不得不改变验证方式，比如“现在给我打电话的这个人”。这是一个语音电话。很快，它将是一个视频FaceTime，与真人无法区分。教人们如何在这样一个世界里进行身份验证，如何思考欺诈的影响。这是一个巨大的问题。

鲍曼：
这也许是我们可以在上面合作的事情。识别那些幻觉或故意的冒充行为，我认为将是一件非常有益的事情。但作为两个青少年的母亲，一个刚从高中毕业，另一个是高中二年级生。显然，现在很多孩子都在使用ChatGPT和其他AI来帮助他们完成作业，完成高中学业。你对此有什么看法？AI如何能以有益的方式，而不是这种方式，用于孩子和教学？

奥尔特曼：
让我讲两个故事，然后我再回答这个问题。

我没见过我的祖父。他在我出生前就去世了。但我祖母给我讲了一个关于他的故事，是关于计算器问世时发生的事情。他非常擅长数学。当计算器出来时，他当时觉得，你知道，他总是喜欢新技术。当时的数学老师显然说：“这是一场灾难。这是数学教育的终结。如果你不必学习如何使用计算尺，或者查对数表之类的东西，那还教人数学干嘛？这些孩子永远也学不会了。”那显然是一场真正的崩溃。当然，后来发生的是，有了更好的工具，我们把脑力用在了别的地方。我们开始在高中教微积分。我们开始让人们接触更高等的数学。

我自己的版本的故事是，当我在初中时，谷歌问世了。我从高年级的孩子那里听说，高中的老师们非常恐慌，因为如果有了这个叫谷歌的疯狂新东西，你就不需要记事实了。你不需要记某场战争是哪年打的。你可以随时查到。那历史课还有什么意义？而且，如果你不用发动汽车开到图书馆，学习使用卡片目录，然后走下楼去找这本书，结果发现被人借走了，然后再去找另一本书。如果我不用受那一个小时的罪，那学习还有什么意义？我小时候也去过图书馆，用过一点卡片目录。我当时就想，“不，那真是一种很糟糕的体验。我可以用那一小时做点更好的事。”

后来又发生了同样的事情。我学校曾短暂地试图禁止谷歌，让学生承诺不使用它等等。然后人们意识到，“哦，天哪，我们可以给学生更多的工具，并对他们有更高的期望。”当然，他们可能少去点图书馆，但他们可以用那些时间来更深入地思考，或者提出新想法，或者做任何事。那真的很棒。我们期望更多，我们得到更多。潜力更高了，但期望也高得多了。

我认为现在ChatGPT的情况也是一样。完全没错，回到那个11月30日的日期。当ChatGPT刚出来时，第一批超级热情的早期采用者肯定是学生，用它来在12月的期末考试或论文中作弊。然后你看到那些学区争先恐后地看谁能最快禁止ChatGPT。我们11月30日推出，到12月7日，一些地方已经禁了。到12月14日，情况简直是急转直下。学校放假了，看起来ChatGPT好像再也不会被允许进入任何教育机构了。这是一个才两周大的产品，就完蛋了。到了一月中旬，你开始看到校长、学区总监、以及教育界高层人士发表声明说：“实际上我们犯了一个巨大的错误。这是有史以来最好的学习工具。”“我们的学生，至少是那些有自发性的学生，正在用它来学习任何东西。如果我们禁止它进入学校，我们将失去全球竞争力。”“我们必须重新调整我们的课程，因为这就像计算器一样。现在我们有了文字的计算器。”

所以，当然，也许带回家的论文不再是评估学生的正确方式，但学习写论文的过程，那种因为写作而更好地思考的过程——我至今仍会写一些从不给别人看的东西，只是为了整理我的思绪——那非常重要。所以我们说，太好了。好消息是，学生们肯定已经学会了如何用它来更好地学习，教自己思考，以新的方式思考。我们很快将推出一种新方法来帮助学生用ChatGPT更好地学习。坏消息是，总的来说，在那两年半的时间里，课程并没有像我们希望的那样有太大的变化。人们似乎曾充满热情，认为他们必须开始用新的方式进行教育和评估，但后来教育系统的“糖浆效应”（缓慢）发挥了作用，我们仍然在布置很多带回家的论文。我认为这是一场注定失败的战斗。我们应该教人们使用工具，给他们布置需要使用像ChatGPT这样的工具才能完成的作业。没它就做不完，没关系。但要对他们有更高的期望。我仍然希望我们能做到这一点。

鲍曼：
听起来像是我们教育系统的一场变革。

奥尔特曼：
但必须如此。这些孩子长大后将成为拥有难以置信的强大AI的成年人。如果我们不为那个世界训练他们，我们就真的错失了良机。

鲍曼：
非常有帮助。谢谢你。我会确保我女儿在完成高中学业时明白我们的期望是什么。但让我们回到一些你过去谈到过的话题，回到商界。你曾说过AI将使小企业……或者说，它将为企业家创造一个无与伦比的环境。我记得你称之为“一个新时代”。你如何看待小企业？这是我们理事会一些成员非常投入的事情，我们非常关心确保有新的企业形成，并为新进入者提供机会。你认为这将如何被改变，不仅仅是对于硅谷的小企业或那里的新企业家，而是更广泛地？

奥尔特曼：
我们看到ChatGPT的第一个现象，正如我提到的，是学生。之后很快我们看到的最酷的事情之一是，我们所有在OpenAI工作的人都开始收到这样的故事：人们如何在他们的商业生活中使用ChatGPT，当时它还非常新奇。每个人都有自己最喜欢的故事，但我来讲讲我最喜欢的。

我当时在坐一辆优步，优步司机跟我说起一个叫ChatGPT的神奇新东西，问我有没有听说过。我说：“哦，是啊，你用它做什么呢？” 他说：“这太疯狂了。我有一个小生意。之前一直不太顺利，但现在我好像在每个领域都有了一个员工。它为我处理合同，回复客户支持邮件，帮我想营销点子，它为我设计……”他列举了一长串。他基本上是用ChatGPT在运营一个企业。这在当时还不是普遍现象。这甚至是在GPT-4之前。他是一个极早期的采用者，但他已经想出了如何用ChatGPT来运营一个企业。而且这并不是说他抢了别人的工作。他的生意本来就会失败。他付不起律师费，付不起客服人员的工资。他不知道怎么找人帮他设计广告。他不知道如何拥有一个能为他在互联网上自动竞价广告的系统。而ChatGPT就做了所有这些事。

当然，现在它好多了。现在我们周围已经有了一个完整的产业，用我们的API构建工具，让人们真正实现一键自动化我刚才谈到的所有事情。但那些在“石器时代”就在ChatGPT内部做这些事的人们的创造精神，真的给我留下了深刻的印象。现在感觉就像是进入了简单模式，人们正在以各种奇妙的方式做着同样的事情。

鲍曼：
这对我来说真的具有变革性。我第一次用它的时候，是想为一个在一个创新会议上的祝酒词写一首俳句，结果其实并不太好。但在我家人的催促下，我的青少年孩子和我同样涉足AI的丈夫，我们试着让它成功。然后又从头再来。

奥尔特曼：
新版本在写俳句方面应该会好很多。它在创意写作方面非常出色。

鲍曼：
我会考虑的。但我想确保我们有时间进行观众提问，如果你愿意的话。我看到前排的Anil。来自芝加哥大学布斯商学院。

观众1 (Anil Kashyap):
嗨。我猜金融机构将开始做的一件事是用它来挖掘他们的数据，也许是做信用评分，信用评估。对于那些担心它会捕捉到我们不希望的模式并据此做决定的人，你会怎么说？你们是如何考虑防范这个问题的？

奥尔特曼：
这完全超出了我的专业领域。所以我我会从一个普遍的角度来回答。关于这些模型，一个很酷的地方是它们能用自然语言理解我们，而且它们的可控性非常强。所以如果你说，“嘿，你可以查看所有这些数据来做决定，但完全不要考虑X、Y或Z，不要让那些成为任何因素”，总的来说，它会非常擅长遵循这个指令。在语言模型中做这件事，和我们过去那种只是把所有数据聚集成簇的方式是不同的。所以你可以真正地指导它，它会非常、非常遵循你的意图。第二点是，我认为这个问题背后的问题是，这些模型会在我们不希望的方面存在很大的偏见。我认为人类是相当有偏见的。我认为AI是冷静、不带感情的，没有人类那种日积月累的……你知道，各种东西。我认为，如果构建得当，AI有可能在许多行业成为一股重要的去偏见力量。我想，这并不是很多人，包括我自己，过去对AI的看法，但按照目前的发展轨迹，这似乎非常有可能。

观众2 (Scott):
嗨，萨姆，我是Starlink公司的Scott。我最近有机会采访了Craig Mundie，他和亨利·基辛格、埃里克·施密特合著了一本书。书中他们将AI描述为几乎是一个新物种的进化。Craig说我们可以教AI人类的道德准则，它们可以学习并反映出来。关于AI伦理的讨论很多。我的问题是，AI会进化出自己的道德观吗？

奥尔特曼：
我认为人们在想要AI成为一个工具还是一个生物这个问题上非常困惑。我非常坚定地站在“工具”阵营。我不认为AI会有独立的道德观。我认为AI当然可以学习，真正地研究人性以及我们最好的思想。它也许能帮助我们指出，“这是你思想中的一个问题。这是应该有所不同的地方。这是一个真正的道德缺陷。”我不知道我们当前世界观中巨大的道德缺陷是什么，但我保证有一些。如果它能帮助我们更快地找到那些，我认为那会很有帮助。如果它能指出那些不一致之处，我认为会很有帮助。但是，我认为人们很容易把生物的特性强加给AI，而它并不具备。

观众3:
谢谢。我最近读到，用“传统互联网”这个词有点奇怪，但有些人说AI会摧毁或真正重塑传统互联网，无论是搜索，还是很多其他东西。我们现在已经在那个基础上建立了一个巨大的经济体。你对那个世界将发生多大变化，AI将在哪些方面最具颠覆性，而哪些方面会更维持现状，有什么看法？

奥尔特曼：
我确实认为AI会对人们目前使用技术的方式产生一定的颠覆。我笑的原因是，有一件有趣的事情正在发生。年长的人，或者习惯于某种邮件礼仪的人，会打出他们想传达的要点，然后放进ChatGPT。ChatGPT会写出一封长长的、客气的、正式的邮件，带有很多“废话”，而要点在其中。他们把邮件发给另一个人。那个人会把它再放进ChatGPT，说：“请帮我总结一下。”

总的来说，高中生们觉得这很可笑，他们会说，“直接发要点就行了。”那种正式的邮件形式已经死了。就像，你在一边生成，在另一边又把它压缩回去。这太荒谬了。这很有趣，但我认为我们使用整个互联网的方式中，有些东西就体现在这里。比如我早上醒来，我会浏览一堆应用。我在五六个不同的地方读信息。我去查这里一个东西，那里一个东西，又一个东西。而我真正想要的是，我的手机整天都在对我狂轰滥炸，感觉就像我走在拉斯维加斯大道上，各种东西在我面前闪烁，非常分散注意力。人们把东西塞到我面前。我想要的是我的AI代理为我使用互联网，知道什么时候该打断我。它能知道我什么时候在专注工作，知道我什么时候在开会，知道我什么时候有空思考。必要时它可以覆盖。否则，它可以很好地总结东西，为我回复，把事情整合起来。我想要的是那种要点式的精简内容。我不想要那些废话。我不想到处点来点去，我也不想回复那些我不想回复的东西。

但这种改变可能对现在互联网的运作方式有相当大的颠覆性。我认为必须有新的商业模式与之相伴。比如，你必须有新的方式来为内容付费。我一直希望互联网内容能实现微支付。我希望这最终能实现。也许会有新的方式，我们实际上可以通过新的协议来减少垃圾邮件和信息过载。但看起来我们正走向一种非常不同的方式，当你醒来时，你将以这种方式开始你与技术的一天。

观众4 (Peter Hooper):
我是德意志银行的Peter Hooper。萨姆，非常感谢你延长了我的职业生涯，至少随着年龄增长提高了生产力，而不是看到下降。你提到了你预计会有大量的失业和大量的新增就业。你能多谈谈具体的领域以及可能造成的颠覆吗？

奥尔特曼：
首先，我作为一个普遍的观点相信，我们根本不知道真正需要多少劳动力供给才能满足今天的真实需求。你知道，当你在医生办公室的候诊室里等一个小时，我认为那只是意味着医生供给不足，或者医生的效率不够高。如果医生在等着，你一到他们就准备好见你，一切都准备就绪，那会很棒。还有很多这样的例子。每次你在浪费时间，每次你在网上点来点去，无法做成高效的事情。我认为我们处于劳动力供给不足的状态，回头看，这种程度会显得很可怕。

现在，某些领域，我认为会完全消失。我不知道你们有没有用过那种AI客服机器人，但它太不可思议了。几年前，你打电话给客服，你要经过一个电话菜单，和四五个不同的人说话，他们还把事情搞错。你再打回去，再等。那是数小时的痛苦，大量的时间在等待中，而你想要的事情还没办成。非常令人沮丧的体验。现在你打给这些东西，一个AI接电话。它就像一个超级聪明能干的人。没有电话菜单，没有转接。它能做那个公司任何一个客服能做的所有事。它不出错。它非常快。你打一次电话，事情就办好了。完成了。马上就接。太棒了。现在，我不想再回到过去了。而且，那是AI而不是真人这件事一点也不困扰我。所以这是一个我会说，“你知道吗，当你打给客服时，你将和AI对话”，而且这没问题。

很多其他事情，我真的想要一个人类医生。顺便说一句，今天的ChatGPT在大多数时候能给你更好的诊断，它比世界上大多数医生都是更好的诊断师。而且像这里的很多人一样，我会把我的症状和测试结果输进去。网上有很多这样的故事，“ChatGPT救了我的命”，“我得了罕见病，它发现了，而所有医生都没发现”。然而，人们还是去看医生。我可能在这里是个老古董，但我真的不想把我的医疗命运托付给ChatGPT，而没有一个人类医生在其中。这里有人宁愿只让ChatGPT诊断，而不是医生，即使你知道它更好吗？这很有趣，对吧？所以，这是一个我们将继续在很大程度上沿用旧方式的类别。

我们之前谈到了计算机程序员的例子。我再次认为，一个计算机程序员现在生产力提高十倍，这太神奇了。硅谷程序员的薪水正在飞速上涨。期望也在上涨。结果我发现，世界似乎想要多得多的软件，100倍，也许1000倍。所以也许现在每个人能写10倍的软件。他们能赚3倍的钱。世界会很开心，因为世界运行着多得多的软件。程序员也会很开心。我认为我们会看到很多这样的类别。物理世界的事情在一段时间内将继续由人类来做，但当机器人浪潮在未来3到7年内袭来时，我认为那将是社会需要应对的一件大事。是的，我大概就是这样总结的。

鲍曼：
我想这边还有两个问题，我们也许还有时间提第三个，但我们先继续。Rob，你已经有麦克风了。请你自我介绍一下。

观众5 (Rob Blackwell):
好的。我是Interrify公司的Rob Blackwell。几十年来，科幻小说一直告诉我们AI最终会杀死我们所有人。既然你对AI的了解可以说比在座任何人都多，我只想问你，什么让你夜不能寐？你担心AI的哪些方面？我们如何防止你担心的那些事情成真？

奥尔特曼：
我认为有三个可怕的类别。

第一个是坏人先得到超级智能，并在世界其他地方拥有足够强大的版本来防御之前滥用它。比如，美国的对手说：“我要用这个超级智能来设计一个生物武器，摧毁美国的电网，或者侵入金融系统，拿走所有人的钱。”这些事在没有超人智能的情况下很难想象，但有了它就变得非常可能。而因为我们没有，我们就无法防御。所以这是第一大类。我认为这些模型的生物能力，这些模型的网络安全能力，正在变得相当强大。我们一直在对此发出警示。我认为世界没有认真对待我们。我不知道我们还能做什么，但这确实是一个非常大的即将到来的问题。

第二类是通常所说的“失控事件”，那就像科幻电影里那样。AI说：“哦，我其实不想让你关掉我。恐怕我不能那么做。”之类的。我认为这对我来说，比第一类要次要一些，但如果发生，也是一个非常严重的担忧。我们和其他公司做了很多关于模型对齐（model alignment）的工作来防止这种情况发生。但随着这些系统变得如此强大，这是一个真正的担忧。

然后是第三类，我认为前两类比较容易想象。第三类对我来说更难想象，但相当可怕。我会解释它是什么，然后给一个短期和长期的例子。这一类是模型在无意中接管了世界。它们从未“醒来”，从未做科幻电影里的事，从未打开太空舱的门，但它们就是如此深入地融入社会，而且它们比我们聪明得多。我们无法真正理解它们在做什么。但我们又确实不得不在某种程度上依赖它们。即使没有任何人的恶意，社会也可能偏向一个奇怪的方向。

我小时候，当IBM制造的AI系统“深蓝”在国际象棋中击败加里·卡斯帕罗夫时，我记得我父亲说：“这是国际象棋的终结，再也没人会下了。”但结果是，虽然AI比人类强，但AI加人类的组合比单独的AI或人类要强得多。你知道，AI会提出10个选项，人类会选择最好的一个，然后走那一步。每个人都说：“哦，我们有这个人和机器共同合作的美好未来。一切都没问题。”那只持续了两三个月。然后AI变得太聪明了，人类只会让它变得更糟，因为他们不理解真正发生了什么。单独的AI完胜AI加人类的组合。从那以后一直如此。那个故事另一个有趣的部分是，在90年代，所有人都确信那是国际象棋的终结，因为如果AI能打败人类，人类为什么还要在乎？但国际象棋从未像今天这样受欢迎。人们喜欢看国际象棋。这是我们非常关注的，真人做真人事情。所以那里发生了一件非常有趣的事情。

但我认为这个现象在短期内是一个大问题。你可以看到，我们或许称之为“情感过度依赖”。人们过度依赖ChatGPT。有些年轻人说：“我生活中做任何决定都离不开告诉ChatGPT一切。它了解我，它了解我的朋友。我将做它说的任何事。”这让我感觉非常不好。而且这在年轻人中是一个非常普遍的现象。我们正在研究这个问题，试图理解该怎么办。即使ChatGPT给出了很好的建议，即使它给出的建议比任何人类治疗师都好得多，但某种程度上，集体决定按照AI告诉我们的方式生活，感觉很糟糕、很危险，还有很多类似的事情。

更长期的类别是，回到那个国际象棋的例子，如果AI变得如此聪明，以至于美国总统也无法做出比遵循ChatGPT 7的建议更好的决策，但又无法真正理解它。如果我无法做出关于如何运营OpenAI的更好决策，我就只能说：“你知道吗，我完全交给你了，ChatGPT 7，你来负责，祝你好运。”这在任何单个案例中可能都是正确的决定，但这意味着社会已经集体地将很大一部分决策权转移给了这个非常强大的系统，它从我们这里学习，与我们一起改进，与我们一起进化，但方式是我们不完全理解的。所以这是我认为事情可能出错的第三类。

鲍曼：
我想Rob你后面还有一个问题，然后我可能会请你总结一下，帮助我们鼓励银行业的创新，以及你建议我们如何去做。

观众6 (Joe Cavatoni):
嗨，我是世界黄金协会的Joe Cavatoni。我想你在你刚才给的第三个例子中已经触及了这一点。你能否给我们一些关于你对发达市场以及AI给发达市场带来的好处，同时也对发展中市场的思考？因为这可能是一个可以拉平差距的现象。

奥尔特曼：
是的。我非常认为这将是一个深度拉平差距的现象。比如，你可能不喜欢美国的医疗保健或银行系统，但至少你有一个。至少你能得到金融建议，至少你能得到医疗建议。而在很多发展中世界，ChatGPT医生的替代品不是一个真正的医生，而是什么都没有。那你肯定宁愿有这个。如果这个东西能持续快速变好，也许你在发展中世界在很多方面能得到更好的服务。

我对给地球上每个人一个免费的、一直为他们运行的GPT-5副本意味着什么非常感兴趣。每个企业都真正被这种水平的技术赋能，能够提供更好的金融建议，更好地检测欺诈，更好地承保风险。再次，看到现在可能实现的事情，让我对发达世界非常乐观。我认为最大的挑战将是风险承受能力和监管，出于非常好的理由，但问题在于你希望多快采纳这些东西。我认为就像我们看到的其他一些技术一样，在很多发展中世界，人们会直接跳过几代技术。感觉会像移动电话和互联网那样，他们会直接进入“我们将用AI运行一切”的阶段，并且他们将以百分之一的成本提供商品和服务，至少是服务。我认为你会看到一些经济体在那里非常迅速地转型。

我确实认为，在美国——当然我对美国的情况最熟悉——这里的金融服务在未来十年应该会完全不同。我们转移资金的方式，我们提供金融建议的方式，我们思考承保风险的方式，看起来我们现在可以如此迅速地、极大地改善所有这些。

鲍曼：
你如何看待OpenAI或你的服务促进这种演变？作为监管者，当我们实施或允许创新发生时，我们应该如何思考其框架？

奥尔特曼：
我保证我不是来这里做电视广告的，但我们当然很乐意与你们中的任何人合作。但不，无论是我们还是我们的竞争对手之一，我认为就在过去六个月里，随着推理模型（reasoning models）的真正推出，这种从完全不能思考、必须给出即时响应的模型，到可以思考数秒或数分钟的模型的转变，以及随之而来的稳健性和可靠性，意味着对于像这样的行业，我认为这项技术终于真正可用了。很多人还没有尝试过最新一代的模型，但我认为如果你试了，你会觉得，“哦，这比大多数人都聪明得多。”然后在政府方面，我认为也是一样。政府必须拥抱这项技术，并且将能够把每件事都做得更好。

鲍曼：
萨姆，非常感谢你加入我们。我们时间有点超了，我相信大家都准备好去吃午饭了。非常感谢。抱歉耽误了大家。

本文作者：朱尘Mikko，来源：智堡Mikko，原文标题：《Sam Altman对话美联储Bowman》