正在直播：Altman登场演讲！ 2023北京智源大会- AI安全与对齐论坛
作为全球AI大佬齐聚的人工智能巅峰盛会，由北京智源人工智能研究院主办的2023北京智源大会于6月9-10日在北京召开，华尔街见闻在App、微博和微信视频号同步进行直播。
Sam Altman：更多开源没有时间表，不会很快有GPT-5
OpenAI联合创始人Sam Altman在演讲中表示，需要国际合作，在安全部署人工智能（AI）方面建立全球信任。他提出三种方式：
Altman表示，中国应该在人工智能安全方面发挥关键作用：
“随着越来越强大的人工智能系统的出现，全球合作的重要性从未如此高......中国拥有一些世界上最优秀的人工智能人才，从根本上说，鉴于解决先进人工智能系统对齐的困难，这需要来自世界各地的最优秀人才。”
问答环节：
智源研究院理事长张宏江提问：我们距离通用人工智能（AGI）还有多远？
Sam Altman：这很难评估具体时间。很可能未来十年我们会有非常强大的AI系统，新技术从根本上改变世界的速度比我们想象的快。
张宏江：您刚才在前期的介绍中也提到了几次，正在进行全球合作。我们知道，在过去世界面临着相当多的危机。不知何故，对他们中的许多人来说，我们设法建立了共识，建立全球合作。你也在进行一次全球巡演，你正在努力推动怎样的全球合作？
Sam Altman：是的，我对到目前为止大家的反应和回答都非常满意。我认为人们非常认真地对待AgI的风险和机遇。
我认为在过去的6个月里，对于安全的讨论已经取得了相当大的进展。人们似乎真的致力于找出一种结构，让我们能够享受这些好处，同时在全球范围内共同努力降低风险。我认为我们非常适合做这件事。全球合作总是困难的，但我认为这是一种将世界团结在一起的机会和威胁。我们可以为这些系统提出一个框架和安全标准，这将非常有帮助。
张宏江：关于GPT-4和AI安全的后续问题。我们是否有可能需要更改AGI模型的整个基础架构或整个体系结构。为了让它更安全，更容易被检查.
Sam Altman：无论是从功能角度还是从安全角度来看，我们确实需要一些非常不同的架构，这是完全可能的。
我认为我们将能够取得一些进展，在解释我们目前各种模型的能力方面取得良好进展，并让他们更好地向我们解释他们在做什么以及为什么。但是，是的，如果在Transformer之后有另一个巨大的飞跃，我不会感到惊讶。自从最初的Transformer以来，我们已经改变了很多架构。
张宏江：OpenAI会开源大模型吗？
Sam Altman：我们未来会有更多开源大模型，但没有具体模型和时间表。
张宏江：AGI和大模型的下一步是什么？会很快看到GPT-5吗？
Sam Altman：我也很好奇，我们没有答案。我们不会很快有GPT-5。
Stuart Russell：我们还没达到AGI，ChatGPT和GPT-4没有在“回答”问题
在2023北京智源大会上，加州伯克利分校教授Stuart Russell表示，通用人工智能（AGI）还没达到，大语言模型只是其中一块拼图，我们连拼图最终会是什么样子，缺哪些还不确定。他表示，ChatGPT和GPT-4没有在“回答”问题，它们不理解世界。
