通用人工智能技术——开启人工智能的“iPhone时刻”？

这次课程我分享的课题是AI时代的科技创新范式，想更多结合我的一些研究方向和成果来讲。市面上大家在讨论人工智能大模型的时候，好像认为是很短时间内横空出世的成果，其实并不是这样。

首先做个自我介绍，我大概是2011年入行的，2011-2017年都在百度工作，那时候百度发展很快，邀请到原谷歌的首席科学家Andrew Ng，吴恩达到百度做首席科学家。大家可能有印象在2015年的时候，谷歌3位很著名的华人学者，一个是李飞飞，现在到斯坦福做首席了，第二个就是吴恩达，当时在谷歌工作，还有一个是华人企业家黄仁勋，做NVIDIA芯片、GPU芯片。他们当时最大的事件是做出了什么呢？做出了大家了解的，在ImageNet上，用机器学习的方式，以超过人眼的识别能力更好识别图片。

在那一波浪潮中商汤科技起来了，以商汤科技为代表的中国AI企业，包括相应的AI创新浪潮起来了。那两年还有一件很重要的事情，就是AlphaGo，下围棋的事情起来了。但是这些时间节点，恰好位于1980年的杰弗里·辛顿（Geoffrey Hinton）做出了相应的算法研究，反向传播了神经网络算法，带来第三次人工智能创新。这是第一个想讲的，人工智能创新的历史不是割裂的，而是有连续性的。

第二点是我自己做的研究，大家看到以交叉学科居多。一个可能涉及到具体技术，比如说AI与区块链智能，包括我正在做的一本大模型的书，都是偏技术的。《测算与判断》这本书是斯坦福语言与哲学的主任创始人所著，我负责翻译到中文，其中我们都可以看到技术导致的创新模式的变化。

光了解技术本身的发展是不够的，去年我们做了一个研究叫《黑镜与秩序》，它的副标题叫“AI伦理与治理”。谷歌或者国内的比如商汤等公司，大家都来做科技伦理的制定。为什么要做这个工作？就是以大模型为代表的或以人工智能技术为代表的技术快速发展，推动了相应政策监管领域的发展。比如上周开始出现的AIGC监管意见，以及几年前人工智能技术出线以后所出台的一系列监管政策。人工智能快速融入社会经济系统，导致需要去关注它的伦理和治理问题。

交叉学科很重要。有个很重要的问题我们可以先提出来，为什么这一轮人工智能是通用人工智能？有了这个以后，现在的创新模式有什么样的变化？

第三点我想讲的是产业经验和学术经验的结合。最早我在百度出道，工作几年后去了中国科学院自动化所做相应的研究工作，然后再回到企业，产学结合几乎就是成了一个比较好的创新方式。最近大模型中其实有两股力量，国内第一个当然是企业做创新，不同的企业说做了ABCD各种大模型；第二种是学术机构，比如清华的朱文武老师团队，复旦的邱锡鹏老师团队，做MOSS，包括多模态扩散模型，学术机构在国内的生态中更多承担了像国外开源社区那样的工作，把相应技术研发出来做开源，让更多的人可以去使用。

这时候就要求我们有学者学术研究的经验，然后去看产业和学术之间的一些关系，这也是我们接下来的一个重点。打个比方，比如商汤做的好，一部分因为创始人是香港中文大学的学者汤老师，带领学生、科学家等从学术机构出来的专家做创新。那么这一轮创新，我们称之为基础研发的创新，跟学术和产业的结合有很大关系。

基于这一点，今天我也不作为一个特别的领先专家，来告诉大家ChatGPT或相关技术怎样，而是和大家一起探讨分享。这个技术已经来了，我们来分析它在人工智能创新过程当中的逻辑和节点。这是第一点我想说的事情，了解人工智能技术为代表的创新浪潮，并且了解从过去到现在技术是怎样发展的。

第二个想跟大家分享的，就是从产业、技术层面做一些跨学科的探讨。因为很多研究都仅限于技术本身，而不是从各个领域都去探讨。我们会看一下，它对各个领域的影响，做投资很重要一点就是认知能力要超过其他人。投资本身是在比认知能力，所以我们看这个框架，生成式AI其实是讨论几个认知能力的问题。

第三个我想讲的跟具体企业相关。现在我在实验室工作有一个好处，就是能够比较客观的去评价各个企业的技术情况，如果身在其中，做出的判断可能会或多或少带有一些主观倾向，到学术机构则能比较好的说明技术情况，有一个基本判断。

毫无疑问的，从去年11月底OpenAI宣布了ChatGPT的相关技术以后，我们已经在技术上、方向上、创新上落后了一代。那落后一代的意思是至少2-3年，甚至3-5年的时间。基于这个判断，后面我们会再看每家企业做的怎么样。我不是一个愿意虚与委蛇跟大家讲一些做得很好的内容，或者说大家在技术上做的多创新，可能带有一种批判的眼光跟大家分享实际情况怎样。

作为学者来说，我有一个结论，国内的技术、科研能力，尤其在NLP、大模型上落后很久，包括创新的环境跟国外确实不太一样。我们确实有很多需要去追赶，或者是需要做得更好的地方。我想拿掉遮羞布，跟大家分享一些实际情况。

综合三个内容来说，第一是从技术发展讲大语言模型的情况，会放在人工智能变迁史上。第二是讲生成式AI的相关技术和创新点到底在什么地方，我最近也跟很多投资机构、产业企业聊了一下，他们有很多应用的方向，也会讲到国外现在的情况。第三是讲讲国内的一些企业创新以及跨学科的研究成果。刚才我进台之前还在跟出版社交流，他们理解到了在法学领域，人工智能大模型的出现会应用在司法、数据安全、风险控制等各个领域，他们也希望出版相关的专著来说明情况。

人工智能技术或者说大模型为代表的通用人工智能技术的出现，开启了一个新时代。这个时代不是机器代替人的时代，这是人和机器高度协同的时代，这也要求我们要有能力与机器协同。我们要能了解它的原理，理解它的应用，把它放在工作生活中，我们就往前走，如果没有这样的能力，很有可能会成为被替代的那一方。这不是制造焦虑，而是现实。我只举一个例子，在GPT-4开放之后，我在家里搭了GPT-4，天天在用。我发觉在使用过程中，如果有好的promote，提示词工程，可以让它代替我完成绝大多数搜寻、查找、整理思路等工作。

举一个例子，比如我要写一篇交叉学科的论文，最近写大模型的书。全球来看，做大模型有一个关键问题就是怎样去衡量大模型的能力。比如你问我BAT哪家强，商汤或者国外哪家强，模型怎么样衡量，有一个研究是关于神经网络的叫神经标度律，我说请以神经标度律为参考系数，告诉我全球的大模型研究技术的特色分别是什么，达到了什么水平，至少给出3个逻辑和理由，给出的每个逻辑理由下要引用Nature或者IEEE的三篇顶刊论文。这对个体的要求很高，如果要去查找，按照原来的经验，其实还要做好几天工作，因为我们要搜寻所有的paper，但它只用1分20秒就告诉我们相关情况，我再根据这个东西写研究成果。我想问大家，如果生活中没办法用到这么好的技术能力，或者没办法跟它深度协同，当然我不只指GPT，如果我们不会使用，那您跟旁边会用的同事或相关的产业专家相比，已经有差距了，他们带着AI在竞争，这是一个基本问题。

最后再补充一下，刚才我提到了2015年AlphaGo出来以后把柯洁打哭了。我在b站关注了柯洁的账号，他经常去直播。在AlphaGo时代后，柯洁的优势变低了，因为在那之前他是八冠王，之后申真谞等人超过他了，通过跟AlphaGo天天打，能够将能力快速提高，甚至超越了柯洁。有人问柯洁是什么想法，柯洁说实际情况是这样的，他认为机器人工智能出来，他有两点思考。第一是不可能有人在基于逻辑推理下围棋这件事情上战胜AI，这也是所有棋届都承认的问题，也就是说围棋真正从带有神秘主义的博弈游戏变成了一个游戏。第二点，跟AI深度合作并大幅度提高棋艺这件事成了围棋界的共识。所以我们现在看围棋的博弈，旁边有一个对弈指数，AI不断帮我们判断下这步棋到底是好棋还是坏棋，越贴近AI算出的数据，就越有可能取胜。

接下来也是这样的，其实没有一个完全正确的答案。比如AI通用人工智能时代会发生一件事，就是我们可能没办法做每一个正确的决定，但AI会帮我们做策略，给出可能的正确决定1、2、3条，至少我们要知道这些判断的存在，然后由人进行判断。其中很核心的点是有人问工作会不会被AI取代，当时我说了这一点，人可以被取代很多事情，比如具体的工作等，但有一点不能被取代，通用人工智能时代负责任这件事情没有办法取代。例如我们做自动驾驶汽车，假设它可以做到100%的自动驾驶，但如果出了事故，人要帮它背锅。

但再往上一层说，其实人的一个作用是帮助AI做判断，以人的价值观做判断，这是很重要的。所以待会我在说一些产业应用的时候，讲的很多层面都是功能性替代，替代了我们在做这件事情的功能和效率，实质上还有一层意思，就是人在这个过程当中提供的价值判断和逻辑能力到底起什么作用。

我们开启的是一个人和人工智能深度协同的AI大时代。以上本期课程的主要内容，关于课程内容有什么问题或建议欢迎留言。我是刘志毅，我们下期再见。