阿里云大模型“掘金”

提效。

作者 | 柴旭晨

编辑 | 周智宇

大模型玩家已然进入“抢收时刻”,开启寻找行业场景的落地竞速赛。

5月24日,阿里云的一站式金融场景开发平台“通义点金”迎来升级,提供了丰富的金融场景模板及专业插件。

作为通义家族的一员,“通义点金”最初定位偏向C端的“智能投研助手”,升级后的2.0版本不仅丰富了大模型在金融行业的场景落地,更进一步向B端拓展。

对于金融模型平台的持续迭代,阿里云所看中的,是金融行业背后诱人的想象空间。

麦肯锡指出,生成式AI能够进一步拓展金融业的“价值池”。仅以银行业来看,将会为全行业带来2000亿-3400亿美元的新增价值。

事实上,在数智化浪潮的席卷之下,银行与券商面临着强烈数字化转型需求。业内人士称,“现在银行到处找场景、信贷需求、好的资产,内部很内卷,谋求突破的欲望很强”。

阿里云智能集团副总裁张翅向华尔街见闻透露,金融行业的客户非常积极,“明天的会议报名的人非常多会场装不下”。阿里云内部人士指出,金融行业贡献的收入,占据云业务不小的分量。

张翅表示,这背后正需要有一个平台,影响到整个IT所有上下游链条,让大家能在一个总的轨道方向上去做。“金融行业不可能只选一家就把算力、到模型、到工具到业务全干成,而阿里云想在中间发挥关键价值”。

拿来即用的“通义点金”就是阿里云祭出的大杀器。“金融机构不再需要关注数据库、云的原理,只需要关注贷款、进阶的流程,真正将时间花在业务应用场景的价值优化上。”张翅直言,“自带干粮、自搭平台、自建工具对他们来讲会非常有挑战”。

倘若大模型在金融行业得以成功落地,阿里云在AI+公有云的模式就将迎来商业化的正循环。

因为在张翅看来,中国的软件和IT发展容易割裂,过去国内SaaS市场也没有成功。但随着大模型应用业务场景的价值呈现出来,API产生了新的SaaS模式,以及新的平台经济。

不过,相比其他领域,金融行业对数据安全、隐私合规、时效性和准确性都有着极为严苛的要求,这注定了金融大模型的应用落地面临着多重阻碍。阿里云该如何面对?

以下是与阿里云智能集团副总裁、新金融行业总经理张翅的对话实录(经编辑):

问:“通义点金”版本有2.0版本更新核心的变化是什么?

张翅:“点金”过去是在模型语料数据里面做了增强,今天更多是在AI native(金融级AI原生)应用这一层做了很多金融级的增强。之前金融行业的通识在模型里,你问“点金”融相关的问题它就是在胡说八道,今天你能回答得相应比较专业了。

金融级AI原生,就是专为满足金融行业最严格需求,而设计和优化的AI系统和应用,不仅在技术层面上高度先进,还在安全性、可靠性、可扩展性和合规性等方面达到了金融行业的高标准,让大家在开发的时候回归到真正基本的业务逻辑和模式本身。

我们希望做成大模型以API为核心的方式,能够做更多的开放和合作,我们希望不要在这个领域大家各自搭一套,你有好业务应用场景就可以组合进来。

问:大家都在说2027年大模型应用会加速落地到各个行业,对比其他行业,金融行业在整个大模型应用的接受程度是怎样的状态?

张翅:代码大模型是现在金融机构落地案例最多的,因为金融行业也是开发密集型的。像这种领域接受度非常高,因为细分场景很多,包括客服、投研投顾、保险的核保核赔、内部的合规。

问:大模型金融产业的情况是属于方兴未艾还是马上就会爆发?

张翅:我觉得马上要爆发,大家最关键的挑战是算力短缺、模型选择困难,这两件事很快在今年会有改善。

为什么此时发布“点金”?因为商业的模型越来越成熟,算力在转入到以推理、应用大模型为主的时候,都不会是最大的问题了。我觉得爆发就是等着有足够多的大模型应用出来,相应的金融行业场景,就会在每个领域都出现。

问:阿里云这次发布的大模型,能营收层面、销售层面,会给金融机构带来什么样的价值?

张翅:大模型不是万能的,没法通过一个通用人工智能的方式就把金融行业的需求都解决掉。我们希望有更多的大模型应用出来积沙成塔,需要更加多场景组合后,可能才会有相应的化学反应。

金融行业的客户这么多,但在细分领域,大模型要跟现在很多银行原来数字化的平台、云原生的平台、数据中台做一个融合,这样才能更好地发挥价值。

原来做数字信贷,可能会有做相应的营销决策,哪些产品投放什么人群,很难真正在恰当的时机真正知道这个人是不是有贷款或存款意愿,割裂感很强。但大模型在中间,能把原来零散的内容,通过推理、理解决策能力做提升。

问:在大模型业态里面,企业可能会遇到的挑战有哪些?

张翅:原来很多金融机构的人喜欢自己打造自己的轮子,却没有真正花时间去把业务应用场景的价值优化。

我不希望行业为了大模型这个事情要买卡、要囤人、要储备数据,花80%的时间在做基础准备工作,去搭平台、搭地基、搭工程的工作。

对于金融机构而言,阿里云的“点金”平台上已经有很好的形态和模板,不需要零敲碎打的调试,可以先试试是不是符合你的场景,然后再把这部分内容用私有化的方式去本地优化部署。

另一方面,对于金融机构来讲如何选择是最难的,而不是能跑起来大模型的业务应用。他们选了这个组件、那个模型、这样的平台,发现别人做了更好的。还有很多不确定性的变化,技术迭代又非常快。

这是我们在云厂商一层一层去屏蔽这种架构和技术复杂性的时候要做的事情。背后的选择都是基于技术价值、市场价值。

问:金融行业因为一些合规性上的要求,可能会更倾向于私有云,现在阿里云在开源的背后更强调的是公共云的建设,这两个怎么去做更好的结合?

张翅:私有云的问题是必须要面对的,但在大模型的环境下会有一个混合架构。

大模型有训练、开发、推理、运行这几个状态,训练大家基本上很难做了,它对能源和网络要求非常高。

我们发现很多金融机构要从底到上挖算力、调模型、做工具框架、做模型服务、开发应用,需要的人力、时间成本投入是非常大的。在算力的短缺的情况下,推荐开发、测试、验证基于公共云平台去做,至少开发大模型应用没有必要重新搭一套。

在实际运行本地现在很多模型的量化能力,可能也能够支持在一些小的算力上把推理跑起来。但金融行业很多都需要千亿以上的模型,现在很多国产的GPU芯片要跑起来也有很多挑战,我们也在不断优化。

问:现在大模型厂商挺多的,各个金融科技公司都在做大模型,阿里云的优势是什么?

张翅:我发现在很多金融机构先跟OpenAI做了场景对接优化,之后再去找私有化大模型,包括一些保险公司的核保也一样,它会把一些脱敏的东西变成数据,灌到OpenAI里面去。

与其这样,那为什么不用我们国产大模型和云平台来做这件事情,我们还能做得更多,因为OpenAI并没有提供真正那么好的。它也有一些简单的框架工具,但不完全符合金融级的要求。

我们的大模型能力是可以在我们的电商、物流、蚂蚁金融里面做很多锤炼的。所以我们本身大模型能力,也是自身内部业务实践能力的积累。

同时我们有人才优势、数据优势。最早我们追赶OpenAI,72B出来就已经开始能够跟人家匹敌。因为模型训练有非常多环节要做,不光靠机器,还要靠人。“有多少人工,就有多少智能”,需要这些科学家在模型训练的领域不断试错才能实现。

问:最近大模型都在打价格战,行业的头部效应是不是会更集中?阿里云作为大厂,怎么做应用层面的差异化打法?

张翅:我们会更强调行业的应用,那个更多是吸引头部机构的规模效益。对于我们来讲,我们的差异化就是有没有行业差异性。

未来对应商业模式来讲,不光是我们自己,也包括跟我们合作的大模型提供商,他们真正去提供的时候,有一些行业能力的溢价,比如金融级的知识增强,我们已经把成本打成这样了,他们去做设计和开发的时候,成本就更低,能够真的影响行业市场更多高价值的部分,就能够更好地体现出来。

问:现在像商汤、华为云、阿里云,很多巨头在跟金融机构进行合作,大家这种合作竞争未来的可能性有哪些?

张翅:金融大模型目前我们都是足够开放的,比如Mini-max、Kimi在我们的工具框架里面,客户是可以选的。

算力的层面是最挑战的,英伟达有自己的护城河和优势,我们也在发展自己国产的芯片,但投入、兼容、适配的成本非常巨大。

选择更多的是站在公有云的规模视角,大模型自己要去挑卡,选择的时候要跑的速度、效率、成本最优的情况下去选择。很难为了某一个金融机构的客户做整体的内容优化。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
相关文章