Sora加入Adobe全家桶,视频改图加戏样样行

机器之心
基于 Adobe 自己的大模型 Firefly 的能力,可以在视频素材上直接添加或减少内容,转场时感觉少点烘托背景的镜头,用 OpenAI 的 Sora 可以自动生成一段。

Adobe 全家桶马上就要拥有最先进的生成式 AI 视频创作能力了。

今天,Adobe 宣布了 Premiere Pro 全新版本的更新计划。其中包含为第三方 AI 视频生成模型添加插件,不论是 OpenAI 的 Sora 还是 Runway 的 Gen-2 和 Pika,很快都将出现在 Adobe 工具体系中可被人们所用。

现在,基于 Adobe 自己的大模型 Firefly 的能力,你可以在视频素材上直接添加或减少内容。

转场时感觉少点烘托背景的镜头?现在用 OpenAI 的 Sora 自动生成一段就行了。

Sora 可以在每次 API 调用中为自然语言提示创建最多三种视频变体。

新工具也可以用来「凭空延长」已有镜头内容的长度,不过这一部分似乎不受提示词的控制。

自今年 2 月 OpenAI 推出 Sora 以来,我们一直只能看官方在 TikTok 账号里放 AI 生成视频的 demo,真正的工具还是在「即将发布」的状态。现在新版 Adobe Premiere Pro 都亮相了,可能预示着新技术马上即将落地。

对于 Adobe 高达 3300 万的 Creative Cloud 付费用户群体来说,这更是一件大事,它可能会带来设计领域最彻底和革命性的变化。

有了这一功能,Premiere Pro 用户将能够编辑和处理传统摄像机捕获的实景视频以及 AI 素材并与之混合。想象一下,拍摄一个演员表演逃离怪物的场景的视频,然后用人工智能生成这只怪物 —— 这一步不需要道具、服装和演员,而两个视频片段可以在同一个编辑器中访问并组合在同一个视频文件中。

对于使用更成熟的流程(从计算机到手绘帧)创建的动画也是如此,这些动画可以与 Premiere Pro 上同一文件中匹配的 AI 素材混合。

值得一提的是,从 Adobe 的演示里,我们再次看到了 OpenAI 的 Sora 和其他类似产品存在代差 —— 其生成的视频效果要比其他可用工具要好很多。

与 Adobe 之前发布的许多与 Firefly 相关公告不同,这一次新视频生成工具尚未确定发布日期,Adobe 只是表示它们将在今年推出。

引入第三方先进 AI 大模型对于视频处理来说属于面向未来的探索。据 Adobe 称,这一想法旨在为 Premiere Pro 用户提供更多选择。Adobe 还表示,其内容凭证标签可以应用于这些生成的剪辑,以识别使用哪些人工智能模型来生成它们。

Adobe 的 Premiere Pro(PR)自 1991 年底首次发布 Mac 版以来,一直是世界上最受欢迎的视频编辑程序之一,如今已被世界各地的主要好莱坞电影剪辑师和独立电影制作人使用。它即将迎来一场其 33 年历史上从未有过的革新。

需要注意的是,Adobe 尚未确定何时将这些第三方 AI 视频生成器集成到 Premiere Pro 中,而且细节似乎还没有完全敲定,许多第三方工具在发布后都需要付费订阅。

此外,Adobe 还使用自己内部的生成式人工智能产品(如 Firefly 和 Generative Fill 等),强调其模型是根据其拥有或已获得许可 / 有权使用的数据进行训练的,例如 Adobe Stock 创作者贡献的内容(尽管这令一些 Adobe Stock 摄影师和艺术家感到懊恼)。

Adobe 加码生成式 AI

Adobe 专注于多媒体创作和创意软件产品,在生成式 AI 技术爆发后,这家公司不甘落后快速加入了战局。

上周,据彭博社报道,Adobe 在竞争对手 Midjourney 生成的一些图像上对 Firefly 进行了训练,Midjourney 本身基于开源 AI 模型 Stable Diffusion,在公开抓取和受版权保护的网络数据上进行训练。

今天,Adobe 宣布 Firefly 文本到图像生成模型的一个版本将在「今年晚些时候」集成到 Premiere Pro 中,从而提供一套全新的「生成式 AI 工作流程」及功能。

例如,「生成式扩展」功能将让视频编辑和电影制作人「无缝添加帧以使视频剪辑更长」,而无需拍摄任何新的镜头,这可能是一个非常有用且省钱的功能。Adobe 还表示将让视频实现更平滑的过渡,例如将过于突然结束的剪辑延长,以在某个时刻或动作上停留更长时间。

Firefly for Video 还将确保 Premiere Pro 用户可以执行智能「目标检测和移除」功能,本质上是突出显示视频中的对象(道具、角色、服装、风景等),并允许 AI 模型跨不同帧跟踪它们。同时,用户还可以利用生成式 AI 将这些对象编辑为新对象,快速更改角色的服装或道具,甚至跨多个剪辑和摄像机角度完全移除对象。

最后,Firefly for Video 还将附带文本到视频图像生成器,使其可与 Sora、Runway、Pika 和 Stable Video Diffusion 相媲美。

尽管目前还只是预览版,但 Adobe 针对 Premiere Pro 提供的新一代 AI 集成功能已经赢得了电影制作人和社交媒体创意人士的掌声。

「这对我的真人电影工作非常有帮助」,导演 Kevin K. Shah 说道。

本文作者:泽南、小舟,本文来源:机器之心,原文标题:《Sora加入Adobe全家桶,视频改图加戏样样行:PR大更新预告》

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。