极客号（Daydx.com）5月29日 消息:虽然像Runway ML这样的公司在将文本转换为视频方面取得了长足的进步，但 VideoChatGPT却另辟蹊径，赋予语言模型分析视频的能力。Video-ChatGPT 可以用文本描述视频的内容，例如，通过突出显示不寻常的元素来解释为什么剪辑可能很有趣。
开发人员通过一段长颈鹿从跳水板上跳入水中的视频来演示这一点。Video-ChatGPT 指出:“这并不常见，因为长颈鹿并不擅长杂技或潜水。”
链接到开源语言模型的预训练视频编码器
研究人员将 Video-ChatGPT 的设计描述为简单且易于扩展。它使用预训练的视频编码器，并将其与预训练然后微调的语言模型相结合。
尽管名称如此，阿布扎比穆罕默德·本·扎耶德人工智能大学的项目并未使用 OpenAI 技术。相反，研究人员嵌入了一个线性层，将视频编码器连接到语言模型。
除了要求特定任务的用户提示外，语言模型还会使用定义其角色和一般工作的系统命令进行提示。
人机增强数据集
研究人员结合使用人工注释和半自动化方法来生成高质量数据，以微调 Vicuna 模型。这些数据的范围从详细描述到创造性任务和访谈，涵盖了各种不同的概念。
总的来说，该数据集包含大约86，000个高质量的问答，一些由人类注释，一些由 GPT 模型注释，一些由图像分析系统的上下文注释。
Video-ChatGPT 的核心是其结合视频理解和文本生成的能力。它在视频推理、创造力和对时间和空间的理解方面的能力已经过广泛测试。
多模态人工智能未来
在最近文本生成取得重大进展之后，OpenAI 和谷歌等公司正在转向多模态模型。Bard 理解并可以对图像做出反应，并在其正式发布时展示了这些能力。
从图像到移动图像将是下一个合乎逻辑的步骤。谷歌已经宣布开发一款将于今年晚些时候发布的 带有 Project Gemini 的大型多模式 AI 模型。
