字节团队提出猞猁Lynx模型：多模态LLMs理解认知生成类榜单SoTA

当前大语言模型 (Large Language Models, LLMs) 如 GPT4 在遵循给定图像的开放式指令方面表现出了出色的多模态能力。然而，这些模型的性能严重依赖于对网络结构、训练数据和训练策略等方案的选择，但这些选择并没有在先前的文献中被广泛讨论。此外，目前也缺乏合适的基准 (benchmarks) 来评估和比较这些模型，限制了多模态 LLMs 的 发展。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

• 论文：https://arxiv.org/abs/2307.02469
• 网站：https://lynx-llm.github.io/
• 代码：https://github.com/bytedance/lynx-llm

在这篇文章中，作者从定量和定性两个方面对此类模型的训练进行了系统和全面的研究。设置了 20 多种变体，对于网络结构，比较了不同的 LLMs 主干和模型设计；对于训练数据，研究了数据和采样策略的影响；在指令方面，探讨了多样化提示对模型指令跟随能力的影响。对于 benchmarks ，文章首次提出包括图像和视频任务的开放式视觉问答评估集 Open-VQA。

基于实验结论，作者提出了 Lynx，与现有的开源 GPT4-style 模型相比，它在表现出最准确的多模态理解能力的同时，保持了最佳的多模态生成能力。

评估方案

不同于典型的视觉语言任务，评估 GPT4-style 模型的主要挑战在于平衡文本生成能力和多模态理解准确性两个方面的性能。为了解决这个问题，作者提出了一种包含视频和图像数据的新 benchmark Open-VQA，并对当前的开源模型进行了全面的评价。

具体来说，采用了两种量化评价方案：

• 收集开放式视觉问答 (Open-VQA) 测试集，其包含关于物体、OCR、计数、推理、动作识别、时间顺序等不同类别的问题。不同于有标准答案的 VQA 数据集，Open-VQA 的答案是开放式的。为了评估 Open-VQA 上的性能，使用 GPT4 作为判别器，其结果与人类评估有 95% 的一致性。
• 此外，作者采用了由 mPLUG-owl [1] 提供的 OwlEval 数据集来评估模型的文本生成能力，虽然只包含 50 张图片 82 个问题，但涵盖故事生成、广告生成、代码生成等多样问题，并招募人工标注员对不同模型的表现进行打分。

结论

为了深入研究多模态 LLMs 的训练策略，作者主要从网络结构（前缀微调 / 交叉注意力）、训练数据（数据选择及组合比例）、指示（单一指示 / 多样化指示）、LLMs 模型（LLaMA [5]/Vicuna [6]）、图像像素（420/224）等多个方面设置了二十多种变体，通过实验得出了以下主要结论：

• 多模态 LLMs 的指示遵循能力不如 LLMs。例如，InstructBLIP [2] 倾向于不管输入指令如何都生成简短的回复，而其他模型倾向于生成长句子而不考虑指令，作者认为这是由于缺乏高质量和多样化的多模态指令数据所导致的。
• 训练数据的质量对模型的性能至关重要。基于在不同的数据上进行实验的结果，发现使用少量的高质量数据比使用大规模的噪声数据表现得更好。作者认为这是生成式训练和对比式训练的区别，因为生成式训练是直接学习词的条件分布而不是文本和图像的相似度。因此，为了更好的模型性能，在数据方面需要满足两点：1）包含高质量的流畅文本；2）文本和图像内容对齐得较好。
• 任务和提示对零样本 (zero-shot) 能力至关重要。使用多样化任务和指令可以提升模型在未知任务上的零样本生成能力，这与纯文本模型中的观察结果一致。
• 平衡正确性和语言生成能力是很重要的。如果模型在下游任务 (如 VQA) 上训练不足，更可能生成与视觉输入不符的编造的内容；而如果模型在下游任务中训练过多，它则倾向于生成短答案，将无法按照用户的指示生成较长的答案。
• 前缀微调 (prefix-finetuning, PT) 是目前对 LLMs 进行多模态适配的最佳方案。在实验中，prefix-finetuning 结构的模型能更快地提升对多样化指示的遵循能力，比交叉注意力 (cross-attention, CA) 的模型结构更易训练。（prefix-tuning 和 cross-attention 为两种模型结构，具体见 Lynx 模型介绍部分）

Lynx 模型

作者提出了 Lynx（猞猁）—— 进行了两阶段训练的 prefix-finetuning 的 GPT4-style 模型。在第一阶段，使用大约 120M 图像 - 文本对来对齐视觉和语言嵌入 (embeddings) ；在第二阶段，使用 20 个图像或视频的多模态任务以及自然语言处理 (NLP) 数据来调整模型的指令遵循能力。

图片

Lynx 模型的整体结构如上图 Figure 1 所示。

视觉输入经过视觉编码器处理后得到视觉令牌 (tokens) $$W_v$$，经过映射后与指令 tokens $$W_l$$ 拼接作为 LLMs 的输入，在本文中将这种结构称为「prefix-finetuning」以区别于如 Flamingo [3] 所使用的 cross-attention 结构。

此外，作者发现，通过在冻结 (frozen) 的 LLMs 某些层后添加适配器 (Adapter) 可以进一步降低训练成本。

模型效果

作者测评了现有的开源多模态 LLMs 模型在 Open-VQA、Mme [4] 及 OwlEval 人工测评上的表现（结果见后文图表，评估细节见论文）。可以看到 Lynx 模型在 Open-VQA 图像和视频理解任务、OwlEval 人工测评及 Mme Perception 类任务中都取得了最好的表现。其中，InstructBLIP 在多数任务中也实现了高性能，但其回复过于简短，相较而言，在大多数情况下 Lynx 模型在给出正确的答案的基础上提供了简明的理由来支撑回复，这使得它对用户更友好（部分 cases 见后文 Cases 展示部分）。

1. 在 Open-VQA 图像测试集上的指标结果如下图 Table 1 所示：

图片

2. 在 Open-VQA 视频测试集上的指标结果如下图 Table 2 所示。

图片

3. 选取 Open-VQA 中得分排名靠前的模型进行 OwlEval 测评集上的人工效果评估，其结果如上图 Figure 4 所示。从人工评价结果可以看出 Lynx 模型具有最佳的语言生成性能。

图片

4. 在 Mme benchmark 测试中，Perception 类任务获得最好的表现，其中 14 类子任务中有 7 个表现最优。（详细结果见论文附录）

Cases 展示

Open-VQA 图片 cases

OwlEval cases

Open-VQA 视频 case

总结

在本文中，作者通过对二十多种多模态 LLMs 变种的实验，确定了以 prefix-finetuning 为主要结构的 Lynx 模型并给出开放式答案的 Open-VQA 测评方案。实验结果显示 Lynx 模型表现最准确的多模态理解准确度的同时，保持了最佳的多模态生成能力。

以上就是字节团队提出猞猁Lynx模型：多模态LLMs理解认知生成类榜单SoTA的详细内容，更多请关注其它相关文章！

# 开源  # llama  # fig  # 多模  # 榜单  # 所示  # 提出了  # 中国科学院  # 模型  # 丰田  # 灵武农产品网站推广电话  # 宁德seo推广运营  # 现在做seo好做吗  # 淄博供应网站优化服务商  # 网站营销推广简历工作  # 营销与推广方式有哪些  # seo推广网站收费多少  # 福建网站推广找哪家好  # 进行了  # 这是  # 高质量  # 昆明专业seo如何优化  # 手把手教你优化网站营销 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 张勇对话多位诺奖得主 人工智能将无处不在  AI遇上大运丨热身拉伸、娱乐K歌……AI智能健身镜将亮相成都大运会  电力人工智能数据集目录首次发布  斑马推出全新升级版思维机：以人工智能为核心的交互式学习体验  DeepMind用AI重写排序算法；将33B大模型塞进单个消费级GPU  英伟达的AI领域垄断地位：一直无法撼动吗？  谷歌将使用公开信息训练 AI 模型，构建更强大的自家产品  无人机协助盐城交通执法的协同训练  华为小艺AI助手将实现强大的大模型能力  尼康尼克尔 Z 180-600mm f/5.6-6.3 VR 镜头发布，12499 元  争鸣：OpenAI奥特曼、Hinton、杨立昆的AI观点到底有何不同？  静安大宁功能区企业云天励飞亮相2025世界人工智能大会，秀出AI硬实力！  引领AI变革，九章云极DataCanvas公司重磅发布AIFS+DataPilot  管提需求，大模型解决问题：图表处理神器SheetCopilot上线  消息称字节机器人团队已有约50人，计划年底扩充到上百人  站在社会的高度理解人工智能  探索人工智能在居家养老方面的应用  看似低调，实则稳健：字节在AI路上会遇到什么？  人工智能在服务优化方面优缺点有哪些  抖音在Android平台获得VR|直播|软件著作权  发布最新版本的 PICO OS 5.7.0：支持VR头盔录屏并跨平台分享至微信  揭秘AI数字人语录：抖音AI小和尚、老者语录能赚钱吗？  如何用户外电源给无人机实现持久续航  谷歌借AI打破十年排序算法封印，每天被执行数万亿次，网友却说是最不切实际的研究？  深度学习模型综述：用于3D MRI和CT扫描的应用  小艺将具备大模型能力，鸿蒙4加速AI普及之路  人工智能在商业中的风险和局限性  泗洪：畅通城市“血管” ，管下机器人来帮忙  航拍无人机怎么选？大疆无人机盘点推荐  XREAL发布新款硬件XREAL Beam投屏盒子：可悬停AR空间屏  日本演员工会提出AI立法建议 要求建立“声音肖像权”  Transformer六周年：当年连NeurIPS Oral都没拿到，8位作者已创办数家AI独角兽  AI 作画工具 Midjourney 推出“pan”功能，可平移扩展图片外场景  智能公司为何纷纷投身机器人领域？  石头扫拖机器人 G20 618 福利来袭：4999 元，超值配件领到手软  五项人工智能尚未能够实现的任务  ChatGPT大更新！OpenAI奉上程序员大礼包：API新增杀手级能力还降价，新模型、四倍上下文都来了  Snow Kylin登陆中国列车，打造全球首条元宇宙专列  喜马拉雅在国际会议挑战赛中突破语音重叠难题斩获第一 加速AI创新  音乐制作元工具AudioCraft发布开源AI工具  Valve 将拒绝采用 AI 生成未知版权内容的游戏上架 Steam  2025年的网络分区：人工智能和自动化如何改变事物  美图影像节演讲实录：191次提及AI，发布7款影像生产力工具  小红书陷入麻烦！被指控未经许可使用用户图片进行AI训练  人工智能：解决劳动力短缺的关键策略  世界水下机器人大赛：9国青年携手逐梦深蓝  借助ChatGPT快速上手ElasticSearch dsl  AYANEO 安卓掌机 Pocket AIR 配置公布：天玑 1200 + 5.5 英寸屏  ChatGPT只讲这25个笑话！实验上千次有90%重复，网友：幽默是人类最后的尊严  人工智能框架生态峰会即将召开，聚焦AI大模型技术与科学智能探索！ 

 2023-07-17