字节团队提出猞猁Lynx模型：多模态LLMs理解认知生成类榜单SoTA

当前大语言模型 (Large Language Models, LLMs) 如 GPT4 在遵循给定图像的开放式指令方面表现出了出色的多模态能力。然而，这些模型的性能严重依赖于对网络结构、训练数据和训练策略等方案的选择，但这些选择并没有在先前的文献中被广泛讨论。此外，目前也缺乏合适的基准 (benchmarks) 来评估和比较这些模型，限制了多模态 LLMs 的 发展。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

• 论文：https://arxiv.org/abs/2307.02469
• 网站：https://lynx-llm.github.io/
• 代码：https://github.com/bytedance/lynx-llm

在这篇文章中，作者从定量和定性两个方面对此类模型的训练进行了系统和全面的研究。设置了 20 多种变体，对于网络结构，比较了不同的 LLMs 主干和模型设计；对于训练数据，研究了数据和采样策略的影响；在指令方面，探讨了多样化提示对模型指令跟随能力的影响。对于 benchmarks ，文章首次提出包括图像和视频任务的开放式视觉问答评估集 Open-VQA。

基于实验结论，作者提出了 Lynx，与现有的开源 GPT4-style 模型相比，它在表现出最准确的多模态理解能力的同时，保持了最佳的多模态生成能力。

评估方案

不同于典型的视觉语言任务，评估 GPT4-style 模型的主要挑战在于平衡文本生成能力和多模态理解准确性两个方面的性能。为了解决这个问题，作者提出了一种包含视频和图像数据的新 benchmark Open-VQA，并对当前的开源模型进行了全面的评价。

具体来说，采用了两种量化评价方案：

• 收集开放式视觉问答 (Open-VQA) 测试集，其包含关于物体、OCR、计数、推理、动作识别、时间顺序等不同类别的问题。不同于有标准答案的 VQA 数据集，Open-VQA 的答案是开放式的。为了评估 Open-VQA 上的性能，使用 GPT4 作为判别器，其结果与人类评估有 95% 的一致性。
• 此外，作者采用了由 mPLUG-owl [1] 提供的 OwlEval 数据集来评估模型的文本生成能力，虽然只包含 50 张图片 82 个问题，但涵盖故事生成、广告生成、代码生成等多样问题，并招募人工标注员对不同模型的表现进行打分。

结论

为了深入研究多模态 LLMs 的训练策略，作者主要从网络结构（前缀微调 / 交叉注意力）、训练数据（数据选择及组合比例）、指示（单一指示 / 多样化指示）、LLMs 模型（LLaMA [5]/Vicuna [6]）、图像像素（420/224）等多个方面设置了二十多种变体，通过实验得出了以下主要结论：

• 多模态 LLMs 的指示遵循能力不如 LLMs。例如，InstructBLIP [2] 倾向于不管输入指令如何都生成简短的回复，而其他模型倾向于生成长句子而不考虑指令，作者认为这是由于缺乏高质量和多样化的多模态指令数据所导致的。
• 训练数据的质量对模型的性能至关重要。基于在不同的数据上进行实验的结果，发现使用少量的高质量数据比使用大规模的噪声数据表现得更好。作者认为这是生成式训练和对比式训练的区别，因为生成式训练是直接学习词的条件分布而不是文本和图像的相似度。因此，为了更好的模型性能，在数据方面需要满足两点：1）包含高质量的流畅文本；2）文本和图像内容对齐得较好。
• 任务和提示对零样本 (zero-shot) 能力至关重要。使用多样化任务和指令可以提升模型在未知任务上的零样本生成能力，这与纯文本模型中的观察结果一致。
• 平衡正确性和语言生成能力是很重要的。如果模型在下游任务 (如 VQA) 上训练不足，更可能生成与视觉输入不符的编造的内容；而如果模型在下游任务中训练过多，它则倾向于生成短答案，将无法按照用户的指示生成较长的答案。
• 前缀微调 (prefix-finetuning, PT) 是目前对 LLMs 进行多模态适配的最佳方案。在实验中，prefix-finetuning 结构的模型能更快地提升对多样化指示的遵循能力，比交叉注意力 (cross-attention, CA) 的模型结构更易训练。（prefix-tuning 和 cross-attention 为两种模型结构，具体见 Lynx 模型介绍部分）

Lynx 模型

作者提出了 Lynx（猞猁）—— 进行了两阶段训练的 prefix-finetuning 的 GPT4-style 模型。在第一阶段，使用大约 120M 图像 - 文本对来对齐视觉和语言嵌入 (embeddings) ；在第二阶段，使用 20 个图像或视频的多模态任务以及自然语言处理 (NLP) 数据来调整模型的指令遵循能力。

图片

Lynx 模型的整体结构如上图 Figure 1 所示。

视觉输入经过视觉编码器处理后得到视觉令牌 (tokens) $$W_v$$，经过映射后与指令 tokens $$W_l$$ 拼接作为 LLMs 的输入，在本文中将这种结构称为「prefix-finetuning」以区别于如 Flamingo [3] 所使用的 cross-attention 结构。

此外，作者发现，通过在冻结 (frozen) 的 LLMs 某些层后添加适配器 (Adapter) 可以进一步降低训练成本。

模型效果

作者测评了现有的开源多模态 LLMs 模型在 Open-VQA、Mme [4] 及 OwlEval 人工测评上的表现（结果见后文图表，评估细节见论文）。可以看到 Lynx 模型在 Open-VQA 图像和视频理解任务、OwlEval 人工测评及 Mme Perception 类任务中都取得了最好的表现。其中，InstructBLIP 在多数任务中也实现了高性能，但其回复过于简短，相较而言，在大多数情况下 Lynx 模型在给出正确的答案的基础上提供了简明的理由来支撑回复，这使得它对用户更友好（部分 cases 见后文 Cases 展示部分）。

1. 在 Open-VQA 图像测试集上的指标结果如下图 Table 1 所示：

图片

2. 在 Open-VQA 视频测试集上的指标结果如下图 Table 2 所示。

图片

3. 选取 Open-VQA 中得分排名靠前的模型进行 OwlEval 测评集上的人工效果评估，其结果如上图 Figure 4 所示。从人工评价结果可以看出 Lynx 模型具有最佳的语言生成性能。

图片

4. 在 Mme benchmark 测试中，Perception 类任务获得最好的表现，其中 14 类子任务中有 7 个表现最优。（详细结果见论文附录）

Cases 展示

Open-VQA 图片 cases

OwlEval cases

Open-VQA 视频 case

总结

在本文中，作者通过对二十多种多模态 LLMs 变种的实验，确定了以 prefix-finetuning 为主要结构的 Lynx 模型并给出开放式答案的 Open-VQA 测评方案。实验结果显示 Lynx 模型表现最准确的多模态理解准确度的同时，保持了最佳的多模态生成能力。

以上就是字节团队提出猞猁Lynx模型：多模态LLMs理解认知生成类榜单SoTA的详细内容，更多请关注其它相关文章！

# 开源  # llama  # fig  # 多模  # 榜单  # 所示  # 提出了  # 中国科学院  # 模型  # 丰田  # 灵武农产品网站推广电话  # 宁德seo推广运营  # 现在做seo好做吗  # 淄博供应网站优化服务商  # 网站营销推广简历工作  # 营销与推广方式有哪些  # seo推广网站收费多少  # 福建网站推广找哪家好  # 进行了  # 这是  # 高质量  # 昆明专业seo如何优化  # 手把手教你优化网站营销 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 一句话搞定数据分析，浙大全新大模型数据助手，连搜集都省了  科技有狠活｜时光修复师 ：用AI让昨日重现  从医疗康复外骨骼到通用人形机器人，傅利叶智能推动核心技术升级  AI大模型，将为智慧城市带来哪些新变化？  机构研选 | 虚拟电厂是电力物联网升级版 智能电网望迎来高速发展  智能公司为何纷纷投身机器人领域？  先进技术在防止全球数据丢失方面的作用  杭州举办第19届亚运会，主题为「亚运元宇宙」的发布仪式举行  优地网络助力新媒体拥抱人工智能时代  跑不动的元宇宙，虚拟世界比现实更冷酷  Dubbo负载均衡策略之 一致性哈希  央广车联网亮相2025世界人工智能大会  海柔创新携手SAP，以机器人技术助力全球客户升级数智化竞争力  湖北科技职业学院举行工业机器人及智能制造技术专精特新产业学院建设启动仪式  万魔推出AI主攻的运动耳机，开启十年研发新纪元  深度学习模型综述：用于3D MRI和CT扫描的应用  构建数字文旅新高地！洛阳涧西区开启元宇宙时代  WHEE功能介绍  看了天美对AI的布局，我感觉它想得是真明白  洞穴探险神器？可自主导航的单旋翼自旋无人机，效率更高！  普林斯顿Infinigen矩阵开启！AI造物主100%创造大自然，逼真到炸裂  微软宣布为 Azure AI 添加男性声线，增强文本转语音功能  两小时就能超过人类！DeepMind最新AI速通26款雅达利游戏  百川智能发布Baichuan-13B AI模型，号称“130亿参数开源可商用”  华为推出全新操作系统HarmonyOS 4，AI和新引擎完美融合  央视报道！星纪魅族集团车载人机交互技术成世界移动通信大会焦点  微软向美国政府提供GPT大模型，如何保证安全性？  电力人工智能数据集目录首次发布  英特尔张宇：边缘计算在整个AI生态系统中扮演重要角色  陈根：AI冥想教练为用户提供个性化指导  650亿参数，8块GPU就能全参数微调：邱锡鹏团队把大模型门槛打下来了  GPT-4使用混合大模型？研究证明MoE+指令调优确实让大模型性能超群  美军AI无人机“误杀”操作员，人工智能要在军事领域毁灭人类？  人工智能驱动智能建筑会是未来趋势吗？  英伟达H100霸榜权威AI性能测试 11分钟搞定基于GPT-3的大模型训练  一家 380 亿美元的数据巨头，要掀起企业「AI 化」革命  联想创投携手12家被投企业MWC展示元宇宙、机器人等技术  如何获得元宇宙的第一个属于自己的空间  丰田汽车研究院推出生成式人工智能汽车设计工具  小岛秀夫不反对使用AI 但认为人类应该凌驾于AI  九号公司主导制定短途交通和送物机器人领域首个国际标准，标志着零的突破发布  西班牙小鲜肉*视频在网上疯传，本人发文澄清：是AI换脸的假视频！  国产医疗企业的人工智能  好莱坞面临全面停摆 好莱坞大罢工抵制“AI入侵”  机器人加速！稀土永磁也被带火，持续性如何？  两架海燕号无人机交付中国气象局 助力建设国家级机动气象观测业务  日入400万，第一批AI骗子已上岗  Meta将VR头显最低年龄限制从13岁降至10岁  常见的五个人工智能误解  张朝阳与陆川谈AI：ChatGPT是鹦鹉学舌思维，不可能取代人类 | 把脉AI大模型 

 2023-07-17