无需标注数据，「3D理解」进入多模态预训练时代！ULIP系列全面开源，刷新SOTA

---

通过对齐三维形状、二维图片以及相应的语言描述，多模态预训练方法也带动了3D表征学习的发展。

不过现有的多模态预训练框架收集数据的方法缺乏可扩展性，极大限制了多模态学习的潜力，其中最主要的瓶颈在于语言模态的可扩展性和全面性。

最近，Salesforce AI联手斯坦福大学和得克萨斯大学奥斯汀分校，发布了ULIP（CVP R2025）和ULIP-2项目，这些项目正在引领3D理解的新篇章。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

论文链接：https://arxiv.org/pdf/2212.05171.pdf

论文链接：https://arxiv.org/pdf/2305.08275.pdf

代码链接：https://github.com/salesforce/ULIP

研究人员采用了独特的方法，使用3D点云、图像和文本进行模型的预训练，将它们对齐到一个统一的特征空间。这种方法在3D分类任务中取得了最先进的结果，并为跨领域任务（如图像到3D检索）开辟了新的可能性。

并且ULIP-2将这种多模态预训练变得可以不需要任何人工标注，从而可以大规模扩展。

ULIP-2在ModelNet40的下游零样本分类上取得了显著的性能提升，达到74.0%的最高准确率；在现实世界的ScanObjectNN基准上，仅用140万个参数就获得了91.5%的总体准确率，标志着在无需人类3D标注的可扩展多模态3D表示学习方面的突破。

对齐（3D，图像，文本）这三种特征的预训练框架示意图

代码以及发布的大规模tri-modal的数据集(「ULIP - Obj*erse Triplets」和「ULIP - ShapeNet Triplets」)已经开源。

背景

3D理解是人工智能领域的重要组成部分，它让机器能像人类一样在三维空间中感知和互动。这种能力在自动驾驶汽车、机器人、虚拟现实和增强现实等领域都有着重要的应用。

然而，由于3D数据的处理和解释复杂性，以及收集和注释3D数据的成本，3D理解一直面临着巨大的挑战。

ULIP

Tri-modal 预训练框架以及其下游任务

ULIP（已经被CVPR2025接收）采用了一种独特的方法，使用3D点云、图像和文本进行模型的预训练，将它们对齐到一个统一的表示空间。

这种方法在3D分类任务中取得了最先进的结果，并为跨领域任务（如图像到3D检索）开辟了新的可能性。

ULIP的成功关键在于使用预先对齐的图像和文本编码器，如CLIP，它在大量的图像-文本对上进行预训练。

这些编码器将三种模态的特征对齐到一个统一的表示空间，使模型能够更有效地理解和分类3D对象。

这种改进的3D表示学习不仅增强了模型对3D数据的理解，而且还使得跨模态应用如zero-shot 3D分类和图像到3D检索成为可能，因为3D编码器获得了多模态上下文。

ULIP的预训练损失函数如下：

在ULIP的默认设置中，α被设置为0， β和θ被设置为1，每两个模态之间的对比学习损失函数的定义如下，这里M1和M2指三个模态中的任意两个模态：

ULIP还做了由图像到3D的retrieval的实验，效果如下：

ChatGPT Writer

免费 Chrome 扩展程序，使用 ChatGPT AI 生成电子邮件和消息。

106 查看详情

实验结果可以看出ULIP预训练的模型已经能够学习到图像和三维点云间有意义的多模态特征。

令人惊讶的是，相较于其他的检索到的三维模型，第一名检索到的三维模型与查询图像的外观最为接近。

例如，当我们使用来自不同飞机类型（战斗机和客机）的图片进行检索（第二行和第三行），检索到的最接近的3D点云仍然保留了查询图像的微妙差异。

ULIP-2

这里是一个3D物体生成多角度文字描述的示例。我们先将3D物体以一组视角渲染成2D图像，接着使用大型多模态模型为所生成的所有图像生成描述

ULIP-2在ULIP的基础上，利用大型多模态模型为3D物体生*方面对应的语言描述，从而收集可扩展的多模态预训练数据，无需任何人工标注，使预训练过程和训练后的模型更加高效并且增强其适应性。

ULIP-2的方法包括为每个3D物体生成多角度不同的语言描述，然后用这些描述来训练模型，使3D物体、2D图像、和语言描述在特征空间对齐一致。

这个框架使得无需手动注释就可以创建大量的三模态数据集，从而充分发挥多模态预训练的潜力。

ULIP-2还发布了生成的大规模三模态数据集：「ULIP - Obj*erse Triplets」和「ULIP - ShapeNet Triplets」。

两个tri-modal的datasets的一些统计数据

实验结果

ULIP系列在多模态下游任务和3D表达的微调实验中均取得了惊人的效果，尤其ULIP-2中的预训练是完全不需要借助任何人工的标注就可以实现的。

ULIP-2在ModelNet40的下游零样本分类任务中取得了显著的提升（74.0%的top-1准确率）；在真实世界的ScanObjectNN基准测试中，它仅用1.4M参数就取得了91.5%的总体准确率，这标志着在无需人工3D标注的情况下，实现了可扩展的多模态3D表示学习的突破。

消融实验

两篇论文均做了详尽的消融实验。

在「ULIP: Learning a Unified Representation of Language, Images, and Point Clouds for 3D Understanding」中，由于ULIP的预训练框架有三个模态的参与，所以作者用实验探究了究竟是只对齐其中的两个模态好还是对齐所有三个模态好，实验结果如下：

从实验结果中可以看到，在不同的3D backbone中，对齐三个模态一致的比只对齐两个模态好，这也应证了ULIP的预训练框架的合理性。

在「ULIP-2: Towards Scalable Multimodal Pre-training for 3D Understanding」中，作者探究了不同的大型多模态模型会对预训练的框架有什么影响，结果如下：

实验结果可以看出，ULIP-2框架预训练的效果可以随着使用的大型多模态模型的升级而提升，具有一定的成长性。

在ULIP-2中，作者还探索了在生成tri-modal的数据集是采用不同数量的视角会如何影响整体预训练的表现，实验结果如下：

实验结果显示，随着使用的视角数量的增加，预训练的模型的zero-shot classification的效果也会随之增加。

这也应证了ULIP-2中的观点，更全方位多样性的语言描述会对多模态预训练有正向的作用。

除此之外，ULIP-2还探究了取CLIP排序过的不同topk的语言描述会对多模态预训练有什么影响，实验结果如下：

实验结果表明：ULIP-2的框架对不同的topk有一定的鲁棒性，论文中采用了top 5作为默认设置。

结论

由Salesforce AI，斯坦福大学，得克萨斯大学奥斯汀分校联手发布的ULIP项目（CVPR2025）和ULIP-2正在改变3D理解领域。

ULIP将不同的模态对齐到一个统一的空间，增强了3D特征的学习并启用了跨模态应用。

ULIP-2进一步发展，为3D对象生成整体语言描述，创建并开源了大量的三模态数据集，并且这个过程无需人工标注。

这些项目在3D理解方面设定了新的基准，为机器真正理解我们三维世界的未来铺平了道路。

团队

Salesforce AI:

Le Xue (薛乐)， Mingfei Gao (高明菲)，Chen Xing（星辰），Ning Yu（于宁）， Shu Zhang（张澍），Junnan Li（李俊男）， Caiming Xiong（熊蔡明），Ran Xu（徐然），Juan carlos niebles， Silvio s*arese。

斯坦福大学：

Prof. Silvio S*arese, Prof. Juan Carlos Niebles, Prof. Jiajun Wu(吴佳俊)。

UT Austin：

Prof. Roberto Martín-Martín。

以上就是无需标注数据，「3D理解」进入多模态预训练时代！ULIP系列全面开源，刷新SOTA的详细内容，更多请关注其它相关文章！

# 有什么  # 句容seo快排  # 营销推广方式就择火1星  # 做推广的网站的公司  # 精准获客营销推广  # 线上农产品网站推广方案  # 黑帽seo学习论坛  # 一个营销号推广赚钱吗  # 网站优化软件推荐电脑  # 昌黎环保网站建设配置  # 兰州网站推广团队有哪些  # 3D  # 前十  # 会对  # 采用了  # 斯坦福大学  # 得克萨斯  # 奥斯汀  # 模态  # 开源  # 多模  # 机器 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 扎克伯格吐槽苹果Vision Pro：社交落后Meta太多，无法建设元宇宙  上海发布“元宇宙关键技术攻关行动方案”，加快 AIGC 等突破  华为云盘古大模型3.0发布 AI云服务同时上线：200亿亿次性能  特斯拉人形机器人将于 7 月亮相上海 2025 世界人工智能大会  通用医疗人工智能如何革新医疗行业？  人工智能改变网络安全和用户体验的三种方式  击败LLaMA？史上超强「猎鹰」排行存疑，符尧7行代码亲测，LeCun转赞  微软推出 LLaVA-Med AI 模型，可对医学病理案例进行分析  提升工作效率的智能工具：Zapier 让工作变得更简单！  AI技术加速迭代：周鸿祎视角下的大模型战略  AI立法迫在眉睫，如何看对行业影响？  人工智能助力林草行业高质量发展  一文看懂被英伟达看中的九号机器人移动底盘  人工智能正在弥合认知和表达之间的鸿沟  Databricks 发布大数据分析平台 Spark 用 AI 模型 SDK：一键生成 SQL 及 FySpark 语言图表代码  马斯克嘲讽人工智能：机器学习本质就是统计学  实现MySQL数据锁定策略：解决并发冲突的J*a解决方案  再也不怕「视频会议」尬住了！谷歌CHI顶会发布新神器Visual Captions：让图片做你的字幕助手  华为大模型登Nature正刊！审稿人：让人们重新审视预报模型的未来  人工智能在服务优化方面优缺点有哪些  “智能体动作生成技术”现身WAIC：游戏AI技术为机器人科创注入新动力  机器人技能大比拼  苹果AI战略与微软谷歌大相径庭，到底是领先还是落后？  用人工智能技术，亚马逊为用户生成产品评论摘要，帮助他们轻松选购  AI+音乐如何“生成”动听旋律？一起揭秘世界人工智能大会开场曲  无人机巡检方案是什么，该如何选择适合的巡检方案  关于开展“与AI共创未来”——2025年全国青少年人工智能创新实践活动的通知  再度重仓 AI 赛道，SaaS 巨头 Salesforce 扩大 AIGC 风投基金规模  软银、淡马锡、沙特阿美突击入股，“协作机器人第一股”节卡股份：强敌环伺，持续失血是常态  走进首家“元宇宙”未来工厂，卡奥斯探知工业之旅出发！  陈根：AI工具为游戏软件实时3D内容助力  Ai智能机器人，chat-免注册登入，直接使用新版gpt4.0！  微软在 Build 大会上宣布的新 Microsoft Store AI Hub 现已开始推出  抖音在Android平台获得VR|直播|软件著作权  人工智能自己玩自己  为AI而服务设计：构建以人为本的AI创新方法  苹果机器学习关键人物 Ali Farhadi 离职，回归 AI2 担任 CEO  助力人工智能产业高质量发展 龙岗区算法训练基地正式启用  「社交达人」GPT-4！解读表情、揣测心理全都会  30+大模型齐聚，大模型成世界人工智能大会“顶流”  下一个前沿：量子机器学习和人工智能的未来  金山办公宣布与英伟达团队合作，加速WPS AI服务  “三夏”农忙保障用电，无人机高空巡视高压线  中国联通发布图文AI大模型，可实现以文生图、视频剪辑  苹果在韩举办首届中小企业智能制造论坛，加速推动工业4.0发展  OpenAI已向中国申请注册“GPT-5”商标，此前已在美国提交申请  Zoom远程会议应用：AI培训需经用户授权  Unity 内测 Safe Voice 服务，利用 AI 自动识别玩家不当聊天内容  官宣！爱康AI未来之夜三大亮点提前剧透！  Dubbo负载均衡策略之 一致性哈希 

 2023-06-20