Meta 超级智能实验室推出新技术，使大模型 RAG 推理速度提升 30 倍

---

Meta 超级智能实验室（Meta Superintelligence Labs，MSL）近日发布了其成立以来的首篇关键性研究论文，成功实现大语言模型在检索增强生成（RAG）任务中推理速度的飞跃式提升，提速超过30倍。

该论文题为《REFRAG: Rethinking RAG based Decoding》，重点研究如何让大型语言模型在处理 RAG 任务时更高效地提取关键信息，从而大幅降低计算开销与响应延迟，同时确保输出结果的准确率不受影响。

Meta 超级智能实验室成立于今年6月，坐落于加利福尼亚州门洛帕克，致力于推动超级智能技术的发展。据悉，扎克伯格在今年4月对 Meta 推出的 Llama4 模型表现感到不满，曾要求团队加班优化性能，这也成为他组建该实验室的重要动因。此后，Meta 迅速集结了一批顶尖人才，其中包括 Scale AI 创始人 Alexandr Wang。

实验室目前设有四大核心团队，分别专注于大语言模型开发、人工智能基础理论研究、产品化落地应用以及底层基础设施建设。此次提出的 REFRAG 框架，正是该实验室在提升模型效率方向上的首个重要成果。

Motiff妙多

Motiff妙多是一款AI驱动的界面设计工具，定位为“AI时代设计工具”

334 查看详情

REFRAG 的核心技术在于引入一个轻量级模型，用于将冗长的上下文内容自动提炼为简洁摘要，从而显著减少主解码器需要处理的信息量。这一策略不仅加快了推理速度，也有效降低了资源消耗。此外，研究团队还采用了“持续预训练”机制，通过设计信息重建任务来训练模型，在压缩上下文的同时尽可能保留关键语义细节。

实验证明，REFRAG 在多项基准测试中均表现出卓越性能，尤其在响应延迟和系统吞吐量方面实现了显著优化。数据显示，在上下文压缩比达到16倍的情况下，REFRAG 不仅超越了此前最先进的 CEPE 模型，而且在准确性上几乎无损，展现出极强的实用性与扩展潜力。

以上就是Meta 超级智能实验室推出新技术，使大模型 RAG 推理速度提升 30 倍的详细内容，更多请关注其它相关文章！

# 押注  # 宋星 seo  # 微博营销类推广方案策划  # 代销网站建设美丽图片  # 推广营销线上  # 烟台搜索关键词排名专业  # 合肥搜狗seo方法  # 营销推广计划意思  # 微信推广与运营营销话术  # 建设大型网站费用  # 家乡特产苹果营销推广  # 相关文章  # 人工智能  # 这一  # 安全防护  # 开源  # 加利福尼亚州  # 园区  # 美国  # 微软  # 帮你  # 大模型  # ai 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 数字彩排、虚拟建厂！这家顶级洗衣机工厂敲开“工业元宇宙”之门  Valve Index VR 头显销量下滑，上市四年的长青树渐失光彩  小米发布CyberDog2 - 他们的第二代仿生四足机器人展示  猿辅导推出Motiff，整合三大AI功能，助力UI设计生产力革新  抢占新赛道 加快机器人产业集聚发展  字节团队提出猞猁Lynx模型：多模态LLMs理解认知生成类榜单SoTA  马斯克发推讽刺人工智能：机器学习的本质就是统计  Gartner预测：到2025年，全球对话式人工智能支出预计将达到1860亿美元  百度举办AIGC创作沙龙，现场传授AI绘画“咒语”技巧  【首发】首款“消化内镜手术机器人”进入临床尾声，ROBO医疗获数千万元A轮融资  微软商店 AI 摘要功能开启预览，帮助用户迅速了解应用评价  看似低调，实则稳健：字节在AI路上会遇到什么？  网易易盾 AI Lab 论文入选 ICASSP 2025！黑科技让语音识别越“听”越准  郭帆谈ChatGPT：电影行业需要创新，否则人工智能将让电影变得平庸  华为云盘古大模型3.0发布 AI云服务同时上线：200亿亿次性能  掌阅科技入选北京市通用人工智能产业创新伙伴计划第二批成员名单  Adobe旗下Illustrator引入生成式AI工具Firefly  严打“黑飞”，无人机检测反制设备护航大运会净空安全  时隔 4 年：谷歌更新安卓机器人 LOGO，形象更立体  盘古大模型3.0正式发布 AI开发正走向新“工业化开发模式”  360°/180°双模式，佳能公布可折叠小体积的VR全景相机  下一个前沿：量子机器学习和人工智能的未来  “木头姐”：特斯拉的人工智能训练——“赢家通吃”的机会  科技有狠活｜时光修复师 ：用AI让昨日重现  陈根：ChatGPT和人类合作开发机器人  Dubbo负载均衡策略之 一致性哈希  应用生成式人工智能技术改善农业产业  不到2S创作AI图像！Snap发布图像生成器SnapFusion  给小朋友最好的科技礼物：乐天派桌面机器人  搭载星火认知大模型 讯飞听见智慧屏开启AI办公新体验  一公司推出喷火机器狗，可喷出 9 米长火焰  OpenAI 向所有付费 API 用户开放 GPT-4  联通发布鸿湖图文AI大模型1.0，可实现以文生图  创新全场景清洁方案！海尔商用机器人首发上市  国内首家，360智脑通过中国信通院可信AIGC大语言模型功能评估  国网辉南供电：无人机空中巡检 全力护航端午佳节  AI浪潮席卷，时空壶为何能成为AI翻译时代的破局者  天翼云在国际AI顶会大模型挑战赛中获得冠军  马斯克讽刺人工智能炒作：什么“机器学习”，其实就是统计  羊驼家族大模型集体进化！32k上下文追平GPT-4，田渊栋团队出品  元宇宙迈入2.0时代，它和生成式人工智能有何关联吗？  OpenAI CEO 山姆・阿尔特曼呼吁 AI 领域中美应当合作  《爱康未来之夜嘉宾官宣，携手共赴AI未来》  华为联合合作伙伴 共同发布昇腾AI大模型训推一体化解决方案  马斯克：将来机器人比人类多！特斯拉机器人亮相人工智能大会  AI证件照生成器：实际测试中AI软件展现了绝无仅有的强大效能  人工智能领域，突破难题：国产大模型“无源之水”问题得到解决。  软银、淡马锡、沙特阿美突击入股，“协作机器人第一股”节卡股份：强敌环伺，持续失血是常态  “长沙造”无人机，领先的不止植保  杀入生成式AI的亚马逊云科技，能否再次生成未来？ 

 2025-10-14