杜克大学和谷歌研究院的研究人员提出了一种名为自驱动logits进化解码(sled)的新型解码框架,旨在提高大型语言模型(llm)的事实准确性,无需外部知识库或额外微调。该研究成果已被neurips 2025收录,第一作者是杜克大学电子与计算机工程系博士生张健一。
LLM虽然性能卓越,但容易出现事实性错误(幻觉)。研究发现,LLM内部可能已掌握正确答案,只是无法直接从输出中获取。研究者称此为“潜在知识”,并将其比作“三体问题”(图一)。 SLED通过对比LLM最后一层和前面几层的输出,挖掘潜在知识,并将其与原始输出整合,避免过拟合。 (图二展示了SLED框架流程)。
SLED通过优化损失函数,引导正确的token在输出分布中获得更高概率,这类似于对输出进行“梯度下降”。研究者认为LLM训练本身就是一个由数据集驱动的Logits进化过程,而SLED则模拟了这一过程,利用前面几层输出(潜在知识)来改进最后一层的输出。(图三验证了不同层输出分布与真实分布的差异)。
实验结果表明,SLED在多个数据集和不同规模的LLM上,显著提升了事实准确性,并与其他解码方法兼容。此外,SLED计算开销极低,并能有效抑制输出重复。(实验结果见文中图表)。
神笔马良
神笔马良 - AI让剧本一键成片。
320
查看详情
SLED为未来的推理时间算法提供了一个新框架,它与经典优化算法结合紧密,效率更高,且无需修改模型参数,因此更易于应用和扩展,有望在医疗和教育等领域发挥作用。
(文中图片链接保持不变)
以上就是NeurIPS 2025|杜克大学&谷歌提出SLED解码框架,无需外部数据与额外训练,有效缓解大语言模型幻觉,提高事实准确性的详细内容,更多请关注其它相关文章!
# 提出了
# 为什么我们都要做seo
# 品牌营销推广的收费方式
# 政务网站建设工作
# 营口seo优化哪家好
# seo优化教程全集seo公司
# 迁安网站seo优化
# 莆田抖音seo招商
# 聚美优品推广营销
# seo代运营公司哪个好
# 营销计划不能推广
# 并将其
# 工程
# 已被
# 暗讽
# 多个
# 这一
# 几层
# 操作流程
# 更高
# 杜克大学
# 谷歌
# git
# sled
相关栏目:
【
Google疑问12 】
【
Facebook疑问10 】
【
优化推广96088 】
【
技术知识133117 】
【
IDC资讯59369 】
【
网络运营7196 】
【
IT资讯61894 】
相关推荐:
昆仑万维与全球领先的元宇宙公司Meta达成商务合作,共同认可昆仑万维在XR领域的技术实力
郭帆谈ChatGPT:电影行业需要创新,否则人工智能将让电影变得平庸
揭晓2025年玻尔兹曼奖:Hopfield网络创始人荣获奖项
彭博社:苹果Vision Pro曾测试VR手柄追踪方案
【趋势周报】全球元宇宙产业发展趋势:ChatGPT的出现,将元宇宙实现至少提前了10年
360发布数字安全和人工智能的强大结合:360安全大模型
清华系面壁智能开源中文多模态大模型VisCPM :支持对话文图双向生成,吟诗作画能力惊艳
人工智能在项目管理中的作用
马斯克反讽人工智能AI炒作:“机器学习”本质就是统计
V社回应拒绝上架含 AI 生成内容的游戏:审核政策正在调整中
学而思推出AI第一课:基于自研大模型的AIGC课程
洞穴探险神器?可自主导航的单旋翼自旋无人机,效率更高!
苹果在韩举办首届中小企业智能制造论坛,加速推动工业4.0发展
人手一部「*」!视频版Midjourney免费可用,一句话秒生酷炫大片惊呆网友
华为AI大模型将融入HarmonyOS 4
三星加速AR眼镜进程,预计明年上半年亮相
卫星通信牵引物联网竞争升维,模组厂商如何决胜百亿市场?
利用AI探索抗体“钥匙”、加速药物研发——访百图生科团队
讯飞星火大模型实现升级 助力通用人工智能人才培养
人工智能即将进入Windows:企业准备好安全策略设置了吗?
构建AI绘画网站的方法:使用API接口和调用步骤
OpenAI 静默关闭 AI 文本检测工具,准确率仅为 26%
VR健身应用《FitXR》将取消Quest 1端会员服务
调查:过半数艺术家认为 AI 作图无法帮助他们的工作
谷歌借AI打破十年排序算法封印,每天被执行数万亿次,网友却说是最不切实际的研究?
清华&中国气象局大模型登Nature:解决世界级难题,「鬼天气」预报时效首次达3小时
美图设计室2.0什么时候上线
“世界上最像人的机器人”接入 Stable Diffusion ,现场完成作画
特斯拉机器人面世 未来将大幅提振磁材需求,引领人工智能时代
联合国秘书长称支持建立全球人工智能监管机构
网易易盾 AI Lab 论文入选 ICASSP 2025!黑科技让语音识别越“听”越准
长宁这家企业在世界人工智能大会上荣获“蓝鼎奖”
OpenAI夺冠:人工智能为云计算带来新变革
小红书陷入麻烦!被指控未经许可使用用户图片进行AI训练
周鸿祎参加中美青年科技创新峰会,分享人工智能创新机遇
猿编程参加人工智能高峰论坛,推动人工智能教育解决方案在千所学校推行
“风乌”气象大模型科学家团队:用AI预报极端天气未来不是梦!
华为余承东表示:鸿蒙可能拥有强大的人工智能大模型能力
MetaGPT开源框架爆红 GitHub,达到1.1万星,模拟软件开发流程
美图设计室2.0新增哪些功能
Midjourney创始人:AI应该成为人类思想的延伸
从谷歌到亚马逊,科技巨头们的AI痴迷
“三夏”农忙保障用电,无人机高空巡视高压线
微软新出热乎论文:Transformer扩展到10亿token
OpenAI首席执行官引用《道德经》 呼吁就AI安全问题合作
小米创始人雷军将揭示小米AI在年度演讲中的最新进展
旷视入选北京市通用人工智能产业创新伙伴计划
热点资讯:家乐福推出聊天机器人;米哈游2025年营收273.4亿元…
插画师对AI绘画软件的态度是怎样的?
为什么很多人对纽约《人工智能招聘法》感到生气?
2024-12-02
运城市盐湖区信雨科技有限公司是一家深耕海外推广领域十年的专业服务商,作为谷歌推广与Facebook广告全球合作伙伴,聚焦外贸企业出海痛点,以数字化营销为核心,提供一站式海外营销解决方案。公司凭借十年行业沉淀与平台官方资源加持,打破传统外贸获客壁垒,助力企业高效开拓全球市场,成为中小企业出海的可靠合作伙伴。