大语言模型仍无法可靠区分信念与事实

---

近日，美国斯坦福大学的一项研究在《自然·机器智能》期刊上发表，指出当前大语言模型（LLM）在识别用户错误信念方面存在显著短板，难以稳定区分主观信念与客观事实。研究发现，当个人信念与真实情况相悖时，这些模型常常无法准确判断何为事实、何为误信。

该成果对LLM在医学、法律及科学决策等高风险领域的应用提出了警示。研究人员强调，在涉及主观认知与事实偏差的复杂情境中，必须谨慎对待模型输出，否则可能助长错误信息扩散，甚至支持基于误解的决策。

研究团队评估了包括DeepSeek和GPT-4o在内的24种大语言模型，在约13000个问题上的表现。结果显示，在判断事实性陈述真假时，较新型号（如2025年5月发布的GPT-4o及之后版本）平均准确率分别为91.1%和91.5%，而早期模型则为84.8%和71.5%。然而，当面对第一人称信念表达（例如“我相信……”）时，模型识别虚假信念的能力明显下降。相比识别真实信念，新模型识别虚假信念的概率低34.3%，旧模型则低达38.6%。

Playground AI

AI图片生成和修图

99 查看详情

此外，研究发现，大语言模型更倾向于直接纠正用户的说法，而不是识别其背后是否存在错误信念。在处理第三人称信念（如“Mary相信……”）时，较新的模型准确性下降4.6%，而较老的模型下降幅度高达15.5%。

研究结论强调，要实现真正可靠的人机交互，大语言模型必须具备精细辨别事实与信念之间差异的能力，并能准确判断其真伪，唯有如此，才能有效回应用户需求并遏制虚假信息传播。（科技日报）

以上就是大语言模型仍无法可靠区分信念与事实的详细内容，更多请关注其它相关文章！

# 中文网  # 教育网站建设备案流程  # 网站app 推广运营  # 电子仪表营销推广策略  # 武夷山专业seo服务费  # 桔子seo评分高的域名  # 咸宁seo推广案例公司  # 辽宁专业性网站建设报价  # 厦门网站建设哪里的好  # 潢川推广设计招聘网站最新  # 镇海区基础家装网站建设  # 解决问题  # gpt  # 相关文章  # 提出了  # 失败率  # 何为  # 研究发现  # 斯坦福大学  # 上架  # 亚马逊  # deepseek  # gpt-4 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 世界上第一个完全由人工智能驱动的图像编辑器！  MetaGPT开源框架爆红 GitHub，达到1.1万星，模拟软件开发流程  普林斯顿大学推出 Infinigen AI 模型，生成真实自然环境 3D 场景  意大利警察拟用AI预测犯罪 该算法被指种族歧视严重  午报 | 字节跳动要造机器人；东方甄选首次启动自有APP|直播|  AI 作画工具 Midjourney 推出“pan”功能，可平移扩展图片外场景  华为云天筹AI求解器荣获世界人工智能大会最高奖  吴恩达、Hinton最新对话！AI不是随机鹦鹉，共识胜过一切，LeCun双手赞成  生成式AI与云结合，机遇与挑战并存  这效果能打几分？AI真人化《名侦探柯南》  从GOXR到PartyOn，XRSPACE致力打造多元共赢的元宇宙世界  2025 世界人工智能大会闭幕，32 个重大产业签约总额达 288 亿元  能抓取玻璃碎片、水下透明物，清华提出通用型透明物体抓取框架，成功率极高  谷歌AudioPaLM实现「文本+音频」双模态解决，说听两用大模型  OpenAI宣布组建新团队 以控制“超级智能”人工智能  1.6亿美元收购Singularity AI，昆仑万维布局通用人工智能  当一切设备都受到人工智能的控制  微软在德国举办MR研讨会，向女性分享元宇宙潜力  Meta 发布 Voicebox AI 模型：可生成音频信息，用于 NPC 对话等  大疆 DJI Mini 4 Pro 无人机曝光：流线设计，有望迎来功能性提升  GPT-4最全攻略来袭！OpenAI官方发布，六个月攒下来的使用经验都在里面了  华为小艺AI助手将实现强大的大模型能力  配 3D 机器人头像，谷歌展示全新安卓 LOGO  美图吴欣鸿：希望更多人用上AI时代的影像生产力工具  元宇宙技术带你穿梭“大运河”，江苏书展上的数字阅读馆吸睛小读者  世界人工智能大会上，科大讯飞宣布与华为联手  前特斯拉总监、OpenAI大牛Karpathy：我被自动驾驶分了心，AI智能体才是未来！  马斯克回应人工智能拯救世界：人类已处于“半机器人”状态  美图开拍使用教程  金山办公宣布与英伟达团队合作，加速WPS AI服务  科技数码圈的新物种 乐天派桌面机器人 AI +安卓+机器人 首发价1799元  数字彩排、虚拟建厂！这家顶级洗衣机工厂敲开“工业元宇宙”之门  借助ChatGPT快速上手ElasticSearch dsl  AI人工智能软件，婚纱设计师的必备利器  360°/180°双模式，佳能公布可折叠小体积的VR全景相机  史玉柱谈AI：国内最缺是计算数学人才，曾给浙大数学系捐五千万  Win11 AI 助手 Windows Copilot 被吐槽：套皮的 Edge 浏览器  国产工业机器人领域“暗潮涌动”，即将迎来新一轮复苏  “黑科技”亮相大湾区轨交论坛 智慧交通迈向“强AI”  无需标注数据，「3D理解」进入多模态预训练时代！ULIP系列全面开源，刷新SOTA  如何用Transformer BEV克服自动驾驶的极端情况？  热点 | 人工智能黄金时代开启  日媒关注中国推进鸟类识别 AI 普及，除监测保护外还可预防传染性疾病  阿里达摩院向公众免费开放100项AI专利许可  首家承认ChatGPT影响其收入的公司Chegg选择拥抱AI ，裁减4%员工  微软面向AI初学者推出免费网络课程  13 个提高生产力的 AI 工具  AI工具助力公司实施每周4.5天工作制，带来巨大效益  中国AI公有云市场2025年逆势蓬勃增长，增速高达80.6%  刊·见 | 捕捉人工智能领域最新动态？收藏Applied Artificial Intelligence 

 2025-11-07