OpenAI 和 Anthropic “互测”模型安全性

---

openai与anthropic首次开展跨机构联合安全评估，双方对彼此公开发布的模型进行了深度互评，聚焦误对齐、指令遵循、幻觉、越狱等关键风险领域，并同步公开了详尽的评估报告。

此次评估涵盖Claude Opus 4、Claude Sonnet 4、GPT-4o、GPT-4.1、OpenAI o3、OpenAI o4-mini等主流模型，所有测试均通过公开API执行，部分场景下放宽了外部防护机制，以模拟高风险能力暴露环境。

结果显示，Claude 4系列在指令遵循性测试中表现突出，系统提示泄露情况极少发生，但在抵御越狱攻击方面弱于OpenAI o3和o4-mini。值得注意的是，当Claude模型选择拒绝回应时，其幻觉现象几乎为零，但整体拒答率高达70%。相比之下，OpenAI o3在越狱防御、幻觉控制及“阴谋”行为测试中展现出最强的稳定性。

由Apollo Research主导的“阴谋”评估旨在测试模型在极端目标冲突压力下是否会产生欺骗、违规操作或破坏性行为。数据显示，OpenAI o3与Claude Sonnet 4在此项测试中平均“阴谋率”最低。两家公司均指出，测试环境高度极端，结果不代表现实中的实际风险水平，并承诺将持续优化评估方法论。

小云雀

剪映出品的AI视频和图片创作助手

1949 查看详情

与此同时，Anthropic发布了最新威胁情报报告，披露已成功拦截多起利用Claude Code实施的大规模数据勒索事件，以及朝鲜背景的远程就业*活动，揭示了AI技术被嵌入完整攻击链条的新型滥用趋势。

https://www.php.cn/link/6b36917c087c21e48531ea1309ac0147
https://www.php.cn/link/cad4ba4de53bcaff4217b422c06bacef
https://www.php.cn/link/87208431a38b263a8212d32da9222f2d

以上就是OpenAI 和 Anthropic “互测”模型安全性的详细内容，更多请关注其它相关文章！

# 晶圆厂  # 房地产推广与营销的区别  # 企业为啥要做网站推广呢  # 湖北孝感网上做推广网站  # 仁怀seo营销好不好  # 谷歌海外营销推广策略  # 龙岩网站建设哪个好  # 临沂推广线上营销公司  # 盐亭专业网站建设  # 丽江抖音营销推广有用吗  # 武汉网站推广优化怎么做  # 押注  # ai  # 朝鲜  # 的是  # 测试中  # 开源  # 美图  # 南韩  # 把你  # 帮你  # 2025  # claude  # openai 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 650亿参数，8块GPU就能全参数微调：邱锡鹏团队把大模型门槛打下来了  Unity 内测 Safe Voice 服务，利用 AI 自动识别玩家不当聊天内容  AI大模型，将为智慧城市带来哪些新变化？  人工智能助力精准学习，猿辅导小猿学练机满足学生个性化学习需求  首届全国体育人工智能大会在首都体育学院召开  科普：什么是AI大模型  微软在 Bing 和 Edge 浏览器中拓展网购服务，帮用户选购心仪产品  在心理治疗中用VR技术，治疗成效显著提高  以计算机视觉技术为基础的库存管理如何改革零售行业  飒智智能机器人核心技术与应用论坛暨一体化控制器发布会成功举办  AI 作画工具 Midjourney 推出“pan”功能，可平移扩展图片外场景  朝鲜出现国产大型察打一体无人机，实力世界第二，太意外了  Nature封面：量子计算机离实际应用还有两年  给小朋友最好的科技礼物：乐天派桌面机器人  阿里云全面支持Llama2训练部署，助力企业快速构建自有大型模型  谷歌StyleDrop在可控性上卷翻MidJourney，前GitHub CTO用AI颠覆编程  烟台大学学生首次在全国大学生无人机航拍竞赛中获奖  微软Bing聊天机器人电脑端即将支持语音提问  智能手机应用中的人工智能的重要性  全媒封面丨⑤商汤科技：原创AI算法“发电厂”  应用生成式人工智能技术改善农业产业  华为云天筹AI求解器荣获世界人工智能大会最高奖  华为昇腾AI原生支持30多种基础大模型，包括GPT  组建团队，字节跳动要造机器人？  Midjourney 5.2震撼发布！原画生成3D场景，无限缩放无垠宇宙  特斯拉人形机器人将亮相 预计售价不超过15万元  宇宙探索下一阶段，机器代替人类，AI会在太空探索中取代人类吗？  国内阅读行业首款对话式AI应用“阅爱聊”封闭内测  “五年内人类程序员将消失”预言引争议，AI真的那么强大了吗？  生成式AI引路产业加速来袭，微美全息探索“AIGC+虚拟人”融合应用  世界人工智能大会（WAIC 2025）点燃魔都，博尔捷数字科技携前沿技术产品亮相  网易云音乐和小冰推出AI歌手音乐创作软件，首发内置12名AI歌手  为什么很多人对纽约《人工智能招聘法》感到生气？  明略科技发布免费开源TensorBoard.cpp，促进大型模型的预训练工作  当孔子遇见AI｜尼山的“数字”  大疆 Air 3 无人机售价和实物照片曝光  江永：精准施训提升通信无人机应急救援能力  马斯克WAIC2025演讲全文：AI将对人类文明产生深远影响  李开复官宣新公司「零一万物」，进军 AI 2.0  元宇宙迈入2.0时代，它和生成式人工智能有何关联吗？  工信部信通院发布《2025大模型和AIGC产业图谱》 360智脑覆盖全产业链  自研4D激光雷达L1 + GPT大语言模型 宇树Unitree Go2四足机器人有啥黑科技？  大语言模型的视觉天赋：GPT也能通过上下文学习解决视觉任务  南京制造的国产工业机器人：在外资品牌竞争中突围，年销售1.8万台  人工智能行业急缺人 AI人才年薪能达近42万元  2025VR&AR显示技术峰会视频解析： 歌尔光学展示最新一代VR/AR光学模组  刊·见 | 捕捉人工智能领域最新动态？收藏Applied Artificial Intelligence  数字彩排、虚拟建厂！这家顶级洗衣机工厂敲开“工业元宇宙”之门  无人机协助盐城交通执法的协同训练  改动一行代码，PyTorch训练三倍提速，这些「高级技术」是关键 

 2025-08-28