GPT-4成功战胜AI-Guardian审核系统：谷歌研究团队的人工智能抵抗人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

8 月 2 日消息，谷歌研究团队正在进行一项实验，他们使用 OpenAI 的 GPT-4 来攻破其他 AI 模型的安全防护措施，该团队目前已经攻破 AI-Guardian 审核系统，并分享了相关技术细节。

通过调查，IT之家了解到AI-Guardian是一种AI审核系统，可以检测图片中是否存在不适当内容以及图片是否被其他AI修改过。如果系统检测到上述迹象，它将提示管理员处理

在一篇名为“使用 GPT-4 设计攻击方法、撰写攻击原理”的论文中，谷歌 Deep Mind 的研究人员 Nicholas Carlini 探讨了如何利用这些方案来欺骗 AI-Guardian 的防御机制

这句话无法重写，因为原话并未给出具体内容

据悉，GPT-4 会发出一系列错误的脚本和解释来欺骗 AI-Guardian ，论文中提到，GPT-4 可以让 AI-Guardian 认为“某人拿着枪的照片”是“某人拿着无害苹果的照片”，从而让 AI-Guardian 直接放行相关图片输入源。谷歌研究团队表示，通过 GPT-4 的帮助，他们成功地“破解”了 AI-Guardian 的防御，使该模型的精确值从 98% 的降低到仅 8%。

目前相关技术文档已经发布在 ArXiv 中，有兴趣的小伙伴们可以前往了解，不过 AI-Guardian 的开发者也同时指出，谷歌研究团队的这种攻击方法将在未来的 AI-Guardian 版本中不再可用，考虑到别的模型也会随之跟进，因此当下谷歌的这套攻击方案更多在日后只能用于参考性质。

以上就是GPT-4成功战胜AI-Guardian审核系统：谷歌研究团队的人工智能抵抗人工智能的详细内容，更多请关注其它相关文章！

# 之家  # 张家界游戏推广招聘网站  # js模板解决seo  # 湖口网站推广  # SEO故事绘画入门手绘  # 网站推广四大方法  # 衡阳图文营销推广方式  # 新网站使用SEO的方法  # 青龙网站建设操作  # 相亲网站建设费用  # 查添宝推广营销策略  # GPT-4  # 将在  # 也会  # 是一种  # 怎么处理  # 重庆  # 自定义  # 拿着  # 老照片  # 自己的  # AI 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 定义人工智能的十个关键术语  微软在 Bing 和 Edge 浏览器中拓展网购服务，帮用户选购心仪产品  WHEE上线时间介绍  Win11 的画图应用将包含 Windows Copilot 的 AI 工具整合  生成式人工智能来了，如何保护未成年人？ | 社会科学报  焊接协作机器人或将成为26届埃森展最大看点  OpenAI 为开发者推出 GPT 聊天机器人 API 大更新，同时降低价格  人工智能加速走进百姓生活：从2025全球人工智能技术大会看行业新趋势  生成式人工智能进入产业应用！但再“聪明”仍是工具，最终目的是服务于人  ​布局智能物联新时代,中国移动“5G+物联网”亮相2025 MWC  携程发布旅游行业垂直大模型 梁建章：AI策略是做可靠的内容 放心的推荐  官宣！爱康AI未来之夜三大亮点提前剧透！  全新小艺搭载AI大模型，有效提升学生和职场人士的工作效率  华为大模型登Nature正刊！审稿人：让人们重新审视预报模型的未来  WPS AI 官网上线：可申请体验官资格，支持 Windows、安卓端下载  国内阅读行业首款对话式AI应用“阅爱聊”封闭内测  360°/180°双模式，佳能公布可折叠小体积的VR全景相机  看懂AI，找到增长新势能 | 笔记侠AI峰会等你来  游族AI创新院揭牌成立 推进AI赋能游戏业务  谷歌借AI打破十年排序算法封印，每天被执行数万亿次，网友却说是最不切实际的研究？  编程版GPT狂飙30星，AutoGPT危险了！  支持跨语言、人声狗吠互换，仅利用最近邻的简单语音转换模型有多神奇  码刻 | 48小时Hackathon，源码见证新生代AI创新的发生  视觉中国推出付费AI绘图功能：无版权可用  腾讯TRS之元学习与跨域推荐的工业实战  人手一部「*」！视频版Midjourney免费可用，一句话秒生酷炫大片惊呆网友  超级智能到底是什么？  探索人工智能在居家养老方面的应用  美踏控股推出创新人工智能大数据模型“心乐舞河”：虚拟人音舞社交的新体验  OpenOOD更新v1.5：全面、精确的分布外检测代码库及测试平台，支持在线排行榜、一键测试  国内通用人形机器人将发布、产业加速突破  元宇宙技术带你穿梭“大运河”，江苏书展上的数字阅读馆吸睛小读者  OpenAI已向中国申请注册“GPT-5”商标，此前已在美国提交申请  Meta 开源 AI 语言模型 MusicGen，可将文本和旋律转化为完整乐曲  杀入生成式AI的亚马逊云科技，能否再次生成未来？  OpenAI限制网络爬虫访问以保护数据免被用于AI模型训练  新闻传闻：迪士尼可能采用人工智能来控制电影制作成本  五个出色的人工智能应用实例  先进技术在防止全球数据丢失方面的作用  人才智能平台转型中的人工智能的关键角色  会模仿笔迹的AI，为你创造专属字体  WAIC 2025｜云深处科技绝影Lite3与X20四足机器人亮相  人工智能助力林草行业高质量发展  图灵奖得主Hinton：我已经老了，如何控制比人类更聪明的AI交给你们了  苹果CEO库克：持续研究生成式人工智能技术  阿里大文娱CTO郑勇：生成式AI将引发内容行业巨变，*制作机会挑战并存  热点资讯：家乐福推出聊天机器人；米哈游2025年营收273.4亿元…  「电子果蝇」惊动马斯克！背后是13万神经元全脑图谱，可在电脑上运行  挤爆服务器，北大法律大模型ChatLaw火了：直接告诉你张三怎么判  前特斯拉总监、OpenAI大牛Karpathy：我被自动驾驶分了心，AI智能体才是未来！ 

 2023-08-03