更好、更安全、更不依赖OpenAI，微软的AI新动向，推出大模型安全工具Azure AI

---

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

编译丨伊风

出品 | 51CTO技术栈（微信号：blog51cto）

Machine Translation

聚合多个来源的AI翻译

49 查看详情

生成性人工智能（generative AI）的需求正不断增长，而对LLM安全和可靠性的担忧也变得比以往任何时候都更加突出。企业希望能确保为内外部使用而开发的大规模语言模型（LLM）能够提供高质量的输出，而不会偏离到未知领域。 为了满足这一需求，有几个关键方面需要考虑。首先，应该加强对LLM模型的可解释性，使其能够透明地展示其生成结果的来源和逻辑推理过程。这将有助于用户理解输出的质量，并评估其可信度。 其次，需要提供更多的工具和技术来验证和检测LLM输出的准确性和正确性。这些工具可以帮助用户在使用

微软认识到这些担忧，长期以来，微软使用OpenAI的模型只能调用API，对黑盒里的秘密缺少掌控的方法。微软近期宣布推出了新的Azure AI工具，用以帮助解决大模型的幻觉问题，同时能够够解决安全漏洞问题，如提示输入攻击，即模型被攻击生成侵害隐私或其他有害内容——就像微软自己的AI图像创作器生成的泰勒·斯威夫特深度伪造图像一样。

据悉，安全工具将在未来几个月内广泛推出，目前尚未公开具体的时间表。

1.Azure AI在大模型的安全做些什么？

随着LLM的普及，提示注入攻击问题变得格外突出。本质上，攻击者可以以一种方式改变模型的输入提示（prompt），以绕过模型的正常操作，包括安全控制，并操纵它以显示个人或有害内容，从而危及安全或隐私。这些攻击可以通过两种方式进行：直接攻击，即攻击者直接与LLM交互；或间接攻击，这涉及使用第三方数据源，如恶意网页。

为了解决这两种形式的提示注入，微软正在将提示盾（Prompt Shields）添加到Azure AI。这是一个综合能力，使用先进的机器学习（ML）算法和自然语言处理自动分析提示和第三方数据的恶意意图，并阻止它们到达模型。

它将集成到微软的三个相关产品中：Azure OpenAI服务（编者注：Azure OpenAI 是微软推出的一款基于云的服务产品，它提供了对OpenAI强大语言模型的访问能力。Azure OpenAI 的核心优势在于它结合了OpenAI的先进技术和微软Azure的安全性及企业级承诺）、Azure AI内容安全和Azure AI工作室。

除了努力阻止威胁安全和安全的提示注入攻击外，微软还引入了专注于生成型AI应用程序可靠性的工具。这包括预建的安全中心系统消息模板和一个新的功能，称为“基础性检测”（Groundedness Detection）。

正如微软所解释的，安全中心系统消息模板允许开发人员构建引导模型行为朝着安全、负责和数据基础输出的系统消息。而基础性检测使用一个经过微调的定制语言模型来检测模型产生的文本输出中的幻觉或不准确材料。两者都将在Azure AI工作室和Azure OpenAI产品中提供服务。

值得注意的是，检测基础性的指标还将伴随着自动化评估，以压力测试生成型AI应用程序的风险和安全性。这些指标将衡量应用程序被越狱并产生任何不适当内容的可能性。评估还将包括自然语言解释，以指导开发人员如何构建适当的缓解措施来解决问题。

“今天，许多组织缺乏压力测试其生成型AI应用程序的资源，以便他们可以自信地从原型转向市场应用。首先，构建一个反映新出现风险范围的高质量测试数据集可能是具有挑战性的，例如越狱攻击。即使有高质量的数据，评估也可能是一个复杂且手动的过程，开发团队可能会发现很难解释结果以通知有效的缓解措施，”微软安全AI首席产品官Sarah Bird在博客文章中指出。

2.Azure AI将实时“监控”大模型

Azure AI在实际使用过程中，微软将提供实时监控，帮助开发人员密切关注触发安全功能（如提示盾）的输入和输出。这项功能被集成在Azure OpenAI服务和AI工作室产品中，将生成详细的可视化图表，突出显示被阻止的用户输入/模型输出的数量和比例，以及按严重性/类别的细分。

利用这种可视化的实时监测，开发人员能够了解有害请求趋势随时间的变化，并调整其内容过滤器配置、控制以及更广泛的应用程序设计，以增强安全性。

微软致力于加强其AI产品已经有很长的时间了。此前，微软CEO萨提亚·纳德拉（Satya Nadella）在采访中强调，微软并没有完全依赖于OpenAI，同时也在发展自己的AI项目，以及帮助OpenAI建设其产品：“我对于我们现在的关系感到很满意。我也认为，这样有助于我们掌握各自公司的命运。”

改变了“All in OpenAI”的格局，微软也使用了包括Mistral在内的大模型。最近，微软新成立的团队Microsoft AI动作频频，它甚至聘请了来自Inflection AI的Mustafa Suleyman及其团队。这似乎是一种减少对Sam Altman及OpenAI依赖的方法。

现在，这些新的安全和可靠性工具的加入建立在公司已经完成的工作基础上，为开发人员提供了一个更好、更安全的方式来构建其提供的模型之上的生成型AI应用程序。

参考链接：https://venturebeat.com/ai/microsoft-launches-new-azure-ai-tools-to-cut-out-llm-safety-and-reliability-risks/

以上就是更好、更安全、更不依赖OpenAI，微软的AI新动向，推出大模型安全工具Azure AI的详细内容，更多请关注其它相关文章！

# openai  # api  # 模型  # 自然语言  # 台儿庄网站建设多少钱  # 黑帽seo话术  # 将在  # 丰田  # 更不  # 高质量  # 中国科学院  # 自己的  # 应用程序  # 开发人员  # 微软  # 西宁网站建设平台有哪些  # 多网站建设  # 影响网站优化排名的细节  # 大庆抖音seo加盟必看  # 伊犁seo网络营销渠道  # 山东抖音网站推广哪个好  # 齐全的福州seo方案  # 无锡会计网站建设程序 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： 华为大模型登Nature正刊！审稿人：让人们重新审视预报模型的未来  英伟达H100霸榜权威AI性能测试 11分钟搞定基于GPT-3的大模型训练  全国体育人工智能大会举办，专家聚焦体育人工智能领域人才培养  今年，全球客服中心支出将增长 16.2%，迎接对话式 AI 的浪潮，根据 Gartner 报告  管提需求，大模型解决问题：图表处理神器SheetCopilot上线  新华全媒+｜AI：当心，我可能欺骗了你！  石头扫拖机器人 G20 618 福利来袭：4999 元，超值配件领到手软  人工智能驱动智能建筑会是未来趋势吗？  亲身体验鸿蒙4：AI大模型带来的便利，告别单纯的旁观者状态  软银、淡马锡、沙特阿美突击入股，“协作机器人第一股”节卡股份：强敌环伺，持续失血是常态  找对了风口想不火都难，乐天派机器人，安卓机器人的最终形态？  AI新风口？首个高质量「文生视频」模型Zeroscope引发开源大战：最低8G显存可跑  美图公司影像节或发布AI设计新品  斑马推出全新升级版思维机：以人工智能为核心的交互式学习体验  Hugging Face发布了基于NASA卫星数据构建的AI地理空间基础模型  “直击”AI新世界，智能机器人再次“火出圈”了  2025WRC世界机器人大赛锦标赛（烟台）收官！斯坦星球勇夺VEX赛项冠亚军！  ​《流浪地球2》里机器人公司的创始人：未来10年，机器人的崛起！  专家解读国家网信办深度合成服务算法备案信息公告：不等于百度、阿里、腾讯等生成式AI产品获批  Unity 推出面向开发者的 AI 软件市场 AI Hub，股价飙涨 15%  一文看懂基础模型的定义和工作原理  参考封面|人工智能“淘金热”  腾讯AI首次模拟拼接三星堆文物，工作取得阶段性的成果  Ai智能机器人，chat-免注册登入，直接使用新版gpt4.0！  生成式AI对云运维的3大挑战  OpenAI 为开发者推出 GPT 聊天机器人 API 大更新，同时降低价格  NVIDIA垄断AI市场90%份额：AMD性能追上80% 软件太不能打  360发布AI数字人广场，可同孙悟空、爱因斯坦等古今中外角色对话  英特尔张宇：边缘计算在整个AI生态系统中扮演重要角色  华为云发布华为云盘古模型3.0和升腾AI云服务，亮点亮相2025华为开发者大会  人工智能助力林草行业高质量发展  厂商陆续公布AI进展 完美世界游戏展示复合应用AI in GamePlay  1分钟做出苹果Vision Pro「官网」？上班8小时搞出480个网页，同事被卷疯了  一公司推出喷火机器狗，可喷出 9 米长火焰  AI 大模型重塑软件开发，有哪些落地前景和痛点？| ArchSummit  在这里见未来！杭州未来科技城全球AI盛会邀您共探最前沿  陈根：ChatGPT和人类合作开发机器人  阿里云AI绘画创作大模型通义万相发布 已开启定向邀测  ChatGPT设计出的第一个机器人来了！【附人工智能行业预测】  马斯克发推讽刺人工智能，机器学习本质是统计？  彭博社：苹果Vision Pro曾测试VR手柄追踪方案  跟着AI大热的“光模块”到底是什么？  酒店业将如何受益于人工智能的改变？  热点资讯：家乐福推出聊天机器人；米哈游2025年营收273.4亿元…  J*a与人工智能结合：构建智能云服务  微软大牛加入ZOOM，AI人才大战打响  海南省公安机关警用无人机培训班结业并举行警航比武演练  Win11 的画图应用将包含 Windows Copilot 的 AI 工具整合  华为推出全新操作系统HarmonyOS 4，AI和新引擎完美融合  12页线性代数笔记登GitHub热榜，还获得了Gilbert Strang大神亲笔题词 

 2024-04-02