CREATOR制造、使用工具，实现LLM「自我进化」

---

自古以来，工具的使用被视为区分人与其他物种的一大区别，也被视为是智能的一种根本体现。而当下，人工智能已不再局限于对工具的简单使用，它们已然能够根据问题创造性地建立自己的工具来寻求解决方案。在思维上，这代表着当下大模型已经能够掌握更高层次的抽象思维认知，并将其与具象思维划分，共同解决问题；而在能力上，工具创造的出现也意味着模型已经能够从 “学习” 中蜕变，去运用已知 “创造” 未来的无限可能。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

• 论文链接：https://arxiv.org/pdf/2305.14318.pdf

研究背景

近年来，大规模语言模型（Large Language Models）取得了显著的研究进展，包括 GPT-3、Codex、PaLM、LLaMA、ChatGPT 和最近发布的 GPT-4 等。这些模型在上下文学习（In-Context Learning）、代码生成（Code Generation）和各种其他自然语言处理任务方面表现出色，将模型的潜力进一步推向了通用人工智能。

尽管大模型在这些取得了巨大的成功，其当下仍然存在很多短板，包括无法识别或回答最新的实时信息、很难在大规模的数据计算上达到高准确性，在题干逻辑复杂时推理能力不稳定等等。针对这些短板，研究者开始致力于向当前模型架构中引入对外部资源的利用能力，例如引入计算器，问答系统，维基百科等等外部知识源，来增强模型能力。这一系列研究奠定了模型工具学习（Tool Learning）能力的基础。

然而，当下研究中利用的外部工具数量仍然有限，而在潜在的新任务类型几乎是无尽的。因此，在面对新的问题类型时，很难找到现有的适合解决问题的工具。此外，即使提供了有效的可利用的工具，模型需要在工具包文档中进行海量搜索、匹配并针对问题进行针对性地规划。这将给模型带来很大的认知负担，并需要较高的学习成本。

因此，研究团队提出了全新的一种研究范式：工具创造（Tool Creation）。其不再是简单利用大模型使用工具的能力，而是加入了全新的工具创造模块，让模型针对所面对的问题进行工具创造并寻求解决方案。

利用大模型创造工具能够提高工具的普适性、可复用性和多样性，超越给定 API 的限制。工具创造模块的设计还可以减轻大模型的认知负担，并解耦其进行抽象推理（创建可推广的具有普适性的工具）和具象推理（根据工具实现细节和工具使用文档进行决策）的能力。同时，该框架下模型以代码作为工具创造的媒介，这使得模型对于错误更加敏感，并能根据工具创造与使用中的问题进行回溯与修正。

工具创造范式相比工具使用更加灵活并对不同场景有更强的适应能力

CREATOR 研究框架

大模型进行工具创造来解决问题的框架 CREATOR 主要分为了以下四个阶段：

• 创造（Creation）：运用大模型对于问题的抽象推理能力，通过代码有针对性性地创造所需工具以及其使用说明。
• 决策（Decision）：运用大模型对于问题的具象推理能力，决策如何调用工具来解决当前问题。
• 执行（Execution）：根据创造的工具以及决策内容，进行决策的执行，并捕获执行过程中的输出信息。
• 修正（Rectification）：运用大模型对于错因推理以及自我修复的能力，对执行阶段捕捉到的问题进行修复。

大模型进行工具创造与决策的流程框架

大模型首先将根据问题创造所需要的工具以及其相关使用说明；此后，问题内容以及工具信息将同时再次返回给大模型，用以决策针对本问题的解决方案，以及如何使用这些工具。此后，模型将根据执行情况对工具及决策做出调整，以更好地适应问题并寻求解答。

整个工具创造框架灵活运用了大模型的不同思维能力：提取问题关键信息的抽象思维推理，根据任务实施方案决策的具象思维推理，以及根据问题寻求解决方案的自我修复推理。这些能力的解耦帮助大模型避免了在普通推理链（Chain-of-Thought, CoT）中的思维混乱而导致的失败现象，有效提升了大模型对于任务的适应能力及表现。

CREATOR 实验评测

作者将 CREATOR 框架与当前的普通推理链方法（CoT），程序推理链方法（Program-of-Thought, PoT）以及没有创造的简单工具使用（Tool Use）进行了比对。同时，为了验证框架中剥离抽象推理与具象推理的有效性，作者还额外引入了整体工具创造（Tool Create - whole）作为基线，该方法将 CREATOR 框架中的创造阶段与决策阶段合二为一，不再进行推理能力上的解耦。

Creation Challenge 数据集问题，标准工具及决策示例

在 MATH 数据集上 CREATOR 框架的表现高于其他推理方法以及简单的工具运用

在数据集的选取上，作者选择了 MATH 以及 TabMWP 数据集作为主要验证。其中前者包含了美国数学竞赛当中的高难度数学问题，而后者将问题与丰富的数据表结合，二者都考验了模型对于多样化场景的问题推理与解决能力。除此之外，作者还额外引入了全新构建的 Creation Challenge 数据集，其中的问题都无法直接套用现有工具或者代码包解决，从而考验了模型进行工具创造的能力。

在 TabMWP 数据集以及 Creation Challenge 上 CREATOR 框架效果也显著更强

从实验结果看来，CREATOR 框架的推理结果要明显好于所有基线，尤其相对于标准的推理方法以及程序推理方法，均达到了更好的效果。同时实验也证明了对抽象与具象推理能力进行解耦也可以有效帮助模型提高准确率。在 Creation Challenge 测试集上，作者还额外验证了在有创造什么样的工具的提示（hint）的情况下，模型将会对问题有着更强的解决能力。因此，提示与思维解耦这两点也成为了工具创造中的重要影响因素。

不同方法针对任务难度的准确率统计

在修正阶段的参与下效果的提升

Seede AI

AI 驱动的设计工具

713 查看详情

除此之外，作者还验证了不同方法对于任务难度的变化曲线，以及修正阶段参与轮次与大模型效果提升之间的联系。结果表明，CREATOR 框架面对有难度的问题能够保持更好的鲁棒性，以及修正阶段的参与能够让不仅是 CREATOR 框架，甚至是 PoT 推理方法都能得到大幅度提升，证实了在实验中引入修正阶段的合理性与有效性。

工具创造的其他优势

在主实验之外，文章作者也着重探讨了工具创造的其他优势以及当下大模型工具创造能力的不同展现形式。既然是创造工具，那么作为工具的一大优势必定是其可复用性。作者也顺此思路进一步展示了工具的复用对于任务效果的提升。

作者设计了 300 条问题并三个一组分为了 100 组。其中每一组的三个问题虽然场景不同，但都涉及相同的核心知识（Core Knowledge），即同类问题。作者验证了将对于一个问题创造的工具用于一组问题中的所有场景，是否都能够有效解决并提升准确率。

对于大模型创造的工具在其他问题上迁移，能够有效提高准确率

实验统计表明将模型创造的正确可用的工具迁移到其他同类问题场景，能够有效提升问题解决的正确率。这即表明大模型创造的工具具有良好的可复用性，对于同类问题也有着良好的普适性。

除此之外，作者还展示了大模型进行工具创造的三个维度：对已有工具进行封装以实现不同目的，将不同工具进行组合实现目标功能，以及进行层次化的工具创建。这三个维度由低到高展示了当下大模型工具创造的能力，而这些能力也帮助大模型能够更高效地适应不同场景。

大模型进行工具创造的三个维度

总结

CREATOR 框架通过工具创造实现了大模型抽象与具象思维能力的解耦，是继工具学习之后，对模型能力边际探索的又一大突破。相信未来的更多研究将会以此为基础，继续在工具的使用与创造上不断证明与增强模型潜力，为我们带来更多惊喜。

文章主要作者

钱成，清华大学大三年级本科生，THUNLP 实验室成员，导师刘知远。目前研究方向包括大模型预训练，大模型高效微调，以及工具学习等领域。曾获清华大学计算机综合优秀奖学金，并以共同一作身份在 EMNLP，ACL 等国际会议中发表论文。

个人主页：https://qiancheng0.github.io/

以上就是CREATOR制造、使用工具，实现LLM「自我进化」的详细内容，更多请关注其它相关文章！

# 中国  # 长宁区企业网站优化费用  # 淘宝上搜索seo  # 自动引流机器seo  # 谷歌seo里面dp  # 任务推广官方网站有哪些  # 百度seo培训北京  # 内容营销如何推广  # 贵州seo基础教程  # 网站建设教程app  # 如何推广旅游网站平台  # 开源  # 研究  # 展示了  # 一大  # 而在  # 华为  # 更强  # 复用  # 门店  # 解决问题  # llama  # chatgpt  # 框架 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： GPT-4成功战胜AI-Guardian审核系统：谷歌研究团队的人工智能抵抗人工智能  英特尔张宇：边缘计算在整个AI生态系统中扮演重要角色  AI大模型紫东太初已被注册商标 中科院已注册紫东太初大模型商标  清华&中国气象局大模型登Nature：解决世界级难题，「鬼天气」预报时效首次达3小时  “上海市民营企业人工智能赋能创新中心”揭牌成立  AI创作广告文案等同2.47年工作经验，且消费者无法区分｜AI营销前沿  IBM与NASA联手开源地理空间AI基础模型，促进气候科学领域进步  探展WAIC |万向区块链杜宇：不存在单一技术的iPhone时刻，Web3.0核心将基于AI+区块链+物联网  AI+音乐如何“生成”动听旋律？一起揭秘世界人工智能大会开场曲  关于开展“与AI共创未来”——2025年全国青少年人工智能创新实践活动的通知  “思享荟”沙龙热议AIGC与元宇宙 复旦大学赵星畅谈深度数字化  北交大推出国内首个开源交通大模型TransGPT，可免费商用  微软 Azure AI 文本转语音服务升级：新增男性声音和扩展语言支持  Goodnotes 6推出，带来多项全新AI功能，让电子笔记更智能  人工智能如何改变未来语言？  网易加速行业AI大模型应用，将覆盖100多个应用场景  2025VR&AR显示技术峰会视频解析： 歌尔光学展示最新一代VR/AR光学模组  印象笔记开放旗下“印象 AI”，可一键生成思维导图、写文章等  生成式人工智能进入产业应用！但再“聪明”仍是工具，最终目的是服务于人  大型无人机FH-98国内首次夜航转场成功  灯塔AI大模型票房预测上线：开源算法不断提升精准度  对话式论文阅读工具PaperMate上线，综述细节AI告诉你  好莱坞面临全面停摆 好莱坞大罢工抵制“AI入侵”  《爱康未来之夜嘉宾官宣，携手共赴AI未来》  爱设计 AI 一键生成 PPT 工具上线：输入标题即可生成 PPT  美图开拍使用教程  研究表明 GPT-4 模型具备自我纠错能力，有望推动 AI 代码进一步商业化  苹果AI战略与微软谷歌大相径庭，到底是领先还是落后？  严打“黑飞”，无人机检测反制设备护航大运会净空安全  机器人 展才能  智能公司为何纷纷投身机器人领域？  XREAL Beam 投屏盒子正式发布：支持“可悬停 AR 空间屏”  管提需求，大模型解决问题：图表处理神器SheetCopilot上线  万魔推出AI主攻的运动耳机，开启十年研发新纪元  如何获得元宇宙的第一个属于自己的空间  传Meta 2025年推出首款AR眼镜，采用军用级别材料，计划生产1000台  视觉中国宣布推出AI灵感绘图、画面扩展功能  会模仿笔迹的AI，为你创造专属字体  直击上影节 | 光线传媒董事长王长田谈新技术：未来VR放映效果可能媲美影院  GPT-4使用混合大模型？研究证明MoE+指令调优确实让大模型性能超群  如何提高集群协作效率？中外团队合作研发基于均值偏移的机器人队形控制策略  以计算机视觉技术为基础的库存管理如何改革零售行业  统信深度deepin成立 AI SIG 社区，共同提升 Linux 下 AI 体验  RoboNeo操作教程  独家视角：首次展示有人与无人协同打击的7000米高空察打一体无人机  全新小艺搭载AI大模型，有效提升学生和职场人士的工作效率  Meta 人工智能业务落后竞争对手，研究人员大量离职成重要原因  人工智能产业竞跑“未来赛道” 创新发展放大“赋能”效应  DragGAN开源三天Star量23k，这又来一个DragDiffusion  联合国秘书长称支持建立全球人工智能监管机构 

 2023-06-12