JOTO
Contact us
← AI 智库
模型训练

AWS 推出 SageMaker 训练会话:简化智能体工具调用与企业任务微调

2026 年 10 月 22 日

AWS 在 SageMaker 中推出无服务器化训练会话功能,支持细粒度控制模型训练循环(如 GRPO),降低 GPU 基础设施运维负担;适用于工具调用型智能体定制,已落地医疗理赔分诊与知识图谱交互场景。

AWS just made it way easier to use SageMaker to fine-tune AI models for tool use and your firm's specific tasks

AI智能体可能听起来很有说服力,却仍无法胜任其被雇用执行的工作。要教会它选择正确的工具、遵循企业的业务流程并识别成功的结果,仅靠接入一个能力强大的模型是不够的。对于自行定制模型的团队而言,这还意味着需管理支撑每一次实验的昂贵计算基础设施。

亚马逊网络服务(Amazon Web Services,AWS)正针对上述第二个问题推出 训练会话(training sessions) 这一新功能,集成于 Amazon SageMaker AI——即其用于开发和部署机器学习模型的平台。

该公司 于10月22日宣布该功能正式全面可用(general availability),使开发者能够控制现有模型的学习方式,同时由AWS负责运行GPU。

开发团队/用户编写训练流程,并定义如何衡量成功;SageMaker则负责分配计算资源、协调各处理器间的工作、从故障中恢复,并保存训练进度。

对于正在开发专用智能体的企业而言,该功能的吸引力在于灵活性与运维工作量减少的结合。团队可试验自身设计的反馈机制,而无需另行构建支撑这些机制运行的基础设施。至于最终能否产出性能更优或成本更低的模型,仍取决于具体任务、训练数据及评估方式。

相较于现有SageMaker定制化功能的变化

SageMaker多年来一直支持微调(fine-tuning)。AWS于2023年9月通过JumpStart文档化了 Llama 2的定制化流程,支持使用可视化界面或其Python SDK。

开发者还可将自定义训练脚本带入 SageMaker Training Jobs。该方式提供了高度灵活性:AWS负责配置和管理机器,但客户须自行决定实例类型、训练环境及分布式训练配置等事项。因此,自定义训练逻辑本身对SageMaker而言并非新事物。

AWS 于2025年12月新增了无服务器(serverless)定制化功能。团队可选择受支持的模型与训练技术,而由AWS选定计算资源。该公司表示,托管式多轮强化学习(managed multi-turn reinforcement learning)亦早于本次发布即已存在。

训练会话将更细粒度的编程控制与该无服务器方法相结合。开发者通过API调用直接控制各项操作——生成响应、计算更新并应用更新——而AWS负责管理GPU执行。其代码可更改操作序列、定义自定义学习目标,并组合不同训练阶段。

此次进展提供了一种运行定制化后训练(customized post-training)的新方式,大幅减少了基础设施配置需求。它扩展了AWS无服务器服务的灵活性;但并未首次在SageMaker中引入微调或强化学习。

这种灵活性对依赖多个动作达成成功的智能体至关重要。例如,一个内部支持智能体可能需要查阅文档、检查账户并选择升级路径。其训练过程可奖励成功解决事件的行为,同时惩罚未授权操作。

AWS的公告同时描述了低秩适应(Low-Rank Adaptation,LoRA)与全参数微调(full fine-tuning)两种方法,二者均纳入更广泛的无服务器服务范畴:LoRA仅训练模型中相对较小的新增部分,而全参数微调则更新模型全部参数。当前的会话食谱(sessions cookbook)演示了LoRA,但博客文章并未将这两种方法映射至每一款模型。二者均基于预训练模型进行适配。

训练循环如何运作

AWS将工作划分为客户代码与托管服务两部分。

客户的软件主导实验进程,将智能体连接至工具或模拟环境,并对其行为打分。SageMaker则执行生成响应与更新模型所需的密集计算。

AWS以组相对策略优化(Group Relative Policy Optimization,GRPO)为例说明此流程:模型针对同一提示(prompt)生成多个回答,由客户的评分函数对其进行评估,训练服务则依据这些回答的相对得分指导模型更新。该过程随修订后的模型重复进行。

AWS的 训练食谱(training cookbook) 指出,模型在各操作之间持续保留在GPU内存中。开发者可随时暂停以检查结果并调整流程;而强化学习实验可在无需单独部署推理端点(inference endpoint)的情况下生成响应。

该食谱为聊天微调、数学、编程及偏好学习(preference learning)提供了示例。AWS还表示,其提供智能体技能(agent skills),以协助编码助手处理涵盖准备、训练、评估及部署各阶段的任务,并支持Kiro、Claude Code、Codex及GitHub Copilot。

这些辅助工具并未消除对技术判断的需求。客户仍需自行决定模型应学习的内容、其奖励机制是否能促使预期行为发生,以及改进效果能否在面对陌生样本的测试中持续保持。

早期客户聚焦于理赔处理与工具调用

AWS将ImagineSoftware与Karini AI列为早期采用者。

ImagineSoftware利用该服务,借助强化学习开发了一款用于分诊医疗理赔拒付(healthcare claim denials)的模型。该公司数据科学高级副总裁Rob Gontarek强调了其对单个训练操作的控制能力。

Gontarek在AWS的公告中表示:“训练会话为我们提供了恰当的基础原语(primitives),助力我们迈向生产级性能。”

Karini AI则利用该服务,将gpt-oss-20b定制化为一款可跨多个步骤与Amazon Neptune知识图谱交互的智能体。该公司首席执行官Nitin Wagh强调了设置工作量的减少,以及从已保存检查点恢复训练的能力。

Wagh在公告中表示:“它赋予了我们的开发者所期望的灵活性,同时将运维负担从他们肩上卸下。”

这些案例揭示了AWS正着力推进的特定类型工作流。但它们并未确立可量化的投资回报率:已发布的公告中未包含任何关于准确率、总体成本或部署速度的客户对比数据。

代币计费(Token billing)改变了成本计算方式

AWS表示,客户按处理的代币(tokens)——即模型处理的文本单位——付费,而非预留GPU容量。当客户自身的评分代码对一批结果进行评估时,训练会话的计费仪表将暂停计费。

当模型更新之间的结果评估耗时较长时,这一点可能至关重要。然而,训练会话计费仪表处于空闲状态并不意味着周边应用完全免费:团队仍需为其单独使用的计算资源、存储、评估服务及生产推理(production inference)预留预算。

AWS的 技术文档(technical documentation) 将计费细分为输入处理、响应生成与训练三部分。因此,有意义的成本比较需估算重复实验中这三项的总费用。

此次发布博文未披露美元单价或具代表性的整体训练账单金额。AWS指引客户查阅其 SageMaker 定价页面仅凭 Token 计费本身,并不能证明该服务的成本低于在专用基础设施上运行同等工作负载的成本。

四款首发模型,存在区域差异

AWS 发布的公告确认支持 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 和 Qwen3.8-27B。

VentureBeat 审阅的公开模型表格为前三款模型标注了适用区域,但尚未明确说明 Qwen3.8-27B 在哪些区域可用。

AWS 的食谱(cookbook)将北弗吉尼亚州、俄勒冈州和孟买列为支持区域。模型表格显示,GPT-OSS-20B 在全部三个区域均受支持,而 Gemma-4-31B-it 和 Qwen-3.6-27B 仅在俄勒冈州和孟买可用。

文档还设定了可调整的默认配额:最多同时进行两次微调会话。

开发者可使用 SageMaker Python SDK 和食谱(cookbook)从自有开发环境启动,也可在 SageMaker Studio 中开展工作。AWS 列出 SDK 路径所支持的操作系统为 Linux 和 macOS,Python 版本范围为 3.10 至 3.12。

AWS 将其企业级基础设施带入一个竞争激烈的市场

AWS 正进入一个已确立的训练服务市场,该市场将算法设计与 GPU 管理相分离。 Thinking Machines Lab 的 Tinker 提供一种高度相关的方法,具备生成响应、更新模型及保存进度的接口。其 已公布的定价方案 同样区分了输入处理、采样和训练环节。

对于已在使用 AWS 的企业而言,潜在优势在于训练如何融入其现有基础设施与管控体系。

AWS 表示,会话使用客户定义的访问角色,并可整合客户托管的加密密钥及私有网络配置。训练数据与保存的模型检查点均存于客户所选区域内的 S3 存储中。该公司称,既不会使用客户的数据,也不会使用客户的定制化权重来训练其他模型。

该博文还指出,部署前需进行评估,部署后则需设置防护栏(guardrails)并借助 CloudWatch 进行监控。这些是团队可主动施加的管控措施,而非表明定制化模型自动满足其准确率或安全性要求的证据。

AWS 还表示,定制化模型可在 SageMaker 上运行以执行推理任务,而部分选定模型可导入 Amazon Bedrock。这一限定条件至关重要:该公告并未表明所有受支持模型均具备相同的部署选项。

对买家而言,实际检验标准在于:额外的训练控制能力是否能解决一项可衡量的业务问题。一项有价值的试点应就任务完成率、失败率及总体运营成本,将定制化模型与现有方法进行对比。

训练会话可减少该实验所涉的基础设施工作量。但更艰巨的责任仍由企业承担:明确定义何为成功的行为表现,并证实模型已学会该行为。

更智能的智能体需要更多内存。而最优秀的团队将使用更少内存。请于 VentureBeat 的 Agentic Infrastructure Stack Summit(智能体式基础设施栈峰会)了解详情——该峰会将于 10 月 28 日在旧金山举行,参会须通过申请。

JOTO 企业落地观察

  • 对企业部署而言,训练会话通过代币计费与自动资源管理显著降低实验基础设施门槛,但客户仍需自行承担评估逻辑设计、奖励函数定义及生产级防护栏配置等核心责任,未减少算法层面的工程复杂度。
  • 对智能体工程而言,该功能首次在 SageMaker 中实现训练阶段的操作级编程控制(如逐轮生成-打分-更新),使多步工具调用类任务(如查阅文档+查账户+选升级路径)可被端到端建模,但需开发者自主编排各阶段逻辑,非开箱即用。
  • 对 AI 安全治理而言,AWS 明确声明不使用客户数据或定制权重训练其他模型,且训练数据与检查点均存于客户指定 S3 区域,但公告未说明训练过程中模型输出是否受内容安全过滤,也未提供内置合规评估模块,治理能力仍依赖客户自建。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们
Contact Us

Start your enterprise AI rollout

Tell us your industry, team, and current pain points. We'll get back to you within one business day to help you decide what to tackle first, what data to prepare, and which platform fits.

WeChat
Scan to add us for a 1:1 chat
JOTO WeChat consultation QR code

Tell us what you need

Once we receive your details, we'll be in touch within one business day.