打开游戏首页(新标签页)亚马逊云科技 User Group 云上大亨服务知识点架构讲解

从对局打开的学习页,可切回原游戏标签继续。

SERVICEAI 组 · PaaS

SageMaker AI

AI 组PaaS按小时要自己做多 AZ

机器学习平台:在上面准备数据、训练、调参和部署模型,有托管的 Notebook 环境,推理端点按实例时长收费。

常见用法

训练自己的模型、部署推理服务

为什么用它

要自己训练、微调或部署模型时用它:训练、调参、上线、监控在一个平台里

核心知识点5 条

  1. Amazon SageMaker AI:构建、训练、部署机器学习模型的全托管平台
  2. 训练:托管训练作业,能用 Spot 训练省钱,支持分布式训练
  3. 部署:实时推理端点、Serverless 推理、异步推理、批量转换
  4. JumpStart 提供预训练模型和现成方案,能一键部署开源大模型
  5. 训练数据通常放 S3,自己的训练和推理镜像放 ECR

三个关键功能游戏里的三级升级,就是现实里的这三个功能

LV.1 · 第 1 级

多 AZ 推理端点

推理实例分布在多个 AZ

游戏里:扛住 AZ 断电和单点故障

运行费:每圈 $20

LV.2 · 第 2 级

多卡训练(GPU 集群)

先用训练计划预留一批 GPU,再多卡并行训练,模型更大、训练更快

游戏里:免疫「GPU 容量不够用」(GenAI 浪潮 DLC);这块过路费再 +20%

运行费:每圈 $30

LV.3 · 第 3 级

训练自己的大模型(HyperPod)

用 HyperPod 集群训练自己的基础模型,节点坏了自动换

游戏里:过路费提高

运行费:每圈 $40

和谁比、怎么选

Bedrock 还是 SageMaker AI

直接用现成的大模型(Claude、Nova、Llama 等),选 Bedrock,按 token 付费;要自己训练、微调或部署开源模型,选 SageMaker AI

练一练7 道,来自游戏题库和认证练习题:点一个选项看对不对

答对 0 / 7,已答 0

1.SageMaker AI 把模型部署成实时推理服务,叫什么?
2.默认配置下,SageMaker AI 实时推理端点没流量时也收钱吗?
3.SageMaker HyperPod 主要用来做什么?
4.数据科学家在 Amazon SageMaker Studio 中工作,想浏览各模型中心的预训练模型,并直接对选中的模型进行微调、部署或评估。应使用哪项功能?AIF-C01
5.某公司每晚需要用已训练好的模型对一个很大的数据集统一打分,白天不需要任何在线预测。使用 Amazon SageMaker AI 时,哪种推理方式最合适?AIF-C01
6.一家金融公司正在开发贷款审批模型,既要检查训练数据中某些群体的样本数量是否明显偏少,又要说明每个特征对单笔预测的贡献。哪个亚马逊云科技工具专门提供这两类能力?AIF-C01
7.一个已上线的信用评分模型,团队担心随着线上数据变化,模型预测会逐渐出现偏差漂移,准确率也会下降,希望出现偏离时自动告警。应使用哪项功能?AIF-C01

用在哪些架构4 个

Zero-ETL 实时数仓必须

后台交给 SageMaker AI 训练预测模型(比如预测哪些用户要流失)

在游戏里

售价
$460
过路费
未升级、对方掷 7 点时约 $92;升级、集齐整组、凑成架构以后更高
升级
基础价 $150,越往上越贵;落在自己的服务上才能升一级
计费
按小时
类型
PaaS
高可用
要自己做多 AZ:买下时是单 AZ,第 1 级「多 AZ 推理端点」升多 AZ
能用的买法
Spot(出价抢闲置算力,别人落上来要猜你的出价)、Savings Plans

游戏内价格为虚构,不代表实际定价;$ 是游戏币单位。