Learn learn.scuai.cn

Learn / 云服务和 AI Infra

云服务和 AI Infra

让想法有可靠的运行基础。

这本书关注模型背后的算力、部署、数据和成本，目标是让一个 AI 项目从本地实验走向持续可用的服务。它是学习路径中的第二个对象：从 Alg 经 f 来到这里，再经 g 走向无服务器 LLM API。

阅读样章 查看目录

目录

草案：章节标题与顺序仍会调整

第一部分 基础

  1. 1从一台服务器到云待写

    计算、存储、网络，以及“按需”意味着什么。

  2. 2AI 工作负载有什么不同样章

    训练与推理、显存与带宽、延迟与吞吐。

第二部分 算力与部署

  1. 3GPU、加速卡与算力调度待写

    选卡、分卡、排队与共享。

  2. 4把模型变成推理服务待写

    推理引擎、批处理与 KV 缓存。

  3. 5容器与弹性伸缩待写

    镜像、编排与按负载扩缩容。

第三部分 数据与成本

  1. 6数据管道与向量存储待写

    对象存储、索引与检索增强。

  2. 7算清楚成本待写

    Token、GPU 小时、存储与带宽。

第四部分 走向生产

  1. 8可观测性与评估待写

    日志、指标、追踪，以及模型质量的度量。

  2. 9安全、合规与多租户待写

    密钥、权限、数据边界与审计。

  3. 10案例：在云上部署一个检索增强服务待写

    把前面各章串成一个完整项目。