平台设置,按关注点分组。
分区
未保存的改动会在顶栏计数,所以改到一半的编辑是可见的,而不是悄悄丢掉。
硬件注册表
这是--profile h200:8 之所以有意义的地方。
时段窗口
按卡型的规则,规定这批硬件在哪些星期几、哪些时段可以使用。窗口可以跨零点。
保存时校验很严——一条没选星期几的规则、一个缺结束时间的窗口,都会被拒绝并点名是哪个卡型。
一个定义了一半、结果永远匹配不上的窗口,比根本没有窗口更糟。
Documentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
平台开关、训练镜像、硬件注册表和时段窗口。
平台设置,按关注点分组。
| 分区 | 装什么 |
|---|---|
| 平台开关 | 影响整个平台行为的总开关 |
| 会话与 token | 各类 token 的有效期。缩短其中一个会让已经签发的凭据提前过期 |
| 限制与缓存 | 上传大小、抓取缓存、配置刷新间隔 |
| 训练运行时 | 各框架的默认镜像,以及失败自动重试 |
| 推理与部署 | Playground 和受管部署的设置 |
| 硬件 | GPU 卡型与 profile 注册表 |
| 排期 | 按卡型的时段窗口 |
--profile h200:8 之所以有意义的地方。
| 字段 | 定义什么 |
|---|---|
| 卡型 id | 用户输入的那个名字:h200、h100 |
| 显示名 | 控制台上展示的名字 |
| 节点数 / 每节点 GPU 数 | 一个 profile 申请的形状 |
| 权重 | 相对成本,用于公平调度记账 |
| 进程环境变量 | 注入到该卡型作业里的 KEY=VALUE 行 |
| 设置 | 效果 |
|---|---|
| 关闭执法 | 只展示窗口,不拒绝任何东西 |
| 最小剩余时间 | 窗口剩余不足这个值时不再放行作业 |
| 停止宽限 | 窗口关闭后运行中作业还有多久 |