机架上实际部署的设备
仅两代 CPU，没有第三代。在关键产品线上使用可自行纠正错误的内存，企业级 NVMe 以镜像对配置，并有一块空闲备盘随时待命，节点在交付给客户前须经历三天的烧机测试。
两代产品，没有更老的
大多数主机商同时运行三到四代硬件并以相同价格出售，这就是为什么两台规格相同的服务器在同一负载下性能可能相差百分之四十。我们反而将设备行列保持精简。
生产环境中没有任何部件落后于当前世代超过一代。这条规则自2022年以来一直保持。
Ryzen 9 9950X，Zen 5
16核32线程，最高加速至5.7 GHz。这是我们能买到的最快单线程，而单线程速度仍然决定大多数实际应用上请求完成的速度。
EPYC 9354P，Zen 4
单路32核64线程，十二条内存通道，带寄存器ECC。在核心数、内存容量和可预测的NUMA行为比峰值频率更重要时，这款处理器胜出。
尽可能使用单路
跨插槽内存访问是一个延迟悬崖，你无法通过调优来避免。只有最大的裸机配置为双路，而且是因为客户明确要求64核才这样。
核心一次性分配
卖给你的核心专门为你调度。没有突发积分，没有超售比例，没有在负载下出现却在你截图前消失的窃取时间。
为什么不用最新的服务器硅片
Zen 5服务器部件正在实验室中，尚未加入机队。当它们取代9354P时，会出现在变更日志中并附有迁移日期，而不是在上架前六个月出现在首页上。
内存，以及ECC实际所在之处
内存错误并不罕见；只是直到重要的事情悄然出错之前，它们是隐形的。在服务器产品线上，每一个错误都会被纠正并记录。
EPYC节点配备十二条DDR5-4800带寄存器ECC模块，每条通道一条，全部插满。插满所有通道不只是为了容量，而是为了带宽：在32核部件上，半满的内存总线会成为瓶颈，任何快速访问内存的操作都会感受到。
Ryzen节点使用DDR5-5600，无ECC，因为消费级平台没有提供我们可依赖的形式。这里明确声明而不是隐藏：如果你的工作负载需要纠错，EPYC系列起价89欧元，正是为此而存在。
可纠正错误被计数
一个内存排一天内产生超过少量纠正就会被标记，该模块会在下一个维护窗口被更换，无论是否出现故障。
不可纠正错误会排空节点
实例迁移出去，节点离开资源池，DIMM更换后才回归。你可能会看到一次实时迁移；但不应看到崩溃。
无气球膨胀，无页面合并
内存一次性分配，不重复计算。整个机队关闭同页合并，因为它是租户之间的侧信道，也是一种在真实负载下会消失的性能宣称。
每节点容量有意留有余量
EPYC节点配备的内存足够容纳其承载的最大套餐，并且仍保留余量。内存塞到最后一GB的节点，当邻居需要移动时，就没有地方安置迁移。
NVMe，耐久性和闲置的备用盘
每块硬盘都是企业级Gen4部件，带断电保护，这是一组电容器组，在断电时完成已确认的写入。
每个节点一个热备盘，闲置待命。这是建筑里最便宜的保险。
始终镜像对
读取分散到两个盘；写入由保护缓存确认并落到两个盘上。单块硬盘故障只会稍微改变性能特征，而完全不影响可用性。
每个节点一个热备盘
每个节点有一个硬盘保持空闲备用。当镜像盘组中有一块硬盘失效时，备用盘自动接管并在有人看到警报之前就开始重建。
耐力余量，而非耐力极限
通用节点使用1 DWPD级磁盘；存储节点写入层使用3 DWPD。磁盘在额定寿命的百分之八十时更换，而不是运行到数据表上的数字。
任何地方都不用消费级硬盘
缓存层不用，大容量层不用，2021年快速搭建后遗忘的节点也不用。消费级NVMe在11秒内很快，之后就不快了，这在笔记本电脑中是个不错的权衡。
容量是分配的，不是承诺的
存储不会在租户间进行瘦配置。如果计划说800 GB，那么该节点上就有800 GB分配给你，其他人都不能占用。
每类节点包含什么
五类节点承载五条产品线。S类的大容量存储是经过NVMe写入层后面的企业级SATA，这也是整个集群中唯一的旋转介质。
| 类 | CPU | 内存 | NVMe | 网络 | 电源 |
|---|---|---|---|---|---|
| R — Ryzen NVMe | Ryzen 9 9950X, 16C/32T | 128 GB DDR5-5600 | 2 × 3.84 TB 镜像，1块备用 | 2 × 10 GbE, LACP | 2 × 800 W, A和B |
| E — EPYC 高内存 | EPYC 9354P, 32C/64T | 12 × DDR5-4800 ECC RDIMM | 4 × 3.84 TB 镜像，1块备用 | 2 × 25 GbE, LACP | 2 × 1200 W, A和B |
| G — GPU | EPYC 9354P, 32C/64T | 256 GB ECC DDR5-4800 | 4 × 3.84 TB 镜像，1块备用 | 2 × 40 GbE, LACP | 2 × 2000 W, A和B |
| S — 存储 | EPYC 9354P, 32C/64T | 128 GB ECC DDR5-4800 | 2 × 3.84 TB 写入层，后面是SATA大容量 | 2 × 25 GbE, LACP | 2 × 1200 W, A和B |
| BM — 裸金属 | Ryzen 9950X，或1或2个EPYC 9354P | 128 GB 至 1 TB | 最高 8 × 7.68 TB | 10 至 40 GbE | 2 × 1200 W, A和B |
GPU节点通过PCIe 4.0 x16直通整块物理显卡，不做时间切片，这就是功率数值如此之高的原因。同一实例中的两张卡位于同一个NUMA节点上，因为跨插槽拆分它们的成本高于第二张卡带来的收益。
电源馈电，以及不在互联网上的管理
所有可双重化的设备都有双份，管理网络从未有过到外部的路由。
A和B馈电，独立路径
每个节点有两个独立分配的电源，每个都能独立承载整台机器。失去一路馈电只是一个记录事件，仅此而已，并且我们在每个节点的烧机测试中都会证明这一点。
电池，然后是发电机
电池覆盖转换过程；发电机覆盖其余情况。每个站点的转换测试都按计划进行，未通过测试的站点在通过之前不会接收新节点。
不引用层级编号
评级属于建筑及其委托运营方，而非租户在营销文案中重复的数字。我们能告诉您的，是每个站点的馈线拓扑和最近一次传输测试结果。
独立VLAN上的带外管理
管理接口没有公网路由，也从未有过。访问通过经过认证的隧道进行，全程记录日志，您和我们都可以使用。
包含控制台，免费
通过该隧道向您的实例提供串行和VNC访问。它在您的网络配置失效时也能工作——这正是唯一需要它的时候。
裸金属上的IPMI，按租期轮换凭据
裸金属客户通过VPN获得IPMI访问，包括电源控制、启动顺序和虚拟介质。租期结束时轮换凭据，控制器固件按我们的计划而非您的计划进行修补。
老化测试：与客户见面前的三天
大约每九台节点中有一台在首次测试中某项失败。几乎总是单条内存。
- 01
固件至已知基线
系统、控制器、网络和驱动器固件在任何测试开始前固定到整个集群运行的版本。在错误的固件上测试的节点，测试结果毫无意义。
- 02
内存测试，长时间
对每个已安装模块进行多次完整遍历，耗时数小时而非数分钟。此阶段能发现大多数老化测试能发现的问题，也是计划以天为单位的原因。
- 03
热浸测试
每个核心满载运行六小时，进风温度处于其量程的暖端。我们观察持续升压时钟的衰减，而不仅仅是温度，因为在第五小时热节流的节点，会在第三个月让您遭殃。
- 04
全表面存储验证
每个驱动器端到端写入、读回并比较。此阶段结束时的SMART计数器成为该驱动器整个生命周期内评判的基线。
- 05
线速，双向同时
每个端口以容量双向驱动一小时，并检查交换机侧计数器是否有主机永远不会注意到的错误。
- 06
拔掉一条馈线，然后另一条
移除一条馈线，恢复，然后对另一侧重复相同操作。任何有丝毫闪烁的节点都不会投入服务。
- 07
在集群中安静的一天
在监控下运行二十四小时，不承载任何实例。然后它开始接收客户。
总耗时约72小时。这也是新站点库存以批次出现而不是涓涓细流的原因：机架到达，三天后全部同时可用。
当硬盘开始出现故障时
硬盘通常不会突然死亡。它们会在数天内在无人读取的计数器中预告，因此我们的硬盘每五分钟读取一次。
- 01
阈值，而非悼词
介质错误、重映射扇区、磨损水平和延迟异常值均持续采样。跨越任何阈值的驱动器在其仍能完美工作时即被标记为更换。
- 02
备用盘先接管
在移除标记的驱动器之前，热备用盘先加入镜像，因此在对任何人等待技术人员的同时，镜像对永远不会以单副本运行。
- 03
重建，有意限速
一个3.84 TB的镜像全速重建约需四十分钟。我们以较慢的速度运行，大约两小时，因为全速重建对节点上的实例而言与性能事件无异。
- 04
您会被告知，其他一切不变
实例页面出现一条注释。没有重启、没有迁移、没有维护窗口，也没有需要您回复的工单。
- 05
硬盘报废后分解处理
故障和退役的硬盘会就地销毁，而不是寄回厂家换取保修额度。因为保修额度不如确定性重要。
镜像只是冗余，不是备份。它能保护你免受硬盘故障的影响，但无法保护你免受糟糕的迁移或误删的影响。快照费用为五个槽位五欧元，节点外备份为每 500 GB 九欧元，写入到与实例不同的站点。
硬件问题
不支持。Ryzen 节点使用非 ECC DDR5-5600 内存，我们宁愿在这里明确说明，也不愿你日后从规格表中发现。任何不能容忍静默内存损坏的场景，都应该使用 EPYC。
是的，而且可以验证。在凌晨三点和高峰时段分别运行持续的单核基准测试，数据应该不会有变化。如果有变化，请提交工单，因为那是出了问题，并且我们很想知道。
不能按名称选择，但你可以请求反亲和性：让你的两个实例分别放置在独立的节点、独立的交换机和独立的电源上。这不需要额外费用，只需提交一个工单。
在条件允许的情况下，实例会进行在线迁移，你会看到几百毫秒的暂停。否则，你会收到至少五天的通知，如果时间对你不合适，你可以调整一次窗口。
不会。核心、内存和 NVMe 都只分配一次。唯一的共享资源是上行链路，这也是公平使用标准是公开而非隐含的原因。
每台生产中的节点都运行 Zen 4 或 Zen 5。上一代的最后一台设备于 2022 年退出机队，此后没有使用更老的硅片销售过任何产品。