1. 词元服务器：别只看GPU型号，先问“有效词元吞吐”报价。本周阿里云、火山引擎相继将“Token/s/卡”纳入合同SLA。建议：要求机房提供基于真实推理负载（如Llama-3-70B）的benchmark，而非理论峰值。可执行动作：让销售在报价单中写明“batch_size=1，并发=8”条件下的P99延迟，若拒绝，则按市场均价（本周华北地区约0.35元/千词元）砍价5%-8%。
2. 带宽计费陷阱：95计费与按月峰值均值的差额可达21%。近期某头部IDC在官网悄然将“按带宽峰值”改为“按流量清洗后95值”。建议：若你的业务是AI训练（突发流量），坚持选择按日峰值月均模式；若是推理服务（平稳流量），选择按月95。本周实测案例：同规格10Gbps端口，两种计费方式月差价为1.7万元。
3. 网络软件升级红利：RoCEv2与无损网络的免费调优窗口。本周华为与思科均发布针对AI集群的固件更新，但多数IDC未主动推送。可执行建议：致电运维，要求开启ECN（显式拥塞通知）和PFC优先级流控，并检查交换机固件是否为2025年5月后版本。若机房推诿“需额外收费”，可引述《算力基础设施高质量发展行动计划》中关于“降低无损网络部署成本”的条款，通常可免费获得。
4. 价格锚点：AI服务器租赁出现“区域倒挂”。受张家口、乌兰察布新投产机房影响，本周华北AIDC的H800服务器月租环比降4.6%，但华东（尤其上海周边）因电力配额紧张反涨2.1%。操作建议：非实时推理业务，可将训练任务跨区调度至张家口集群（延迟增加30ms，但成本降18%）；若必须上海节点，优先选择“冷备转热备”的包月合约（本周部分厂商提供前3个月8折，且含100G免费迁移流量）。
5. 软件层隐性成本：管理面API调用费成为新“刺客”。近期两家二线云厂商更新计费条款，对“词元服务器自动伸缩”产生的API请求按0.5元/万次收费。建议：在合同中明确“控制面操作不计费”或约定每月含100万次免费API调用。本周已有用户因此多支出4300元/月。最佳实践：使用开源Terraform或Kubernetes原生HPA，绕过厂商专有编排，避免锁定。
清单总结：本周签约前，务必要求IDC提供“价格构成四联单”（机柜电力、带宽计费模式、词元SLA、软件API费）。若缺失任何一项，按上述市场平均价反推，警惕3%-5%的“模糊溢价”。当前正处于AI服务器供应宽松期，谈判窗口预计持续至7月中旬，建议加快决策。
0 留言