一问：为什么同一个IDC机房，本周报价差出15%？
不是销售乱报，而是带宽与网络软件的分层在作怪。近期华东某核心节点对“AI训练流量”单独计价，普通云主机带宽未变，但凡是携带GPU流量的机柜，每兆带宽月费上浮12%-15%。同时，带外管理网络（IPMI/带外软件）如果单独走SDN切片，也要加收8%的软件授权费。建议先分清你的流量是“模型下载”还是“参数同步”，前者走CDN更便宜，后者必须走RDMA网络，别选错。
二问：都说“词元”计费来了，云服务器也按词元卖吗？
本周某云厂商内测了“AI算力词元包”——不是直接卖服务器，而是把推理服务拆成输入词元/输出词元两段计价。对于普通IDC用户，这意味若你自建推理服务，同样要面对“带宽不再按Gbps，而是按峰值词元吞吐”的折算逻辑。好消息：目前仅限模型API。坏消息：托管AI服务器若接入厂商的调度软件，后台会按词元消耗收取网络优先级的“软件定义费”。
三问：AI服务器带宽怎么突然不够用了？
不是带宽变小，是网络软件栈变重。本周多个厂商发布支持800G的DPU网卡，但配套的拥塞控制算法需要额外license。一个典型AI训练集群：计算节点200G，存储节点100G，管理网络25G——管理网络因为要传日志和词元追踪数据，占用率从5%涨到30%。若不升级网络软件（比如RoCEv2的DCQCN参数调优），实际训练效率会跌20%以上。
四问：新品里有没有能降本的东西？
有。某国产IDC本周推出“带宽银行”模式：允许你预购一定量的词元传输额度，跨机柜共享。比如白天推理业务用掉70%带宽，夜间训练用剩余额度，不额外计费。另外，新一代智能网卡把部分网络软件卸载到硬件，CPU占用降一半，相当于省下一台管理服务器的钱。注意：只支持特定Linux内核版本，老系统得先升级。
五问：个人开发者或小团队该现在出手吗？
如果你只是微调小模型，建议等等——下周会有按“词元小时”计费的轻量GPU实例，比包月便宜40%。但若你依赖固定IDC托管且网络软件已采购，本周可以谈带宽续约，因为部分节点为了冲Q4上架率，对12个月以上合约给出10%的暗折。记住：问清“AI词元流量是否计入基础带宽”，否则账单会像刺客一样跳出来。
0 留言