问：不是说算力过剩吗，怎么租赁价格反而没怎么降？
这是本周被问得最多的一句。真实情况是“结构性过剩，结构性紧缺”。上周华东某头部IDC放出的一批A800机柜，挂牌价环比只微跌1.8%，但同园区里老一代V100集群的租金已经跌回两年前。AI词元不是凭空产生的——高吞吐量推理需要高显存带宽和低延迟网络，能同时满足这两条的机柜并没有想象中那么多。所以表面看供给在涨，能跑主流大模型的“有效算力”其实仍然紧平衡。
问：AI词元价格和服务器带宽到底怎么挂钩的？
可以把推理过程想成一条流水线：词元是产出，带宽是传送带。本周某云厂商的报价单里，同样一张卡，配25G网络和配100G网络的每百万词元成本差了近四成。原因是当并发请求上来后，网络软件栈的排队延迟会直接吃掉GPU利用率。近期不少平台开始把“带宽保障等级”从模糊描述改成明码标价，这其实就是变相的价格调整。
问：网络软件最近有什么新变化影响租价？
有。上周多家IDC服务商开始默认部署新一代RDMA无损网络方案，软件层面把拥塞控制从DCQCN切到更激进的算法。这对租户是好消息——同样的卡跑推理，词元吞吐能提10%到15%。但IDC不会白送，这部分提升被折算进每机柜的月度服务费里。所以你会看到“裸金属价格没涨，但网络增值服务涨了”的怪现象。
问：现在签长约还是按周租更划算？
取决于你的词元消耗曲线。如果日均推理量波动超过三倍，按周租+突发带宽包更灵活。近期已有平台推出“带宽池”模式，把网络软件里的空闲带宽做成可交易词元，淡季存、旺季取，相当于给算力租赁加了一层期权。但长约锁价只锁机柜不锁带宽，签之前一定把网络SLA里的词元吞吐下限写清楚。
问：下周会涨吗？
看两个信号：一是国产推理卡本周开始小批量进入IDC，对高价区有压制；二是某运营商下周要拍一批新带宽资源，如果溢价高，会传导到租赁端。短期大概率是“机柜稳、带宽微涨、词元单价继续分化”的格局。
0 留言