Q1：都说AI拉动IDC需求，为什么还有空置率？
最近一份第三方报告显示，传统通用算力机柜空置率回升至22%，但智算中心（GPU/H100类）上架率超90%。核心在于“结构性错配”——AI词元服务器需要高功率（单柜30kW以上）、液冷、超高互联带宽，而很多老机房还在供电密度6kW、风冷。所以不是没需求，是需求长在“新骨架”上，旧楼装不了新电梯。
Q2：AI服务器成本那么高，到底在贵什么？
除了GPU芯片本身，近期急涨的是“网络”和“存储”。例如，英伟达新一代平台将NVLink域内带宽提升至1.8TB/s，配套的交换机、光模块（800G/1.6T）单价翻倍。此外，为了减少词元推理时延，冷热数据分层存储（CXL内存池）开始普及，这部分软件许可和专用硬件占单机成本比例已从8%升至15%。
Q3：带宽费为什么成了AI应用的“隐形杀手”？
很多客户反馈，跑一次千亿参数模型的微调，跨AZ（可用区）传输训练数据，带宽账单比GPU租金还高。本周有云厂商推出“带宽包月+按Token计费”新模式：即训练流量走专线低价通道，推理流量按实际词元输出量结算。但这要求IDC内部网络架构支持无损网络（RoCEv2），否则丢包重传会吃掉30%有效带宽。
Q4：绿色计算怎么兼顾“性能狂飙”和“电费红线”？
近期多个IDC试点“动态功率封顶”技术：通过AI调度器预测负载，把非关键任务的电力窗口让给GPU突发。同时，废热回收不再是口号——某中部园区将服务器余热直接供给附近温室，换取绿电指标抵扣。但注意，真正的瓶颈是“PUE考核”转向“CUE（碳利用效率）”，明年起，北京上海可能对液冷机房的冷却液GWP值（全球变暖潜值）设限，氟化液冷却方案或面临替换压力。
Q5：中小客户现在入局AI，应该买卡还是租Token？
本周一个明显信号是，三大运营商云都下调了“词元推理单价”（平均降15%），同时推出了“分钟级弹性H100集群”。如果您的业务是客服问答、文档分析等低延迟场景，建议按Token付费；但若涉及大量私有数据微调，建议租用物理GPU裸金属（而不是共享卡），否则数据预处理带来的带宽和存储成本会抵消算力节省。
小结
本周行业共识是：IDC不再只是“卖机柜”，而是卖“算力带宽包+能耗管理方案”。谁能在词元密度、网络无损率和碳指标之间找到平衡，谁才能避免沦为“裸金属搬运工”。下周关注：信通院可能发布《智算中心网络质量分级标准》，将直接影响带宽采购决策。
0 留言