问：本周AI芯片供应到底缓解了没有？
从渠道端反馈来看，英伟达H系列及B系列部分型号的交期已从年初的30周以上缩短至16—20周。国内某头部服务器厂商本周透露，基于新一代国产AI芯片的整机出货量环比提升约25%。但要注意，高端训练卡依然紧俏，推理卡供应明显更宽松。结构性缓解，而非全面过剩。
问：IDC行业为什么突然密集提“词元”这个概念？
因为计费逻辑正在变。过去IDC卖机柜、卖带宽、卖电力；现在越来越多智算中心开始按“每百万词元”或“每千次推理”来报价。本周华东某大型IDC运营商上线了词元级计量平台，把GPU利用率、网络时延和token吞吐打包成服务等级。这意味着IDC从资源批发商转向算力零售商，带宽和网络软件的价值被重新定价。
问：服务器带宽和网络软件真的有瓶颈吗？
有，而且比算力本身更隐蔽。本周多家云厂商升级了RDMA网络，将节点间带宽从200G提升至400G，目的就是减少大模型训练中的通信等待。网络软件层，拥塞控制算法和负载均衡策略成为新的竞争点。一个直观数据：在同等GPU数量下，优化后的网络软件可让训练效率提升12%—18%。IDC如果只堆服务器不升级带宽，算力利用率会卡在40%以下。
问：现在租算力划算还是自己买卡？
本周市场出现一个明显变化：短期推理算力租赁价格环比下降约8%，但长期训练集群租金依然坚挺。如果业务波动大、模型迭代快，租用IDC的按词元计费服务更灵活；如果数据敏感、长期满载，自建集群在18个月周期内仍有成本优势。关键变量是网络软件能否把跨节点效率拉满。
问：下周该盯什么信号？
第一，国产AI芯片厂商的产能爬坡公告；第二，头部IDC企业的带宽扩容招标；第三，词元计费是否被更多中小云厂商跟进。算力市场的竞争，正在从“有没有卡”转向“卡与卡之间跑得快不快、算得省不省”。
0 留言