问：本周B2B平台上，IDC行业哪类交易突然放量？
答：据平台近期询盘与成交数据，AI词元推理集群所需的高密度GPU服务器和大带宽机柜成为爆款。与上月不同，买家不再只问单台服务器价格，而是直接打包“服务器+带宽+网络软件”的一体化方案。尤其是支持RoCEv2无损网络的25G/100G交换机端口，询盘量周环比上涨约四成。
问：为什么AI词元会直接拉动带宽和网络软件需求？
答：一个AI词元从输入到输出，需要在多台服务器间反复同步参数和KV缓存。以近期开源大模型推理为例，单次会话若并发超过50路，东西向流量就会成为瓶颈。传统TCP网络容易拥塞，因此买家开始指定采购智能网卡（DPU）和RDMA网络软件栈。本周平台上一款支持拥塞控制的国产网络软件授权，单周下单量超过前两周总和。
问：供需方面，哪些环节最紧张？
答：首先是可分配的公网带宽。受直播、AI推理、跨境数据三重挤压，华东和华南部分IDC机房的10G以上独享带宽已需排队3-5天。其次是液冷服务器机柜，风冷机型逐渐失宠。平台上一家深圳IDC服务商挂出的“液冷+200G带宽+智能运维软件”套餐，上架2小时即被订走六成。相对宽松的是通用计算服务器，价格保持平稳。
问：近期有没有值得关注的讯息影响下周走势？
答：有两条。其一，某头部云厂商本周宣布下调AI词元API价格，降幅约15%，这会刺激更多中小开发者采购推理算力，预计下周中低端GPU服务器和按量计费带宽的需求会进一步上升。其二，工信部新一批IDC能效标准意见稿流出，对PUE低于1.25的机房给予网络软件补贴，这可能导致节能型网络调度软件成为下周B2B交易的新热点。
问：给采购方的实操建议？
答：第一，不要把带宽和网络软件分开询价，当前打包采购议价空间更大。第二，关注支持“带宽弹性扩容”的IDC服务商，避免AI词元波峰时丢包。第三，如果自建推理集群，优先选择带RDMA能力的服务器网卡，否则后期升级成本更高。本周平台已出现多起因网络软件不兼容导致的退货纠纷，签约前务必做POC测试。
0 留言