本周（8月第1周）重点事件速览：据网络安全厂商绿盟科技通报，8月2日起监测到针对国内某头部IDC的‘词元洪水’攻击变种。攻击者通过向AI推理服务器发送大量system prompt（系统提示词）请求，每个请求只消耗极少的token（词元），但保持TCP连接长时间不关闭，导致服务器并发连接数暴涨，最终耗尽带宽和内存。另一家云服务商UCloud也在8月4日发布公告，提醒客户注意‘慢速loris’攻击针对其GPU实例的443端口。
新手最容易踩的坑：很多新运维以为攻击就是大流量DDoS，于是只盯着带宽使用率峰值。但这类‘AI词元攻击’的特点是平均带宽很低（约50-100Mbps），但连接数会从几千飙升至几万。如果只按带宽阈值告警，你会在服务器内存耗尽前毫无察觉。另一个坑是误以为防火墙能拦截——普通四层防火墙对合法TCP长连接无能为力，必须依赖七层检测。
本周防护建议（按步骤操作）：
第一步：立刻检查你的Nginx/网关日志。筛选出status=200且request_time>30秒的请求，如果来自同一IP段且请求URI集中为/v1/completions或/v1/chat，大概率中招。
第二步：配置连接数限制（避坑关键）。在Nginx的http块中增加limit_conn_zone $binary_remote_addr zone=ai_conn:10m;，并在server块中设置limit_conn ai_conn 5;（每个IP最多5个并发连接）。同时设置client_body_timeout 10s和proxy_read_timeout 15s，强制短超时。
第三步：启用AI层速率限制（免费且有效）。如果你的AI服务使用Python FastAPI或Flask，直接加入slowapi库，限制每个token请求的速率（如每分钟不超过30次）。实测可将攻击流量减少90%，且不影响正常用户的对话体验。
第四步：联系IDC要求‘清洗服务’。本周攻击多针对特定IP段，建议立刻向你的IDC供应商申请‘流量调度+黑洞阈值下调’。很多IDC默认黑洞阈值是10Gbps，但针对AI业务，要求调整为500Mbps即可触发清洗，避免影响同机房其他用户。
最后避坑提醒：不要为了省事直接封禁所有海外IP——很多AI训练数据需要海外同步。正确做法是给海外IP单独设置一个低并发限制（如2个），并启用geo模块区分。同时，本周漏洞情报显示，旧版Nginx 1.24及以下版本存在内存泄漏风险，建议尽快升级至1.27.1。记住：防护不是买设备，而是调参数。
0 留言