大模型API被盗刷时，按IP限RPS往往拦不住，因为成本压在Token和推理时长上。本文给出第一小时的止血顺序（轮换密钥、设消费硬上限、边缘按路径限频、隐藏源站），说明限流必须覆盖的四个量（频次、并发、上下文长度与max_tokens、TPM），以及网关层的复合键限流、429响应与日消费熔断配置方法。
0 条留言
RockCloud-基石云安全-官方博客
