1. 微服务里限流和 AI 接入为什么总在同一个坑里翻车SpringCloud 项目跑到一定规模流量问题一定会冒出来。某个下游接口响应变慢上游线程池被拖满接着整条调用链雪崩——这种场景做过微服务的都不陌生。Sentinel 就是来解决这个问题的它把流量控制、熔断降级、系统自适应保护做成了开箱即用的组件接入成本低规则配置灵活控制台还能实时看 QPS 和拒绝数。但实际落地时很多人卡在两个地方。第一是 Sentinel 规则配了不生效明明设了 QPS 阈值压测时该限流却没限住或者不该限流的正常请求被拦了。第二是微服务里越来越多地要接入 AI 能力——代码补全、日志分析、智能问答——每个服务各自维护一套 API Key 和调用地址密钥散落在各个配置文件里换一个模型就要改一遍代码运维成本高得离谱。这篇就把这两件事放在一起解决用 Sentinel 把流量防线搭好用 TaoToken 统一 API 通道把 AI 接入收敛到一个入口。你会拿到可以直接复制的 Sentinel 规则配置、TaoToken 的 settings.json 和 config.toml 骨架以及限流触发和通道连通性的验证动作。适合正在做 SpringCloud 微服务、需要同时处理流量治理和 AI 工具接入的开发者。2. TaoToken 统一通道把散落的 Key 收进一个入口先说清楚 TaoToken 在这里扮演什么角色。官网是 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 入口是 https://taotoken.net/api 。它做的事情本质上是把多个模型的调用收敛到一个统一的 API 通道上你只需要维护一个 Key就能在同一个接口规范下切换不同的模型。对 SpringCloud 项目来说这意味着什么以前你的订单服务要调 GPT 做摘要用户服务要调 Claude 做意图识别每个服务里都塞着不同的 base_url 和 api_key。现在统一走 TaoToken 的通道配置项从 N 套变成 1 套密钥管理、额度监控、调用日志都在一个地方看。具体操作上你需要先拿到 API Key。进入控制台页面 https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewrite 在 API Keys 管理里创建一个新的 Key。创建时注意权限范围如果只是测试可以先给最小权限生产环境再按服务拆分不同的 Key方便后续做调用量隔离。拿到 Key 之后接入文档在 https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 里面有完整的接口说明和参数定义。如果你用的是 Claude Code 这类工具Anthropic 兼容的接入方式参考 https://taotoken.net/ClaudeCodeAnthropic?utm_sourcetaotoken_aicg_blog_endutm_contentClaudeCodeAnthropicutm_campaignrewrite 。需要长期跑编码任务或者 Agent 场景的可以看 Coding Plan 页面 https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 按套餐走比按量计费更划算。这里要提醒一句TaoToken 是统一的 API 通道服务不是让你绕过什么限制它的定位就是帮你在合规前提下把多模型调用管理起来。密钥不要硬编码在代码里用配置中心或者环境变量注入这是基本的安全习惯。3. Sentinel 规则配置从依赖到生效的完整骨架3.1 引入依赖和基础配置在 SpringCloud 项目的 pom.xml 里加入 Sentinel 的 starter。如果你用的是 Spring Cloud Alibaba 体系版本对齐很重要建议直接用 spring-cloud-alibaba-dependencies 做 BOM 管理。dependency groupIdcom.alibaba.cloud/groupId artifactIdspring-cloud-starter-alibaba-sentinel/artifactId /dependency dependency groupIdcom.alibaba.csp/groupId artifactIdsentinel-transport-simple-http/artifactId /dependencyapplication.yml 里配置控制台地址和端口这样启动后能直接在 Sentinel Dashboard 里看到服务spring: cloud: sentinel: transport: dashboard: 127.0.0.1:8080 port: 8719 eager: trueeager: true这个配置很关键。默认情况下 Sentinel 是懒加载的第一次请求进来才初始化导致你在控制台看不到服务。加上这个配置服务启动就注册上去。3.2 限流规则QPS 阈值怎么定Sentinel 的限流规则核心参数是grade限流模式、count阈值、strategy流控策略。下面是一个针对订单查询接口的 QPS 限流配置用代码方式定义适合放在配置类里Configuration public class SentinelRuleConfig { PostConstruct public void initFlowRules() { ListFlowRule rules new ArrayList(); FlowRule orderQueryRule new FlowRule(); orderQueryRule.setResource(orderQuery); orderQueryRule.setGrade(RuleConstant.FLOW_GRADE_QPS); orderQueryRule.setCount(100); orderQueryRule.setStrategy(RuleConstant.STRATEGY_DIRECT); orderQueryRule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_WARM_UP); orderQueryRule.setWarmUpPeriodSec(10); rules.add(orderQueryRule); FlowRule aiCallRule new FlowRule(); aiCallRule.setResource(aiInference); aiCallRule.setGrade(RuleConstant.FLOW_GRADE_QPS); aiCallRule.setCount(20); aiCallRule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER); aiCallRule.setMaxQueueingTimeMs(500); rules.add(aiCallRule); FlowRuleManager.loadRules(rules); } }这里有两个资源orderQuery用 Warm Up 模式冷启动时逐步把阈值拉到 100避免瞬间打满aiInference用匀速排队模式QPS 限制在 20超出的请求排队等待最大等待 500ms这样 AI 调用不会因为突发流量把下游打挂。3.3 熔断降级规则熔断规则关注的是下游不稳定时的自我保护。Sentinel 支持慢调用比例、异常比例、异常数三种熔断策略。下面配一个慢调用熔断PostConstruct public void initDegradeRules() { ListDegradeRule rules new ArrayList(); DegradeRule slowCallRule new DegradeRule(); slowCallRule.setResource(aiInference); slowCallRule.setGrade(RuleConstant.DEGRADE_GRADE_RT); slowCallRule.setCount(2000); slowCallRule.setSlowRatioThreshold(0.5); slowCallRule.setMinRequestAmount(10); slowCallRule.setStatIntervalMs(10000); slowCallRule.setTimeWindow(30); rules.add(slowCallRule); DegradeRuleManager.loadRules(rules); }含义是在 10 秒统计窗口内如果aiInference资源的请求数超过 10 个且慢调用RT 超过 2000ms比例超过 50%就触发熔断接下来 30 秒内所有请求直接走降级逻辑不再调用下游。3.4 热点参数限流如果你的接口有热点参数比如某个商品 ID 被频繁查询可以用热点规则做细粒度控制PostConstruct public void initParamFlowRules() { ParamFlowRule rule new ParamFlowRule(orderQuery) .setParamIdx(0) .setCount(10); ParamFlowRuleManager.loadRules(Collections.singletonList(rule)); }这表示orderQuery资源的第一个参数比如商品 ID单个参数值每秒最多 10 次请求超过就限流。适合防止某个热点商品把整个查询接口拖垮。4. TaoToken 接入配置settings.json 与 config.toml 骨架4.1 settings.json 配置骨架如果你在项目里用支持 settings.json 的工具链比如某些 AI 编码助手配置结构大概是这样{ ai: { provider: taotoken, baseUrl: https://taotoken.net/api, apiKey: ${TAOTOKEN_API_KEY}, model: claude-sonnet, timeout: 30000, maxRetries: 2 }, sentinel: { enabled: true, dashboard: 127.0.0.1:8080, flowRules: [ { resource: aiInference, grade: QPS, count: 20, controlBehavior: RATE_LIMITER } ] } }apiKey用${TAOTOKEN_API_KEY}占位实际值从环境变量注入。baseUrl固定指向https://taotoken.net/api不要在后面加斜杠或者路径具体接口路径由 SDK 或调用方拼接。4.2 config.toml 配置骨架如果你的工具链用 TOML 格式等价配置如下[ai] provider taotoken base_url https://taotoken.net/api api_key ${TAOTOKEN_API_KEY} model claude-sonnet timeout 30000 max_retries 2 [ai.sentinel] enabled true dashboard 127.0.0.1:8080 [[ai.sentinel.flow_rules]] resource aiInference grade QPS count 20 control_behavior RATE_LIMITER max_queueing_time_ms 5004.3 在 SpringCloud 服务里封装调用配置好了之后在服务里封装一个统一的 AI 调用客户端把 Sentinel 的资源埋点加进去Service public class AiInferenceService { Value(${ai.base-url}) private String baseUrl; Value(${ai.api-key}) private String apiKey; private final RestTemplate restTemplate; public AiInferenceService(RestTemplate restTemplate) { this.restTemplate restTemplate; } SentinelResource(value aiInference, blockHandler handleBlock, fallback handleFallback) public String infer(String prompt) { HttpHeaders headers new HttpHeaders(); headers.setContentType(MediaType.APPLICATION_JSON); headers.setBearerAuth(apiKey); MapString, Object body new HashMap(); body.put(model, claude-sonnet); body.put(prompt, prompt); body.put(max_tokens, 1024); HttpEntityMapString, Object request new HttpEntity(body, headers); ResponseEntityString response restTemplate.postForEntity( baseUrl /v1/completions, request, String.class); return response.getBody(); } public String handleBlock(String prompt, BlockException ex) { return 请求过于频繁请稍后重试; } public String handleFallback(String prompt, Throwable t) { return AI 服务暂时不可用已降级; } }SentinelResource注解把aiInference这个资源交给 Sentinel 管理blockHandler处理限流后的逻辑fallback处理熔断或异常后的降级逻辑。这样限流和熔断就跟 AI 调用绑定在一起了。5. 验证动作限流触发与通道连通性怎么测5.1 验证 TaoToken 通道连通先用 curl 确认通道能通curl -X POST https://taotoken.net/api/v1/completions \ -H Authorization: Bearer $TAOTOKEN_API_KEY \ -H Content-Type: application/json \ -d {model:claude-sonnet,prompt:hello,max_tokens:10}如果返回正常的 JSON 响应说明 Key 和通道都没问题。如果返回 401检查 Key 是否过期或者权限不足返回 404 检查路径是否拼错返回 429 说明触发了通道侧的限流需要看套餐额度。5.2 验证 Sentinel 限流生效用压测工具或者简单的循环脚本打请求。假设你的服务跑在 8080 端口订单查询接口是/api/order/queryfor i in $(seq 1 200); do curl -s -o /dev/null -w %{http_code}\n \ http://localhost:8080/api/order/query?productId1001 done wait如果 QPS 阈值设的是 100200 个并发请求里应该有一部分返回 429 或者你自定义的限流提示。同时去 Sentinel Dashboard 看orderQuery资源的实时 QPS 曲线和拒绝数确认规则生效。5.3 验证熔断降级模拟下游变慢在 AI 调用接口里加一个Thread.sleep(3000)然后连续发 20 个请求。观察 Sentinel Dashboard 里aiInference的 RT 曲线和熔断状态。当慢调用比例超过阈值熔断器打开后续请求直接走handleFallback返回降级信息。等 30 秒熔断窗口过去再发请求应该恢复正常调用。5.4 验证热点参数限流对同一个商品 ID 快速发 30 次请求for i in $(seq 1 30); do curl -s http://localhost:8080/api/order/query?productId9999 done如果热点规则设的是单参数 QPS 10那么前 10 个请求正常后面的应该被限流。换一个不同的 productId 再试应该又能正常通过说明限流是按参数值隔离的。6. 常见报错排查Sentinel 控制台看不到服务检查spring.cloud.sentinel.eager是否设为 true检查 dashboard 地址和端口是否可达检查sentinel-transport-simple-http依赖是否引入。如果服务在容器里跑dashboard 地址不能用 127.0.0.1要用宿主机 IP。规则配了不生效最常见的原因是资源名对不上。SentinelResource的 value 必须和规则里的 resource 完全一致大小写敏感。另外检查规则是否被后续的loadRules覆盖了多个配置类同时加载规则时后加载的会覆盖前面的。限流后返回的不是自定义提示blockHandler方法的签名必须和原方法一致参数列表最后加一个BlockException返回类型也要一致。如果签名不对Sentinel 会走默认的限流处理返回 429。TaoToken 调用返回 401检查环境变量TAOTOKEN_API_KEY是否真的注入到运行环境里了。在 SpringBoot 里可以用Value注入后打印一下长度确认但不要打印完整 Key。另外检查 Key 是否被禁用或者额度耗尽。AI 调用超时导致熔断误触发如果下游模型响应本来就慢RT 阈值设得太低会频繁熔断。建议先观察正常情况下的 P99 RT把阈值设在 P99 的 1.5 到 2 倍。同时minRequestAmount不要设太小否则样本不足时统计不准。热点参数规则不生效确认ParamFlowRule的paramIdx和实际方法参数位置对应。如果方法有多个参数索引从 0 开始。另外热点规则只对基本类型和 String 参数生效对象类型需要自定义ParameterFlowRule的解析逻辑。接入文档和 API Keys 管理都在控制台里遇到通道侧的问题优先看文档里的错误码说明。需要验证模型对话效果的可以直接在模型对话页面测试长期跑编码任务的Coding Plan 页面有套餐对比。配置改完之后记得重启服务Sentinel 规则如果是通过代码加载的重启才会重新初始化。
SpringCloud进阶实战：Sentinel 流量防卫兵与 TaoToken 统一 API 通道配置
1. 微服务里限流和 AI 接入为什么总在同一个坑里翻车SpringCloud 项目跑到一定规模流量问题一定会冒出来。某个下游接口响应变慢上游线程池被拖满接着整条调用链雪崩——这种场景做过微服务的都不陌生。Sentinel 就是来解决这个问题的它把流量控制、熔断降级、系统自适应保护做成了开箱即用的组件接入成本低规则配置灵活控制台还能实时看 QPS 和拒绝数。但实际落地时很多人卡在两个地方。第一是 Sentinel 规则配了不生效明明设了 QPS 阈值压测时该限流却没限住或者不该限流的正常请求被拦了。第二是微服务里越来越多地要接入 AI 能力——代码补全、日志分析、智能问答——每个服务各自维护一套 API Key 和调用地址密钥散落在各个配置文件里换一个模型就要改一遍代码运维成本高得离谱。这篇就把这两件事放在一起解决用 Sentinel 把流量防线搭好用 TaoToken 统一 API 通道把 AI 接入收敛到一个入口。你会拿到可以直接复制的 Sentinel 规则配置、TaoToken 的 settings.json 和 config.toml 骨架以及限流触发和通道连通性的验证动作。适合正在做 SpringCloud 微服务、需要同时处理流量治理和 AI 工具接入的开发者。2. TaoToken 统一通道把散落的 Key 收进一个入口先说清楚 TaoToken 在这里扮演什么角色。官网是 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 入口是 https://taotoken.net/api 。它做的事情本质上是把多个模型的调用收敛到一个统一的 API 通道上你只需要维护一个 Key就能在同一个接口规范下切换不同的模型。对 SpringCloud 项目来说这意味着什么以前你的订单服务要调 GPT 做摘要用户服务要调 Claude 做意图识别每个服务里都塞着不同的 base_url 和 api_key。现在统一走 TaoToken 的通道配置项从 N 套变成 1 套密钥管理、额度监控、调用日志都在一个地方看。具体操作上你需要先拿到 API Key。进入控制台页面 https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewrite 在 API Keys 管理里创建一个新的 Key。创建时注意权限范围如果只是测试可以先给最小权限生产环境再按服务拆分不同的 Key方便后续做调用量隔离。拿到 Key 之后接入文档在 https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 里面有完整的接口说明和参数定义。如果你用的是 Claude Code 这类工具Anthropic 兼容的接入方式参考 https://taotoken.net/ClaudeCodeAnthropic?utm_sourcetaotoken_aicg_blog_endutm_contentClaudeCodeAnthropicutm_campaignrewrite 。需要长期跑编码任务或者 Agent 场景的可以看 Coding Plan 页面 https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 按套餐走比按量计费更划算。这里要提醒一句TaoToken 是统一的 API 通道服务不是让你绕过什么限制它的定位就是帮你在合规前提下把多模型调用管理起来。密钥不要硬编码在代码里用配置中心或者环境变量注入这是基本的安全习惯。3. Sentinel 规则配置从依赖到生效的完整骨架3.1 引入依赖和基础配置在 SpringCloud 项目的 pom.xml 里加入 Sentinel 的 starter。如果你用的是 Spring Cloud Alibaba 体系版本对齐很重要建议直接用 spring-cloud-alibaba-dependencies 做 BOM 管理。dependency groupIdcom.alibaba.cloud/groupId artifactIdspring-cloud-starter-alibaba-sentinel/artifactId /dependency dependency groupIdcom.alibaba.csp/groupId artifactIdsentinel-transport-simple-http/artifactId /dependencyapplication.yml 里配置控制台地址和端口这样启动后能直接在 Sentinel Dashboard 里看到服务spring: cloud: sentinel: transport: dashboard: 127.0.0.1:8080 port: 8719 eager: trueeager: true这个配置很关键。默认情况下 Sentinel 是懒加载的第一次请求进来才初始化导致你在控制台看不到服务。加上这个配置服务启动就注册上去。3.2 限流规则QPS 阈值怎么定Sentinel 的限流规则核心参数是grade限流模式、count阈值、strategy流控策略。下面是一个针对订单查询接口的 QPS 限流配置用代码方式定义适合放在配置类里Configuration public class SentinelRuleConfig { PostConstruct public void initFlowRules() { ListFlowRule rules new ArrayList(); FlowRule orderQueryRule new FlowRule(); orderQueryRule.setResource(orderQuery); orderQueryRule.setGrade(RuleConstant.FLOW_GRADE_QPS); orderQueryRule.setCount(100); orderQueryRule.setStrategy(RuleConstant.STRATEGY_DIRECT); orderQueryRule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_WARM_UP); orderQueryRule.setWarmUpPeriodSec(10); rules.add(orderQueryRule); FlowRule aiCallRule new FlowRule(); aiCallRule.setResource(aiInference); aiCallRule.setGrade(RuleConstant.FLOW_GRADE_QPS); aiCallRule.setCount(20); aiCallRule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER); aiCallRule.setMaxQueueingTimeMs(500); rules.add(aiCallRule); FlowRuleManager.loadRules(rules); } }这里有两个资源orderQuery用 Warm Up 模式冷启动时逐步把阈值拉到 100避免瞬间打满aiInference用匀速排队模式QPS 限制在 20超出的请求排队等待最大等待 500ms这样 AI 调用不会因为突发流量把下游打挂。3.3 熔断降级规则熔断规则关注的是下游不稳定时的自我保护。Sentinel 支持慢调用比例、异常比例、异常数三种熔断策略。下面配一个慢调用熔断PostConstruct public void initDegradeRules() { ListDegradeRule rules new ArrayList(); DegradeRule slowCallRule new DegradeRule(); slowCallRule.setResource(aiInference); slowCallRule.setGrade(RuleConstant.DEGRADE_GRADE_RT); slowCallRule.setCount(2000); slowCallRule.setSlowRatioThreshold(0.5); slowCallRule.setMinRequestAmount(10); slowCallRule.setStatIntervalMs(10000); slowCallRule.setTimeWindow(30); rules.add(slowCallRule); DegradeRuleManager.loadRules(rules); }含义是在 10 秒统计窗口内如果aiInference资源的请求数超过 10 个且慢调用RT 超过 2000ms比例超过 50%就触发熔断接下来 30 秒内所有请求直接走降级逻辑不再调用下游。3.4 热点参数限流如果你的接口有热点参数比如某个商品 ID 被频繁查询可以用热点规则做细粒度控制PostConstruct public void initParamFlowRules() { ParamFlowRule rule new ParamFlowRule(orderQuery) .setParamIdx(0) .setCount(10); ParamFlowRuleManager.loadRules(Collections.singletonList(rule)); }这表示orderQuery资源的第一个参数比如商品 ID单个参数值每秒最多 10 次请求超过就限流。适合防止某个热点商品把整个查询接口拖垮。4. TaoToken 接入配置settings.json 与 config.toml 骨架4.1 settings.json 配置骨架如果你在项目里用支持 settings.json 的工具链比如某些 AI 编码助手配置结构大概是这样{ ai: { provider: taotoken, baseUrl: https://taotoken.net/api, apiKey: ${TAOTOKEN_API_KEY}, model: claude-sonnet, timeout: 30000, maxRetries: 2 }, sentinel: { enabled: true, dashboard: 127.0.0.1:8080, flowRules: [ { resource: aiInference, grade: QPS, count: 20, controlBehavior: RATE_LIMITER } ] } }apiKey用${TAOTOKEN_API_KEY}占位实际值从环境变量注入。baseUrl固定指向https://taotoken.net/api不要在后面加斜杠或者路径具体接口路径由 SDK 或调用方拼接。4.2 config.toml 配置骨架如果你的工具链用 TOML 格式等价配置如下[ai] provider taotoken base_url https://taotoken.net/api api_key ${TAOTOKEN_API_KEY} model claude-sonnet timeout 30000 max_retries 2 [ai.sentinel] enabled true dashboard 127.0.0.1:8080 [[ai.sentinel.flow_rules]] resource aiInference grade QPS count 20 control_behavior RATE_LIMITER max_queueing_time_ms 5004.3 在 SpringCloud 服务里封装调用配置好了之后在服务里封装一个统一的 AI 调用客户端把 Sentinel 的资源埋点加进去Service public class AiInferenceService { Value(${ai.base-url}) private String baseUrl; Value(${ai.api-key}) private String apiKey; private final RestTemplate restTemplate; public AiInferenceService(RestTemplate restTemplate) { this.restTemplate restTemplate; } SentinelResource(value aiInference, blockHandler handleBlock, fallback handleFallback) public String infer(String prompt) { HttpHeaders headers new HttpHeaders(); headers.setContentType(MediaType.APPLICATION_JSON); headers.setBearerAuth(apiKey); MapString, Object body new HashMap(); body.put(model, claude-sonnet); body.put(prompt, prompt); body.put(max_tokens, 1024); HttpEntityMapString, Object request new HttpEntity(body, headers); ResponseEntityString response restTemplate.postForEntity( baseUrl /v1/completions, request, String.class); return response.getBody(); } public String handleBlock(String prompt, BlockException ex) { return 请求过于频繁请稍后重试; } public String handleFallback(String prompt, Throwable t) { return AI 服务暂时不可用已降级; } }SentinelResource注解把aiInference这个资源交给 Sentinel 管理blockHandler处理限流后的逻辑fallback处理熔断或异常后的降级逻辑。这样限流和熔断就跟 AI 调用绑定在一起了。5. 验证动作限流触发与通道连通性怎么测5.1 验证 TaoToken 通道连通先用 curl 确认通道能通curl -X POST https://taotoken.net/api/v1/completions \ -H Authorization: Bearer $TAOTOKEN_API_KEY \ -H Content-Type: application/json \ -d {model:claude-sonnet,prompt:hello,max_tokens:10}如果返回正常的 JSON 响应说明 Key 和通道都没问题。如果返回 401检查 Key 是否过期或者权限不足返回 404 检查路径是否拼错返回 429 说明触发了通道侧的限流需要看套餐额度。5.2 验证 Sentinel 限流生效用压测工具或者简单的循环脚本打请求。假设你的服务跑在 8080 端口订单查询接口是/api/order/queryfor i in $(seq 1 200); do curl -s -o /dev/null -w %{http_code}\n \ http://localhost:8080/api/order/query?productId1001 done wait如果 QPS 阈值设的是 100200 个并发请求里应该有一部分返回 429 或者你自定义的限流提示。同时去 Sentinel Dashboard 看orderQuery资源的实时 QPS 曲线和拒绝数确认规则生效。5.3 验证熔断降级模拟下游变慢在 AI 调用接口里加一个Thread.sleep(3000)然后连续发 20 个请求。观察 Sentinel Dashboard 里aiInference的 RT 曲线和熔断状态。当慢调用比例超过阈值熔断器打开后续请求直接走handleFallback返回降级信息。等 30 秒熔断窗口过去再发请求应该恢复正常调用。5.4 验证热点参数限流对同一个商品 ID 快速发 30 次请求for i in $(seq 1 30); do curl -s http://localhost:8080/api/order/query?productId9999 done如果热点规则设的是单参数 QPS 10那么前 10 个请求正常后面的应该被限流。换一个不同的 productId 再试应该又能正常通过说明限流是按参数值隔离的。6. 常见报错排查Sentinel 控制台看不到服务检查spring.cloud.sentinel.eager是否设为 true检查 dashboard 地址和端口是否可达检查sentinel-transport-simple-http依赖是否引入。如果服务在容器里跑dashboard 地址不能用 127.0.0.1要用宿主机 IP。规则配了不生效最常见的原因是资源名对不上。SentinelResource的 value 必须和规则里的 resource 完全一致大小写敏感。另外检查规则是否被后续的loadRules覆盖了多个配置类同时加载规则时后加载的会覆盖前面的。限流后返回的不是自定义提示blockHandler方法的签名必须和原方法一致参数列表最后加一个BlockException返回类型也要一致。如果签名不对Sentinel 会走默认的限流处理返回 429。TaoToken 调用返回 401检查环境变量TAOTOKEN_API_KEY是否真的注入到运行环境里了。在 SpringBoot 里可以用Value注入后打印一下长度确认但不要打印完整 Key。另外检查 Key 是否被禁用或者额度耗尽。AI 调用超时导致熔断误触发如果下游模型响应本来就慢RT 阈值设得太低会频繁熔断。建议先观察正常情况下的 P99 RT把阈值设在 P99 的 1.5 到 2 倍。同时minRequestAmount不要设太小否则样本不足时统计不准。热点参数规则不生效确认ParamFlowRule的paramIdx和实际方法参数位置对应。如果方法有多个参数索引从 0 开始。另外热点规则只对基本类型和 String 参数生效对象类型需要自定义ParameterFlowRule的解析逻辑。接入文档和 API Keys 管理都在控制台里遇到通道侧的问题优先看文档里的错误码说明。需要验证模型对话效果的可以直接在模型对话页面测试长期跑编码任务的Coding Plan 页面有套餐对比。配置改完之后记得重启服务Sentinel 规则如果是通过代码加载的重启才会重新初始化。
