dsh-model-failover
Letter2025
两级模型熔断与回退:模型或平台连续失败后自动熔断,并把下一个请求路由到配置好的备用模型。
使用方式
使用方式:对话调用、自动生效
安装
安装准备:安装后配置
dsh plugin --profile web add dsh-model-failoverLetter2025
两级模型熔断与回退:模型或平台连续失败后自动熔断,并把下一个请求路由到配置好的备用模型。
使用方式:对话调用、自动生效
安装准备:安装后配置
dsh plugin --profile web add dsh-model-failover