概览
接入网关、实时请求统计与错误日志
接入网关与可用模型
Base URL (网关地址)
—
客户端凭据 (Key)
—
可用模型
Agent 对话总览
真实路由
知识库入库总览
虚拟别名
最近错误日志
| 时间 | 分类 | 模型 / 类型 | 供应商 | Key 别名 | 状态 | 错误详情 |
|---|
供应商
本地独立加密存储各上游 Base URL 与 API 密钥 · 支持从 EdgeOne 中枢拉取与自主增删改查
模型及路由
对外暴露标准 OpenAI 兼容模型,按 Key 序列自动负载与 429/5xx 故障自动切换
模型及路由
聚合 4 大知识库专有模型节点 (chat/embedding/reranker/ocr) · 各分类独立按需挂载
系统设置
统一配置大模型路由策略、超时时钟、故障避让与系统运维
1. 运行模式与客户端鉴权 (Run Mode & Client Auth)
客户端调用密钥 (PROXY_API_KEY)
Cursor / Cline / Dify 调用 /v1/* 接口的 Authorization: Bearer 密钥
客户端调用密钥 (PROXY_API_KEY)
EdgeOne 运行时严格从控制台环境变量注入,此处保持只读以防覆盖失效
系统运行模式 (Running Mode)
控制管理后台页面自适应展示以及 /v1/models 的暴露范围
按时段自动切换 (mode_schedule)
北京时间。KB 时段内切 KB,其余切 Agent;手动切换保留到下个时段;切回 Agent 最多等 1 小时
KB
–
2. 核心分流调度策略 (Key Routing Strategy)
Agent 模式分流策略 (agent_routing_strategy)
智能体编程推荐「粘性故障转移」,保持会话连接与 KV Cache 稳定性
纯手动直通生效 系统直接使用各模型指定的当前激活 Key,禁用自动切换与熔断避让,上游响应 100% 原始透传。
KB 知识库分流策略 (kb_routing_strategy)
知识库无状态批量入库推荐「轮询负载均衡」,平摊并发压力
3. 超时与并发 (Timeouts & Concurrency)
单 Key 首字节超时 (agent_first_byte_timeout_sec)
单个 Key 等首字节的上限,超时换下一个 Key;整单 300s 封顶
秒
Embedding / Rerank 单次超时 (upstream_timeout_sec)
每个 Key 单次等待上限,超时换下一个 Key(默认 20s)
秒
OCR 单次超时 (upstream_timeout_kb)
大图 OCR 每个 Key 单次等待上限(默认 60s)
秒
单 Key 最大并发 (kb_max_concurrency_per_key)
单个 Key 同时在途请求上限;Key 多时调小,负载摊到所有 Key(默认 4)
个
OCR 处理图片数 (ocr_max_inflight)
OCR 并发处理图片数(超出的排队不占内存,默认 12 张)
张
OCR 排队最长等待 (ocr_queue_timeout_sec)
排队超过此时间返回 503 + Retry-After(默认 30s)
秒
纯手动直通:固定使用当前 Key,整单 300s 超时,无其他参数。
4. 冷却与冷宫 (Cooldowns)
冷宫时长 (cooldown_quota_sec)
402 / 余额不足 / 401 Key 无效 / 403 封禁时停用该 Key(默认 24 小时,最长 7 天);手动测试该 Key 成功即解除
小时
429 限流冷却 (cooldown_429_sec)
某个 Key 遇 429 后暂停,请求轮到其他 Key;有 Retry-After 以其为准(默认 60s)
秒
5xx 单次冷却 (cooldown_5xx_sec)
单次 500/502/503/504 后该 Key 暂停(默认 30s)
秒
熔断阈值 (circuit_break_threshold)
同一个 Key 连续 5xx 达到次数即熔断(默认 3 次)
次
熔断冷却 (circuit_cooldown_sec)
熔断后该 Key 暂停(默认 600s)
秒
纯手动直通模式:所有请求 100% 直连目标上游,不进行失败重试、熔断与冷却避让。
5. EdgeOne 凭据中枢 (Vault Hub)
EdgeOne 中枢服务地址
云端金库中枢的基础访问 URL
中枢访问 Token
用于同步与拉取凭据的安全金钥
保存中枢连接配置
地址或 Token 改动后先保存;不会影响其它设置。
已配置凭证
诊断与同步
先测试连通性,再按需增量同步规则;不会修改本地 Key。
6. 系统版本与运维 (Updates & Operations)
程序版本检测
检查是否有新版本;确认后再升级,不会自动改配置。
运行维护
解除所有冷却、平滑重启;升级与重启分开操作。
7. 底层配置管理与高级编辑 (Data & Raw JSON Config)
系统配置导出与导入
导出带有时间戳的加密 JSON 备份文件,或在不同环境间无缝迁移恢复