作品 / RelayAudit / AgentGuard
让 Agent 中转链路里的异常,有迹可循。
打开交互工作台开源本地网关 / HTTP 与 SSE 协议检查
围绕已有 AI 接口的故障排查,我实现本地 HTTP / SSE 网关,把请求转发、独立观察、容量拒绝和异常报告分开处理。交付重点是复现失败、保留依据、确认恢复,而不是只展示一次成功响应。
本站展示合成报告,实际转发需要运行本地工具。目前不具备经过校准的真实模型身份识别能力;所有模型身份状态保持未验证。
查看结果与说明 01这是什么
02看结果
03我做了什么
我的责任覆盖协议接入、请求生命周期、可观测性与退出恢复。
接口与凭据:我实现 Responses、Chat Completions 与 Anthropic Messages 的 JSON / SSE 转发,处理两向连接级头部过滤,并分离本地认证与上游凭据。调用方可以使用隔离配置接入,而不覆盖原有订阅登录。
生命周期:我处理超时、取消、流式背压和在途容量,让请求体读取、上游调用和完整 SSE 共同占用一个名额,完成或异常结束后释放。
观察与交接:我把解析、检测和报告放在独立的有界队列中,显式记录观察丢失与真实传输终止原因;同时保留状态、容量、报告与退出恢复命令。报告只保存白名单元数据,不持久化用户提示词、回答或认证头正文。
04工程判断
01 / 容量覆盖完整请求,而不只限制建立连接
SSE 仍在输出时,请求还占用资源,因此名额保持到完整流结束。满额时,新请求在本地返回 503 与 Retry-After,不触达上游;已有流继续处理。挂起 SSE、上游计数和释放后再次请求共同验证这条边界。
02 / 业务转发与观察失败分开报告
响应字节先转发,再交给有界观察队列。观察队列拥塞可以减少证据量,但必须显示 monitoring_degraded;超时、取消等真实传输原因仍保留。这样才能区分“业务请求失败”和“监测证据不完整”。
03 / 告警描述可见现象,身份结论保留证据门槛
模型声明变化是标签不符合预期,协议错误也可能来自参数或网关。项目始终保留 identity_status=unverified;默认被动模式不追加模型请求。可选复核需要单独配置和正数请求预算,不能把请求数预算当作金额硬上限。
05验收与交接
验收一条调用链,要同时检查正常响应、失败状态和恢复后的下一次请求。
可从一个受控端点开始:明确协议、请求形态和脱敏样例,比较直连与网关的响应实体;挂起一条 SSE,确认新增超限请求未到上游,再释放连接并重新请求;另行核对观察丢失、超时和取消的报告。交接时留下接入、容量参数、报告位置与退出方式。
已有证据:公开合成演示保留原报告、来源记录与后续请求;本地测试覆盖协议实体、凭据隔离、取消、超时和容量释放。真实客户端到模拟端点的接入记录与压力记录分别注明测试环境。
这些证据证明受控环境中的传输和排查机制,未建立客户生产容量、真实中转站模型身份指纹或校准准确率。被动模式仍有开销;原生 WebSocket、完整 IDE 覆盖与生产进程监督也不在当前实现内。
06深入查看
2026-10-21 的受控测试与本地接入记录包含请求、响应两向的连接级头部过滤修复;不据此判定模型身份。 查看修复与 CI 记录 ↗
后续回归覆盖取消、超时、背压、非法 Content-Length 与并发。观察队列丢失时仍保留已知的真实传输终止原因,不把超时或取消改写成“不可观察”。
2026-10-21 的合成 JSON/SSE 负载比较直连、关闭观察与完整 passive。C1每模式100次、C8每模式200次:实体哈希一致,额外请求、HTTP/实体错误与队列丢失均为0。开销没有被隐藏:本机 C8 SSE 的 p95 从直连9.126ms变为完整观察21.178ms;这是固定顺序的 loopback 小样本,不是生产容量或低开销保证。
python evals/run_acceptance.py --out acceptance-new --requests 100 --concurrency 1
python evals/run_acceptance.py --out acceptance-c8 --requests 200 --concurrency 8
流式修复、原始指标与 CI ↗ · 五分钟合成演示与下载步骤 ↗
上述负载指标属于 2026-10-21 的历史记录,本次网站改造没有重跑完整压力比较。2026-10-23 只复跑了三请求的合成告警演示,不能据此新增性能或模型识别准确率声明。
2026-10-30 已合并的容量控制由挂起 SSE、拒绝新增请求与恢复测试 ↗覆盖;可核对对应提交的 CI ↗。请仅在有权使用的 API 与本机环境中复现。
WORK TOGETHER / 合作入口
把接口故障变成可排查的问题。
说明接口类型、失败现象与可复现步骤,准备脱敏请求样例或日志。先明确观察范围,再讨论接入与恢复方式。