私有化模型接口测试：稳定性、权限和审计

2026年4月记录，分类「AI测试」。这篇更像工作笔记，记录的是一次问题拆解和复用清单。

私有化特点

私有化模型接口除了回答质量，还要测稳定性、租户隔离、权限、审计和资源限制。这类接口更像业务系统，不只是模型服务。

记录这篇的目的，是让下次遇到同类问题时少走一轮弯路。

接口验证

• 验证并发请求、长文本、空输入、超时和取消。
• 不同租户、不同角色访问模型和知识库要隔离。
• 审计日志记录调用人、模型、耗时、token 和结果状态。

并发: 20/50/100
观测: p95、失败率、token成本、审计日志、租户隔离

权限审计

• 接口失败有明确错误码。
• 敏感数据不会跨租户泄露。
• 成本、耗时、失败率有监控。

这类内容最怕只靠口头传递，所以我会把命令、样本和异常分支一起留下。

上线口径

私有化模型测试要把模型能力和企业级权限治理一起看。等业务规则再稳定一点，可以把这里的检查点拆成参数化用例。