TAG
LLM生产监控 工具。
全部标签共收录 2 款与「LLM生产监控」相关的 AI 工具，按站内热度排序；每张卡片可直达详情页查看定价、平台支持与同类对比。
Confident AI
Confident AI 是面向大语言模型应用开发者的开源评估基础设施平台，核心定位是为LLM应用的性能验证与生产落地提供全链路支持。平台支持用户自定义测试用例完成LLM输出评估，内置多维度开源性能指标可量化模型表现，同时提供版本差异跟踪与全链路监控能力。目标用户覆盖LLM应用开发工程师、算法研究员、AI产品经理等群体，可应用于LLM应用原型验证、迭代优化、上线前性能校验、生产环境稳定性监测等多种场景，帮助开发者明确模型优化方向，降低LLM投产的不确定性。 · 开源
Inductor
Inductor是面向LLM应用开发团队的质量管控平台，核心定位是帮助开发者在全生命周期内提升大语言模型应用的稳定性与成本合理性。平台提供多维度自动化评估能力，可对LLM应用的输出准确性、合规性、相关性等指标进行批量校验；内置生产环境实时监控模块，可捕捉异常输出、调用成功率波动等问题并触发告警；还支持跨角色协作流程，方便不同岗位成员共同参与应用质量优化。目标用户覆盖LLM应用开发工程师、测试人员、产品经理、运维人员等，适用于LLM应用原型验证、上线前测试、上线后运维、版本迭代效果核验等多个场景，可兼容各类主流大模型与LLM应用开发框架，支持本地部署与云端部署两种部署模式。