Vidai
Vidai是一款可自托管的AI网关与控制平面工具，核心定位为企业级LLM请求管理方案，支持对企业所有大语言模型调用请求进行统一管控、成本核算与安全防护，所有数据处理流程都在企业自有基础设施内完成，避免数据流出企业网络
Vidai是一款可自托管的AI网关与控制平面工具，核心定位为企业级LLM请求管理方案，支持对企业所有大语言模型调用请求进行统一管控、成本核算与安全防护，所有数据处理流程都在企业自有基础设施内完成，避免数据流出企业网络。核心功能包括LLM请求全链路审计、调用成本动态统计、数据泄露风险拦截三大模块，目标用户为有内部AI工具部署需求的企业技术团队、数据安全管理部门、IT运维团队，可应用于企业内部大模型服务搭建、敏感数据AI交互防护、LLM调用成本分摊核算等场景。
- 适用对象
- 企业IT运维团队(内部AI服务部署场景)
- 主要功能
- 自托管部署、请求全链路管控
- 计费方式
- 免费增值，部分功能付费
- 平台
- 网页
- 已收录
- 2026.06.07（143 天）
阅读目录
编辑评测与站内热度
编辑综合评分
满分 5 分
六维指标基于站内真实数据（热度、社区反馈、资料完整度、可达性核验等）综合评估，非用户投票。
全站热度排名
#12201
分类内排名
#128 / 249
累计站内点击
3
近 7 日点击
—
排名与点击为站内真实统计口径，反映 Toolifai 用户行为，非编辑评分。
Vidai是什么，怎么使用？
约 5 分钟Vidai是一款可自托管的AI网关与控制平面工具，核心定位为企业级LLM请求管理方案，支持对企业所有大语言模型调用请求进行统一管控、成本核算与安全防护，所有数据处理流程都在企业自有基础设施内完成，避免数据流出企业网络。核心功能包括LLM请求全链路审计、调用成本动态统计、数据泄露风险拦截三大模块，目标用户为有内部AI工具部署需求的企业技术团队、数据安全管理部门、IT运维团队，可应用于企业内部大模型服务搭建、敏感数据AI交互防护、LLM调用成本分摊核算等场景。
主要功能
- 自托管部署：支持在企业自有服务器、私有云、本地机房等基础设施上完成部署，无需依赖第三方公有云服务节点。企业可根据自身合规要求调整部署配置，所有LLM请求的转发、处理、存储全流程都在企业内部网络环境中运行，不会将交互数据传输到外部服务节点，满足金融、医疗等强监管行业的数据本地化存储要求。
- 请求全链路管控：可作为所有企业LLM调用请求的统一入口，自动拦截不符合企业使用规范的请求。管理员可在后台配置请求规则，限制特定角色调用大模型的权限，同时记录每一条请求的发起用户、调用模型、请求内容、返回结果、耗时等全链路信息，方便后续审计溯源，及时识别异常调用行为。
- 调用成本核算：自动对接不同大模型服务商的计费规则，实时统计各部门、各项目、各用户的LLM调用成本。支持按时间维度、模型类型、调用次数等维度生成成本统计报表，管理员可设置单部门、单用户的月度调用额度，超出额度后自动限制调用，帮助企业清晰掌握AI服务的支出情况，合理分配使用预算。
- 数据安全防护：内置敏感数据识别规则，可自动检测LLM请求中包含的企业内部机密、用户隐私信息、商业数据等内容。当检测到请求中存在违规数据时，可直接拦截该请求，避免敏感数据被传入大模型，同时支持自定义敏感词、敏感数据正则匹配规则，适配不同企业的个性化数据安全需求。
- 多模型统一调度：支持接入OpenAI、Anthropic、通义千问、文心一言等市面主流大模型服务，企业只需对接Vidai的统一API即可调用不同大模型的能力。管理员可在后台配置路由规则，根据请求类型、用户等级自动分配适配的大模型，也可设置故障自动切换机制，当某一模型服务不可用时自动转发到备用模型，保障服务可用性。
- 合规审计回溯：支持存储所有LLM交互记录至少180天，管理员可根据用户、时间、关键词等维度快速检索历史交互内容。满足等保2.0、GDPR、数据安全法等合规要求的审计追溯需求，当出现数据安全事件时，可快速定位问题源头，导出相关交互记录作为合规审核材料。
怎么使用
- 第一步，访问Vidai官方网站下载对应服务器架构的部署安装包，查看官方部署文档，确认企业服务器配置符合最低运行要求，准备好相关数据库、网络端口等基础环境。 第二步，按照部署教程在企业自有基础设施上完成服务安装，配置内部网络访问权限，确保企业内部系统可以正常访问Vidai网关地址，同时禁止外部网络直接访问。 第三步，登录Vidai管理后台，接入企业所需的各大模型服务的API密钥，配置各模型的调用优先级、路由规则，根据企业需求设置不同用户、部门的访问权限。 第四步，在管理后台配置敏感数据识别规则、成本预警阈值、异常调用拦截策略等安全与管控规则，测试规则生效情况，调整至符合企业实际使用需求。 第五步，将企业内部所有需要调用大模型的系统、工具的API请求地址替换为Vidai网关地址，完成对接后即可开始统一管控所有LLM调用请求，查看运营数据。
适合什么人群
- 企业IT运维团队(内部AI服务部署场景)
- 企业数据安全部门(敏感数据防护场景)
- 金融行业技术团队(合规审计场景)
- 医疗行业信息化部门(患者隐私数据保护场景)
- 企业财务部门(AI服务成本核算场景)
- 大型企业研发团队(多模型统一调度场景)
总结
这款自托管AI网关工具针对企业使用大语言模型过程中的三大核心痛点设计，首先解决了数据安全问题，所有交互都在企业内网完成，避免敏感数据上传到第三方大模型服务商的服务器，对于有数据合规要求的行业来说适配性很高。其次是成本管控能力，能够清晰统计不同部门的调用开销，避免出现成本浪费的情况。另外统一的接入方式也降低了企业对接多模型的开发成本，不需要分别对接不同大模型的API，只需要对接这一个网关即可完成调度。整个工具的部署流程不复杂，官方提供了完善的文档和技术支持，企业技术团队可以快速完成搭建，自定义配置的空间也比较大，能够适配不同企业的个性化管控需求，适合有内部AI应用部署计划的中大型企业评估使用。
价格与免费额度
Vidai提供免费社区版与企业付费版两种版本。免费社区版支持最多5个用户接入、2种大模型对接，可使用基础的请求管控和安全防护功能，适合小型团队测试使用，无使用时间限制。企业付费版采用年度订阅模式，价格根据企业接入的用户数量、需要对接的模型数量、定制化需求不同从每年数千到数十万元不等，包含专属技术支持、定制化功能开发、合规审计指导等服务，适合中大型企业正式部署使用，建议企业先使用免费版测试功能匹配度后再选择付费方案。
优点与不足
优点
- 支持全自托管部署，所有数据流转都在企业内部网络完成，满足强监管行业的数据合规要求
- 覆盖LLM调用管控、成本核算、安全防护、多模型调度等全流程需求，不需要额外搭配多个工具
- 支持自定义敏感数据规则、权限规则、路由规则，适配不同企业的个性化管理需求
- 兼容市面主流大模型服务，企业可灵活切换不同模型，降低对接开发成本
不足
- 需要企业具备自有服务器或私有云基础设施，小型团队无相关资源时部署门槛较高
- 初始配置需要管理员熟悉企业内部安全规则和大模型使用需求，配置周期较长
- 当前版本可视化报表的自定义编辑能力有限，部分特殊统计需求需要二次开发实现
能帮你做的 8 件事
- 01自托管部署
- 02请求全链路管控
- 03调用成本核算
- 04数据安全防护
- 05AI网关场景的常用方案
- 06自托管工具场景的常用方案
- 07企业IT运维团队(内部AI服务部署场景)的日常效率工具
- 08先用免费额度验证需求再决定付费
更新历史
- Vidai 收录进 Toolifai 目录
- 页面资料核验与信息更新
常见问题
部署Vidai需要什么服务器配置？
基础部署需要至少4核8G内存的服务器，存储大小根据企业需要留存的交互日志时长决定，默认留存180天日志建议配置至少500G的存储空间。如果企业日均LLM调用量超过10万次，建议配置8核16G以上的服务器，同时可支持分布式部署，通过多节点集群承载更高的并发请求。操作系统支持Ubuntu、CentOS等主流Linux发行版，需要提前安装好Docker和Docker Compose环境，官方提供了容器化部署脚本，可以降低部署复杂度。
Vidai是否支持接入企业本地部署的大模型？
支持接入企业本地部署的开源大模型，包括Llama系列、Qwen系列、Mistral系列等，只需要在管理后台配置本地大模型的API接口地址、调用参数、认证信息即可完成对接。对接后本地大模型的调用同样会被纳入统一管控范围，支持记录调用日志、统计成本、拦截敏感请求，企业可以根据需求将请求路由到本地模型或者第三方公有云模型，灵活调配不同模型的算力资源，适配不同的使用场景。
使用Vidai会增加LLM请求的响应耗时吗？
使用Vidai对LLM请求整体响应耗时的影响十分有限，绝大多数场景下不会对业务使用体验造成明显影响。在常规部署、未开启额外复杂规则的状态下，Vidai网关的请求转发耗时仅为20到50毫秒，而当前主流大语言模型单请求的自身响应耗时通常在数百毫秒到数秒不等，对比下来Vidai产生的额外耗时占比极低，普通用户在使用过程中基本感知不到这部分延迟。如果企业根据自身合规需求配置了较为复杂的敏感数据检测规则，请求处理耗时会出现小幅上升，这类场景下企业可以通过部署专用的规则检测节点，提升复杂检测逻辑的并行处理效率，压缩额外耗时。同时Vidai本身还内置了请求缓存功能，对于高度重复的用户查询、相同参数的同类请求，可以直接返回此前已经生成的响应结果，这类场景下反而能够大幅降低响应时间，同时也能减少重复的大模型调用，降低企业的LLM使用成本。
Vidai的数据安全防护能力可以满足等保要求吗？
Vidai的安全防护模块设计符合等保2.0中关于数据传输、存储、审计的相关要求，支持全链路数据加密、操作日志不可篡改、权限分级管控等能力，日志留存时间可自定义延长至超过等保要求的6个月。同时提供完整的审计导出功能，可直接导出符合合规要求的审计报告，已经有多家金融、政务领域的客户使用该工具通过了等保三级测评。如果企业有特殊的合规要求，也可以通过定制化开发适配对应的规则，满足不同行业的监管需求。
可以基于Vidai搭建企业内部的ChatGPT类应用吗？
可以，Vidai本身提供了前端交互页面的开源模板，企业可以基于该模板快速搭建内部的AI聊天应用，所有用户的交互请求都会经过网关的管控和安全检测。同时支持对接企业内部的知识库系统，实现内部知识库+大模型的问答能力，用户权限可以和企业现有OA、钉钉等系统的组织架构打通，不需要额外维护用户体系。如果企业已经有自己的内部AI应用，只需要将原有大模型API地址替换为Vidai的网关地址，即可在不改变原有使用体验的情况下增加管控和安全防护能力。
开始使用 Vidai
从官方入口了解最新功能与使用方式。
由 Toolifai 编辑维护
欢迎产品方补充截图、功能介绍与官方资料。更新和纠错由编辑审核后发布。
