LLM路由 工具

共收录 4 款与「LLM路由」相关的 AI 工具,按站内热度排序。

Unify AIUnify AI是面向开发者的大语言模型统一接入与管理平台,核心定位是为多LLM调用场景提供一站式解决方案。平台支持通过一套API对接全球多家主流大模型服务商,提供实时性能基准测试、自定义路由规则设置、自动流量调度三大核心功能。目标用户覆盖AI应用开发工程师、AI产品负责人、大模型研究人员、企业技术团队等,可应用于AI应用多模型兼容开发、大模型选型评估、生产环境LLM流量负载优化、多模型效果对比测试等场景,帮助开发者降低多模型对接成本,提升调用效率。TotoToto是面向AI任务管理场景的智能大模型路由器与交互层平台,核心定位为高性价比的大模型任务调度与交互服务。平台可根据用户需求自动匹配适配不同参数与规模的大模型,支持多模型任务协同处理,提供统一的交互界面简化AI任务流程。核心功能涵盖模型路由调度、统一交互入口、任务流程管理、成本控制管理与第三方服务集成等,适合开发人员、产品团队、AI研究人员、中小企业团队、独立创作者与技术爱好者使用,可满足日常AI开发调试、批量AI任务处理、多模型对比测试与轻量化AI应用搭建等场景需求。ManifestManifest是一款面向OpenClaw框架打造的开源LLM路由工具,核心定位为帮助开发者和企业优化大语言模型调用成本与性能。它支持根据不同请求特征智能分配大语言模型调用路径,可自动匹配最适合的模型来完成任务,无需手动切换不同模型接口,最高可降低70%的大语言模型调用成本。其核心功能包含智能路由分配、多模型管理、成本统计分析、自定义路由规则、开源二次开发等,主要服务于使用大语言模型开发应用的开发者、AI创业团队、企业AI应用部门等,适合搭建多模型AI应用、控制模型调用成本、优化模型调用响应速度等场景使用。Agihalo LLM RouterAgihalo LLM Router是一款面向AI开发者与Web3项目搭建者的大语言模型路由服务平台,核心提供多LLM节点路由调度能力,并整合USDC与X402两种支付通道支持自主AI代理完成自动化支付。平台支持将不同AI推理需求分配至适配的模型节点,可实现支付与推理流程的全链路自动化衔接,支持开发者自定义路由规则,适配分布式AI系统搭建、自主AI代理运营等多种场景,满足Web3领域AI应用的支付与推理调度需求。