Langfuse
Langfuse是一款开源的LLM应用全生命周期分析管理工具，核心定位为开发者及AI产品团队提供LLM应用的生产环境观测、质量评估与成本优化能力
Langfuse是一款开源的LLM应用全生命周期分析管理工具，核心定位为开发者及AI产品团队提供LLM应用的生产环境观测、质量评估与成本优化能力。核心功能包括全链路请求追踪，可还原LLM应用从输入到输出的完整调用链路；多维度指标分析，支持成本、延迟、准确率等核心指标的聚合统计；内置Prompt管理模块，可实现不同版本Prompt的迭代、对比与上线。目标用户覆盖AI应用开发者、产品经理、运维工程师、算法工程师等群体，可用于LLM应用上线前的调试场景、上线后的运行监控场景、迭代过程中的效果对比场景，帮助团队系统化管理LLM应用的全流程运行状态。
- 适用对象
- AI应用开发者(调试多步骤LLM应用)
- 主要功能
- 全链路追踪、多维度指标分析
- 计费方式
- 免费增值，部分功能付费
- 平台
- 网页
- 已收录
- 2026.06.14（139 天）
阅读目录
编辑评测与站内热度
编辑综合评分
满分 5 分
六维指标基于站内真实数据（热度、社区反馈、资料完整度、可达性核验等）综合评估，非用户投票。
全站热度排名
#1070
分类内排名
#36 / 542
累计站内点击
2
近 7 日点击
2
排名与点击为站内真实统计口径，反映 Toolifai 用户行为，非编辑评分。
Langfuse是什么，怎么使用？
约 5 分钟Langfuse是一款开源的LLM应用全生命周期分析管理工具，核心定位为开发者及AI产品团队提供LLM应用的生产环境观测、质量评估与成本优化能力。核心功能包括全链路请求追踪，可还原LLM应用从输入到输出的完整调用链路；多维度指标分析，支持成本、延迟、准确率等核心指标的聚合统计；内置Prompt管理模块，可实现不同版本Prompt的迭代、对比与上线。目标用户覆盖AI应用开发者、产品经理、运维工程师、算法工程师等群体，可用于LLM应用上线前的调试场景、上线后的运行监控场景、迭代过程中的效果对比场景，帮助团队系统化管理LLM应用的全流程运行状态。
主要功能
- 全链路追踪：用户接入SDK后，Langfuse会自动记录LLM应用每次请求的完整上下文，包括用户输入、中间步骤的工具调用记录、不同模型的返回结果、请求耗时、token消耗等信息。开发者可通过调用链视图逐节点排查问题，快速定位是Prompt逻辑错误、模型返回异常还是工具调用超时，无需在零散的日志中手动梳理关联关系，大幅降低复杂多步骤LLM应用的调试成本。
- 多维度指标分析：平台可自动聚合所有请求数据，生成成本、延迟、准确率、用户满意度等多维度的统计图表。用户可按时间维度、模型类型、用户分组等条件筛选数据，直观观测不同版本应用的指标变化，也可自定义指标阈值设置告警规则，当指标异常时及时收到通知，帮助团队实时掌握LLM应用的运行状态，快速识别潜在风险。
- Prompt版本管理：用户可在平台内创建、存储不同版本的Prompt，支持版本对比、灰度发布和回滚操作。上线新Prompt时，可设置流量分配比例，同时观测旧版本与新版本的效果差异，对比不同Prompt的返回质量、成本、耗时等指标，无需修改应用代码即可完成Prompt迭代，降低Prompt变更的上线风险，提升迭代效率。
- 自定义质量评估：支持用户通过规则配置、大模型自动打分、人工标注三种方式对LLM返回结果进行质量评估。用户可设置自定义的评估维度，如回答相关性、事实准确性、格式合规性等，平台可自动批量对历史请求进行打分，也可分配人工标注任务，将评估结果与调用链、指标数据关联，帮助团队量化LLM应用的质量表现，定位质量优化的具体方向。
- 多框架兼容集成：提供Python、TypeScript/JavaScript等多种语言的SDK，同时支持LangChain、LlamaIndex、OpenAI Function Calling等主流LLM开发框架的一键集成，也可通过REST API接入自定义开发的LLM应用。集成过程仅需数行代码，无需大幅改动现有应用逻辑，即可快速实现数据上报，适配不同技术栈的开发团队需求。
- 成本用量统计：平台内置主流大模型的定价规则，可自动按实际消耗的token数量计算每次请求的成本，支持按模型、按用户、按功能模块等维度统计成本消耗。用户可查看不同时间段的成本走势，对比不同模型的投入产出比，也可设置成本阈值告警，避免异常请求导致的超额成本支出，帮助团队精细化管控LLM应用的运行成本。
怎么使用
- 访问Langfuse官网注册账号，可选择云端版本直接使用，或下载开源代码自行部署私有实例，根据团队的数据安全需求选择适配的部署方案。
- 进入控制台创建新项目，获取项目对应的公钥与私钥，根据自身应用的技术栈选择对应的SDK或API集成文档，按照指引完成接入配置。
- 在LLM应用代码中引入SDK，添加初始化代码并传入项目密钥，完成后发起测试请求，验证数据是否正常上报到Langfuse控制台。
- 进入项目的观测面板，查看请求的追踪记录、指标统计报表，设置自定义的指标告警规则和质量评估模板，适配团队的监控需求。
- 在迭代应用时使用Prompt管理功能存储不同版本Prompt，通过灰度发布对比版本效果，结合质量评估结果持续优化应用表现。
适合什么人群
- AI应用开发者(调试多步骤LLM应用)
- AI产品经理(观测LLM应用用户满意度与效果)
- 运维工程师(监控LLM应用运行稳定性与异常)
- 算法工程师(对比不同模型与Prompt的效果差异)
- 企业技术负责人(管控LLM应用整体成本投入)
- 测试工程师(批量验证LLM应用输出质量)
总结
这是一款聚焦LLM应用全链路观测的开源工具，解决了LLM应用开发过程中调用链路不透明、指标难统计、效果难量化的普遍痛点。区别于通用的应用监控工具，它针对大语言模型的场景做了大量适配，比如内置token消耗统计、Prompt版本管理、大模型自动评估等特色功能，不需要开发者从零搭建监控体系，仅需少量代码接入即可获得完整的观测能力。其开源模式允许企业自行部署私有实例，满足数据合规要求，同时云端版本也适合中小团队快速上手，不需要投入服务器维护成本。对于正在开发复杂LLM应用的团队而言，它可以帮助降低调试成本，量化应用迭代的效果，让LLM应用的运行状态从黑盒变成可观测、可分析、可优化的状态，是LLM应用生产环境部署过程中实用性较高的辅助工具。
价格与免费额度
Langfuse提供免费版、付费版两种方案，同时支持开源版本免费自行部署。免费版支持每月最多100万次追踪事件，保留30天数据，包含基础的追踪、指标分析功能，适合个人开发者或小型项目试用。付费版按每月追踪事件量计费，100万次事件起付价格为29美元/月，支持更长的数据保留时间、高级告警、团队权限管理、优先技术支持等功能，适合企业级生产环境使用。若有数据安全需求可选择部署开源版本，所有核心功能免费使用，仅需自行承担服务器运维成本。
优点与不足
优点
- 开源模式支持私有化部署，可满足企业对LLM请求数据的安全合规要求
- 适配多数主流LLM开发框架，多语言SDK覆盖常见技术栈，接入成本较低
- 功能覆盖追踪、分析、Prompt管理、质量评估全流程，无需搭配多个工具使用
- 支持自定义质量评估规则，同时提供自动打分与人工标注能力，适配不同评估场景
- 指标维度丰富，可从模型、用户、功能模块等多维度统计成本、延迟与质量数据
不足
- 开源版本的高级告警、团队权限管理等功能需要自行开发扩展，云端版本才可直接使用
- 部分小众LLM模型的定价规则未内置，需要用户手动配置才能准确统计成本
- 界面操作逻辑较为专业，无相关经验的使用者需要花费一定时间学习才能熟练使用
- 本地部署版本需要自行配置数据库、存储等配套服务，运维成本相对较高
能帮你做的 8 件事
- 01全链路追踪
- 02多维度指标分析
- 03Prompt版本管理
- 04自定义质量评估
- 05LLM观测场景的常用方案
- 06大模型监控场景的常用方案
- 07AI应用开发者(调试多步骤LLM应用)的日常效率工具
- 08先用免费额度验证需求再决定付费
更新历史
- Langfuse 收录进 Toolifai 目录
- 页面资料核验与信息更新
常见问题
Langfuse支持哪些大模型的接入？
Langfuse本身不限制接入的大模型类型，只要应用在调用模型时通过SDK上报对应的请求参数、返回结果、token消耗等信息，即可实现观测。平台目前已内置OpenAI、Anthropic、Google Gemini、百度文心一言、阿里通义千问等主流大模型的定价规则，接入这些模型时可自动计算请求成本，无需手动配置。对于小众的开源模型或自定义部署的模型，用户可手动配置模型的token计算规则和定价信息，同样可以实现成本统计、链路追踪等所有功能，适配不同团队的模型使用需求。
接入Langfuse会影响LLM应用的运行速度吗？
Langfuse的SDK采用异步上报的设计，数据上报过程不会阻塞LLM应用的正常请求流程，仅会增加极少量的额外计算开销，对应用的响应速度影响基本可以忽略。若担心网络问题影响上报，SDK还支持本地缓存失败的请求，在网络恢复后自动重试上报，不会出现数据丢失的情况。根据官方测试数据，接入SDK后单次请求的额外耗时通常在10ms以内，对于绝大多数LLM应用来说不会造成可感知的性能影响，适合在生产环境中使用。
开源自行部署和云端版本有什么功能差异？
开源版本包含全链路追踪、指标分析、Prompt管理、基础质量评估等核心功能，可满足基本的观测需求，适合有私有化部署需求的团队使用。云端版本在开源版本的基础上，额外提供了高级告警规则配置、细粒度团队权限管理、SLA保障、官方技术支持、更长时间的数据保留、第三方工具集成（如Slack通知、数据同步到BigQuery等）等功能，无需自行维护服务器，适合希望快速上手、减少运维投入的团队。两者的核心观测功能没有差异，主要差异在附加功能和运维服务上。
可以用Langfuse做A/B测试对比不同Prompt的效果吗？
可以，Langfuse的Prompt管理模块原生支持A/B测试能力。用户可在平台内创建两个不同版本的Prompt，设置不同的流量分配比例，SDK会自动按照比例将请求分配到不同的Prompt版本，同时自动标记每个请求对应的Prompt版本。运行一段时间后，可在分析面板中对比两个版本的成本、延迟、返回质量评分、用户满意度等多维度指标，直观判断哪个版本的表现更符合预期，整个过程不需要修改应用代码，即可完成Prompt的效果对比，大幅降低A/B测试的实现成本。
Langfuse的数据安全保障措施有哪些？
对于云端版本，Langfuse会对所有传输中的数据进行加密，静态存储的数据也会采用加密存储，同时支持用户配置数据保留期限，到期自动删除数据，符合GDPR等数据合规要求，用户也可随时导出或删除自己的所有数据。对于私有化部署版本，所有数据均存储在用户自己的服务器中，不会上传到任何第三方服务器，完全满足企业对敏感数据的安全管控需求。此外，平台还支持配置数据脱敏规则，在上报时自动对用户输入中的敏感信息（如身份证号、手机号等）进行脱敏处理，避免敏感数据泄露。
开始使用 Langfuse
从官方入口了解最新功能与使用方式。
由 Toolifai 编辑维护
欢迎产品方补充截图、功能介绍与官方资料。更新和纠错由编辑审核后发布。
