Jan
Jan是一款开源自托管的AI对话工具，可完全离线在本地设备运行，作为类ChatGPT的替代方案，支持用户自主管理所有数据
Jan是一款开源自托管的AI对话工具，可完全离线在本地设备运行，作为类ChatGPT的替代方案，支持用户自主管理所有数据。核心功能包含本地模型运行、自定义AI助手配置、兼容OpenAI规范的本地API服务三类，面向注重数据隐私的开发者、内容创作者、企业办公人员等群体，适用于离线AI对话、本地AI应用开发调试、个性化AI助手搭建等场景，无需依赖第三方云端服务即可完成各类AI交互需求。
- 适用对象
- 注重数据隐私的办公人员(处理涉密内容的AI交互场景)
- 主要功能
- 本地离线运行、自定义AI助手
- 计费方式
- 免费增值，部分功能付费
- 平台
- API
- 已收录
- 2026.06.14（139 天）
阅读目录
编辑评测与站内热度
全站热度排名
#1070
分类内排名
#34 / 165
累计站内点击
1
近 7 日点击
1
排名与点击为站内真实统计口径，反映 Toolifai 用户行为，非编辑评分。
Jan是什么，怎么使用？
约 4 分钟Jan是一款开源自托管的AI对话工具，可完全离线在本地设备运行，作为类ChatGPT的替代方案，支持用户自主管理所有数据。核心功能包含本地模型运行、自定义AI助手配置、兼容OpenAI规范的本地API服务三类，面向注重数据隐私的开发者、内容创作者、企业办公人员等群体，适用于离线AI对话、本地AI应用开发调试、个性化AI助手搭建等场景，无需依赖第三方云端服务即可完成各类AI交互需求。
主要功能
- 本地离线运行：用户下载安装Jan客户端后，可直接在本地设备下载适配的开源大语言模型，无需连接外部云端服务器即可发起AI对话请求，所有计算过程均在本地完成，不会向外传输对话内容，避免数据泄露风险，在无网络环境下也可正常使用全部对话功能。
- 自定义AI助手：用户可在助手管理页面自主配置AI的角色设定、提示词前缀、回复风格、默认调用模型等参数，还可根据不同使用需求创建多个专属助手，比如文案创作助手、代码调试助手、知识问答助手等，切换使用即可适配不同场景的交互需求。
- 本地API服务：用户开启Jan的API服务功能后，本地会启动一个兼容OpenAI接口规范的服务，支持开发者在自己开发的应用、脚本中直接调用该本地API，替代OpenAI云端接口完成对话生成、文本处理等需求，无需依赖外部网络，也无需支付云端接口调用费用。
- 全局热键调用：用户可在设置页面自定义全局唤起热键，在使用其他应用过程中无需切换到Jan客户端，按下设定的热键即可快速调出AI交互窗口，输入需求后可快速获取结果，还支持将生成的内容直接复制粘贴到当前使用的应用中，简化操作流程。
- 数据本地管理：所有对话记录、助手配置、模型下载记录、使用偏好等数据均存储在用户本地设备的指定文件夹中，用户可随时查看、导出全部数据，也可一键删除不需要的记录，所有数据操作无需经过第三方服务器，完全由用户自主掌控。
- 多模型兼容支持：平台支持多种主流开源大语言模型接入，包括Llama系列、Mistral系列、Qwen系列等，用户可根据自己设备的配置情况选择合适参数大小的模型下载使用，也可自行导入本地训练的自定义模型，满足不同场景的算力和效果需求。
怎么使用
- 1. 访问Jan官网https://jan.ai，根据自己的设备操作系统选择对应版本的安装包下载，按照指引完成客户端安装操作。2. 打开安装完成的Jan客户端，进入模型市场页面，根据自身设备配置和使用需求选择合适的开源大语言模型，点击下载到本地。3. 进入助手配置页面，可选择预设助手模板，也可自定义创建专属助手，设置角色提示词、默认调用模型、回复风格等参数。4. 在对话页面选择已配置的助手，输入问题或需求即可发起AI交互，也可使用自定义的全局热键快速唤起窗口发起请求。5. 若需要开发对接，可在设置中开启本地API服务，按照文档给出的接口规范在自有应用中调用本地AI能力即可。
适合什么人群
- 注重数据隐私的办公人员(处理涉密内容的AI交互场景)
- 独立软件开发者(本地AI应用调试开发场景)
- 内容创作者(离线文案、脚本创作场景)
- 开源技术爱好者(本地大模型部署测试场景)
- 企业IT管理员(内部专属AI服务搭建场景)
- 科研人员(离线数据处理与分析场景)
总结
这是一款主打本地化运行与数据自主可控的AI对话工具，和多数云端AI工具不同，它完全不需要依赖外部服务器，所有计算和数据存储都在用户自己的设备上完成，对于有数据隐私顾虑的用户来说适配性很高。它同时兼顾普通用户和开发者的需求，普通用户可以通过简单的模型下载和助手配置，快速获得离线可用的AI交互能力，处理日常的文案创作、问题咨询、代码调试等需求；开发者可以借助它兼容OpenAI规范的本地API，快速搭建本地AI开发环境，不用支付云端接口费用，也不用担心网络限制。整体开源的属性也让其功能迭代透明度较高，用户可以根据自身需求对代码进行二次开发，适配更多个性化使用场景，也不用担心产品停服导致的数据丢失问题。
价格与免费额度
Jan本身为开源免费工具，所有核心功能无付费限制，用户可直接免费下载客户端使用全部本地运行、助手配置、API服务等功能，没有使用次数或者功能解锁的限制。如果用户需要官方提供的企业级部署支持、定制化功能开发、专属技术运维服务，可联系官方获取定制化报价，该类付费服务适合有内部统一AI部署需求的企业用户，个人普通用户使用免费版本即可满足多数场景需求。
优点与不足
优点
- 支持完全离线运行，所有数据均存储在本地，避免对话内容等敏感信息向外传输
- 提供兼容OpenAI规范的本地API，可直接替换云端接口用于本地应用开发调试
- 支持多种主流开源大语言模型接入，用户可自主选择适配自身设备配置的模型
- 支持自定义多个AI助手，可针对不同使用场景配置专属的角色设定和回复规则
不足
- AI生成效果完全依赖用户选择的本地模型，小参数模型的回答准确率和丰富度不及云端大模型
- 运行大参数模型对设备硬件配置要求较高，低配置设备可能出现运行卡顿、响应缓慢的情况
- 当前生态配套工具较少，部分小众格式的自定义模型导入需要用户自行调整参数，有一定使用门槛
能帮你做的 8 件事
- 01本地离线运行
- 02自定义AI助手
- 03本地API服务
- 04全局热键调用
- 05本地AI工具场景的常用方案
- 06开源AI场景的常用方案
- 07注重数据隐私的办公人员(处理涉密内容的AI交互场的日常效率工具
- 08先用免费额度验证需求再决定付费
更新历史
- Jan 收录进 Toolifai 目录
- 页面资料核验与信息更新
常见问题
使用Jan是否需要连接网络？
Jan的核心功能支持完全离线使用，首次安装完成后，用户只需要在有网络的环境下下载需要的大语言模型到本地，之后断开网络也可以正常使用所有对话、助手配置、本地API调用等功能。如果需要下载新的模型、更新客户端版本或者访问官方社区内容，才需要连接网络，日常使用过程中不会向外传输任何对话或配置数据，用户可以放心处理敏感内容。
Jan支持哪些类型的大语言模型？
Jan目前支持多种主流开源大语言模型，包括Meta的Llama 2、Llama 3系列，Mistral的Mistral 7B、Mixtral 8x7B系列，阿里巴巴的Qwen系列，还有Phi系列、Gemma系列等常见开源模型，用户可以在官方的模型市场直接选择下载适配的版本，也支持导入本地自行训练或者微调的GGUF格式模型，用户可根据自己设备的内存、算力情况选择合适参数大小的模型使用。
Jan的本地API如何对接自有应用？
用户首先在Jan客户端的设置页面找到API服务选项，点击开启服务，设置对应的服务端口和访问密钥，开启后本地会运行一个对应端口的API服务。该服务的接口请求格式、参数规则和OpenAI的官方API完全兼容，开发者只需要将原有对接OpenAI API的代码中的请求地址改为本地服务地址，密钥改为自己设置的本地密钥，即可直接调用本地模型的能力，无需额外调整其他代码逻辑，适配成本很低。
Jan的数据可以导出吗？
Jan的所有数据都存储在用户本地设备的指定文件夹中，默认存储路径可以在客户端设置的存储管理页面查看。用户可以随时进入对应文件夹，直接复制导出对话记录、助手配置文件、模型文件等所有数据，也支持在客户端内选择单条或全部对话记录，直接导出为JSON、TXT等通用格式，方便后续整理和迁移。如果不需要相关数据，用户也可以在客户端内一键删除指定内容，或者直接删除本地存储文件夹的对应文件，不会有数据残留。
运行Jan对设备配置有什么要求？
Jan的设备配置要求主要和用户选择运行的模型参数大小有关，如果运行7B参数的量化模型，建议设备内存不低于8GB，有独立显卡的话运行速度会更快；如果运行13B参数的量化模型，建议设备内存不低于16GB；如果是34B及以上参数的模型，建议设备内存在32GB以上，同时搭配显存不低于8GB的独立显卡可获得更流畅的使用体验。低配置设备也可以使用小参数模型，只是大参数模型运行时可能出现响应缓慢、卡顿甚至无法运行的情况。
开始使用 Jan
从官方入口了解最新功能与使用方式。
由 Toolifai 编辑维护
欢迎产品方补充截图、功能介绍与官方资料。更新和纠错由编辑审核后发布。
