TAG
本地大模型 工具。
全部标签共收录 16 款与「本地大模型」相关的 AI 工具，按站内热度排序；每张卡片可直达详情页查看定价、平台支持与同类对比。
LM Studio
LM Studio是一个可让用户在本地设备运行、管理大语言模型的工具平台，核心支持多款开源大语言模型的本地化部署与调用。平台提供模型下载管理、本地推理运行、模型参数配置、离线交互对话等核心功能，面向AI开发人员、AI研究人员、大模型爱好者、隐私敏感用户等群体，可用于本地大模型测试、隐私数据处理、离线AI工具使用、开源模型二次开发等场景，帮助用户无需依赖云端API即可使用大语言模型能力。
Ollama
Ollama是专注于本地大语言模型部署与运行的开源服务平台，核心定位是降低大模型本地化使用的门槛，支持用户在个人设备上快速部署各类主流开源大模型。平台核心功能包含一键式大模型拉取运行、多模型版本管理、自定义模型微调打包，主要面向AI开发人员、个人研究者、企业技术团队，可应用于本地AI应用开发测试、隐私敏感数据的模型推理、离线AI工具搭建等场景，无需依赖第三方云端大模型接口即可实现本地化的大模型服务调用，满足不同群体对大模型可控部署的需求。 · 开源
AnythingLLM
AnythingLLM是一款面向大语言模型私有化部署需求的桌面客户端工具，核心定位是为用户提供可本地运行的LLM使用与知识库管理解决方案。核心功能包括多模型兼容接入、本地知识库构建、离线无网运行，用户无需复杂的服务器配置即可快速搭建专属的大模型应用环境。目标用户覆盖个人开发者、企业内部IT人员、科研人员、内容创作者等群体，可应用于企业内部文档问答、个人离线科研文献检索、敏感数据内容生成、自定义模型效果测试等多种场景，所有数据处理均在本地完成，降低数据外泄风险。
Docker GenAI Stack
Docker GenAI Stack是Docker官方推出的生成式AI应用开发解决方案，核心定位为降低生成式AI应用的搭建与部署门槛。其核心功能包括预配置全栈AI开发组件、一键式环境部署、多框架集成适配能力，面向AI应用开发者、全栈工程师、企业技术团队等群体，可应用于快速搭建AI聊天机器人、知识图谱问答系统、本地私有大模型应用等场景，无需开发者从零配置各类依赖组件，可直接聚焦于业务逻辑的开发。
LM Studio
LM Studio是专注于本地大语言模型部署与运行的桌面端工具平台，核心定位为让用户无需依赖云端API即可在个人设备上调试、使用各类开源大模型。平台支持模型批量搜索下载、本地离线推理、多模型并行部署三大核心功能，面向AI开发者、AI爱好者、隐私敏感型企业用户、内容创作者、学生研究群体等，可应用于离线场景下的内容生成、模型性能测试、隐私数据处理、自定义模型微调验证等多种场景，无需复杂的服务器配置即可完成大模型的本地化部署操作。
Pinokio
Pinokio是一款聚焦AI应用便捷部署与管理的一站式平台，支持用户在本地设备上完成各类开源AI项目的安装、运行与全生命周期管理。平台核心功能包括自动化环境配置、一键部署开源AI项目、本地应用集中管理、自定义脚本编辑以及跨项目资源共享，无需用户掌握复杂的编程知识和环境配置技能即可使用。目标用户覆盖AI爱好者、开发人员、内容创作者、学生群体、个人站长以及中小企业技术人员，可应用于快速体验前沿AI生成模型、搭建个人专属AI工具库、测试开源AI项目效果、批量运行AI任务、搭建小型团队AI协作环境等多种场景。
Pulsar
Pulsar是AstraMind开发的本地大语言模型运行管理工具，核心定位为帮助用户在个人设备上离线部署、运行和管理各类开源大语言模型，全程无需上传个人数据到云端，保障数据隐私安全。核心功能包括多系统兼容的模型一键部署、个性化AI助手自定义配置、本地离线对话交互。目标用户覆盖AI研发人员、隐私敏感的办公人群、大模型爱好者、学生群体等，可应用于本地私密文档分析、个性化工作助手搭建、离线AI学习实践、敏感内容交互处理等多个场景，让用户在可控的环境中使用大语言模型服务。
Aspen
Aspen是一款主打本地部署的私有AI工具，核心定位为完全运行在用户自有硬件上的人工智能服务，无需依赖云端服务器，也无需订阅即可使用。核心功能包括本地大语言模型推理、隐私数据本地处理、多端同步适配，既支持桌面端Mac、Windows系统使用，也有iPhone移动端应用，还可搭配专用硬件设备运行。目标用户覆盖重视数据隐私的企业员工、创意工作者、个人开发者、涉密行业从业者等，可应用于本地文档内容生成、敏感数据处理分析、离线场景AI调用、创意素材产出等多个场景，满足用户在无网络或高隐私要求场景下的AI使用需求。
Orbit by Mozilla
Orbit by Mozilla是Mozilla推出的Firefox浏览器AI摘要插件，核心定位为隐私优先的网页内容智能总结工具。核心功能包括支持多类型内容一键总结、本地运行大模型处理数据、无账号无数据上传机制。目标用户覆盖关注隐私的互联网用户、内容创作者、职场办公人员、学生群体等。可用于快速浏览长文章提炼核心观点、整理工作邮件和文档要点、提取视频字幕关键信息、速读学术论文摘要等场景，在不泄露用户浏览内容的前提下提升信息获取效率。
LlamaChat
LlamaChat是一款开源的本地大语言模型桌面客户端，核心定位为用户提供无需连接云端即可运行主流开源大模型的交互工具。核心功能包括多格式模型导入、多模型兼容交互、本地离线运行、开源可二次开发。目标用户覆盖AI爱好者、科研人员、应用开发者、隐私敏感型办公人群等。可应用于本地模型测试、隐私数据处理、小范围离线AI应用搭建、科研实验对比等场景，所有计算均在本地设备完成，无需上传数据至第三方服务器。 · 开源
ChatLLM Pro
ChatLLM Pro是一款主打离线运行的生成式AI聊天浏览器扩展，核心定位是为用户提供无需连接远程服务器的本地私密AI交互服务。其核心功能包括本地大模型离线推理、网页内容直接交互、多模型适配管理、自定义提示词模板、对话数据本地存储，无需上传用户信息至第三方服务器。目标用户覆盖注重数据隐私的职场人士、需要处理敏感内容的研究人员、经常浏览外文网页的翻译需求用户、前端开发调试人员、内容创作者等。可应用于办公文档私密总结、敏感研究资料分析、外文网页实时翻译解读、网页代码片段调试优化、长文内容要点提取等多个场景，所有交互过程均在本地设备完成，降低数据外泄风险。
xPrivo
xPrivo是一款开源免费的本地运行匿名AI聊天工具，核心定位是为用户提供无数据泄露风险的AI交互服务。其核心功能包括本地端侧模型推理、对话全程匿名无痕迹、多模型适配支持，无需上传对话内容至云端服务器。目标用户覆盖注重隐私保护的普通网民、从事敏感内容创作的从业者、需要处理内部信息的企业员工等，适用于日常问题咨询、私密内容创作、涉密信息梳理等多种对话场景，所有交互过程仅在用户自身设备完成，不会产生云端数据留存。 · 开源
Llamao
Llamao是一款基于开源大语言模型打造的离线AI助手，核心定位为面向隐私敏感用户的本地AI服务工具，所有运算均在用户本地设备完成，无需上传数据至外部服务器。核心功能包含本地智能写作辅助、离线知识问答、多场景任务处理三类，无需联网即可正常调用，适合对数据安全、隐私保护有较高要求的用户，可应用于无网络环境办公、敏感内容撰写、内部资料分析等多个场景，避免数据传输过程中可能出现的泄露风险。
fullmoon
fullmoon是由Mainframe开发的本地智能应用，核心定位是为用户提供离线可用的本地大语言模型交互入口。它支持完全离线运行大模型对话，针对Apple硅芯片做了专属性能优化，还提供个性化界面与提示词配置功能。目标用户覆盖注重数据隐私的办公人员、内容创作者、AI研究爱好者等群体，可在无网络环境下完成内容创作、知识查询、代码调试等场景需求，全程数据仅存储在用户本地设备，无需上传至第三方服务器。
Nexa SDK
Nexa SDK是一个支持用户在本地设备部署运行各类AI模型的开发工具套件，核心定位为面向开发者和AI爱好者的本地化AI运行解决方案，提供模型转换、推理加速、多模态支持、硬件适配等核心功能。用户可以在本地运行文本生成、语音处理、视觉理解、图像生成等不同类型的AI模型，无需依赖云端API接口，保障数据隐私的同时降低调用成本。目标用户覆盖AI应用开发者、隐私敏感的AI使用者、AI技术研究者以及离线场景使用者，适用于本地AI应用开发、私有数据AI处理、离线AI工具部署等多种场景。
NativeMind
NativeMind是一款依托Ollama运行的私有本地AI浏览器扩展工具，核心定位为在本地环境提供AI交互服务，无需依赖云端服务器传输数据。该工具支持在浏览器内直接调用本地大语言模型完成文本处理、内容总结、对话交互等操作，核心功能包含网页内容总结、自定义提示词交互、本地隐私存储、多模型切换配置和选中内容处理。目标用户为关注数据隐私的AI使用者、本地AI部署爱好者、经常需要处理网页内容的办公人员，适合在浏览科研文献、处理长篇网页文章、处理敏感文本内容等场景使用。