Toolifai 编辑整理

LM Studio

LM Studio是专注于本地大语言模型部署与运行的桌面端工具平台,核心定位为让用户无需依赖云端API即可在个人设备上调试、使用各类开源大模型

LM Studio是专注于本地大语言模型部署与运行的桌面端工具平台,核心定位为让用户无需依赖云端API即可在个人设备上调试、使用各类开源大模型。平台支持模型批量搜索下载、本地离线推理、多模型并行部署三大核心功能,面向AI开发者、AI爱好者、隐私敏感型企业用户、内容创作者、学生研究群体等,可应用于离线场景下的内容生成、模型性能测试、隐私数据处理、自定义模型微调验证等多种场景,无需复杂的服务器配置即可完成大模型的本地化部署操作。

访问官网
开源AI模型热度第 34 / 165 名官网可达收录证明开发者认领
官网预览官网首页:LM Studio 界面预览( 截图)1 / 1
适用对象
AI开发者(本地模型调试对接应用)
主要功能
模型库检索、本地离线推理
已收录
2026.06.14(139 天)
阅读目录

编辑评测与站内热度

全站热度排名

#1070

分类内排名

#34 / 165

累计站内点击

1

近 7 日点击

1

排名与点击为站内真实统计口径,反映 Toolifai 用户行为,非编辑评分。

LM Studio是什么,怎么使用?

约 4 分钟

LM Studio是专注于本地大语言模型部署与运行的桌面端工具平台,核心定位为让用户无需依赖云端API即可在个人设备上调试、使用各类开源大模型。平台支持模型批量搜索下载、本地离线推理、多模型并行部署三大核心功能,面向AI开发者、AI爱好者、隐私敏感型企业用户、内容创作者、学生研究群体等,可应用于离线场景下的内容生成、模型性能测试、隐私数据处理、自定义模型微调验证等多种场景,无需复杂的服务器配置即可完成大模型的本地化部署操作。

主要功能

  • 模型库检索:平台内置开源大模型聚合检索库,覆盖Llama、Mistral、Qwen等多个主流开源模型系列,用户可直接在搜索框输入模型名称或参数关键词,筛选模型大小、适配硬件、发布时间等维度,查看模型参数说明、用户评分、适配设备要求等信息,点击即可一键下载对应模型文件,无需跳转至第三方开源平台单独获取资源。
  • 本地离线推理:下载完成的模型可直接在本地设备启动推理服务,无需连接互联网即可完成请求响应,用户可在界面内调整上下文窗口大小、温度系数、最大生成长度等推理参数,输入prompt即可获取模型输出结果,所有数据交互均在本地完成,不会上传至外部服务器,满足隐私数据处理场景的安全需求。
  • 本地API服务:支持将本地部署的模型开启API服务,用户可设置服务端口、访问密钥等参数,生成兼容OpenAI API格式的接口地址,可直接对接自己开发的AI应用、插件或其他第三方工具,无需修改现有代码逻辑即可替换云端大模型为本地模型,降低开发过程中的云端API调用成本。
  • 多模型并行运行:支持同时启动多个不同参数、不同系列的大模型,用户可在界面内切换不同模型的会话窗口,同时向多个模型发送相同prompt对比输出结果,也可根据硬件资源配置调整每个模型的显存占用比例,充分利用设备的运算性能,适合模型选型、效果对比测试等场景使用。
  • 硬件适配优化:平台可自动识别设备的CPU、GPU硬件配置,为用户推荐适配的模型版本,支持NVIDIA CUDA、AMD ROCm、Apple Metal等多种硬件加速方案,会根据设备性能自动调整模型加载的量化等级,降低大模型运行的硬件门槛,普通消费级显卡也可流畅运行7B、13B参数规模的量化模型。
  • 模型导入导出:支持用户导入本地存储的自定义训练、微调后的GGUF格式模型文件,平台会自动识别模型参数并适配推理环境,也可将已下载的模型文件导出至指定文件夹,方便在不同设备之间迁移模型资源,无需重复下载,适配多设备办公、离线环境部署等场景。

怎么使用

  1. 第一步,进入官网首页,根据自身设备的操作系统选择对应版本的安装包,支持Windows、macOS、Linux三大系统,下载后按照引导完成软件安装。第二步,打开安装完成的LM Studio,进入模型库页面,在搜索栏输入想要使用的模型名称,或根据参数、适配硬件筛选合适的开源模型。第三步,点击目标模型对应的下载按钮,等待模型文件下载完成,下载过程中可在下载管理页面查看进度,支持断点续传。第四步,进入本地模型管理页面,点击已下载模型旁的启动按钮,可根据需求调整推理参数,也可直接开启API服务配置端口与访问权限。第五步,进入会话交互界面,在输入框填写prompt后即可获取模型本地推理结果,若需要对接第三方工具,使用生成的本地API地址即可调用。

适合什么人群

  • AI开发者(本地模型调试对接应用)
  • AI爱好者(离线使用大模型)
  • 隐私敏感企业(内部数据处理分析)
  • 内容创作者(离线生成文案内容)
  • 高校学生(大模型相关课题研究)
  • 独立开发者(低成本测试AI应用功能)

总结

这是一款面向本地大模型部署场景的桌面工具,和同类云端大模型服务不同,它的核心优势是完全本地化的运行模式,所有数据交互都不会离开用户设备,对于需要处理敏感数据、经常处于无网络环境的用户来说,是非常合适的选择。平台整合了主流开源大模型的下载渠道,用户不需要在各个开源社区零散寻找模型资源,直接在工具内即可完成检索、下载、启动全流程,同时提供的API兼容功能,也降低了开发者替换大模型来源的开发成本。目前平台支持GGUF格式的模型,这也是当前开源社区主流的量化模型格式,覆盖了绝大多数主流开源模型系列,从几B参数的小模型到几十B参数的大模型都可以适配,用户可以根据自己的硬件配置选择合适的版本,对于想要尝试大模型又不想承担云端API调用成本,或者担心数据隐私问题的用户来说,是一个值得尝试的工具。

价格与免费额度

LM Studio提供永久免费的基础版本,无功能使用时长限制,支持所有核心的模型下载、本地推理、API服务功能,可满足个人用户与小型开发团队的多数使用需求。目前平台暂未推出付费订阅版本,所有功能均向用户免费开放,官方表示后续会推出面向企业用户的付费版本,包含团队协作、批量模型管理、专属技术支持等增值功能,适合有大规模本地模型部署需求的企业用户,个人用户与小型团队当前使用免费版本即可。

优点与不足

优点

  • 完全本地化运行,所有数据处理均在用户设备完成,无数据泄露风险
  • 内置开源模型库,覆盖多数主流开源大模型,支持一键搜索下载
  • 生成的API接口兼容OpenAI格式,可直接对接现有AI应用,改造成本低
  • 自动识别设备硬件配置,支持主流硬件加速方案,降低模型运行门槛

不足

  • 模型运行效果依赖用户设备硬件性能,高参数模型需要较高配置的显卡支持
  • 仅支持GGUF格式的模型,其他格式的模型需要转换后才可导入使用
  • 免费版本暂不支持团队协作相关功能,多设备模型同步需要手动操作
  • 部分小众开源模型暂未收录到内置模型库,需要用户手动导入

更新历史

  • LM Studio 收录进 Toolifai 目录
  • 页面资料核验与信息更新

常见问题

使用LM Studio运行大模型需要什么配置的设备?

不同参数的模型对设备配置的要求不同,7B参数的4bit量化模型最低仅需要8GB内存即可运行,若使用NVIDIA独立显卡,4GB以上显存即可流畅推理;13B参数的4bit量化模型建议配备16GB以上内存,6GB以上显存;34B及以上参数的模型建议配备32GB以上内存,12GB以上显存。平台支持CPU运行模型,但推理速度会慢于GPU加速,macOS设备借助Metal加速可获得更优的运行效果,用户可根据自身设备配置选择对应参数的量化模型版本。

有帮助吗

LM Studio支持的模型格式有哪些?

目前LM Studio主要支持GGUF格式的大语言模型,这是当前开源社区主流的量化模型格式,多数开源模型都会提供GGUF格式的下载版本。如果用户有其他格式的模型,比如GGML、Safetensors、Pytorch格式等,需要先通过开源的格式转换工具将模型转换为GGUF格式,之后才可导入到LM Studio中使用。官方也在逐步扩展支持的模型格式范围,后续会更新更多格式的适配能力。

有帮助吗

开启本地API服务后,其他设备可以访问吗?

默认情况下开启的本地API服务仅支持本机访问,如果需要同局域网内的其他设备访问,用户可以在API服务设置中将监听地址修改为0.0.0.0,同时开放对应的端口权限,局域网内的其他设备即可通过本机的IP地址加端口号访问该API服务。如果需要公网访问,用户需要自行配置内网穿透服务,平台本身不提供公网穿透相关功能,建议用户在公网部署时设置访问密钥,避免未授权的访问。

有帮助吗

下载的模型存储在什么位置,可以更改吗?

默认情况下,LM Studio下载的模型会存储在系统盘的用户目录下的对应文件夹中,Windows系统通常是C:\Users\用户名\.cache\lmstudio,macOS系统是~/.cache/lmstudio,Linux系统同理。用户可以在软件的设置页面中找到模型存储路径的选项,点击修改即可将存储路径更改为其他磁盘分区,避免占用系统盘存储空间,修改后新下载的模型会存储到新的路径中,原有已下载的模型可手动迁移到新路径下。

有帮助吗

LM Studio可以运行多模态模型吗?

目前LM Studio的稳定版本主要支持纯文本类的大语言模型,最新的测试版本已经开始支持多模态模型的推理,包括图片理解类的多模态大模型,用户可以在官网下载测试版本体验相关功能。多模态模型对设备配置的要求高于同参数的纯文本模型,通常7B参数的多模态4bit量化模型建议配备10GB以上显存才可以流畅运行,用户可以根据自身设备情况选择合适的多模态模型版本使用。

有帮助吗

使用LM Studio生成的内容有版权限制吗?

LM Studio本身只是模型运行的工具,不拥有生成内容的版权,生成内容的版权规则由用户使用的具体模型的开源协议决定。不同的开源模型有不同的使用许可,部分模型允许商业使用,部分模型仅允许非商业使用,用户在使用模型生成内容之前,需要先查看对应模型的开源协议说明,确认使用场景是否符合协议要求,商业使用场景建议选择协议宽松的开源模型。

有帮助吗

开始使用 LM Studio

从官方入口了解最新功能与使用方式。

前往官网

由 Toolifai 编辑维护

欢迎产品方补充截图、功能介绍与官方资料。更新和纠错由编辑审核后发布。

提交资料更新邮件反馈

大家对 LM Studio 的点评

加载中…

写点评

每周三,一封 AI 工具周刊

编辑精选本周值得试的新工具与真实用法,5 分钟读完,已连续更新 5 期。

每周一封,随时可退订。往期内容见AI 工具周刊归档。