LM Studio
LM Studio是一个可让用户在本地设备运行、管理大语言模型的工具平台,核心支持多款开源大语言模型的本地化部署与调用
LM Studio是一个可让用户在本地设备运行、管理大语言模型的工具平台,核心支持多款开源大语言模型的本地化部署与调用。平台提供模型下载管理、本地推理运行、模型参数配置、离线交互对话等核心功能,面向AI开发人员、AI研究人员、大模型爱好者、隐私敏感用户等群体,可用于本地大模型测试、隐私数据处理、离线AI工具使用、开源模型二次开发等场景,帮助用户无需依赖云端API即可使用大语言模型能力。
- 适用对象
- AI开发人员(本地模型开发测试)
- 主要功能
- 本地模型运行、多模型下载管理
- 计费方式
- 免费增值,部分功能付费
- 平台
- 网页
- 已收录
- 2026.09.04(57 天)
阅读目录
编辑评测与站内热度
编辑综合评分
满分 5 分
六维指标基于站内真实数据(热度、社区反馈、资料完整度、可达性核验等)综合评估,非用户投票。
全站热度排名
#346
分类内排名
#19 / 178
累计站内点击
1
近 7 日点击
1
排名与点击为站内真实统计口径,反映 Toolifai 用户行为,非编辑评分。
LM Studio是什么,怎么使用?
约 4 分钟LM Studio是一个可让用户在本地设备运行、管理大语言模型的工具平台,核心支持多款开源大语言模型的本地化部署与调用。平台提供模型下载管理、本地推理运行、模型参数配置、离线交互对话等核心功能,面向AI开发人员、AI研究人员、大模型爱好者、隐私敏感用户等群体,可用于本地大模型测试、隐私数据处理、离线AI工具使用、开源模型二次开发等场景,帮助用户无需依赖云端API即可使用大语言模型能力。
主要功能
- 本地模型运行:用户可将下载完成的开源大语言模型加载到本地设备,通过平台自带的交互界面直接发起对话,推理过程全部在本地设备完成,无需向云端服务器传输用户输入的对话内容,可满足对数据隐私有要求的使用需求,运行过程无需依赖网络连接。
- 多模型下载管理:平台内置开源大语言模型库,支持用户根据模型参数规模、开源系列筛选目标模型,点击对应模型即可直接触发下载,下载进度可在平台内实时查看,已下载模型会统一收纳在模型管理列表中,用户可快速删除或重新加载不需要的模型。
- 多模型格式支持:平台支持当前主流的开源大模型GGUF格式,也兼容GGML等旧格式模型文件,用户既可以从平台内置模型库直接下载适配好格式的模型,也可以导入本地已有的符合格式要求的模型文件进行加载运行,适配不同渠道获取的模型资源。
- 参数自定义配置:用户可针对加载的本地模型自定义配置推理参数,包括上下文窗口大小、推理线程数量、GPU显存占用比例等内容,可根据自身设备的硬件配置调整参数,适配从低显存消费级显卡到专业计算卡不同等级的硬件条件。
- OpenAI兼容API:平台可启动本地API服务,接口格式与OpenAI API保持兼容,用户可将适配OpenAI接口的第三方应用直接对接本地运行的大模型,无需修改大量代码即可完成适配,可用于开发测试基于本地大模型的第三方应用。
- 离线交互对话:当模型下载完成并加载到本地后,用户全程无需网络连接即可和模型进行对话交互,输入问题后即可在本地完成推理并输出结果,适合网络条件不稳定或者需要完全离线使用AI能力的场景使用。
怎么使用
- 进入网站首页后,根据自身使用的操作系统,选择对应版本的客户端安装包,点击下载按钮获取安装文件。
- 打开下载好的安装文件,按照客户端安装引导步骤完成安装,启动安装好的LM Studio客户端。
- 进入客户端内置的模型搜索库,搜索需要的开源大语言模型,找到对应模型后点击下载按钮等待下载完成。
- 下载完成后进入模型管理界面,点击目标模型选择加载启动,根据自身硬件配置调整推理参数后保存设置。
- 进入交互对话界面,即可在输入框输入问题,等待模型在本地推理完成后获取输出结果,若需要对接第三方应用可启动兼容API服务。
适合什么人群
- AI开发人员(本地模型开发测试)
- AI研究人员(开源大模型研究)
- 大模型爱好者(本地体验开源模型)
- 隐私敏感用户(处理敏感数据对话)
- 离线工作者(无网络环境使用AI)
- AI学生(学习大模型本地部署)
总结
这是一个专注于本地大语言模型运行管理的工具平台,解决了普通用户想要体验开源大模型却难以完成本地化部署的问题。平台不需要用户掌握复杂的环境配置知识,也不需要搭建复杂的推理环境,下载客户端后即可快速找到并下载主流开源大模型,一键完成加载运行,降低了普通用户体验本地大模型的门槛。平台支持多款热门开源大模型系列,包括LLaMa、Gemma、MPT等主流开源模型,覆盖不同参数规模的模型,用户可以根据自身设备配置选择合适的模型运行。对于在意数据隐私的用户来说,所有推理过程都在本地完成,不会将对话数据上传到外部服务器,能够保障数据安全。同时提供的兼容OpenAI API的功能,也方便开发人员快速将现有应用对接本地大模型,降低开发适配的成本,适合各类需要使用本地大语言模型能力的用户使用。
价格与免费额度
LM Studio的客户端下载、核心功能全部免费开放,不需要用户支付费用即可使用模型下载、本地运行、参数配置、API服务等全部核心功能,免费版没有使用次数限制,也没有功能阉割,用户可以自由使用所有已开放的功能,平台本身不提供收费服务,也没有付费版本,所有用户都可以免费获取完整的使用体验,仅需要用户自身拥有符合模型运行要求的本地硬件设备即可,适合各类用户免费使用。
优点与不足
优点
- 所有推理过程在本地完成,可保障用户对话数据隐私
- 支持多款主流开源大模型,可直接在平台内搜索下载
- 提供OpenAI兼容格式API,方便对接第三方应用
- 支持自定义推理参数,可适配不同配置的硬件设备
- 提供跨平台客户端,覆盖主流桌面操作系统
- 无需复杂环境配置,新手也可以完成部署运行
不足
- 大参数模型对本地硬件配置要求较高,低配置设备无法运行
- 目前仅提供桌面客户端,没有移动设备端版本
- 平台内置模型库部分大尺寸模型下载速度受网络影响
- 不支持模型微调功能,无法满足用户训练定制模型的需求
能帮你做的 8 件事
- 01本地模型运行
- 02多模型下载管理
- 03多模型格式支持
- 04参数自定义配置
- 05本地大模型场景的常用方案
- 06开源LLM场景的常用方案
- 07AI开发人员(本地模型开发测试)的日常效率工具
- 08先用免费额度验证需求再决定付费
更新历史
- 页面资料核验与信息更新
- LM Studio 收录进 Toolifai 目录
常见问题
运行本地大模型需要什么样的硬件配置?
硬件配置要求根据运行的模型参数规模不同有所区别,运行70亿参数左右的量化模型,通常需要设备拥有至少8GB以上的可用显存,如果运行130亿参数的量化模型,一般需要16GB以上的可用显存,运行更大参数规模的模型则需要更多显存,若使用CPU推理,需要设备拥有足够大的运行内存,一般也需要和推理对应的内存空间,用户可根据自身硬件选择适配参数规模的量化模型。
平台支持哪些开源大模型系列?
平台支持当前多数热门开源大模型系列,包括Meta推出的LLaMa系列、Google推出的Gemma系列、MosaicML推出的MPT系列,同时也支持Mistral、Yi、Qwen等其他主流开源大模型系列,用户可以在平台内置的模型库中直接搜索这些系列的不同参数规模模型,也可以导入外部下载的符合格式要求的模型文件运行。
使用过程中会上传用户的对话数据吗?
LM Studio的核心运行逻辑是全部推理过程在用户本地设备完成,当模型下载完成后,用户输入的所有对话内容都只会在本地设备处理,不会将对话数据上传到平台的服务器或者其他第三方服务器,能够保障用户输入内容的隐私安全,适合处理包含敏感信息的对话内容。
可以对接第三方AI应用吗?
平台提供了与OpenAI API格式兼容的本地API服务,用户启动API服务后,第三方应用可以按照调用OpenAI API的方式调用本地运行的大模型,不需要对应用代码进行大量修改即可完成适配,适合开发人员测试基于本地大模型的第三方应用,降低了开发适配的工作量。
我可以导入自己下载的模型文件吗?
平台支持用户导入本地已有的模型文件,只要模型文件符合GGUF或者GGML格式要求,用户就可以在客户端中选择导入本地模型文件,导入完成后即可正常加载运行,对于用户从其他渠道获取的开源模型文件,也可以通过这个方式在平台中运行,提升了模型资源的适配范围。
没有网络可以使用这个平台吗?
当用户已经完成客户端安装和目标模型下载后,就可以断开网络,完全离线使用所有功能,包括模型加载、对话交互、API服务等都不需要网络连接,只有下载新模型、搜索模型库的时候才需要网络连接,适合网络条件不佳或者需要完全离线使用AI能力的场景。
开始使用 LM Studio
从官方入口了解最新功能与使用方式。
由 Toolifai 编辑维护
欢迎产品方补充截图、功能介绍与官方资料。更新和纠错由编辑审核后发布。