LM Studio
模型、对话、数据,全在你自己电脑上
基本简介
LM Studio 是一款把大模型跑在你自己电脑上的桌面应用。它在应用里给你一个模型目录,看中哪个就下到本地,之后聊天和推理都在本机完成——不联网也能用,数据不出这台机器。
除了聊天界面,它还能在本地起一个兼容 OpenAI 格式的 API 服务,你写的程序把请求地址指过来就能调用,不用改代码结构。这对本地开发和调试很省事。
官方另提供了一个叫 llmster 的无头守护进程,专门给服务器、云主机和 CI 环境用,装法与桌面版分开(脚本安装)。
⚠️ 需要先说明:Windows 版要求 CPU 支持 AVX2 指令集,太老的机器装不上;Mac 版只提供 Apple Silicon(arm64)版本,Intel Mac 用不了。
适用人群
适合:在意数据隐私、想在自己机器上跑模型的人;手里有独显或大内存、愿意为「本地」多花点配置成本的人;需要本地 OpenAI 兼容接口做开发的工程师。
不太适合:只想开箱即用聊两句、不想管模型和硬件的用户——它需要你下模型(单个模型动辄几个 G),对内存和显存也有要求;老款 CPU(不支持 AVX2)和 Intel Mac 装不了。
老手村短评
「本地跑模型」这件事,LM Studio 把门槛压得比较低:装好后在应用里点几下就能下到模型,聊天、调试接口都在同一个窗口里,不联网也能用,数据确实留在机器上。它还提供一个兼容 OpenAI 格式的本地接口,对要做本地开发的场景很实用。要留意两条硬门槛——Windows 需要 CPU 支持 AVX2,Mac 只有 arm64 版;另外单个模型体积不小,硬盘和显存要留够。
—— 老手村编辑软件特色
模型跑在本地
模型文件下载到电脑里,推理在本机完成,装好之后断网也能对话。
数据不出机器
对话内容、上传的文档都在本地处理,不上传到云端。
兼容 OpenAI 的本地 API
在本地起一个服务,其他程序按 OpenAI 的调用格式直接接过来用。
内置模型目录
在应用里浏览并下载兼容的 GGUF 模型,挑量化版本时有容量参考。
llmster 无头模式
面向服务器、云主机和 CI 的守护进程,用脚本一行装好。
安装与使用
常见问题
这是官方的吗?
是。本站下载地址指向 LM Studio 自己的安装包域名 installers.lmstudio.ai,不经过第三方下载站。
断网能用吗?
可以。模型下载到本地后,推理在本机完成,不需要联网。(首次下载模型时需要网络。)
Intel 的 Mac 能装吗?
不能。官方 Mac 版只提供 Apple Silicon(arm64)版本,实测 Intel 版本的下载地址不存在。
对电脑有什么要求?
Windows 版要求 CPU 支持 AVX2 指令集,太低端的机器会装不上;运行模型还吃内存和显存,具体取决于你选多大的模型。
收费吗?
软件本身可免费使用;以官网当前公布的条款为准。下载和运行模型不额外收费,费用主要在你自己的硬件上。