LM Studio 本地部署入门：图形化界面，小白友好
发表于|更新于|lab
|浏览量:
LM Studio 本地部署入门
如果你不想碰命令行，LM Studio 是本地运行大模型最友好的选择：全图形化界面，下载模型、聊天对话、本地 API 服务，全部鼠标点点就能完成。
一、安装
前往 https://lmstudio.ai 下载对应系统安装包（Windows / macOS / Linux）
双击安装，首次启动会提示选择模型目录（默认
~/.lmstudio）
二、下载模型
左侧边栏点击「🔍 搜索」图标
在搜索框输入模型名（如
qwen2.5、llama 3.1）选择量化版本：显存不够选 Q4_K_M（体积/质量平衡），显存充足可选 Q6/Q8
点击「Download」等待完成
模型在 Hugging Face 下载，若速度慢可在「Settings → Hobby」配置镜像（
hf-mirror.com）。
三、开始对话
左侧「💬 聊天」图标
顶部选择已下载的模型
右侧可调节参数： Temperature：越低越严谨，越高越有创造性（默认 0.7）
Max Tokens：最大回复长度
Context Length：上下文窗口，按显存调整（默认 4096）
- 底部输入框直接对话
四、启动本地 API 服务
LM Studio 内置 OpenAI 兼容服务器，可被其他程序调用：
切到「开发者」标签页（Developer）
点击「Start Server」，默认端口
1234其他程序通过
http://localhost:1234/v1访问：
1 | from openai import OpenAIclient = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")resp = client.chat.completions.create( model="qwen2.5-7b-instruct", messages=[{"role": "user", "content": "介绍一下 LM Studio"}],)print(resp.choices[0].message.content) |
也可以直接打开 http://localhost:1234 使用网页版聊天界面。
五、硬件要求
| 模型规模 | 最低显存 | 体验 |
|---|---|---|
| 1~3B | 4GB | 流畅 |
| 7~8B | 8GB | 流畅（Q4） |
| 14B | 12~16GB | 可用 |
| 32B | 24GB+ | 可用（Q4） |
没有 NVIDIA 显卡也能用：LM Studio 支持 Apple Silicon（M 系列芯片优化）与纯 CPU 模式（速度较慢）。
六、LM Studio vs Ollama vs vLLM
| 维度 | LM Studio | Ollama | vLLM |
|---|---|---|---|
| 上手难度 | ⭐ 最低 | ⭐⭐ | ⭐⭐⭐⭐ |
| 界面 | 图形化 | 命令行 | 命令行/API |
| 适用人群 | 小白/日常使用 | 开发者 | 生产环境 |
| API 兼容 | ✅ | ✅ | ✅ |
小结
LM Studio 适合「先体验后深入」：用它跑通本地模型的完整流程（下载→对话→API），理解了原理后，再根据需求切换到 Ollama（自动化/脚本）或 vLLM（高并发）。
延伸阅读：
文章作者: 智算工坊
版权声明: 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 智算工坊！
相关推荐
2026-08-08
Ollama 本地部署大模型指南：一条命令跑通 Llama / Qwen
Ollama 本地部署大模型指南Ollama 是目前最流行的本地大模型运行工具：支持 macOS / Linux / Windows，一条命令即可下载并运行 Llama、Qwen、DeepSeek 等开源模型，无需写代码。 一、安装 OllamamacOS1brew install ollama# 或官网下载 .dmg 安装包 Linux1curl -fsSL https://ollama.com/install.sh | sh Windows官网下载安装包，或使用 WSL2：wsl --install 后在 WSL 中执行 Linux 命令。 二、下载并运行模型常用模型1ollama run llama3.1:8b # Llama 3.1 8Bollama run qwen2.5:7b # 通义千问 2.5ollama run deepseek-r1:7b # DeepSeek R1 推理模型ollama run qwen2.5-coder:7b # 代码模型 首次运行会自动下载（8B 模型约 4.7GB），之后可直接对话： 1>>>...
2026-08-14
Ollama 量化与显存规划指南：用公式算出你的显卡能跑多大的模型
Ollama 量化与显存规划指南Ollama 拉模型很方便，但「该拉多大、选什么量化」没人替你算：这篇文章把显存换算公式、量化档位怎么选、装不下怎么办一次讲清楚，让你买显卡前就能算出能不能跑。 一、先搞懂模型大小：参数不是体积很多人把「7B 模型」理解成 7GB，这是最大的误区。B 是 Billion（十亿），7B 表示模型有 70 亿个参数。参数只是神经元数量，真正占空间的，是这些参数「用什么精度存」。 模型权重的原始精度是 FP16（半精度），每个参数占 2 字节。所以一个 7B 模型的原始体积是： 17B × 2 字节 ≈ 14GB 这还只是权重，跑起来还要算上 KV Cache（键值缓存）和运行时开销。所以「7B 模型要 14GB 显存」的说法，指的是 FP16 原版。绝大多数人用的是量化版，体积小得多，这也是 Ollama 默认帮你做的事。 为什么 Ollama 会默认用量化？因为对普通用户来说，「体积小、能装进显存、速度够快」比「理论上更准的那几个百分点」重要得多。官方库里的标签如 qwen3:8b，拉下来基本都是 Q4_K_M，体积 4.9GB 左右，8GB 显...
2026-08-14
faster-whisper 本地语音转写：会议纪要、字幕批量处理实战
faster-whisper 本地语音转写：会议纪要、字幕批量处理实战把一小时录音转成文字，网上工具要付费还要上传音频；faster-whisper 本地转写不仅免费、不用上传，速度还快——一段 10 分钟录音在普通显卡上 1 分钟内出稿。这篇文章从安装到批量出字幕，附 CPU/GPU 实测速度与踩坑记录。 一、faster-whisper 是什么faster-whisper 是 OpenAI Whisper 的重新实现，核心优化点是用了 CTranslate2 推理引擎，同样是跑模型，速度比原版 Whisper 快 4 倍左右、内存占用更低。API 跟原版兼容，迁移成本几乎为零。 先简单理解 Whisper 家族：OpenAI 开源的 Whisper 是语音转文字（ASR）模型的标杆，多语言、抗噪能力强，但原版推理用 PyTorch，速度偏慢、内存占用高。faster-whisper 把同样模型搬到 CTranslate2（C++ 推理引擎，支持 int8 量化），获得了接近 4 倍的速度提升，同时内存占用大幅下降——同样的模型，CPU 上就能跑得不错，这是它能流行...
2026-08-14
Qwen3 各档显卡实测：4B 到 32B 该配什么显卡
Qwen3 各档显卡实测：4B 到 32B 该配什么显卡Qwen3 是目前中文用户本地部署的首选模型家族，从 4B 到 32B（还有 MoE 的 30B-A3B）覆盖了 6GB 到 48GB 全部显存档位。这篇用多张显卡实测 Qwen3 各档模型的速度、显存与体验，直接给你一张「显卡 × 模型」对照表。 一、测试环境与方法 项目 配置 显卡 RTX 3060 12G / RTX 4060 8G / RTX 3090 24G / RTX 4090 24G 工具 Ollama / llama.cpp，统一用适配显卡的配置 驱动 统一 560.94 模型 Qwen3 4B、8B、14B、30B-A3B（MoE）、32B 量化 Q4_K_M（MoE 用 Q4） 上下文 8K（与日常使用一致） > 提示：测试全部采用「模型完整进显存」的条件——这是本地推理的舒适区，只有整模型装进显存，速度才是它该有的样子。显存不够被迫分层 offload 的情况单列讨论。 测试方法补充速度测试统一用固定长度的中文问答（约 500 token 输出），取稳定输出段的平均...
2026-08-14
Apple Silicon 跑本地大模型：M1 到 M4 的完整指南
Apple Silicon 跑本地大模型：M1 到 M4 的完整指南Mac 没有 NVIDIA 显卡，但 Apple Silicon 的统一内存架构让它跑大模型有独特优势：模型直接用内存跑，不用抠显存，还能低功耗待机。这篇文章覆盖 M1 到 M4 全系，讲清怎么选 Mac、用什么工具、各档机型能跑多大模型。 一、Apple Silicon 跑大模型的底层逻辑为什么 Mac 能跑大模型？关键在于统一内存（Unified Memory）。传统 PC 有独立的显存和内存，两者之间传数据是性能瓶颈；Apple Silicon 的 CPU、GPU 共享同一块内存，模型可以直接放在内存里跑，GPU 直接读——省去了数据搬运。 这带来两个直接结果： 显存=内存：你买 64GB 的 MacBook Pro，跑模型就能用到 64GB「显存」，这比任何消费级显卡都大； 门槛低：8GB 内存的入门 Mac 也能跑 7B 模型，而 NVIDIA 8GB 显卡已经被 14B 卡脖子。 代价也明显：内存带宽远低于显卡。NVIDIA 4090 带宽约 1TB/s，M3 Max 只...
2026-08-14
DeepSeek R1 + AnythingLLM 搭建本地私有知识库：零 API、零上云
DeepSeek R1 + AnythingLLM 搭建本地私有知识库不想让公司文档、会议纪要出本地，又想要 AI 帮忙检索问答？AnythingLLM 是目前把「本地模型 + 本地向量库 + 可视化问答」整合得最省事的桌面工具，配合 DeepSeek R1 蒸馏版，全程零 API Key、零上云。这篇讲从安装到日常使用的完整流程。 一、为什么选 AnythingLLM + DeepSeek R1知识库问答的链路是「切分文档 → 向量化 → 检索 → 大模型生成」。AnythingLLM 把这个链路做成了桌面软件：你只管把文档丢进去，向量化、检索、调用模型它全包了，还能开 Web 端给团队用。 在搭建之前，先弄清楚「知识库问答」和「直接问模型」的本质区别：直接问模型，它只能凭训练时见过的数据回答，公司文档、个人笔记它根本不知道，而且答案无法溯源；知识库问答则先检索出「真实存在的段落」，再让模型基于这些段落作答——答案有出处、可核对，这是知识库方案的核心价值。AnythingLLM 把这条链路打包成了傻瓜式操作，降低了上手门槛，这也是它受欢迎的原因。 选 DeepSeek R1 ...