---
title: LM Studio - 有电脑就能用，傻瓜、一站式部署本地大语言模型｜然后，像 ChatGPT 那样提问
date: 2024-08-25T14:57:01Z
modified: 2024-08-26T03:32:56Z
permalink: "https://www.appinn.com/lm-studio/"
type: post
status: publish
excerpt: ""
categories:
  - AI
  - linux
  - macOS
  - Windows
tags:
  - AI
  - linux
  - macOS
  - Windows
  - ChatGPT
  - LLM
  - 大语言模型
featured_image: "https://www.appinn.com/wp-content/uploads/2024/08/Appinn-feature-images-2024-08-25T221457.341.jpg"
author: 青小蛙
timestamp: 2024-08-26T03:32:56Z
---

**LM Studio** 是一款将目前主流大模型 LLM 元素打包在一起​的工具，可以让你在自己的电脑上，“0门槛”运行本地大语言模型 LLM，并且用起来就像 ChatGPT 那样。支持 Windows、macOS、Linux。@[Appinn](https://www.appinn.com/lm-studio.md)​

![LM Studio - 有电脑就能用，开源、傻瓜、一站式部署本地大语言模型｜然后，像 ChatGPT 那样提问](https://www.appinn.com/wp-content/uploads/2024/08/Appinn-feature-images-2024-08-25T221457.341.jpg)

傻瓜、一站式部署本地大语言模型，大概就是**打开电脑** > **双击运行程序** > **开始提问** > 获得 AI 回答这样三步走。

## LM Studio

我觉得 LM Studio 就是这样的软件，它长这样：

![](https://www.appinn.com/wp-content/uploads/2024/08/Appinn-2024-08-25-22.30.56@2x.avif)

你唯一需要操心的事情，就是挑选模型，然后下载使用，就好了。

不过整个软件的难点也在这里，因为…目前的主流模型托管网站 [huggingface](https://huggingface.co/) 它不能访问 😂

于是，用镜像也不是不行。

## 下载模型

直接在目前可用的镜像网站 [HF-Mirror](https://hf-mirror.com/) 搜索你需要的模型，比如 `Meta-Llama-3.1-8B-Instruct-GGUF`，然后找到对应的 [Files](https://hf-mirror.com/lmstudio-community/Meta-Llama-3.1-8B-Instruct-GGUF/tree/main) 页面，挑选你需要的模型，点击那个下载按钮

![](https://www.appinn.com/wp-content/uploads/2024/08/Appinn-2024-08-25-22.42.17@2x.avif)

最终，你将得到一个类似 `Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf` 的文件，很大，一般都好几个 GB。

## 安装模型

LM Studio 默认的模型保存路径在 `C:\Users\<strong>appinn</strong>.cache\lm-studio\models`，可以更换：

![](https://www.appinn.com/wp-content/uploads/2024/08/Appinn-2024-08-25-22.45.02@2x.avif)

不过这里注意，你需要使用 `${Publisher}/${Repository}/${ModelFile}`这样的路径结构，如上图第二个红色框框，需要将手动下载的 .gguf 模型文件保存在路径的两级文件夹下才能正确识别。

然后，就能提问了。会自动使用你的 CPU、GPU…

## 本地 LLM 服务器

LM Studio 也支持 OpenAI 类的服务器，即可以在第三方服务器上使用这个 LLM，就像使用 OpenAI API 一样，只不过这里的 API 服务器是你自己的。

和 OpenAI 一样，使用过 `/v1/chat/completions` 、 `/v1/completions` 、 `/v1/embeddings` 即可。

![](https://www.appinn.com/wp-content/uploads/2024/08/Appinn-2024-08-25-22.50.35@2x.avif)

## 获取

- [官网](https://lmstudio.ai/)

---

原文：https://www.appinn.com/lm-studio/

## Topics

**分类目录:** [AI](https://www.appinn.com/category/ai/?output_format=md), [linux](https://www.appinn.com/category/linux/?output_format=md), [macOS](https://www.appinn.com/category/mac/?output_format=md), [Windows](https://www.appinn.com/category/windows/?output_format=md)

**标签:** [ChatGPT](https://www.appinn.com/tag/chatgpt/?output_format=md), [LLM](https://www.appinn.com/tag/llm/?output_format=md), [大语言模型](https://www.appinn.com/tag/%e5%a4%a7%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8b/?output_format=md)