最新版LM Studio国内安装使用

简介

今天来了解 LM Studio。

使用它，您可以在计算机上本地运行大型语言模型，这意味着您的数据是百分之百私密的。

本文将从安装最新版LM Studio开始，并对文件其进行修改，以便国内能正常使用。
之后介绍演示的三个模型下安装下载方法。最后对新版本的特色功能进行简单展示：首选运行多模态模型，您可以在其中上传图像并根据该图像提出问题；如何一次运行多个模型；将设置服务器并将其与应用程序（例如 Python 应用程序）集成。

安装步骤

下载：https://lmstudio.ai/

我这里以windwos的安装及使用为例进行LM Studio的讲解及示范。

国内支持操作

安装完成后，先不急打开。找出你LM studio的安装目录（比如C:\ProgramData\你的用户名\LM-Studio）

在cmd 或 powershell 中运行
cd C:\ProgramData\username\LM-Studio #进入LM studio的安装目录
findstr /s /i /m /c:”huggingface.co” *.js
就得出以下结果：
app-0.2.21\resources\app.webpack\main\index.js
app-0.2.21\resources\app.webpack\main\llmworker.js
app-0.2.21\resources\app.webpack\main\worker.js
app-0.2.21\resources\app.webpack\renderer\main_window\index.js
用 vs code 或其它编辑软件打开这4个文件
将huggingface.co 替换为 hf-mirror.com

如果你已经打开了LM Studio软件，之后还需要到这个目录下修改,跟上面的一样操作就行：
C:\Users\你的用户名\AppData\Local\LM-Studio\

之后打开LM STUDIO就正常使用就行。

我所用的Model

1 支持视觉的 Phi-3模型，即支持 image to txt，多模态模型。
https://hf-mirror.com/xtuner/llava-phi-3-mini-hf

2 中文加强版的llama3-8B 模型：shenzhi-wang/Llama3-8B-Chinese-Chat
https://hf-mirror.com/shenzhi-wang/Llama3-8B-Chinese-Chat

3 官方的Llama3模型

LM Studio功能使用

普通聊天

视觉识别(image to txt)

多模型聊天

服务器功能

视频