安装软件

anythingllm 下载：AnythingLLM | The all-in-one AI application for everyone

ollama 下载：Ollama

两个软件安装好，打开 cmd 执行命令拉取大语言模型

ollama pull 模型名

模型名参考模型网页：https://ollama.com/library

搜索点击你想装的模型进去，右上角有复制命令按钮例如：mistral-nemo (ollama.com)

直接复制命令在命令行执行是拉取并运行该模型，我们用 anythingllm 切换模型，因此可以将命令中 run 改成 pull

ollama run mistral-nemo

下载的模型存在 Windows 的：C:\Users\ 用户名.ollama 文件夹下，如果换电脑又不想重新下载模型，可全量复制这个文件夹进行迁移。

配置 AnythingLLM

点击 “新工作区” 新建工作区，建好之后点击工作区名右侧的齿轮：

修改提供者为我们的 Ollama，并选择你想要的模型，别忘了修改好后下拉到设置最底部更新配置，否则修改将不会保存。

接下来就可以点击 New Thread 新建聊天了，可以直接拖动文件进聊天框，也可以点↑上传按钮批量上传文件。