通盘这个词经过需要准备三个软件：婷婷激情成人
Ollama。用于初始土产货大模子。如果使用闭源大模子的API，则不需要安设Ollama。Docker。用于初始AnythingLLM。AnythingLLM。学问库初始平台，提供学问库构建及初始的功能。1 安设Ollama下载Ollama（网址：https://ollama.com/download）图片婷婷激情成人
下载后平直安设，然后启动号令行窗口输入号令加载模子。号令不错通过点击官网Models后，搜索并选定所需要的模子后稽查。
图片
搜索框输入qwen图片
选定模子后，拷贝对应的号令图片
注：Ollama解救加载初始GGUF格式的大模子，这个自行稽查官网。
”启动号令行窗口，拷贝号令并初始，要是第一次初始，Ollama会自动下载模子并启动模子。如本机上已安设了qwen:14b模子，则输入号令后会平直启动此模子。图片
chatgpt 文爱至此，Ollama安设收场。
2 安设DockerDocker 是一个开源的诓骗容器引擎，让路发者不错打包他们的诓骗以及依赖包到一个可移植的镜像中，然后发布到任何流行的操作系统的机器上，从而收尾臆造化。
安设Docker Desktop（下载网址：https://www.docker.com/products/docker-desktop/）图片
下载后平直双击安设即可，Docker的安设经过很是简便，莫得什么参数需要建造，一起next即可。
3 安设AnythingLLMAnythingLLM不错在Docker上安设。
启动Docker Desktop。第一次启动可能需要注册账号，也不错平直使用google、github账号登陆。点击顶部的搜索框或输入快捷键Ctrl + K 怒放搜索窗口，输入anythingllm进行搜索，如下图所示，点击 Pull 按钮拉取镜像图片
模子拉取收场后，点击 Images 并在右侧的镜像列表中点击anythingllm后的 Run 按钮启动镜像图片
如下图所示，输入容器称号和端标语，这个不错精真金不怕火输入，但不可和其他已有的容器名或端标语叠加（如果有的话）图片
镜像启动后不错点击如下图所示位置的聚首，大致平直在浏览器中输入localhost:3001启动AnythingLLM图片
4 建设AnythingLLM点击按钮 Get started 干预建造向导界面图片
选定大模子。如下图所示建造使用Ollama，然后建造参数指定Ollama Base URL为 http://host.docker.internal:11434指定Chat Model Selection为 qwen:14b指定Token context window为 4096图片
注：AnythingLLM解救使用闭源模子的API。
”选定默许的AnythingLLM Embedder图片
选定继承默许的LanceDB手脚向量数据坑图片
如下图所示建造图片
查验并说明前边的建造图片
为职责空间指命称号，并干预下一步图片
如下图所示，点击聚首upload a document怒放文档上传界面图片
文档上传界面如图所示图片
不错添加我方的文档，并将文档移入职责区图片
文档移入后如下图所示图片
image-20240420232939913点击按钮 Save and Embed 处理文档图片
文档处理收场后不错进行测试，如下图所示图片
5 学问库处分不错点击左下角的建造按钮怒放建造面板图片
如下图所示不错建造语料分割参数图片
也不错点击左上角的按钮，如下图所示图片
其中第一个按钮怒放的是文档处分对话框图片
第二个按钮怒放的是模子建造面板图片
具体建造要道不错参阅文档。普及学问库性能的一些要道包括：
使用更雄伟的底座模子。底座模子用于数据的输入和输出。使用GPT4效劳细目要比使用小限制的开源模子。AnythingLLM解救以API格式调用如GPT4、Claude3、Gemini Pro等大模子。当今似乎还莫得提供国内大模子的接口。使用更好的Embedding模子。当今AnythingLLM内置了一个镶嵌模子。其也解救调用如OpenAI、Ollama等提供的其他镶嵌模子。分词参数。用于分割数据。这个参数转折需要尝试。使用更高效的向量库。雅致的原始数据。6 关闭Docker当不使用大模子时，为了简约资源，不错选定关闭容器。
点击 Containers ，点击关闭按钮不错关闭容器图片
(完）
图片
本站仅提供存储劳动，通盘践诺均由用户发布，如发现存害或侵权践诺，请点击举报。