deepseek-r1+ollama+AnythingLLM本地部署步骤

一、下载Ollama软件安装包

1.访问Ollama官网下载:https://ollama.com/download

deepseek-r1+ollama+AnythingLLM本地部署步骤

2.安装Ollama

我下载的是Windows版本安装包,双击安装包安装,直接点击install,然后下一步直到安装完成。

deepseek-r1+ollama+AnythingLLM本地部署步骤

3.安装完成后验证是否安装成功,win+r进入cmd界面

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.下载deepseek:r1模型

4.1访问https://ollama.com/library/deepseek-r1地址选择合适自己本地硬件配置的版本

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.2复制命令ollama run deepseek-r1:1.5b在cmd命令行执行该命令,等待下载完成如下图。

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.3在cmd命令窗口继续执行ollama pull nomic-embed-text命令下载本地语言集嵌入模型

deepseek-r1+ollama+AnythingLLM本地部署步骤

二.安装AnythingLLM界面软件

1.下载AnythingLLM软件,下载地址 https://anythingllm.com/

deepseek-r1+ollama+AnythingLLM本地部署步骤

2.安装,双击安装包安装即可

deepseek-r1+ollama+AnythingLLM本地部署步骤

3.安装完成后启动软件,界面如下:

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.配置AnythingLLM

4.1创建工作区

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.2语言设置

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.3LLM首选项设置,LLM 提供商选择Ollama,模型选择下载的deepseek-r1:7b,然后保存

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.4嵌入模型首选项设置,嵌入引擎提供商Ollama,模型选择nomic-embed-text。

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.5对话设置如下图

聊天设置

deepseek-r1+ollama+AnythingLLM本地部署步骤

代理配置

deepseek-r1+ollama+AnythingLLM本地部署步骤

4.6然后就可以使用deepseek了,输入提示词等待deepseek回答。

deepseek-r1+ollama+AnythingLLM本地部署步骤

三、私有数据本地训练

1.点击如下图上传文件按钮

deepseek-r1+ollama+AnythingLLM本地部署步骤

deepseek-r1+ollama+AnythingLLM本地部署步骤

上传需要训练的私有数据,然后添加到右边并保存就完成了。

© 版权声明
THE END
如果内容对您有所帮助,就支持一下吧!
点赞0 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容