暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

手把手教你在linux服务器部署deepseek,打造专属自己的数据库知识库

原创 我科绝伦 2025-02-14
105

第一步:安装Ollama

打开官方网址:https://ollama.com/download/linux
下载Ollama linux版本
在这里插入图片描述
复制命令到linux操作系统执行

[root@postgresql ~]# curl -fsSL https://ollama.com/install.sh | sh

在这里插入图片描述

在Service中增加下面两行

[root@localhost ~]# vi /etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

在这里插入图片描述

然后重启ollama服务

[root@localhost ~]#systemctl daemon-reload
[root@localhost ~]#systemctl restart ollama

验证服务是否开启,11434是核心端口,必须开启。

[root@localhost ~]# ss -anlp|grep 11434

在这里插入图片描述

登录验证
浏览器直接访问192.168.47.136:11434
在这里插入图片描述
出现Ollama is running,即正常。

第二步:部署Deepseek R1模型

还是在ollama官网上,点击Models,选择deepseek-r1,不同版本对应的体积大小不同,体积越大模型越精细化,只需要复制命令即可,我这里选择7b。
在这里插入图片描述
在这里插入图片描述

[root@postgresql ~]#ollama run deepseek-r1:7b

在这里插入图片描述

[root@localhost ~]# ollama list

在这里插入图片描述

交互式聊天模式:

[root@localhost ~]#ollama run deepseek-r1

在这里插入图片描述

第三步:配置可视化界面

安装docker

[root@localhost yum.repos.d]#wget http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo [root@localhostyum.repos.d]#yum install docker-ce-20.10.9-3.el7 docker-ce-cli-20.10.9-3.el7 containerd.io [root@localhost yum.repos.d]#systemctl start docker [root@localhost yum.repos.d]#systemctl status docker [root@localhost yum.repos.d]# docker --version [root@localhost yum.repos.d]#docker info
[root@postgresql yum.repos.d]# docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.47.136:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

在这里插入图片描述

访问控制台:

http://192.168.47.136:3000

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
可以进行专属知识库的建立
在这里插入图片描述
拖动上传文件至该区域即可
在这里插入图片描述

到这里,我们就完成的在linux服务器部署deepseek,并使用webui界面友好的展示。

欢迎关注公众号《小周的数据库进阶之路》,更多精彩知识和干货尽在其中。

文章转载自我科绝伦,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论