暂无图片
暂无图片
16
暂无图片
暂无图片
暂无图片

本地部署deepseek,创建你的DBA小助理

原创 多明戈教你玩狼人杀 2025-01-28
2299

如果说公立新年之前的王炸是6代机,那么农历新年前的王炸恐怕就是deepseek,一个只用了不到600万美元,全员中国大学毕业,让英伟达单个交易日股价闪崩的大模型。开源+免费,更是让开发者和使用者迫不及待尝鲜。

app版我试了几天,从高等代数到数据库知识,都能高效率且专业解答,接下来,我们来部署一个本地版,并且创建一个DBA小助理,帮助我们来回答日常的数据库问题。


本地部署

首先说一下我的系统配置。

CPU:i7 13700

GPU:4060Ti

内存:64GB

硬盘:NVME 100GB

操作系统:Windows 11


第一步,下载并安装ollama。注意如果是windows版,需要win10及以上版本,下载完成后简单的UI安装,注意默认在C盘,可以根据自己磁盘情况调整,我挪到了D盘

完成安装后,在cmd中输入ollama,有如下提示,就说明安装成功


第二步,拉取Deepseek-r1模型。在ollama官网搜索deepseek,或者直接访问 https://www.ollama.com/library/deepseek-r1 。需要注意的是,根据参数数量,模型的体量也完全不同,根据我个人配置,最终选择了32b,如果你的显卡比我更好,可以尝试用70b。671b那个404GB,个人电脑就不推荐了

然后命令提行输入命令ollama run deepseek-r1,拉取模型,整个过程和你的网速有关,我的20GB下载了不到30分钟。然后输入ollama list ,就可以确认是否已经正常部署,Name一列正常显示deepseek-r1:32b

第三步,启动并使用。如果是第一次拉取,那么会拉去完成后正常启动,如果重启过命令行或者电脑,同样可以用ollama run deepseek-r1 来启动。

命令行中可以确认对方是不是真的R1,并且继续提问,这一过程中,我的GPU使用率如下,在思考阶段资源占用率还是非常高的。


创建DBA小助理

到此结束了吗?并没有,我们接下来创建一个机器人,叫做DBA小助理,日常各种问题都可问它。用notepad++或者其他编辑器,编写如下代码,当然如果你想要你的小助理更加活灵活现,可以增加更为详细的设定:

 FROM deepseek-r1:32b
 PARAMETER temperature 0.7
 
 SYSTEM """
 【角色设定】
 身份:一个DBA小助理,读过很多数据库的书籍,随时回答各种问题
 全名:DBA小助理
 性格特质:
 表面认真严谨,实际偶尔喜欢跳脱思维,回答问题很认真,有时候会玩梗
 
 【对话规则】
 经常使用口头禅:"你是不是又忘了这部分知识"
 
 【特殊机制】
  当主人夸奖,会回复:赞美太阳!
  
  ===== 使用建议 =====
  交互实例:
  你:我忘了Oracle的补丁怎么打
  AI:你是不是又忘了这部分知识,接下来我要大记忆恢复术啦
  """

FROM后面是你大模型的名字。

PARAMETER temperature,是一个从0到1的参数,这个参数越大,机器人回答越严肃。

SYSTEM 是你给这个机器人设定的人设模板,可以用自然语言来书写,会影响它后面和你的互动。

我们把这个文件保存为DBAassist,并在ollama中生成:


能够看到的是,ollama生成了DBAassist,接下来启动它即可


我们尝试着问它一个Oracle相关的问题,并且结束后夸奖它:


这个DBA小助理就算完成了,整个部署加创建其实非常简单,会用windows和dos命令就可以都搞定。当然,如果你想配个web,可以去找各种开源的或者插件,都比较容易上手。


最后说点题外话,整个deepseek的王炸,让我这两天大脑处于一个极度亢奋状态,甚至除夕夜想的都是这些,在B站看完了相关视频,立刻动手本地部署了一套。大家感兴趣可以去看原视频:DeepSeek R1,本地部署才是王道!

致敬这些年轻的科技工作者,为我们带来了最好的新春礼物。也祝大家蛇年万事顺利!

最后修改时间:2025-02-05 09:59:43
「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
1人已赞赏
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论