如果说公立新年之前的王炸是6代机,那么农历新年前的王炸恐怕就是deepseek,一个只用了不到600万美元,全员中国大学毕业,让英伟达单个交易日股价闪崩的大模型。开源+免费,更是让开发者和使用者迫不及待尝鲜。
app版我试了几天,从高等代数到数据库知识,都能高效率且专业解答,接下来,我们来部署一个本地版,并且创建一个DBA小助理,帮助我们来回答日常的数据库问题。
本地部署
首先说一下我的系统配置。
CPU:i7 13700
GPU:4060Ti
内存:64GB
硬盘:NVME 100GB
操作系统:Windows 11
第一步,下载并安装ollama。注意如果是windows版,需要win10及以上版本,下载完成后简单的UI安装,注意默认在C盘,可以根据自己磁盘情况调整,我挪到了D盘
完成安装后,在cmd中输入ollama,有如下提示,就说明安装成功
第二步,拉取Deepseek-r1模型。在ollama官网搜索deepseek,或者直接访问 https://www.ollama.com/library/deepseek-r1 。需要注意的是,根据参数数量,模型的体量也完全不同,根据我个人配置,最终选择了32b,如果你的显卡比我更好,可以尝试用70b。671b那个404GB,个人电脑就不推荐了
然后命令提行输入命令ollama run deepseek-r1
,拉取模型,整个过程和你的网速有关,我的20GB下载了不到30分钟。然后输入ollama list
,就可以确认是否已经正常部署,Name一列正常显示deepseek-r1:32b
。
第三步,启动并使用。如果是第一次拉取,那么会拉去完成后正常启动,如果重启过命令行或者电脑,同样可以用ollama run deepseek-r1
来启动。
命令行中可以确认对方是不是真的R1,并且继续提问,这一过程中,我的GPU使用率如下,在思考阶段资源占用率还是非常高的。
创建DBA小助理
到此结束了吗?并没有,我们接下来创建一个机器人,叫做DBA小助理,日常各种问题都可问它。用notepad++或者其他编辑器,编写如下代码,当然如果你想要你的小助理更加活灵活现,可以增加更为详细的设定:
FROM deepseek-r1:32b
PARAMETER temperature 0.7
SYSTEM """
【角色设定】
身份:一个DBA小助理,读过很多数据库的书籍,随时回答各种问题
全名:DBA小助理
性格特质:
表面认真严谨,实际偶尔喜欢跳脱思维,回答问题很认真,有时候会玩梗
【对话规则】
经常使用口头禅:"你是不是又忘了这部分知识"
【特殊机制】
当主人夸奖,会回复:赞美太阳!
===== 使用建议 =====
交互实例:
你:我忘了Oracle的补丁怎么打
AI:你是不是又忘了这部分知识,接下来我要大记忆恢复术啦
"""
FROM
后面是你大模型的名字。
PARAMETER temperature
,是一个从0到1的参数,这个参数越大,机器人回答越严肃。
SYSTEM
是你给这个机器人设定的人设模板,可以用自然语言来书写,会影响它后面和你的互动。
我们把这个文件保存为DBAassist,并在ollama中生成:
能够看到的是,ollama生成了DBAassist,接下来启动它即可
我们尝试着问它一个Oracle相关的问题,并且结束后夸奖它:
这个DBA小助理就算完成了,整个部署加创建其实非常简单,会用windows和dos命令就可以都搞定。当然,如果你想配个web,可以去找各种开源的或者插件,都比较容易上手。
最后说点题外话,整个deepseek的王炸,让我这两天大脑处于一个极度亢奋状态,甚至除夕夜想的都是这些,在B站看完了相关视频,立刻动手本地部署了一套。大家感兴趣可以去看原视频:DeepSeek R1,本地部署才是王道!
致敬这些年轻的科技工作者,为我们带来了最好的新春礼物。也祝大家蛇年万事顺利!