部署前的准备
硬件与系统要求
在 win11 系统上进行部署,对硬件有一定要求。CPU 方面,建议使用 Intel Core i7 及以上或 AMD
Ryzen 7 及以上的处理器 ,以确保在处理复杂的模型计算和数据检索时,能够提供足够的计算能力,避
免出现卡顿和长时间等待的情况。内存最低 16GB,但为了能够流畅地运行多个程序以及高效处理大规
模的知识数据,推荐 32GB 及以上。显卡对于模型的推理速度至关重要,尤其是对于像 Deepseek R1
32b 这样的大模型,至少需要 8GB 显存的显卡,如 NVIDIA GeForce RTX 30 系列及以上,这样才能在
进行复杂的语言处理任务时,快速完成计算,提高响应速度。硬盘空间上,至少需要 50GB 的可用空间
用于存放各类软件和模型文件,若要存储大量的知识数据,推荐使用 1TB 及以上的固态硬盘
(SSD) ,SSD 的高速读写特性能够加快数据的读取和写入,提升整个系统的运行效率。在部署前,
读者务必仔细检查自己的电脑是否满足这些条件,避免在部署过程中因硬件不足而导致失败或运行不稳
定。
软件资源获取
Ollama:Ollama 的官方下载地址为 Ollam a 官网下载 链接 。在下载时,要注意根据自己的系统选择正确
的版本,对于 win11 系统,应选择对应的 Windows 版本安装包。下载完成后,双击安装包按照提示进
行安装即可。安装完成后,可以通过在命令提示符中输入 “ollama --version” 或 “ollama -v” 来验证是否安
装成功,如果出现版本号,则说明安装无误。X
Cherrystudio:Cherrystudio 的官方下载地址为 C herry studi o 官网下载 链接 。下载时同样要留意系统兼
容性,确保下载的是适用于 win11 系统的版本。下载完成后,解压安装包并按照安装向导的提示完成安
装。安装过程中,可能会需要授予一些权限,如网络访问权限等,按照提示操作即可。X
beg - m3:beg - m3 模型可以通过 Ollama 进行下载。在安装好 Ollama 后,打开命令提示符,输入
“ollama pull bge - m3” 即可开始下载。这里需要注意的是,下载过程可能会受到网络环境的影响,如果
网络不稳定,可能会导致下载失败或下载速度过慢。若下载失败,可以尝试更换网络环境或重新下载。
Deepseek R1 32b:该模型同样通过 Ollama 下载。在命令提示符中输入 “ollama pull Deepseek R1 32b” ,
耐心等待下载完成。由于该模型文件较大,下载时间可能较长,并且要确保磁盘空间充足,以免下载过
程中因空间不足而中断。
文档被以下合辑收录
相关文档
评论