暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

oeDeploy 专题 1:为开发者打造的一站式部署工具

OpenAtom openEuler 2025-02-20
188

在 Linux 开发环境中,软件的部署往往是一个令人头疼的环节。无论是初学者还是有经验的开发者,都可能在安装复杂的软件栈时陷入依赖管理、网络访问受限、配置繁琐等问题。为了解决这些痛点, OpenAtom openEuler(简称“openEuler”) 社区推出了一款全新的开源工具——oeDeploy。

代码仓地址

https://gitee.com/openeuler/oeDeploy

什么是 oeDeploy?

oeDeploy 是一款轻量级的软件部署工具,目标是帮助开发者快速、高效地部署复杂的软件环境,无论是单节点还是分布式场景。

通过 oeDeploy,用户可以快速在本地部署 DeepSeek,也可以在集群中轻松部署 Kubernetes(简称 k8s)等相对复杂的系统,并基于 k8s 集群继续部署其他软件,例如 Kubeflow、KubeRay 等等。这一切都可以通过简单的配置和一键执行完成,大大降低了部署复杂环境的门槛。

oeDeploy 核心功能有哪些?

  1. 主流软件的一键部署:oeDeploy 已支持 k8s、Kubeflow、KubeRay、DeepSeek 等多款软件的一键部署,而且在持续扩充中。帮助用户快速搭建的开发环境,并大大减少了重复性的工作。
  2. 灵活的部署方式无论是需要在单个节点上快速安装软件,还是在分布式集群中部署复杂环境,oeDeploy 都能轻松胜任。它支持在任意 openEuler 节点上运行,只需在一个节点上安装,就可以实现多个节点的快速部署。
  3. 插件化扩展能力:oeDeploy 支持开发者编写自定义的部署插件,将自己熟悉的软件部署过程封装为 oeDeploy 支持的格式。这不仅可以帮助更多用户,也为开发者提供了一个展示和分享技术能力的平台。
  4. 更少的代码,更优的部署体验:oeDeploy 将为开发者提供命令行与可视化界面两套工具,打造一站式的软件部署框架。开发者可以只关注部署步骤的编排与核心功能的开发,用更少代码,实现更好的软件部署效果。

实机演示:oeDeploy 一键部署 DeepSeek-R1 的 8B 模型

接下来,我们将实机演示,如何用 oeDeploy 实现在单个节点上部署一个 DeepSeek-R1 的 8B 模型,并与之对话。

  1. 首先准备一个规格不小于 4U8G 的节点,OS 版本为 openEuler24.03sp1。

  2. 下载并安装 oeDeploy 的命令行工具 oedp。

    wget https://repo.oepkgs.net/openEuler/rpm/openEuler-24.03-LTS/contrib/oedp/x86_64/Packages/oedp-1.0.0-20250208.x86_64.rpm
    yum install -y oedp-1.0.0-20250208.x86_64.rpm

  3. 下载 DeepSeek-R1 部署插件,并解压到本地。

    wget https://repo.oepkgs.net/openEuler/rpm/openEuler-24.03-LTS/contrib/oedp/2025.0330/deepseek-r1.tar.gz
    tar -zxvf deepseek-r1.tar.gz

  4. 根据实际情况修改 deepseek-r1/config.yaml。用户可以直接使用默认值,不需要任何修改。

    all:
      hosts:
        localhost:
          ansible_connection: local
      vars:
        deepseek_version: 8b
        ollama_download: https://repo.oepkgs.net/openEuler/rpm/openEuler-24.03-LTS/contrib/oedp/2025.0330/ollama-linux-amd64.tgz
        ollama_download_path: /tmp
        modelfile_download: https://repo.oepkgs.net/openEuler/rpm/openEuler-24.03-LTS/contrib/oedp/2025.0330/DeepSeek-R1-Distill-Llama-8B-Q4_K_M.gguf
        modelfile_download_path: /tmp
        parameter:
          temperature: 0.7
          top_p: 0.7
          top_k: 30
          num_ctx: 4096
          num_thread: 4
          num_gpu: 0
        ansible_ssh_common_args: '-o StrictHostKeyChecking=no'

    关于各参数的具体含义,可以参考解压后的 doc/readme 文件

  5. 一键触发 DeepSeek-R1 自动化部署,oeDeploy 工具会下载所需的文件,自动安装部署,并完成对 DeepSeek-R1 的配置。

    oedp run install -p ./deepseek-r1

    -p 参数表示解压后的文件目录

  6. 在部署完成后的节点上,打开交互终端,开始对话。

    ollama run deepseek-r1:8b

效果展示

只需要一个命令,oeDeploy 就帮助我们在本地完成了 DeepSeek-R1 8B 模型的快速部署。

结语

oeDeploy 致力于成为开发者的得力助手,帮助大家高效地完成软件环境部署。

将来会有更多的 oeDeploy 插件与大家见面,我们也会分享 oeDeploy 插件的开发流程,欢迎大家一起来发布属于你自己的部署插件。

文章转载自OpenAtom openEuler,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论