暂无图片
暂无图片
6
暂无图片
暂无图片
10
暂无图片

MaxCompute x DataWorks × DeepSeek,实现使用自定义数据集微调DeepSeek-R1蒸馏模型

原创 阿里云大数据AI技术 2025-02-28
102

一、整体概要

基于阿里云云原生大数据计算服务MaxCompute以及大数据开发治理平台DataWorks实现使用自定义数据集微调DeepSeek-R1蒸馏模型主要分为两大部分,一部分是基于人工智能平台PAI的微调训练,第二部分是通过如何构建自有数据集,并进行接入,下面我们以MaxCompute+DataWorks+PAI为基础,快速微调DeepSeek-R1蒸馏模型。

二、如何微调DeepSeek

进入人工智能平台PAI控制台,左侧导航栏进入快速开始 > Model Gallery,选择模型。下面我们以DeepSeek-R1-Distill-Qwen-7B为例,进行微调训练。(其他模型微调也可以基于这个流程)

进入 DeepSeek-R1-Distill-Qwen-7B 模型页面后,点击“训练”按钮,核心是基于自有数据集进行模型调优,自有数据集可以选择存在对象存储OSS的数据,也可以选择存在MaxCompute的数据,下面我们以存在MaxCompute的数据的自有数据集为例进行DEMO演示。

训练数据集选择自定义数据集-新建数据集。

存储类型选择云原生大数据计算服务 MaxCompute。

导入MaxCcompute的项目名和表名进行关联,进行挂在路径配置。

然后再选择模型输出路径。

最后选择相应的资源配置,及参数配置,点击“训练”就可以基于自有数据集进行微调了,一起试试吧。

三、如何构建自有数据集,接入DeepSeek进行微调

在人工智能平台PAI上使用自定义数据集,主要需要关联MaxCompute的项目和数据表。首先创建MaxCompute项目:打开MaxCompute控制台,点击左侧导航栏【工作区】-【项目管理】,选择【新建项目】

创建MaxCompute表:打开DataWorks控制台,左侧导航栏选择【数据开发与运维】->【数据开发】,进入数据开发界面,界面左侧导航栏【表管理】新建表,详细建表过程可参考文档

自定义数据集写入

表结构新建好并提交发布后,您可以使用DataWorks通过数据集成任务MaxCompute节点任务向MaxCompute表中写入数据,DataWorks深度适配数十种大数据及AI计算引擎进行数据集成,支持自定义数据集的开发与调度。此外,DataWorks还支持通过上传数据功能将本地数据导入MaxCompute表中。当然,也可以使用DataWorks对写入的数据进行二次开发。

四、微调DeepSeek R1 蒸馏模型部署及应用

通过MaxCompute和DataWorks创建完项目和表后,即可开始使用PAI平台开始使用自定义数据集微调DeepSeek-R1蒸馏模型,更多模型微调参考教程可参考人工智能平台 PAI 的部署及应用实践。

部署DeepSeek-V3、DeepSeek-R1模型_人工智能平台 PAI(PAI)-阿里云帮助中

使用PAI一键部署通义千问模型_人工智能平台 PAI(PAI)-阿里云帮助中心

通过EAS一键部署MLLM多模态大语言模型应用_人工智能平台 PAI(PAI)-阿里云帮助中心

欢迎各位开发者前来体验,如有需求,可扫描下方二维码加入用户交流群进行交流。

「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论

铜线
暂无图片
28天前
评论
暂无图片 0
中国移动磐维数据库3.0版本基于openGauss6.0实现技术飞跃
28天前
暂无图片 点赞
评论
乌蒙
暂无图片
28天前
评论
暂无图片 0
火山引擎ByteHouse助力抖音集团降本
28天前
暂无图片 点赞
评论
数据中心
暂无图片
28天前
评论
暂无图片 0
科拓需支持多个集团业务,数据量极大
28天前
暂无图片 点赞
评论
布鲁布鲁
暂无图片
28天前
评论
暂无图片 0
中国移动携手华为openGauss社区推动数据库发展
28天前
暂无图片 点赞
评论
玛卡巴卡
暂无图片
28天前
评论
暂无图片 0
云服务支持智能问答
28天前
暂无图片 点赞
评论
DonACE
暂无图片
28天前
评论
暂无图片 0
MaxCompute x DataWorks × DeepSeek,实现使用自定义数据集微调DeepSeek-R1蒸馏模型
28天前
暂无图片 点赞
评论
查看更多 >