暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

LAXCUS7.0 集群部署deepseek模型,是否可行???

    目前DeepSeek只支持单机部署,集群部署方案目前没有。也就是说Cluster模式目前没有实现,那我们的系统是否可以实现这种模式呢?
    比如你目前只有一台机器,可能只能用R1-1.5B的模型,另一台机器也差不多,也只能运行R1-1.5B的模型,那么如果LAXCUS搞定了以后,两台机器做集群,就可以运行R1-7B的模型,这个就是Cluster的作用
=======================================
    经过团队讨论:
                   LAXCUS本身就是做超大规模分布式集群的,我们的这个方向和应用肯定没问题,关键是问题5个人谁去接这个活儿,当下的紧要任务是推出alpha2版本。都忙的焦头烂额,昨天晚上又是凌晨才说的晚安。。。。
=========================================
     问题来了,各位关注并下载,熟悉LAXCUS的朋友,你是否能伸伸手,来帮助我们实现LAXCUS集群部署deepseek方案?可行,开发者群见,亦可以下方联系方式加我



文章转载自LAXCUS分布式操作系统,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论