找回密码
 立即注册

微信扫码登录

搜索
查看: 3995|回复: 6

[技术探讨] 有没有DeepSeek本地化部署插件?

[复制链接]

14

主题

234

回帖

2246

积分

金牌会员

积分
2246
金钱
1998
HASS币
0
发表于 2025-2-12 14:40:52 | 显示全部楼层 |阅读模式
DeepSeek本地化部署了
有没有使用本地部署的插件呀
这个应该自己可以满满训练呀
回复

使用道具 举报

jjcs 手机认证

57

主题

2026

回帖

8216

积分

论坛元老

积分
8216
金钱
6123
HASS币
50
发表于 2025-2-12 15:26:05 | 显示全部楼层
你在异想天开吗,本地部署老早可以了,根据配置来部署的,不然只能api调用,想加载项想疯了把
折腾精神永存,感恩感谢论坛每一位愿意分享和帮助过我的大佬,论坛有你更精彩
回复

使用道具 举报

187

主题

2800

回帖

9412

积分

元老级技术达人

积分
9412
金钱
6410
HASS币
80
发表于 2025-2-12 17:04:17 | 显示全部楼层
cpu跑不了的,别想了。必须要有gpu显卡,还不能差,。
回复

使用道具 举报

4

主题

271

回帖

2570

积分

金牌会员

积分
2570
金钱
2295
HASS币
0
发表于 2025-2-12 18:01:11 | 显示全部楼层
我本地部署测试过了,平台是:CPU 1390K 显卡RTX4700S 内存64G,勉强能跑deepseek R1蒸馏版的32B模型,这还不是训练,如果是训练的硬件平台,预计要人民币10万左右的硬件平台才跑得起来。
回复

使用道具 举报

14

主题

234

回帖

2246

积分

金牌会员

积分
2246
金钱
1998
HASS币
0
 楼主| 发表于 2025-2-15 17:35:29 | 显示全部楼层
已经实验成功
本地布置个虚拟机,win10,搞了一个1.5b实验
hass可以访问
后续准备搞个8G显卡版
跑一下7b模型应该可以
应付下简单使用和hass应该够了
回复

使用道具 举报

1

主题

24

回帖

114

积分

注册会员

积分
114
金钱
89
HASS币
0
发表于 2025-2-15 17:44:25 | 显示全部楼层
7B以下模型I5以上CPU就OK  吃点内存罢了
回复

使用道具 举报

25

主题

366

回帖

1602

积分

金牌会员

积分
1602
金钱
1211
HASS币
0
发表于 2025-2-15 18:44:46 | 显示全部楼层
落花萧然 发表于 2025-2-15 17:35
已经实验成功
本地布置个虚拟机,win10,搞了一个1.5b实验
hass可以访问

虚拟机应该纯粹是靠CPU吧?

win10什么配置?

模型输出速度如何?

hass访问是指通过hass内置的openai conversation 兼容api访问吗?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|Hassbian ( 晋ICP备17001384号-1 )

GMT+8, 2025-8-20 10:01 , Processed in 0.118951 second(s), 9 queries , MemCached On.

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表