找回密码
 立即注册
搜索
查看: 2894|回复: 6

[技术探讨] 有没有DeepSeek本地化部署插件?

[复制链接]

13

主题

220

回帖

2099

积分

金牌会员

积分
2099
金钱
1866
HASS币
0
发表于 2025-2-12 14:40:52 | 显示全部楼层 |阅读模式
DeepSeek本地化部署了
有没有使用本地部署的插件呀
这个应该自己可以满满训练呀
回复

使用道具 举报

jjcs 手机认证

54

主题

1953

回帖

7933

积分

论坛元老

积分
7933
金钱
5916
HASS币
40
发表于 2025-2-12 15:26:05 | 显示全部楼层
你在异想天开吗,本地部署老早可以了,根据配置来部署的,不然只能api调用,想加载项想疯了把
折腾精神永存,感恩感谢论坛每一位愿意分享和帮助过我的大佬,论坛有你更精彩
回复

使用道具 举报

176

主题

2641

回帖

8867

积分

元老级技术达人

积分
8867
金钱
6040
HASS币
50
发表于 2025-2-12 17:04:17 | 显示全部楼层
cpu跑不了的,别想了。必须要有gpu显卡,还不能差,。
回复

使用道具 举报

3

主题

217

回帖

1785

积分

金牌会员

积分
1785
金钱
1565
HASS币
0
发表于 2025-2-12 18:01:11 | 显示全部楼层
我本地部署测试过了,平台是:CPU 1390K 显卡RTX4700S 内存64G,勉强能跑deepseek R1蒸馏版的32B模型,这还不是训练,如果是训练的硬件平台,预计要人民币10万左右的硬件平台才跑得起来。
回复

使用道具 举报

13

主题

220

回帖

2099

积分

金牌会员

积分
2099
金钱
1866
HASS币
0
 楼主| 发表于 2025-2-15 17:35:29 | 显示全部楼层
已经实验成功
本地布置个虚拟机,win10,搞了一个1.5b实验
hass可以访问
后续准备搞个8G显卡版
跑一下7b模型应该可以
应付下简单使用和hass应该够了
回复

使用道具 举报

1

主题

23

回帖

108

积分

注册会员

积分
108
金钱
84
HASS币
0
发表于 2025-2-15 17:44:25 | 显示全部楼层
7B以下模型I5以上CPU就OK  吃点内存罢了
回复

使用道具 举报

24

主题

355

回帖

1552

积分

金牌会员

积分
1552
金钱
1173
HASS币
0
发表于 2025-2-15 18:44:46 | 显示全部楼层
落花萧然 发表于 2025-2-15 17:35
已经实验成功
本地布置个虚拟机,win10,搞了一个1.5b实验
hass可以访问

虚拟机应该纯粹是靠CPU吧?

win10什么配置?

模型输出速度如何?

hass访问是指通过hass内置的openai conversation 兼容api访问吗?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|Hassbian ( 晋ICP备17001384号-1 )

GMT+8, 2025-6-22 20:01 , Processed in 0.062501 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表