『瀚思彼岸』» 智能家居技术论坛

 找回密码
 立即注册
查看: 607|回复: 6

[技术探讨] 有没有DeepSeek本地化部署插件?

[复制链接]

13

主题

213

帖子

1850

积分

金牌会员

Rank: 6Rank: 6

积分
1850
金钱
1637
HASS币
0
发表于 2025-2-12 14:40:52 | 显示全部楼层 |阅读模式
DeepSeek本地化部署了
有没有使用本地部署的插件呀
这个应该自己可以满满训练呀
回复

使用道具 举报

50

主题

1949

帖子

7633

积分

论坛元老

Rank: 8Rank: 8

积分
7633
金钱
5674
HASS币
40
发表于 2025-2-12 15:26:05 | 显示全部楼层
你在异想天开吗,本地部署老早可以了,根据配置来部署的,不然只能api调用,想加载项想疯了把
折腾精神永存,感恩感谢论坛每一位愿意分享和帮助过我的大佬,论坛有你更精彩
回复

使用道具 举报

164

主题

2646

帖子

8180

积分

元老级技术达人

积分
8180
金钱
5529
HASS币
30
发表于 2025-2-12 17:04:17 | 显示全部楼层
cpu跑不了的,别想了。必须要有gpu显卡,还不能差,。
回复

使用道具 举报

2

主题

159

帖子

1355

积分

金牌会员

Rank: 6Rank: 6

积分
1355
金钱
1196
HASS币
0
发表于 2025-2-12 18:01:11 | 显示全部楼层
我本地部署测试过了,平台是:CPU 1390K 显卡RTX4700S 内存64G,勉强能跑deepseek R1蒸馏版的32B模型,这还不是训练,如果是训练的硬件平台,预计要人民币10万左右的硬件平台才跑得起来。
回复

使用道具 举报

13

主题

213

帖子

1850

积分

金牌会员

Rank: 6Rank: 6

积分
1850
金钱
1637
HASS币
0
 楼主| 发表于 2025-2-15 17:35:29 | 显示全部楼层
已经实验成功
本地布置个虚拟机,win10,搞了一个1.5b实验
hass可以访问
后续准备搞个8G显卡版
跑一下7b模型应该可以
应付下简单使用和hass应该够了
回复

使用道具 举报

1

主题

22

帖子

91

积分

注册会员

Rank: 2

积分
91
金钱
69
HASS币
0
发表于 2025-2-15 17:44:25 | 显示全部楼层
7B以下模型I5以上CPU就OK  吃点内存罢了
回复

使用道具 举报

24

主题

373

帖子

1513

积分

金牌会员

Rank: 6Rank: 6

积分
1513
金钱
1140
HASS币
0
发表于 2025-2-15 18:44:46 | 显示全部楼层
落花萧然 发表于 2025-2-15 17:35
已经实验成功
本地布置个虚拟机,win10,搞了一个1.5b实验
hass可以访问

虚拟机应该纯粹是靠CPU吧?

win10什么配置?

模型输出速度如何?

hass访问是指通过hass内置的openai conversation 兼容api访问吗?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|Hassbian

GMT+8, 2025-3-5 04:53 , Processed in 0.116650 second(s), 28 queries .

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表