Ollama+Qwen2.5:7B工具调用，控制HA快、稳、准！

duanyudan123

25989406 发表于 2024-9-23 17:16
qwen2.5 出了啊，试试去 qwen2用下来的感觉是很弱

有给力显卡，很强。一个设备只要任意操作成功后，后续对话不用告诉他名字。直接说操作就行。基本不会匹配错意图。

yikliu

感觉这个模型对于nas来说好像还是有点臃肿了。。。太吃配置，不过确实是个好消息

duanyudan123

yikliu 发表于 2024-9-23 21:02
感觉这个模型对于nas来说好像还是有点臃肿了。。。太吃配置，不过确实是个好消息 ...

根据我测试下来看，是时候增加显卡了。因为真的很强。体验感爆表。也许大家的硬件都该升级了呢。

lichao622

duanyudan123 发表于 2024-9-23 22:46
根据我测试下来看，是时候增加显卡了。因为真的很强。体验感爆表。也许大家的硬件都该升级了呢。 ...

ha安装在群晖nas里面，只是本地大模型会比较耗硬件资源吧，ha本身还好吧

yikliu

duanyudan123 发表于 2024-9-23 22:46
根据我测试下来看，是时候增加显卡了。因为真的很强。体验感爆表。也许大家的硬件都该升级了呢。 ...

可以细说强的地方吗？

duanyudan123

yikliu 发表于 2024-9-25 15:32
可以细说强的地方吗？

日常对话就不说了哈，比如对好几个设备进行操作。你可以跟他说瞌睡了、太亮了、太热了、我要出去了、我回来。它会对你进行提问需要操作那些设备以及设备的功能。你只需回复好的。听歌的时候你说这首歌不好听他会帮你跳过。对一个设备进行操作后，后续直接说就可了。不用每次都说设备名字。比如说错设备名字了，有时候他会帮你纠正直接进行操作。但是名字不能差太多。比如张三跟狗二就差别太大了。而且速度也快。之前测试的一些国外模型，不单听不懂你说的啥，还反应慢的要死。AI模型对HA控制评估

zyling

搞个几千块显卡跑HA，用不起，家里主力电脑都没这待遇
我还是继续坚持 用我的N1

duanyudan123

zyling 发表于 2024-9-27 21:06
搞个几千块显卡跑HA，用不起，家里主力电脑都没这待遇
我还是继续坚持 用我的N1 ...

嘿嘿，确实有点不划算。技术在进步。我们耐心灯带就好呢

Zeller

羊驼我搭建好了，目前我主要用来协助写程序。请教怎么接入ha

duanyudan123

Zeller 发表于 2024-11-19 04:51
羊驼我搭建好了，目前我主要用来协助写程序。请教怎么接入ha

添加设备直接搜ollama填地址提交然后勾选助手控制。选择千问模型就可以了。很方便。