Ollama+Qwen2.5:7B工具调用，控制HA快、稳、准！

duanyudan123

AI模型控制HA评估

简单测了一下很强！比我测试的所有LLM工具调用都强！
稍后上传详细测试！-
【Ollama+Qwen2.5:7B工具调用控制Home assistant-哔哩哔哩】 https://b23.tv/c8olYTT
详细内容参见视频，总体来说还是可以的满分100可以打90，显卡是RTX3060，AI算力基本可以说是中低。如果是4090推理速度会更快。另外TTS也拖后腿了。edge的TTS在云端肯定有延迟，即使我说的名字是错误的谐音或者缺字LLM依然会推理出你想要控制的设备。另外就是他不会说我不能理解，你可以问它任何问题。工具的调用可以说是为大模型的应用锦上添花。

另外温馨提示HA官方的语音助手硬件马上就要开售了，偷偷告诉你们很强。比现在HA的所有语音硬件方案都强，不管是解码能力和拾音能力都很强。可以和市面的商用产品媲美。-----------------------------------------------------------------------
2024/9/23
太强了吧，我都惊呆了！，甚至可以检索播放列表，播放指定的音乐。如果说“播放音乐”它会主动问你要听什么歌曲。至于暂停/下一曲/上一曲这些都是小菜。
HA官方的语音硬件好像支持音频闪避（根据配置文件猜测），如果大家干主播应该都知道音频闪避这个概念。就是讲话的时候音乐不暂停而是降低音量，具体也不太了解。如果是真的这也太专业了吧。加上专业解码芯片，全屋音乐的方案成本一下子拉到地面了。

duanyudan123

Zeller 发表于 2024-11-19 04:51
羊驼我搭建好了，目前我主要用来协助写程序。请教怎么接入ha

添加设备直接搜ollama填地址提交然后勾选助手控制。选择千问模型就可以了。很方便。

Zeller

羊驼我搭建好了，目前我主要用来协助写程序。请教怎么接入ha

duanyudan123

zyling 发表于 2024-9-27 21:06
搞个几千块显卡跑HA，用不起，家里主力电脑都没这待遇
我还是继续坚持 用我的N1 ...

嘿嘿，确实有点不划算。技术在进步。我们耐心灯带就好呢

zyling

搞个几千块显卡跑HA，用不起，家里主力电脑都没这待遇
我还是继续坚持 用我的N1

duanyudan123

yikliu 发表于 2024-9-25 15:32
可以细说强的地方吗？

日常对话就不说了哈，比如对好几个设备进行操作。你可以跟他说瞌睡了、太亮了、太热了、我要出去了、我回来。它会对你进行提问需要操作那些设备以及设备的功能。你只需回复好的。听歌的时候你说这首歌不好听他会帮你跳过。对一个设备进行操作后，后续直接说就可了。不用每次都说设备名字。比如说错设备名字了，有时候他会帮你纠正直接进行操作。但是名字不能差太多。比如张三跟狗二就差别太大了。而且速度也快。之前测试的一些国外模型，不单听不懂你说的啥，还反应慢的要死。AI模型对HA控制评估

yikliu

duanyudan123 发表于 2024-9-23 22:46
根据我测试下来看，是时候增加显卡了。因为真的很强。体验感爆表。也许大家的硬件都该升级了呢。 ...

可以细说强的地方吗？

lichao622

duanyudan123 发表于 2024-9-23 22:46
根据我测试下来看，是时候增加显卡了。因为真的很强。体验感爆表。也许大家的硬件都该升级了呢。 ...

ha安装在群晖nas里面，只是本地大模型会比较耗硬件资源吧，ha本身还好吧

duanyudan123

yikliu 发表于 2024-9-23 21:02
感觉这个模型对于nas来说好像还是有点臃肿了。。。太吃配置，不过确实是个好消息 ...

根据我测试下来看，是时候增加显卡了。因为真的很强。体验感爆表。也许大家的硬件都该升级了呢。

yikliu

感觉这个模型对于nas来说好像还是有点臃肿了。。。太吃配置，不过确实是个好消息