Ollama+Qwen2.5:7B工具调用，控制HA快、稳、准！

duanyudan123

AI模型控制HA评估

简单测了一下很强！比我测试的所有LLM工具调用都强！
稍后上传详细测试！-
【Ollama+Qwen2.5:7B工具调用控制Home assistant-哔哩哔哩】 https://b23.tv/c8olYTT
详细内容参见视频，总体来说还是可以的满分100可以打90，显卡是RTX3060，AI算力基本可以说是中低。如果是4090推理速度会更快。另外TTS也拖后腿了。edge的TTS在云端肯定有延迟，即使我说的名字是错误的谐音或者缺字LLM依然会推理出你想要控制的设备。另外就是他不会说我不能理解，你可以问它任何问题。工具的调用可以说是为大模型的应用锦上添花。

另外温馨提示HA官方的语音助手硬件马上就要开售了，偷偷告诉你们很强。比现在HA的所有语音硬件方案都强，不管是解码能力和拾音能力都很强。可以和市面的商用产品媲美。-----------------------------------------------------------------------
2024/9/23
太强了吧，我都惊呆了！，甚至可以检索播放列表，播放指定的音乐。如果说“播放音乐”它会主动问你要听什么歌曲。至于暂停/下一曲/上一曲这些都是小菜。
HA官方的语音硬件好像支持音频闪避（根据配置文件猜测），如果大家干主播应该都知道音频闪避这个概念。就是讲话的时候音乐不暂停而是降低音量，具体也不太了解。如果是真的这也太专业了吧。加上专业解码芯片，全屋音乐的方案成本一下子拉到地面了。

wdmywm3

esphome里有一个项目，是用乐鑫的esp32box3实现智能音箱
就是价格不便宜要299，我买了一个别人diy的，代替硬件略有不同，但是修改固件刷进去一直有问题，这方面资料太少又找不到，就暂时搁置了
如果过段时间能解决问题，再加上千问2.5这个tools的话，说不定可以彻底代替小爱了

lichao622

期待。一直想用大模型。

lichao622

HA官方的语音助手硬件。这个好啊，马上能替代小爱同学啦。。。

whxciotw

HA官方的语音助手硬件的介绍，在哪里能看到，有链接吗？官网没留意到。谢谢

whxciotw

wdmywm3 发表于 2024-9-22 18:33
esphome里有一个项目，是用乐鑫的esp32box3实现智能音箱
就是价格不便宜要299，我买了一个别人diy的， ...

请问，diy的音箱，有链接吗，或者介绍？

lichao622

whxciotw 发表于 2024-9-23 07:54
HA官方的语音助手硬件的介绍，在哪里能看到，有链接吗？官网没留意到。谢谢 ...

我也没看到哪里有。

duanyudan123

whxciotw 发表于 2024-9-23 07:54
HA官方的语音助手硬件的介绍，在哪里能看到，有链接吗？官网没留意到。谢谢 ...

esphome的对应组件

XMOS的固件
HA的官方人员回复

bugensui

请教楼主1个问题，大部分跑ha的设备，都是一些盒子，nas，基本上都不带独立显卡，楼主平时跑ha的设备都带独立显卡吗，那不是很费电吗

duanyudan123

bugensui 发表于 2024-9-23 10:50
请教楼主1个问题，大部分跑ha的设备，都是一些盒子，nas，基本上都不带独立显卡，楼主平时跑ha的设备都带独 ...

费电倒是其次，因为大部分时间显卡都没有工作只有使用语音的是才会工作，一天工作不到30分钟。不使用的时候显卡大概6-9w功率。主要是显卡太贵了。3060我都是咬牙买的。