本地AI对话代理

grunner

畅想一下，感觉 AI 的导入，将会将所有的编程工作去除，只要配置足够多的传感器，你将自己的生活习惯逐步告诉（训练）HA，HA 就会自主按照你的意思控制全屋可控的设备。如果真是如此，HA 的整个产品逻辑可能都要被颠覆。

duanyudan123

grunner 发表于 2024-6-12 15:35
畅想一下，感觉 AI 的导入，将会将所有的编程工作去除，只要配置足够多的传感器，你将自己的生活习惯逐步告 ...

他们在重构一个特殊的模型，还提出一个特殊概念叫R什么的。具体也不太懂。到时候看看公告发布。

zyling

duanyudan123 发表于 2024-6-11 21:44
看文档好像就是这个把，你如果有魔法可以试一下呢。直接添加集成搜索google找到Google Generative AI。填 ...

我使用 google AI 的API试了一下, 可以用。在手机上可以语音，相对麻烦点。以下分享几张文字对话：

Gemini 1.5

测试了Gemini 它可以理解自然语言的提问要求，控制设备开关也没问题。


但是，目前的缺点也很明显，它没有记性，昨天刚教会的今天再问就忘了。上下文理解判断也不大行。

没有记性

上下文不行

duanyudan123

cuichuanyu 发表于 2024-6-12 15:04
我用google generative ai，跑通了，因为google的api有免费额度，而Openai的没有。目前来看效果还算可以， ...

比自带的对话代理强大多了。目前肯定不完善的。不准备用建议关掉，这会向谷歌公开隐私数据。

duanyudan123

zyling 发表于 2024-6-13 09:01
我使用 google AI 的API试了一下, 可以用。在手机上可以语音，相对麻烦点。以下分享几张文字对话：

注意公开实体，将会向谷歌传送隐私数据。

25989406

ha上直接对接本地大模型api已经有了，也相对稳定，只是如何吧ha的各项配置传感器信息优雅的传给大模型还没有，目前都是人工构造Prompt来实现。
这块需要官方更新能力才做得到

1uv_can

本地大模型还需要硬件才行，不知道啥时候能出低功耗的NPU或者别的推理设备，用显卡太耗电了，既要又要