『瀚思彼岸』» 智能家居技术论坛

 找回密码
 立即注册
123
返回列表 发新帖
楼主: duanyudan123

[技术探讨] 本地AI对话代理

[复制链接]

3

主题

117

帖子

821

积分

高级会员

Rank: 4

积分
821
金钱
704
HASS币
0
发表于 2024-6-12 15:35:17 | 显示全部楼层
畅想一下,感觉 AI 的导入,将会将所有的编程工作去除,只要配置足够多的传感器,你将自己的生活习惯逐步告诉(训练)HA,HA 就会自主按照你的意思控制全屋可控的设备。如果真是如此,HA 的整个产品逻辑可能都要被颠覆。
回复

使用道具 举报

15

主题

186

帖子

1023

积分

金牌会员

Rank: 6Rank: 6

积分
1023
金钱
837
HASS币
0
 楼主| 发表于 2024-6-12 16:35:25 | 显示全部楼层
grunner 发表于 2024-6-12 15:35
畅想一下,感觉 AI 的导入,将会将所有的编程工作去除,只要配置足够多的传感器,你将自己的生活习惯逐步告 ...

他们在重构一个特殊的模型,还提出一个特殊概念叫R什么的。具体也不太懂。到时候看看公告发布。
回复

使用道具 举报

26

主题

266

帖子

1479

积分

金牌会员

Rank: 6Rank: 6

积分
1479
金钱
1213
HASS币
0
发表于 2024-6-13 09:01:53 | 显示全部楼层
duanyudan123 发表于 2024-6-11 21:44
看文档好像就是这个把,你如果有魔法可以试一下呢。直接添加集成搜索google找到Google Generative AI。填 ...

我使用 google AI 的API试了一下, 可以用。在手机上可以语音,相对麻烦点。以下分享几张文字对话:

Gemini 1.5

Gemini 1.5



测试了Gemini 它可以理解自然语言的提问要求,控制设备开关也没问题。
Snipaste_2024-06-13_08-35-16.png Snipaste_2024-06-13_08-39-39.png Snipaste_2024-06-13_08-44-49.png

但是,目前的缺点也很明显,它没有记性,昨天刚教会的今天再问就忘了。上下文理解判断也不大行。

没有记性

没有记性

上下文不行

上下文不行

回复

使用道具 举报

15

主题

186

帖子

1023

积分

金牌会员

Rank: 6Rank: 6

积分
1023
金钱
837
HASS币
0
 楼主| 发表于 2024-6-13 10:54:42 | 显示全部楼层
cuichuanyu 发表于 2024-6-12 15:04
我用google generative ai,跑通了,因为google的api有免费额度,而Openai的没有。目前来看效果还算可以, ...

比自带的对话代理强大多了。目前肯定不完善的。不准备用建议关掉,这会向谷歌公开隐私数据。
回复

使用道具 举报

15

主题

186

帖子

1023

积分

金牌会员

Rank: 6Rank: 6

积分
1023
金钱
837
HASS币
0
 楼主| 发表于 2024-6-13 10:55:53 | 显示全部楼层
zyling 发表于 2024-6-13 09:01
我使用 google AI 的API试了一下, 可以用。在手机上可以语音,相对麻烦点。以下分享几张文字对话:

注意公开实体,将会向谷歌传送隐私数据。
回复

使用道具 举报

27

主题

1309

帖子

5957

积分

元老级技术达人

积分
5957
金钱
4623
HASS币
100
发表于 2024-6-14 11:52:05 | 显示全部楼层
ha上直接对接本地大模型api已经有了,也相对稳定,只是如何吧ha的各项配置传感器信息优雅的传给大模型还没有,目前都是人工构造Prompt来实现。
这块需要官方更新能力才做得到
回复

使用道具 举报

1

主题

130

帖子

416

积分

中级会员

Rank: 3Rank: 3

积分
416
金钱
286
HASS币
0
发表于 2024-6-17 22:44:31 | 显示全部楼层
本地大模型还需要硬件才行,不知道啥时候能出低功耗的NPU或者别的推理设备,用显卡太耗电了,既要又要
回复

使用道具 举报

1

主题

31

帖子

308

积分

中级会员

Rank: 3Rank: 3

积分
308
金钱
277
HASS币
0
发表于 2024-11-12 01:29:48 | 显示全部楼层
有点搞笑,有时候问问题能回答,但一让它关灯就报错,再问问题就正常,截图里是正常了,但是他说他打开了,但其实灯根本没反应,不知道是哪里的问题
屏幕截图 2024-11-12 012704.png
回复

使用道具 举报

15

主题

186

帖子

1023

积分

金牌会员

Rank: 6Rank: 6

积分
1023
金钱
837
HASS币
0
 楼主| 发表于 2024-11-12 10:17:29 | 显示全部楼层
hehe.1536 发表于 2024-11-12 01:29
有点搞笑,有时候问问题能回答,但一让它关灯就报错,再问问题就正常,截图里是正常了,但是他说他打开了, ...

如果经常这样,先减少一下暴露的实体数量,然后增加上下文长度试一下
回复

使用道具 举报

1

主题

31

帖子

308

积分

中级会员

Rank: 3Rank: 3

积分
308
金钱
277
HASS币
0
发表于 2024-11-12 17:20:06 | 显示全部楼层
duanyudan123 发表于 2024-11-12 10:17
如果经常这样,先减少一下暴露的实体数量,然后增加上下文长度试一下

我cao,   他好像真的在学习,用昨天同样的指令,它会打开了,
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|Hassbian

GMT+8, 2024-12-27 06:06 , Processed in 0.055844 second(s), 32 queries .

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表