来一起用openai手搓siri吧【代码已贴】

25989406

81795791 发表于 2023-12-4 10:09
我为啥识别出来的繁体.,,,,

你看下assistant配置里，tts和stt的选项，里面应该是有繁体中文的，改一下就好了

xiaolei_0125

请教一下SST如何解决？

25989406

xiaolei_0125 发表于 2023-12-6 19:10
请教一下SST如何解决？

STT吧 有条件可以用本地部署的
没条件就只能走云服务 我自己这个月用的是hacloud带的（第一个月免费后面收费）

fyf

来一起用openai手搓siri吧

xiaolei_0125

25989406 发表于 2023-12-7 17:17
STT吧 有条件可以用本地部署的
没条件就只能走云服务 我自己这个月用的是hacloud带的（第一个月免费后面 ...

谢谢回复， 目前看到使用的python sdk每次对话，都要把Hass本地的device信息作为prompt发给OpenAI,  非常消耗token,  再研究看看有什么节省的办法

25989406

xiaolei_0125 发表于 2023-12-11 09:48
谢谢回复， 目前看到使用的python sdk每次对话，都要把Hass本地的device信息作为prompt发给OpenAI,  非常 ...

这个我特意问过，然后大模型告诉我system prompt不会每次都发只有创建新对话时发（不知道是不是在胡说八道）所以我把我的设备信息都在初始化的system prompt里，
每次提交的都是user prompt，只要不是反复建立新对话 对token的消耗还好

25989406

xiaolei_0125 发表于 2023-12-11 09:48
谢谢回复， 目前看到使用的python sdk每次对话，都要把Hass本地的device信息作为prompt发给OpenAI,  非常 ...

再完美一点就是单独训练一个assistant，基础设备信息列表都先告诉他。不用在创建绘画时候说，然后他需要的时候可以走ha的api主动查询各个设备的状态，让他自己再根据我们的指令判断要做啥以及怎么做

但我看官方api里还没有分assistant的，也许后面会支持吧，或者自己写一个。但这些并不是遥不可及，总归是有办法能实现！

25989406

代码已贴

xiaolei_0125

25989406 发表于 2023-12-12 09:48
这个我特意问过，然后大模型告诉我system prompt不会每次都发只有创建新对话时发（不知道是不是在胡说八 ...

我看资料说openai 服务端不会记忆用户的上下文信息，从每次调用返回的usage用量看，应该无法节省token

xiaolei_0125

25989406 发表于 2023-12-12 09:55
再完美一点就是单独训练一个assistant，基础设备信息列表都先告诉他。不用在创建绘画时候说，然后他需要 ...

对，开始和我你的想法一样， 使用assistant, 将现有的HA的设备信息预先提供给它， 不用每次在prompt里写， 而且可以配合function calling，来查询状态和执行服务。
但是我想到太好了，加使用python写代码实测assistant， 发现并不能节省token , 而且conext token占用更多， 查了很多资料也证实了这个情况，还可以参考这里的讨论：
https://github.com/jekalmin/exte ... versation/issues/30