『瀚思彼岸』» 智能家居技术论坛

标题: N100主机 frigate 开启硬件加速 [打印本页]

作者: demacia 时间: 2023-12-20 23:07
标题: N100主机 frigate 开启硬件加速
本帖最后由 demacia 于 2024-1-2 15:42 编辑

刚从zoneminder迁移到frigate下，cpu占用特别高，翻了很多issue和文档。
减少cpu的占用率的方法：
1. 原视频rtsp的分辨率和camera下配置的detect的分辨率要尽可能一致，避免ffmpeg进程耗在视频大小转换上
2. 检测的分辨率要尽可能小，越大cpu使用率越高。（和第一点有时候会冲突）
3. 开启硬件加速。（本次正题）

手上的N100 主机，系统是ubuntu22，HA和frigate都是docker上跑的。

先安装硬件驱动，重启后按照文档上说的验证下驱动是不是装成功了。（翻了很久的issue，有人提供的地址）
https://dgpu-docs.intel.com/driv ... buntu-install-steps

按照frigate官方文档开启硬件加速

https://docs.frigate.video/configuration/hardware_acceleration

VAAPI 按照官方文档的说法N100应该不支持
Quicksync

但是我这边只有Vaapi才生效，quicksync会报错，因为确实有效了，3个监控的cpu串流使用率加起来 30% 比原来200%（H265 比H264的串流解码耗费很多的cpu资源）低很多。

[attach]54514[/attach]

～～～～～～～～～～～～～～分割线～～～～～～～～～～～～

按照9楼 @daedalus 提示，根据文档，将detector配成openvino（仅需按照文档更改配置，不用安装额外依赖），detector的cpu使用率从150直接个位数了

https://docs.frigate.video/confi ... s#openvino-detector

作者: godzqh 时间: 2023-12-21 08:05
上coral tpu就可以了！

作者: DDDear 时间: 2023-12-21 08:47
我的是n5105，pve装的lxc版的Ubuntu，一个摄像头，16-20ms

作者: demacia 时间: 2023-12-21 09:04

godzqh 发表于 2023-12-21 08:05
上coral tpu就可以了！

coral闲鱼上都不便宜，现在性能余量还挺多的

作者: sorrypqa 时间: 2023-12-21 09:51

demacia 发表于 2023-12-21 09:04
coral闲鱼上都不便宜，现在性能余量还挺多的

余量？呵呵！等你摄像头里同时出现十来个人的时候，你就知道余量了。

作者: jey0722 时间: 2023-12-21 10:06
我也是n100 esxi装的haos，显卡直通给了ha，死活开不了加速，搂主有办法不

作者: demacia 时间: 2023-12-21 14:33

jey0722 发表于 2023-12-21 10:06
我也是n100 esxi装的haos，显卡直通给了ha，死活开不了加速，搂主有办法不

你可以直接用ffmpeg -hwaccel 命令测测看看读一个监控的流，能不能成功，frigae底层用的就是ffmpeg命令来处理的。

作者: baiqianlover 时间: 2023-12-21 21:09
我是 n100 pve装的haos.之前内存占用很大.分了3G。CPU占用倒是不大。现在转移到小主机m401a上了.

作者: daedalus 时间: 2023-12-23 18:40
你这主要是检测功能耗费CPU比较大，现在detector是用的cpu吧？可以试一试把detector换成openvino。

作者: demacia 时间: 2023-12-23 20:51

daedalus 发表于 2023-12-23 18:40
你这主要是检测功能耗费CPU比较大，现在detector是用的cpu吧？可以试一试把detector换成openvino。 ...

看了你说的，我试试。

作者: demacia 时间: 2023-12-23 21:06

daedalus 发表于 2023-12-23 18:40
你这主要是检测功能耗费CPU比较大，现在detector是用的cpu吧？可以试一试把detector换成openvino。 ...

牛，按照文档的默认配置配了openvino，detector直接个位数了

作者: daedalus 时间: 2023-12-23 21:40

demacia 发表于 2023-12-23 21:06
牛，按照文档的默认配置配了openvino，detector直接个位数了

开了openvino后，Inference Speed这个显示是多少毫秒了？

作者: demacia 时间: 2023-12-23 22:14

daedalus 发表于 2023-12-23 21:40
开了openvino后，Inference Speed这个显示是多少毫秒了？

[attach]54554[/attach]

作者: jole 时间: 2024-1-1 14:50
同N100，怎么换成ov??

作者: demacia 时间: 2024-1-2 09:18

jole 发表于 2024-1-1 14:50
同N100，怎么换成ov??

https://docs.frigate.video/confi ... s#openvino-detector

docker启动的话，文档里有默认的配置。

作者: jole 时间: 2024-1-2 20:57

demacia 发表于 2024-1-2 09:18
https://docs.frigate.video/configuration/detectors#openvino-detector

docker启动的话，文档里有默认 ...

你是虚拟机吗？是不是显卡直通才有效果？我换ov还是吃cpu

作者: demacia 时间: 2024-1-2 21:16
本帖最后由 demacia 于 2024-1-2 21:20 编辑

jole 发表于 2024-1-2 20:57
你是虚拟机吗？是不是显卡直通才有效果？我换ov还是吃cpu

一直说的docker额。至于是不是docker配置gpu才生效的我也不太清楚
我是先配了gpu 然后才开的ov 不清楚是不是有因果关系

https://docs.frigate.video/confi ... gpu-stats-in-docker

还有性能面板上不是能看到detectors 是ov还是cpu嘛，是ov了说明配成功了？

作者: fay000fay 时间: 2024-10-29 10:06

jey0722 发表于 2023-12-21 10:06
我也是n100 esxi装的haos，显卡直通给了ha，死活开不了加速，搂主有办法不

我也n100，PVE装的haos，显卡直通给ha，也是死活开不了硬件加速，GPU显示一直是0.5%。有人出现，CPU就飙升。detector配置的openvino

作者: guoqiang881245 时间: 2024-11-2 21:26
麻烦大哥把配置代码发一下搞了半天还是不行，脑壳疼，我群晖7.2docker安装的，无法用GPU 但是我的jellyfin是可以硬件解码的。都是用容器安装的，这个就不行。

作者: guoqiang881245 时间: 2024-11-13 14:20
n100 目前一个摄像头

/**
* undefined
* 大哥大嫂过年好
* Link https://greasyfork.org/zh-CN/scripts/396933-hostloc-zsbd
*/

作者: ZaNks 时间: 2024-11-14 14:57

fay000fay 发表于 2024-10-29 10:06
我也n100，PVE装的haos，显卡直通给ha，也是死活开不了硬件加速，GPU显示一直是0.5%。有人出现，CPU就飙 ...

N100的配置可以分享一下吗

作者: fay000fay 时间: 2024-11-16 09:07

ZaNks 发表于 2024-11-14 14:57
N100的配置可以分享一下吗

ffmpeg:
hwaccel_args: preset-vaapi
detectors:
ov:
type: openvino
device: GPU
model:
width: 300
height: 300
input_tensor: nhwc
input_pixel_format: bgr
path: /openvino-model/ssdlite_mobilenet_v2.xml
labelmap_path: /openvino-model/coco_91cl_bkgr.txt

复制代码

作者: Masterchen 时间: 2024-11-17 10:55
闲鱼上有M.2 Eky接口的算力卡，大概三百多到四百的价格，不知道esxi安装的haos能不能驱动起来？效果怎样？还是和intle 核显的效果差不多？

欢迎光临『瀚思彼岸』» 智能家居技术论坛 (https://bbs.hassbian.com/)