使用N卡加速frigate对象识别

gasment

白嫖了一张quadro T600，满载40W功耗，尝试放进nas里看看能做什么
之前发的一篇用核显跑frigate识别加速的一个在pve lxc中跑frigate+核显加速的详细指南 - 『HomeAssistant』综合讨论区 - 『瀚思彼岸』» 智能家居技术论坛 - Powered by Discuz!
这次换成N卡跑cuda看看效果
这次平台是物理黑群晖，使用矿神源的N卡驱动，版本535，cuda12.2，注意frigate要求的nvidia gpu计算能力版本要>5，型号大概就是9系之后，具体型号支持可以查询CUDA GPUs - Compute Capability | NVIDIA Developer，我这张T600是20系的图灵架构，计算能力版本7.5，符合条件

4路 2K 25fps录制+4路 720P 6fps识别，显存占用500M左右，使用的是cc150 cpu 8c16t，占用基本可以忽略，GPU触发检测时大概占用10~20%，日常功耗多个十来瓦
检测延迟20ms出头，比核显高一些，貌似跑的模型不同，核显跑只识别到过人和车，相同配置n卡跑可以跑出来猫狗
（n卡跑转码也给力，jellyfin里同一部4K H265 10bit的片，加上HDR转换，核显转半天转不出来画面。换NVENC转码速度可以去到100多帧）


docker-compose部署参考：
version: "3.9"
services:
  frigate:
    container_name: frigate
    privileged: true # this may not be necessary for all setups
    restart: unless-stopped
    image: ghcr.io/blakeblackshear/frigate:stable-tensorrt
    deploy:    # <------------- Add this section
      resources:
        reservations:
          devices:
            - driver: nvidia
             # device_ids: ['0'] # this is only needed when using multiple GPUs
              #count: 1 # number of GPUs
              capabilities: [gpu]
    shm_size: "128mb" # update for your cameras based on calculation above
    volumes:
      - /etc/localtime:/etc/localtime:ro
      - /volume1/docker/frigate/config:/config
      - /volume4/NVR/frigate:/media/frigate
      - type: tmpfs # Optional: 1GB of memory, reduces SSD/SD Card wear
        target: /tmp/cache
        tmpfs:
          size: 1000000000
    ports:
      - "8971:8971"
      - "5555:5000" # Internal unauthenticated access. Expose carefully.
      - "8554:8554" # RTSP feeds
      - "8555:8555/tcp" # WebRTC over tcp
      - "8555:8555/udp" # WebRTC over udp
    environment:
      - NVIDIA_VISIBLE_DEVICES=all # 映射NVIDIA显卡
      - NVIDIA_DRIVER_CAPABILITIES=all # 映射NVIDIA显卡
      - FRIGATE_RTSP_PASSWORD=password


frigate内检测器的相关配置：
其他配置可参考核显那篇，第一次启动需要构建模型，等待十来分钟的样子
detectors:
  tensorrt:
    type: tensorrt
    device: 0 #This is the default, select the first GPU
detect:
  width: 1280
  height: 720
  fps: 6
  enabled: true
model:
  path: /config/model_cache/tensorrt/yolov7-320.trt
  input_tensor: nchw
  input_pixel_format: rgb
  width: 320
  height: 320

tinatiao

请问一下这个配置好了为什么检测不到人呢？  是不是我配置有什么问题mqtt:
  host: 192.168.31.1
  port: 1883
  user: !!!!
  password: !!!
detectors:
  tensorrt:
    type: tensorrt
    device: 0 #This is the default, select the first GPU
detect:
  width: 704
  height: 576
  fps: 5
  enabled: true
model:
  path: /config/model_cache/tensorrt/yolov7-320.trt
  input_tensor: nchw
  input_pixel_format: rgb
  width: 320
  height: 32

objects:
  track:
    - person
    - bicycle
    - car
    - motorcycle
    - cat
    - dog
    - tree

record:
  enabled: True
  retain:
    days: 3
    mode: motion
  events:
    retain:
      default: 30
      mode: motion
snapshots:
  enabled: true
  retain:
    default: 30

cameras:
  keting: # <--- this will be changed to your actual camera later
    enabled: true
    ffmpeg:
      inputs:
        - path: rtsp://
          roles:
            - detect
  woshi:
    ffmpeg:
      inputs:
        - path: rtsp:
          roles:
            - detect #
  chezhan:
    ffmpeg:
      inputs:
        - path: rtsp:/
          roles:
            - detect #


auth:
  # Optional: Enable authentication
  enabled: false

version: 0.14

gasment

tinatiao 发表于 2024-11-13 01:56
请问一下这个配置好了为什么检测不到人呢？  是不是我配置有什么问题mqtt:
  host: 192.168.31.1
  port: 1 ...

没配置检测区域吗

tinatiao

看这个debug里面也检测不到人，我之前用核显的时候除了检测器配置，其他的也是一样设置的，可以检测到人。