不信謠不傳謠，親自動手驗證ModelBox推理是否真的“高效能”

onnxruntime_infer
    ├─onnxruntime_infer.py  # 推理入口指令碼
    ├─utils.py              # 人形檢測後處理
    ├─sort.py               # 跟蹤
    ├─hrnet_post.py         # 關鍵點檢測後處理
    └─smooth.py             # 關鍵點時序濾波

cam = cv2.VideoCapture("../data/dance_120fps.mp4")
size = (int(cam.get(cv2.CAP_PROP_FRAME_WIDTH)), int(cam.get(cv2.CAP_PROP_FRAME_HEIGHT)))
fourcc = cv2.VideoWriter_fourcc(*"mp4v")
out_fps = cam.get(cv2.CAP_PROP_FPS)
res_cam = cv2.VideoWriter("../hilens_data_dir/rt_result.mp4", fourcc, out_fps, size)
det_sess = rt.InferenceSession("../model/det_human/yolov7-tiny.onnx", providers=["DmlExecutionProvider"]) 
pose_sess = rt.InferenceSession("../model/det_pose/pose.onnx", providers=["CPUExecutionProvider"])

class DetPre:
 def __init__(self, net_h=320, net_w=320):
 self.net_h = net_h
 self.net_w = net_w
 def __call__(self, img_data):
 buffer_meta = {}
 buffer_meta["time"] = time.time()
 resized_image, ratio, (dw, dh) = self.letterbox(img_data)
 ...
total_time += time.time() - buffer_meta.get("time")
idx += 1
res_img, pose_data = draw_pose(im, filter_box, pose_data, total_time / idx)
...

single_human_pose
    ├─bin
    │  ├─main.bat                   // 啟動指令碼
    │  └─mock_task.toml             // 本地模擬執行輸入輸出配置檔案
    ├─data
    │  └─dance_120fps.mp4           // 測試視訊
    ├─etc
    │  └─flowunit                   // 功能單元目錄
    │      ├─det_post               // 檢測後處理
    │      ├─det_pre                // 檢測預處理
    │      ├─draw_pose              // 關鍵點繪製
    │      ├─expand_box             // 單人影象切分
    │      ├─object_tracker         // 人形跟蹤
    │      └─pose_post              // 姿態後處理
    ├─graph
    │  └─single_human_pose.toml     // 技能流程圖
    ├─hilens_data_dir               // 執行結果目錄
 │  ├─log
    │  ├─mb_profile                 // 效能統計目錄
 │  │   ├─performance_[time].toml
 │  │   └─trace_[time].toml
    │  ├─dance_result.mp4           // 執行結果視訊
 │  └─rt_result.mp4
    ├─model                         // 推理功能單元
    │  ├─det_human                  // 人形檢測推理
    │  │   ├─det_human.toml         // 推理配置檔案
    │  │   └─yolov7-tiny.onnx       // 推理模型
    │  └─det_pose                   // 關鍵點檢測推理
    │      ├─det_pose.toml
    │      └─pose.onnx
    └─build_project.sh

class draw_poseFlowUnit(modelbox.FlowUnit):
 def open(self, config):
 ...
 self.start_time = time.time()
 self.idx = 0
 ...
 def process(self, data_context):
 ...
 self.idx += 1
 self.draw(out_img, bbox, pose_data, self.idx / (time.time() - self.start_time))
 ...

# 任務輸入,mock模擬目前僅支援一路rtsp或者本地url
# rtsp攝像頭，type = "rtsp", url裡面寫入rtsp地址
# 其它用"url"，比如可以是本地檔案地址, 或者httpserver的地址，(攝像頭 url = "0")
[input]
type = "url"
url = "../data/dance_120fps.mp4"
# 任務輸出,目前僅支援"webhook", 和本地輸出"local"(輸出到螢幕,url="0", 輸出到rtsp，填寫rtsp地址)
# (local 還可以輸出到本地檔案，這個時候注意，檔案可以是相對路徑，是相對這個mock_task.toml檔案本身)
[output]
type = "local"
url = "../hilens_data_dir/dance_result.mp4"

[profile]
profile=true
trace=true

./bin/main.bat