tensorrt更新10版本后,推理速度得到大幅增加,资源消耗也大幅减小,但推理代码也有部分需要修改。

封装了一份tensorrt10的推理代码,有需要可以自取。

https://github.com/caoxuanhu/infrt_trt10.git

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐