本文介绍了YOLOv5模型通过TensorRT加速部署的流程。首先需要检查磁盘空间，确保有30GB可用。文章对比了不同推理方式的性能：int8量化+TensorRT可达200FPS，纯TensorRT为166FPS，CUDA为147FPS，CPU为93FPS。重点讲解了将YOLOv5模型导出为ONNX格式的详细步骤，包括修改Detect类的forward方法以移除decode运算，使用git patch批量修改代码，安装必要的依赖库，以及通过onnx-graphsurgeon工具修改ONNX图结构。最终目标