从0到上线:用 Docker + TensorRT 将 YOLO 人体检测推理速度提升数倍(上篇)

往期文章
RK3588+docker+YOLOv5部署:https://blog.csdn.net/FJN110/article/details/149673049
RK3588测试NPU和RKNN函数包装https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机:https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署、车牌检测于识别项目、人脸属性分析(年龄、性别、名称、是否佩戴口罩)等知识
好的进入本节课程:
在安装全部的库之后,大概会占用根目录30G左右的空间,所以在配置ubuntu的时候应该多配置一些空间给根目录
安装docker 的pytorch报会占用14GB的空间,没有空间需要慎重
本来用tensorRT的docker还需要多6GB的空间,但是如果你没空间的话可以跳过,因为我们已经在本地安装了TensorRT了,直接用本地的也行。
如果你没有进行前面的步骤,直接从这节开始,只用docker的方式,应该30GB以内就能完成。
所以你需要查看自己的根目录还有没有30GB空间
用df -h查看目前的空间情况
首先需要获得一个pt权重文件,我们才能部署,如果你不想要重新训练,你可以直接用我的pt文件进行TensorRT部署,跳过yolo安装、训练这些过程
代码在文章底部。
推理效果:
在这里插入图片描述
本节分上下两节,部署的部分为下节内容,本节主要是训练yolov5模型,为后面TensorRT准备

YOLOV5 人员检测项目

一、安装Pytorch 及 YOLO v5

1.1 安装GPU版 pytorch

  • 方法一:conda虚拟环境
    这种方式在环境搭建中有更为详细的介绍(环境搭建是一个文档,如果需要的话私信我)

首先,请参考上一节课将GPU driver, cuda, cudnn先安装完毕。

# 使用conda虚拟环境(安装文档:https://docs.conda.io/en/latest/miniconda.html)

# 创建conda虚拟环境,参考你选择的版本安装即可

# 最新版:https://pytorch.org/get-started/locally/
# 历史版本:https://pytorch.org/get-started/previous-versions/
  • 方法二:docker 方式(推荐)

使用docker主要是因为与主机性能区别不大,且

基于YOLOv10的课堂行为检测系统:从算法原理到教育场景落地实践 目标检测是计算机视觉的核心任务之一,旨在从图像或视频中定位并识别出感兴趣的目标物体。其工作原理通常基于深度卷积神经网络,通过特征提取、区域建议和分类回归等步骤,实现对目标的精准定位与识别。这项技术的核心价值在于将非结构化的视觉信息转化为结构化的数据,为自动化决策提供支持。在智慧教育、安防监控、工业质检等众多领域,高效、准确的目标检测技术是实现智能化升级的关键。本文聚焦于教育场景下的学生行为分析,探讨如何利用前沿的YOLOv10实时目标检测算法,结合姿态估计与多目标跟踪技术,构建一个兼顾实时性、准确性与隐私保 阅读详情

相关推荐

iNeuOS工业操作系统与AI视觉无缝集成:从SOP到数据闭环的实战指南

在工业自动化和智能制造领域,数据采集与处理是构建数字孪生和实现智能决策的基础。其核心原理在于通过物联网技术将物理世界的状态转化为可计算、可分析的结构化信息。这项技术的价值在于打破传统的信息孤岛,实现从感知、分析到执行的闭环,从而提升生产效率与质量控制水平。典型的应用场景包括产线过程监控、自动化质检以及标准作业程序的数字化稽核。本文聚焦于如何将AI视觉分析能力深度融入iNeuOS工业互联网操作系统,通过边缘计算架构和MQTT通信协议,实现非结构化视觉信息与核心生产数据的实时联动与闭环管理,为工业现场提供了一套

weixin_30655569的博客 414

TensorRT8.2.1.8基于Docker容器快速安装

基于Docker安装Tensorrt的方法介绍

NLP算法工程师,主要研究人机对话系统、机器翻译算法,文本生成、大模型等算法研究 1949

深度学习容器化部署实战:Docker+TensorRT推理优化(YOLO人体检测)全流程详解(上篇)7

摘要:本文介绍了基于YOLOv5的人员检测项目部署流程。重点包括:1)系统需求,建议为根目录预留30GB空间;2)两种Pytorch安装方式(conda虚拟环境与docker容器),推荐使用docker方式简化配置;3)YOLOv5环境配置及预训练模型测试;4)自定义数据集训练方法,包括使用labelImg标注工具和数据集目录结构组织。特别说明:若空间不足可跳过TensorRT部分直接使用本地安装,或直接使用作者提供的pt权重文件进行部署。文中提供了详细的命令行操作步骤和目录结构示意图。

FJN110的博客 250

当交警手势遇见边缘计算:轻量化手势识别系统的落地挑战

本文探讨了边缘计算环境下交警手势识别系统的技术挑战与解决方案,结合OpenPose和LSTM算法优化,实现轻量化部署。通过深度可分离卷积、量化感知训练等技术创新,在算力受限的边缘设备上达到高效实时识别,为智能交通系统提供可靠支持。

weixin_29079671的博客 632

WeDetect:基于视觉-语言检索的目标检测新范式

目标检测正从传统回归与分类耦合范式,向开放、灵活、可扩展的多模态检索范式演进。检索式检测(Retrieval-based Detection)将检测任务重构为视觉特征与文本语义的联合匹配过程,依托候选框索引库与双塔架构,天然支持开放词汇、零样本识别与小目标定位。其技术价值在于解耦空间感知与语义理解,消除NMS与anchor匹配等冗余计算,显著提升推理效率与跨场景泛化能力。典型应用场景包括工业质检中的缺陷新增识别、遥感图像小目标检测、低光照鲁棒视觉系统等。WeDetect正是这一范式的代表性实现,深度融合视觉

weixin_30878501的博客 356

团子杂记:SAP收入确认工具RAR(Revenue Recognition&Reporting)在新收入准则下的应用

SAP收入确认工具RAR知识分享

Lucas1211的博客 4265

手把手式介绍 ADNI 影像数据下载

1.搜索 1.1登录 打开ADNI的官网:http://adni.loni.usc.edu/,进入下面的界面。 点击 DATA&SMPLES 下的 ACCESS DATA AND SAMPLES,如下图。 页面跳转以后点击中间的“LOGIN”,这时会跳出一个新的界面,然后在右上角输入自己的帐号、密码即可。如果没有权限可以跳转到第2部分看看如何申请权限。 登录以后选择DOWNLOAD下的 Image Collections就是搜索下载影像数据,其他还有一些学习测试数据和遗传数据。 1.2 sea

永远想不起来更新的博客 1万+

NR RRC协议(2)---RRC连接建立流程

RRC连接建立目的是建立SRB1 RRC连接建立还用于将初始NAS消息从UE传送到网络 RRC连接的初始阶段期间,不激活AS安全性 RRC连接建立由UE侧发起

crg2046的博客 1890

《小白入门:无人机电调 ESC 的 PWM 接口特性、主流协议与使用指南》

电调是无人机的 “动力中枢”,其 PWM 接口是入门的基础,而 SBUS、DroneCAN 等协议则代表了更高阶的控制方式。小白学习时,需先掌握 PWM 的基本特性和连接方法,再根据场景选择合适的协议,同时严格遵守使用注意事项(如电源匹配、校准步骤、安全操作)。随着实践深入,逐步理解 “协议差异” 和 “系统协同”,才能让无人机更稳定、安全地飞行。

bother3000的博客 3749

45、概率与模糊性:粗糙事件与模糊事件概率的探索

本文探讨了概率理论与模糊性理论在处理现实世界不确定性中的应用,重点分析了模糊事件和粗糙事件的概率定义、性质及其条件概率。同时,介绍了近似贝叶斯网络分类器在信息系统中的应用,以及如何通过概率决策约简提高分类效率。这些方法为处理不确定信息提供了灵活的工具,并在决策和数据分析中具有重要价值。

ik67890123的博客 129

2025华为od机试真题B卷【版本管理】JavaScript实现

在 软件版本管理中,版本号由点分割的数字组成,例如 1.2.3 和 2.8。现在,你需要编写一个函数,计算两个版本号之间的可用版本号个数。这里的可用版本号指的是所有满足 version1<x<version2的版本号x的个数。若 version1 >=version2 返回0.,

MISAYAONE的博客 245

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

上一篇: 从模型训练到RKNN部署:YOLOv8姿态识别在RK3588上的高精度实时落地方案
下一篇: NuImages 数据集转 YOLO 格式全攻略|踩过的坑和完整解决方案汇总
YOLO君
博客等级 码龄6年 1369粉丝 1440原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

YOLO君

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值