基于YOLOv5s的RK3588多线程部署16FPS暴涨到120FPS 轻量化深度学习部署实战教程（包括性能优化与加速）37

墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 9.2k累计阅读 9.2k平均单平台已同步平台 CSDN 微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网我也要 → 码龄6年

关注

原创 2025-07-28 23:33:56 9.2k 阅读 AI 写同款· GEO 优化 ›

YOLOv5v8v13优化与RK、jetson部署同时被 3 个专栏收录

¥29.90 ¥99.00

321篇文章

订阅专栏

往期文章
RK3588RGA加速：https://blog.csdn.net/FJN110/article/details/149697775?spm=1001.2014.3001.5501
RK3588int8量化:https://blog.csdn.net/FJN110/article/details/149689460?spm=1001.2014.3001.5501
RK3588测试NPU和RKNN函数包装：https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机：https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署等知识
好的进入本节课程
在这里插入图片描述

前言

因为RK3588包含了3个NPU核心，支持3个核心同时工作、双核合作、以及单核工作。我们可以使用线程池来加速。
线程池是一种长街的并发编程模型，它用于管理和复用线程，以提高多线程程序的性能和效率。线程池通常包含以下主要组件：

1、任务队列：任务队列用于存储待执行的任务。这些任务可以是函数、方法或其他需要多线程环境中执行的操作。
2、线程池管理：线程池管理器负责创建、销毁和

了解本专栏

订阅专栏解锁全文

收录于

当前文章被以下社区和专栏收录：

标签

#YOLO #深度学习 #性能优化

rk3588 多线程异步提高RK3588的NPU占用率，yolov5s目标检测-python摄像头实时检测65fps,c++实时检测120fps 阅读详情

相关推荐

使用python多线程异步提高模型部署到rk3588NPU使用率-python源码+项目使用说明.zip

使用python多线程异步提高模型部署到rk3588NPU使用率_python源码+项目使用说明.zip 【项目资源说明】使用多线程异步操作rknn模型, 提高rk3588/rk3588s的NPU使用率, 进而提高推理帧数(rk3568之类修改后应该也能使用, 但是作者本人并没有rk3568开发板......) 此分支使用模型yolov5s_relu_tk2_RK3588_i8.rknn, 将yolov5s模型的激活函数silu修改为为relu,在损失一点精度的情况下获得较大性能提升,详情见于rknn_model_zoo 部署应用修改main.py下的modelPath为你自己的模型所在路径修改main.py下的cap为你想要运行的视频/摄像头修改main.py下的TPEs为你想要的线程数, 具体可参考下表修改func.py为你自己需要的推理函数, 具体可查看myFunc函数 多线程模型帧率测试使用performance.sh进行CPU/NPU定频尽量减少误差测试模型为yolov5s_relu_tk2_RK3588_i8.rknn 【备注】更多详细介绍请看说明和代码！

rk3588rk3588s使用c++多线程异步等优化c++实现源码(yolov5运行可达到142fps)+项目使用说明.zip

rk3588rk3588s使用c++多线程异步等优化c++实现源码(yolov5运行可达到142fps)+项目使用说明.zip 【资源介绍】该项目为c++实现, 大体改自rknpu2 使用线程池异步操作rknn模型, 提高rk3588/rk3588s的NPU使用率, 进而提高推理帧数 yolov5s使用relu激活函数进行优化,提高量化能力 rk3568等请自行修改include/rknnPool.hpp下的rknn_lite类和rknnPool的构造函数演示系统需安装有OpenCV 下载Releases中的测试视频于项目根目录,运行build-linux_RK3588.sh 可切换至root用户运行performance.sh定频提高性能和稳定性编译完成后进入install运行命令./rknn_yolov5_demo 模型所在路径视频所在路径/摄像头序号部署应用修改include/rknnPool.hpp中的rknn_lite类修改inclue/rknnPool.hpp中的rknnPool类的构造函数 多线程模型帧率测试更多详细介绍请看说明文档！

python版本基于rk3588的NanoTrack,每秒可达120FPS_NanoTrack_RK3588

python版本基于rk3588的NanoTrack,每秒可达120FPS_NanoTrack_RK3588_python

AI 赋能测试全生命周期：多 Agent 协同的自动化提效方案

本文提出了一种基于Coze平台的多Agent协同测试解决方案，旨在解决软件测试中PRD解析不清晰、测试点覆盖不全、用例编写效率低、代码生成耗时等痛点。通过PRD优化、测试点生成、测试用例生成和单元测试框架生成四个Agent的协同工作，结合Cursor工具实现从需求到代码的全链路自动化。以电商平台登录模块为例，展示了从模糊PRD到标准化测试用例和可执行Java单元测试代码的完整转化流程。该方案通过AI赋能显著提升测试效率，减少人工干预，实现测试覆盖率≥95%，为快速迭代的软件研发提供了高效的测试自动化支持。

QINJIEEE的博客 1091

SAP与泛微OA集成（半导体行业）

本项目通过SAP PO中间件集成SAP与泛微OA在半导体行业的应用，由于行业特殊性，广泛深入应用了RSA加密等特性

集信通 1159

通义千问AI模型对接飞书机器人-集成飞书机器人（2-2）

http请求地址上一篇百炼平台配置的应用地址。

hefaji的博客 1911

图像修复黑科技：对比BM3D/DnCNN等5种去噪器在PNP框架中的实战效果

本文深度评测了BM3D、DnCNN等五款主流去噪器在即插即用（PnP）优化框架中的实战表现。通过量化指标、视觉对比及超分等泛化任务测试，揭示了深度学习模型在性能与收敛速度上的优势，并为不同应用场景提供了选型指南与工程化建议。

weixin_29065959的博客 359

PCL 改进快速欧式聚类【2025最新版】

在FEC: Fast Euclidean Clustering for Point Cloud Segmentation一文的基础上对算法进行改进。博客长期更新，本文最近更新时间为：2025年9月16日。

点云侠的博客 2565

10、网络安全工具：Bettercap 与 Web 应用测试工具全解析

本文详细解析了网络安全工具Bettercap及其在中间人攻击和无线攻击中的应用，同时介绍了多种Web应用测试工具，如Amass、Cadaver、Dirb等，并探讨了工具的使用场景、流程、注意事项以及未来发展趋势，为网络安全测试提供了全面的指导。

u0v1w2x3的博客 222

基于STM32的浴室环境智能控制系统设计

摘要：本文设计了一款基于STM32F103的智能卫浴系统，通过多传感器协同检测浴室环境参数。系统采用DS18B20检测环境与卫浴温度，DHT11监测湿度，MQ-135检测空气质量，光敏电阻测量光照强度，D203S人体热释电模块检测人员存在。当检测到异常参数时，系统自动启动相应调节功能：温度异常时控制加热/制冷继电器，湿度过高时启动通风除湿，空气质量差时进行换气，光照不足且有人时自动开灯。系统支持按键、蓝牙APP和语音三种控制方式，可手动设置参数阈值、切换防雾模式、控制音乐播放等功能。实验结果表明，该系统能有

3254968421的博客 471

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。，新界面，新视觉，

NTscan扫描工具

ntscan是一个扫描器，可以扫描没有密码和弱密码的共享，先到配置文件中填写猜测的用户名和密码，扫描过程中右侧出现的是扫描日志。

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

WINCC7.3破解文件

WINCC7.3硬件够破解文件，有需要的下载！WINCC7.3硬件够破解文件，有需要的下载！

上一篇：基于YOLOv5的RK3588部署与RGA 轻量化深度学习部署实战教程（包括性能优化与加速）36

下一篇： YOLOv8剪枝 lamp剪枝测试精度仅掉0.7个点，速度提高11.8fps！

使用python多线程异步提高模型部署到rk3588NPU使用率-python源码+项目使用说明.zip