比CNN表现更好，CV领域全新卷积操作OctConv厉害在哪里？

最新推荐文章于 2026-05-17 08:04:20 发布

转载最新推荐文章于 2026-05-17 08:04:20 发布 · 536 阅读

OctConv，一种由Facebook AI等机构研发的新型卷积操作，针对图像处理中的多空间频率特征映射和空间冗余问题，通过存储低分辨率特征图降低内存和计算成本，实现在保持甚至提高精度的同时，大幅降低资源消耗。此技术直接替换标准卷积层，无需调整网络结构，适用于多种图像和语音识别任务。

大数据文摘出品

编译：sailnj

CNN卷积神经网络问世以来，在计算机视觉领域备受青睐，与传统的神经网络相比，其参数共享性和平移不变性，使得对于图像的处理十分友好，然而，近日由Facebook AI、新家坡国立大学、360人工智能研究院的研究人员提出的一种新的卷积操作OctConv使得在图像处理性能方面得到了重大突破与提升，OctConv和CNN中的卷积有什么不同呢？

论文下载地址：

https://arxiv.org/pdf/1904.05049.pdf

CNN网络中的卷积层主要用来提取图像特征，如下图所示，利用卷积核（也称滤波器）对输入图像的每个像素进行卷积操作得到特征图，由于图像中相邻像素的特征相似性，卷积核横扫每个位置，独立的存储自己的特征描述符，忽略空间上的一致性，使得特征图在空间维度上存在大量的冗余。

图1 普通卷积操作示意图

OctConv主要基于于处理多空间频率的特征映射并减少空间冗余的问题提出的。

原文地址：

https://export.arxiv.org/pdf/1904.05049

下面文摘菌将从论文的四个部分展开对OctConv原理的阐述。

Why?—OctConv之诞生

文章摘要（Abstract)部分指出，在自然图像中，信息以不同的频率传输，其中高频率通常以细节进行编码，而较低频率通常以总体结构进行编码，同理卷积层的输出可以看做不同频率的信息混合，在论文中，研究者提出通过频率对特征融合图进行分解，并设计出了一种新的Octave卷积（OctConv）操作，旨在存储和处理在空间上变化缓慢的较低分辨率的特征图，从而降低内存和计算成本。与现存的多尺度方法不同，OctConv是一种单一、通用、即插即用的卷积单元，可以直接代替普通卷积，而无需调整网络结构。

OctConv与那些用于构建更优拓扑或者减少分组或深度卷积中信道冗余的方法是正交和互补的。

实验表明，通过使用OctConv替代普通卷积，能很好的提高语音和图像识别任务中的精度，同时降低内存和计算成本，一个配备有OctConv的ResNet-152能够以仅仅22.2 GFLOP在ImageNet数据集上达到82.5%的top-1分类准确率。

What?—初探OctConv

论文Introduction（介绍）部分基于CNN现存的空间维度冗余问题引出了下图：

图2 论文思路阐述图

（a）动机：研究表明，自然图像可以分解为低空间频率和高空间频率两部分；
（b）卷积层的输出图也可以根据空间频率进行分解和分组；
（c）所提出的多频特征表示将平滑变化的低频映射存储字低分辨率张量中，以减少空间冗余；
（d）所提出的OctConv直接作用于这个表示。它会更新每个组的信息，并进一步支持组之间的信息交换。

具体解释为：如图 2(a) 所示，自然图像可以分解为描述平稳变化结构的低空间频率分量和描述快速变化的精细细节的高空间频率分量。类似地，我们认为卷积层的输出特征映射也可以分解为不同空间频率的特征，并提出了一种新的多频特征表示方法，将高频和低频特征映射存储到不同的组中，如图 2(b) 所示。因此，通过相邻位置间的信息共享，可以安全地降低低频组的空间分辨率，减少空间冗余，如图 2(c) 所示。

How?—再探OctConv

论文Method（方法）部分：octave feature 减少了空间冗余，比原始表示更加紧凑。然而，由于输入特征的空间分辨率不同，传统卷积不能直接对这种表示进行操作。避免这个问题的一种简单方法是将低频部分上采样到原始的空间分辨率，将它与连接起来，然后进行卷积，这将导致额外的计算和内存开销。为了充分利用紧凑的多频特征表示，我们提出 Octave Convolution，它可以直接在分解张量X={X^H，X^L}上运行，而不需要任何额外的计算或内存开销。

Octave Convolution的设计目标是有效地处理相应张量中的低频和高频分量，同时使得Octave特征表示的高频分量和低频分量之间能够有效通信。设X,Y为分解输入和输出张量，那么输出的高频和低频信号将由下式给出：