nn.Sequential参数及用法详解

关注

原创最新推荐文章于 2026-03-05 00:09:44 发布 786 阅读 AI 写同款· GEO 优化 ›

pytorch中nn.Sequential详解 nn.Sequential是一个序列容器，用于搭建神经网络的模块被按照被传入构造器的顺序添加到容器中。除此之外，一个包含神经网络模块的OrderedDict也可以被传入nn.Sequential()容器中。利用nn.Sequential()搭建好模型架构，模型前向传播时调用forward()方法，模型接收的输入首先被传入nn.Sequential()包含的第一个网络模块中。然后，第一个网络模块的输出传入第二个网络模块作为输入，按照顺序依次计算并传播，直到nn.Sequential()里的最后一个模块输出结果阅读详情

nn.Sequential 是 PyTorch 中用于顺序容器的一个类，它接受一系列模块作为输入，并按照这些模块被添加的顺序来构建计算图。nn.Sequential 的主要参数是一个模块列表，这些模块可以是任何 nn.Module 的子类实例，如卷积层、线性层、激活函数等。

参数

modules (iterable, optional): 一个包含模块的迭代对象。这些模块将按顺序被添加到 nn.Sequential 中。如果没有提供此参数，则 nn.Sequential 将是一个空容器。

用法

1. 直接传递模块列表

你可以直接将一个模块列表传递给 nn.Sequential 的构造函数。

import torch.nn as nn

model = nn.Sequential(
    nn.Conv2d(1, 20, 5),
    nn.ReLU(),
    nn.Conv2d(20, 50, 5),
    nn.ReLU()
)

2. 使用 * 解包

如果你有一个模块的可迭代对象（比如列表或元组），你可以使用 * 操作符来解包它，并将其传递给 nn.Sequential。

layers = [
    nn.Conv2d(1, 20, 5),
    nn.ReLU(),
    nn.Conv2d(20, 50, 5),
    nn.ReLU()
]
model = nn.Sequential(*layers)

在这个例子中，*layers 会将 layers 列表中的每个模块解包出来，并作为独立的参数传递给 nn.Sequential 的构造函数。这样，model 就成为了一个包含这些模块的顺序容器，数据会按照这些模块的顺序进行前向传播。

3. 使用 OrderedDict

当 nn.Sequential 中的模块需要命名时（例如，为了调试或保存/加载模型时保持参数名称的一致性），你可以使用 collections.OrderedDict。注意，从 PyTorch 0.4.1 开始，nn.Module 本身就支持有序注册子模块，因此直接使用 nn.Module 和 add_module 方法可能更加灵活。不过，OrderedDict 仍然是一个有效的选择。

from collections import OrderedDict

model = nn.Sequential(OrderedDict([
    ('conv1', nn.Conv2d(1, 20, 5)),
    ('relu1', nn.ReLU()),
    ('conv2', nn.Conv2d(20, 50, 5)),
    ('relu2', nn.ReLU())
]))

# 现在可以通过名称访问子模块，例如：model.conv1

4. 添加自定义模块

nn.Sequential 也可以包含自定义的模块。假设我们有一个名为 MyCustomModule 的自定义模块类：

class MyCustomModule(nn.Module):
    def __init__(self, ...):
        super(MyCustomModule, self).__init__()
        # 初始化模块内部的层和其他组件

    def forward(self, x):
        # 定义前向传播逻辑
        return x

# 创建Sequential模型，并包含自定义模块
model = nn.Sequential(
    MyCustomModule(...),
    # 其他层...
)

5.拆解 self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n))) # Bottleneck模块，重复n次

当您想要将一行复杂的代码拆分成多行以提高可读性时，可以使用列表推导式（list comprehension）先生成一个模块列表，然后再将这个列表传递给 nn.Sequential。以下是将您提供的代码行拆分成多行的示例：

# 创建一个空的列表，用于存储Bottleneck模块
bottleneck_modules = []

# 使用列表推导式生成n个Bottleneck模块，并将它们添加到列表中
for _ in range(n):
    module = Bottleneck(c_, c_, shortcut, g, e=1.0)
    bottleneck_modules.append(module)

# 使用nn.Sequential将列表中的模块按顺序包装成一个模型
self.m = nn.Sequential(*bottleneck_modules)

注意事项

nn.Sequential 中的模块会按照它们被添加的顺序进行前向传播。
nn.Sequential 不支持在模块之间插入额外的控制流（如条件语句或循环）。对于这样的场景，你应该使用 nn.Module 子类。
当需要命名模块时，虽然可以使用 OrderedDict，但直接使用 nn.Module 子类并调用 add_module 方法通常更加灵活和强大。
nn.Sequential 中的每个模块都应该接受前一个模块的输出作为输入，并返回一个新的输出。这意味着你不能直接在 nn.Sequential 中使用具有多个输入的模块（除非这些输入是通过某种方式在前向传播中合并的）。