ShapeFormer实战：如何通过类特定Shapelet提升多元时间序列分类性能

1. 从“通用”到“专属”：为什么你的时间序列分类模型总在“差不多”上栽跟头？

大家好，我是老张，在AI和时序数据分析这块摸爬滚打了十来年。今天想和大家聊聊一个在工业界和学术界都挺让人头疼的问题：多元时间序列分类。

想象一下这个场景：你手里有一堆来自工厂几十个传感器的数据，温度、压力、振动、电流……你的任务是根据这些随时间变化的“交响乐”，判断机器是在“健康运行”、“轻微磨损”还是“即将故障”。你兴冲冲地搬出了当下最火的Transformer模型，一通训练后，准确率看着还行，但总感觉哪里不对劲——模型好像总是把“轻微磨损”和“健康运行”搞混，或者对某些罕见的故障模式（比如“轴承卡涩”）完全“脸盲”。

这不怪模型笨，问题可能出在我们喂给它的“食物”上。现有的很多先进方法，比如ConvTran、SVP-T，它们像是一个博学的“通才”，擅长从数据里提炼出通用特征。什么是通用特征？就好比看一个人的运动数据，通用特征能告诉你“这个人在运动，心率在上升，步频在加快”。这没错，但它分不清这个人是在“跑步”还是在“快走”，因为这两种运动的总体模式太像了。

而真正决定分类精度的，往往是那些类特定特征。还是运动的例子，“跑步”时脚掌着地的冲击力波形、“快走”时手臂摆动的特定幅度，这些细微的、只属于某个类别的“签名”式模式，才是区分的关键。但在数据不平衡（比如“健康”样本远多于“故障”样本）或者类别间总体模式相似时，模型如果只盯着通用特征，就会变成一个“和事佬”，倾向于把样本分到样本多的或者模式最普遍的类别里去，导致对少数类或相似类的识别一塌糊涂。

ShapeFormer 这篇来自KDD 2024的工作，正是精准地戳中了这个痛点。它不再满足于当个“通才”，而是决心培养一个“通才”+“专家”的组合。它的核心思想非常直观：既然通用特征和类特定特征都重要，那我们就用两个专门的模块把它们都抓出来！其中一个模块（通用模块）继续用CNN+Transformer当好“通才”，捕捉全局模式；另一个全新的模块（类特定模块）则化身“侦探”，专门去寻找和利用那些最具类别代表性的短子序列——也就是 Shapelet。

你可能听过Shapelet，在单变量时间序列里它是个老概念了，指的是最能代表一个类别的、最具区分性的短子序列。比如在心电图里，一段特殊的波动可能只出现在“房颤”患者中，这就是一个Shapelet。ShapeFormer的创新在于，它把Shapelet的思想巧妙地“嫁接”到了强大的Transformer架构上，并且是针对多元时间序列。它先从一个叫“离线Shapelet发现（OSD）”的步骤中，为每个类别提取出一批高质量的、候选的Shapelet。然后，在模型训练过程中，这些Shapelet不再是固定的“标本”，而是变成了可学习的参数，通过一个叫 Shapelet Filter 的组件，与输入的时间序列动态交互，计算出一种“差异特征”。这个差异特征，本质上量化了输入序列与各类别“典型代表”之间的差距，正是类特定信息的精华所在。

我实测过不少时间序列分类项目，很多时候模型性能的瓶颈不在于模型不够复杂，而在于特征抓得不够“准”、不够“细”。ShapeFormer这种“双管齐下”的思路，给我的感觉就像是给模型同时配上了“广角镜”和“显微镜”，既能把握大局，又能洞察秋毫。接下来，我们就拆开看看，这个“双镜合璧”的模型到底是怎么工作的。

2. 模型核心解密：ShapeFormer的“双塔”是如何搭建的？

ShapeFormer的整体结构清晰而优雅，它不像一些黑箱模型那样让人摸不着头脑。我们可以把它想象成两个并行的专家在协同工作，最后把意见汇总给一个“主裁判”（分类头）做决策。

2.1 第一步：寻找“指纹”——离线Shapelet发现（OSD）

在模型正式开始学习之前，我们需要先为每个类别准备一些潜在的“指纹”，也就是Shapelet候选。这里，ShapeFormer采用了一种高效的方法，叫做离线Shapelet发现（Offline Shapelet Discovery, OSD）。这个方法的核心是“抓大放小”，用最小的计算代价找到最有区分力的子序列。

传统找Shapelet的方法有点像“大海捞针”，需要从时间序列中截取所有可能长度的所有子序列，然后计算它们的信息增益，计算量爆炸，对于多元长序列几乎不可行。OSD则聪明得多，它用到了一个叫 感知重要点（Perceptually Important Points, PIPs） 的技巧。

你可以把PIPs理解为时间序列的“骨架点”。想象你要用寥寥几笔勾画出一个股价波动曲线的轮廓，你会选哪些点？肯定是那些转折点、峰值、谷底，对吧？PIPs就是干这个的。OSD算法首先把时间序列的开始和结束点作为最重要的两个PIP，然后反复寻找那个与相邻PIP连线“距离”最远的点，把它加进来。这个“距离”是垂直距离，可以理解为该点偏离当前“骨架”的程度。通过这种方式，我们只用原序列长度（T）的20%（即0.2T）个点，就能很好地保留原始序列的形状。

关键来了：每当我们新增一个PIP，我们