
G検定#22|性能向上は画像認識コンペから始まった?
皆さん、ご安全に!! 技術屋たかちゃんです。
スマートフォンで猫の写真を撮り、画像検索にかける。画面には「猫」と表示される。
何気ない機能ですが、コンピューターにとっては大仕事です。
写真には、毛並み、耳、目、背景、光の反射など、膨大な情報が詰まっています。猫が横を向いていても、暗い場所にいても、AIは猫だと判断します。
いったい、何を手掛かりに見分けているのでしょうか。
今回は、画像認識の基本となる「物体認識」と、その技術を大きく進化させたモデルの歴史を追いかけます。
画像全体を見て、何が写っているかを判断する
物体認識は、画像全体に何が写っているのかを判定し、「猫」「犬」「自動車」といった分類ラベルを付ける技術です。
似た言葉に「物体検出」があります。
物体認識が画像の内容を分類するのに対し、物体検出は画像のどこに何があるのかまで特定します。
例えば、駐車場の写真を見て「自動車」と判断するのが物体認識。写真の中にある3台の車を、それぞれ四角い枠で囲むのが物体検出です。
この技術の発展を語るうえで欠かせないのが、ILSVRCという画像認識コンペです。
相棒のAI(アイ)君が調べたところでは、ILSVRCは大規模画像データセットImageNetを使い、2010年から2017年まで毎年開催された国際的な画像認識コンペ(競技)だったそうです。
世界中の研究者が同じ画像データを使い、どれだけ正確に物体を認識できるか競っていたらしいです。
研究者たちの競争が、画像認識の技術を大きく前進させました。
画像認識を変えた5つのモデル
2012年:AlexNet
画像認識の歴史を大きく動かしたのがAlexNetです。
畳み込み層5層と全結合層3層、合計8層からなるCNN(畳み込みニューラルネットワーク)です。
CNNは、画像から輪郭や模様、形状などの特徴を自動的に学習する仕組みです。
AlexNetは、大量の画像データ、GPUによる高速計算、ReLUという活性化関数、ドロップアウトという過学習を抑える技術などを組み合わせました。
そして2012年のILSVRCで圧倒的な成績を収めます。
当時の研究者たちに大きな衝撃を与え、ディープラーニングブームを加速させたモデルです。
2014年:VGGとGoogLeNet
2014年には、異なる発想を持つ2つのモデルが登場します。
オックスフォード大学の研究グループが開発したVGGは、3×3という小さなフィルターを何層も積み重ねたシンプルな構造です。VGG16やVGG19というモデルが知られています。
同じ年に優勝したGoogLeNetは、Googleが開発した22層のモデルです。
特徴は「インセプションモジュール」。
1×1、3×3、5×5など異なるサイズのフィルターを並列に動かし、さまざまな大きさの特徴を同時に捉えます。
細部を見る仕組みと、広い範囲を見る仕組みを組み合わせた設計です。
2015年:ResNet
次に登場したのがResNetです。
最大152層という深いネットワークを実現しました。
ところが、ニューラルネットワークは層を増やせば単純に性能が上がるわけではありません。深くなるほど学習が難しくなり、勾配消失などの問題が起きます。
ResNetは「スキップ結合」という仕組みで、この勾配消失の問題に対処しました。
途中の層を飛び越えて情報を伝え、入力からの変化分を学習する「残差学習」を採用しています。
2015年のILSVRCでは、画像分類の評価で人間の基準を上回る結果を示しました。これは特定のデータセットと評価条件での比較です。
2017年:SENet
2017年のILSVRC画像分類部門で優勝したのがSENetです。
特徴は「SEブロック」という仕組みです。
画像から抽出した特徴には、複数のチャネル(特徴を表す情報の通り道)があります。SEブロックは、それぞれのチャネルの重要度を学習し、必要な特徴を強調します。
画像を見るとき、どの情報に注目するかを調整する仕組みに近いものです。
ILSVRCは2017年を区切りに、以降の運営をKaggleへ引き継ぎました。
精度を追いかけた先に現れた問題
高性能な画像認識モデルが登場すると、実用化に向けて別の問題が浮かび上がりました。
計算量です。
研究室の大型コンピューターなら動かせても、スマートフォンや小型機器では処理が重すぎる。電力も必要になります。
そこで登場したのが、軽量化を重視したモデルです。
MobileNet:計算量を抑え、スマートフォンなどでの利用を想定したCNN。
NASNet:ネットワークの構造を自動的に探索するNAS(ニューラルアーキテクチャ探索)を活用。
EfficientNet:ネットワークの深さ、幅、入力画像の解像度をバランスよく調整。
AIの性能は正解率だけでは決まりません。処理速度、消費電力、搭載できるメモリー。実際の製品に組み込むには、こうした条件も関係します。
高性能なエンジンを積んでも、燃料を大量に消費する車では使いにくい。機械設計にも通じる話です。
CNNからVision Transformerへ
近年、画像認識で有力な手法となっているのがVision Transformer(ViT)です。
Transformerは、もともと自然言語処理で発展した技術です。文章の中にある単語同士の関係を調べる仕組みを、画像認識に応用しました。
ViTでは、画像を小さな四角形の領域に分割します。この一つひとつを「パッチ」と呼びます。
例えば、猫の写真を細かく切り分け、それぞれのパッチをTransformerに入力します。パッチ同士の関係を調べながら、画像全体を認識していきます。
初期のViTはCNNを使わず、Transformerを中心に構成されています。
2020年に発表された研究では、大規模な事前学習を行うことで、CNNに匹敵する画像分類性能を示しました。
文章を理解するために生まれた技術が、画像の世界に入ってきたわけです。
猫を見る方法まで変わってきた
AlexNetからResNet、SENet、そしてViT。
この歴史を追っていて、僕が面白いと感じたのは、画像認識の進化が単純な性能競争ではなかったことです。
最初は大量の画像を学習し、精度を高める。次に、深いネットワークでも学習できる仕組みを考える。実用化が進めば、今度は計算量や消費電力が問題になる。
技術が進むたびに、新しい課題が顔を出します。
そして、CNNとは異なる発想から生まれたTransformerが画像認識に加わりました。
人間は猫を見れば、耳や目、毛並みを手掛かりに自然と判断します。AIは画像を数値に変換し、学習した特徴や領域同士の関係から答えを導きます。
同じ写真を見ているのに、頭の中で起きている処理はまるで違う。
次にスマートフォンの画面へ「猫」と表示されたとき、僕はその裏側で何億回もの計算が動いていることを思い出しそうです。
技術屋たかちゃんでした。ご安全に!!
G検定 連載
前回:
次回:
目次(マガジン):
G検定重要用語集
1. 画像認識の基本用語
① 画像認識(Image Recognition)
画像に何が写っているかを判定する技術。画像全体を「猫」「犬」「自動車」などのクラスに分類する処理を指す。
② 物体認識(Object Recognition)
画像に含まれる物体の種類や特徴を識別する技術。画像全体の分類だけでなく、個々の物体を識別する意味で使われる場合もある。
③ 物体検出(Object Detection)
画像内の物体の種類と位置を特定する技術。一般に、物体を囲むバウンディングボックスとクラスラベルを出力する。
④ 画像分類(Image Classification)
画像全体に対して、あらかじめ定義されたクラスのラベルを付ける処理。例えば、画像を入力して「猫」や「犬」と判定する。
⑤ CNN(畳み込みニューラルネットワーク)
画像認識で広く使われてきたニューラルネットワーク。畳み込み層によって画像の局所的な特徴を抽出し、層を重ねながら複雑な特徴を学習する。
⑥ フィルター(カーネル)
画像の一部分に適用して特徴を抽出する小さな数値配列。輪郭や模様などの特徴を検出するために使われる。CNNでは学習によってフィルターの値が調整される。
⑦ 特徴マップ(Feature Map)
CNNの畳み込み処理によって生成される特徴の表現。画像のどの位置に、どのような特徴が存在するかを数値として表す。
⑧ 全結合層(Fully Connected Layer)
前の層のすべてのユニットと接続する層。CNNでは、畳み込み層などが抽出した特徴を受け取り、最終的なクラス分類などに利用される。
2. 画像認識の歴史を変えたモデル
⑨ ILSVRC(ImageNet Large Scale Visual Recognition Challenge)
大規模画像データセットImageNetを使った画像認識コンペ。2010年から2017年まで開催され、AlexNetやResNetなどの画像認識技術の発展に大きな影響を与えた。
⑩ ImageNet
画像認識の研究に使われる大規模な画像データセット。多数の画像にカテゴリー情報が付与されており、ILSVRCの主要な学習・評価データとして利用された。
⑪ AlexNet
2012年のILSVRCで注目を集めたCNNモデル。GPUによる計算、大量の学習データ、ReLU、ドロップアウトなどを活用し、ディープラーニングの画像認識への応用を大きく前進させた。
⑫ VGG
2014年に発表されたCNNモデル。3×3の小さな畳み込みフィルターを多数積み重ねるシンプルな構造が特徴。VGG16やVGG19などが知られている。
⑬ GoogLeNet(Inception)
2014年のILSVRC画像分類部門で優勝したCNNモデル。異なるサイズの畳み込みを並列に実行するインセプションモジュールを採用し、計算効率と特徴抽出能力を両立させた。
⑭ インセプションモジュール(Inception Module)
複数サイズの畳み込み処理を並列に行い、その結果を統合する構造。画像の細かな特徴と広い範囲の特徴を同時に捉えることを目的としている。
⑮ ResNet(Residual Network)
2015年に登場した深いCNNモデル。スキップ結合によって層を飛び越えて情報を伝える構造を採用し、非常に深いネットワークの学習を可能にした。
⑯ スキップ結合(Skip Connection)
ニューラルネットワークの途中の層を飛び越えて、入力情報を後続の層へ直接伝える仕組み。勾配の伝播を助け、深いネットワークの学習を安定させる。
⑰ 残差学習(Residual Learning)
入力と出力の差分である残差を学習する方法。ResNetでは、各層が入力そのものではなく、入力に加えるべき変化を学習することで深いネットワークの学習を容易にした。
⑱ SENet(Squeeze-and-Excitation Network)
チャネルごとの重要度を学習し、特徴を強調するCNNモデル。SEブロックを使って、画像認識に有効な特徴情報を適応的に調整する。
⑲ SEブロック(Squeeze-and-Excitation Block)
特徴マップの各チャネルについて重要度を計算し、重み付けする仕組み。チャネル間の関係を学習し、重要な特徴を強調する。
3. CNNの学習に関係する用語
⑳ GPU(Graphics Processing Unit)
画像処理や並列計算に適したプロセッサ。大量の行列演算を高速に実行できるため、ディープラーニングの学習や推論に広く利用される。
㉑ ReLU(Rectified Linear Unit)
ニューラルネットワークで使われる活性化関数。入力が0以下なら0、正ならそのまま出力する。計算が簡単で、勾配消失を起こしにくいという利点がある。
㉒ 活性化関数(Activation Function)
ニューラルネットワークの各層の出力を変換する関数。非線形性を導入することで、複雑な関係を学習できるようにする。ReLUやSigmoidなどがある。
㉓ ドロップアウト(Dropout)
学習時に一部のニューロンをランダムに無効化する正則化手法。特定のニューロンに過度に依存することを防ぎ、過学習の抑制を図る。
㉔ 過学習(Overfitting)
学習データに過度に適合し、未知のデータに対する予測性能が低下する現象。ドロップアウトやデータ拡張、正則化などによって抑制する。
㉕ 勾配消失問題(Vanishing Gradient Problem)
誤差逆伝播の過程で勾配が小さくなり、入力に近い層まで十分に伝わらなくなる問題。深いニューラルネットワークの学習を難しくする原因の一つ。
4. 軽量化・効率化に関する用語
㉖ MobileNet
スマートフォンや組み込み機器など、計算資源が限られた環境での利用を想定した軽量CNN。Depthwise Separable Convolutionなどを利用して計算量とモデルサイズを削減する。
㉗ Depthwise Separable Convolution(深さ方向分離畳み込み)
通常の畳み込みを、チャネルごとに処理するDepthwise Convolutionと、チャネル間を統合するPointwise Convolutionに分ける手法。計算量を大幅に削減できる。
㉘ NAS(Neural Architecture Search)
ニューラルネットワークの構造を自動的に探索する技術。人間が設計していた層の構成や接続方法などを、アルゴリズムによって最適化する。
㉙ NASNet
ニューラルアーキテクチャ探索(NAS)を利用して設計されたCNNモデル。ネットワーク構造の探索を自動化し、画像認識性能の向上を目指した。
㉚ EfficientNet
ネットワークの深さ、幅、入力画像の解像度をバランスよく調整するCNNモデル。複数の規模を効率的に設計する複合スケーリングを採用している。
㉛ 推論(Inference)
学習済みモデルに新しいデータを入力し、予測や分類などの結果を出す処理。学習とは異なり、通常はモデルのパラメーターを更新しない。
㉜ 計算量(Computational Cost)
モデルの学習や推論に必要な計算処理の量。計算量が大きいほど、処理時間や必要な電力、ハードウェア性能への要求が高くなる傾向がある。
5. Transformerと画像認識
㉝ Transformer
Attention機構を中心に構成されたニューラルネットワーク。もともと自然言語処理向けに提案され、系列データの関係性を効率的に学習できる。画像認識にも応用されている。
㉞ Attention(注意機構)
入力情報の中から、予測に関係する部分に重みを付けて利用する仕組み。TransformerではQuery、Key、Valueを使って情報同士の関連度を計算する。
㉟ Vision Transformer(ViT)
画像を小さなパッチに分割し、それぞれをTransformerに入力して画像を認識するモデル。CNNの畳み込みを中心としない構造で、画像内の広い範囲の関係を学習できる。
㊱ パッチ(Patch)
ViTで画像を分割した小さな領域。各パッチを数値ベクトルに変換してTransformerに入力する。文章処理におけるトークンに近い役割を持つ。
㊲ 事前学習(Pre-training)
本来の目的となる学習の前に、大量のデータを使ってモデルの基本的な特徴や表現を学習させること。ViTでは大規模な事前学習が性能向上に重要な役割を果たす。
㊳ 自己注意機構(Self-Attention)
入力データの各要素が、同じ入力内のほかの要素とどの程度関係するかを計算する仕組み。ViTでは画像パッチ同士の関係を学習するために使われる。