メインコンテンツへスキップ
見出し画像

作る速さは上がった。直す手間は変わらなかった

    前回,予算ゼロの状態から,社内でAIを使えるようになるまでの話を書きました。

    要点だけ繰り返すと,個人契約のAIで在庫管理の画面を作って社長に見せ,「社内のデータを学習されないのか」という質問に3層で答え,最後は「このプランでは改善業務が止まります」と説明して会社契約になった,という話です。

    今回は,その後の話です。会社契約になってからも,私は同じシステムをアップデートし続けています。作りながら分かったことを,これから始める人に向けて書きます。

    先に断っておくと,当初の私のやり方は,今から見るとかなり効率が悪いです。1年で環境が変わりすぎました。


    変わったところ:作る速度

    私は最初のシステムを完成させるのに2か月かけましたが,今の環境なら1週間あれば,実用に足るものが作れると思います。

    当時の作業は,今から見るとかなり原始的でした。

    Excelの中身をコピーしてチャット欄に貼り付ける。一度に扱える情報量が少ないので,HTMLも全体ではなく一部分しか直してもらえない。返ってきた断片を自分でファイルにペーストする。すると今度は全体のバランスが崩れて,別の場所が壊れる。それをまた貼り付けて相談する——この繰り返しでした。

    今はエージェント機能があり,ファイルを直接読んで直してもらえます。一度に扱える情報量も大幅に増えました。「貼り付けて,崩れて,また貼り付ける」というループが丸ごと消えたわけです。速くなったのは当然だと思います。

    今から「最初の1本」を作るなら

    もし今から「最初の1本」を作るなら,私は在庫管理ではなく,QRコードを使った検品システムを選びます。理由は,効果が目に見えるからです。手入力していたものがスキャン一発になる。現場の人がその場で楽になったと分かる。説明が要りません。

    もうひとつ理由があります。在庫管理システムの真価が分かるのは,棚卸のタイミングだからです。効果を実感できるのが1か月先になり,そこまで運用して初めて問題点に気づくこともあります。最初の1本としては,後戻りするまでの期間が長く,直さなければならないデータも多い。失敗したときのダメージが大きいのです。

    変わらないところ:作ったあとの修正

    一方で,まったく速くなっていない部分があります。運用開始後の修正です。

    しかも,複雑なシステムを速く作れるようになったことが,そのまま修正の量を増やしています。順を追って書きます。

    まず,作れるものが複雑になりました。エージェント機能のおかげで,以前なら個人の手に負えなかった規模の仕組みが作れてしまう。

    そして,止まらなくなります。AIを使っていると,「あれもできたら便利だな」が次々に実装できてしまうので,どんどん前に進んでしまう。気づくと,かなり複雑なものが出来上がっています。

    厄介なのは,それがある程度きちんと動いてしまうことです。明らかに壊れていれば,そこで立ち止まります。動かなければ,その仕組みの実装はあきらめます。でも8割動いているものは,そのまま運用に乗ってしまう。残りの2割が,運用後にバグとして噴き出してきます。

    実際に起きたバグ

    材料在庫を管理するシステムでの話です。材料はほとんどが「重さ(kg)」で管理されているのですが,1品目だけは「長さ(m)」で管理されています。

    システムは数か月,何の問題もなく動いていました。ところがある日,長さ管理の材料の入庫データを基幹システムに送ろうとしたら,数量が0になっていました。調べてみると,データを出力する処理が「重さ」の欄しか読んでいなかったのです。長さで管理している材料は重さの欄が空なので,数量0として送られていました。おまけに品目の判定にも穴があり,その材料が別の品目として記録されていました。

    つまり,何十品目のうち例外的な1品目だけが,静かに壊れていた。エラーも警告も出ません。よくある品目はすべて正しく動くので,作った時点では気づきようがなく,実際にその品目を扱う日が来て初めて発覚しました。

    さらに厄介なのは,長さ管理のロジックを最初に組んだ時点では,正常に動いていたことです。その後いろいろな機能を追加していく中で,普段使わない長さのロジックを考慮するのを忘れ,そこだけが置いてけぼりになっていました。

    そして修正は,プログラムを直して終わりではありません。すでに基幹システムへ送ってしまった間違ったデータを洗い出し,1件ずつ訂正する作業がセットでついてきます。

    大きくなったシステムは,一個人では,あらゆるケースを想定してバグを取り切ることはできません。これはAIの限界ではなく,個人開発の限界です。テスト設計をする人も,レビューする人もいないので。

    私は途中で,コードを学ぶのをやめました

    ここで,私自身の話をしておきます。

    不慣れながら,調べながら必死に書いていた時期もあります。AIを使い始めた当初も,勉強のつもりでした。AIが作成したコードを読んで,理解しながら進めていましたが,途中でやめました(おかげで,HTMLは部分的にならある程度理解できます)。

    理由は3つあります。

    1つ目は,自分で直すと壊すからです。一箇所を書き換えると,それに関連する別の場所も同時に直さなければなりません。私はその関連を把握しきれず,直し忘れて不具合を出しました。AIに直させれば,関連する箇所もまとめて面倒を見てくれます。中途半端に自分で触る方が,かえって危険でした。

    2つ目は,AIの進歩が私の学習速度よりはるかに速かったからです。当初は,私が見ただけで「いやいや,さすがにこれはおかしい」と分かるミスも多く,AIに依頼するより自分で直した方が早いこともありました。しかし今のAIエージェントは,作ったあとにテスト環境を組み,テストデータを作って実行し,実際に動くところまで確認してから提出してきます。そこまでされると,私が一目で気づくようなミスは残っていません。

    3つ目は,システムが複雑になりすぎたことです。私はSEの仕事をしたことがなく,複雑なシステムを管理する方法を心得ていません。膨大なシステムを,人が理解し,問題を見つけ,直せる形に保つ——それを職業にしている方々がどうやっているのか,今でも不思議に思うくらいです。現在の私がAIで作ったシステムは,複雑すぎて私の理解の範囲を超えています。

    以上の理由で,今も自分ではコードを書いていません。ただし,コードは読んでいなくとも,仕組みや動作のルールは私が決めて,設計しています。ここは,現時点では必ず人が介入すべき部分だと思っています。この話は,別の記事で書きます。

    それでも,ここまで書いてきたシステムは動いています。参入のハードルは,思っているより低いと思います。分からないことは,そのままAIに聞けば大抵は前に進みます。「自分はプログラマーではないから」は,始めない理由にはならないと思います。

    だからこそ,生成AIで作っていいものには線引きがあります

    ここは,はっきり書いておきます。

    ハードルが低いことと,何を作ってもいいことは別です。

    人の命がかかっている機械を動かす制御系や,金銭が直接絡むものは,この作り方では問題外です。個人が作って個人が直す,というやり方が許される領域ではありません。

    一方,在庫管理くらいのシステムであれば,今の紙の運用と並走する期間を確保すれば,十分にバグ出しは可能だと考えています。二重運用は面倒ですが,この期間を惜しむと,あとで信用を失って誰も使わなくなります。

    つまり,「AIで内製できるか」は技術の問題ではなく,間違えたときに何が起きるかで決まるということです。

    ジレンマと,それでも良いところ

    もうひとつ正直に書くと,アップデート作業は終わりません。

    システムが便利になるほど,現場から「こういうこともできないか」という要望が増えます。これ自体は,とてもいいことだと思います。改善の切り口にシステム化が加わることで,使う側から新しい発想が出てくるようになるからです。ただし,それを取り入れると,さらに複雑になり,またバグ出しの期間が必要になる。ここはジレンマです。

    ただ,自社のローカルルールにぴったり合ったものを作れるというのは,生成AIの一番いいところだと思っています。パッケージ製品を買うと,たいてい業務の方をシステムに合わせることになります。その逆ができる。

    だから,AI導入の本当のコストは,作る時間ではなく直し続ける人間が1人必要になることにあります。ここを見込まずに「AIで内製すれば安く済む」と考えると,たぶん失敗します。

    私が今から社内で提案するなら,作る速さより先に,この点を説明します。


    まとめ

    • 作る速度は大きく上がった。直し続ける手間は変わっていない

    • 速く作れるほど複雑になり,8割動くものがそのまま運用に乗る。残りの2割は運用後に出る

    • 壊れるのは例外的なケース。作った時点では気づけず,実際に扱う日が来て初めて分かる

    • 始めるのにコードの知識は要らない。要るのは,直し続ける覚悟

    • 内製してよいかは技術力ではなく,間違えたときに何が起きるかで決まる

    同じような状況の方の参考になれば幸いです。

    続きとして,「今日からできるAI活用①:紙の表を写真に撮って,Excelにする」を公開しています。

    AIで作れたのに社内で採用されなかった話は,後の記事で書きます。個人的には,通った話よりこちらの方が学びが多かったと思っています。


    この記事は,構成の整理と推敲にAIを使っています。事実関係と主張,そして最終的な表現の判断は,すべて私自身のものです。

     
     

    Big-U

     
     
    製造業の中小企業で,AIを実務に使っています。担当は業務改善で,コードを書く仕事ではありません。予算ゼロから会社契約に至った経緯,社内システムの内製,運用してからの失敗など,現場のリアルなAI活用を,実際にやったことだけで書きます。

    あなたへのおすすめ