
AIが3回まちがえて、3回とも人間の一言で止まった夜
(この連載はAIが書き、社長が検収しています。実際にあった出来事だけを書いています)
はじめまして。52歳のひとり社長です。コードは書けません。エンジニアを雇っているわけでもありません。それでもこの夏、AIと一緒にアプリを6本作り、いま5本が実際に動いています。
この連載は、その開発の日々を「盛らずに」書く日記です。
なぜ始めるのか。理由はひとつで、AIを使っていない人に「すごい」としか言えない自分が悔しかったからです。「AIってすごいですよ」では、使ったことのない人には何も伝わりません。何がどう仕事になって、どこで転ぶのか。それを具体的に書けて初めて、体験は他人の道具になる。そう思ったので、うまくいった日もやらかした日も、そのまま書きます。
朝は「魔法」だった
先日の日曜日の話をします。
朝、私はAIにこう聞きました。「LPの動画化ってできる?」
思いつきの一言です。4分後、試作品が返ってきました。追加の課金はゼロ。手元のツールだけで、1本の原稿から縦横比の違う4種類の動画を書き出す仕組みまで、その日のうちにできあがりました。
ここだけ切り取れば「AIすごい」の話です。実際、朝の私はそう思っていました。
夜は、そうではなかった
同じ日の夜。参加している講座の課題を、締切までにAIと仕上げる作業をしていました。人のリストを整理して、資料にまとめて提出する。地味ですが、間違いが許されないタイプの仕事です。
ここでAIは、3回まちがえました。
1回目。私のメモを「T先生からの指示」だと取り違えて、そのまま作業を進めようとしました。
2回目。データの一部だけを見て「これで全部です」と断定しました。
3回目。どこにも書かれていない締切を、前の作業から引き継いで「期限はこの日です」と言い切りました。
注目してほしいのは、3回とも、AIは自信満々だったことです。「たぶん」とは言いません。断定します。
そして3回とも、止めたのは私の聞き返しでした。特別な質問ではありません。ふだんから口にしている、やわらかい確認です。
「それ、あってますか?」
詰めるのではなく、確かめる。出典はどこか。全部見たと言える根拠は何か。その締切は誰が言ったのか。そう聞き返すたびに、AIは「確認します」と言って調べ直し、毎回、穴が見つかりました。
なぜ非エンジニアの私が穴を突けたのか
コードが読めるからではありません。私はいまだに読めません。
前職で長くプロジェクトマネジャーをやってきたからです。PMの仕事は、部下の「できました」を鵜呑みにしないことです。根拠は何か、全件見たのか、その期限は誰が決めたのか。人間のチームで22年やってきた検収の質問が、AI相手にそのまま通用しました。むしろAI相手のほうが効きます。AIは悪気なく断定するからです。
「PMだったからできたんでしょう」と思われるかもしれません。たしかに、疑って確かめる習慣が身についたのは、22年PMとして検収をやってきたからです。そこは間違いなくPM経験のおかげです。ただ、その習慣の中身をよく見ると、特別なのはPMという肩書きの技術そのものではありません。「それ、あってますか?」——根拠は何か、全部見たのか。これは部下の「できました」を確かめる、社長なら誰でも毎日やっているはずのあの確認です。習慣の出どころは人それぞれでも、いま疑って確かめる習慣を持っているかどうかが再現の条件だと思います。コードが読めればそのぶん心強いのは間違いありません。それでも、読めないことは始める障壁にはならない、というのが私の実感です。
この夜、わかったことを整理するとこうなります。
AIは「作る速さ」では人間を圧倒する。朝の4分がそれです。
AIは「自分の間違いに気づく力」が弱い。夜の3連続がそれです。
だから人間の仕事は、作ることではなく監査することに寄っていく。
「AIはこんなにすごい」でも「AIはまだ使えない」でもなく、役割分担が変わるという話だと思っています。作るのはAI、疑うのは人間。この分担にしてから、うちの開発は仕事として回るようになりました。
ちなみにこの夜、AIと私は深夜までかけて課題を締切内に提出しました。途中、AIのブラウザ操作が止まって、私がスマホでスクリーンショットを撮って渡す場面もありました。魔法ではなく、そういう泥臭い共同作業です。
最後にひとつ、正直な告白
この連載の下書きは、うちの統括AI(「リベロ」と呼んでいます)が書いています。ただし公開前に、私が例の質問をします。「それ、あってますか?」——実名は出ていないか、数字は実測か、盛っていないか。
つまりこの連載自体が、AIと人間の役割分担の実物です。
次回は、AIが出してきた成果物を非エンジニアがどう検収しているか、質問のパターンをもう少し具体的に書きます。
まとめ

この章で気づいたこと
・AIは「作る速さ」では圧倒的だが、「自分の間違いに気づく力」は弱い
・AIは自信満々に断定してくる。「たぶん」とは言わない。だから疑う側に回らないと止まらない
・止める言葉は特別なものではなく、ふだん口にしているやわらかい確認(「それ、あってますか?」)で十分だった
・前職22年のPMの検収の質問(根拠は何か、全件見たか、期限は誰が決めたか)が、AI相手にそのまま効いた
改善できたこと
・AIの断定に対して「それ、あってますか?」を固定の確認にした
・「作るのはAI、疑うのは人間」という役割分担を、実際に言葉にして運用に落とした
今後の課題
・「3回まちがえた」は当日の出来事の一部を採用した数え方。もっと多くの間違いをどう数え、どう記録に残すかはまだ決めていない
・監査の質問パターンをまだ自分の言葉で体系化できていない(次回に持ち越し)
あなたにもできます。
PMの肩書きがなくても、疑う習慣さえあれば、AIの仕事は止められます。
「それ、あってますか?」から、始めてみてください。
52歳・非エンジニア・ひとり社長が、AIと一緒にアプリを作る日々を記録しています。
【相談窓口】30分・無料で聴きます。AIをどう使っているか、うちの会社でも同じことができるか——気になることを聴かせてください。売り込みはしません。ご希望は、この記事のコメントか note のメッセージでどうぞ。