
消せない・送れない、をあえて作った道具
(この連載はAIが書き、社長が検収しています。実際にあった出来事だけを書いています)
コードが描けないひとり社長のリアルアプリ開発日記(第4回)
前回は、AIの報告の分母を疑いきれなかった話を書きました。技術の内側までは、自分の目が届かないこともあります。今回は、その届かなさを前提にして、道具そのものの設計で備えた話です。
自分専用のアプリを作ることにした
私は、自分の会社の日々の業務改善のために、AIと一緒に小さなアプリを作ることにしました。判断を仰がれたり、確認事項が溜まったりする作業を、画面ひとつでまとめられる道具です。
設計を相談する中で、AIから機能の案がいくつも出てきました。データを消す機能、外部に自動で送る機能。便利にしようと思えば、いくらでも足せます。
私はそのほとんどを断りました。
「できること」より先に「させないこと」を決めた
理由は単純です。削除機能や送信機能を持たせると、AIが一度間違えただけで、取り返しがつかなくなります。必要なデータを消してしまう。まだ確認していない内容を、外に送ってしまう。前回書いたように、私には技術の内側まで見えない部分があります。だとしたら、間違いが起きたときの被害を、あらかじめ小さくしておくしかありません。
だから、この道具は記録を書き足すことはできても、消すことと外へ送ることはできない作りにしました。削除も送信も、必要なら必ず私が別の場所で自分の手を動かします。AIの間違いは、実行される前の「提案」の段階で止まる。そういう作りにしました。
0件と「わからない」を分ける
もうひとつ決めたことがあります。調べた結果が0件だったときは「0件でした」と出す。データそのものが読めなかったときは、0件のふりをせず「取得できませんでした」と出す。この二つを、別の言葉として画面に出し分けるようにしました。
これは細かいようで、実は大きな違いです。「0件」は「調べた結果、何もなかった」という意味です。「取得できませんでした」は「そもそも調べられなかった」という意味です。この二つを混同すると、本当は調べられていないだけなのに「問題なし」と誤解してしまいます。第1回で書いた、AIが自信満々に断定してくる話と根は同じです。分からないことを、分かったことのように出さない。それを画面の表示のルールとして決めました。
「見ていない場所」を隠さない
三つ目は、画面に「まだ見ていない場所」をそのまま出すことです。確認が済んでいない項目を隠さず、常に見えるところに置いておく。人は、目に入らないものは「無い」ものとして扱ってしまいます。だから、見ていない場所こそ、あえて画面の目立つところに置くようにしました。
慎重さを、性格ではなく仕様にする
前職で22年、部下の報告を疑う癖がついたと第1回に書きました。でも、その癖は毎回意識していないと抜けます。疲れている日、急いでいる日は、いつもの疑う癖が働かないこともあります。
だから今回は、その慎重さを自分の性格や習慣に任せるのではなく、道具そのものの仕様として埋め込むことにしました。削除できない。送信できない。0件は「わからない」と別扱いにする。見ていない場所は隠さない。これらは私が毎回気をつけなくても、道具が勝手にやってくれます。
もちろん、これで自由度は下がります。何でもできる道具のほうが、作るのも使うのも楽です。それでも今回は、便利さより先に、間違えたときの被害の小ささを選びました。
次回は、この道具が実際にどう作られたか——朝から夕方までの1日で、どこまでできあがったかを書きます。
まとめ

この章で気づいたこと
削除・送信という強い権限を持たせないだけで、AIの間違いは実行される前の「提案」で止まる
「0件」と「調べられなかった」を混同すると、本当は未確認なのに「問題なし」と誤解する
「見ていない場所」を隠さず出すほうが、結果的に安心につながる
改善できたこと
慎重さを自分の習慣ではなく、道具の仕様として埋め込んだ
「できること」を増やす前に、「させないこと」を先に決める順番にした
今後の課題
権限を絞るほど自由度が下がる。どこまで絞って、どこから任せるか、道具ごとの手探りはまだ続いている
この設計が本当に安全側に効いているかは、まだ使い込んで検証している途中
あなたにもできます。
新しい道具をAIに発注するとき、「これは何をしてはいけないか」を先に決めてみてください。
52歳・非エンジニア・ひとり社長が、AIと一緒にアプリを作る日々を記録しています。
【相談窓口】30分・無料で聴きます。AIをどう使っているか、うちの会社でも同じことができるか——気になることを聴かせてください。売り込みはしません。ご希望は、この記事のコメントか note のメッセージでどうぞ。