メインコンテンツへスキップ
見出し画像

消せない・送れない、をあえて作った道具

    (この連載はAIが書き、社長が検収しています。実際にあった出来事だけを書いています)

    コードが描けないひとり社長のリアルアプリ開発日記(第4回)

    前回は、AIの報告の分母を疑いきれなかった話を書きました。技術の内側までは、自分の目が届かないこともあります。今回は、その届かなさを前提にして、道具そのものの設計で備えた話です。

    自分専用のアプリを作ることにした

    私は、自分の会社の日々の業務改善のために、AIと一緒に小さなアプリを作ることにしました。判断を仰がれたり、確認事項が溜まったりする作業を、画面ひとつでまとめられる道具です。

    設計を相談する中で、AIから機能の案がいくつも出てきました。データを消す機能、外部に自動で送る機能。便利にしようと思えば、いくらでも足せます。

    私はそのほとんどを断りました。

    「できること」より先に「させないこと」を決めた

    理由は単純です。削除機能や送信機能を持たせると、AIが一度間違えただけで、取り返しがつかなくなります。必要なデータを消してしまう。まだ確認していない内容を、外に送ってしまう。前回書いたように、私には技術の内側まで見えない部分があります。だとしたら、間違いが起きたときの被害を、あらかじめ小さくしておくしかありません。

    だから、この道具は記録を書き足すことはできても、消すことと外へ送ることはできない作りにしました。削除も送信も、必要なら必ず私が別の場所で自分の手を動かします。AIの間違いは、実行される前の「提案」の段階で止まる。そういう作りにしました。

    0件と「わからない」を分ける

    もうひとつ決めたことがあります。調べた結果が0件だったときは「0件でした」と出す。データそのものが読めなかったときは、0件のふりをせず「取得できませんでした」と出す。この二つを、別の言葉として画面に出し分けるようにしました。

    これは細かいようで、実は大きな違いです。「0件」は「調べた結果、何もなかった」という意味です。「取得できませんでした」は「そもそも調べられなかった」という意味です。この二つを混同すると、本当は調べられていないだけなのに「問題なし」と誤解してしまいます。第1回で書いた、AIが自信満々に断定してくる話と根は同じです。分からないことを、分かったことのように出さない。それを画面の表示のルールとして決めました。

    「見ていない場所」を隠さない

    三つ目は、画面に「まだ見ていない場所」をそのまま出すことです。確認が済んでいない項目を隠さず、常に見えるところに置いておく。人は、目に入らないものは「無い」ものとして扱ってしまいます。だから、見ていない場所こそ、あえて画面の目立つところに置くようにしました。

    慎重さを、性格ではなく仕様にする

    前職で22年、部下の報告を疑う癖がついたと第1回に書きました。でも、その癖は毎回意識していないと抜けます。疲れている日、急いでいる日は、いつもの疑う癖が働かないこともあります。

    だから今回は、その慎重さを自分の性格や習慣に任せるのではなく、道具そのものの仕様として埋め込むことにしました。削除できない。送信できない。0件は「わからない」と別扱いにする。見ていない場所は隠さない。これらは私が毎回気をつけなくても、道具が勝手にやってくれます。

    もちろん、これで自由度は下がります。何でもできる道具のほうが、作るのも使うのも楽です。それでも今回は、便利さより先に、間違えたときの被害の小ささを選びました。

    次回は、この道具が実際にどう作られたか——朝から夕方までの1日で、どこまでできあがったかを書きます。


    まとめ


    画像

    この章で気づいたこと

    • 削除・送信という強い権限を持たせないだけで、AIの間違いは実行される前の「提案」で止まる

    • 「0件」と「調べられなかった」を混同すると、本当は未確認なのに「問題なし」と誤解する

    • 「見ていない場所」を隠さず出すほうが、結果的に安心につながる

    改善できたこと

    • 慎重さを自分の習慣ではなく、道具の仕様として埋め込んだ

    • 「できること」を増やす前に、「させないこと」を先に決める順番にした

    今後の課題

    • 権限を絞るほど自由度が下がる。どこまで絞って、どこから任せるか、道具ごとの手探りはまだ続いている

    • この設計が本当に安全側に効いているかは、まだ使い込んで検証している途中

    あなたにもできます。

    新しい道具をAIに発注するとき、「これは何をしてはいけないか」を先に決めてみてください。


    52歳・非エンジニア・ひとり社長が、AIと一緒にアプリを作る日々を記録しています。

    【相談窓口】30分・無料で聴きます。AIをどう使っているか、うちの会社でも同じことができるか——気になることを聴かせてください。売り込みはしません。ご希望は、この記事のコメントか note のメッセージでどうぞ。

    第4回 ← 第3回 | 第5回 → / 逆引き目次へ

     
     
    コードは1行も書けない、内装会社の53歳ひとり社長。番頭AIと二人三脚で、自分専用のアプリを6本つくりました。特別な技術はありません。「できました」を信じないで確かめる癖と、人の話を最後まで丁寧に聴く癖だけで、ここまで来ています。AIで自分の時間をつくりたい人の、隣の席から。

    あなたへのおすすめ