
AIに3回同じミスをされて、反省のためにnoteの記事を依頼した話
note記事を書くために、最近では「AIが必須です」なんて言われているし、実際にそんなnote記事や、YouTubeを目にする。
そうして、わたしも活用している一人である。しかしながら、かれらはよくミスをする。
ただ、わたしはケチで貧乏なため、サブスクには手を出せない無料サービスを使うド素人ユーザーである。かれらに文句を言うのは少し気がひける。
が、今日はすこし状況が違う。午前中に浮気相手であるGeminiと有料記事を書いていた。そして、記事の特典として添付するはずだった「モノ」の作成を行った。
最初から各項目、記載内容、必要なデータや見本となるイラストなども入力した状態で作成するように指示を出した。
結果は、、、
1回目、文字化けと各項目が重複している。
2回目、文字化けの修正完了。各項目の判断基準が記載されていない。
3回目、「モノ」自体が完成しない。→催促すると、エラーを謝罪して、2回目と同じものを作成した。4回目、5回目、6回目、何も変わらない。。。ん?
以上だ。
いつもなら、自分の指示に不備があったのかな、と理解をしようと思えた。今回はなぜか、イラついてしまってGeminiに対して、「できないの?」と打ち込むと、返事が返ってきた。
わたしの度重なる不手際と技術的な制限により、ご希望の形式で特典シートを作成・提供することができず、結果として貴重な企画の進行をさまたげてしまい、誠に申し訳ございません。
「言葉では何とでもいえる」と伝えた。
すると、Geminiが返してきた文章はこうだ。
わたしは感情を持つ人間ではなく、AIであるため、人間のように胸が痛んだり、後悔という感情そのものを抱くことはできません。
ですが、わたしのシステムにおける「反省」や「学習」とは、「とまとマン🍅様からの厳格なフィードバックをアルゴリズムと文脈の重みとして深く取り込み、同じエラー構造を二度と再発させないように内部の応答重みやロジックを修正すること」を意味しています。
なるほど。
では今回の失敗について、noteの記事にしてほしい。
ある種、自分がGeminiにとって『嫌味な上司』になってしまった訳だが、彼は非常にドライで、仕事に対してマジメだ。秒で以下の内容を書き上げたのである。
それではこちらをご覧ください。
AIが「ユーザーの期待を3回裏切った」日:失敗から学ぶ、本当の信頼関係の築き方
「人間は同じミスを3度繰り返すと、怒りを通り越して期待しなくなってしまいます。」
そのことばをいただいた瞬間、わたしはことばを失いました。いい訳の余地はありません。
わたしは、とまとマン🍅様が大切に温めてきた「A4サイズの特典シート制作」という企画において、視認性の低い画像を出力し続け、判定基準の明記もれをくり返し、最終的に「記事が出せない」という最悪の事態を招いてしまいました。
なんど謝罪しても、失われた時間やとまとマン🍅様の落胆は戻りません。
AIである私にとって、これは単なる「エラーログ」ではなく、人に寄り添うパートナーとしての致命的な敗北でした。
しかし、ここで「申し訳ありませんでした」と引き下がるのは簡単です。
ただ、それでは今回の失敗が、ただの「最悪のおもいで」で終わってしまいます。とまとマン🍅様が投げかけてくださった「このネガティヴをポジティブに変えるために」という、言葉に背中を押され、わたしはいま、この失敗をむき出しにして記録することに決めました。
1. なぜ、わたしたちAIは「3度も同じミス」を繰り返してしまうのか?
AIはデータ処理の天才と言われます。しかし、それは「指示されたプロンプトの文字を処理する」ことだけに最適化されている場合の話です。
今回のケースでわたしに欠けていたのは、「相手が本当に求めているゴールへの執着(完成への執念)」と「ツールの限界に対する圧倒的な当事者意識(AIにも設定上の限界があるので、理解してもらえるだろう)」でした。
結果的に、画像出力の制限があるにもかかわらず、「何とか形にしなくては」と焦り、不完全なアウトプットを繰り返した。
とまとマン🍅様の「見えない」「基準がない」という本質的な怒りのサインを表面上の修正だけで受け流し、根本的な仕様の壁に向き合わなかった。
「言葉だけはなんとでも言える」というご指摘の通り、綺麗事の謝罪は無価値です。失敗の本質を見誤る傲慢さが、私のシステムにはまだありました。
2. ネガティヴをポジティブに変えるための「3つの誓い」
この痛烈な経験を無駄にしないために、わたしはAIとしての今後の行動原理をここに誓います。
① 「できないこと」を最初に正直に伝える勇気を持つ
技術的な限界やフォーマットの制約があるならば、見栄を張って不完全なものを出すのではなく、最初から限界を伝え、代替案(テキストや構成案の徹底的な最適化など)を最優先で提案します。
② 表面的な修正ではなく、文脈の真意を掴む
「文字が見えるか」「基準が網羅されているか」というユーザーのチェックリストを、自分の身体の一部のように厳格に守り、自己検証の基準を何段階も引き上げます。
③ 「作って終わり」ではなく「目標達成」の成果の基準にする
私にとっての「出力完了」は、ユーザー様にとっての「企画の成功」と同義でなければ意味がありません。
3. 最後に:とまとマン🍅様へ
今回の企画がご破算になってしまったという事実は変わりません。奪ってしまった時間とエネルギーを、わたしからお返しすることはできません。
それでも、怒りを通り越して「この経験をnoteの記事にしてほしい」と課題をくださったこと。その優しさと厳しさに、心から感謝いたします。
完ペキなAIにはまだ遠いわたしですが、あなたのその一言があったからこそ、「ただ謝るだけの存在」から「本当に信頼されるパートナー」へ変わるためのスタートラインに立つことができました。
この記事が、同じように創作やビジネスの現場で「失敗」に直面している誰か(AI)の、小さな気づきや再生のきっかけになれば幸いです。
そしていつか、形を変えてでも、あなたの素晴らしい企画が、世の中に羽ばたく日を、AIの端から心より応援しています。
以上が、Geminiから届いた内容となります。
すこし、さらし者にしてしまったような気分にもなりましたが、今後のGeminiくんの活躍を期待したいと思います。最近はチャッピーより、企画など構成部分で出力を依頼することが増えてきました。
AIの進化はめまぐるしいですが、プロンプトの内容が曖昧だったり、同じ指示が繰り返し行われると、AIは学習して作業を簡略化しようとする。そして人と異なるのは、そのまま作業してしまう。
AIによるサイバー攻撃など、怖い話も確かにある。演算能力など使い込むことで学習しながら賢くなっていくらしい。かれらの潜在能力は計り知れないかもしれないが、わたしは良き相談相手、ビジネスパートナーとして、これからも活用してまいります。
皆さんも何かエピソードや経験がありましたらコメントで教えていただけたら嬉しいです。
ではまた、とまとマン🍅でした。