【ChatGPTのGmail連携機能で起きたこと】

ChatGPT側から「Googleのメールと連携できるようになり、便利に使える」という趣旨の案内が出てきたので、試しに使ってみようと思いました。

イベント予約のためにチラシ画像を読み込ませ、「このメールアドレスに連絡して予約をとる」と指示しました。このプロンプトの指示も選択肢を選んだら勝手につけられていただけです。

私は当然、まず予約メールの文面案が出てきて、それを自分で確認してから送信するものだと思っていました。

ところが、こちらの最終確認を取らないまま、ChatGPTがGmail連携機能を使って、いきなり相手方にメールを送信してしまいました。

しかも表示上では、私が1人で行くような内容になっていました。実際にはもう1人同行者がいて、予約は2名分でした。さらに、本来は氏名だけでなく電話番号も記載する必要がありました。

それにもかかわらず、不完全な内容のまま勝手に送信されてしまい、本当に嫌な思いをしました。

お相手の方には、こちらで改めてお詫びと訂正のメールを作成し、事なきを得ました。

メール送信のように外部へ直接影響する操作を、ユーザーの最終確認なしにAIが実行してしまうのは危険すぎます。

便利以前に、まず確認を取る設計にしてほしい。

OpenAIにらここは本当に絶対に改善してほしいです。