メインコンテンツへスキップ
見出し画像

至急報:新章・第11回『AI・AIエージェント時代に「権限を与える」とは何か』

    KYOSHINKA 代表です。
     前回、DXを進めるうえで、「複雑な業務を、そのままデジタル化しない」ことが重要だと考えました。
     業務を可視化し、問題を見つけ、BPRを行い、あるべき姿を設計してからデジタル化する。
     では、その仕事をAIに任せる時代になったら、何が変わるのでしょうか。
     ここで重要になるのが、「AIに何ができるか」ではなく、「AIに何をさせてよいか」という問いです。

    「回答するAI」から「行動するAI」へ

     これまで生成AIは、人間が質問し、文章や画像などを生成する使い方が中心でした。
     しかし、AIが業務システムとつながると、その役割は変わります。
     社内文書を検索する。。。顧客情報を参照する。。。メールを読む。。。内容を判断する。。。返信文を作る。。。外部へ送信する。。。CRMなどの情報を更新する。
     さらにAIエージェントでは、複数の作業を連続して実行することも考えられます。
     これは便利です。

     しかし同時に、AIが単に「答える存在」ではなく、企業から「与えられた権限を使って行動する存在」になることを意味します。
     すると、第3回で考えた問いが、再び現れます。

    画像
    イメージ

    ひとつのAIから、どこまで行けるのか。。。

     AIエージェント(以下AI)にも「最小権限」が必要になります。
     例えば、営業担当者を支援するAIを考えてみます。
     ● 顧客から問い合わせが届く。
       ⇒ AIがメールを読む。
       ⇒ 顧客情報を検索する。
       ⇒ 過去の取引を確認する。
       ⇒ 回答を作成する。
    ここまでは業務支援です。
     しかし、そのAIが全顧客の本人確認書類まで検索できたらどうでしょう。
     さらにメールを自由に外部送信でき、顧客データを更新できるとしたら。
     便利だからといって、すべての権限を与える必要はありません。
     人間の社員に、
     ●「必要な情報だけ見せる」
     ●「必要な操作だけ許可する」
     ●「重要な処理には承認を求める」
    という権限管理を行うように、AIにも同じ考え方が必要になります。
     検索できる情報、利用できるシステム、送信できる相手、更新できる項目、実行できる処理。。。。。それぞれに境界を設けることです。

    AIは「間違える」だけではない

     生成AIのリスクというと、ハルシネーション、つまり誤った回答を思い浮かべるかもしれません。
     しかし業務システムと接続されたAIでは、もう一段考える必要があります。
     誤った回答を表示するだけなら、人間が確認して止められるかもしれません。

     ところが、AIに送信や更新の権限があれば、AIの誤りが、そのまま実際の業務処理になる可能性があります。
     また、外部から受け取った文書やメールなどに含まれる指示がAIの動作に影響し、意図しない情報検索や操作につながることも考える必要があります。
     そのため、
     ● 機微情報を送信する。
     ● 重要なデータを書き換える。
     ● 振込先など重要情報を変更する。
    といった処理では、対象・宛先・内容を人間が確認する仕組みも重要になります。
     つまり、Human in the Loopは単なる「AIの答え合わせ」ではありません。
     AIに与えた権限を、どこで人間が止めるかという設計でもあるのです。

    画像
    AIエージェントは権限を越えて
    アクセスするリスクもある(イメージ)

    AI時代には「人間のなりすまし」も変わる

     もう一つ、AIは企業内部で働くだけではありません。
     文章、画像、音声、動画を生成できるAIは、外部から人間になりすます手段にもなり得ます。
     例えば、「至急、振込先を変更してほしい」という連絡が届いたとします。
     担当者が電話すると、聞き覚えのある声で説明される。
     オンライン会議では、それらしい人物が映っている。
     さらに、相手が過去に漏えいした個人情報や取引情報まで知っていたら、信用してしまう可能性があります。
     
     だから今後は、「声が本人らしい」、「顔が本人らしい」、「個人情報を知っている」だけを重要な処理の承認根拠にしないことが重要です。
     登録済みの別経路で確認する、複数人で承認するなど、業務側の仕組みで守る必要があります。
     ここでも問題は、AIそのものというより、AI時代に耐えられる業務プロセスになっているか、なのです。

    画像
    Web会議にAIのなりすましも。。。(イメージ)

    だから、AXでも業務プロセスに戻ってくる

     では、AIにどこまで権限を与えればよいのでしょう。
     それを決めるには、
     ● 誰が何の情報を見る仕事なのか。
     ● どの判断を人間が行うのか。
     ● どこまで自動化してよいのか。
     ● どの処理には承認が必要なのか。
     ● 何を記録しておくべきなのか。
     ● 間違った場合に誰が止めるのか。
    を理解しなければなりません。

     つまり、第9回、第10回で考えてきた業務プロセスの可視化とBPRが、ここでも必要になります。
     DXでは、人間の業務をデジタルへ移しました。
     AXでは、その一部をAIが担うようになります。
     だからこそ、整理されていない業務や権限を、そのままAIに渡してはいけない。
     これがAXを考えるうえで重要な原則の一つになると考えます。

    次回…考え方を「行動」に変える

     ここまで第1回から、情報漏えいの事実、侵入口、権限、委託先、保有情報、異常検知、復旧、そして業務プロセス、BPR、AIへと視点を広げてきました。
     では、自社で実際に始めるなら何から手をつければよいのでしょうか。
     すべてを一度に直すことはできません。
     だから必要なのは、重要なものから確認し、改善し、そして本当に機能するか試すことです。

     次回は、第12回『明日から始める「最初の90日」』を考えます。
     ここから講座は「理解する」段階から、実際に会社を動かす段階へ進みます。

    第12回『明日から始める「最初の90日」』に続く👉👉

    ※ 至急報:新章/シリーズ・第1回(初回)はこちらから。。。👉👉

    【ご案内】

     本講座の原典として作成したレポート「個人情報漏洩に点検と対応」(実務者向け・「個人情報漏洩対策の判断資料」(経営層向け)を差し上げます。

    画像

     2026年9~10月に公表された個人情報流出事案をWeb抽出・分析したレポートです。「DX/AX推進講座:至急報・新章」の原典としたレポートです。
     ご興味ある方は、無料にて送信させていただきます。
     メールに、ご氏名・会社名(所属)をお書き込みの上、以下の連絡先までお申し込みください。

    KYOSHINKA代表宛  info@kyoshinka.com

    ・いただきました氏名・会社名・メールアドレスは「レポート」送信のみに使用させていただきます。
    ・「レポート」はメールにて送信いたします(PDF)。
    ・「レポート」の商用利用・転用はご遠慮ください。

     
     
    KYOSHINKA公式。大規模・レガシーシステム開発の知見や企業DXのリアルを伝える「講義」と、AIとの対話や開発の裏側を綴る「エッセイ」を配信中。ITでお悩みの経営者やマネジメント層へヒントをお届けします。詳細は公式サイトへ! https://www.kyoshinka.com

    あなたへのおすすめ