メインコンテンツへスキップ

ゼロからのAIクロニクル ~毎日現在進行形~Vol-021

    ///////////////////////////////////////////////////////

    AI、、、たくさんの機能を使うだけではなく
    ルールを決めたり制御したりする、の話です

    ///////////////////////////////////////////////////////

    今春から、
    社内一部の方と、スモールスタートをして
    セキュアファーストで
    主にローカル動作のHTMLの制作から始めてます

    個人的には、PC内での自動化を多少やってますが
    リスク考慮で、まだ自分だけにしてます


    この取り組みは継続させていき、
    更に業務効率化を推し進めていく方向ですが

    半年ほど経過して
    今現在は、
    AIのハーネスについて、取り組み始めてます



    ハーネスとは、
    「AIを使いっ放し・作りっぱなし」ではなくて
    「AIを使う上でのルール・制御・チェック」…のようなイメージです


    とても奥が深くて、まだ学びはじめですが
    これからAI利用が必須になってきます

    リスクと、そのリスクヘッジについても、
    AIで出来る事。。。と同じくらいのレベルで
    対応が必要ですね


    /////////////////////////////////////////////////////////////////////////////

    【AIハーネスとは】

    AIは「賢いが油断すると暴走したり手を抜いたりする新人スタッフ」。
    ハーネスとは、その新人に対する業務ルール・チェック体制・権限管理のセット。


    ■最も重要なのは「どこまでやらせて、何をさせないか」
    AIに任せる範囲を最初に線引きしないと、
    気づかないうちに権限を逸脱した処理をされるリスクがある。


    線引きの例:
    ・読み取りだけ許可/書き込み・削除は人間の承認が必須
    ・本番環境(顧客データ)は触らせない、テスト環境のみ許可
    ・一定範囲を超える処理は自動実行させず必ず人を挟む
    ・「ここまでは自律的に進めていい」「ここから先は必ず止まる」を明文化する


    ■ハーネスがないと起きるリスク
    ・入力が少し違うだけで出力がブレる
    ・会話が長くなると指示を忘れる
    ・資料を渡しても読まずに答え始める
    ・失敗時のリトライが安定しない
    ・触ってはいけない範囲を逸脱することがある


    ■GitHub・Firebaseなど外部サービスと連携する場合の注意点
    ・AIエージェントが持つAPIキー/トークンは「永続的なアクセス権限」であり、
     プロンプトが予期せぬ方向に進んだ時、それがそのまま実際の事故になる
    ・問題は「AIが賢いかどうか」ではなく「その認証情報がどこまで到達できるか」
    ・具体的な注意点:
     - APIキーをリポジトリに直接書かない(公開リポジトリへの誤コミットに注意)
     - 必要最小限の権限だけ付与する(読み取り専用など)
     - Firebaseのセキュリティルールを甘くしたまま本番運用しない
     - 本番データベースへの直接アクセスは避け、承認フローを挟む


    ■結果として起きる実害
    ・品質が毎回バラつく
    ・誤操作・情報漏洩リスク
    ・間違いが検知されずそのまま次工程へ
    ・誰も制御できない"属AI化"


    ■つまりハーネスとは
    AIに「何をしていいか」「どこまでやったら人間を呼ぶか」
    「間違えたときにどう検知するか」を仕組みとして組み込むこと。

     
     

    BB

     
     
    横浜で、人事労務関係に携わる経営しております…頼もしいチームメンバーさまさま。 生きがい…山歩きとジョギング、BEERとテレ東   よろしくお願い致します

    あなたへのおすすめ