ゼロからのAIクロニクル ~毎日現在進行形~Vol-021
///////////////////////////////////////////////////////
AI、、、たくさんの機能を使うだけではなく
ルールを決めたり制御したりする、の話です
///////////////////////////////////////////////////////
今春から、
社内一部の方と、スモールスタートをして
セキュアファーストで
主にローカル動作のHTMLの制作から始めてます
個人的には、PC内での自動化を多少やってますが
リスク考慮で、まだ自分だけにしてます
この取り組みは継続させていき、
更に業務効率化を推し進めていく方向ですが
半年ほど経過して
今現在は、
AIのハーネスについて、取り組み始めてます
ハーネスとは、
「AIを使いっ放し・作りっぱなし」ではなくて
「AIを使う上でのルール・制御・チェック」…のようなイメージです
とても奥が深くて、まだ学びはじめですが
これからAI利用が必須になってきます
リスクと、そのリスクヘッジについても、
AIで出来る事。。。と同じくらいのレベルで
対応が必要ですね
/////////////////////////////////////////////////////////////////////////////
【AIハーネスとは】
AIは「賢いが油断すると暴走したり手を抜いたりする新人スタッフ」。
ハーネスとは、その新人に対する業務ルール・チェック体制・権限管理のセット。
■最も重要なのは「どこまでやらせて、何をさせないか」
AIに任せる範囲を最初に線引きしないと、
気づかないうちに権限を逸脱した処理をされるリスクがある。
線引きの例:
・読み取りだけ許可/書き込み・削除は人間の承認が必須
・本番環境(顧客データ)は触らせない、テスト環境のみ許可
・一定範囲を超える処理は自動実行させず必ず人を挟む
・「ここまでは自律的に進めていい」「ここから先は必ず止まる」を明文化する
■ハーネスがないと起きるリスク
・入力が少し違うだけで出力がブレる
・会話が長くなると指示を忘れる
・資料を渡しても読まずに答え始める
・失敗時のリトライが安定しない
・触ってはいけない範囲を逸脱することがある
■GitHub・Firebaseなど外部サービスと連携する場合の注意点
・AIエージェントが持つAPIキー/トークンは「永続的なアクセス権限」であり、
プロンプトが予期せぬ方向に進んだ時、それがそのまま実際の事故になる
・問題は「AIが賢いかどうか」ではなく「その認証情報がどこまで到達できるか」
・具体的な注意点:
- APIキーをリポジトリに直接書かない(公開リポジトリへの誤コミットに注意)
- 必要最小限の権限だけ付与する(読み取り専用など)
- Firebaseのセキュリティルールを甘くしたまま本番運用しない
- 本番データベースへの直接アクセスは避け、承認フローを挟む
■結果として起きる実害
・品質が毎回バラつく
・誤操作・情報漏洩リスク
・間違いが検知されずそのまま次工程へ
・誰も制御できない"属AI化"
■つまりハーネスとは
AIに「何をしていいか」「どこまでやったら人間を呼ぶか」
「間違えたときにどう検知するか」を仕組みとして組み込むこと。