【付録】AIの安全性

「AIの安全な運用ルール（リスクマネジメント）」についてお伝えします。

優れたプロンプトを書き、美しいワークフローを構築できても、
情報漏洩や著作権トラブルで信頼を失ってしまっては元も子もありません。
プロとアマを分ける境界線は、単に使いこなせるかだけでなく
「リスクをコントロールしながら成果を最大化できるか」にあります。
安心してアクセルを踏み込むためのガードレールを整えましょう。

1. 実務で即実践すべき「5大リスク」と防壁設計

AI実務において事故が起きやすいポイントは、大きく分けて5つあります。

① 機密情報・個人情報の流出（入力リスク）
プロンプトに入力した社外秘データや個人情報が、
AIの再学習データとして取り込まれ第三者への回答に漏洩するリスクです。

防壁策:
・チャット履歴の学習利用（Opt-out）をオフに設定する
・個人名、社名、数値データは「A社」「X氏」のように
　マスキング（仮名化）し入力する
・業務利用の際は学習に利用されないTeam・Enterpriseプランを導入する

② 著作権・商標権の侵害（出力リスク）
生成された文章や画像が、既存の著作物や他社の権利物に酷似してしまい、意図せず権利侵害を起こすリスクです。

防壁策:
・特定の作風や固有のクリエイター名を指定した指示を避ける
・商用利用する画像や文章は、公開前に類似検索や画像検索でチェックする
・著作権侵害の補償サービスを提供しているベンダーの法人プランを選択
　（注意！ユーザーが意図的に侵害を試みた場合は対象外になることが多い）

③ 誤情報・ハルシネーション（AIの嘘／信頼性リスク）
AIが事実と異なる情報や、存在しない法律・データを生成する現象です。

防壁策:
・重要数値や一次情報は人間が元のソース（公式発表・原典）を確認する
・プロンプトに「根拠が明確でない場合は『不明』と回答せよ」という
　制約条件を明記する

・社内資料や信頼できるドキュメントをAIに読み込ませて回答させる（RAG：検索拡張生成）手法を取り入れる

④ プロンプトインジェクション（外部データの悪意）
外部サイトやPDFに含まれる隠し指示を読み込み、AIが情報漏洩や誤操作を起こすリスクです。特に、Web閲覧機能を通じて仕込まれた悪意ある命令を実行してしまう「間接的プロンプトインジェクション」に注意が必要です。

防壁策:
・未知の外部サイトや不審なファイルを読み込ませる際は、
　システム権限を与えたマイAI（GPTs等）を使わない

⑤ シャドーAI（未承認ツールの利用リスク）
個人が組織の許可を得ていないAIツールを業務で利用し、
管理外で情報が流出するリスクです。

防壁策:
・組織が承認し、セキュリティ設定が確認されたツールのみを利用する
・新しいツールを利用したい場合は、必ず管理部署の承認を得る

2. 自分（自社）の「安全ガイドライン」を常駐させる

リスクを防ぐ最も簡単な方法は、これまで作ってきた「マイAI」や
「カスタム指示」の中に予めセキュリティ制約を組み込んでおくことです。

制約文（プロンプト）を常駐させ、回答の安全性を高めます。

【セキュリティ＆品質制約ルール】
・個人情報や機密データが含まれている場合は指摘して出力を停止する
・根拠のない数値や推測のファクトは出力せず確認が必要な旨を明記する
・差別的表現、第三者の権利を侵害する恐れのある表現は排除する

💡 Insight（付録のまとめ）

優れたブレーキがあるからこそ、レーシングカーはコーナーの
手前ギリギリまで高速で攻めることができます。

リスク管理の知識と明確なルールを持つことは、
AI活用を抑制することではありません。
むしろ、トラブルを恐れることなく、
安全かつ大胆にAIのパワーを引き出すための「最強の武器」なのです。

正しく情報と信用を守りながら、AIという相棒と共に、
より高い価値を生み出し続けていきましょう。