メインコンテンツへスキップ
見出し画像

生成AIパスポート受験note(7/10)【第4章SS5 01AI社会の基本理念〜03共通の指針】

    生成AIパスポートの受験のためにつけた、文字どおりノートです。
    Hermes Agent(Grok 4.5)に噛み砕いて解説してもらってます!(^^)v
    AIは間違うので、御活用は自己責任でお願いします!!(^^;


    01 AI社会の基本理念

    Section 5「AIを取り巻く理念と原則・ガイドライン」

    ガイドラインとは
    法律そのものではなく、守るための指針・指標・方向性。

    ピラミッド構造
    1. 基本理念(頂点)… AI社会が目指す価値
    2. 社会原則(中段)… 理念を実現するための原則
    3. 共通の指針(底辺)… 実務で守るべき指針

    年表
    - 2019年3月:「人間中心のAI社会原則」
    - 2024年4月:AI事業者ガイドライン 第1.0版
    - 2025年3月:AI事業者ガイドライン 第1.1版

    基本理念(3つ)
    1. Dignity(人間の尊厳)
    AIに支配されるのではなく、人間がAIを道具として使いこなす
    2. Diversity & Inclusion(多様性と包摂)
    多様な背景の人が多様な幸せを追求できる社会
    3. Sustainability(持続可能性)
    格差解消や地球規模課題にも対応できる持続性のある社会

    Exam Points
    - 基本理念は Dignity / Diversity & Inclusion / Sustainability
    - 核は「人間中心」
    - ガイドラインは法律ではなく指針
    - 構造は 理念 → 社会原則 → 共通の指針


    02 AI社会原則

    粉々解説

    位置づけ
    基本理念(Dignity / Diversity & Inclusion / Sustainability)を、実際の行動につなげるための中段の原則。

    つまり:
    - 基本理念 = 目指す社会の姿
    - 社会原則 = そのために各主体が持つべき姿勢

    ---

    A. 各主体が取り組む事項

    目的
    - 人間中心を土台にする
    - AIの開発・提供・利用を進める
    - その結果として
    - 人間の尊厳を守る
    - 事業の価値創出
    - 社会課題の解決
    を実現する

    特に重視する6つの価値
    1. 安全性
    AIが人や社会を危険にさらさない
    2. 公平性
    不当な差別・偏りを生まない
    3. プライバシー保護
    個人情報の不適正利用を防ぐ
    4. セキュリティ確保
    脆弱性や外部攻撃に備える
    5. 透明性
    何をしているかを適切に説明・開示できる
    6. アカウンタビリティ
    結果について説明責任を果たす

    もう一段深いポイント
    - システムが検証可能であること
    - 1社だけで完結せず、バリューチェーン全体で品質を高めること
    - 多様な関係者(マルチステークホルダー)で継続議論すること

    一語でまとめると
    「リスクを最小にし、便益を最大にする」

    ---

    B. 社会と連携した取組が期待される事項

    各主体の努力だけでは足りない。
    政府・自治体・コミュニティなど社会全体との連携が必要。

    期待されること
    - 社会の分断を避ける
    - 教育・リテラシー機会を広げる
    - 新しいビジネス・サービスを生む
    - 経済成長を維持する
    - 社会課題の解決策を示す
    - 公正競争を守る
    - イノベーションを促す

    ---

    Exam Points
    - 社会原則は「人間中心」から始まる
    - 暗記語:
    安全・公平・プライバシー・セキュリティ・透明性・アカウンタビリティ
    - 社会原則には
    - 各主体の取組
    - 社会と連携した取組
    の2層がある
    - 後半の「教育・公正競争・イノベーション」は、次の共通の指針にも直結する


    03 共通の指針

    03 共通の指針(一覧)

    位置づけ
    AIシステム・サービスを
    開発・提供・利用する各主体が、実務で留意すべき指針。

    社会原則を、もっと行動レベルに落としたもの。

    ---

    10項目

    1. 人間中心
    すべての土台。人権と well-being を守る

    2. 安全性
    人や社会に危害を与えない

    3. 公平性
    不当な差別や偏りを防ぐ

    4. プライバシー保護
    個人情報を適切に扱う

    5. セキュリティ確保
    攻撃・漏洩・改ざんから守る

    6. 透明性
    仕組みや判断の根拠を適切に開示する

    7. アカウンタビリティ
    結果について説明責任を果たす

    8. 教育・リテラシー
    使いこなす力と理解を広げる

    9. 公正競争確保
    市場の健全な競争を守る

    10. イノベーション
    新しい価値創造を促進する

    ---

    覚え方

    前半7つ
    開発・利用の「質と責任」

    後半3つ
    社会と市場への「広がり」

    流れで覚えると楽:
    人 → 安全 → 公平 → データ → 守り → 見える化 → 責任 → 教育 → 競争 → 革新

    ---

    Exam Points
    - 共通の指針は 10項目
    - 社会原則と対応している
    (社会原則の中身が、指針として整理された形)
    - 特に試験で出やすいのは
    人間中心 / 安全性 / 公平性 / プライバシー / 透明性 / アカウンタビリティ


    ① 人間中心(詳細)


    位置づけ
    共通の指針の1番目であり、すべての取組の土台。

    ここが崩れると、安全性も公平性も全部空回りする。

    ---

    核心
    - 憲法や国際的に認められた人権を侵さない
    - 多様な人々が多様な幸せ(well-being)を追求できるようにする
    - AIは人を支配するのではなく、人の能力を拡張する道具

    一語で言うと:
    「人間が主役、AIは道具」

    ---

    含まれる6つの視点

    1. 人間の尊厳と個人の自律
    - AIの用途によっては、個人の権利・利益に大きく影響する
    - だから出力の正確性を可能な限り維持する
    - 「便利だから」で人の判断を奪わない

    2. 意思決定・感情の操作等への留意
    - 人の意思決定や感情を不当に操作しない
    - 特に注意:
    - 選挙
    - 社会に重大な影響を与える意思決定
    - AIの出力をそのまま信じ込ませない

    3. 偽情報等への対策
    - ハルシネーション等により、偽情報・誤情報・偏向情報が広がるリスクがある
    - それが社会の不安定化・混乱につながる可能性を理解して使う

    4. 多様性・包摂性の確保
    - 「情報弱者」「技術弱者」を生まない
    - より多くの人がAIの恩恵を受けられるようにする

    5. 利用者支援
    - ツール提供者・社内推進者は、関連情報を適切に提供する
    - 利用者が十分に選択できる状態を確保する

    6. 持続可能性の確保
    - ライフサイクル全体で地球環境への影響も考える
    - 生成AIは計算量が大きいので、
    - モデルの軽量化
    - 目的に応じた使い分け
    なども対策になる

    ---

    ガイドライン上の結論
    これらの前提の上で、各主体はAIの有用性を高め、
    最終的に人々の幸福実現に寄与する。

    ---

    Exam Points
    - 人間中心 = スローガンではなく、具体策の束
    - 特に出やすい:
    - 感情・意思決定の操作禁止
    - 偽情報・ハルシネーション対策
    - 情報弱者・技術弱者を生まない
    - AIは能力拡張の道具
    - 基本理念の Dignity / Diversity & Inclusion / Sustainability と直結している


    ② 安全性(粉々解説)


    核心
    各主体は、AIの開発・提供・利用を通じて、

    - ステークホルダーの生命・身体・財産に危害を与えない
    - さらに 精神 と 環境 にも危害を与えない

    ようにする。

    一語で言うと:
    「人・心・環境を傷つけない」

    ---

    含まれる3つの視点

    1. 人間の生命・身体・財産、精神及び環境への配慮
    - 意図しないAIの動作による権利侵害の重大性に注意
    - 侵害が起きる可能性も見積もる
    - 必要に応じて
    - 定期的かつ客観的なモニタリング
    - 対処を含めて人間がコントロールできる状態を維持
    - リスクを把握した上で使うことが非常に重要

    2. 適正利用
    - 本来の目的を逸脱した提供・利用をしない
    - 生成AIは精巧な生成物を作りやすいので注意:
    - 誤解や偏見を助長する可能性
    - 他者の知的財産権を侵害する可能性
    - 対策:利用時に人間の判断を介在させる

    3. 適正学習
    - AI学習を試すときは、システムやツールの特性を理解する
    - 正確かつ最新なデータを使う
    - 学習データに含めない:
    - 権利侵害
    - 複製物等の違法なコンテンツや情報

    ---

    Exam Points
    - 安全性は「身体の安全」だけではない
    精神・環境まで含む
    - 重要フレーズ:
    人間がコントロールできる状態を維持
    - 適正利用:目的逸脱禁止 + 人間の判断
    - 適正学習:正確・最新データ + 違法コンテンツ除外


    ③ 公平性


    核心
    AIの開発・提供・利用で、

    - 特定の個人
    - 特定の集団

    に対して、
    人種・性別・国籍・年齢・政治的信念・宗教などの背景を理由に、
    不当で有害な偏見・差別を生まないこと。

    一語で言うと:
    「不当な差別・偏見を作らない」

    ---

    重要な考え方
    - 完全にバイアスをゼロにするのは難しい
    - それでも、回避できないバイアスがあることを認識する
    - 人権や多様な文化を尊重する観点から、
    許容できるか評価した上で使う

    ---

    2つのポイント

    1. AIモデルの各構成技術に含まれるバイアスへの配慮
    - AIはデータ学習で作られる
    - だからバイアス要因は多岐にわたる
    - 学習時・ツール利用時に、
    公平性を損なうバイアスをしっかり排除する

    2. 人間の判断の介在
    - 学習データや設計によって、特定のバイアスを含む出力が出ることがある
    - だから AI 単独判断に任せない
    - 適切なタイミングで人間の判断を入れる
    - そのとき、人間側も自動化バイアスに流されないようにする

    ---

    Exam Points
    - 公平性 = 差別禁止だけではない
    バイアス認識 + 評価 + 人間介在
    - キーワード:
    回避できないバイアスを認識する
    - 人間の判断も、自動化バイアスに注意


    ④ プライバシー保護


    核心
    AIの開発・提供・利用において、その重要性に応じて
    プライバシーを尊重し、保護すること。
    その際、関係法令を遵守する。

    一語で言うと:
    「プライバシーを守り、法令を守る」

    ---

    ポイント
    AIシステム・サービス全般におけるプライバシーの保護
    - 生成AIでも同じ
    - やるべきこと:
    - 個人情報保護法などの関連法令遵守
    - プライバシーポリシーの策定・公表
    - これによって、プライバシーが尊重・保護される状態をつくる

    ---

    Exam Points
    - プライバシー保護は「気持ちの問題」ではなく
    法令遵守 + ポリシー整備
    - 生成AIでも例外ではない
    - Section 3 の個人情報保護と直結する


    ⑤ セキュリティ確保


    核心
    不正操作によって、AIの振る舞いが
    意図せず変更・停止しないようにする。

    ---

    ポイント
    - AIもプログラムなので、
    - 脆弱性を排除する
    - 正常に稼働し続ける状態を保つ
    - 外部からの攻撃手法は日々更新される
    → 最新動向への留意が必要

    ---

    Exam Point
    - 安全性 = 人・社会に危害を与えない
    - セキュリティ = 攻撃・不正操作から守る


    ⑥ 透明性


    核心
    社会的文脈を踏まえ、検証可能性を確保しながら、
    必要かつ技術的に可能な範囲で、
    ステークホルダーに合理的な情報提供を行う。

    ---

    ポイント

    1. 検証可能性の確保
    - 開発過程を記録・保存する
    - 入出力のログを記録・保存する

    2. ステークホルダーへの情報提供
    - AIを利用していることを示すなど、適切な情報を提供する

    3. 合理的かつ誠実な対応
    - ソースコードの開示が必須なわけではない
    - プライバシーや営業秘密を尊重する
    - 社会的合理性の範囲で実施する

    4. 説明可能性・解釈可能性の向上
    - 納得感・安心感が得られる説明を行う

    ---

    Exam Point
    - 透明性 ≠ 全部公開
    - 合理的な範囲での見える化


    ⑦ アカウンタビリティ


    核心
    トレーサビリティや共通の指針への対応状況について、
    各主体の役割とリスクの程度を踏まえ、
    合理的な範囲で説明責任を果たす。

    ---

    ポイント

    1. トレーサビリティの向上
    - データの出所を追跡できる
    - 意思決定の過程を遡って確認できる

    2. 共通の指針への対応状況を説明
    - 対応状況を定期的に説明・情報提供する

    3. 責任者の明示
    - 誰が責任を持つかを明確にする

    4. 関係者間の責任分配
    - 契約などで責任の所在を明確にする

    5. ステークホルダーへの具体的対応
    - リスク管理方針
    - 安全性ポリシー
    - プライバシーポリシー
    などを策定・公表する

    6. 文書化
    - 対応内容を文書化し、一定期間保管する

    ---

    Exam Point
    - 透明性 = 見える化
    - アカウンタビリティ = 責任を引き受ける


    ⑧ 教育・リテラシー


    核心
    主体内の関係者が、
    AIについて正しい理解・リテラシー・倫理感を持てるよう教育する。
    あわせて、ステークホルダーにも教育が期待される。

    ---

    ポイント

    1. AIリテラシーの確保
    - 使う人・作る人・提供する人が、AIを正しく理解する

    2. 教育・リスキリング
    - 生成AIの普及で、人とAIの作業分担が変わる
    - 新しい働き方に向けた教育・リスキリングを検討する

    ---

    Exam Point
    - 教育は社内だけで完結しない
    - 利用者側にも必要
    - キーワードは リテラシー と リスキリング


    ⑨ 公正競争確保


    核心
    AIを活用した新しいビジネスやサービスが生まれ、
    持続的な経済成長や社会課題解決が進むように、
    公正な競争環境を維持する。

    ---

    ポイント
    - AIを使って市場を歪めない
    - 健全な競争ができる状態を保つ
    - その結果として、
    - 新ビジネス創出
    - 経済成長
    - 社会課題解決
    につなげる

    ---

    Exam Point
    - 公正競争 = AIで競争を壊さない
    - 社会原則の「社会と連携した取組」にも直結する


    ⑩ イノベーション


    核心
    社会全体のイノベーション促進に貢献する。

    ---

    ポイント
    - 国際化・多様化を進める
    - 産学官連携を進める
    - オープンイノベーションを進める
    - 新しい価値創造を後押しする

    ---

    Exam Point
    - 共通の指針は「守る」だけではない
    - 価値を生み出すことも指針の一部
    - 公正競争とセットで覚えるとわかりやすい


    04 高度なAIシステムに関係する事業者に共通の指針


    位置づけ
    共通の指針(10項目)に加えて、
    高度なAIシステムに関わる事業者が留意する追加指針。

    一語で言うと:
    「高性能AIを扱う事業者向けの追加ルール」

    ---

    I〜VI

    I. リスクの特定・評価・軽減
    ライフサイクル全体でリスクを見つけ、評価し、減らす

    II. 投入後の対処
    市場投入後もリスクや脆弱性に対応する

    III. 能力と限界の透明性
    AIに何ができて、何ができないかを示す

    IV. 情報共有とインシデント報告
    責任ある情報共有と、事故・問題の報告を行う

    V. ガバナンスと個人情報保護
    リスクベースのAIガバナンスと、個人情報保護方針を持つ

    VI. セキュリティ強化
    物理セキュリティとサイバーセキュリティを強化する

    VII. 生成コンテンツの透明性
    AIが作ったコンテンツだとわかるようにする

    VIII. 社会的リスク軽減の研究
    社会的リスクを減らすための研究を進め、成果を共有する

    IX. 世界的課題への活用
    気候危機など、大きな社会課題へのAI活用を進める

    X. 国際規格の推進
    国際的な技術規格の開発と採用を進める

    XI. 入力対策と権利保護
    不適切なデータ入力への対策、
    個人データ保護、
    知的財産の保護を行う

    XII. リテラシーとリスク認識
    AIリテラシー向上と、リスクを認識する機会を提供する

    ---

    Exam Points(04まとめ)
    - これは全員向け10指針の追加版
    - 特に出やすい:
    - 投入後も監視・対処
    - インシデント報告
    - AI生成だと示す
    - 入力データ・個人情報・知財の保護


    あなたへのおすすめ