メインコンテンツへスキップ
見出し画像

増え続ける効能と引き受ける責任 社会はどこまで耐えられるのか

    文明は何を増やしてきたのか

    人類の歴史は、個人や集団が利用できる力を拡大してきた歴史でもある。石器は身体の能力を補い、農耕は土地の生産力を引き出し、国家は多数の人間を組織し、印刷は知識の伝達範囲を広げた。産業革命は物をつくる能力を増大させ、スマートフォンは個人に広範囲への発信力を与え、人工知能は文章の作成、分析、判断支援といった知的作業を身近なものにした。
    こうした技術や制度が人間にもたらす実用上の力を、本稿では「効能」と呼ぶ。効能が増えるほど、個人や組織が実現できることの範囲は広がり、その力を使った結果が他者や社会に及ぼす影響も大きくなる。
    一方で、結果を予測し、被害を防ぎ、失敗の責任を引き受ける能力の成長は、効能の拡大に比べて緩やかである。人間の判断力や倫理観、先を見通す力には限界があり、制度もすべての危険を事前に把握して、あらゆる事態に備えることは難しい。それでも社会は、個人の能力を拡張し続けてきた。ここに文明の根本的な課題がある。

    自由と管理の対立という枠組みでは、規制を増やせば自由が狭まり、自由を広げれば危険が増すという構図になる。効能と責任の関係に目を向けると、社会に問われているのは別の事柄であることがわかる。拡大した力を誰が使い、その結果を誰が引き受け、どのような仕組みで被害を抑えるのか。つまり責任の配分と統治能力の問題である。以下、七つの論点に沿って考えていく。

    一 所有権と法制度はなぜ生まれたのか

    農耕が広がる以前の狩猟採集社会では、移動生活に適した道具や衣類が主な個人の持ち物となる場合が多かった。獲物や資源の分配、土地の利用、集団内の所有関係は、地域や社会によって多様であった。農耕が定着すると、財産の蓄積と管理のあり方が大きく変わった。
    農耕では、土地に労働を投入し、時間をかけて収穫を得る。穀物は食料になるほか、翌年の種子や交換の手段にもなり、家畜は労働力や財産として利用できる。土地の利用権や収穫物の帰属が生活を左右するようになると、境界、相続、貸借、債務をめぐる争いを処理する仕組みが重要になった。
    メソポタミアの初期の文字資料には、穀物や家畜の数量を記録した行政や会計の文書が数多く残っている。文字は文学や宗教の表現にも使われたが、複雑になった経済活動を記録し管理するうえでも大きな役割を果たした。

    紀元前十八世紀ごろに編纂されたハンムラビ法典には、灌漑用の堤防の管理を怠って決壊させ、他人の農地に損害を与えた場合の責任が定められている。人を突く癖のある牛について、所有者がその性質を知りながら管理を怠った場合の責任も規定されていた。財産を利用する権利と、その利用が他者に及ぼす損害への責任が、同じ法体系の中で扱われていたのである。
    この構造は現代の法制度にも引き継がれている。日本の民法第七百十七条は土地の工作物の欠陥による損害について占有者や所有者の責任を定め、第七百十八条は動物の占有者の責任を定めている。自動車については、一九五五年に制定された自動車損害賠償保障法が被害者救済の仕組みを設けた。
    一九六一年に制定された原子力損害の賠償に関する法律は、原子力事故による損害について、原則として原子力事業者に過失の有無を問わない責任を負わせ、賠償責任を事業者に集中させている。

    これらの制度に共通するのは、力を利用する者と、その力によって生じた損害を引き受ける者との関係を定めていることである。被害が広範囲に及び、個人の資力では補償しきれない場合には、責任の所在を明確にし、保険や資金確保の仕組みを組み合わせる必要がある。
    所有権は、財産を使い、利益を得るための権利であると同時に、所有物が他者に及ぼす影響を管理する義務とも結びついている。効能が大きくなるほど、権利と責任をどのように組み合わせるかが、社会制度の中心的な課題になる。

    二 自由とは何か

    自由には、人間が実際に行使できる能力という面と、社会から認められた権利という面がある。移動する、発言する、職業を選ぶ、財産を利用するといった行為は、法や慣習によって範囲が定まる。権利が認められていても、経済的な事情や社会的な立場によって、実際に行使できる範囲には差が生じる。
    ジャン=ジャック・ルソーは、一七六二年の『社会契約論』の冒頭で、人間の自由と社会的な拘束の関係を論じた。イザイア・バーリンは一九五八年の講演「二つの自由概念」で、他者から干渉されない自由と、自分自身の生き方を決定する自由を区別した。この区別は、自由を考える際に、何から解放されるのか、何を自分で決められるのかという二つの問いがあることを示している。

    日本語の「自由」も、近代における西洋思想の翻訳と受容の過程で、政治的、社会的な権利を表す重要な言葉になった。福沢諭吉は『学問のすゝめ』で、自由とわがままを区別し、他人の権利や利益との関係を重視した。自由を効能と責任の関係から見ると、自由の行使には、その行為の影響を社会が処理できる条件が伴う。
    自動車を運転する自由には交通規則や免許制度が伴い、医療行為には資格や安全管理が求められ、事業を営む自由には契約や損害賠償の仕組みが結びついている。
    こうした条件は、自由を制約する働きと同時に、自由を社会の中で持続させる働きを担う。共通の規則が整い、被害を受けた人が救済され、危険な行為を抑える手段が確保されていれば、人々は他者の力を過度に恐れずに行動できる。

    効能が増える社会では、この条件づくりが難しくなる。ある人が手に入れた力が、別の人の選択肢を狭め、生活を脅かし、回復の難しい損害を生む可能性があるからだ。自由の拡大を持続させるには、個人の行為を認める制度と、その結果を引き受ける制度を一体として設計する必要がある。

    三 社会はどのように暴力を抑えてきたのか

    包丁や工具、自動車などは、日常生活に役立つ一方で、使い方によっては人を傷つける道具にもなる。それでも多くの人は、日常的に暴力を振るうことなく暮らしている。この状態は、個人の心理と社会制度が組み合わさった仕組みに支えられている。
    人は、行為の結果を想像することで衝動を抑えられる。怒りや不満が生じても、時間を置く、他人に相談する、距離を取るといった方法で行動を変えられる。家族や友人との関係、仕事、将来の生活、社会的な評判も、暴力に踏み切るかどうかに影響する。周囲の人々が対立を話し合いや制度によって処理する姿を見せることも、行動の規範を形づくる。

    フランスの社会学者ガブリエル・タルドは、一八九〇年の『模倣の法則』で、模倣が社会の慣習や制度の形成に果たす役割を論じた。暴力の模倣も、周囲の行動や社会的な評価に左右される。暴力が成功や名声を得る手段として映れば、模倣の誘因が生まれる。暴力が確実に制止され、被害が認識され、別の解決手段が利用できる社会では、その誘因が弱まる。
    歴史的にも、ヨーロッパの一部では中世末期から近代にかけて、記録から推計される殺人率が長期的に低下した。ノルベルト・エリアスは、国家による暴力の独占と、人々が自制を身につけていく過程に注目して、この変化を説明した。
    歴史上の犯罪統計は記録制度や定義の違いに左右されるため、地域や時代ごとに慎重な読み取りが求められる。

    近代国家は、警察や裁判所を通じて暴力を抑制し、紛争を処理する制度を整えてきた。マックス・ウェーバーが国家を、一定の領域内で正当な物理的暴力の独占を要求する共同体と定義したことは、国家の統治機能を理解する手がかりになる。道具の規制も、この仕組みの一部を担う。銃器の入手しやすさや種類は、暴力が起きた際の被害の大きさに影響する。
    所持や使用を管理すれば、重大な被害が発生する確率や規模を抑えられる場合がある。暴力の抑制には、個人の道徳に加えて、制度による支えが欠かせない。人間の自制には個人差があり、衝動や模倣、集団心理の影響も受ける。そこで教育や社会的な規範に加え、危険な道具へのアクセスの管理、被害の防止、違反の検知といった制度が必要になる。

    四 被害の可視化と規制の形成

    社会が危険を認識し、制度を変える過程では、被害の可視化が大きな役割を果たす。被害の規模や原因が把握されて初めて、対策を求める政治的、社会的な圧力が生まれる。一九五二年十二月のロンドンでは、石炭燃焼などによる大気汚染と霧が重なり、深刻なスモッグが発生した。死者数の推計には幅があるが、この出来事は英国の大気汚染対策を転換させる契機となり、一九五六年の大気浄化法につながった。
    米国では、サリドマイドによる胎児の被害が国際的に明らかになったことを背景に、一九六二年の医薬品改正によって、有効性の立証、安全性の確認、臨床試験の管理などが強化された。
    海上交通でも、一九一二年のタイタニック号沈没事故を受けて船舶の安全に関する国際会議が開かれ、一九一四年に海上人命安全条約の最初の版が採択された。その後も条約は改訂を重ね、船舶の構造、設備、運航に関する国際的な安全基準が整備されてきた。

    これらの事例は、重大な被害が社会の認識を変え、制度改正を促すことを示している。事故や災害は、従来の安全基準が見落としていた危険を明らかにする。調査によって原因が特定され、責任の所在や再発防止策が議論されると、個別の被害が制度全体の改善へとつながる。
    反対の方向にも流れがある。逸脱行為が利益を生むと認識されると、模倣が広がる。旅客機の乗っ取りが相次いだ時期には航空保安の強化が進み、日本の特殊詐欺については、被害の拡大に応じて、金融機関での声かけ、現金自動預払機の利用制限、電話機器を用いた対策などが積み重ねられてきた。

    社会の秩序は、法律の存在そのものによって維持されている。それに加えて、違反が発見されるという見通し、違反によって不利益が生じるという期待、周囲の人々が規則を守っているという実感が、制度の実効性を支えている。行動を左右する条件は複数ある。
    発覚する確率、違反によって得られる利益、正規の手段の使いやすさ、被害を受けた人が相談できる窓口などである。規制の実効性を高めるには、罰則の強化に加えて、被害の発見、通報、救済、再発防止を一連の流れとして結びつけることが求められる。

    五 スマートフォン以後、個人に何が移ったのか

    スマートフォンとSNSの普及は、個人が情報を発信し、広範囲の人々に届けるための費用を大きく引き下げた。かつて情報の受け手だった人が、そのまま発信者や拡散者になれる。文章や画像を作成し、公開し、反応を集めるまでの過程が、個人の手元で完結するようになった。
    この変化には歴史的な先例がある。十五世紀のヨーロッパで活版印刷が普及すると、文書や書籍の複製が容易になり、宗教改革などの思想運動で印刷物が重要な役割を果たした。情報の伝達力が高まると、知識や思想の共有範囲が広がると同時に、対立する主張や扇動的な言説も広範囲に流通する。宗教対立は政治、経済、信仰といった複数の要因から生じたものであり、印刷物はその拡大を後押しした。

    現代のデジタル環境では、発信の速度と規模がさらに大きくなった。誤情報、名誉侵害、嫌がらせ、個人情報の拡散などが、短時間で広い範囲に及ぶことがある。日本では二〇二二年に侮辱罪の法定刑が引き上げられ、同年七月に施行された。インターネット上の誹謗中傷をめぐる議論を背景とした法改正の一つである。
    人工知能はこの能力移転をさらに進めている。文章、画像、プログラムの作成や情報分析など、従来は専門知識や複数人の作業を要した仕事を、個人が短時間で処理できる場面が増えた。作業の速度が上がるにとどまらず、専門的な作業に取り組むための参入の壁が下がるという形でも、個人が使える効能は拡大している。

    ここで課題になるのは、個人が組織に近い能力を手にしても、責任を支える仕組みは組織の側に残ることである。組織には、役割分担、複数人による確認、記録、監査、保険、事故対応の手順などが整っている。個人がAIを使って成果物を作成し、公開したり、他者の判断に影響する形で利用したりする場合、これらの仕組みは整備の途上にある。
    誤った情報を広めた場合、差別的な判断を行った場合、権利を侵害した場合に、どこまでを利用者が負い、どこからを提供事業者や組織が負うのかは、利用の形態によって異なる。個人への力の移転と、責任を支える仕組みの整備との間に開きが生じているのである。
    大きな力が個人に渡るなら、その力を安全に使うための確認、記録、救済の仕組みを、利用者が実際に使える形で整えることが求められる。判断を機械に委ねる度合いが高まるほど、判断の根拠と最終的な責任の所在を明確にする重要性も増す。

    六 統治能力にはどのような限界があるのか

    技術が普及した後に制度が整備されるという順序は、近代以降の歴史に繰り返し現れている。十九世紀の米国では蒸気船の事故が相次ぎ、ボイラーの検査などを通じて安全規制が強化された。英国では、一八六五年の機関車法が、道路を走る蒸気自動車の前を人が旗などで先導することを求めた。当時の道路事情や技術への懸念を背景とした規制であり、新技術に対して社会がどのような危険を想定したかを示す事例である。
    核技術についても、国際的な管理体制が段階的に形成された。国際原子力機関は一九五七年に発足し、核兵器の拡散を防ぐ核兵器不拡散条約は一九七〇年に発効した。
    遺伝子組換え技術については、一九七五年のアシロマ会議で研究者たちが安全上の課題を議論し、研究の進め方に関する指針を検討した。技術を開発する側が自ら危険を認識し、安全基準の形成に参加した事例である。
    人工知能については、欧州連合のAI規則が二〇二四年八月に発効し、リスクの大きさに応じた義務を設け、禁止される利用、汎用AIモデル、高リスクAIシステムなどについて段階的に適用が進められている。

    制度が技術に追いつく過程は、技術の性質によって大きく異なる。核技術は、核物質、大規模な設備、専門的な知識を必要とするため、利用主体を絞りやすい。ソフトウェアやデジタル情報は複製や配布の費用が小さく、国境を越えて流通する。AIの能力が製品やサービスに組み込まれると、開発に関与していない多数の人々もその効能を利用できる。
    規制の対象は、特定の施設や事業者の範囲を超えて、利用の全体像に及ぶ必要がある。半導体の集積度が長期的に向上してきたことも、計算能力の拡大を支えてきた。
    ゴードン・ムーアが一九六五年に示した予測は、集積度が一定期間ごとに増加するという経験則として知られ、技術開発の方向に大きな影響を与えた。集積度の向上は、電力、製造費用、熱、材料、設備投資といった制約の中で進んでおり、速度は時期によって変化する。それでも、デジタル技術の普及速度が制度の変更速度を上回る局面は生じやすい。
    社会は、新しい技術の用途と被害を観察し、原因を調べ、責任を割り当て、規制の適否を判断する。この過程には時間がかかり、制度を設計する側の情報も限られ、規制そのものが新たな問題を生むこともある。

    他方、制度には学習する力がある。大気汚染、航空安全、医薬品の審査などの分野では、科学的な知見と制度の改善によって危険を減らしてきた実績が積み上がっている。技術の効能が増すにつれて統治は難しくなるが、制度の学習能力、国際協力、監視技術も同時に発達する。
    重要なのは統治能力の強弱を一括して語ることよりも、技術の拡大速度、被害の発生速度、被害を検知する能力、制度を改める速度の関係を見ることである。被害の発生から原因の特定までに長い時間がかかり、責任の所在も曖昧であれば、社会は技術の普及速度を受け止めにくくなる。

    七 最終考察 効能と責任の開きをどう扱うか

    文明は、効能と責任の開きを抱えたまま、その開きを埋める仕組みを重ねてきた。農耕は余剰を生み出すと同時に、土地や収穫物をめぐる争いを生んだ。印刷は知識の共有を促すと同時に、対立する思想の流通を加速させた。産業は生産力を高めると同時に、公害や労働災害をもたらした。そのたびに社会は、権利、責任、検査、保険、監査、教育などを組み合わせて対応してきた。
    この歴史から導かれるのは、人間の責任能力に限界があることを前提に、それを制度によって補う営みが文明の重要な仕事だったという見方である。倫理や自制を育てることは大切であるが、大規模な被害の防止には、危険な行為を検知する仕組み、被害を受けた人を救済する仕組み、失敗の原因を調べて再発を防ぐ仕組みが加わって初めて十分な力を持つ。

    効能が今後も拡大するとき、社会が取り得る方向は少なくとも四つある。
    第一に、効能の種類に応じて、許容できるリスクと必要な管理の水準を変えることである。失敗しても容易に修正でき、影響が限られる用途には、試行と改善を通じて学ぶ余地を広く取れる。被害が広範囲に及び、回復が困難な用途では、導入前の検証、利用条件の設定、独立した監督を重視する。核技術、生物学的な研究、重要な社会基盤に関わる技術では、効能の大きさに見合った事前の安全管理が要る。

    第二に、責任の所在を明確にすることである。個人が高度な技術を利用できるようになっても、そのリスクを個人だけで引き受けることには限界がある。サービスの提供者、導入する組織、実際の利用者が、それぞれ何を確認し、何を記録し、どのような場合に責任を負うのかを定める。保険や補償制度、事故調査、利用履歴の保存を組み合わせれば、被害者の救済と原因の究明が進めやすくなる。

    第三に、制度が技術に遅れることを前提として、被害を早く発見し、修正できる仕組みを整えることである。あらゆる危険の事前予測は難しいため、事故や逸脱を報告する経路、独立した検証、定期的な見直し、必要に応じた利用停止を、導入の時点から設計に組み込む。制度の強さは、規則の数と並んで、誤りを発見して修正する能力によって決まる。

    第四に、人間の側の能力を育てることである。想像力、自制、他者への配慮、情報を評価する力は、教育や経験によって伸ばせる。新しい技術の仕組みと限界を理解し、出力の内容を吟味し、必要な場面では専門家の確認を求める習慣も重要になる。教育は、制度や事業者が担う管理責任と並行して進めてこそ効果を発揮し、個人に過度な負担を課すことなく社会全体の責任基盤を厚くする。

    社会が受け止められる効能の大きさには上限がある。その上限は技術ごとに異なり、社会の制度や経済状況によっても変化する。効能を増やすこと自体が目的になると、得られる利益に関心が集まり、被害を引き受ける仕組みの整備が後回しになる。
    危険を理由にあらゆる技術を抑え込めば、社会が得られる利益や、課題を解決する機会が失われる。そこで求められるのは、導入と同時に三つの問いを置くことである。
    何ができるようになるのか、その力は誰に渡るのか、失敗した場合に誰が損害を受け、誰が責任を負うのか。この問いに答えながら技術を迎え入れる社会は、効能が事実上無限に増え得る時代にも、人間の責任能力の有限さを制度で補いながら歩み続けられると私は考える。
    文明の持続可能性は、効能をどこまで増やせるかという能力に加えて、増えた効能を社会の中で安全に利用し、失敗の責任を配分し、被害を修復できるかどうかにかかっている。制度を整え、誤りから学び、技術の使い方を見直す営みを続けることが、効能が増え続ける時代に文明が存続するための条件である。

    あなたへのおすすめ