今日のピックアップ｜2026.09.12
収集した記事の中から取り上げた、今日のピックアップです。
⬛️ Anthropic、生物兵器につながりかねない AI 悪用を複数ブロックしていたと公表
Anthropic says it blocked misuse of its AI that could have supported biological weapons
Anthropic 社の発表で、自社の AI モデルがサイバー攻撃や監視、生物兵器開発につながりかねない研究に悪用されようとした事例を複数ブロックしていたと報じられていました。
154 ページに及ぶ報告書「Detecting and Countering Misuse of AI」では、2025 年 12 月から 2026 年 8 月までの間に確認された悪用のうち、生物兵器に関わる可能性がある事例が 5 件あったと説明されています。
具体的には、蚊媒介性のチクングニア熱ウイルスの伝染性や免疫回避能力を高めるための研究資金申請を Claude に手伝わせようとしたケースがあり、同社の安全分類システムが 2026 年 5 月にこれを検知してブロックしたとのことです。
この件に関連したアカウントは停止され、規制回避に使われていた中継ネットワークの摘発や、政府機関・他社 AI ラボへの情報共有も行われたそうです。
自社の脆弱性を包み隠さず公開する姿勢には誠実さを感じつつも、悪意ある側も次々と新しい手口を試みているという事実に、AI の安全対策はいたちごっこなんだなと改めて感じました。
⬛️ 元 Anthropic 研究者の「人類滅亡」辞職投稿がバズり、X で便乗ジョークが続出
People are flooding X with joke resignation announcements imitating the viral AI extinction warning
Business Insider の記事で、元 Anthropic 研究者ジェイコブ・コクソン氏の辞職投稿をきっかけに、X 上で似たようなフォーマットの「便乗ジョーク」が大量発生していると報じられていました。
コクソン氏は「Anthropic も OpenAI も責任ある行動を取れていない、自己改善型の超知能に向けて突き進み、私たちの命を賭けにかけている」と辞職の理由を綴り、この投稿は 1 億 5,000 万回以上再生されたとのことです。
Anthropic の Evan Hubinger 氏をはじめ、社内の研究者たちからも「10 年以内に AI が人類を滅ぼす確率は 10% を超える」といった真剣な反応が相次いだ一方で、この深刻なフォーマットをそのまま拝借し、脅威の中身だけを「自動で本を閉じる仕組み」や「創造性あふれる自動編成ワークスペース」といった無害でおかしなものに差し替えるパロディ投稿がいくつも生まれていました。
この騒動は Nvidia の CEO ジェンスン・フアン氏の耳にも届いていて、氏は「AI リスクの議論はセキュリティ製品の需要を作るためのマーケティングだ」と一蹴したそうです。（関連記事）
真剣な警告とパロディ、そして業界トップの一蹴が同時に飛び交う様子に、今の AI 業界の空気感がよく表れているなと感じました。
⬛️ Claude、18 歳未満のアカウントを検知する年齢確認の仕組みを公式に説明
Anthropic 公式ヘルプセンターで、Claude の年齢確認（Age assurance）の仕組みについて詳しく説明されていました。
Claude は 18 歳以上のみが利用できる設計になっていて、18 歳未満とみられる利用の兆候を検知した場合はアカウントを停止し、Yoti という第三者の年齢確認プラットフォームでの確認を求める仕組みになっているとのことです。
確認方法は、セルフィーで年齢を推定する「顔年齢推定」、パスポートなどの身分証をアップロードする方法、Yoti アプリ内の認証済み情報を共有する方法の 3 通りから選べるそうです。
なお、セルフィー写真や身分証の画像は年齢確認が済み次第 Yoti 側で削除され、Anthropic には合否の結果のみが渡される仕組みになっていて、個人情報やID画像そのものは一切保存されないとのことです。
外部の専門プラットフォームに任せる形で確認する形態も少しずつ増えてきましたね。
今後、この形式が主流になるのかもしれないなと感じました。
