メインコンテンツへスキップ
見出し画像

OpenAIはなぜ、AIが書いた数学論文を翌日に3本撤回したのか|722本を一度に公開し、結果の約半数は確認前だった件と、AIの成果物を外に出す前に確かめること

    2026年10月6日(米国時間)、OpenAIは社内のAIモデルが作った数学の論文722本をGitHubで公開した。翌7日、そのうち3本を撤回し、別の14本を修正した。1本の論文にあった符号の誤りが、その論文を前提にした2本にも広がっていた。OpenAIの広報担当者によると、結果の約半数は確認されないまま公開された。

    何が起きたか

    公開したのは、未解決の数学の問題に対する結果をまとめた論文である。公開時の説明(GitHubのREADME)によると、まだ公開していない社内モデルに約4,000問を解かせ、結果を論文の形にまとめた。

    READMEには、次の1文がある。

    「This collection includes results at different stages of verification.」

    確認の手段として使われているのはLean(数学の証明が正しいかをコンピュータで確かめるためのプログラミング言語)で、すべての論文にLeanでの確認が付いていたわけではない。

    公開の翌日、OpenAIはGitHubの更新履歴で次のように公表した。

    • 論文「Algebraicity of Weil classes on split abelian eightfolds」の符号の誤りで、論証が成り立たなくなった

    • この論文の構成を使っていた2本も成り立たなくなり、計3本を撤回した

    • ほかの14本で、証明の補修・主張の訂正・前提の明記をした

    • 修正した論文を引用している13本も、引用先を新しい版に更新した

    出典

    画像

    起きた条件

    Retraction Watchによると、OpenAIの広報担当者は、誤りは監査で見つかったと説明した。同じ担当者は、数学とAIに関する助言グループ(米高等研究所〈IAS〉に置かれ、AI企業から独立している)が「完全な形式化(Leanでの確認)を待たずに公開する」ことを勧めていたこと、結果の約半数は確認されないまま公開されたことも説明している。

    その助言グループが9月29日に公表した指針には、次の1文がある。

    「Where formalization would lead to unacceptable delays, the formalization status of the paper should be clearly stated.」

    形式化が間に合わない場合は、論文ごとに形式化の状況をはっきり示すように、という内容である。同じグループは10月6日、今回の公開について声明を出した。助言した立場は、結果の影響を判断したものでも、OpenAIが結果を得た過程を支持したものでもない、という内容である。

    出典から分かる条件は次の3つである。

    • AIが作った論文を、確認の段階がそろわないまま722本まとめて公開した

    • 公開時点でLeanで確かめていた結果は一部で、結果の約半数は確認前だった

    • 1本の論文の構成を別の論文が使っており、1か所の誤りが3本の撤回につながった

    OpenAIの広報担当者は、Retraction Watchに次のように述べている。

    「Where errors are identified, we will work to correct them promptly and withdraw papers if no fixes can be found.」

    同じことが起きる使い方

    数学の論文に限らず、報告書、調査資料、プログラム、マニュアルなどでも、次の形は同じである。

    • AIに作らせた成果物を、確かめた分と確かめていない分を区別せずに一度に社外へ出す

    • ある資料の数字や結論を、別の資料が前提にしている。最初の資料に誤りがあると、前提にした資料もまとめて直すことになる

    画像

    日本で同じことが起きたら

    日本では、総務省と経済産業省が「AI事業者ガイドライン」を出している。2026年3月31日の第1.2版は、AIを業務で使う事業者(AI利用者)が気をつけることとして、次の1文を挙げる。

    「AIの出力について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利用する」

    このガイドラインは、法的な義務を課さない「非拘束的なソフトロー」として作られている。

    要因と対策、事故前に必要だった準備

    要因

    • 722本を一度に公開し、確認の段階がそろっていなかった

    • 公開時点で、結果の約半数は確認前だった(広報担当者の説明)

    • 符号の誤りが1本にあり、その構成を使っていた2本とあわせて3本を撤回した

    対策(OpenAIが事故のあとに取ったもの)

    • 3本を撤回し、誤りの説明と元の原稿へのリンクを付けた

    • 14本を修正し、それを引用する13本の引用先を更新した

    • Leanでの確認を6件追加し、主な結果のうち確認済みは300件(約42%)になった

    事故前に必要だった準備

    出典で事故のあとに加えられた対策を、使う前の準備として並べ直した。

    • 使う前に、AIの成果物を機械で確かめる手段(今回はLean)を決め、どこまで確かめたかを示せるようにしておく

    • 使う前に、誤りが見つかったときの撤回・訂正の手順と、説明の付け方を決めておく

    • 使う前に、どの成果物がどの成果物を前提にしているかを記録し、誤りが出たときに前提にした側まで直せるようにしておく

    生成AIに成果物を大量に作らせる組織が、外に出す前にそろえるものは、この3つである。

    #生成AI #OpenAI #AI #AI活用 #ファクトチェック

    この記事はnoteマネーにピックアップされました

    noteマネー 今週の特集「AI株を占うエヌビディア決算」
     
     
    生成AIを使え・導入しろと言われた担当者と経営者へ。実際に起きた生成AIの事故・情報漏えい・規約変更を、1件ずつ記事にしている(10月から15件)。各記事で、何が起きたか、なぜ起きたか、自分の会社で使う前に決めることまで。出典のURL付き。

    あなたへのおすすめ