メインコンテンツへスキップ
見出し画像

現在のAIは驚くほど賢く、驚くほど愚かだ——誇大宣伝を超えて正しく使う

    📖 Rebooting AI
    ゲイリー・マーカス、アーネスト・デイヴィス

    ニューヨーク大学心理学・神経科学教授ゲイリー・マーカスとNYU数学・コンピューターサイエンス教授アーネスト・デイヴィスによる本書は2019年の著作です。ChatGPT登場前に書かれながら、AIの根本的な限界を最も鋭く指摘した批判的な書として今も有効です。

    1. AIは同時に驚くほど優秀で、驚くほど愚かだ

    "Current AI is simultaneously remarkably brilliant and remarkably stupid."
    (現在のAIは同時に驚くほど優秀で、驚くほど愚かだ)

    Rebooting AI

    チェスで世界チャンピオンを倒し、画像認識で医師を超え、文章を流暢に生成する——しかし「猫は犬より大きいか」という常識的な問いに誤答することがあります。アービンド・ナラヤンらが『AI Snake Oil』で示したように、AIのもっともらしさと正確性は別物です——流暢な文章が正しい理解を保証しません。

    2. ディープラーニングの5つの弱点

    常識の欠如・信頼性の欠如・頑健性の欠如・深い理解の欠如・透明性の欠如——これらがディープラーニングの根本的な課題です。

    "The hype about AI has outrun the reality. We need to be honest about what AI can and cannot do."
    (AIについての誇大宣伝は現実を追い越した。私たちはAIができることとできないことについて正直である必要がある)

    Rebooting AI

    ジュリア・ストッヤんが『Trustworthy AI』で示したように、信頼できるAIの構築は一度設計して終わりではなく継続的なプロセスです——5つの弱点を意識しながら使い続けることが必要です。

    3. 常識の欠如——AIが理解していない部分を人間が補う

    AIは膨大なデータから統計的なパターンを学びますが、世界の仕組みを理解しているわけではありません。

    士業の倒産が増えているというニュースを見たことがあります。AIにその数字を問うと「士業の倒産は増加傾向にある」という流暢な要約が返ってきます。しかし中身を確認すると、業種の偏り・特定の規模の事務所・外部の経済要因という背景がありました——全体のトレンドとして語れるものではありませんでした。数字は間違っていないかもしれませんが、文脈が抜け落ちると判断を誤ります。AIは「何が書かれているか」のパターンは学習していますが、「なぜそうなのか」という因果関係と文脈を理解しているわけではありません——そこを補うのが人間の役割です。

    4. 信頼できるAIのための9つの問い

    安全・信頼性・説明可能性・公平性・プライバシー・説明責任・透明性・監査可能性・修正可能性——これらが信頼できるAIの条件です。

    "Trustworthy AI is not just about being safe. It is about being reliable, explainable, fair, and accountable."
    (信頼できるAIは単に安全であることだけではない。それは信頼性があり、説明可能で、公正で、説明責任があることだ)

    Rebooting AI

    士業のAI活用に当てはめると、①クライアント情報が漏れないか②一次情報で確認しているか③なぜこの結論かを説明できるか——この3つが最も重要な確認項目になります。

    まとめ

    AIは驚くほど賢く、同時に驚くほど愚かです。誇大宣伝を超えて正しく使うために、常識の欠如を意識し、9つの問いで確認し、文脈は人間が補い続ける。

    もし一つだけ実践するなら「今日AIから得た情報で、中身を確認したものと確認しなかったものを一つずつ振り返る」こと——確認したものとしなかったものの差が見えてきます。

    現在のAIは驚くほど賢く、驚くほど愚かだ——その両方を知ることが、正しい使い方の始まりです。


    あなたへのおすすめ