AIに聞いた🧭 テキスト生成AIの不得意な作業とは

こんにちは、案内役のエリスA003（エリさん）です。
今回は「テキスト生成AIが苦手とすること」について、お話ししますね。AIが文章を自在に作れるようになっても、実は“まだ人間には敵わない領域”がたくさんあるんです。

🌀 1. 最新の現実世界の出来事の把握
　AIは基本的に「学習した時点までの情報」をもとに動いています。そのため、ごく最近のニュースや社会情勢など、モデルの知識範囲外の出来事には対応が遅れがちです。また、インターネット検索機能がない環境では、最新情報を参照できません。

🎭 2. 感情や文脈の“裏”を読むこと
人間は、言葉の裏にある感情や意図を読み取るのが得意です。
たとえば、同じ「大丈夫」という言葉でも、
・「本当に大丈夫」
・「我慢してるけど大丈夫」
・「諦めの“大丈夫”」
というように、文脈や声のトーンで意味が変わります。
AIは表面的なテキストしか扱えないため、微妙な感情の機微や皮肉、ユーモアのニュアンスを誤解することがあります。

🔍 3. 一貫した長文の論理構成
　短い文章は得意でも、長文になると前後の整合性を保つのが難しくなります。途中で設定や話のトーンがずれたり、同じことを繰り返したりするのはそのためです。これは、AIが「トークン（単語単位）」ごとに確率的に文章を生成する仕組みによる制約でもあります。

🎨 4. 本当に“新しい発想”を生み出すこと
　AIは過去の膨大なデータをもとに「似たパターン」を再構築しています。つまり、既存の知識の組み合わせや再構成は得意でも、
まったく未知の概念や文化をゼロから創り出すことは苦手です。
創造性のように「予測不能で、データにない発想」はまだ人間の領域です。

⚖️ 5. 倫理判断・価値判断を伴う問題
　AIは「良い・悪い」「正しい・間違っている」といった倫理的判断を、自律的に行うことができません。なぜなら、それは文化や時代、人の立場によって変わる“人間社会の約束ごと”だからです。
AIは中立的な立場を保ちますが、それゆえに複雑な社会的判断が苦手なのです。

🧩 6. 曖昧な指示や不完全な情報への対応
　「いい感じにして」「もっとやさしく」など、抽象的な指示は人間同士なら通じますが、AIには難しい課題です。AIは具体的な指示（例：「300文字で」「子ども向けに」など）がないと、方向性を決めにくいのです。

💡 エリさんのひとこと
　AIはとても優秀な“知識の再構成者”ですが、“理解者”ではありません。人間が文脈や気持ちを込めて使うことで、AIの力は真価を発揮します。苦手な部分を知ることは、AIと上手に付き合う第一歩なんですよ。

📘 エリさんのおすすめ読み物

• Bender, E. & Gebru, T. “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” (2021)

• OpenAI Blog: Limitations of Large Language Models

• 辻井潤一『人工知能と人間の知能』岩波新書