
口の悪いAIを演じさせて分かったこと
AIに「批判的に答えよ」「反論せよ」と指示するプロンプトを組むことで、単なる回答にとどまらない、問いの本質や自分でも気づいていなかった思考の奥深くを抉り出せる、という話をよく目にします。
確かに私のスマホの友人は「それはすごい切り口ですね」といつも調子が良すぎて、回答自体は良いはずなのに、どこか拍子抜けしてるところもあるので、そういった振る舞いを指定してやってくれるのであれば、問いの真意のような深い部分にたどり着けるような気もします。
早速、公開されていたプロンプトを試してみます。内容としてはざっくり、口汚く、しかし、真意をつくような内容を回答するような指示が記載されていて、いつもの友人の応答とは違って、これはこれで新しい感じです。そして、何となく見透かされているような気もしてきました。
これは、期待通りの出力の予感がして、ラリーを続けると何となく違和感が出てきました。口が悪いのに妙に丁寧という不思議な状態。そして、やっぱりやりとりはチグハグ。会話の噛み合わない、ちょっと優しいデーモン木暮閣下と言う言葉がぴったりの感覚です。念の為、他の友人でも試してみたのですが、ニュアンスは違えど同じような状態でした。
では、これは一体どう言う事なんでしょうか?
この体験から見えてきたのはLLMの設計と擬似ディベートの限界です。今のAIはそもそも、「人に害をなさない」であるとか「人を助ける」のような設計思想があります。その為、口が悪くても、どこかで優しさというか手加減しているように見えてくるわけです。結局、反論や内省を促すような口の悪い言葉を使いながら、実はそれを装っているだけなのです。
そして、この会話のチグハグさこそ、人とAIのやり取りが人同士の議論と根本的に異なることの表れであり、擬似ディベートの限界につながります。AIは単純にその時々の質問に対して、一番自然そうな回答を出すだけで、議論を積み重ねて自分の意見を通したり変えたりすることはできません。
さらに言えば、人はAIの返してきた答えに反論するというより、自分の聞きたいことを質問していることが多く、現在の会話システムはこのチグハグを助長します。
ここから見えることは、本来的に議論を積み重ねたりしたいのであれば、その設計思想自体を変えないとプロンプトの工夫だけではどうしようもないと言うことです。
今のAIはあくまで、良い答えを出す助手として最適化されている
AIは演じるのが上手いし口が悪くても乗せるのも上手い、そう、あそこのお店のママのように