生成人工知能(チャットGPTなど）が、評判になっています。私の理解では、コンピュータが過去の膨大な文章を蓄積し、利用者の求めに応じて、そこから答えを出してくれる仕組みです。
なかなかの優れもので、わからないことを調べたり、一定の指示で文章を書いてくれます。大学入試だと、過去問に強いのです。仕組みからして、当たり前ですね。

東大出版会の宣伝誌「UP」7月号に、千葉滋・東大教授の「プログラミングはAIに奪われる仕事だってさ」が載っています。面白い例えをしておられます。「酔っ払いと話をしているような気になる」とです。
すなわち、話していることの部分部分は正しく、間違っていると指摘すると修正してくれます。ところが、全体として何を言いたいのかわからないのです。頭に浮かんだ考えの断片を、浮かぶがままに口にしているだけなので、本人だってわからない状態です。
私も、何度も経験があります。その時々は、しっかりして話している(と思うのですが)、あとで考えても、全体で何を話題にしていたかが思い出せないのです。多分、その時点で｢今何を話題にしていますか？」と聞かれたら、答えられないでしょう。

これは、わかりやすい例えです。聞かれれば、過去の蓄積から答えを出してくれますが、自分から何かを考えることはありません。機械は、意図や目的は持っていないのです。
「あなたは何をしたいですか」という問いに、人工知能はどう答えるのでしょうか。｢条件を与えてくれないと、答えられません」と言うのかな。