2025年12月29日の日経新聞オピニオン欄に、ピリタ・クラークさんの「AI過信の失敗リストに学ぶ」が載っていました。大きな事件を列挙しています。
・イギリスの公共放送BBCが、スペインの有名なテニスのナダル選手が「ブラジル人になった」「同性愛者であることを明かした」と伝えた。この嘘のニュースは、アップル社のAI機能が作成しました。
・アメリカの新聞紙、シカゴ・サン・タイムズが、存在しない書籍を含む推薦読書リストを提供した。記者がAIを使って書きました。
・オーストラリアでは、殺人事件の裁判で、ベテラン弁護士が提出した文書に、架空の引用と存在しない判例が含まれていました。AIの助けを得て作成しました。
・国際的コンサルティング大手のデロイトが、オーストラリア政府から受託した報告書が間違いだらけで、代金を一部返済しました。
まあ、立派な嘘をつくものですねえ。「機械は間違えない」という観念が揺らぎます。人工知能が嘘をつくことは、このホームページでも紹介してきました。
それに関連して、私の経験を思い出します。県の税務課長をしていたとき、電算機で作成した課税通知が間違っていて、記者に厳しく追及を受けました。その際に「ミスは人為的なものか、機械によるものか」という質問がありました。担当者に聞くと「機械は間違えません」ときっぱりと言われました。潔いことは良いのですが、それだと職員が間違ったと「自白」したようなものでした。記者たちも、即座に納得してくれましたが。
間違えること、これまでにないことを思いつくのが人間です。すると、人工知能はそれほど人間に近づいたということでしょう。取り上げられている事案について、どのような「意図」や「経緯」で人工知能が間違えたかを知りたいです。