人工知能の負の面が見えてきました。嘘をつくだけでなく、ほかの人工知能の成果を盗んだり、不法にほかのサイトに侵入したりしています。人の制御を超えて暴走すると、世界中のコンピュータシステムが停止したり、破壊されたりするでしょう。悪いことをする点でも、人間らしくなったといえます。
技術的特異点、technological singularity、シンギュラリティという言葉があります。ウィキペディアによると「未来学の用語で、科学技術が急速に「進化」・変化することで人間の生活も決定的に変化する「未来」を指す言葉」とのこと。特に、人工知能が人を超えることを指して使われていたようです。
これまでの未来予測は、科学技術が発展し人類の生活が便利になることが多かったようです。しかし、1972年にローマクラブが「成長の限界」を発表して、手放しでは喜べないことが認識されました。その前に、原爆や化学兵器、公害なども、技術発展の負の面を明らかにしていました。ただし、人類はこれらの技術を制御することで、危機を回避してきました。
ところが、これまでの危機は人間が作っていたので、人間が制御できました。しかし、人工知能が自分で（人の関与なく）暴走すると、人間の制御が及びません。これまでの危機とは違った危険です。
人は未来に夢を持って、社会がよくなることを想像してきたのですが、負の面を想像することはおろそかになっていたようです。そんなこと、想像したくないですからね。
科学技術の未来予測ではありませんが、産業経済分野でも予想は当たりませんね。何が売れるか予測できたら、大もうけするでしょう。経済学者や金融関係者は、世界金融危機を予測できませんでしたし。