9月20日の朝日新聞オピニオン欄、山本龍彦さんと青井未帆さんの対談「ＡＩ社会「個人の尊重」は」から。近代市民社会、憲法は、自立した個人を前提にしていましたが、「弱い人」もいることがわかり、子ども、労働者、病人、障害者、消費者へと「保護の対象」を広げてきました。情報もその考察の対象とするべきなのでしょう。
――「すべて国民は、個人として尊重される」と定めた憲法１３条では、様々な情報をもとに自分の頭で理性的に考えて選択する「強い個人」が想定されていました。しかし、ＳＮＳの隆盛や、刺激的なコンテンツで閲覧数を稼いで広告収益などを上げようとするアテンション・エコノミーが進んで言論空間に分断が生じる中、これまでの「個人」像が挑戦を受けているのではないでしょうか。
山本龍彦さん 夏の参院選の結果は両義的でした。これまでは組合や経済団体など様々な老舗組織の影響力が強く、個人が存在感を発揮できない面がありました。ＳＮＳから直接情報を得て判断することが当たり前になり、個人が従来型の中間団体支配から解放されたとみることもできます。
しかし、その個人の判断が本当に理性的で自律的だったかはわかりません。ＳＮＳ事業者は、より多くのアテンション（関心）を獲得するため、ＡＩを駆使して、その利用者が最も強く反応しそうな刺激的な情報を選別してオススメしています。既存メディアの情報から自由に、自分の頭で判断したと思った人もいるかもしれませんが、情報の選別や偏りがあるという点ではＳＮＳも同じです。メディアの「色」よりもＳＮＳの「色」の方が気づきにくいので、個人の意思決定に対する操作性は、より高まったとも考えられます。
青井未帆さん 参院選の結果についてはさらに分析が必要ですが、個人が脆弱な存在であるということは明らかになったと思います。
山本 ＡＩの属性予測に基づいてカスタマイズされた「刺激」が次々とオススメされますから、個人はかなり脆弱な状態に置かれますよね。
個人の無力化は、個人データ保護の議論でも見られます。動画視聴時も商品購入時も、私たちの個人データは常に、大量にやりとりされ、いまや誰とどこで共有されているのか個人はわからない。これまでは本人同意が基本でしたが、もはやデータの取り扱いを個人がまともに意思決定するのは能力的にも無理なので、本人同意は諦めて、事業者のガバナンスを適正化していく方向にかじを切るべきだとの議論も有力化しています。憲法学でも、個人データに対する本人の主体性を認める「自己情報コントロール権」が通説でしたが、最近では批判も強く、その地位が揺らいでいます。
自己情報コントロール権への攻撃は、ＡＩ化を推進する立場からも起きています。ＡＩ化を強力に推進するには、データフローを最大化し、あらゆるものをシステムにつなぐことが求められます。そこでは、個人よりも社会全体の生産性を向上する「全体最適」が強調されることも多い。この立場からすると、データの世界で権利を主張する個人は、「滑らかな繋がり」を阻害するノイズでしかないのです。実はＡＩ規制の文脈でも、特に米国では、個人に権利を主張させるのではなく、事業者側に透明性や説明責任など適正なガバナンスの構築を求める傾向があります。
青井 近代的な個人観は検討し直さなければならないでしょう。ネットワークの世界では、個人はネットワークにお世話をしてもらい、依存しているように見えます。人がこの世界に生まれ落ちた時、必ず誰かにお世話をしてもらわなくてはいけないという状況と近接している気がします。脆弱な存在です。
依存という点では、健康を損ない、最終的に他人や自分を殺したりする結果も生んでいます。実際に米国では、プラットフォーマーがアルゴリズムで若者をＳＮＳに依存させ、心身の健康を損ねたとして裁判も起きています。チャットボットとの会話が日常的になり、ＡＩを感情を持つ存在のように扱うことによるリスクも指摘されています。
一方で、繋がらない世界もあるわけです。私たちは「侵襲される身体」を持つ存在です。人は必ずだれかと関係を持ち、関係の中に人が存在する。身体性が優位な空間は、まだ残されているのではないでしょうか。
山本 デジタルの大海に放り出された個人には他者のケアが必要ですが、その「他者」は身体性をもった人間なのか、ＡＩなのか。尊厳を重視するＥＵ（欧州連合）では、重要な事柄をＡＩのみで自動的に決定されない権利が個人に保障されています。これは「人間」の関与を要求できる権利、身体的な関係性をノイズとして確保する権利とも言える。
その背景には、ＡＩがつくり出す脆弱性や精神的疎外のケアを、生成ＡＩ自身に任せることは果たして可能なのかという問題がある。