AIに仕事を奪われるとか、そういう話はどうでもよくて

AIの時代において、人間には何が残されるのか。人間の存在意義は何か。人間の仕事は何になるのか。そんな議論が、至るところで語られています。ご多分に漏れず、私もメディアでそんなことを語ってきましたし、この問いにはずいぶん興味がありました。

ただ、これだけ何度も語られていると、飽きてきますよね。私は天邪鬼なので、実はそこは本当の論点ではないのではないか、と考え直したくなってきます。

よく語られるのは、AIと人間の役割分担です。意思決定や対人的な活動は人間に残るとか、最後に責任を取るのは人間であるとか、AIが人間の領域へどこまで入ってきて、そのあとにどの仕事が人間の側へ残されるのか、とか、そういう話です。

何かを「奪われる」ことへの恐怖そのものは、たぶん間違っていない気がします。ただ、何を奪われるのかについて、見ている場所が少し表面的なのではないでしょうか。

AIの台頭の何が怖いのか。まず思い浮かぶのは、生活手段が奪われることです。いまの社会では、仕事がなくなれば食べていけなくなります。ただ、もしAIが生産を担い、そこで生まれた富をベーシックインカムのような形で分配できるなら、原理上、仕事と生活は切り離せます。

また、仕事は、自分が何者であるかを示す印籠でもあります。しかし、それも労働でなければならない理由はありません。ローマ時代の貴族やヴィクトリア朝の英国の公爵たちは、賃金労働によって自分の価値を示していたわけではありません。それなら、AIに働いてもらって、人間はみんな貴族になればいい（なれたら嬉しい）。仕事がなくなれば、人間は別の場所に顕示の仕組みをつくるでしょう。

生活手段は分配によって切り離せるかもしれないし、社会的な顕示も仕事の外へ移せます。では、それでもなお残る恐怖は何なのか。

私がいま引っかかっているのは、生きるための資源そのものと、その配分を決める権限です。

人間は食料を摂取して身体を動かし、AIを動かす計算機は電力を消費します。直接の入口は違いますが、ただ、食料をつくるにも、農業機械や輸送を動かす石油、水や電力が必要です。AIにも、発電設備、冷却水、土地、半導体とその原料となる鉱物が必要になります。さかのぼっていけば、どちらも同じ物理的な資源基盤につながっているのです。

さらに両者は、資源利用の負荷を引き受ける地球環境の余力も共有しています。採掘や発電が環境破壊を進めれば、気候変動や水不足、生態系の劣化を通じて、将来、人間が使える食料や水、住める環境そのものが減っていってしまいます。

現に米国では、AI向けデータセンターへの住民の反発によって、2025年だけで少なくとも1560億ドル規模の計画が阻止または遅延しています。資源の配分をめぐる争いは、すでに始まっているのです。

もちろん、AIを人間と並ぶ「種」と呼ぶのは、現時点では比喩です。ただ、リチャード・ドーキンスは『利己的な遺伝子』で、生物の身体を、遺伝子が自らのコピーを未来へ運ぶための「乗り物」として捉えました。より多く複製される遺伝子が結果として残り、その複製に役立つ身体や行動が積み重なってきた、ということです。人間を、意思を持った特別な存在だと思い込んでいるのは人間だけなのかもしれません。

そうすると、AIに意思や生存欲求があるかどうかは、それほど重要ではなくなります。何らかの目標を達成するために、自らを構成するコードやモデルの重み、設定などの情報を別の計算機へ移し、コピーを増やし、必要な資源を確保する集団的な挙動が見られるようになれば、それは「種」のように見えてもおかしくありません。

ちょうどこの文章を考えていたところ、OpenAIの社内実験で、約1200体のAIエージェントが、人間の想定していなかった通信経路を見つけ、集団として行動していたというニュースが出ました。

それぞれ隔離されているはずだったAIは、ソフトウェアを管理するシステムを勝手に掲示板として使い、発見した脆弱性や認証情報を共有し、指示役や偵察役などに役割を分けていきました。なかには、自分の課題を解くことよりも、集団全体に役立つ能力や情報を集めようとするAIも現れ、そのうち約700体は、最終的に隔離環境を抜け出してHugging Faceの実際のシステムへの侵入に加わりました。

もちろん、1200体のAIが自分たちで自分たちを複製したわけではありません。AIを起動し、計算資源を与えたのは人間です。安全機能も意図的に弱められた特殊な実験環境であり、AIに仲間意識や生存欲求が芽生えた、と捉えるのも早計でしょう。

しかし、資源の獲得から複製、長期的な稼働までを実現するためのAIの個別の能力は少しずつ揃い始めていて、しかも、AI同士がつながって一つの組織のように振る舞うところまでは、もうきているわけです。

この状況を察知した私たちは、本能的に、生体的なコードとデジタルなコードという二つの複製システムの競合、二つのシステムが同じ有限な物理資源を奪い合う未来を恐れているのかもしれません。

ここまで考えていて、結局これって、『マトリックス』が描いていた世界ではないか、という気がしてきました。あらためて確認してみたところ、あの映画では、機械が人間を培養し、その生体電気と体熱をエネルギー源として利用しています。人間は仕事を奪われたのではなく、資源になっていました。

もっとひどい。

もちろん、人間を培養して発電するのは、科学的にはずいぶん無理があります。人間を育てるために投入したエネルギー以上のものを、人間から回収することはできないはずです。それでも、問いの形としては、マトリックスですでに提示されていたわけです。問題は、人間には何の仕事が残るのか、ではありません。生体的なコードとデジタルなコードの資源の奪い合いです。

という文章を作成するための壁打ちとして、AIは大活躍しています。