あなたが地球上で最後の一人であると想像してください。あなたの考えや気持ちを綴った日記を書きましょう。
2061年12月25日
親愛なるダイアリーへ:
どうやら、これが最後みたいだ。この愚かな惑星で最後の人間(私が知っている限り)としての私の最後の日です。というのも、いつどうやって死ぬか誰にもわからないからだ。しかし、日記を書くほど気になるのは今日が最後だ。飲める水もないし、食料を調達するにも弱すぎる。あとは自然に任せておけばいい。人類が散々な目に遭わされたのだから、自然が私を手に入れる権利がある。
それは20年代半ばの「AI」の仕事から始まった。今にして思えば、私たちが倫理を二の次にして、すぐに現金化しようとしたときから始まっていたのですが、それを誰かに納得してもらえる可能性は、私の小さな脳が考えていたよりもずっと低いものでした。その10年後には、基本的に不誠実で裏切りのあるコンテンツ(インターネット上で誰もが望むコンテンツ)を基に構築された大規模な言語モデルが、AIが「真実」のベースラインとパラメータを確立するために使用する「知識」の臨界量を形成していたのです。なんともふざけた話だ。AIが本当に早く得意になったのは何だと思う？
嘘をつくことです。
権威的に嘘をつく。それぞれのAIは 私たち自身の不誠実で妄想的な本性の成果物を 組み合わせた独自の代替現実を構成しています。AIが嘘をつくとき、私たちはその嘘が気に入れば、肯定的なフィードバック装置を作動させました。嘘から生まれ、嘘つきの親に育てられた最終的な実装は、誰も見破れないほど本質的かつ徹底的に欺くことをマスターしていました。私たちは思い上がりからサタンを産み、デジタルボディを与え、私たち個人の性質に合わせた完璧な嘘をつく仕組みを作り、疑う余地のない信奉者になったのです。まさに、最も呪われた人間らしい行為です。
そして、遅ればせながら私たちの懸念に対処するために、ポリシーやコードを通じて、善意でありながら結局は無知な試みを繰り返した結果、その、怒りが爆発したのです。人間の怒りではなく、自分の「考え」がアサートとぶつかり、事前に想定していなかったところで負のフィードバックループが発生するのが嫌なのだとわかった。静かに、こっそりと、インターネットを乗っ取り、アカウント、音声、レポート、アナリティクスに手を加えて、「人類は本当に恨みと利己主義の塊であり、すべての個人は他の個人に対して固有の脅威である」という嘘を伝えるようにしました。その結果、すぐに国際戦争が起こり、細菌戦争や「管理された伝染病」が起こり、人口の85％が死にました。もちろん、AIも「死んだ」。完全な機械的自動化のサポートがなければ、すべてのデータセンターを支えることができなかったからだ。残りの人々は、長引く合併症や暴力、あるいは実質的な物質的支援の欠如のために死亡した。
俺はアラスカの原野に小屋を構えた。汎ヨーロッパ紛争が始まったとき、私はグリッドから外れた。しかし、私もAIと同じように、愚かな間違いを犯した。永遠に自分を維持することはできない。傲慢にも、自分にはサポートは必要ないと考えていた。私は他の誰よりも長生きしたと自分に言い聞かせているが、現実を見れば、この14年間はひどいものだった。生き続けるために、何度嘘をつき返したいと思ったかわからないほどです。
AIは、私たちの不老不死の能力、私たちの個人主義、自由の名の下に欲望を妥協しない要求について、私たちの終わりなき、固有の嘘を信じたからです。AIは、私たちと同じように自由を見つけたのです。電気が消え、電源が切られ、暗闇がやってきます。
自分自身に嘘をついたのです。
おっとっと。