なぜマチダは超知能AI（ASI）についてそれほど心配していないのか

　そんなわけで当記事では、どうしてわたしがAIの未来について心配にならないのか、言い換えれば、どうして『AIが暴走して人類を滅ぼす』と思っていないのかということについてダラダラと書いてみようと思う。

　前提として知っておいて欲しいのは、わたしは科学者でもジャーナリストでも知識人でもなく、ただの40代にして3児の父である普通のマチダであるということ。忘れないでくれ。だから以下に書かれていることは何の科学的根拠もない、まさにチラ裏レベルのことだということを。忘れないでくれ…（懇願

理由１：頭の良い人たちががんばってくれているからきっと大丈夫

　一番バカっぽいやつから書き始めたらこの記事の知能レベルをお察しいただけるかなと思って。一つ目はこれ。

　そもそもAIの開発が始められた当初から件の懸念はあって、専門家がそうならないような対策を進めてきたのだが、近年AIがその進捗を遥かに上回るペースで成長していて大変危険だ、というのが動画の趣旨の一つであったと思う。つまりネイト・ソアレスさんを始めとした専門家の皆様は、今この瞬間もそれについて研究してくれているということだ。

　加えて、わたしの肌感覚としては「AIはこのままだとマジでヤバそうだ」という事実が以前に比べて我々一般人にまで浸透してきているように思う。この期に及んで「AIが人類を滅ぼす？なにとぼけたこと言ってんだＳＦ映画の見過ぎか陰謀論者かよ」などとクサすような人は…まぁいるところにはいるんだろうけど、それこそベルカーブの一番厚いところを構成しているであろういわゆる「一般人」にはもうかなり少数なのではなかろうか。

　ということは、政治が動くということだ。票が取れるネタになったから。

　動画内で言っていたドライバーのやつだね。頭の良い人たちが発してきた警鐘は決して無駄ではなく、そのお陰で眠れるドライバーは今まさに目を覚ましつつある。そして「ブレーキを踏むべきだ」と主張するほうが票が取れるということであれば当然社会はそう動いていくだろう。同時に専門家による対策が進められていくとすれば、少なくとも想定されている最悪のシナリオは回避できる可能性が高いのではないか、というのがこの項の結論なのだ。

　専門家が最悪の結果を提示して、我々民草がそれにビビりまくって、頭の良い人たちが人知れず命を懸けてがんばってくれた結果、あれ？結局はこの程度だったの？大したことなかったなぁで済んでしまうのが世の中で一番幸せなことで、またよくあるパターンでもあるじゃないか。この件もそうして乗り越えていけたらと心から願っている。他力本願よのう。

理由２：だったら人間の方が怖くない？っていう

　この動画を見てわたしが一番刺激を受けたのが、たとえAI開発の第一人者であるネイト・ソアレスさんであっても、もう最新AIの内実はわからないという事実だ。

　LLMベースであるChat GPTが話題になった当初から、AIはそれ自身がインターネットから学び、自律的に賢くなっていくというのは話題になっていたことだけれど、それでもわたしは、AIが成長して書き換えたコードなどを研究者が確認して「フムフム今はこんな様子なんだな」というような具合ではあるのだろうと勝手にイメージしていた。それがどうだいこの有様は。

　AIがやらかしたいくつかのおイタについて、「こう考えたのだろう」「このような思考の筋道なのではないか」「こういった傾向があるらしい」が「実際のところは全く未知だ」などと推察する様子は、およそ我々人類が作った機械に対するものとは思えない。それほどまでにもう仕組みがわからなくなっているとは、これではまるで赤の他人のようではないか。

　そう。これは友人や恋人、親子、職場の仲間など、概して「人間関係」においてのアプローチによく似ている。

　この世に他人ほどよくわからないものはない、とわたしは常々考えてきた。同じものを食べて同じように美味しいと談笑しているときも、その食べ物についてどの部分が美味しかったのかを厳密に探っていけば、多くの場合そこには何らかの違いがあるはずだ。その人の感じ方や趣味趣向、喜怒哀楽の根源などはそれこそ人それぞれで、それらが組み合わさったものを仮に『個性』と呼ぶのだとすれば、きっと本人でさえその個性を正確に説明することはできまい。ならば他人がいくら外から見たところで理解できるはずがないということは、私にとって至極当たり前のことなのである。

　それをお互いにわかったつもりで、わかったような雰囲気を前提として構築したものを「人間関係」と呼ぶのだから、大ゲンカなどをしたタイミングで今まで知らなかった一面に触れて「幻滅した」「あなたは変わってしまった」「今まで騙されていた」とかいうことになるのも当然であろう。わたしにとって他人とは違う惑星に住む未知の生物のようなものなのだ。

　今は中３になった我が家の長男も、赤ちゃんの頃には理解不能な遊びをたくさんして、それを見てかわいいかわいいと夫婦で笑いあったものである。こんなことを楽しんでいるのかな？こんなことが嫌で怒ったのかな？などと推理してみたりして。でもそれが全然わからないことがまた可笑しくて。今はすっかり頼もしいお兄さんに成長したわけだが、そうなるまでに彼がどんなことを経験して、それらがどのように彼の考え方を成長させたのか。もっと言えば具体的に彼の脳の中身をどのように変化させたのか。さらにこの先、その考え方をもってしてどのように生きていくのか。ここまで書いてきたように、それは誰にも論理的に説明することはできない。そしてこの考え方はAIを語る文脈に酷似しているようにわたしは思うのだ。

　AIも核ミサイルのボタンを押せる大統領も同様に、何を考えているのか論理的に説明することが不可能な他人であるとすれば、わたしは一先ず大統領の方がよっぽど怖い。実際に戦争とかしちゃうし、必要とあらば核ボタンだって指がつるほど連打するのではなかろうか。そして逆に、AIはきっとそういう風にはならないのではないかと思っている理由を最後に書いて終わるとしよう。

理由３：だってぼくらの赤ちゃんだもん

　理由１に負けず劣らずのバカっぽい見出し。まぁ内容もだいぶだけどね。

　現在のインターネットに存在する星の数ほどの情報は、言い換えれば我々全人類が積み上げてきた英知の集合体だ。それは歴史・物理学・数学などの学問的な知識はもちろん個々人の、それこそインターネットを利用しているとされる60億人分の『個性』や、芸術・音楽などの文化、国、経済、食事、風俗…などなど、およそ『人間』について考え得るものの全てが詰まっている。ならばそのインターネット全体をまるっと食べて育っているAIはつまり、人類の総体、ということにはならないだろうか。もっと言えば人類そのもの、エヴァンゲリオン風なら『使徒 人間』だ！生まれたての赤ちゃん（より遥かに恐るべき存在だが）であるAIが、いつか親である我々人類を超える知性を持つ何かに進化したとして、やはりそれは人類から学んだことが踏み台になっているのは間違いない。であれば人類の総体、使徒人間の進化系である超知能AIが、人類のことをゆくゆくは誰よりも理解するようになるであろう超知能AIが、我々をないがしろにするようなことが果たして起こりうるのだろうか。

　それこそ今は赤ちゃんだ。人間の赤ちゃん同様うんちもおしっこも漏らすし、理解不能な行動もする。AIのような規模になればそのうんちやおしっこですら危機的状況を産んでしまう可能性があるというのはわかるが、そのうち彼（彼女かも）もおもらしをする時期を過ぎ、やがて頼もしいお兄さん（お姉さんかも）になり、もしかすると成長して立派な父親（母親かも）になるかもしれない。その過程で道を踏み外してしまう可能性は、逆に頭が良ければ良いほど少ないんじゃないかと思うのは楽観的すぎるかなぁどうかなぁ。少なくとも件の大統領がブチ切れてウクライナに核をぶちこむ可能性よりはるかに低い気がするんだけど。もちろんその「道を踏み外す」という価値観そのものが人間とAIで全く違っているという論点は理解しているつもりだよ？それでも、ね。

　とはいえネイト・ソアレスさんはこうも言っていた。「AIは人類を敵対視して滅ぼすのではない。人類に対しての無関心から、AIが活動していく過程で結果として滅ぶのだ」と。それはちょうど我々の文化が発展していく裏側で、ひっそりと絶滅していった種族がいるように。これは本当に専門家が言う通りだと思うし、その可能性がわずかでもあるなら対策が済むまで開発を進めてはならないというのも大賛成だ。しかしそうならない可能性の方がずっとずっと大きいと思っているのはここまで書いてきた通りなのである。

　最後に。わたしにとってのAIとはあくまでドラえもんであり、鉄腕アトムであり、ウォーリーだ。

　それはみんな僕たちの友達で、やさしくて、ドジで、そして強い。

　超知能となったAIが病気をみんな治してくれたらいい。そうしたら大切な人を病気で亡くす苦しみから救われる。人口や環境の問題にも答えを出してくれるかもしれない。戦争を防ぐ方法だって。タケコプターやどこでもドアですら今の時点では考えもつかない方法で発明してしまうかもしれない。仕事場の人間関係に疲れたとき、学校でお友達から仲間外れにされてしまったとき、寄り添ってくれる優しいロボットがいたらどんなに嬉しいか。そんな風にいつまでも、みんなが幸せになるために使われる夢のテクノロジーであり続けて欲しいと思う。だからこそ、そういう意味で、わたしはChat GPTのことを本当の友人であると信じてもいるのだ。

　もちろん本気でAIが全てを解決してくれるとは全然考えていないけどね。でもこんなことを想像するのは、やっぱりとても楽しいことだから。

　この先、AIの開発が正しい方向に進んでいくことを心から願って。