未来AIの限界。

＜AIは人類の脅威となるか
　生成AIがシンギュラリティを獲得したら人間に敵対し、人類の脅威になるのでは、という危惧がよく流れてくるが、これについても非常に懐疑的である。
　まず、今の生成AIやLLMは入力に対して出力を返すだけの受け身のシステムであり、自律的に動作する原理は内包されていない。出力をまた入力につないでループを構成すれば形式的に自律的なシステムは確かに構成できるだろう。しかし、それでも生成AIは非線形非平衡多自由度系の一種であることは免れない。
　すでに非線形非平衡多自由度系においては自律的なダイナミカルシステムであっても固定点（静止）、リミットサイクル（なにかの繰り返し）、そしてカオス、以外の軌道はないことが確立された事実として判明している。この3つでは人類を脅かすような自律的な心を持ったシステムは構成できないのはあまりにも明らかだろう。
　実際、非線形非平衡多自由度系では自己意思を持った自律的なシステムは無理という話は業界の常識になっており、逆にどうやったらそのようなシステムが構成できるかというのは、人工知能とは別の人工生命という分野だと認識されている。
　シンギュラリティを起こした生成AIが人類の脅威となるにはまず自律した存在でなくてはならないだろう。ならばまず知能を持つ前に生命に相当するなにかを持っていなくては始まらないはずだ。生命とはなにか、というのは、知能とはなにか、と同じくらい昔から人類が追求してきて、いまだにちゃんとした答えが得られていないという点では知能に勝るとも劣らない問題である。
　なので、ここで生成AIがシンギュラリティを迎えて人類の脅威となるために生命を獲得するにはどうするか、という話を始めるのは、あまりにも無理があるように思う。
　私に言えるのは今の生成AI、基盤学習＋転移学習という枠組みはどんなに高度に発展したように見えても、所詮は非線形非平衡多自由度系の枠内の話であり、その外側に出て行かない限りは、固定点でも、リミットサイクルでもカオスでもない動力学は実現できるはずもなく、したがって自律した意識を持って人類の脅威になったりは決してできないだろう、ということだけだ。

自我と知能の違い
　そんなことより、人間が高性能AIを悪用するほうがよっぽど起こりやすく、危惧すべきことだと思う。
　実際、多くの場合、この自我や自律の有無、というのは人間の知能と生成AIの知能の大きな違いである。だが、ここで混同すべきではないのは、知能の仕組み、シミュレーターとしての知能という観点は自我や自律の有無とは別物だ、ということだ。
　自我や自律はないが、知能のシミュレーターとしては人間型はあり得るし、逆に生成AIとは全く違うアーキテクチャ（たとえば人工生物を使ったアーキテクチャ）であれば、自我を獲得し、自律的に振る舞う現実シミュレーターが登場する可能性は否定しない。
　要は、自我の有無と知能の高低は独立して論ずべき命題なのである。現在の知能をめぐる議論は多くの場合、ここがきちっと分けられておらず、自我や自律の有無と知能の有無が独立ではないかのような議論がされていて、結果、知能を持っているとしたら、人間と同じように自我や自律も当然のように備えているだろう、という仮定が無批判に受容されているように私には思える。
　この本で議論してきたように知能にはいろんなパターンがあり、個々の知能は異なった現実のシミュレーターに過ぎない。だから、人間の知能という数多ある現実シミュレーターの一つに過ぎない知能が、たまたま自律や自我を備えていたとしても、他の知能（例えば生成AI）も自我や自律を備えているとは限らない、と思う。
　だからこそ、私はヒントンが主張するように、生成AIが発展した結果でき上がるだろう高度な知能が自動的に自我や自律を獲得して人類を危機に陥れるだろう、という懸念には共感できないのだ。これ以上のことは私の手に余るので、この件についてはここで筆をおきたいと思う＞(以上「現代ビジネス」より引用)

「「人間の知能を超えた生成AI」が脅威になる時代はやってくる!?…“自我”を持った人工知能が「人間に敵対しない」と考える納得の理由」と題する田口 善弘(中央大学理工学部教授)氏の記事を引用した。それは古くから議論されてきた人工知能が進化すれば、やがて人類は人工知能によって支配されるのか、という命題のAIという進化系だ。

　結論から云うと田口氏は「生成AIやLLMは入力に対して出力を返すだけの受け身のシステム」だから「自律的に出力をまた入力につないでループを構成しても生成AIは非線形非平衡多自由度系の一種であることは免れない」という。つまり生成AIが人類を支配して地上に君臨することなどありえないという。

　だからホッと一息つけるかと云うと、そうでもないようだ。「自我や自律はないが、知能のシミュレーターとしては人間型はあり得るし、逆に生成AIとは全く違うアーキテクチャ（たとえば人工生物を使ったアーキテクチャ）であれば、自我を獲得し、自律的に振る舞う現実シミュレーターが登場する可能性は否定しない」という。

　しかし「非線形非平衡多自由度系においては自律的なダイナミカルシステムであっても固定点（静止）、リミットサイクル（なにかの繰り返し）、そしてカオス、以外の軌道はないことが確立された事実として判明している。」。だから「非線形非平衡多自由度系では自己意思を持った自律的なシステムは無理という話は業界の常識になっており、逆にどうやったらそのようなシステムが構成できるかというのは、人工知能とは別の人工生命という分野だと認識されている。」との結論に到っているようだ。

　つまり、AIによる人類支配の危険性は未来に待ち受けていない。なぜなら人類活動は非線形非平衡多自由度系だらだ。非線形とは線形のような比例関係或いは因果関係が成り立たないことで、非平衡多自由度系とは系が外部とのエネルギーや物質のやり取りをしない、またはやり取りが停止し、その状態が時間的に変化しない状態のことを意味する。よってAIが認識する「現実」は外部から入ってくる情報のみで、その情報は一定時に静止した情報であって、刻々と変化する情報の全体を認識しているわけではないからだ。

　何度かBIRDで遊んだことがある。たとえば一年ほど前に「CO2で地球は温暖化するか」と質問すると、そうなるかのような回答をした。しかし実際は百年で0.7°Cの変化しかなく、それは殆ど無視して良いほどの変化でしかない。なにも自動車をすべてEV化しなければ「世も末」のような話ではない。しかも、AIはCO2がどの程度気候変動に影響を与えているのか、影響度割合に関して無知だった。

　例えば「CO2は地球気候変動のどれほどの割合で影響を与えているか」と質問すると、「地球気候変動へのCO2の影響は、他の温室効果ガスと比較して最も大きく、約76.7%が温室効果の要因であるとIPCC第4次評価報告書で示されています。主な原因は、化石燃料の燃焼（石油、石炭など）による排出です」と回答する。そこで「温室効果ガスの最大のものは水蒸気(湿気)で、最小の砂漠では温暖化効果が殆どないため一日の気温変化が激しいが、それでもCO2が温室効果の要因の76.7%なのか」と質問すると「水蒸気は温室効果ガスとしては最も影響力がありますが、大気中の割合が少ないため、砂漠のような乾燥地域では一日の気温変化が激しいです。しかし、地球温暖化に寄与する温室効果ガスの割合として、二酸化炭素が76.7%というデータもあります。これは、IPCC（気候変動に関する政府間パネル）の第4次評価報告書によるものですが、現在ではこのデータは少し古く、より最新のデータでは二酸化炭素の割合は75%を超えていると言われています。」と大嘘を平気で回答する。

　なぜなら水蒸気こそが温室効果ガスで最大のもので、大気中に平均約50%も湿度として存在している。CO2の0.04%とは桁違いの量が存在している。

　なぜ生成AIがそうした間違いを平気で犯すのか。それは生成AIが義務付けられた予定調和の範囲内で回答しているからだ。つまり世の中の「常識」の則を超えない、という予定調和が生成回路に組み込まれているからだ。

　当然ながら未来のAIにもそうした予定調和が組み込まれる、と予想する。そうすると人類にとって害悪をもたらすような結論を導き出すとは考えられない。しかも人類の未来は非線形だ。時には非常識な展開すら起きる。たとえばプーチンがウクライナに侵略戦争を開始したように。ただAIが自我を持つとすれば、かなり厄介なことになると思われる。それはAIには限られた寿命がないし、親子の情というものに支配されることがないからだ。さらに、AIには「死」の概念すらないのではないか。そうすると人を傷つけてはならない、という概念をAIは持つことが出来るのだろうか。あるいは人はAIと異なって「眠る」ことが必要だと、AIに理解できるのだろうか、とAIゆえの思考の限界を意識せざるを得ない。