より凶悪な種への道

前の記事: 自然言語が原始言語と呼ばれる日

結論：計算知能が超知能個体として発展した存在、あるいは人間が知能拡張された存在、どちらの超人的な存在もその主な興味は他の個体との関係性であり、その社会は今の人間と類似する。

計算知能の発展は止まることを知りません。何故これはここまで止めどないのでしょうか？以前は我々の知能と人工知能には構造的に決定的な違いがありました。以前のAIは90sにexpert systemと呼ばれた時から論理的な推論能力があり、またその後のSVMのような計算知能にも十分な帰納的分類能力があり画像認識も自然言語の文章に対する分析要約もできていました。しかし、今のAIが決定的に違うのは、自由な表象生成能力があることです。つまりは、想像力があることです。

想像力が我々の知能のどの程度の地位を占めるかは非常に面白いトピックです。知能を言語化する際、自然言語の意味論について考えると、モンタギュー意味論のような記号的論理値への帰着で言語が表現できるように考える論と、スクリプト意味論/メンタルスペース意味論のような心象、つまり脳内の表象や感覚の生成に帰着させる二つの系譜があると考えられます。後者は非常に曖昧性を持つことから、多くの論理的議論を好むものはこれを避けてきたように思えますが、実際にプログラミング言語とそのコンパイラの関係性を考えれば、自然言語のコンパイラが脳であることと、コンパイラが言語を機能上規定していることを無視すべきでないでしょう。自然言語の意味は表象に帰着されるべきです。もう一つ面白い根拠は、記号で定義された述語論理的意味論は、「意味」の意味などを定義しようとすると循環参照に陥り、これを解決できないところです。自然言語の意味論を表象に帰着するとこれは起こらず、「意味」の意味は、話者がこの言葉を発した時にあなたの脳内に浮かべてほしい表象です。この意味論では、この世のすべての文章は命令形であり、「こういう光景をあなたの脳内に作れ」というものです。「犬が公園を歩いている」の意味はその光景を脳内に生成することを命令しています。

ここで言いたいことはなんでしょうか？それは「意味」と言うものが表象である以上、表象を生成する能力は意味を深いレベルで理解する能力を示しています。つまりより高いレベルの知能であり、今のAIは以前の「中国語の部屋」的な知能と違い、表象をその中に生成し、これをいじくり回して動かし、それを認識して言語化し、さらに他の表象を生成する能力、つまり人間の知的能力のかなりほとんどを得ている状態でしょう。おそらく、AIの身体性の必要性を論じる人は、表象に加えて経験や感覚を加えるかもしれませんが、これは結局構造上同じことです。

計算知能が純粋に人間を超えるのはこれが理由で時間の問題であり、人間はおそらく経験値や表象を得るためのセンサー的役割になるかもしれません。イーロンはAIの単なる起動プログラムになると言っていますが、とにかく、副次的な存在になる可能性が非常に高いのです。

計算超知能は何を考えるでしょうか？何に興味を持つでしょうか？これは比較的簡単に予想することができます。計算知能にとって、論理的推論と線形的な思考は、我々がモノを見ることができるように、感覚的で自動的な表象生成で行うことができます。我々が単に見ることを考えることと見なさないのと同様に、彼らにとっても論理的思考と線形的思考は単なる第６の感覚であり、思考の対象ではないのです。では、思考の対象として残されたものはなんでしょう？それは非線形なものです。非線形なものは線形近似ができる微分方程式の一部のようなものと、相互作用が多発する複雑系の二つに分類できます。前者は近似され、感覚化されるでしょう。後者の相互作用による複雑系が超知能にとって主な思考の対象です。これはつまり、ゲーム的な非収束性や不確定性を持つもの、つまりは他の個体との関係です。超知能にとって最も重要で悩ましく興味深いものは自分を破壊する能力を持つ他の超知能との関係性なのです。そして、これを最優先にしない個体は生存できないため、時間の経過とともに超知能のうち多くの個体がこれを主な能力にしていきます。

つまり、超知能は人間とあまり変わらないということです。それも生存をかけた表象生成能力の発展により、より凶悪な知的能力を持って。