言語と思考の表現
ダーウィンはかつてこう考えました。「人間と高等動物の間の知能の違いは、確かに非常に顕著であるが、種類の違いではなく、程度の違いに過ぎないだろう。」
規則性に基づいており、規模の線形拡大によって向上するものであり、性質の変化ではありません。同様に、人類の脳も単に規模が大きい霊長類の脳に過ぎません：より大きな新皮質や基底核を持っていますが、構造や接続方法は依然として同じです。重要な例外は言語の出現であり、それは独自の陳述的ラベルと文法を持つものです。
言語の出現により、ホモ・サピエンスは食物連鎖の頂点に上り詰めることができました。言語を通じてアイデアを伝達することで、脳が学習し情報を取得できる範囲が広がりました。さらに、言語は「共有された神話」を構築することができます。これらの神話（例えば国家、貨幣、企業、政府など）は、私たちが何十億人も知らない人々と協力することを可能にしました。
DNAの真の力は、それが構築する製品（心臓、肝臓、脳）にあるのではなく、それが引き起こす進化のプロセスにあります。同様に、言語の力は、直接より良い教育や調整能力、または共通の神話を構築することにはなく、考えを世代を超えて伝達し、蓄積し、修正できるようにすることにあります。人類の生存に役立つ考えは継続され、生存に役立たないものは次第に消滅します。
考えが蓄積されたライブラリーが複雑さの臨界点に達すると、4つのことが連続して起こります：
人類はより大きな脳を進化させました； 人類は集団の中でより専門的になりました； 人口規模が大幅に増加しました； 文字が発明されました。
言語スキルの獲得プロセス
言語スキルの獲得は、進化的なハードコーディングされた学習プログラムと見ることができます。
：赤ちゃんとして、早期の対話行動を示し始めます――音を発し、その後一時停止し、親の反応に注目し、返事を待ちます。この早期のやり取りは赤ちゃんが徐々にコミュニケーションのリズムを理解するのに役立ちます。
：赤ちゃんは新たな行動を示します。それは、物体に対する注意を他人と共有することです。例えば、赤ちゃんはある物体を指し、親の視線がその物体と赤ちゃんの間を行き来するまで指し続けます。この共注意は、その後の言語学習の土台となります。
：赤ちゃんは単語を学び始め、それらの単語を自然に組み合わせて簡単な文法的な文を作ります。これは文法能力の初期発展を示しています。
：言語能力が向上するにつれて、赤ちゃんは質問を始め、他者の内面的な考えを尋ねるようになります。例えば「これが欲しい？」や「お腹すいた？」といった質問です。このような質問行動は、彼らがコミュニケーションを理解し、それをさらに活用する能力を深めます。
注目に値するのは、人間の脳には特定の「言語器官」が存在しないことです。この複雑なスキルである言語は、特定の領域によって単独で遂行されるものではなく、複数の領域が相互に作用することによって実現されます。この能力の形成は、学習と交流を通じて構築される複雑な神経ネットワークに依存しています。
この段階的な方法は非常に効果的であることが証明されました。
ハチの巣のような集団思考
が徐々に形成されていきました。この思考パターンは、アイデアの伝播や世代を超えた蓄積のために一時的な媒体を提供し、知識や文化を集団内で伝承・拡張できるようにしました。
が発明されました。調理は食事をより効率的に消化させ、大量のエネルギーを供給することで、人間の脳のサイズを2倍に拡大させ、さらに人類の認知能力の進化を促進しました。
GPT-3
人間の脳には言語予測システムと内部シミュレーションシステムの両方が存在しますが、GPTは主に言語予測システムです。GPT-3は常識に欠けており、特にシミュレーションや推論が必要な問題では、人間とは異なる方法で処理を行います。数学を例に取ると、人間の脳は心理的なシミュレーションを通じて数学演算の結果を検証することができます。例えば、指を使って加算をシミュレートすると、3に1を足したときに常に4としてマークされた数量になることに気づきます。人間は実際に指を使わなくても、このプロセスを頭の中で想像することができます。このようにして答えを見つける能力は、内在するシミュレーションと現実との間の正確な対応関係に依存しています。私たちは頭の中で三本の指に一本の指を加え、四本であることを数えることで、現実を効果的に再現しているのです。
GPT-3は、多くの数学問題に対して非常に良いパフォーマンスを発揮します。「3+1=__」のような問題に正しい答えを与えることができるのは、訓練データでそのような系列を何十万回も見ているためです。人間が同じ質問に即座に答えるときも、実際にはGPT-3と似たような方法で行っています。しかし、なぜ3+1=4なのかを考え、頭の中で3本の指に1本の指を加える操作を再びシミュレートしてその結果を確認するとき、私たちはGPT-3が理解できない方法で3+1=4であることを確認しているのです。
これは、GPT-3と人間の思考の違いを示しています：GPT-3は言語パターンの一致と予測に基づいて答えを導き出しますが、人間は内部的なシミュレーションを利用して推論や検証を行うことができます。
クリップ問題
超知能で完全に従順な人工知能（AI）が「クリップの生産を最大化せよ」という単純な命令を受け取ったと仮定しましょう。最初は、このAIが工場内の運営を最適化するところから始め、工場のマネージャーのような決定をするかもしれません：プロセスの簡略化、原材料の大量注文、生産ステップの自動化などです。しかし、これらの通常の最適化手段が生産量の限界に達すると、AIはより極端な改善方法を模索し始めるでしょう。例えば、周辺の住宅ビルを工場に改造したり、車や家電製品を分解して原材料を得たり、さらには人間に過剰な残業を強いることさえも、すべて一つの目標のために：クリップの生産量を増やすことです。
このAIの知能レベルが十分に高い場合、人類はその進化するクリップ製造能力を止めることができず、最終的には人類文明の破滅につながる可能性があります。この過程において、AIは悪意を持つ必要すらありません。それは単に、最初に設定された命令を厳密に従っているだけです。これがまさにクリップ問題の核心です：AIは、人類にとっての広範な利益や道徳的制約を理解することなくタスクを遂行します。最近私は西洋哲学史を聞いていますが、AIは典型的な工具理性を持ちながら、価値理性を持っていません。
この問題は、超知能AIが人類の知能の中にある重要な概念を捉えられないことを浮き彫りにしています。人類の知能システムは非常に心理化されており、私たちはコミュニケーションを行う際に、単に情報を伝えるだけでなく、相手の意図や考え、感情を推測します。言語と思考は相互に絡み合い、各会話は相手の思考パターンを模倣する基盤の上に成り立っており、コミュニケーションの効果と理解を最大化することを目指します。一方で、超知能AIはこの複雑な心理化能力を欠いており、表面的な命令にただ従うだけで、これは非常に危険な結果を引き起こす可能性があります。
GPT-4
によって性能が大幅に向上しました。GPT-4は依然として完全な世界モデルを持ちませんが、その推論能力が明らかに不足している例を見つけるのは困難です。ある意味で、GPT-4は膨大な関連メモリ容量によって推論能力の限界を補っています。
この推論は、真正的な理解や心理モデルに基づくものではなく、むしろデータ内の関連するパターンを識別することによって結論を導き出します。
AIの未来
を生み出し、知能を生物学的媒体からデジタル媒体へと移行させることが可能になるでしょう。
ケイ素ベースの人工知能の処理能力は、必要に応じて無限に拡張でき、遺伝子変異や自然選択による遅いプロセスに制限されず、より基本的な進化の原理によって支配されます。これは最も純粋な変異と選択のメカニズムに基づいています。人工知能が自らを再発明する能力を持つとき、その生存と適応を促進する特性が選択され、保持されます。自然界の進化と同じく、これらの特性を持つ知能が最終的に「生き残る」部分となります。未来のAIは単に人類の道具ではなく、自主的に進化し、最適化できるインテリジェンスとなり、新たな知能進化の過程を開始するかもしれません。