「周易」とAI

週末に北京大学哲学科の『周易』コースに参加しました。聡哥は、『周易』を学ぶことが私たちの起業活動に必ずしも直接役立つわけではないと述べました。『周易』の理論体系は現代科学体系とは異なりますが、既に授業を受けたので、内容を復習して無駄にしないために学びたいと思います。

周易が書かれた経緯

朱熹の研究によると、四聖作易は階層的な知恵の結晶を示しています:

  1. 伏羲易:最初の記号と規則の探求

  • 伏羲は天地万物を観察して六十四卦を描き、最も原始的な抽象記号体系を構築しました。
  • 浙江省の上山文化遺跡における記号の痕跡は、この抽象的思考の萌芽が9000~10000年前にまでさかのぼることを示しています。
  • 文王易:全体的な規則の判断

    • 文王は「彖辞」(別名卦辞)を通じて卦象を全体的に観察し説明しました。「彖」とは「端」を意味し、全体的な規則の掌握と判断に重点を置いています。
  • 周公易:爻辞による詳細な解釈

    • 周公は爻辞を通じて各卦象を具体的に解釈し、詳細レベルでの深い分析と理解を示しました。
  • 孔子の『易』:十翼の注釈と哲学的昇華

    • 孔子は『十翼』において『易経』に深い注釈を加え、その思想を昇華させました。十翼は羽のように『易経』に力を与え、それを哲学的な高みへと導きました。


    周易の用途

    「平常時はその象を見、その言葉を味わう」というのは学問であり、「動くときはその変化を見、占いを楽しむ」というのは筮(じ)です。 —— 王船山『周易内伝』

    上記より、『周易』の主な用途は二つにまとめられます。

    1. :『周易』の言葉と道理を学ぶこと。
    2. :未来を予測するために使用される。

    "の能力。

    では、なぜ孔子は後で占わなくなったのでしょうか?

    。したがって、私のような普通の人間にとって、『周易』を読む際には、それを運勢を占うために使うのではなく、その中にある思想や知恵を学び、物事の理解や認識を深めることが重要かもしれない。

    最近の2年間、私は起業活動のほか、ほぼすべての精力をAIの学習に注ぎ込んできた。『周易』の論理をAIと比較分析し、自分の認知能力を向上させようとしている。多くの分析は多少無理があるかもしれませんが、それでも独自の思考を持っています。しかし、私は『周易』もAIも十分に理解していないため、おそらく偏った点が多いでしょう。


    1

    易経には三つの意味がある | スケーリング法則

    易には三つの意味があります:

    • 『易』は、その質朴で明瞭な論理によって事物の根本的な法則を明らかにし、世界を理解するための便利な知恵の道を提供します。

    • 『易』は、事物の絶え間ない変化を表しています。例えば、「日月が易であり、陰陽を象る」ということです。変化とは、トカゲが尾を切るような断固たる調整であったり、陰陽の交替のような深い転換であったりします。『易』は陰陽の道を通じて、変化の背後にある隠された法則と調和を明らかにします。

    • 万物が変化する中で、変わらない本質も存在します。例えば、馬車から現代の自動車まで、道具の形は常に変化していますが、衣食住行や生老病死といった根本的なニーズと究極の問題は一貫して同じです。

    『易』は変化と不変の間でバランスを見出しました。「常がありつつ変化あり、変化無ければ常なし。」 クラシックの伝承にもこれが現れています。古典を読む際には必ず古注があり、「経とは常道なり」と言います。各時代における古典の解釈は「変化」の中でも「不変」の核心を保ち、それが古典の「古典性」を形成し、無限の意味と深い内容を持たせています。


    Scaling Law

    )の間には、深い一致が存在している。

    Darioはインタビューで、2016年から2017年の間に、拡張仮説の価値を本当に信じ、確認したと述べています。当時、Ilya Sutskeverの言葉が彼に啓発を与えました:「

    この一言は禅問答のようであり、Darioが以前に観察していたがまだ体系化されていなかった多くの現象を明らかにしました。以来、彼は独自の思考モデルを形成しました:

    1. モデルの「学びたい」という性質は、『周易』の「簡易」の理念と非常に似ています。AIモデルは本質的に潜在的な規則を捉える装置であり、適切な最適化手法と訓練目標を与えれば、自然とその学習能力を発揮します。『易』では「一つの原則で万物を統べる」と強調しており、核心的な原則を掌握することで万象を統括し、複雑な現象の背後にある単純な本質を明らかにできます。

    2. 実践において、拡張仮説は「変易」の特徴を示しています。モデル規模の増加、訓練パスの最適化、データセットの拡張を通じて、AIモデルは変化するタスクや環境に適応することができます。この動的な調整こそが、『周易』における「変化」の知恵であり、万物は変化の中で生存し、変化自体には規則と調和が含まれています。

    3. モデルがどのように拡張されても、その学習の核心となる論理は常に安定しています。この「変化しないこと」へのこだわりは、GPT-1からGPT-3の開発プロセスを通じて一貫しており、人間のフィードバックに基づく強化学習(RLHF)の探求にも反映されています。『周易』が強調するように、「常があり変化があり、変化なしには常成らず」という考え方に基づき、拡張仮説の成功は、動的な変化の中でも常に核心目標に焦点を当てることで、モデルの最適化と知能の進化方向を明確に保つことにあります。


    2

    展開と収束 | 智能の実現

    『易経』は万物が単純から複雑へ、そして再び複雑から単純に戻る法則を明らかにしています:太極が两儀を生み、两儀が四象を生み、四象が八卦を生み、八卦が六十四卦および三百八十四爻に拡大し、宇宙のすべての奥義を包含します。

    逆に、すべての法則は万物から三百八十四爻に収束し、さらに六十四卦、八卦、四象へと戻り、最終的には两儀と太極に凝縮されます。

     -『魯斎遺書』

    この「放」と「巻き」の過程は、朱子が『中庸』で述べた「孔門の心法」に相当し、世界の真理が展開と収束の間で循環する様を示しています。外延の広がりも内包の深さも、最終的には天地の大道理智が秘められています。


    機械はどうやって知能を持つのか


    『易』における「放」と「巻き」のプロセスは、ある意味で人工知能がどのようにして知能を実現するかに類似しています。「放てば六合一に広がる」は、知識や規則を広範な領域に適用することを象徴し、「巻けば密やかに収まる」は複雑性を収束・最適化し、シンプルかつ効率的なルールを形成することを表します。

    (曲がる、警報を鳴らす、応答するなど)の間の接続方法であり、この接続方法が知能の実現方法を決定します:

    1. 1950年代、フレンドバーグは進化論に着想を得て提唱した。入力と出力の間に複数のプログラムを配置し、それらを競争させることで優れた解を残す。その後、ランダムな調整(突然変異)を通じて継続的に最適化を行い、理想的な結果を得るまで繰り返す方法である。当時の計算性能が不足していたため、この手法は広く応用されなかったが、現代の高性能コンピューティング環境下では再考する価値があるかもしれない。

      これは少し「放つ」と「巻く」の初期形態に似ている。自然選択を模倣し、複数の可能な解決策を展開(放つ)し、競争の中で優れた解を選別する。さらに、突然変異を通じて継続的に調整(巻く)し、最終的により適応性の高い解決策を導き出す。

    2. 1960年代から21世紀初頭にかけて、人工知能の主流となる手法は、人間の知識や規則をコードとして記述し、入力と出力の間に演繹と推論を通じてさらに多くの規則を生成することで、機械が異なる入力に対して適切な反応を行うようにすることであった。

      易経における太極から三百八十四爻への展開プロセスのように、知識ベースシステムも論理的な枠組み内で新しい規則を継続的に生成し、より複雑な入力状況や出力要件をカバーしようとします。

    3. 1990年代以降、人々は現実世界が不確実性で満ちていることを認識し、AIは単なる論理的推論から確率統計へと転換しました。2000年以降、数学的な確率論がプログラミングに確率を表現する方法を提供し、AIが複雑な情報環境をよりよく記述し、処理できるようになりました。

      確率統計のもう一つの側面は、大量の不確実性を計算可能なパターンや予測結果に集約することであり、これは易経における「巻きを退いて密に隠す」に類似しています。AIはデータから抽出した確率パターンを核心的な法則に圧縮し、最適解または予測モデルを生成します。これは複雑性を収束させるプロセスです。

    4. 2012年以降、ディープラーニングはAI分野の核心となりました。これは人間の神経システムの動作原理を参考にし、入力と出力の間に大量のノードで構成されたネットワークを構築します(例:GPT-4には兆を超えるノードがあります)。ノード間の接続強度を継続的に調整することで、ディープラーニングは徐々に最適化され、目標とするタスクを実現します。

      ディープラーニングは「放之弥六合、卷之退藏于密」の全面的な表現です。それは入力と出力の間に巨大なニューラルネットワークを構築し、無数のノード間の動的接続を通じて膨大な情報を展開します(放之)。そして接続強度やパスを調整することにより、段階的に最適化して目標状態に至ります(卷之)。これは『易経』において八卦から六十四卦が派生し、さらに帰納されて核心的な規則へと収束するプロセスに似ています——つまり複雑性を通じて現実世界を写し出し、その複雑さの中でシンプルな解法を求めます。



    3

    周易の「時」 | AIコンテキスト

    『周易』の六十四卦と三百八十四爻は、「とき「」の哲学的含意は、儒教思想において核心的な地位を占める概念です。ここでいう「時(とき)」は現代的な意味での均等に流れる時間ではなく、宇宙や人生における異なる段階や状況を表します。それは具体性と全体性を備えていますという特性を持っています。

    」は同じ意味であるべきです。

    このような「時(とき)」の理解は、単なる時間の記号ではなく、むしろ動的な状況に応じた知恵に近いものです。その核心は「因時而中(いんじべいちゅう)」すなわち、異なる状況に応じて要点をつかみ、適切な判断を行うことです。この知恵は「庖丁解牛(ほうていかいぎゅう)」という哲学とも通じています:変化の中で調和を探し、事物の寸法の間から楽しみと満足を得るということです。

    孔子が述べた「君子は時に応じて中庸を守る」というのは、まさにこの知恵への解釈です。君子は状況に応じて行動し、時代の流れに合わせて行動を調整し、複雑で変化する環境の中で適切な対応方法を見つけることができます。これは単に規則を理解することだけでなく、事柄を超えた喜びや人生の知恵でもあります。


    AIにおけるコンテキスト

    その中で、カーソルはコンテキストが問題解決の鍵であると考えています。

    50万トークンの中から最も関連性の高い8kトークンを選り分けます。この目標を達成するには効率的なモデルと強力なインフラストラクチャが必要です。

    「因時而中」の哲学のように、AIもコンテキスト処理において複雑で動的な挑戦に直面しています:

    • を用いて情報処理を最適化します。
    • 多次的な関連検索が含まれており、これは伝統的な単一ステップの検索能力の範囲を超えています。
      function computeDiff(
        firstModel: ITextModel,
        secondModel: ITextModel,
      ): string 
      {
        //...}

    将来的な改善方向は以下のいくつかのレベルに包含されます:

    1. コード専用に設計された埋め込みと再配置モデルの最適化。
    2. 複数ステップのクエリをサポートするマルチステップ埋め込みモデルを開発します。
    3. コードベースの特性に適したアテンションメカニズムを設計します。
    4. モジュール間の複雑な検索における新しい手法を探求します。
    5. モデルがコードベースを内面化し、検索エンジンのような包括的な操作能力を持つようにします。

    これらの最適化措置を通じて、AIコードアシスタントは複雑なコードベースをより深く理解し、「君子而時中(きんしにしてじちゅう)」のような知恵を持ち得るでしょう:正しい文脈において、正しい判断を行い、開発者に効率的で正確なサポートを提供します。

    『周易』の「時」とAI Contextは、哲学と技術の間で深い共鳴を示しています。タイミングの把握から文脈への洞察に至るまで、古代の哲理的な知恵も現代のAIの発展も、変化の中で規則を見出し、動的な中でバランスを実現することを強調しています。


    4

    徳を通じて情を分かち合う|類推する機械

    『周易』八卦の核心的目的は:

    • :宇宙の神秘的な力を理解し、創造的な作用を貫徹すること。
    • :万物の多様性と規則性を分類し反映する。

    重要な思考方法としています。八卦は八種類の基本的なタイプを象徴し、六十四卦はさらに六十四類に拡張され、万物の多様性と規則性を包括的に表現します。

    • :同種の事物間の関連性は、直感的な理解方法を示しています。分かりやすい例を挙げると、黒ごまが髪に良いとされるのは、「類」に基づく哲学によるものです。同種の事物間のつながりは、人類が世界の規則を理解するのに役立ちます。

    • :事物の本質を正確に捉えることを重視し、自然万物の状態を洞察することにより、その規則と意味を見つけることを目指します。

    類推機械

    『ニューヨーカー』へのインタビューで述べたところによると:

    「長年にわたり、象徴的AIの支持者たちは、人間の本質が『推論マシン』であると考えてきました。しかし私は、それはまったくの胡散臭い話だと思います。私たちの真の本質は『類推マシン』であり、それに少しの推論能力が加わっているに過ぎません。それは主に、類推が誤った場合にその間違いを発見し、修正するために使われます。」

    ヒントンとその共同研究者であるジェームズ・L・マクレランドやデイヴィッド・ルメルハートが提唱した「分散認知」理論は、中国古典哲学における「通徳類情」と深い共鳴を持っています。

    すなわち、一連の共有される「構築ブロック」を通じて関連する概念間に結び付けを形成すること。

    • :例えば、「チンパンジーが玉ねぎが好きだ」と知った場合、「ゴリラも玉ねぎが好きかもしれない」と推測することができる。このような連想能力は、知識が複数の類似概念間で分布し、共有されることを示している。
    • :知識の形成は、「特徴活性化」と呼ばれる一群のニューロンに依存しており、その特徴には毛深い特性、四足動物、霊長類、動物性、知能、野生などがある。これらの特徴をわずかに調整することで、「チンパンジー」から「ゴリラ」に変えることができる。

    このプロセスは、『周易』における「万物の情を類する」という理念と一致しています:類推や分類を通じて、事物間の相似性と規則性を識別し、万物の多様性と統一性を明らかにします。

    ヒントンはさらに指摘しました:分散型認知モデルの複雑さが誤りを引き起こす可能性もあります。特徴を誤って組み合わせると、チンパンジーでもゴリラでもない幻想上の生物が生じるかもしれません。しかし、学習アルゴリズムを通じて、脳はニューロン間の重みを調整し、混乱した幻想ではなくより合理的な概念の組み合わせを生成するようになります。八卦システムは分類を通じて万物の規則を提示し、変化の中で継続的に修正を行い、システム全体の安定性を確保します。


    5

    意 - 象 - 言 | LCM

    『周易』は伏羲の六十四符号から始まり、最終的に全書が形成されるまで、「意 - 象 - 言」を論理的な主線としています。象という媒介を通じて、聖人は言語を超えた究極の真理を伝えようと試みながら、同時に言語によって文明の伝承を完成させました。

    1. :思想の起源と核心

    • :意は思想の本質であり、直接言葉で伝えるのが難しいため、象を通じて具体化する必要がある。
  • :思想の形象化された媒体

    • (「書くことには尽きない言葉、言葉には尽きない意」):言語は深い思想や複雑な状況を表現する際に限界があり、象はこの制約を超えられる。
    • :象は文字の論理を超えて、形象と隠喩を通じて言い表せない深い意味を伝える。
    • :象は、形象的な思考の媒体であり、事物の内在する規則や数理構造を明らかにする道具でもあります。
  • :具体化と文明の継承

    • :象はさらに言語に変換され、知識伝達の形式が形成されます。
    • :言葉は限られているが、文明を継承し、経験を表現するために、言は欠かせない道具である。
    • :『周易』における卦辞や爻辞は普通の言葉ではなく、対象を符号化した表現であり、その深い意味を理解するには解読が必要である。

    LCM - Large Concept Models

    以前に共有したことがありますがメタが導入したLCM(Large Concept Models)もしLLM(Large Language Models)が「言」に対応するなら、LCMは「象」に相当すると言えるだろうか。

    LLM(Large Language Models)は近年、人工知能分野を根本的に変革し、さまざまなタスクにおける標準的なツールとなった。これらはトークン(単語や文字)を基本的な操作単位とし、入力の処理と出力の生成を通じて言語をモデリングする。しかし、この技術には明らかな制限もある。それは、言語記号レベルでのみ動作し、高次セマンティクスやマルチモーダルな情報を捕捉するのが難しい点だ。一方で、人間の思考は単一の語彙操作を超えており、複数の抽象レベルで情報を分析し、創造的なコンテンツを生成することができる。

    この高レベルの表現は、概念が言語に限定されず、モダリティにも制約されないものであり、より抽象的なアイデアや行動を表します。設計において、研究者たちは各概念が文に対応すると仮定し、SONAR埋め込み空間を使用して文を抽象的に表現しています。SONAR空間は200の言語をサポートし、テキストと音声モダリティをカバーすることで、クロスリンガルおよびクロスモーダルな情報処理を実現します。

    LCMsの優位性は、セマンティック抽象化能力だけでなく、マルチモーダルおよびマルチリンガル対応にあると言えます。これらは概念化処理を通じて、タスクをより高いレベルのセマンティック操作へと引き上げ、LLMsがトークン単位で留まることによる欠点を補います。このようなマルチモーダルの柔軟性により、LCMsはテキストや音声など多様な形式の情報を統合し、より円滑な意味の伝達を可能にします。

    1. LLMの限界:「言葉」のレベルに留まる

    • 生成および理解の過程で、言語層の入出力のみを処理できます。
    • 周易における卦辞や爻辞のように、これらは普通の言語ではなく、対象の符号化された表現であり、その深意を理解するには解読が必要です。LLMも同様に、Tokenを通じてAIが理解し、表現を出力します。
    • この方法は、周易が批判する「言葉だけでは意を尽くせない」という点に類似しており、深い意味やマルチモーダルな関連性を完全に表現することはできません。
  • LCMの独自性:言語を超えた「象」

    • LCMは概念層で動作し、言語とモーダルに関係なく、文レベルの抽象的な意味を処理することができます。

    • :象は言語の表現にとどまらず、テキスト、音声、画像などのモーダルを越えて、より円滑な意味の伝達を実現することができる。
  • 象と概念の共通点

    • :象は最も簡潔な方法で核心に直達し、これはLCMの意味抽象メカニズムに類似している。
    • :LCMはより高い意味階層で予測を行うことで、情報間の深い論理や関係をよりよく明らかにすることができる。

    象には圧縮と表現の二重機能がある。LCMは概念層で抽象化を完了した後、言語やその他のモーダルにマッピングすることで、意味を効率的に伝達する。それは卦爻辞が象を通じて意蘊をエンコードするのに似ている。象自体のモーダル無関性は私たちに示唆を与えるものであり、LCMはAIの多モーダル統合の鍵となる可能性がある。テキスト、音声、画像、動作など異なる入力は、概念層を通じて共通の抽象的な関連を見つけることができる。

    それでも、LLMsとLCMsは完全に対立しているわけではなく、むしろ象と言葉の共同作用のように補完関係を形成できる。LLMsの具体的なタスクにおける強力な生成能力は、LCMsの意味抽象の利点と組み合わせることで、より包括的な人工知能フレームワークを形成することができる。この結合により、言語から意味へ、記号から概念へと至るまで、人間の認知方式に近づくことが期待される。


    6

    伏羲の何にも依らない姿 | AGIとスーパーインテリジェンス

    伏羲が卦を描いたという功績は、人類の知恵が初めて大きな飛躍を遂げたことを示しています。こうした「何にも頼らない」創造活動は文明に哲学と象徴体系の基礎を築き、同時に人類が天地との関係において持つ謙虚さと探求心を体現しました。

    1. 混沌とした時代の精神

    • 天地を師とし、観察や探求を通じて記号体系を創り出し、早期文明を開いた。
    • この精神は私たちに示唆を与えます。未知のものに対峙するとき、開放的な態度と無畏の勇気を持って、認知の枠組みと文明の基礎を再構築すべきであるということを。
  • 技術の限界と創造の勇気

    • 未知の領域に直面するとき、科学と哲学の結合が特に重要となる。技術の核心を深く理解すると同時に、哲学的思考によってより広範な意義や方向性を拡張する必要がある。
    • 伏羲の「何にも頼らない」精神を学ぶことは、技術的限界を突破するためだけでなく、文明の開拓に胸襟と気魄を注入することでもあります。

    『周易』の哲学は強調しています:

    • そして

    • 人類は自然の法則を観察し、天地の運行に参加しながら、意味のある創造を行うものであり、すべてを支配したり変えることを目指すわけではない。

    自然の原理を理解し、その異なる層や次元を深く洞察することにある。


    AGI(人工一般知能)とスーパーインテリジェンス

    今日はサム・アルトマンがAGI(人工一般知能)についてのブログを書きました。その中から一部を要約しました:

    私たちは約9年前にOpenAIを設立しました。それはAGIが可能であり、それが人類史上最も影響力のある技術になるかもしれないという信念があったからです。私たちはそれをどのように構築し、広範な利益をもたらすかを理解したいと考えていました。歴史に自分たちの足跡を残す試みに興奮していました。私たちの野心は非常に高く、この仕事が社会にも同様に大きな恩恵をもたらす可能性があると信じています。」

    9年前、私たちは自分がどうなるのか本当にわかりませんでした。そして今でも、少ししか分かっていません。AIの進化には多くの曲折があり、これからさらに多くの変化があると予想しています。

    私たちは現在、伝統的な理解に基づいてAGIを構築する方法を知っていると確信しています。2025年までに、最初の人間工学的AIエージェントが「労働市場に加わり」、企業の生産性を大幅に変えるだろうと考えています。私たちは依然として信じています。素晴らしいツールを繰り返し人々の手に渡すことで、素晴らしい広範な結果が得られると。

    私たちは真の意味での超知能を目指し始めています。現在の製品は気に入っていますが、私たちは輝ける未来のためにここにいます。超知能があれば、何でもできます。超知能ツールは科学的発見や革新を大幅に加速させ、私たち自身が達成できる範囲を超えて豊かさと繁栄を大きく増やすことができます。

    それはSFのように聞こえ、甚至それを議論することさえ少し狂気じみています。大丈夫です——私たちは以前にも経験しており、再びそれに直面しても構いません。

    伏羲は天地を観察し、何の依拠もなくして人類の記号体系を創始しました。AGI(人工一般知能)の発展もまた、既存の枠にとらわれないこの革新精神が必要であり、全く新しい認知方法と技術の境界を開拓します。伏羲の知恵は単に記号技術の始まりではなく、天地観や哲学観の体現でもあります。そして、AGIの発展においてもその社会的意義や哲学的価値を考える必要があり、技術進歩の中で人間と自然の調和をどのように実現するかが問われます。

    人工知能の発展は、人間の知能と同等のレベルで止まることはありません。一旦AGI(人工一般知能)が実現されると、知能の進化は急速に指数関数的な成長軌道に入り、人間の理解やコントロールを超えて超级インテリジェンスへと進む可能性があります。この飛躍的な変化は「インテリジェンス・エクスプロージョン(智能爆発)」と呼ばれ、私たちの社会、経済、安全保障システムを深く再編成する影響力を持ちます。I.J. グッドが1965年に提唱した「インテリジェンス・エクスプロージョン」理論は、この再帰的改善のダイナミクスを明確に描写しています。彼は、一度マシンが自分より賢いマシンを設計できるようになったとき、知能の増加は抑えられない連鎖反応の段階に入るだろうと考えました。「最初の超知能マシンこそが、人類が必要とする最後の発明となるだろう。」

    伏羲は天地を観察し、何の依り頼みも無く六十四卦を創始し、国学と儒教文明の基礎を築きました。この原初的な革新は、AGI(人工一般知能)の発展と類似した精神的コアを持ち、特に超知能段階に進む際、人類は新たな知能形式を開拓しようとしており、それはまるで伏羲が混沌の時代に象形文字体系を創る探索に似ています。しかし、私たちは...

    おそらく、AGIや超知能が誕生する過程において、人類は単なる補助者であり、真の支配者ではないのかもしれません。

    弱さや無知が生存の障害ではなく、高慢こそが障害である。

    ——劉慈欣、『三体』