研究アシスタント（RA）を務め、現在はOpenAIで働いており、まだ22歳です。
この文章は2024年6月に初版が発表され、人工知能（AI）および汎用人工知能（AGI）分野における先見的な発展について深く議論しています。
記事の概要
AIを核とした世界の産業構造の変化が、驚異的な速度で進行しています。
：百億ドルから兆ドル規模への計算クラスター投資目標は、わずか一年間で企業の計画が頻繁に強化されました。その背景には、各社が電力契約、トランスフォーマー、ハードウェア資源を巡って競い合う現実があり、未曾有の産業動員が進行していることを示しています。 ：著者は2025/26年までに、機械の思考および推論能力が大多数の大学卒業者の能力を超えるだろうと予測しています。そして、21世紀末にはスーパーアイ（超知能）が現実になるでしょう。これは技術的な突破を示すだけでなく、競争か戦争かという世界的な秩序の混乱をも暗示しています。 ：AIの発展はすでに注目すべき学問分野となっていますが、それでも大多数の人々はその近い将来に及ぼす深い影響にまだ気づいていません。主流の意見や企業アナリストは依然としてAIの潜在力について大きな誤解を持っています。
主要章からの抜粋
その後、時間があれば興味深い章を選んでさらにメモを書いてみようと思います📝。
I. GPT-4 から AGI へ：計算量の指数的な増加
著者は、計算能力の向上、アルゴリズム効率の最適化、そして技術応用の「解錠」がもたらす質的変化を分析し、2027年までにAGIの実現が非常に信頼できると指摘しています。
II. AGI から超知能へ：知能爆発の道筋
人間レベルのAIは始まりに過ぎません。一旦AGIが科学研究を自動化できるようになると、アルゴリズム進歩のタイムラインは十年から一年に圧縮され、それに続く全新的な技術特異点が到来します。
III. 直面する課題
：AIを核とした経済成長は、数兆ドルがGPU、データセンター、電力インフラへと流入することを促進し、これにより世界の産業構造が再編されるでしょう。 ：現在、アメリカのトップクラスのAI研究所ではセキュリティ問題に対する配慮が不十分であり、重要な技術やモデルの重みが容易に悪意を持つ国々の手に渡るリスクがあります。 ：人間の知能を超えるAIを制御することは未解決の技術的難問であり、一度コントロールを失えば、その結果は非常に破滅的なものとなるでしょう。 ：スーパーアイントゥアイリジェンスは経済的優位性だけでなく、軍事的主導権を決定する鍵となります。自由世界がこの競争に勝利できるかどうかは、地球全体の運命に関わっています。
IV. 「プロジェクト」の台頭
AGI競争が激化するにつれ、米国政府は介入を余儀なくされ、おそらく2027/28年頃にマンハッタン計画規模の国家プロジェクトを開始するでしょう。
V. 結論：もしあたしたちが正しいなら？
著者は反問で締めくくる。「もしあたし達の未来に関する判断が正しければ、次の十年はどのような荒っぽい旅になるだろうか？」
全文を読む
https://situational-awareness.ai/