設立者Arvidのブログについて話してくれました。私は間違ってAman SangerのBlogと記憶し、その圧倒的な知能に感嘆しました。賢い頭脳に無抵抗な私（インテリジェンス・ラバー）も思わず敬意を表せずにはいられませんでした。
はAIの急速な進歩を妨げるボトルネックです。Cursorは前者を解決するために試みたもので、その目的はより多くのエネルギー、リソース、および人材を後者に集中させることにあります。
アマンの様々なアイデア
ポッドキャストインタビュー
今度、時間ができたら聞いてみる：
Latent Space: Cursor.so: The AI-first Code Editor — with Aman Sanger of Anysphere
https://castbox.fm/episode/id5327327-id626397008Lex Fridman Podcast: #447 – Cursor Team: Future of Programming with AI
https://castbox.fm/episode/id3102321-id742377735
Llama-2の分析：Llama-2は高価であった
https://www.cursor.com/blog/llama-inference
Llama-2 vs. GPT-3.5 の選択に関するアドバイス
OpenAIのAPIから外れる価値はないかもしれません。
価格と遅延の比較
Llama-2 は生成主導のタスクには適していません
大量の生成内容が必要な場合（completion-heavy workloads）、価格と遅延の点で明显的な優位性があるため、GPT-3.5 を優先的に選択することをお勧めします。 Llama-2 はプロンプト主導のタスクに更适合しています
（この点は直感に反するように思えるが、Amanは文中でその理由を説明している）。 バッチ処理のジョブが必要な場合（batch processing jobs）。 例えば分類タスクや生成量が少ないシナリオの場合です。さらに、Llama-2 は次の状況でも優れたパフォーマンスを発揮します： ファインチューニングの特殊ケース
展開しており、ファインチューニングの具体的な比較には言及していません。
主要性能の比較
その性能の優位性をさらに証明しています
グラフ：GPT-3.5はLlama-2よりも各项のベンチマークテストで優れています
コストと計算リソースの詳細
これが Llama を 16-bit の精度で実行するための最低限のハードウェア要件です。
トークン生成のコスト
類似のレイテンシーにおいて、Llama のトークン生成コストは GPT-3.5 よりも高いです。 競争力のある価格を提供しますが、これにより遅延が許容できないほど高くなります。 プロンプト Token のコスト
以上です。
要約
タスクが生成に重点を置き、コストに敏感である場合、GPT-3.5 がより良い選択肢となります。一方で、タスクがプロンプト中心であるか、またはバッチ処理が必要な場合、Llama-2 の方がコストパフォーマンスが高いかもしれません。最終的な選択は具体的な使用ケースに基づいて慎重に検討する必要があります。
その他の技術的知見
4-bit 权重量化の高いコスト（2023-08）
アマン氏は、4-bit 权重量化のコストが 16-bit よりも高いと指摘しました。この意見は、多くの人が低位量化について持つコストに関する直感的理解に挑戦しており、そのコストパフォーマンスをさらに深く評価する必要があることを示唆しています。
フラッシュアテンションの限界（2023-05）
彼は、トークンを生成する際にフラッシュアテンションが特に大きな助けにはならないと考えています。この観察は、現在一部の人気のある最適化技術の適用戦略に影響を与える可能性があります。
Llama-1 のマルチクエリアテンションの必要性（2023-05）
彼は、Llama-1 が性能を向上させるためにマルチクエリアテンション（multi-query attention）メカニズムを採用する必要があると提案しました。これは、Llama-1 のさらなる最適化に重要な方向性を与えます。
インストラクションファインチューニングの潜在力が過小評価されている（2023-04）
アマンは命令微調整（Instruction Finetuning）の価値を強調し、この方法が実際の応用で大きな可能性を持つが、まだ十分に認識されていないと考えています。
アマンが読んだ様々な本
それを読み終えた後、彼は非常に感動し、次の1ヶ月間で週100時間働きました。
忘れられない導入部分です。
『呼吸が空気となるとき』（When Breath Becomes Air） - Paul Kalanithi
涙を流しながら読みました。 こちらも読んで tearjerker でした。
テッド・チャンはAmanにとって最も好きな作家の一人です。
『シューダッグ』と『Open』の代筆作家は非常に優れています。
『三体』（The Three-Body Problem） - Cixin Liu
『基礎三部作』（Foundation Trilogy） - Isaac Asimov
彼はケンブリッジの寒い冬の夜にこの本を読み、冬がそれほど悪くないものに感じられました。
彼の高校時代の素晴らしい思い出です。
彼が何度も読んだ唯一の本です。
さらに長い書籍リスト📖があります。参考までにhttps://www.amansanger.com/booksをご覧ください。