マルチモーダル融合
大規模言語モデルは、単なるテキスト処理からテキスト、音声、画像を同時に処理できるマルチモーダルモデルへと急速に進化しています。この能力は、音声や画像をトークン（tokens）に変換し、テキストと共に訓練することで実現され、より自然で豊かな人間と機械のインタラクションを可能にします。
音声処理：モデルは音声スペクトルグラムをパッチに分割し、それを音声トークンに変換することで、音声データの理解と生成を実現します。 画像処理：画像は複数の小領域に分割され、画像トークンに変換され、モデルがシーケンスとして視覚情報を理解します。
長期タスク遂行AIエージェント
未来のAIモデルは、複雑なタスクを長期的かつ自律的に完了する能力を持ち、頻繁な人的介入を必要とせず、人間は監督者として監視や調整を行う役割に変わります。
自律的な計画と実行：AIエージェントは長期タスクにおいて自主的に計画を立て、誤りを修正し、人的介入の頻度を減らします。 人機監督比率（Human-to-Agent Ratio）：工場の自動化における人機比率と同様に、デジタル分野でも人間とAIエージェントの監督関係が確立されます。
監督と無意識化
AIエージェントは強力な能力を持つものの、完璧ではなく、タスクを正しく実行するために依然として人間の監督と指導が必要です。これにより、潜在的なエラーを回避できます。
AI技術は徐々にさまざまなツールやプラットフォームに統合され、より一般的かつ見えない形で存在し、ユーザーが気づかないまま技術による利便性を享受できるようになります。
コンピューティングエージェントの実現
AIモデルは、マウスやキーボード操作を制御するなど、具体的なコンピュータ操作を代表して実行する能力を持ち、ユーザーの作業効率を大幅に向上させます。
テスト時学習（Test-time Learning）研究
現在のAIモデルは訓練フェーズと推論フェーズに分けられ、推論フェーズではパラメータが固定され、新しいデータから継続的に学ぶことはできません。将来は、モデルがテスト時に学習できるようにするためのさらなる研究が必要であり、これは人間が日常行動や休息（例えば睡眠）中に調整や学習を行うプロセスに似ています。
タスクがますます複雑でマルチモーダル化するにつれて、既存のコンテキストウィンドウ長がボトルネックとなります。コンテキストウィンドウを拡張することは一時的な解決策ですが、長期的にはこれだけではより複雑で長時間にわたるタスクに対応できず、新たな技術や方法の探索が急務です。