Metaのアニメ化ドローイング:自分の絵をアニメキャラクターに変える

MetaのAnimated Drawingsプロジェクトは、子供の絵をアニメ化する方法を示し、ユーザーが自分でアニメを作成できるオープンソースのツールキットを提供します。

プロジェクトの运作方法

Animated Drawingsでは、以下の技術が使用されています:

  • 物体検出モデル:絵の中のキャラクターを識別します。
  • 姿勢推定モデル:キャラクターの関節位置を検出し、動作生成をサポートします。
  • 画像セグメンテーション:絵を処理し、その後のアニメーション化のためにデジタル版を作成します。

コア機能

  1. キャラクター切り替え

  • 異なるキャラクター形象を使用して、アニメーションにさらに多くの可能性を追加します。

  • 複数の動作を適用

    • プリセットアクションを選択してキャラクターに動的な効果を付与し、さまざまなクリエイティブなニーズに対応します。

  • 出力形式を変更

    • 透明背景のGIFファイルなど、複数の形式へのエクスポートをサポートしており、マルチシーンのアニメーションニーズに対応します。

  • マルチキャラクター・シーン

    • 一つのアニメーションシーンに複数のキャラクターを追加し、それらを相互にインタラクトさせることで、アニメーションの内容を豊かにします。

  • 背景画像の追加

    • 設定ファイルで背景画像のパスを指定し、アニメーションに現実的なシーン効果を追加します。

    方法

    1. 絵画からアニメーションへのプロセスの概要

    1. 絵画の入力
    • 人形キャラクターが含まれた絵を入力します。
  • 識別と切り取り
    • 絵の中の人形キャラクターを検出し、それぞれの部分に切り出します。
  • 分割と関節位置特定
    • 切り取られた画像から人形キャラクターのセグメンテーションマスクを生成し、関節の位置を検出します。
  • キャラクターのスケルトン作成
    • セグメンテーションマスクと関節位置を使用してキャラクターのスケルタルバインディングを生成する。
  • モーションリダイレクト
    • モーションキャプチャデータをキャラクターのスケルトンにリダイレクトし、アニメーションを生成する。

    2. 画像処理によるセグメンテーションマスクの生成

    1. 処理ステップ
    • グレースケール画像に変換(a)。
    • 適応的閾値分割を適用(b)。
    • 形態学的閉操作(c)および膨張(d)を行う。
    • 洪水埋め込み(e)、最大多角形を保持(f)。
  • 最終結果
    • 生成されたセグメンテーションマスクは、元の人物の輪郭(g)に正確にフィットします。

    3. アニメキャラクターのスケルトンバインディングとモーションリダイレクション

    1. スケルトンバインディング
    • 予測された関節のキーポイント(a)に基づいて、アニメ用のスケルトンバインディング(b)を作成します。
  • アクションリダイレクト
    • モーションキャプチャデータから元のポーズを抽出します。
    • キャラクターの上半身ジョイントを前面平面に、下半身ジョイントを矢状面に投影します(c)。
    • ボーンのグローバル方向を計算し、キャラクターのジョイント回転を元のポーズに一致させる事で、アクションリダイレクトを完了します(d)。

    試用

    https://sketch.metademolab.com/canvas