DeepDreamで動画を悪夢に変換する

1.はじめに

 今回は、今となっては懐かしい2015年にgoogleが発表した、画像を悪夢の様に変換する「Deep Dream」という技術をご紹介します。

2.DeepDreamとは?

  画像識別用のCNNに、ImageNet の様な膨大な自然画像を学習させると、CNNの各フィルターは様々な動物の要素を高次元の特徴量として学習します。

  DeepDreamは、各フィルターが学習した特徴量をわざと可視化して、入力画像と合成することで、悪夢の様な画像が生成する技術です。

 今回は、静止画をDeepDream変換するだけでなく、動画をDeepDream変換することをやってみようと思います。

3.コード

 コードはGoogle Colabで動かす形にしてGithubに上げてありますので、それに沿って説明して行きます。自分で動かしてみたい方は、この「リンク」をクリックし表示されたノートブックの先頭にある「Colab on Web」ボタンをクリックすると動かせます。

 最初に、セットアップとして、ライブラリーの読み込みやクラスと関数の定義を行います。(コードは省略します)

 サンプルデータをダウンロードします。

 モデルの作成を行います。

 まず、静止画をDeepDream変換してみましょう。使用する静止画は、./Sample/animal_pic/dog.png で指定しています。自分の画像をDeepDream変換する場合は、この指定を変更して下さい。

 上がオリジナルの静止画、下がDeepDream変換をした静止画です。かわいいワンちゃんの体や背景の至る所に目や鼻などの要素が造形され、結構怖くなります(笑)。

 それでは、動画にDeepDream変換を掛けてみましょう。

 まず、動画を静止画に切り出します。使用する動画は、./Sample/video/elephant.mp4 で指定しています。自分の動画を使う場合は、この指定を変更して下さい。

 動画のフレームレートは30fpsで、6フレーム毎に切り出した静止画を images フォルダーへ保管する設定です。

 images フォルダーが既にある場合(2回目以降)は、既にある images フォルダーを中身も含めて削除してから、新たにimagesフォルダーを作成して実行します。

 完了すると、動画が静止画(***.png)にバラされて、imagesフォルダーに保管されます。

 次に、images フォルダーからバラされた静止画を1枚づつ読み込み、DeepDream変換を掛け、同じファイル名で上書きします。

 完了すると、images フォルダーの中の静止画が全てDeepDream変換を掛けた静止画に変わっています。

 DeepDream変換を掛けた静止画からmp4動画を作成します。-r の後の「6」が作成するmp4のフレームレートです。作成したmp4は output.mp4 というファイル名で保存されます。このコードを2回目以降に動かす場合は、上書きするかどうか[y/N]を聞いて来ますので、[y]を入力します。

 今までのDeepDream変換は、Octaveという大きな変換ですが、Simpleという小さな変換(変換速度が早い)があり、Google Colabノートブックの後半に載せてありますので、これも試してみて下さい。

 では、また。

(Twitterへの投稿)Simple変換したものです。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)