StyleGAN2を使って、心理学の「平均顔」を深掘りする

1.はじめに

 いつもは、このブログではディープラーニングの新しい技術をご紹介していますが、今回はちょっと毛色を変えて、その技術を心理学に応用してみるというお話です。

 心理学には、顔を平均すると美しい顔になる「平均顔」というテーマがあります。現在、心理学で使われる平均顔を作る手法は、各データから目・鼻・口・顎などの顔のポイントの位置を検出し、各ポイントの平均位置を計算します。そして、各データの顔のポイントを平均位置に合うようにモーフィングして重ねます。そうすると、重なりが大きい部分は濃くなり、重なりが小さい部分は薄くなり平均顔が出来るというものです。

 ディープラーニングをご存知の皆さんなら、ちょっと古臭い方法だなと思いますよね。と言うことで、今回は最新の画像生成モデルStyleGAN2を使って、心理学の「平均顔」について深掘りしたいと思います。

2.StyleGAN2をどう使うか

 学習済みのGANジェネレータは、入力したベクトルに一対一で対応する画像を出力します。そして、下記の図(2015年DCGANの論文より)から分かるように、そのベクトルは演算することが可能です。 

 つまり、「平均顔」を求めるための顔画像を出力するベクトルを逆算で求めて、それらのベクトルを平均しGANジェネレータに入力してやれば、「平均顔」が得られるわけです。しかも、メガネを掛けた男性から男性を引くと「メガネ成分」が得られるように、成分計算も出来ます。

 画像のベクトルを逆算で求める方法もちゃんとあって、例えば下記の様に専用のエンコーダを使う手法(e4e)を使うと、画像からベクトルへの逆算もあっと言う間です。

 StyleGAN2が「平均顔」の分析に有効なことがお分かり頂けたかと思います。それでは、「平均顔」を深掘りして行きましょう。

3.平均顔を作る

 今回の分析に使用するコードはGoogle Colabで動かす形にしてGithubに上げてありますので、まずそれについて説明して行きます。自分で動かしてみたい方は、この「リンク」をクリックし表示されたノートブックの先頭にある「Colab on Web」ボタンをクリックすると動かせます。

 まず、セットアップを行います。

 最初に、平均顔を作成するための画像データから、顔部分を所定の形で角度も考慮して切り取ります(これをalignと言います)。

 pathで画像データが入っているフォルダーを指定すると、切り取った顔画像がalignフォルダーに保存されます。ここでは、path = ‘./images/sample1’(アジア系の女性20人)を指定しています。

 alignフォルダーに保存された、切り取った顔画像を表示しています。美人の方は少なく(失礼)、割と普通の顔の方が大半だと思います。

 次に、この顔画像を生成するベクトルを逆算します。alignフォルダーにある顔画像を生成するベクトルを逆算してvecフォルダーに保存し、そのベクトルから生成した画像をvec_picフォルダーに保存します。

 vec_picに保存された、ベクトルから生成された顔画像が表示されています。

 それでは、ベクトルを順次平均しながら顔画像を生成してみましょう。vecフォルダーに保存されているベクトルを平均してvec_avgに保存し、その平均したベクトルから生成した画像をvec_avg_picに保存します。

 vec_avg_picフォルダーに保存している画像を表示しています。画像の下にある数字が平均するN数で、N数を増やしたときに、どう平均顔が変化して行くかが分かります。

 でも、ちょっと小さいですよね。vec_avg_picフォルダーから間引いてピックアップして見てみましょうか。

 画像の下にある数字が平均したN数です。N数が小さい内は顔画像が割と変化しますが、N数が増えるに従って徐々にある顔画像に収束して行くのが分かると思います。

 それでは、平均化に使用した顔画像とN=20で平均した画像を比較して見てみましょう。

 平均することによって、かなり美人になったと思いませんか。これが平均顔の威力です。心理学の論文では、ラングロフとログマン(1990)が「平均顔が魅力的である」ことを実証実験しています。

 平均顔から分かることは、顔を構成するパーツの形は平均的でも、パーツの位置関係を平均することで、かなり美しく見えると言うことです。

 人がなぜ平均顔を美しく感じるかについては、配偶者を選ぶ時の基準を「平均顔」にすると生存競争上有利で、その遺伝子が残ったからと言う説があります。なぜ、生存競争上有利かというと、顔の形が整っているということは成長するときに栄養が不足することなく育ち、様々な疾患も少ない傾向がある(これは論文で立証されています)ため、配偶者が健康である可能性が高いからです。

 ここで、平均画像が収束して行く状況を可視化してみましょう。1〜N枚目の平均画像のベクトルと1枚目の画像のベクトルとのCOS類似度の推移をグラフ化します。COS類似度は、画像が全く同じとき1、画像が全く異なるとき0となる指数です。

 StyleGANのベクトルは、ベクトルを18本まとめた(18,512)のシェイプをしているので18で割っていることに留意下さい。

 縦軸がcos類似度(cos similarity)、横軸が平均するN数です。10回くらい平均するとCOS類似度が安定し、平均顔がほぼ収束してくることが分かります。

 用意した顔画像の多様性(バラツキ)についても数値化しておきましょう。各ベクトルと全ベクトルの平均とのCOS類似度を求めて、1からその平均を引いたものを多様性指数(variance)とします。

 18本あるベクトルの内、最初の2本は顔の向きに関係し、9本目以降は細かなテクスチャに影響するものなので、顔の特徴を捉えるときのノイズになりやすいです。そのため、多様性を計算するときには、3〜8本目だけを使っています。

variance = 0.32784092724323277

 これが多様性指数(variance)です。この数値が大きいほど多様性(バラツキ)が大きくなります。

 さて今度は、男性をやってみましょうか。path = ‘./images/sample3’(アジア系男性20人)を指定して先程同様に分析し、平均化に使用した顔画像とN=20で平均した画像を比較して見てみましょう。

 バランスの取れた好青年が現れました。これも、平均に使用した顔画像と比較するとかなり美男子ではないでしょうか。

4.多様性を上げる

 平均顔をもっと美しくするには、どうしたら良いでしょうか。1つの方法は、多様性を上げることです。path = ‘./ images/sample2’(アジア系女性10人+欧米系女性10人)を指定して先程同様に分析し、平均化に使用した顔画像とN=20で平均した画像を比較して見てみましょう。

 おっ、もう1段グレードアップした感じですよね。前の平均顔と比較してみましょう。

 多様性を、0.3278から0.3386へ+0.0108上げることによって、美しさが1ランクアップしたことが分かると思います。

 男性も多様性を上げてみましょう。path = ‘./ images/sample4’(アジア系男性10人+欧米系男性10人)を指定して先程同様に分析し、平均化に使用した顔画像とN=20で平均した画像を比較して見てみましょう。

 これも、さらにイケメンになった感じですよね。前の平均顔と比較してみましょう。

 多様性を、0.3250から0.3425へ+0.0175上げることによって、女性同様美しさが1ランクアップすることが分かると思います。

5.女性成分を加える

 平均顔をさらに美しくする方法の2つ目は、女性成分や男性成分を利用する方法です。ベクトルは差を取ると、その方向へ向かう成分が得られます。つまり、女性の平均ベクトルA男性の平均ベクトルBがあるとき、A-B で女性成分B-A で男性成分が得られます。これを平均顔に加えると、いわゆる女子力や男子力をUPさせる効果があります。

 Google colabに、これをシミュレーションするブロックが最後から1つ前にありますので、それを使ってみましょう。./sample/vectorフォルダーに保存されているベクトルから、アジア系女性10人+欧米系女性10人の平均顔ベクトルをx2に、アジア系男性10人+欧米系男性10人の平均顔ベクトルをx4に読み込みます。

 例えば、 x2 + (x2 – x4)*0.5 を計算すると、x2に女性成分を50%を加えることになるわけです。図で表現するとこんな感じです。

 それではやってみましょう。なお、女性化した画像は、calcフォルダーに保存されます。

 1が元画像、2が+30%女性化、3が+50%女性化、4が+100%女性化した画像です。+100%まで行くと、少しやり過ぎな感じなので、+50%くらいが良い感じでしょうか。女性化による効果をまとめておきます。

 さらに美人度がアップしましたね。心理学の論文では、ローズ(2000)が女性の平均顔に女性成分を加える(方法はStyleGAN2とは異なりますが、本質的には一緒)ことによって平均顔より美しくなると言っています。

 次に、男性もやってみましょう。コードは先ほどと同様なので異なる部分のみ記載します。

 1が元画像、2が+30%男性化、3が+50%男性化、4が+100%男性化した画像です。だんだん、ゴツゴツした野性味あふれる顔になって行きます。

 但し、女性に好まれるのは男性化した顔ではないのです。心理学の論文では、ペレット(1998)が実験によって、女性にとって魅力的なのは男性成分を加えた顔ではなく、10〜20 %女性成分を加えた顔だと言っています。これは、なぜでしょうか?

 女性が子孫を残そうとするとき、相手となる男性は野性味あふれる方が生殖能力が高くて良いわけですが、その場合は男性にやり逃げされ、生まれた子供の育成を援助してくれないリスクがあります。そのリスクを避け、長期的に良好な夫婦の関係を重視すると、むしろ少し女性化した男性を選ぶ方が女性にとって子孫を多く残すためには有利な戦略となったのではないか。その結果、そういう遺伝子が残ったとではないかという説があります。

 この話には追加のパラメータがあって、リトル(2001)が実験した結果によると、女性の評定者自身が魅力的だと思っていればいるほど(少数派ですが)、男性成分の多い顔を好む傾向があるという結果も報告されています。

 これには、自分を魅力的であると思う女性が、野性味あふれる男性の方を好むのは、女性が自分の魅力で野性味あふれる男を繋ぎ止める自信があるためではないかという解釈があります。

 また、ウェリング(2008)の論文によれば、女性の評定者自身が自分を性欲が強いと思っていればいるほど(少数派ですが)、男性成分の多い顔を好む傾向があるということも分かっています。

 では、男性を+20%女性化したものを見てみましょう。コードは省略します。

 少し甘いマスクになりますね。そういえば、ジャニーズは、男っぽい人がほとんどいませんよね。甘いマスクの人ばかりなのは、そういう女性の遺伝子の性質を利用しているのかもしれません。

6.パーツを美しくする

 単純平均→多様性UP→女性化と美しさを追求して来たわけですが、今まで見てきた中に究極の美女はいましたか?いませんよね。今までやって来たのは、顔を構成するパーツの位置関係の最適化のみですので。今度は顔を構成するパーツ自体の美しさを追求してみましょう。

 path = ‘./images/sample5’(ミス・ジャパン_ファイナリスト34名)を指定して先程同様に分析し、平均化に使用した顔画像とN=34で平均した画像を比較して見てみましょう。

 さすがミス・ジャパン、華やかですね。心理学の論文では、カニンガム(1986)が「美人コンテスト平均顔」という考え方で、平均顔よりさらに美しい顔を作り出せると言っています。

 顔を構成するパーツが美しいので、単純に平均するだけでもかなりの美しさですね。最初にやった、アジア系女性20人の平均顔と比較してみましょうか。

 顔を構成するパーツを見ると、ミス・ジャパンの方が、目・口が大きく、鼻が小さい、という特徴があるように見えます。先ほどのカニンガム(1986)も、「平均顔」と「美人コンテスト平均顔」には、顔を構成する各パーツの形(一部位置関係も含めて)に明らかな差があると言っています。

 興味深いのは、多様性指数が0.2760とかなり低いことです。これは、ミス・ジャパンのファイナリストに選ばれた女性は、顔が整ったツブよりの女性が集まっていることの表れではないでしょうか。

 男性もやってみましょう。path = ‘./images/sample6’(ミスター・ジャパン_ファイナリスト20名)を指定して先程同様に分析し、平均化に使用した顔画像とN=20で平均した画像を比較して見てみましょう。

 さすが、ミスター・ジャパンのファイナリスト、単なる平均顔とは全く違います。最初にやった、アジア系男性20人の平均顔と比較してみましょうか。

 レベルが違いますよね。そして、ミス・ジャパンのときと同様、多様性指数は0.2921と低めですね。

 さて、今までの流れで言うと、ここから多様性を上げる→女性成分をプラスと進めるわけですが、女性の多様性を上げた「ミス・インターナショナル」の画像は入手できるのですが、残念ながら男性の多様性を上げた「ミスター・インターナショナル」の画像は入手できないんです。

 そのため、「多様性を上げる」はパスして、最後の「女性成分をプラス」をやってみましょう。まず、女性の場合です。コードは省略します。

 そして、男性の場合です。

7.美人度は測定できるか?

 最も美しい顔を決めて、その顔にどれだけ類似しているかをCOS類似度で求めれば、美人度が測定できるかもしれません。

 path = ‘./images/sample7’(ミス・インターナショナル_ファイナリスト30人)を指定して分析し、平均化に使用した顔画像とN=30で平均した画像を比較して見てみましょう。

 まさに正統派、これがミス・インターナショナルの平均顔です。今回のトライの中で最も美人なのは、この平均顔と言って良いでしょう。この画像にどれだけ似ているか(COS類似度が高いか)で、美人度を測ってみます。Google Colabにそのためのコードが最後のブロックにあります(説明は省略します)。

 それでは、sample1(アジア系20人)、sample2(アジア系10人+欧米系10人)、sample5(ミス・ジャパン34名)とミス・インターナショナルの平均顔とのCOS類似度を計算し、分布をまとめてみます。

 上段の数字がCOS類似度で、0.5未満、0.5以上〜0.6未満、0.6以上の3つに分け、どの画像が該当するのかをまとめています。ミス・ジャパンは全員0.5以上なので、大きく見れば矛盾はないなと思う反面、細部を見るとまだスッキリしない部分が多々あります。このあたりをどう改善するかは、今後の課題です。

 では、また。

(文中にリンクのない画像データ)Flickr-Faces-HQデータセット(FFHQ)

(参考図書)美人の正体 – 外見的魅力をめぐる心理学 – 越智啓太

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)

ABOUTこの記事をかいた人

アバター

ディープラーニング・エンジニアを趣味でやってます。E資格ホルダー。 好きなものは、膨大な凡ショットから生まれる奇跡の1枚、右肩上がりのワクワク感、暑い国の新たな価値観、何もしない南の島、コード通りに動くチップ、完璧なハーモニー、仲間とのバンド演奏、数えきれない流れ星。