顔認識は、新しい研究を悩ませている政党を明らかにする– TechCrunch

by tobiniumu
0 comment


研究者たちは、顔だけに基づいて、合理的な精度で人の政党を決定できると主張する機械学習システムを作成しました。 性的嗜好がこのように推測できることも示したグループの研究は、「現代の骨相学」の落とし穴に率直に対処し、注意深く回避しているため、私たちの外見は私たちが考えるより多くの個人情報を表現している可能性があるという不快な結論につながります。

今週登場した研究 NatureジャーナルScientificReports、スタンフォード大学のミハウコジンスキーによって実施されました。 コシンスキーは2017年にその仕事で見出しを作りました 人の性的嗜好は顔のデータから予測できることがわかりました

この研究は、その方法についてではなく、概念的に非物理的なものをこの方法で検出できるという考えそのものに対して批判を集めました。 しかし、コシンスキーの仕事は、彼がその時とその後に説明したように、特にそれらの仮定に挑戦するために行われ、他の人と同じように彼にとっても驚きで不安でした。 アイデアは、一種のAIゲイダーを構築することではありませんでした。実際、まったく逆です。 チームが当時書いたように、そのようなものは学問を超えた興味を持つ人々によって構築される可能性があることを他の人に警告するために公開する必要がありました:

私たちはこれらの結果に本当に不安を感じ、それらを公開すべきかどうかを検討するのに多くの時間を費やしました。 私たちは、警告しているリスクそのものを有効にしたくありませんでした。 いつ、誰に性的指向を明らかにするかを制御する能力は、人の幸福だけでなく、人の安全にとっても重要です。

私たちは、政策立案者とLGBTQコミュニティに彼らが直面しているリスクを認識させる緊急の必要性があると感じました。 プライバシーを侵害するツールは作成しませんでしたが、基本的で広く使用されている方法が深刻なプライバシーの脅威をもたらすことを示しました。

ここでも同様の警告が発せられる可能性がありますが、少なくとも米国(および少なくとも現在)の政党はそうではありません。 なので 性的嗜好としての敏感または個人的な要素、それはまだ敏感で個人的です。 政治的または宗教的な「反体制派」または別の人が逮捕または殺害されていることを読まなければ、1週間はほとんど過ぎません。 抑圧的な政権が、たとえばメッセージを傍受する代わりに、「アルゴリズムがあなたを過激派の可能性があるとしてフラグを立てた」と言うことによって、考えられる原因に合格するものを得ることができれば、この種の慣行ははるかに簡単でスケーラブルになります。

アルゴリズム自体は、高度なテクノロジーではありません。 Kosinskiの論文は、米国、カナダ、英国の出会い系サイトや米国のFacebookユーザーから収集された、100万を超える顔の機械学習システム画像を提供するごく普通のプロセスについて説明しています。 サイトのアンケートの一部として、顔が使用された人々は、政治的に保守的またはリベラルであると特定されました。

アルゴリズムはオープンソースの顔認識ソフトウェアに基づいており、顔だけにトリミングする基本的な処理の後(つまり、背景アイテムが要因として忍び寄らないように)、他の顔認識と同様に、顔はさまざまな特徴を表す2,048スコアに削減されます。これらのアルゴリズムは、「眉の色」や「鼻のタイプ」のように直感的に考える必要はありませんが、よりコンピューターネイティブな概念です。

画像クレジット: Michael Kosinski / Nature Scientific Reports

このシステムには、国民自身からの政党データが与えられ、これにより、保守派と特定された人々とリベラルと特定された人々の顔の統計の違いを熱心に研究し始めました。 結局のところ、違いがあります。

もちろん、「保守派は眉毛がふさふさしている」や「リベラル派はもっと眉をひそめている」ほど単純ではありません。 また、それは人口統計に帰着することもありません。それは物事をあまりにも簡単で単純にするでしょう。 結局のところ、政党の識別が年齢と肌の色の両方と相関している場合、それはすぐそこに簡単な予測アルゴリズムを作ります。 Kosinskiが使用するソフトウェアメカニズムは非常に標準的ですが、この研究が前回の研究と同様に疑似科学として却下されないように、彼は自分の基盤を注意深くカバーしました。

これに対処する最も明白な方法は、同じ年齢、性別、民族の人々の政党についてシステムに推測させることです。 テストでは、各パーティに1つずつ、2つの顔が提示され、どちらがどちらであるかを推測しました。 明らかに、チャンスの精度は50パーセントです。 人間はこのタスクがあまり得意ではなく、偶然をわずかに上回り、約55パーセント正確です。

アルゴリズムは、2人の同様の個人間の政党を予測する場合、71%の精度に達し、年齢、民族、性別を問わず2人の個人を提示すると、73%に達しました(ただし、1人は保守的、1人はリベラルであることが保証されています)。

画像クレジット: Michael Kosinski / Nature Scientific Reports

4つのうち3つを取得することは、現代のAIにとっては勝利のようには思えないかもしれませんが、人々がコイントスよりもやっとうまくやれることを考えると、ここで検討する価値があるようです。 コシンスキーは他の基地もカバーするように注意してきました。 これは、統計的な異常や孤立した結果の誇張ではないようです。

あなたの政党があなたの顔に書かれているかもしれないという考えは不安なものです。なぜなら、人の政治的傾向は最もプライベートな情報からはほど遠いですが、それは無形であると非常に合理的に考えられているものでもあります。 人々は自分の政治的信念を帽子、ピン、またはTシャツで表現することを選択できますが、一般的には自分の顔は無党派であると考えられています。

特にどの顔の特徴が明らかになっているのか疑問に思っている場合、残念ながらシステムはそれを報告することができません。 ある種の準研究で、コシンスキーは数十の顔の特徴(顔の毛、視線の直接性、さまざまな感情)を分離し、それらが政治の優れた予測因子であるかどうかをテストしましたが、偶然よりも精度がわずかに向上しただけでした。人間の専門知識。

「頭の向きと感情的な表現が際立っていました。リベラル派はカメラに直接向き合う傾向があり、驚きを表現する可能性が高く、嫌悪感を表現する可能性が低くなりました」とKosinskiは論文の著者のメモに書いています。 しかし、彼らが追加したものは、10パーセント以上の正確さを説明していませんでした。「これは、顔認識アルゴリズムが政治的方向性を明らかにする他の多くの機能を見つけたことを示しています。」

「これは真実ではありません-骨相学はスネークオイルでした」というひざまずく防御は、ここではあまり水を保持していません。 それが真実だと考えるのは怖いですが、それは人々に対して非常に簡単に使用される可能性があるため、非常に重要な真実である可能性があることを否定するのに役立ちません。

性的指向の研究と同様に、ここでのポイントは、この情報の完全な検出器を作成することではなく、人々が作成する危険性を検討し始めるためにそれを実行できることを示すことです。 たとえば、抑圧的な神権政権が異性愛者や特定の政治的傾向を持つ人々を取り締まりたい場合、この種の技術は彼らに「客観的に」そうするためのもっともらしい技術的方法を与えます。 さらに、ソーシャルメディアの履歴を調べたり、購入を分析したりするのとは異なり、ターゲットとの作業や接触をほとんど必要とせずに実行できます(これも非常にわかりやすくなります)。

中国が、困惑したウイグルの宗教的少数派のメンバーを見つけるために顔認識ソフトウェアを配備していることはすでに聞いたことがあります。 そして、私たちの国では、この種のAIは当局からも信頼されています。たとえば、警察が「最新のテクノロジー」を使用して抗議で顔を分類することは想像に難くありません。最もリベラルな」、またはあなたは何を持っていますか。

オープンソースソフトウェアと中規模の顔のデータベースを使用している2人の研究者(政府にとって、これは、彼らがまだ持っていない可能性は低いですが、組み立てるのは簡単です)という考えは、世界中のどこでもそうすることができます。目的は、身も凍るようなものです。

「使者を撃ってはいけません」とコシンスキーは言いました。 「私の仕事では、広く使用されている顔認識アルゴリズムに対して警告しています。 心配なことに、これらのAI生理学者は現在、人々の親密な特性を判断するために使用されています。学者、政策立案者、市民は注意を払う必要があります。」



Source link

You may also like

Leave a Comment