BSゲイダーAIの背後にあるスタンフォードチームは、顔認識が政治的方向性を明らかにする可能性があると述べています

by tobiniumu
0 comment



スタンフォード大学の研究者、マイケル・コジンスキー、悪名高い博士号の背後にある博士号 「ゲイダー」AI、別の骨相学で戻ってきました-隣接する(彼のチームはそれが骨相学ではないと誓います)少し疑似科学的なばかげたこと。 今回、彼らは、単純な顔認識アルゴリズムが人の政党を知ることができることを示す論文を発表しました。

まず最初に:この論文は「顔認識技術は自然主義的な顔画像から政治的方向性を明らかにすることができる」と呼ばれています。 あなたはそれを読むことができます ここに。 要約から少しここにあります:

リベラル派と保守派の顔は一貫して異なるため、ユビキタスな顔認識技術は個人の政治的方向性を明らかにする可能性があります。

2番目のこと:これらは 明らかに間違っている ステートメント。 この論文を楽しませる前に、コシンスキーと彼のチームのアイデアにはまったくメリットがないことを完全に明確にしておきたいと思います。 顔認識技術は、個人の政治的方向性を明らかにすることはできません。

[Related: The Stanford gaydar AI is hogwash]

簡潔にするために、私は簡単な声明で私の異議を要約します:私はかつてリベラルな人を知っていました、そしてそれから彼らは保守的になりました。

それはまったく気になりませんが、重要なのは、政治的志向は流動的な概念であるということです。 同じように特定の政治的イデオロギーに「向きを変える」傾向のある人は二人もいません。

また、政治についてたわごとをしない人もいれば、実際に何を支持しているのかわからない人もいれば、一方の政党に同意すると信じている人もいますが、彼らの無知の中で、彼らが実際に支持していることに気づいていません。別のもの。

さらに、人間の顔には「The Thing」の生き物のように自分自身を再構成する能力がないことがわかっているので、突然取得することはありません。 リベラルな顔 私たちの1人がドナルドトランプのサポートをやめ、ジョーバイデンのサポートを開始することにした場合。

これは、研究者がリベラル派と保守派が自分たちを異なって表現、持ち運び、または保持していると主張していることを意味します。 または彼らはあなたがリベラルまたは保守的に生まれたと言っていて、それについてあなたができることは何もありません。 どちらのステートメントも、ほとんど愚かすぎて検討できません。

この研究は、人口統計(白人は保守的である可能性が高い)とラベル(人間によって与えられた)がAIが人々を分離する方法の要因を決定していたと主張しています。

言い換えれば、チームは多くのコメディアンと同じ紛れもなく誤った前提から始めます:それは 世界でたった二種類の人

スタンフォード大学のチームによると、AIは70%以上の精度で政党を決定できます。これは、偶然や人間の予測よりも優れています(どちらも約55%の精度です)。

これは、スタンフォードチームの正確さの主張をどのように解釈すべきかについてのアナロジーです。レモンの木のレモンの数が別の惑星からのエイリアンであるかを100%の正確さで予測できます。

レモンの中のエイリアンを見ることができるのは私だけなので、私はあなたが「データベース」と呼んでいるものです。 レモンの中のエイリアンを見るためにAIを訓練したい場合は、AIに私へのアクセスを許可する必要があります。

私はあなたのAIの隣に立って、エイリアンがいるすべてのレモンを指さすことができました。 AIはメモを取り、「mm hmm、mm hmm」に相当するAIをビープ音で鳴らし、私が指しているレモンが何であるかを理解し始め、そこにエイリアンがいると思います。

最終的に、AIは新しいレモンの木を見て、どのレモンを推測しようとします。 だろう 考える それらにレモンがあります。 どのレモンを推測するのが70%正確だった場合 考える レモンが入っていても、0%の精度です。 決定する どのレモンにエイリアンが含まれていますか。 なぜなら レモンにはエイリアンがいません。

それは、読者の皆さん、スタンフォードチームがここで、そしてそのばかげたゲイダーで行ったことです。 彼らはAIに、存在しない推論を行うように教えました(これは重要な部分です):政党には科学的に測定可能な定義可能な属性がありません。 またはクィアネス。 できない 測定する 同性愛者のように、定義可能なしきい値がないため、自由度または保守性。

最初にゲイネスをやってみましょう。そうすれば、人の顔の構成や表情が人の核となる存在についてのそのような親密な詳細を決定できると言うのがいかに愚かであるかを理解できます。

  1. 同性のメンバーとセックスしたことがない場合、あなたはゲイですか? セックスをしたことがない「異性愛者」がいます。
  2. あなたが同性のメンバーにロマンチックに惹かれていなければ、あなたは同性愛者ですか? 異性のメンバーにロマンチックに惹かれたことがない「異性愛者」がいます。
  3. 以前は同性愛者でしたがやめた場合、異性愛者ですか、それとも同性愛者ですか?
  4. 以前は異性愛者でしたが停止した場合、異性愛者ですか、それとも同性愛者ですか?
  5. あなたが異性愛者か同性愛者かを決定する統治機関は誰ですか?
  6. あなたが同性のメンバーとロマンチックな関係とセックスをしているが、あなたがストレートであると人々に言うなら、あなたはゲイですか、それともストレートですか?
  7. バイセクシュアル、アセクシュアル、パンセクシュアル、デミセクシュアル、ゲイ・フォー・ペイ、ストレート・フォー・デート、または単に一般的に混乱している人々は存在しますか? 彼らが同性愛者であるか異性愛者であるかを誰が彼らに伝えますか?

ご覧のとおり、クィアネスは「エネルギー」や「あそこのテーブルにあるリンゴの数」のような合理的な商品ではありません。

スタンフォード大学のチームは、「私はゲイだ」と言った人々の写真を「私はまっすぐだ」と言った後、AIのパラメーターをいじった人々の写真と比較することにより、ゲイネスの尺度として「グラウンドトゥルース」を使用しました(古い無線信号)可能な限り最高の精度が得られるまで。

このように考えてください。私はあなたに肖像画のシートを見せて、「WorldofWarcraftが好きなものを指さしてください」と言います。 あなたが終わったとき、あなたが純粋な偶然またはあなたの隣に座っている人間よりもよく推測しなかったなら、私は「いいえ、もう一度やり直してください」と言います。

これは、ある日私が「エウレカ!」と叫ぶまで、何千回も試行され続けます。 あなたが最終的にそれを正しくすることに成功したとき。

あなたはWorldof Warcraftのプレイヤーに彼らの肖像画から見分ける方法を学んでおらず、単にそのシートを正しくすることを学んだだけです。 次のシートが来ると、特定のポートレートの人物がWoWプレーヤーであるかどうかを、文字通り50/50の確率で正しく推測できます。

スタンフォード大学のチームは、クィアネスや猫らしさのような政治的志向を定義することはできません。 あなたは言うことができます それは猫です そして それは犬です の性質を客観的に定義できるからです 丁度 猫とは? 誰かが同性愛者、異性愛者、リベラル、または保守的であるかどうかを判断する唯一の方法は、彼らに尋ねることです。 そうでなければ、あなたは単に彼らがどのように観察しているのですか 見て そして 行為 そしてかどうかを決定する 君は 彼らはリベラルかクィアか何かだと信じています。

スタンフォードチームはAIに何かをするように頼んでいます 人間はいない できること–つまり、見た目から誰かの政党や性的指向を予測します。

ここで重要なのは、これらのばかげた小さなシステムは、50年前の基本的なアルゴリズムとニューラルネットワーク技術を使用しているということです。 彼らは賢くはありません、彼らは何かが何かであるかどうかを決定するために使用される文字通り同じ技術を変質させているだけです ホットドッグかどうか

これには前向きなユースケースはありません。

さらに悪いことに、著者は自分のクールエイドを飲んでいるようです。 彼らは自分たちの仕事が危険であることを認めていますが、その理由を理解していないようです。 これあたり TechCrunchの記事、コシンスキー(ゲイダー研究を参照)は言う:

私たちはこれらの結果に本当に不安を感じ、それらを公開すべきかどうかを検討するのに多くの時間を費やしました。 私たちは、警告しているリスクそのものを有効にしたくありませんでした。 いつ、誰に性的指向を明らかにするかを制御する能力は、人の幸福だけでなく、人の安全にとっても重要です。

私たちは、政策立案者とLGBTQコミュニティに彼らが直面しているリスクを認識させる緊急の必要性があると感じました。 プライバシーを侵害するツールは作成しませんでしたが、基本的で広く使用されている方法が深刻なプライバシーの脅威をもたらすことを示しました。

いいえ、クィアを出すことができるので、結果は怖いものではありません。 彼らは人々によって悪用される可能性があるので危険です 信じる 彼らはできます。 予測的ポリシング それが機能するので危険ではありません、それが機能しないので危険です:それは単に歴史的なポリシングパターンを許します。 そして、スタンフォードチームによるこの最新の愚かなAI開発は、あなたの政党を決定する可能性があるため、危険ではありません。 人々はそれができると信じているかもしれないので危険であり、それが機能するかどうかにかかわらず、誰かの核となるイデオロギーのプライバシーを侵害するように設計されたシステムの良い使用法はありません。

2021年1月14日公開— 20:41 UTC





Source link

You may also like

Leave a Comment