TikTokのヘイトスピーチ検出ツールがアプリの人種的偏見についての議論をどのように開始したか

by PCJISAKUTECH
0 comment


「これが私が性交に腹を立てている理由です。 私たちは疲れています」と、人気のある黒人インフルエンサーのZiggiTylerは 最近のバイラルビデオ TikTokで。 「黒に関連するものはすべて不適切なコンテンツです」と彼はビデオの後半で続けました。

タイラーは、アプリのクリエイターマーケットプレイスで自分の略歴を編集しているときに発見したことについて、TikTokに不満を表明していました。このマーケットプレイスでは、人気のあるアカウント所有者と、商品やサービスを宣伝するためにお金を払っているブランドを結び付けています。 タイラーは、マーケットプレイスのクリエイターの略歴に「ブラック・ライヴズ・マター」や「ブラック・サクセス」などのブラックコンテンツに関するフレーズを入力すると、アプリが自分のコンテンツに「不適切」のフラグを付けたことに気づきました。 しかし、彼が「白人至上主義」や「白人至上主義」などのフレーズを入力したとき、彼はそのような警告を受けませんでした。

タイラーと彼のフォロワーの多くにとって、この事件は、ソーシャルメディアでブラックコンテンツがどのようにモデレートされるかというより大きなパターンに収まるように見えました。 彼らは、それが黒人に対するアプリの人種的偏見であると信じている証拠であると述べ、フォロワーにアプリを離れるように促したり、TikTokの企業アカウントにタグを付けて回答を求めたりしました。 事件に関するタイラーの元のビデオは、120万回以上の視聴と25,000回以上のコメントを受け取りました。 彼のフォローアップ動画は、さらに100万回近く再生されました。

「私はここに座ってそれを起こさせるつもりはありません」とシカゴを卒業した23歳の最近の大学卒業生であるタイラーはRecodeに語った。 「特に、これらすべてのページに「私たちはあなたをサポートします。2月の黒人歴史月間です」のようなことを言うプラットフォームでは。」

TikTokのスポークスパーソンは、この問題はヘイトスピーチ検出システムのエラーであり、解決に積極的に取り組んでおり、人種的偏見を示すものではないとRecodeに語った。 広報担当者によると、TikTokのポリシーはBlack LivesMatterに関する投稿を制限していません。

この場合、TikTokはRecodeに、ヘイトスピーチ検出器が「Black」と「audience」という単語を含む単語の組み合わせによってトリガーされるため、アプリが「BlackLivesMatter」などのフレーズに誤ってフラグを付けていると語りました。「audience」には単語が含まれているためです。その中で「死ぬ」。

同社の広報担当者は声明のなかで、「ヘイトスピーチに通常関連するフレーズにフラグを立てるTikTok Creator Marketplaceの保護が、語順に関係なくフレーズにフラグを立てるように誤って設定されていた」と述べた。 「これがどれほど苛立たしいことであったかを認識し、お詫び申し上げます。私たちのチームは、この重大なエラーを修正するために迅速に取り組んでいます。 明確にするために、Black Lives Matterは当社のポリシーに違反しておらず、現在、当社のプラットフォームで270億回を超える視聴回数を誇っています。」 TikTokは、Tylerに直接連絡を取り、応答していないと述べています。

しかしタイラー氏は、Recodeに対するTikTokの説明が適切であるとは思わず、ヘイトスピーチ検出システムの問題をもっと早く特定すべきだったと感じたと語った。

「アルゴリズムが何であるか、そしてそれがどのように採用されたかに関係なく、誰かがそのアルゴリズムをプログラムしなければなりませんでした」とタイラーはRecodeに語った。 “で、もし [the problem] はアルゴリズムであり、マーケットプレイスはそれ以来利用可能です [2020]、人種的な論争があったことを知って、なぜこれがあなたのチームとの会話ではなかったのですか?」 彼は尋ねた。

タイラーは彼の欲求不満に一人ではありません—彼は彼らが認識されておらず、十分にサービスされていないと言っているので最近TikTokに抗議している多くの黒人クリエイターの1人にすぎません。 これらのBlackTikTokerの多くは、彼らが呼んでいるものに参加しています 「#BlackTikTokStrike」 アプリの黒人アーティストが最初に振り付けをしたバイラルダンスや他のクリエイターが模倣したバイラルダンスが適切にクレジットされていないことに腹を立てているため、ヒット曲のオリジナルダンスを作ることを拒否しています。

これらの問題は、TikTok、Instagram、YouTube、およびその他のソーシャルメディアプラットフォームで長年にわたって平準化されてきた別の批判にも関連しています。誰もが見る投稿を推奨およびフィルタリングするアルゴリズムには、多くの場合、人種や性別による固有のバイアスがあります。

2019年の調査によると、 ヘイトスピーチを検出するための主要なAIモデルは1.5倍可能性が高い たとえば、アフリカ系アメリカ人が書いたツイートを他のツイートと比較して「不快」としてフラグを立てます。

このような調査結果は、ソーシャルメディアの投稿を自動的に検出してモデレートするアルゴリズム(特にAIモデルの開発)に依存することに伴うメリットと潜在的な害についての継続的な議論を助長しています。

TikTok、Google、Facebook、Twitterなどの主要なソーシャルメディア企業は、これらのアルゴリズムモデルに欠陥がある可能性があることを認めていますが、急速に拡大しているヘイトスピーチ検出システムの重要な部分を占めています。 彼らは、インターネット上の増え続けるコンテンツの量に追いつくために、より労働集約的でない方法が必要だと言います。

TylerのTikTokビデオは、これらのアプリがコンテンツをどのように監視するかについての透明性の欠如を取り巻く緊張も示しています。 に ブラック・ライヴズ・マターの抗議行動中の2020年6月 アメリカ全土で、一部の活動家はTikTokが特定の人気のある#BlackLivesMatter投稿を検閲したと非難しました。これは、数十億回の再生回数があっても、しばらくの間、アプリの再生回数がゼロであると表示されていました。 TikTokはこれを否定し、 他のハッシュタグにも影響を与える技術的な問題だと述べた。 そして2019年後半、TikTokの幹部は伝えられるところによると アプリでの政治的議論の打ち切りについて話し合う、フォーブスによれば、政治的論争を避けるために。

TikTokのスポークスパーソンは、TikTokでのBlackの表現に対する大きな不満を認め、今月初めに、プラットフォーム上でBlack TikTokコミュニティを育成するために、公式の@BlackTikTokアカウントを立ち上げました。全体として、チームはレコメンデーションシステムの開発に取り組んでいます。包括性と多様性を反映しています。

しかし、タイラーにとって、会社にはやるべきことがもっとたくさんあります。 「このインスタンスは氷山の一角に過ぎず、水位の下ではこれらすべての問題が発生します」とタイラー氏は述べています。



Source link

You may also like

Leave a Comment