FacebookのRosettaAIが攻撃的なミームを検出

今週、Facebookは大規模な展開を発表しました 機械学習 ソーシャルネットワーク上の画像内の「不適切または有害なコンテンツ」を自動的かつ積極的に特定するために使用しているRosettaという名前のシステム。言い換えれば、Facebookは それはミームが不快であるかどうかを知ることができます。



もちろん、ソーシャルメディアの巨人はこの情報をミームに使用するつもりはありません。で ブログ投稿 、Facebookは、アルゴリズムを使用して、店先の写真、道路標識、またはレストランのメニューのテキストを検出する方法について説明しています。

ロゼッタAIFacebook





キャピトルヒルに最近登場したことで、アメリカ人の26%が携帯電話からアプリを削除したというニュースと、選挙以来Facebookのすぐ後を追っている偽のニュースに対する懸念が、不快なコンテンツを抑制するために使用することが確実に優先されます。

ロゼッタのインテリジェンスは、テキストを含む可能性のある画像を検出し、画像内のテキストが実際に何であるかを認識するという2つのステップのプロセスから始まります。このモデルは英語だけのものではありません。Facebookはアラビア語やヒンディー語などのさまざまな言語とエンコーディングをサポートしているため、システムは右から左にも読み取ることができます。



Rosettaは、写真検索の品質を向上させ、ニュースフィード内の写真の精度を向上させ、悪意のある表現を特定するために、FacebookとInstagramのチームによってすでに使用されています。

Facebookはこれまで、悪意のある表現や誤解を招く情報を適切に特定するのに苦労してきました。 マザーボード 、Facebook自身のトレーニング資料は、中国のJeieguでの2010年の地震の画像は、ミャンマーの大量虐殺の写真であると誤って述べていました。

編集者からの推薦

FacebookアイコンF8Facebookが特許訴訟でBlackBerryに反撃 人工知能にはバイアスの問題があり、それは私たちのせいです 人工知能が教育の未来をどのように形作っているか

人工知能を使用して発話の重症度を評価することは、すでに困難に直面しています。そうだった 最近発見された 有害なコメントを検出するために使用されるGoogleのパースペクティブAIは、タイプミス、単語間のスペース、および元の文に無関係な単語を追加することで簡単にだまされる可能性があります。

言うまでもなく、毎日約3億5000万枚の写真がソーシャルネットワークにアップロードされており、RosettaとFacebookは困難な戦いを繰り広げています。

推奨されます