【AI】Facebook、新しい機械学習技術で児童虐待ルールに違反している870万のコンテンツを削除

Analytics News(アナリティクスニュース)

【AI】Facebook、新しい機械学習技術で児童虐待ルールに違反している870万のコンテンツを削除

TOPICS 2018年10月25日 14:01

【AI】Facebook、新しい機械学習技術で児童虐待ルールに違反している870万のコンテンツを削除

Facebookは、新しい機械学習技術を利用して児童虐待ルールに違反している870万のコンテンツを削除したと発表した。

違反に該当する99%の記事を削除

FacebookのAnthone Davis氏は、ブログ記事で『過去1年間に開発され、実装された新しいAIと機械学習技術により、ユーザーからの報告を受ける前に、違反に該当する99%の記事を削除した』と語った。

誤削除ケースも存在

しかし、この技術は完全ではなく、多くの親から「子供の無害な写真が削除されている」という訴えが出ている。

Davis氏は「虐待の可能性を見過ごすことがないように、一見陽気ではないように見える風邪の子供たちの写真などの、非セクシュアルなコンテンツに対しても削除対象となるケースがある」と述べている。

多くの人々は、Facebookのモデレーション技術は決して完璧ではないと考えている。家族のスナップショットが削除されたり、南ベトナムのネパールの攻撃で3度の熱傷を負い裸で逃げ出した "ナパームガール"と呼ばれるファンティキム・プクの象徴的な1972年の写真のような内容を削除したことも批判されている。

ソーシャルメディアのコンテンツ調整問題

ソーシャルメディアのコンテンツを調整することは、AIベースの自動化が人間の労働者にどのように利益をもたらすかという顕著な例の1つとなっている。

先月、Facebookのコンテンツ担当者であったSelena Scola氏は、何千もの暴力的な画像のスクリーニングが心的外傷後ストレス障害を引き起こしたと主張して、同社に訴えを起こしている。

以上、下記URLからの要約
https://techcrunch.com/2018/10/24/facebook-says-it-removed-8-7m-child-exploitation-posts-with-new-machine-learning-tech/

クリエイティブ・コモンズ・ライセンス
この作品は クリエイティブ・コモンズ 表示 - 非営利 4.0 国際 ライセンスの下に提供されています。

最新TOPICS

関連用語・タグ

NoSQL(ノーエスキューエル)

  • 用語集

「NoSQL(ノーエスキューエル)」とは、膨大なデータ量を高速かつ動的に整理し分析する、非リレーショナルな分散データベースシステムである。スケーラビリティ、可用性、耐障害性において、従来のRDB(リレーショナルデータベース)を凌駕するデータベースとしてNoSQLが、注目を集めている。

ドローン(Drone)

  • 用語集

無人で遠隔操作や自動制御によって飛行できる航空機の総称。

クリックストリームデータ()

  • 用語集

Web サイトやオンライン・ショップにおける訪問者のアクセス・ログである。Web サイトやオンライン・ショップにアクセスした訪問者が、どのような順番に従ってWebサイト内を移動したのかという一連の履歴がわかる。来訪者はリンクをクリックしてサイト内を移動するため、「クリックの流れ」とも呼ばれる。

アナリティクス(Analytics)

アナリティクスとは、ある目的にもとづいて、さまざまな分析手法やソフトウェアベースのアルゴリズムを駆使しながら、データに潜んでいる特定のパターンや相関関係などの知見を抽出することを意味する。

ニューラルネットワーク(Neural Network)

  • 用語集

脳機能の特性を表現することを目指した数学モデルである。人工ニューラルネットワークとも言う。

  • KSKサイド001
  • OSSNEWSに広告を掲載しませんか?

facebook

twitter