【AI】Facebook、新しい機械学習技術で児童虐待ルールに違反している870万のコンテンツを削除

Analytics News(アナリティクスニュース)

【AI】Facebook、新しい機械学習技術で児童虐待ルールに違反している870万のコンテンツを削除

TOPICS 2018年10月25日 14:01

【AI】Facebook、新しい機械学習技術で児童虐待ルールに違反している870万のコンテンツを削除

Facebookは、新しい機械学習技術を利用して児童虐待ルールに違反している870万のコンテンツを削除したと発表した。

違反に該当する99%の記事を削除

FacebookのAnthone Davis氏は、ブログ記事で『過去1年間に開発され、実装された新しいAIと機械学習技術により、ユーザーからの報告を受ける前に、違反に該当する99%の記事を削除した』と語った。

誤削除ケースも存在

しかし、この技術は完全ではなく、多くの親から「子供の無害な写真が削除されている」という訴えが出ている。

Davis氏は「虐待の可能性を見過ごすことがないように、一見陽気ではないように見える風邪の子供たちの写真などの、非セクシュアルなコンテンツに対しても削除対象となるケースがある」と述べている。

多くの人々は、Facebookのモデレーション技術は決して完璧ではないと考えている。家族のスナップショットが削除されたり、南ベトナムのネパールの攻撃で3度の熱傷を負い裸で逃げ出した "ナパームガール"と呼ばれるファンティキム・プクの象徴的な1972年の写真のような内容を削除したことも批判されている。

ソーシャルメディアのコンテンツ調整問題

ソーシャルメディアのコンテンツを調整することは、AIベースの自動化が人間の労働者にどのように利益をもたらすかという顕著な例の1つとなっている。

先月、Facebookのコンテンツ担当者であったSelena Scola氏は、何千もの暴力的な画像のスクリーニングが心的外傷後ストレス障害を引き起こしたと主張して、同社に訴えを起こしている。

以上、下記URLからの要約
https://techcrunch.com/2018/10/24/facebook-says-it-removed-8-7m-child-exploitation-posts-with-new-machine-learning-tech/

クリエイティブ・コモンズ・ライセンス
この作品は クリエイティブ・コモンズ 表示 - 非営利 4.0 国際 ライセンスの下に提供されています。

最新TOPICS

【AI】機械学習の偏りを避ける3つの方法(2018年11月08日 11:31)

ビルダーやビジネスリーダーにとって、AIシステムの倫理的行動について監視するプロセスを確立することは重要とされる。

AIを構築する際のバイアスを管理する3つの鍵について解説。

①問題に対する正しい学習モデルを選択

「教師付き学習モデル」と「教師なし学習モデル」には、それぞれ長所と短所がある。

関連用語・タグ

ベイズ理論()

  • 用語集

18世紀のイギリスの数学者であるトーマス・ベイズによって示された条件付き確率に関して成り立つ定理に基づく理論。

回帰分析()

  • 用語集

「回帰分析」とは、2つの変数から相関関係や因果関係を導き出すために、一方の変数から将来的な値を予測するための予測式(回帰直線)を求める手法。

データマネージメント(Data Management)

  • 用語集

データを蓄積する仕組みの構築や運用、データ構造の可視化やデータの意味管理などを行いながらデータを適切に管理することで、データの信頼性・整合性を確保すること。

クリックストリームデータ()

  • 用語集

Web サイトやオンライン・ショップにおける訪問者のアクセス・ログである。Web サイトやオンライン・ショップにアクセスした訪問者が、どのような順番に従ってWebサイト内を移動したのかという一連の履歴がわかる。来訪者はリンクをクリックしてサイト内を移動するため、「クリックの流れ」とも呼ばれる。

ボット(bot)

  • 用語集

「ボット(BOT)」とは、人間がコンピュータを操作して行う処理について、人間に代わって特定の命令に従って自動的に実行するアプリケーションプログラムを意味する。

  • KSKサイド001
  • OSSNEWSに広告を掲載しませんか?

facebook

twitter