【AI】Google、AIや機械学習モデルのバイアスへ対処するためのアプローチ技術「TCAV」

Analytics News(アナリティクスニュース)

【AI】Google、AIや機械学習モデルのバイアスへ対処するためのアプローチ技術「TCAV」

TOPICS 2019年5月9日 12:09

【AI】Google、AIや機械学習モデルのバイアスへ対処するためのアプローチ技術「TCAV」

GoogleはAIや機械学習モデルのバイアスへの対処を目指す「TCAV」と呼ばれる新しい研究アプローチに取り組んでいる。

「TCAV」とは

「TCAV(Testing with Concept Activation Vectors)」とは「概念活性化ベクトルを使用したテスト」を意味し、「ニューラルネットワークモデルが予測に使用する信号を理解するための新しい解釈可能な方法」とされている。

Googleは、概念活性化ベクトルによるテストを通じて、機械学習の偏りに対処しモデルをより解釈しやすくするために研究を進めている。

バイアスの存在を把握

TCAVを使用することで、「男性の入力信号が女性よりも重視されているか?」や「人種」「収入」「地域」などに関するバイアスの存在を浮かび上がらせることが可能になると期待されている。

オープンソースによる研究促進

Googleは、より公平なAIシステム開発を推進するために、TCAVをオープンソース化し、多くのツールとオープンデータセットをリリース予定としている。

https://github.com/tensorflow/tcav

以上、下記URLからの要約
https://blog.google/technology/developers/io19-helpful-google-everyone/

最新TOPICS

【AI】OECD(経済協力開発機構)、「OECD AI原則」を採択---AIシステムは「法の支配」「人権」「民主的価値観」「多様性」を尊重すべき(2019年05月23日 11:14)

OECD(経済協力開発機構)加盟国は、2019年5月22日、人工知能に関するOECD評議会勧告の承認を採択した。

「OECD勧告」とは

「OECD勧告」に法的拘束力はないが、大きな影響力を持ち、国際標準の基礎を形成し各国政府による国内法の制定を支援している。

  • 【AI】IBM、機械学習プラットフォーム「Watson Studio 2.0」リリース---43のデータコネクタ追加、主要Gitフレームワークのサポート追加(2019年05月16日 12:23)
  • 【AI】DefendryのAI防犯ソリューション「ART」---非顔認識での犯罪可能性検出(2019年04月04日 14:17)
  • 人工知能「ワトソン」の銀行など金融業界への導入事例(2017年02月27日 10:00)
  • 関連用語・タグ

    ディープラーニング(Deep Learning)

    • 用語集

    「ディープラーニング(Deep Learning:深層学習)」とは、コンピュータによる機械学習の1種であり、人間の脳の階層構造をコンピュータで再現しようと言うアイデアに基づいた「ニューラルネットワーク」を改良し、画像や音声などの認識や、自動運転などの複雑な判断を可能にする。

    CylancePROTECT(サイランスプロテクト)

    • AI

    CylancePROTECT(サイランスプロテクト)は、人工知能を活用した次世代型のセキュリティソリューション。実行前マルウェア判定など高度な機能を備えている。

    スマートスピーカー(Smart Speaker)

    • 用語集

    スマートスピーカー(Smart Speaker)とは、対話型の音声操作に対応したAIアシスタント機能を持つワイヤレススピーカーを指す。

    Zinrai(ジンライ)

    • AI

    Zinraiとは、富士通が提供するAIプラットフォームサービスで、多様なAI機能やディープラーニング機能を利用できる。

    自動運転車(Autonomous Car)

    • 用語集

    自動運転車とは、人間が運転操作を行わなくとも自動で走行できる自動車を指す。レーダー(LIDAR)/GPS/カメラなどを用いて周囲の状況や環境を認識し自律的に走行する。

    • KSKサイド001
    • OSSNEWSに広告を掲載しませんか?

    facebook

    twitter