【AI】IBM、人工知能プラットフォーム「OpenScale」を発表---バイアス除去によりAIの意思決定過程を明確化

Analytics News(アナリティクスニュース)

【AI】IBM、人工知能プラットフォーム「OpenScale」を発表---バイアス除去によりAIの意思決定過程を明確化

TOPICS 2018年10月16日 14:58

【AI】IBM、人工知能プラットフォーム「OpenScale」を発表---バイアス除去によりAIの意思決定過程を明確化

IBMは、10月23日、人工知能プラットフォーム「OpenScale」を発表した。IBMは、企業にバイアスを検出するツールを提供することでバイアスに対応することを目指している。

人工知能の既知弱点「バイアス」問題

IBMのWatson AIテクノロジー担当副社長、Ritika Gunnar氏は『企業がAIの信頼性と透明性を高めるための支援が必要』と述べた。

保険会社での保険金請求

Gunnar氏は保険会社を例に出し、『保険会社は、保険金請求を受け入れるか拒絶するかの判断サポートとしてAIを使用しています。技術がどのようにその決定を下すのかが重要ですが、モデル自体が偏っているか、データが偏っているために偏りが生じています』と話した。

顔認識技術

人工知能は顔認識でも使用されている。最も正確に検出できるのは白人男性であるが、肌が暗い女性の正確性が低いという調査が出ている。

顔認識技術は法執行機関などでも利用されているため重要視されるべき問題となっている。

バイアスを検出する「OpenScale」

OpenScaleは実際に起こっているバイアスを検出する。その後、システムは推奨事項を提示したり、合成モデルにより自動的にバイアスを解除できる。

そのため、OpenScaleを利用することにより、AIがどのように意思決定を行うかを明確化できる。

https://www.ibm.com/cloud/ai-openscale

AIの仕組みに可視性と透明性を

Pund-ITのアナリストCharles King氏は『潜在的な偏見を制限するためにAI開発に携わる人々の多様なグループを持つことも重要だ』と述べている。

IBMのOpenScaleは、企業間で利用可能なAIの専門知識の欠如に対処することを目指している。OpenScaleの設計のポイントの1つとして「使いやすい単一プラットフォームを提供することで、AIの計画と実装プロセスを大規模で包括的なグループに委ねることができる」としている。

以上、下記URLからの要約
https://www.siliconvalley.com/2018/10/15/biased-ai-ibm-openscale-wants-to-help-detect-and-fix-it/

クリエイティブ・コモンズ・ライセンス
この作品は クリエイティブ・コモンズ 表示 - 非営利 4.0 国際 ライセンスの下に提供されています。

最新TOPICS

関連用語・タグ

アナリティクス(Analytics)

アナリティクスとは、ある目的にもとづいて、さまざまな分析手法やソフトウェアベースのアルゴリズムを駆使しながら、データに潜んでいる特定のパターンや相関関係などの知見を抽出することを意味する。

ニューラルネットワーク(Neural Network)

  • 用語集

脳機能の特性を表現することを目指した数学モデルである。人工ニューラルネットワークとも言う。

Apache Hadoop(アパッチ ハドゥープ)

  • 用語集

「Apache Hadoop(アパッチ ハドゥープ)」とは、 ビッグデータを複数のマシンに分散して処理できる、オープンソースのプラットフォームである。

クラウド・コンピューティング(Cloud Computing)

  • 用語集

「クラウド・コンピューティング」とは、データを、パソコンや携帯端末ではなく、インターネット上に保存する使い方やサービス。

イベント情報

  • KSKサイド001
  • OSSNEWSに広告を掲載しませんか?

facebook

twitter