【AI】IBM、人工知能プラットフォーム「OpenScale」を発表---バイアス除去によりAIの意思決定過程を明確化

Analytics News(アナリティクスニュース)

【AI】IBM、人工知能プラットフォーム「OpenScale」を発表---バイアス除去によりAIの意思決定過程を明確化

TOPICS 2018年10月16日 14:58

【AI】IBM、人工知能プラットフォーム「OpenScale」を発表---バイアス除去によりAIの意思決定過程を明確化

IBMは、10月23日、人工知能プラットフォーム「OpenScale」を発表した。IBMは、企業にバイアスを検出するツールを提供することでバイアスに対応することを目指している。

人工知能の既知弱点「バイアス」問題

IBMのWatson AIテクノロジー担当副社長、Ritika Gunnar氏は『企業がAIの信頼性と透明性を高めるための支援が必要』と述べた。

保険会社での保険金請求

Gunnar氏は保険会社を例に出し、『保険会社は、保険金請求を受け入れるか拒絶するかの判断サポートとしてAIを使用しています。技術がどのようにその決定を下すのかが重要ですが、モデル自体が偏っているか、データが偏っているために偏りが生じています』と話した。

顔認識技術

人工知能は顔認識でも使用されている。最も正確に検出できるのは白人男性であるが、肌が暗い女性の正確性が低いという調査が出ている。

顔認識技術は法執行機関などでも利用されているため重要視されるべき問題となっている。

バイアスを検出する「OpenScale」

OpenScaleは実際に起こっているバイアスを検出する。その後、システムは推奨事項を提示したり、合成モデルにより自動的にバイアスを解除できる。

そのため、OpenScaleを利用することにより、AIがどのように意思決定を行うかを明確化できる。

https://www.ibm.com/cloud/ai-openscale

AIの仕組みに可視性と透明性を

Pund-ITのアナリストCharles King氏は『潜在的な偏見を制限するためにAI開発に携わる人々の多様なグループを持つことも重要だ』と述べている。

IBMのOpenScaleは、企業間で利用可能なAIの専門知識の欠如に対処することを目指している。OpenScaleの設計のポイントの1つとして「使いやすい単一プラットフォームを提供することで、AIの計画と実装プロセスを大規模で包括的なグループに委ねることができる」としている。

以上、下記URLからの要約
https://www.siliconvalley.com/2018/10/15/biased-ai-ibm-openscale-wants-to-help-detect-and-fix-it/

クリエイティブ・コモンズ・ライセンス
この作品は クリエイティブ・コモンズ 表示 - 非営利 4.0 国際 ライセンスの下に提供されています。

最新TOPICS

【AI】エンタープライズ向けAI情報共有プラットフォーム「Guru」---問い合わせをすることなく関連情報を自動的に提示(2018年12月13日 11:11)

エンタープライズ向けAI情報共有プラットフォーム「Guru」は、2500万ドルを調達したことを発表した。

「Guru」とは

Guruとは、AIを利用して「集団知識の統一」「集団知識の正確性検証」「マーケティングサポート」「セールスサポート」などを行う情報共有プラットフォーム。

使い込むほどより精...

関連用語・タグ

クリックストリームデータ()

  • 用語集

Web サイトやオンライン・ショップにおける訪問者のアクセス・ログである。Web サイトやオンライン・ショップにアクセスした訪問者が、どのような順番に従ってWebサイト内を移動したのかという一連の履歴がわかる。来訪者はリンクをクリックしてサイト内を移動するため、「クリックの流れ」とも呼ばれる。

主成分分析(Principal Component Analysis)

  • 用語集

ビッグデータをはじめとした多変量データを統合し新たな総合指標を作り出し、多くの変数にウェイトをつけて少数の合成変数を作る統計手法である。

ロジスティック回帰分析(Logistic regression)

  • 用語集

多変量解析の一種である。線形回帰分析が量的変数を予測するのに対して、ロジスティック回帰分析は質的確率を予測する。

  • KSKサイド001
  • OSSNEWSに広告を掲載しませんか?

facebook

twitter