19 9月 2024

保険会社がリスク評価から無意識の偏見を取り除く方法

無意識の偏見は、人間の脳が複雑な環境を理解する方法の1つです。これらのバイアスにより、情報をカテゴリに分類し、より迅速な意思決定が可能になります。

生存が危機に瀕している世界では、無意識の偏見がしばしば人間が生き続けるのを助けました。例えば、しおれて黄ばんだ植物よりも健康な緑の植物に対する無意識の親和性は、より多くの栄養を提供し、各植物を個別に評価する以外のタスクに精神的なエネルギーを解放しました。

しかし、今日では、無意識の偏見が効果的な意思決定を妨げる可能性があります。正しく訓練された人工知能(AI)は、保険の専門家が根本的なバイアスの悪影響を回避するのに役立ちます。

AIとバイアス:私たちはどこに立っているのか?

人工知能アルゴリズムによる偏った行動に関するメディアの報道は、興味深い読み物になりますが、AIと現在のバイアスの状態を曖昧にしたり歪めたりする傾向があります。

AIは、自身の学習データに存在するバイアスを複製するリスクがあります。例えば、初期のAI採用に関する研究では、企業が主に少数の学校から労働者を採用していた場合、人工知能はそれらの学校のいずれかに通うことが採用の成功に不可欠な要素であると報告する可能性が高かったことがわかりました。人間とは異なり、AIには引き出すための人生経験の蓄積がありません。学習データが何を伝えられるかしかわかりません。

AIのバイアスリスクを認識している研究者は、アルゴリズムのバイアスの原因に引き続き取り組んでいます。 Tom Bigham 氏と Deloitte の同僚研究者は、保険会社がタスクで AI と他のテクノロジーの使用を比較検討する際に、次の 3 つの重要なポイントを考慮することを推奨しています。

AIは、絶えず変化するデータセットに依存して意思決定を行うため、アルゴリズムが特定の要素をどのように評価するか、または見落とすかに影響を与える可能性があります。
入力データにバイアスがないか監視する必要があり、そうでなければAIモデルは人間の事前判断を客観的な要件として扱います。
AIソリューションを作成および開発する人は、AIを後で適応させる必要がないように、最初からバイアスを考慮する必要があります。

偏見の懸念を認識することは、人間のユーザーがAIの偏見に備え、対処し、ツールを使って自分自身の無意識の偏見と効果的に戦うための最良の方法の1つです。

人と技術の協力が偏見を減らす

人工知能のバイアスとの闘いは、偏りのないデータセットを作成したり、機械学習プロセスの作成を監視したりするほど簡単ではありません。むしろ、保険会社は、AIツールが人間の努力とどのように交差するかを含め、AIツールが動作する全体的なコンテキストを考慮する必要があります。

「信頼できるAIシステムを開発するためには、AIに対する国民の信頼を損なう可能性のあるすべての要因を考慮する必要があります。これらの要因の多くは、テクノロジー自体にとどまらず、テクノロジーの影響にまで及びます」と、米国国立標準技術研究所(NIST)の Reva Schwartz 氏は述べています。

AIシステムはコンテキストで動作します。保険業界において、そのコンテキストとは、保険の専門家や代理店、顧客による意思決定、引受や販売の決定をサポートする膨大なデータの世界を指します。保険の専門家は、AIシステムを継続的に監視して、その分析と推奨事項が優れたデータサイエンスの実践と組織のビジネス倫理の両方に準拠していることを確認する必要があります。

人工知能を効果的に使用することで、人間の無意識の偏見にいくつかの方法で対抗することができます。

AIは、無意識の仮定ではなく、データに基づいてパターンや傾向を明らかにすることができます。
AIの結果は、無意識の偏見を意識的な注意に持ち込む新たな疑問を提起し、人間がそれに対抗することができます。
予測分析を通じて、AIは無意識の偏見に依存しない提案と予測を提供できます。

AIを効果的に使用することで、無意識の偏見に対する人間の傾向に対抗することができます。そうすることで、AIは保険会社が必要な保険を提供しながらコストと請求のバランスを取ることができると、研究者の Martin Mullins氏、Christopher P. Holland氏、Martin Cunneen 氏は2021年号のPatternsで述べています。保険が利用しやすくなると、保険ギャップは縮小し、損失による壊滅的な影響は減少します。

すべてのAIは人間によって作られています。その結果、私たち自身の偏見が繰り返される可能性があります。しかし、AIは思慮深く使用することで、私たち自身の無意識の行動や意思決定の近道に対する保護手段を提供することもできます。

画像提供:アンドレイポポフ/©123RF.com、ミルコス/©123RF.com

ニュース