19 9 月 2024

保險公司如何從風險評估中消除無意識的偏見

無意識偏見是人腦理解複雜環境的方式之一。這些偏差將信息分類，以便更快地做出決策。

在一個生死攸關的世界里，無意識的偏見往往幫助人類活著。例如，無意識地對健康的綠色植物而不是枯萎、發黃的植物的親和力提供了更多的營養，同時釋放了精神能量來完成除單獨評估每株植物以外的任務。

然而，今天，無意識偏見會阻礙有效的決策。經過正確培訓，人工智慧（AI）可以幫助保險專業人士迴避潛在偏見的負面影響。

AI 和偏見：我們的立場是什麼？

媒體對人工智慧演算法的偏見行為的報導令人感興趣，但也往往會掩蓋或扭曲人工智慧的狀態和偏見，因為它目前存在。

AI 確實存在複製自身訓練數據中存在的偏差的風險。例如，對早期人工智慧在招聘中的應用的研究發現，當一家企業主要從少數幾所學校招聘員工時，人工智慧更有可能報告說，就讀其中一所學校是招聘成功的重要因素。與人類不同，AI 沒有可供借鑒的生活經驗;它只知道其訓練數據可以告訴它什麼。

意識到 AI 中的偏見風險，研究人員繼續解決演算法偏見的來源。 Tom Bigham 和德勤的研究人員建議保險公司在權衡使用 AI 與其他技術來完成一項任務時考慮三個關鍵點：

AI 依賴於不斷變化的數據集進行決策，這可能會影響演算法權衡或忽略某些因素的方式。
必須監控輸入數據的偏差，否則 AI 模型會將人類的預判視為客觀要求。
創建和開發 AI 解決方案的人應該從一開始就考慮偏見，這樣 AI 就不必在以後進行調整。

意識到偏見問題是人類使用者準備和解決 AI 中的偏見並使用該工具有效打擊自己的無意識偏見的最佳方式之一。

人機合作減少偏見

打擊人工智慧中的偏見並不像創建無偏見的數據集或監控機器學習過程的創建那麼簡單。相反，保險公司必須考慮 AI 工具運行的整個環境，包括這些工具如何與人類工作相交。

“如果我們要開發值得信賴的 AI 系統，我們需要考慮所有可能削弱公眾對 AI 信任的因素。其中許多因素超出了技術本身，還影響了技術的影響，「美國國家標準與技術研究所的 Reva Schwartz 說。

AI 系統在上下文中運行。在保險業中，該環境是保險專業人士和代理人的世界、客戶做出的決策以及支援承保和分銷決策的大量數據存儲。保險專業人士必須持續監控 AI 系統，以確保他們的分析和建議既符合良好的數據科學實踐，也符合組織的商業道德。

有效使用人工智慧可以通過多種方式説明消除人類的無意識偏見：

AI 可以根據數據而不是無意識的假設來揭示模式和趨勢。
AI 結果可以提出新的問題，使無意識的偏見引起人們的注意，人類可以在這裡對抗它們。
通過預測分析，AI 可以提供不依賴於無意識偏見的建議和預測。

如果使用得當，AI 可以對抗人類的無意識偏見傾向。研究人員 Martin Mullins、Christopher P. Holland 和 Martin Cunneen 在 2021 年出版的《模式》雜誌上寫道，通過這樣做，AI 可以幫助保險公司提供所需的保險，同時平衡成本和索賠。隨著保險變得更容易獲得，保險缺口縮小，從而減少損失的災難性影響。

所有 AI 都是由人類創造的。因此，它可能會複製我們自己的偏見。然而，如果經過深思熟慮地使用，AI 還可以針對我們自己的無意識行為和決策捷徑提供保護。

圖片來自： andreypopov/©123RF.com， milkos/©123RF.com

新聞