19 septembre 2024

Comment les assureurs peuvent éliminer les préjugés inconscients de l’évaluation des risques

Les préjugés inconscients sont l’une des façons dont le cerveau humain donne un sens à un environnement complexe. Ces biais classent les informations en catégories pour une prise de décision plus rapide.

Dans un monde où la survie était en jeu, les préjugés inconscients aidaient souvent les êtres humains à rester en vie. Les affinités inconscientes pour les plantes vertes saines par rapport aux plantes fanées et jaunies ont fourni plus de nutrition, par exemple, tout en libérant de l’énergie mentale pour des tâches autres que l’évaluation individuelle de chaque plante.

Aujourd’hui, cependant, les préjugés inconscients peuvent entraver la prise de décision efficace. Correctement formée, l’intelligence artificielle (IA) peut aider les professionnels de l’assurance à éviter les effets négatifs des préjugés sous-jacents.

IA et biais : où en sommes-nous ?

La couverture médiatique des comportements biaisés par les algorithmes d’intelligence artificielle est intéressante à lire, mais a également tendance à obscurcir ou à déformer l’état de l’IA et des biais tels qu’ils existent actuellement.

L’IA présente un risque de reproduire les biais présents dans ses propres données d’entraînement. Des études sur l’utilisation précoce de l’IA dans l’embauche, par exemple, ont révélé que lorsqu’une entreprise embauchait principalement des travailleurs d’une poignée d’écoles, l’intelligence artificielle était plus susceptible de déclarer que la fréquentation de l’une de ces écoles était un facteur essentiel de réussite de l’embauche. Contrairement aux humains, l’IA n’a pas d’expérience de vie dans laquelle puiser ; Il ne sait que ce que ses données d’entraînement peuvent lui dire.

Conscients des risques de biais dans l’IA, les chercheurs continuent de s’attaquer aux sources de biais algorithmiques. Tom Bigham et ses collègues chercheurs de Deloitte recommandent aux assureurs de prendre en compte trois points clés lorsqu’ils évaluent l’utilisation de l’IA par rapport à d’autres technologies pour une tâche :

L’IA s’appuie sur un ensemble de données en constante évolution pour ses décisions, ce qui peut affecter la façon dont l’algorithme pèse – ou néglige – certains facteurs.
Les données d’entrée doivent être surveillées pour détecter les biais, sinon les modèles d’IA traiteront les préjugés humains comme des exigences objectives.
Ceux qui créent et développent des solutions d’IA doivent tenir compte des biais dès le départ, afin que l’IA n’ait pas à être adaptée plus tard.

La prise de conscience des préjugés est l’un des meilleurs moyens pour les utilisateurs humains de se préparer et de traiter les préjugés dans l’IA – et d’utiliser l’outil pour lutter efficacement contre leurs propres préjugés inconscients.

La coopération homme-technologie réduit les biais

La lutte contre les biais dans l’intelligence artificielle n’est pas aussi simple que de créer des ensembles de données impartiales ou de surveiller la création de processus d’apprentissage automatique. Au lieu de cela, les assureurs doivent tenir compte de l’ensemble du contexte dans lequel les outils d’IA fonctionnent, y compris la façon dont ces outils recoupent les efforts humains.

« Si nous voulons développer des systèmes d’IA fiables, nous devons tenir compte de tous les facteurs qui peuvent ébranler la confiance du public dans l’IA. Beaucoup de ces facteurs vont au-delà de la technologie elle-même et des impacts de la technologie », explique Reva Schwartz de l’Institut national des normes et de la technologie.

Les systèmes d’IA fonctionnent dans leur contexte. Dans le domaine de l’assurance, il s’agit du monde des professionnels et des agents d’assurance, des décisions prises par les clients et des vastes réserves de données qui sous-tendent les décisions de souscription et de distribution. Les professionnels de l’assurance doivent continuellement surveiller les systèmes d’IA pour s’assurer que leurs analyses et recommandations respectent à la fois les bonnes pratiques en matière de science des données et l’éthique des affaires de l’organisation.

L’utilisation efficace de l’intelligence artificielle peut aider à lutter contre les préjugés inconscients de l’homme de plusieurs façons :

L’IA peut révéler des modèles et des tendances basés sur des données, et non sur des hypothèses inconscientes.
Les résultats de l’IA peuvent soulever de nouvelles questions qui attirent l’attention consciente sur les préjugés inconscients, où les êtres humains peuvent les combattre.
Grâce à l’analyse prédictive, l’IA peut proposer des suggestions et des prévisions qui ne dépendent pas de préjugés inconscients.

Utilisée efficacement, l’IA peut lutter contre les tendances humaines aux préjugés inconscients. Ce faisant, l’IA peut aider les assureurs à fournir la couverture d’assurance nécessaire tout en équilibrant les coûts et les réclamations, écrivent les chercheurs Martin Mullins, Christopher P. Holland et Martin Cunneen dans un numéro de 2021 de Patterns. À mesure que l’assurance devient plus accessible, l’écart d’assurance se réduit, ce qui réduit l’impact catastrophique des sinistres.

Toute l’IA est créée par l’homme. Par conséquent, cela peut reproduire nos propres préjugés. Cependant, si elle est utilisée de manière réfléchie, l’IA peut également fournir des garde-fous contre notre propre comportement inconscient et nos raccourcis de prise de décision.

Images par : andreypopov/©123RF.com, milkos/©123RF.com

Nouvelles