19 9월 2024

보험사가 위험 평가에서 무의식적 편향을 제거하는 방법

무의식적 편향은 인간의 뇌가 복잡한 환경을 이해하는 방법 중 하나입니다. 이러한 편향은 더 빠른 의사 결정을 위해 정보를 범주로 정렬합니다.

생존이 위태로운 세상에서 무의식적 편견은 종종 인간이 살아남는 데 도움이 되었습니다. 예를 들어, 시들고 노랗게 변한 식물보다 건강한 녹색 식물에 대한 무의식적인 친밀감은 더 많은 영양을 제공하는 동시에 각 식물을 개별적으로 평가하는 것 이외의 작업에 정신적 에너지를 확보했습니다.

그러나 오늘날에는 무의식적 편향이 효과적인 의사 결정을 방해할 수 있습니다. 올바르게 훈련된 인공 지능(AI)은 보험 전문가가 근본적인 편견의 부정적인 영향을 피하는 데 도움이 될 수 있습니다.

AI와 편향: 우리는 어디에 서 있는가?

인공 지능 알고리즘에 의한 편향된 행동에 대한 언론 보도는 흥미롭게 읽을 수 있지만, 현재 존재하는 AI와 편향의 상태를 모호하게 하거나 왜곡하는 경향이 있습니다.

AI는 자체 훈련 데이터에 존재하는 편향을 복제할 위험이 있습니다. 예를 들어, 채용에 AI를 사용한 초기에 대한 연구에 따르면 기업이 주로 소수의 학교 출신 직원을 채용할 때 인공 지능은 해당 학교 중 한 곳에 다니는 것이 채용 성공의 필수 요소라고 보고할 가능성이 더 높았습니다. 인간과 달리 AI는 끌어낼 수 있는 삶의 경험 저장소가 없습니다. 학습 데이터가 알려줄 수 있는 것만 알고 있습니다.

AI의 편향 위험을 인식한 연구원들은 알고리즘 편향의 원인을 지속적으로 해결하기 위해 노력하고 있습니다. 딜로이트(Deloitte)의 톰 비검(Tom Bigham )과 동료 연구원들은 보험사들이 업무에 대한 AI 사용과 다른 기술의 사용을 비교할 때 세 가지 핵심 사항을 고려할 것을 권고합니다.

AI는 결정을 내리기 위해 지속적으로 변화하는 데이터 세트에 의존하며, 이는 알고리즘이 특정 요소를 평가하거나 간과하는 방식에 영향을 미칠 수 있습니다.
입력 데이터에 편향이 있는지 모니터링해야 하며, 그렇지 않으면 AI 모델은 인간의 선입견을 객관적인 요구 사항으로 취급합니다.
AI 솔루션을 만들고 개발하는 사람들은 AI를 나중에 조정할 필요가 없도록 처음부터 편향을 고려해야 합니다.

편향 우려에 대한 인식은 인간 사용자가 AI의 편향에 대비하고 해결할 수 있는 가장 좋은 방법 중 하나이며, 이 도구를 사용하여 자신의 무의식적 편향에 효과적으로 대처할 수 있습니다.

인간-기술 협력으로 편견 감소

인공 지능의 편향에 맞서 싸우는 것은 편향되지 않은 데이터 세트를 생성하거나 기계 학습 프로세스 생성을 모니터링하는 것만큼 간단하지 않습니다. 대신, 보험사는 이러한 도구가 인간의 노력과 어떻게 교차하는지를 포함하여 AI 도구가 작동하는 전체 컨텍스트를 고려해야 합니다.

“신뢰할 수 있는 AI 시스템을 개발하려면 AI에 대한 대중의 신뢰를 깎아내릴 수 있는 모든 요소를 고려해야 합니다. 이러한 요인 중 다수는 기술 자체를 넘어 기술의 영향에 영향을 미칩니다”라고 미국 국립표준기술연구소(National Institute of Standards and Technology)의 레바 슈워츠(Reva Schwartz )는 말합니다.

AI 시스템은 상황에 맞게 작동합니다. 보험에서 이러한 맥락은 보험 전문가 및 대리인, 고객이 내린 결정, 인수 및 유통 결정을 지원하는 방대한 데이터 저장소의 세계입니다. 보험 전문가는 AI 시스템을 지속적으로 모니터링하여 분석 및 권장 사항이 우수한 데이터 과학 관행과 조직의 비즈니스 윤리를 모두 준수하는지 확인해야 합니다.

인공 지능을 효과적으로 사용하면 다음과 같은 여러 가지 방법으로 인간의 무의식적 편향을 퇴치하는 데 도움이 될 수 있습니다.

AI는 무의식적인 가정이 아닌 데이터를 기반으로 패턴과 추세를 드러낼 수 있습니다.
AI 결과는 무의식적 편향을 의식적 주의에 가져다주는 새로운 질문을 제기할 수 있으며, 인간은 이에 맞서 싸울 수 있습니다.
예측 분석을 통해 AI는 무의식적 편향에 의존하지 않는 제안과 예측을 제공할 수 있습니다.

AI를 효과적으로 사용하면 무의식적 편향에 대한 인간의 경향을 퇴치할 수 있습니다. 이를 통해 AI는 보험사가 비용과 청구의 균형을 맞추면서 필요한 보험 보장을 제공하는 데 도움이 될 수 있다고 연구원 Martin Mullins, Christopher P. Holland 및 Martin Cunneen 은 Patterns의 2021년 호에서 썼습니다. 보험에 대한 접근성이 높아짐에 따라 보험 격차가 줄어들어 손실의 치명적인 영향이 줄어듭니다.

모든 AI는 인간에 의해 만들어집니다. 결과적으로, 그것은 우리 자신의 편견을 복제할 수 있습니다. 그러나 AI를 신중하게 사용하면 우리 자신의 무의식적인 행동과 의사 결정 지름길에 대한 보호 장치도 제공할 수 있습니다.

이미지 작성자: andreypopov/©123RF.com, milkos/©123RF.com

소식