Por Neil Hodge |Subscrição de IA - Fonte: Risk Management Magazine - RIMS

A crescente aceitação e adoção da inteligência artificial no setor de seguros promete ter um impacto significativo tanto para seguradoras quanto para segurados. A capacidade de analisar grandes conjuntos de dados de forma rápida e eficaz permitirá que as seguradoras entendam o risco como nunca antes, levando a uma identificação de risco mais precisa, melhor subscrição e tratamento de sinistros e melhores preços de prêmios.

A tecnologia não vem sem riscos, no entanto, pois questões importantes permanecem em torno da precisão, justiça e segurança dos processos e da tomada de decisões orientados por IA. Portanto, seguradoras e profissionais de risco precisam entender melhor as possíveis armadilhas da tecnologia de IA e tomar medidas para garantir que o processo de compra de seguros não introduza riscos maiores do que o que se pretendia cobrir.

Viés de IA no Processo de Subscrição

A IA pode trazer mais precisão aos modelos atuariais e de subscrição, permitindo que as seguradoras forneçam cobertura personalizada à sua base de clientes e reforcem a gestão de riscos. A tecnologia também pode melhorar a avaliação de risco e a subscrição analisando grandes quantidades de informações de diversas fontes de dados, incluindo dados internos, como reivindicações históricas e comportamento do cliente, e dados externos, como tendências de litígios, mudanças de mercado, eventos climáticos extremos e postagens em mídias sociais. Esses dados permitem que as seguradoras estabeleçam uma compreensão mais abrangente dos fatores de risco e, assim, permitem decisões de subscrição melhores e mais específicas. Além disso, as seguradoras podem usar algoritmos de IA para criar apólices de seguro mais personalizadas que são baseadas no comportamento individual, preferência e perfil de risco, resultando em um conjunto mais personalizado de opções de cobertura que devem satisfazer melhor as necessidades dos clientes.

Apesar dos benefícios, especialistas alertam que o setor de seguros não está imune aos mesmos problemas associados à IA que impactaram todos os outros setores, ou seja, os riscos de viés, uso indevido de dados e insegurança de dados. Como resultado, os profissionais de risco precisam pedir mais detalhes sobre como a IA é usada ao subscrever as políticas de sua empresa e quais freios e contrapesos são empregados para garantir a precisão dos resultados.

De acordo com Wilson Chan, CEO da fintech de IA Permutable AI, é "absolutamente crítico" abordar as repercussões de dados tendenciosos em sistemas de IA dentro do setor de seguros. "As empresas muitas vezes enfrentam prêmios inflacionados e restrições de cobertura devido às seguradoras treinando sua IA de subscrição em dados limitados ou tendenciosos", disse ele. "A natureza inerente dos sistemas de IA significa que, se os dados de entrada forem tendenciosos, as decisões tomadas pela IA inevitavelmente refletirão esses vieses. Para garantir um tratamento justo nas compras de seguros, as empresas devem envolver as seguradoras com questões cruciais sobre os dados de treinamento, sua mitigação de viés e a transparência da tomada de decisão orientada por IA."

As seguradoras devem ter certeza de que os sistemas de IA são treinados em dados representativos e imparciais e que revisam e atualizam regularmente os sistemas de IA para eliminar vieses. Eles também precisam fornecer transparência sobre a funcionalidade dos sistemas de IA que estão usando e em quais processos a IA está sendo usada. "Ao aderir a essas medidas, tanto as empresas quanto as seguradoras podem contribuir para o uso justo e responsável dos sistemas de IA no setor de seguros", disse ele. "Esse compromisso com a transparência, dados imparciais e vigilância contínua é fundamental para promover um cenário de seguros confiável e equitativo."

Para ilustrar o risco de uma tomada de decisão tendenciosa, Chan ofereceu um exemplo usando o seguro de risco de inundação. "Neste caso, modelos de IA treinados em dados históricos podem impactar injustamente empresas em áreas propensas ao aumento do risco de inundações, ignorando os padrões climáticos atuais", disse ele. "Isso pode resultar em empresas enfrentando prêmios mais altos ou limitações de cobertura, independentemente das medidas de mitigação que implementaram, como a construção de muros de inundação ou a elevação de propriedades acima do nível do mar."

Outros tipos comuns de seguro empresarial também podem ser propensos ao viés de IA. O seguro de continuidade de negócios enfrenta desafios quando os modelos de IA — limitados por restrições de dados — avaliam de forma imprecisa os riscos de uma empresa com base no setor ou na localização. Por exemplo, uma empresa de manufatura em um ambiente rural pode encontrar prêmios mais altos devido a dados insuficientes que não consideram suas relações robustas da cadeia de suprimentos, operação remota ou planos de contingência para quedas de energia. Da mesma forma, o viés da IA pode afetar os seguros de diretores e diretores (D&O) porque os modelos de IA treinados em dados de processos judiciais específicos do setor podem inflar os preços e restringir a cobertura para empresas que operam em setores propensos a litígios e reclamações de seguros, ignorando os registros legais limpos e as principais práticas de governança dessas empresas específicas.

Os dados históricos usados para treinar sistemas de IA também podem ser problemáticos, disse Peter Wood, empresário e diretor de tecnologia da empresa de recrutamento de tecnologia Spectrum Search. Vieses históricos enraizados nos dados usados em algoritmos de IA podem impactar negativamente as empresas e levar a avaliações de risco "distorcidas", especialmente em setores de nicho ou emergentes, onde os dados históricos podem não refletir com precisão as realidades atuais. "À medida que os sistemas de IA aprendem com dados passados, eles podem atribuir riscos indevidos a certas empresas com base em critérios desatualizados ou irrelevantes, levando a prêmios mais altos e coberturas restritivas", explicou.

Para combater as preocupações com o viés da IA, Ryan Purdy, diretor sênior e atuário de consultoria da empresa de tecnologia e serviços profissionais Davies Group, disse que as seguradoras precisam entender a natureza de quaisquer fontes de dados externas que pretendem usar para subscrição, incluindo quem fornece as informações em seu estado raiz, como elas são atualizadas e com que frequência. "Os dados envelhecem e podem se tornar menos importantes para a avaliação de risco ou adequação do produto para um cliente ao longo do tempo", disse ele.

Abordando as preocupações de subscrição de IA

As empresas precisam adotar abordagens proativas ao lidar com a subscrição de seguros orientada por IA. A chave é manter um diálogo transparente com as seguradoras. "As empresas devem perguntar sobre a natureza dos conjuntos de dados usados para treinar os modelos de IA", disse Wood. "É essencial entender se esses conjuntos de dados abrangem uma ampla gama de setores, incluindo as últimas tendências e desenvolvimentos."

Ele acrescentou: "As empresas devem perguntar às seguradoras sobre os mecanismos em vigor para identificar e mitigar vieses. Isso inclui questionar se os sistemas de IA são regularmente auditados para justiça e precisão. Além disso, eles devem perguntar sobre a possibilidade de revisões manuais ou substituições nos casos em que as decisões orientadas por IA pareçam injustamente distorcidas."

Devido ao potencial de resultados falhos, as empresas precisam fazer mais perguntas sobre como os riscos avaliados por meio de tecnologias de IA são avaliados e precificados. Embora os reguladores possam estar atentos às seguradoras em busca de possíveis abusos em relação ao tratamento dos consumidores, "há menos salvaguardas para os segurados corporativos que são vistos como 'compradores sofisticados'", disse Tom Davey, cofundador e diretor da consultoria de financiamento de litígios e seguros Factor Risk Management. Como tal, há uma maior necessidade de as próprias empresas levantarem questões e preocupações.

De acordo com Jeremy Stevens, diretor da unidade de negócios EMEA do provedor de serviços de seguros Charles Taylor Group, as empresas precisam garantir que suas seguradoras possam garantir transparência em seus processos de tomada de decisão de IA. Para isso, disse, "as empresas podem pedir explicações sobre como estes modelos chegam às decisões que afetam os preços premium, a subscrição e o tratamento de sinistros". As seguradoras, por sua vez, "devem fornecer documentação detalhada ou relatórios que delineiem os fatores e entradas de dados considerados pelos modelos de IA, pois ajudarão as empresas a entender a lógica por trás das decisões", disse ele.

As empresas devem se certificar de que suas seguradoras mantenham trilhas de auditoria abrangentes que rastreiem o processo de tomada de decisão dos modelos de IA para garantir a responsabilidade total. "As seguradoras devem cumprir os padrões e regulamentos da indústria que regem a IA nos seguros", disse Stevens. "As empresas podem solicitar informações sobre como a seguradora adere às práticas éticas de IA e às diretrizes regulatórias, portanto, as seguradoras devem garantir que suas funções de auditoria não fiquem atrás das regulamentações."

As empresas também devem perguntar se a seguradora está continuamente avaliando e monitorando o desempenho dos algoritmos de IA e como ela chega a decisões específicas, e se verifica regularmente se há vieses, erros ou mudanças nos dados que possam afetar as decisões de subscrição. Outras etapas incluem verificar se o sistema de subscrição baseado em IA da seguradora está em conformidade com várias leis de dados, como a Lei de IA da União Europeia, o Regulamento Geral de Proteção de Dados (GDPR) da UE, a Lei de Privacidade do Consumidor da Califórnia (CCPA) e a Lei de Portabilidade e Responsabilidade de Seguros de Saúde dos EUA (HIPAA), bem como vários padrões éticos. Para melhor abordar essas questões, as empresas podem estabelecer uma relação colaborativa com sua seguradora. "Forneça feedback sobre as decisões e discuta como elas se alinham com a avaliação de risco da sua empresa", disse Stevens.

Também é importante entender que tipo de suporte técnico as seguradoras estão recebendo se usarem ferramentas de IA de terceiros. "A frequência com que seus dados são capturados é importante, mas as seguradoras também devem trabalhar para entender quanto tempo pode levar até que a próxima atualização da tecnologia esteja disponível", disse Purdy. "Essas mudanças futuras na coleta de dados, estruturas de dados ou versões de tecnologia forçarão mudanças adicionais do lado da seguradora para continuar fazendo uso efetivo dessas tecnologias? Trabalhar para alinhar os cronogramas de desenvolvimento desses provedores aos cronogramas da própria seguradora pode aliviar dores de cabeça substanciais no futuro."

A segurança dos dados é outra área de preocupação. Especialistas alertam que as empresas podem correr o risco de tornar as principais informações de risco publicamente disponíveis se as seguradoras usarem ou compartilharem seus dados em sistemas de IA – que muitas vezes mantêm direitos sobre a propriedade intelectual de quaisquer dados inseridos – ao treinar tecnologias de IA para melhorar sua subscrição. As empresas precisam proteger ativamente seus dados de risco, mantendo a confidencialidade, compartilhando-os seletivamente e aplicando cláusulas contratuais para a proteção de dados, disse Wood. Eles também precisam monitorar atentamente o uso de seus dados e verificar quais medidas de segurança cibernética a seguradora tem em vigor para proteger os dados de possíveis violações ou uso indevido.

"As empresas devem exigir clareza sobre como seus dados serão usados e garantir que suas informações sejam anonimizadas antes de serem incorporadas a conjuntos de dados maiores", disse Wood. "Isso inclui negociar acordos que restrinjam o uso de seus dados apenas para fins de subscrição e não para treinar modelos de IA. As seguradoras, por sua vez, devem aderir a regulamentos rigorosos de proteção de dados e empregar criptografia avançada e mecanismos de controle de acesso para evitar o uso não autorizado de dados também."

Ele acrescentou: "Além disso, deve haver transparência sobre as práticas de tratamento de dados. Auditorias regulares e verificações de conformidade podem ajudar a manter a confiança e garantir que ambas as partes adiram aos termos acordados em relação ao uso e à privacidade de dados."

Neil Hodge é um jornalista e fotógrafo freelance baseado no Reino Unido.

Risk Management Magazine - O Impacto da IA na Subscrição de Seguros (rmmagazine.com)

-------------------------------------------------

RISKWORLD SAN DIEGO 2024 - Associados Mantenedores interessados em fazer parte da Delegação ABGR  enviar e-mail para: abgr@abgr.com.br.

Fonte: