ABGR - Associação Brasileira de Gerência de Riscos

Riscos relacionados à IA na aquisição de um negócio

Fonte: Revista Risk Management - RIMS

https://www.rmmagazine.com/articles/article/2025/02/11/ai-related-risks-in-acquiring-a-business

Por Bruce C. Doeg | 11 de fevereiro de 2025

O uso de IA generativa pode criar problemas novos e complexos para empresas em todos os setores. Uma área de preocupação potencialmente negligenciada para organizações ocorre ao adquirir uma empresa que começou a usar IA. O uso adequado de IA pode aumentar significativamente o valor do negócio, enquanto o uso impróprio pode ser arriscado e, às vezes, fatal. Entender, avaliar e abordar o risco de IA requer saber qual algoritmo a IA usa, quais dados ela acessa, como está sendo usada e quem a está usando. Obter e verificar essas informações geralmente envolve uma análise profunda da tecnologia e do modelo de negócios, além de uma revisão legal típica. A seguir está uma abordagem de alto nível para entender e abordar muitos riscos relacionados à IA ao adquirir um negócio.

Compreendendo a funcionalidade da IA

No início, um comprador deve entender a natureza da IA em questão porque a IA é um conceito amplo que abrange muitas formas. Pode envolver uma ampla gama de tecnologias, incluindo lógica, árvores de decisão, aprendizado de máquina e algoritmos de aprendizado profundo. Cada um deles funciona de forma diferente e tem seus pontos fortes e fracos. Para avaliar o risco, um comprador precisa entender o propósito para o qual o atual ou anterior proprietário do negócio projetou, usou e desenvolveu o sistema de IA. Além disso, um comprador deve saber quem é o dono da IA e pelo menos os aspectos de alto nível de sua funcionalidade. Ela é licenciada, não licenciada ou de código aberto? Foi desenvolvida ou aprimorada internamente? Como foi treinada? É propensa a alucinações? Há transparência sobre como ela opera e por que atingiu certos resultados?

Também é importante entender que, em muitos casos, a capacidade de acessar e usar dados-chave (e impedir que a concorrência faça o mesmo) é o que cria valor para a empresa-alvo, não o algoritmo. Portanto, para avaliar valor e risco em uma transação envolvendo IA, um comprador deve determinar:

Quem é o dono dos dados que sustentam a IA

Se os dados forem licenciados

Se os dados estiverem sujeitos a restrições de confidencialidade ou privacidade

Se os dados utilizarem propriedade intelectual (PI) de outra pessoa

Se o alvo puder isolar e proteger os dados de forma eficaz para criar uma vantagem competitiva

Talvez o maior fator contribuinte para o risco seja o próprio caso de uso. A IA pode ser usada para tudo, desde tarefas mundanas até tarefas críticas. Além disso, diferentemente das tecnologias anteriores, a IA pode processar informações por si só e, às vezes, até mesmo substituir humanos no processo de tomada de decisão. Um comprador deve ser capaz de responder às seguintes perguntas:

Como o alvo está usando a IA?

Esses usos são para fins de alto risco?

É tomar decisões sem supervisão ou há envolvimento humano?

Ele está sendo usado em um setor altamente regulamentado?

Isso afeta os principais relacionamentos com os clientes?

A IA é necessária para operar sistemas operacionais ou financeiros importantes?

Avaliação e compreensão dos riscos identificados

Um comprador também deve entender os muitos aspectos e impactos potenciais dos riscos de IA, começando pelos riscos legais e regulatórios. Por exemplo, garantir que os modelos de IA não sejam treinados em dados proprietários sem permissão é essencial para evitar violações de PI. As empresas também precisam garantir que o alvo da aquisição não tenha exagerado seu uso de IA ou o valor derivado dela em suas interações com investidores ou clientes.

Os compradores também precisam considerar os riscos operacionais da IA. Garantir a precisão e a supervisão dos sistemas de IA é crucial. Os algoritmos de IA devem ser testados e validados regularmente para garantir que produzam resultados confiáveis. Além disso, gerenciar fornecedores terceirizados que fornecem soluções de IA requer a verificação de seus padrões de segurança e conformidade. Não fazer isso pode resultar em riscos de segurança e interrupções operacionais e deficiências em serviços e produtos.

As empresas também precisam avaliar os riscos tecnológicos. Os sistemas de IA devem ser construídos em dados de alta qualidade para funcionar de forma eficaz. A baixa qualidade dos dados pode levar a resultados imprecisos. Abordar vieses inerentes em algoritmos de IA é crucial para evitar resultados discriminatórios. Garantir a explicabilidade e a transparência das decisões de IA é necessário para a responsabilização e a confiança. Além disso, medidas robustas de segurança cibernética são necessárias para proteger os sistemas de IA de riscos cibernéticos.

Uma vez que um comprador entenda os riscos potenciais associados ao uso específico de IA pelo alvo, ele deve avaliar o que o alvo fez para mitigar esses riscos. Com a adoção rápida e generalizada da IA, a relativa facilidade de acesso e uso, e a falta de padrões ou orientações do setor, a abordagem e as medidas adotadas variam tremendamente de acordo com a empresa. A seriedade com que o alvo abordou a mitigação de riscos pode impactar substancialmente o valor da empresa. De fato, a incapacidade de um alvo de discutir de forma inteligente suas proteções de IA é um sério sinal de alerta.

O comprador deve investigar se as seguintes medidas são empregadas:

Estrutura abrangente de governança de IA, incluindo políticas e procedimentos de desenvolvimento e implantação

Programas de teste de estresse que avaliam o desempenho do sistema de IA sob várias condições

Devida diligência para garantir que fornecedores terceirizados atendam aos padrões de segurança e conformidade

Programa contínuo de conformidade do fornecedor, incluindo o direito de auditar e manter registros apropriados.

Um comprador também deve examinar os controles de conformidade do alvo, incluindo seu processo para garantir a adesão aos regulamentos e leis em rápido desenvolvimento que regem o uso de IA. O alvo monitora e atualiza regularmente seus programas de conformidade? Como ele garante que adere às obrigações contratuais e usa IA eticamente?

Um comprador deve considerar ainda o modelo de negócios do alvo e fazer as seguintes perguntas:

A IA é um componente essencial dos produtos ou serviços da empresa?

Ele é usado em uma área altamente regulamentada ou onde as consequências da imprecisão são significativas, como decisões sobre assistência médica?

A meta limita quem usa a IA e para quais propósitos?

Isso limita o acesso a dados fora da empresa?

Ele verifica se há alucinações?

Ele usa vários métodos para verificar a precisão dos resultados?

Os humanos supervisionam decisões?

O alvo tem seguro para alguma de suas atividades relacionadas à IA?

Mitigando Riscos de Transação

Em seguida, um comprador deve considerar como gerenciar riscos de IA no processo de transação. As técnicas básicas para identificar e mitigar riscos em uma aquisição se enquadram nos mesmos grupos amplos: due diligence, alocação de risco nos documentos do negócio (por exemplo, representações e garantias, indenização, termos de pagamento) e seguro. Com IA, no entanto, é importante entender que a mitigação também pode envolver mudanças no modelo de negócios e na própria tecnologia após a aquisição.

A due diligence cuidadosa do uso e das capacidades da IA é crítica durante as transações. Observe que isso envolverá coordenação entre as equipes jurídica, comercial e de tecnologia. Avaliar cada categoria de risco pode ser altamente detalhado e complexo, dependendo do uso da IA e do tamanho e importância da transação. O processo pode ser ainda mais difícil do que a due diligence tradicional, pois muitas empresas podem ainda não entender completamente o escopo dos riscos potenciais que seu uso de IA cria e podem ser incapazes de responder a perguntas específicas. Mesmo equipes experientes de negócios e integração podem não apreciar totalmente a complexidade e o risco que a IA representa.

Representações e garantias são importantes. “Representações padrão” ainda estão se desenvolvendo à medida que os advogados começam a entender melhor o risco. Muitas vezes, as representações são excessivamente amplas e não forçam a revisão e discussão de riscos específicos no contexto da transação. Um comprador deve ser cauteloso com um alvo que usa IA de qualquer forma significativa e concorda prontamente com uma representação super ampla. Além disso, um comprador deve entender que representações tradicionais, como aquelas que envolvem responsabilidade do produto, podem assumir significado e complexidade adicionais quando a IA está envolvida. Por exemplo, o risco de um dispositivo médico habilitado para IA que está constantemente aprendendo e evoluindo pode ser muito diferente no momento da aquisição do que era no ano passado.

A alocação apropriada de risco e responsabilidade entre as partes em transações relacionadas à IA ainda está em desenvolvimento. Um comprador deve considerar obter representação e seguro de garantia para cobrir potenciais reivindicações relacionadas à IA. No entanto, tenha em mente que esse mercado de seguros está evoluindo, pois não houve tempo suficiente para que os riscos da IA generativa se manifestassem em danos reais sujeitos à cobertura.

Também é essencial para um comprador entender se os riscos de IA da empresa-alvo podem ser mitigados mudando como a IA é usada após a aquisição ser concluída. Por exemplo, um comprador pode já ter treinamento robusto, conformidade e controles de qualidade para implantar na nova empresa. Um comprador também pode querer isolar a empresa recém-adquirida como uma entidade separada até que os riscos identificados possam ser totalmente avaliados e mitigados.

A mitigação final é saber quando desistir de um acordo. Isso, é claro, depende de uma compreensão completa dos riscos. Embora alguns possam ser mitigados, alguns riscos se destacam como bandeiras vermelhas, como o uso de IA em setores de alto risco sem salvaguardas apropriadas, direitos de dados pouco claros, violações de privacidade conhecidas, riscos de segurança significativos e falha em abordar questões de PI no treinamento e uso de IA.

A IA oferece benefícios e oportunidades significativas e pode aumentar muito o valor de uma empresa-alvo, mas também apresenta desafios e riscos. Entender as complexidades da IA e alavancar uma combinação de estratégias de mitigação de risco pode ajudar um comprador a navegar por esses desafios e aumentar o valor de uma aquisição.

https://www.rmmagazine.com/articles/article/2025/02/11/ai-related-risks-in-acquiring-a-business

--------------------------------------------------

Reserve sua agenda!

XVI Seminário de Gestão de Riscos e Seguros – EXPO ABGR 2025

A ABGR apoia a EXPO Incêndio- De 27 a 29 de agosto de 2025. Participe!

Os associados ABGR têm 20% de desconto em todos os cursos da Conhecer Seguros.

São diversos treinamentos sobre Seguros, Gestão e Finanças, com professores especialistas. Acesse o site e aproveite mais esse benefício: https://conhecerseguros.com.br/.../SiteCurso/CarregaCursos

Parceria ABGR e ENS - Escola de Negócios e Seguros - Desconto aos Associados!

Mais informações em: www.abgr.com.br- comunicados

Curso Preparatório e Certificação Profissional Internacional em Gestão de Riscos

Associados ABGR têm desconto para inscrições antecipadas. Solicite mais informações através do e-mail: abgr@abgr.com.br

Acesse as edições mais recentes das publicações do Mercado de Seguros:

Revista Apólice: https://revistaapolice.com.br/2024/12/apolice-304-2025-sera-de-muitos-desafios/

Revista Cobertura: https://www.revistacobertura.com.br/revistas/revista-cobertura-edicao-271/#1

Revista Insurance Corp: https://insurancecorp.com.br/pt/content/pdf/ic_ed56_2024.pdf

Revista Seguro Total: https://revistasegurototal.com.br/2025/01/10/revista-seguro-total-edicao-247-alper-seguros-14-anos-de-historia-e-um-futuro-sem-limites/

Revista Segurador Brasil: https://revistaseguradorbrasil.com.br/edicao-190/

Revista de Seguros: https://cnseg.org.br/publicacoes/revista-de-seguros-n-931

Conjuntura CNseg: https://cnseg.org.br/publicacoes/conjuntura-c-nseg-n-114