Companhias dos EUA buscam se proteger de danos gerados pela tecnologia opaca
Grandes seguradoras dos EUA estão excluindo riscos relacionados à IA de suas apólices devido a incertezas.
Seguradoras excluem riscos de inteligência artificial de suas apólices
Grandes companhias de seguros dos Estados Unidos, como Chubb e W.R. Berkley, estão se movendo para excluir riscos associados à inteligência artificial de suas apólices. Essa decisão reflete um crescente receio em relação à tecnologia, que ainda é vista como uma “caixa-preta” difícil de prever. Segundo informações do TechCrunch, a ausência de controle real sobre os resultados gerados por modelos de IA leva as seguradoras a temerem um aumento significativo de sinistros em caso de falhas.
A preocupação das seguradoras não é infundada. O uso crescente da inteligência artificial na indústria traz à tona a possibilidade de um único erro resultar em milhares de sinistros simultâneos, um cenário que pode impactar severamente os balanços financeiros das empresas. De acordo com o Financial Times, muitas seguradoras estão se afastando da responsabilidade por danos causados por sistemas de IA, alegando que esses modelos operam de forma opaca demais para garantir um controle efetivo.
Um subscritor da área resumiu o desconforto com a tecnologia ao afirmar que os resultados dos modelos de IA são “uma grande caixa-preta”. Esse sentimento é amplamente compartilhado entre as seguradoras, que temem não apenas falhas isoladas, mas um colapso em cadeia que poderia resultar em um número massivo de pedidos de indenização.
Exemplos de falhas de IA
Recentes incidentes demonstram como erros de IA podem ter consequências devastadoras. Um caso notório envolveu um modelo do Google, que acusou injustamente uma empresa de energia solar de irregularidades, resultando em um processo de US$ 110 milhões. Outro exemplo é o prejuízo enfrentado pela Air Canada, onde um chatbot, ao oferecer um desconto indevido, gerou perdas financeiras significativas. Além disso, golpistas conseguiram clonar a voz de um executivo da Arup, resultando em um roubo de US$ 25 milhões durante uma videochamada aparentemente legítima.
Esses episódios ilustram a complexidade do problema. O temor maior das seguradoras não é um único erro, mas sim a possibilidade de um efeito dominó, onde uma falha em um sistema de IA pode levar a um colapso em toda a indústria, resultando em um número imenso de reclamações simultâneas. Um executivo da Aon destacou que as seguradoras conseguem suportar até US$ 400 milhões de prejuízo em relação a uma única empresa, mas não estão preparadas para lidar com um colapso que gere milhares de pedidos de indenização ao mesmo tempo.
O impacto no uso da inteligência artificial
Se as seguradoras optarem por excluir completamente os riscos associados à inteligência artificial, isso pode desacelerar a adoção da tecnologia em diversas indústrias. As empresas terão que reconsiderar onde e como aplicar esses modelos, especialmente em tarefas críticas que demandam maior responsabilidade e controle. Para usuários e negócios, o cenário atual exige cautela. A inteligência artificial é uma ferramenta poderosa, mas que acarreta riscos reais, e talvez seja o momento de tratá-la com uma gestão mais cuidadosa, podendo até justificar a criação de novos tipos de seguro específicos para esses riscos.
Com a evolução do setor e o aumento da dependência de tecnologias avançadas, a indústria de seguros terá que encontrar um equilíbrio entre a inovação e a mitigação de riscos, garantindo que a inteligência artificial possa ser utilizada de forma segura e responsável.
