A expansão da inteligência artificial para decisões que afetam consumidores, funcionários e terceiros trouxe uma questão que começa a ganhar espaço no debate jurídico, quem responde quando um algoritmo erra?
Embora sistemas de IA participem cada vez mais de processos empresariais, eles não possuem personalidade jurídica e não podem assumir a responsabilidade por eventuais danos.
O advogado especialista em privacidade Fernando Manfrin explica que a responsabilidade recai sobre quem utiliza a tecnologia e, dependendo do caso, também pode alcançar a empresa que fornece o sistema.
A análise ganha relevância diante do crescimento de processos judiciais envolvendo empresas de inteligência artificial, que já alcançam diferentes áreas, como direitos autorais, privacidade, uso de dados e funcionamento de sistemas automatizados.
Como mostrou O Brasilianista um levantamento da plataforma AI Lawsuit Tracker identificou cerca de 200 ações judiciais envolvendo inteligência artificial até julho de 2026.
Os processos atingem empresas como OpenAI, Google, Meta, Microsoft, Anthropic e Perplexity e mostram como a ampliação do uso da tecnologia também aumenta a exposição jurídica das companhias.
O algoritmo não responde pelo próprio erro
A primeira questão está na própria natureza jurídica da inteligência artificial. Um sistema automatizado pode produzir uma recomendação, classificar informações ou auxiliar uma decisão, mas não pode ocupar o lugar de uma pessoa ou empresa diante da Justiça.
“As ferramentas de IA não podem ser responsabilizadas, por não serem uma pessoa de direitos, ou seja, ela não tem CPF, CNPJ, tampouco pode ser ré em um processo. Então sempre que estivermos diante de uma situação de um dano causado por uma ferramenta de I.A quem responderá será o operador da ferramenta, ou a empresa responsável por ela”, explica Fernando Manfrin.
A definição de quem responde pelo dano, porém, depende também da relação jurídica envolvida.
“Caso seja um consumidor que tenha sofrido o dano, o código de defesa do consumidor será aplicado, e a responsabilidade será objetiva e a empresa responderá pelo dano, independente de ter agido com culpa”, afirma.
Nesse cenário, o fato de o resultado ter sido produzido por um funcionário ou por um sistema automatizado não elimina, por si só, o dever de reparar o prejuízo. A empresa continua responsável pela forma como utiliza a tecnologia dentro de sua atividade.
Culpar o algoritmo não afasta a responsabilidade
O avanço da automação também modifica a forma como gestores precisam lidar com decisões tomadas por sistemas de inteligência artificial. Para Manfrin, atribuir um erro exclusivamente ao algoritmo não constitui uma justificativa jurídica suficiente.
“Dizer que ‘o algoritmo errou’ não é uma defesa jurídica, é praticamente uma confissão de falha de governança. Culpar o algoritmo é como culpar o martelo por um defeito na fabricação de um carro. Responsabilidade é sempre de quem opera a ferramenta”, destaca.
A escolha do sistema, os critérios de utilização e o nível de autonomia concedido à tecnologia fazem parte da responsabilidade da organização.
Por isso, a adoção de uma ferramenta de IA precisa estar acompanhada de mecanismos capazes de identificar erros e impedir que decisões inadequadas sejam executadas sem revisão.
A situação pode ser ainda mais delicada quando o próprio administrador descumpre deveres de supervisão. Segundo o especialista, determinadas condutas podem levar à responsabilização pessoal do gestor.
“Isso acontece quando ele age com dolo, quando é negligente no dever de supervisão ou quando descumpre o dever de diligência que a lei impõe a quem administra”, explica.
Para Manfrin, aprovar o uso de um sistema sensível sem compreender minimamente seu funcionamento e sem estabelecer mecanismos de controle pode transformar uma falha inicialmente atribuída à empresa em uma questão que também envolve o administrador.
Transparência passa a fazer parte da proteção jurídica
Outro ponto envolve a comunicação com consumidores e funcionários. Empresas que utilizam inteligência artificial em decisões capazes de afetar interesses individuais precisam considerar as obrigações previstas na legislação que já está em vigor.
O especialista destaca que a Lei Geral de Proteção de Dados (LGPD) estabelece mecanismos relacionados a decisões automatizadas e ao tratamento de informações pessoais.
“A LGPD garante ao titular o direito de pedir a revisão de decisões tomadas com base em tratamento automatizado que afetem seus interesses, e também o direito de saber quais critérios foram utilizados, ressalvado o segredo comercial”, explica Manfrin.
A análise exige, entretanto, uma distinção entre decisões tomadas exclusivamente por sistemas automatizados e aquelas que contam com participação humana efetiva.
Quando uma pessoa analisa a recomendação produzida pela IA e pode modificar ou rejeitar o resultado, o cenário jurídico pode ser diferente.
“A empresa que informa, documenta e explica como chegou àquela decisão se protege muito melhor do que a que esconde. Na hora de um questionamento judicial, opacidade pesa contra quem decidiu”, afirma.
Supervisão humana precisa ser real
A criação de mecanismos de controle aparece como uma das principais formas de reduzir riscos. A simples existência de uma pessoa no processo, porém, não garante uma supervisão efetiva.
“Uma pessoa qualificada precisa poder revisar e reverter o que o sistema sugeriu. E isso não pode ser feito de forma automática, precisa ser um revisor que de fato analise e entenda o caso”, ressalta Manfrin.
Além da supervisão humana, a rastreabilidade aparece como outro mecanismo importante.
“A empresa precisa registrar quais dados foram usados, quais os pesos dos critérios e como o sistema chegou àquele resultado. Uma forma mais simples de pensar é: se você não consegue explicar como o sistema decidiu, você não deveria utilizá-lo para essa decisão”, afirma Manfrin.
Esse cuidado permite identificar quais informações alimentaram o sistema, quais parâmetros foram utilizados e qual foi a participação humana no processo.
A documentação também pode ajudar a empresa a demonstrar, posteriormente, quais medidas adotou para evitar falhas. Sem esses registros, torna-se mais difícil comprovar que houve controle sobre a ferramenta e que a organização estabeleceu procedimentos de segurança.
Empresas precisam testar sistemas antes de ampliar o uso
Outro mecanismo citado pelo especialista é a avaliação dos sistemas antes e durante sua utilização.
“Algoritmos aprendem com dados históricos, e dados históricos carregam as discriminações do passado. Um sistema de crédito ou de recrutamento pode reproduzir preconceitos já padronizados sem que ninguém tenha programado isso de propósito, e a empresa responde por esse resultado do mesmo jeito”, explica.
Por isso, testes precisam avaliar não apenas se o sistema funciona tecnicamente, mas também se produz resultados incompatíveis com os objetivos definidos pela empresa.
A avaliação de impacto algorítmico também pode ser utilizada em situações que envolvem tratamento de dados pessoais em larga escala. Além disso, os contratos com fornecedores de tecnologia precisam definir responsabilidades entre as diferentes partes envolvidas.
Governança vira parte da estratégia jurídica
A adoção de inteligência artificial não termina na contratação de uma plataforma.
“A IA não pode ser vista como um mecanismo que opera sozinho. Quem usa IA sem governança não está economizando, está concentrando e ampliando risco. Na hora do dano, a única responsável será a empresa”, afirma Manfrin.
Esse modelo pode envolver profissionais de proteção de dados, áreas de compliance e responsáveis pela supervisão dos sistemas. A função é acompanhar o desempenho da tecnologia, identificar riscos e garantir que decisões sensíveis não sejam delegadas integralmente à automação.
A preocupação também acompanha a expansão econômica da inteligência artificial. O Brasilianista destacou que grandes empresas de tecnologia assumiram cerca de US$ 3 trilhões (R$ 15,52 trilhões) em compromissos relacionados à infraestrutura necessária para ampliar o uso da IA.
Quanto maior o investimento e a presença da tecnologia nas atividades empresariais, maior também tende a ser a quantidade de processos em que decisões automatizadas poderão produzir efeitos sobre consumidores, funcionários e terceiros.
