A inovação tecnológica, especialmente no campo da inteligência artificial (IA), tem colocado à prova importantes fundamentos do Direito. Entre os grandes desafios está o risco de discriminação algorítmica, com potencial lesivo ao direito fundamental à igualdade. Este artigo examina, sob uma perspectiva jurídico-normativa, como o sistema de justiça brasileiro pode lidar com formas de preconceito e tratamento desigual reproduzidas por algoritmos, com destaque para os instrumentos normativos existentes, o papel dos operadores do Direito e a construção de soluções jurídicas adequadas.
A Constituição Federal de 1988 consagra a igualdade como um dos pilares do Estado Democrático de Direito, especialmente nos artigos 5º, caput, e 7º, XXX. No campo infraconstitucional, diversas legislações visam concretizar o compromisso do Estado com a não discriminação, como a Lei nº 12.288/2010 (Estatuto da Igualdade Racial), a Lei nº 7.716/1989 (Lei do Preconceito Racial) e, mais recentemente, a Lei Geral de Proteção de Dados (LGPD – Lei nº 13.709/2018), que traz dispositivos relevantes para o tratamento automatizado de dados.
O princípio da igualdade, ou isonomia, implica que todos devem ser tratados igualmente perante a lei, vedando distinções arbitrárias e exigindo tratamento equitativo, inclusive na esfera privada. No contexto atual, o desafio é garantir que tais princípios sejam plenamente observados mesmo diante de novas tecnologias que processam informações de vultosas bases de dados por meio de algoritmos muitas vezes opacos para o usuário e para o próprio operador jurídico.
A discriminação algorítmica ocorre quando sistemas automatizados, a partir de dados de treinamento que refletem vieses históricos ou sociais, resultam, ainda que de modo indireto, em decisões que perpetuam ou agravam desigualdades preexistentes. Tais decisões podem impactar profundamente áreas como acesso ao crédito, seleção de candidatos a emprego, concessão de benefícios sociais ou até mesmo decisões judiciais assistidas por IA.
Ao contrário da discriminação tradicional, frequentemente explícita ou intencional, a discriminação algorítmica é, muitas vezes, resultado não da intenção dos programadores, mas de vieses presentes nos próprios dados de treinamento ou na modelagem escolhida. Isso traz desafios à identificação e responsabilização jurídica, tornando essencial a atuação de profissionais capacitados para a análise crítica dessas tecnologias.
No Brasil, a responsabilidade civil, em regra, fundamenta-se nos artigos 186 e 927 do Código Civil, disciplinando o dever de reparar dano em caso de conduta ilícita, inclusive culposa. Quando um algoritmo produz uma decisão discriminatória que causa dano a alguém — por exemplo, recusa de crédito com base em dados enviesados — surge a discussão sobre a responsabilidade do agente controlador, desenvolvedor ou operador do sistema.
Na perspectiva da responsabilização, dois pontos centrais emergem: a aferição da culpa (ou da responsabilidade objetiva, conforme o caso) e o nexo de causalidade entre a decisão algorítmica e o dano. A opacidade dos algoritmos (o chamado “efeito caixa-preta”) dificulta a demonstração do nexo causal, mas não exime o fornecedor do dever de transparência, como decorre do princípio da boa-fé objetiva e do artigo 14 do Código de Defesa do Consumidor.
Cabe destacar também a relevância da teoria do risco e da inversão do ônus da prova quando presentes relações de consumo, nos termos do artigo 6º, inciso VIII, do CDC. Esse mecanismo pode ser fundamental para garantir a proteção de direitos, especialmente em situações em que a parte lesada não detém conhecimento técnico e instrumental suficiente para comprovar o funcionamento interno do sistema.
A LGPD representa um avanço importante ao conferir ao titular dos dados o direito de solicitar revisão de decisões tomadas unicamente por tratamento automatizado (art. 20). Isso abrange decisões que afetem seus interesses, incluindo aspectos de acesso a crédito, contratação de serviços, entre outros.
O artigo 20 da LGPD impõe ao controlador o dever de fornecer informações claras e adequadas sobre os critérios aplicados ao tratamento automatizado, assegurando a transparência quanto à lógica envolvida e o respeito ao direito à revisão humana. Entretanto, a efetivação desse direito depende de capacidade técnica e jurídica para analisar a modelagem algorítmica e identificar eventuais padrões discriminatórios, o que exige do profissional do Direito uma formação multidisciplinar.
O estudo aprofundado do tema e a atualização constante são cruciais para a advocacia na era digital. Um caminho recomendado é investir em capacitação especializada, como a Pós-Graduação em Direito Digital, pois a compreensão das nuances jurídicas, éticas e técnicas acerca da análise algorítmica é fundamental para assessorar clientes e propor soluções inovadoras.
A existência de vulnerabilidades históricas, como aquelas relativas a raça, gênero ou condição socioeconômica, tem levado o legislador brasileiro a prever mecanismos protetivos específicos. A legislação antidiscriminatória, incluindo as Leis nº 7.716/1989 e 9.029/1995, estabelece sanções cíveis e penais para condutas discriminatórias e vedações explícitas no âmbito trabalhista.
Quando algoritmos utilizados por empresas ou órgãos públicos geram decisões que discriminam certos grupos em razão de características protegidas (e.g., raça, sexo, origem), é possível invocar não apenas fundamentos constitucionais, mas também a legislação específica. O desafio, contudo, reside na demonstração do caráter discriminatório do resultado algorítmico, especialmente quando não existe intenção deliberada, mas sim consequência indireta decorrente do uso de grandes bases de dados.
O Poder Judiciário brasileiro já começa a se debruçar sobre casos denominados de “discriminação indireta”, exigindo perícias técnicas para análise das decisões automatizadas. Esse movimento sinaliza a importância de atuação proativa dos advogados na produção de provas e no domínio das ferramentas técnicas capazes de demonstrar, com base em evidências estatísticas, a existência de tratamento desigual.
Advogados devem assessorar empresas na auditoria de sistemas automatizados, analisando se há coleta e tratamento adequados de dados sensíveis e prevenindo práticas discriminatórias. A conformidade deve ser pensada desde o design do sistema (privacy by design e equity by design), evitando exposições a litígios e penalidades administrativas da LGPD.
Quando eclodem contenciosos judiciais ou administrativos, torna-se fundamental produzir provas técnicas que demonstrem o funcionamento do algoritmo e eventuais padrões de discriminação. O uso de perícias digitais, análises estatísticas e documentação detalhada dos sistemas são cruciais para subsidiar pedidos de indenização, revisão de decisões e aplicações de medidas cautelares.
O advogado pode atuar na defesa de interesses coletivos, ajuizando ações civis públicas ou representações junto a órgãos de controle, como a Autoridade Nacional de Proteção de Dados (ANPD) e o Ministério Público, especialmente em casos de impacto social relevante.
A evolução tecnológica é dinâmica e contínua. O ordenamento jurídico tem buscado acompanhar essas mudanças, mas há desafios regulatórios consideráveis, tais como a ausência de normas específicas sobre explicabilidade algorítmica, auditoria obrigatória de modelos automatizados e colaboração multidisciplinar entre juristas, engenheiros e cientistas de dados.
No cenário internacional, soluções regulatórias vêm sendo adotadas, como o AI Act europeu, que cria obrigações reforçadas para sistemas de alto risco e reforça o princípio da prestação de contas e do dever de explicação. No Brasil, a tendência é que futuras regulações avancem na direção de exigir maior transparência e governança nas aplicações de IA, com reflexos diretos para a prática jurídica.
Para operadores do Direito, manter-se atualizado sobre essas transformações é imperativo. Aprofundar o estudo em áreas como proteção de dados, direitos fundamentais e novas tecnologias representa não apenas diferencial competitivo, mas compromisso ético com a promoção da justiça e da igualdade em ambiente digital. Para quem deseja se especializar, vale consultar a Pós-Graduação em Direito Digital, preparando-se para atuar nas fronteiras do Direito e da inovação.
A tutela da igualdade na era dos algoritmos exige mais do que a aplicação literal da legislação vigente. Impõe uma adaptação interpretativa e prática dos princípios constitucionais, das normas infraconstitucionais e do arsenal processual para lidar com desafios técnicos inéditos. O profissional de Direito que deseja se destacar precisa dominar o funcionamento dos sistemas automatizados e as estratégias jurídicas adequadas para prevenir e reparar discriminações, tanto sob o prisma individual quanto coletivo.
Quer dominar o Direito Digital e se destacar na advocacia do futuro? Conheça nossa Pós-Graduação em Direito Digital e transforme sua carreira.
– O combate à discriminação algorítmica é uma pauta relevante e crescente, que perpassa o direito antidiscriminatório, a proteção de dados e a responsabilidade civil.
– Profissionais de Direito precisam de conhecimento técnico e jurídico para atuar em auditorias preventivas e litígios envolvendo decisões automatizadas.
– O domínio das normas da LGPD, em especial o artigo 20, é indispensável para garantir direitos de revisão e explicação de decisões automatizadas.
– Há grande espaço para atuação em ações coletivas e advocacy estratégica em defesa dos grupos vulneráveis.
– Regulamentações futuras devem reforçar a transparência e os deveres de explicação por parte de quem desenvolve e opera sistemas automatizados.
1. Que legislação específica pode ser invocada em casos de discriminação algorítmica?
A legislação antidiscriminatória brasileira (Leis nº 7.716/1989 e 9.029/1995), Código de Defesa do Consumidor e, especialmente, a Lei Geral de Proteção de Dados (LGPD – Lei nº 13.709/2018) são referências centrais.
2. Como provar a discriminação quando não há intenção deliberada?
É possível produzir provas técnicas, como perícias estatísticas ou análise de impactos algorítmicos, além de invocar a inversão do ônus da prova em relações de consumo.
3. De quem é a responsabilidade civil por danos causados por algoritmos?
Pode recair sobre desenvolvedores, controladores ou operadores do sistema, a depender do caso, sendo possível responsabilização objetiva e subjetiva.
4. Como o advogado pode atuar preventivamente para evitar riscos de discriminação algorítmica?
Ajudando empresas a implementar auditorias regulares, orientando sobre privacy by design e orientando quanto ao cumprimento das obrigações da LGPD.
5. O que a LGPD prevê sobre decisões automatizadas?
O artigo 20 garante ao titular dos dados o direito de solicitar revisão de decisões automatizadas, e ao controlador o dever de transparência sobre os critérios adotados.
Aprofunde seu conhecimento sobre o assunto na Wikipedia.
Acesse a lei relacionada em https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm
Este artigo teve a curadoria da equipe da Legale Educacional e foi escrito utilizando inteligência artificial a partir do seu conteúdo original disponível em https://www.conjur.com.br/2025-out-23/algoritmos-podem-reproduzir-preconceitos-historicos/.
Desvende as fronteiras entre o ilícito civil e penal em negócios complexos. Domine a distinção, evite a criminalização indevida e atue na defesa contra fraudes empresariais.
Litigância abusiva: entenda o impacto no acesso à justiça, sanções do CPC e estratégias para combatê-la. Advogados, domine o Direito Processual Civil e se destaque.
Desvende as fronteiras entre o ilícito civil e penal em negócios complexos. Domine a distinção, evite a criminalização indevida e atue na defesa contra fraudes empresariais.
Litigância abusiva: entenda o impacto no acesso à justiça, sanções do CPC e estratégias para combatê-la. Advogados, domine o Direito Processual Civil e se destaque.
