Discriminação algorítmica
os reflexos sociais da inseminação de conteúdos segregatícios em plataformas digitais no contexto do ordenamento jurídico brasileiro
Palavras-chave:
Discriminação algorítmica, racismo algorítimico, Inteligência artificial, Direitos fundamentais, regulação digitalResumo
O presente trabalho analisa a discriminação algorítmica e seus reflexos sociais, econômicos, trabalhistas e jurídicos no contexto brasileiro. Parte-se da premissa de que algoritmos e sistemas de inteligência artificial, embora frequentemente apresentados como neutros, podem reproduzir e intensificar desigualdades históricas a partir de vieses incorporados nos dados, nos critérios de programação e nas estruturas sociais que os alimentam. O estudo examina, em especial, o racismo algorítmico, demonstrando como tecnologias de reconhecimento facial, plataformas digitais e sistemas automatizados de seleção e crédito podem reforçar práticas excludentes. Também aborda os impactos dessas tecnologias no mundo do trabalho, na distribuição de oportunidades e na efetivação de direitos fundamentais. Sob a ótica jurídica, o artigo investiga a resposta do ordenamento brasileiro, com destaque para a Constituição Federal, a LGPD, o Marco Civil da Internet e o debate legislativo sobre regulação da inteligência artificial. Ao final, propõe medidas de mitigação baseadas em transparência, auditoria, responsabilização e governança algorítmica, a fim de compatibilizar inovação tecnológica com igualdade, dignidade humana e justiça social.
Downloads
Referências
Algorithmic Discrimination in Latin American Welfare States. Disponível em: https://www.hks.harvard.edu/centers/carr/publications/algorithmic-discrimination-latin-american-welfare-states. Acesso em: 23 nov. 2025.
BOAS, Pedro; BASSI, Fernanda. LinkedIn sugere vagas de auxiliar para nutricionista: “Algoritmo racista”. Uol tilt. São Paulo: 30 maio 2025. Disponível em: https://www.uol.com.br/tilt/noticias/redacao/2025/05/30/racismo-algoritmico-linkedin.htm . Acesso em: 23 nov. 2025.
BOYD, Danah; CRAWFORD, Kate. Critical Questions for Big Data: Provocations for a Cultural, Technological, and Scholarly Phenomenon. Information, Communication & Society, v. 15, n. 5, p. 662-679, 2012.
BRASIL. Constituição da República Federativa do Brasil de 1988. Disponível em: https://www.planalto.gov.br/ccivil_03/Constituicao/Constituicao.htm .
BRASIL. Decreto-Lei nº 5.452, de 1º de maio de 1943. Disponível em: https://www.planalto.gov.br/ccivil_03/decreto-lei/Del5452.htm .
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/L7716.htm . Acesso em: 23 nov. 2025.
BRASIL. Lei nº 9.029, de 13 de abril de 1995. Disponível em: https://presidencia.gov.br/ccivil_03/LEIS/L9029.HTM . Acesso em: 23 nov. 2025.
BRASIL. Lei nº 12.288, de 20 de julho de 2010. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2007-2010/2010/lei/l12288.htm .
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Marco Civil da Internet. Diário Oficial da União, 24 abr. 2014.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União, 15 ago. 2018.
BRASIL. PL 2338/2023. Senado Federal. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233.
CORMEN, Thomas H.; LEISERSON, Charles E.; RIVEST, Ronald L.; STEIN, Clifford. Introduction to Algorithms. 3. ed. Cambridge: MIT Press, 2009. p. 5–7, 9.
CUSCIANO, D. T. A discriminação algorítmica nas contratações laborais digitais. 2024.
DE. Estudo aponta riscos de tecnologias de reconhecimento facial. Agência Brasil, 2025. Disponível em: https://agenciabrasil.ebc.com.br/geral/noticia/2025-05/estudo-aponta-riscos-das-tecnologias-de-reconhecimento-facial . Acesso em: 23 nov. 2025.
DE. Juiz suspende compra de câmeras com reconhecimento facial em SP. Migalhas, 2023. Disponível em: https://www.migalhas.com.br/quentes/386804/juiz-suspende-compra-de-cameras-com-reconhecimento-facial-em-sp . Acesso em: 23 nov. 2025.
DONEDA, Danilo. Da privacidade à proteção de dados pessoais. 2. ed. Rio de Janeiro: Forense, 2018.
DONEDA, Danilo; MENDES, Laura Schertel. Proteção de dados e regulação algorítmica: fundamentos para uma governança ética da inteligência artificial. Revista de Direito, Estado e Telecomunicações, v. 11, n. 2, 2019.
ENGLER, A. Auditing employment algorithms for discrimination. Disponível em: https://www.brookings.edu/articles/auditing-employment-algorithms-for-discrimination/ .
EUBANKS, Virginia. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin’s Press, 2018.
G1. Google lista “prostituta” entre principais significados para “professora” e retira depois de repercussão. 23 out. 2019. Disponível em: https://g1.globo.com/educacao/noticia/2019/10/23/google-lista-prostituta-entre-principais-significados-para-professora-e-retira-depois-de-repercussao.ghtml . Acesso em: 13 out. 2025.
GILLESPIE, Tarleton. Custodians of the Internet. New Haven: Yale University Press, 2018.
HAN, Byung-Chul. A sociedade da transparência. Petrópolis: Vozes, 2017.
JOHNSON, Deborah G.; VERSON, Priscilla M. Ethics and Technology. 5. ed. Hoboken: Wiley, 2021.
LESLIE, David et al. Does “AI” stand for augmenting inequality in the era of covid-19 healthcare? BMJ, v. 372, p. n304, 2021. DOI: https://doi.org/10.1136/bmj.n304.
LEMOS, Ronaldo; SOUZA, Carlos Affonso Pereira de. Marco Civil da Internet: comentários à Lei nº 12.965/2014. São Paulo: Atlas, 2016.
MAURER, Roy. HireVue Discontinues Facial Analysis Screening. SHRM, 3 fev. 2021. Disponível em: https://www.shrm.org/topics-tools/news/talent-acquisition/hirevue-discontinues-facial-analysis-screening. Acesso em: 9 mar. 2026.
MCCALLUM, Shiona. Payout for Uber Eats driver over face scan bias case. BBC, 2024. Disponível em: https://www.bbc.com/news/technology-68655429. Acesso em: 10 mar. 2026.
MARTINS, Sérgio Pinto. Direito do trabalho. 28. ed. São Paulo: Editora Atlas, 2012. ISBN 978-85-224-6893-5. p. 38.
MENDES, Laura Schertel. Privacidade, proteção de dados e defesa do consumidor. São Paulo: Saraiva, 2020.
NOBLE, Safiya Umoja. Algorithms of Oppression. New York: NYU Press, 2018.
O GLOBO. Pesquise “tranças bonitas” e “tranças feias” no Google: um caso de racismo algorítmico. 2019. Disponível em: https://blogs.oglobo.globo.com/ancelmo/post/pesquise-trancas-bonitas-e-trancas-feias-no-google-um-caso-de-racismo-algoritmico.html . Acesso em: 13 out. 2025.
O’NEIL, Cathy. Weapons of Math Destruction. New York: Crown Publishing Group, 2016.
AGUIAR, Leandro. DIGITAL, PESQUISADOR DO M. DO D. P. NO M. Agência Pública. Disponível em: https://apublica.org/ .
PASQUALE, Frank. The Black Box Society. Cambridge, MA: Harvard University Press, 2015.
PEREIRA, Manuela Rached. Vigilância facial: pesquisadores apontam falhas. UOL Notícias, 6 jul. 2025. Disponível em: https://noticias.uol.com.br/cotidiano/ultimas-noticias/2025/07/06/vigilancia-facial-pesquisadores-apontam-falhas-em-sistema-de-alto-risco.htm . Acesso em: 23 nov. 2025.
PINHEIRO, Patrícia Peck. Direito Digital Aplicado 4.0. 5. ed. São Paulo: Saraiva, 2021.
RIBEIRO, Rene. Inteligência artificial da Amazon exercitava preconceito. Olhar digital, 10 out. 2018. Disponível em: https://olhardigital.com.br/2018/10/10/noticias/inteligencia-artificial-da-amazon-exercitava-preconceito/. Acesso em: 9 mar. 2026.
ROBERTS, Jessica L. et al. Algorithmic discrimination and health equity. In: Edward Elgar Publishing eBooks, p. 92–110, 2024.
ROSA. STJ resguarda o direito dos motoristas de aplicativo à revisão de decisões automatizadas. Consultor Jurídico, 7 ago. 2024. Disponível em: https://www.conjur.com.br/2024-ago-07/stj-resguarda-o-direito-dos-motoristas-de-aplicativo-a-revisao-de-decisoes-automatizadas/.
RUSSEL, Stuart; NORVIG, Peter. Inteligência artificial: uma abordagem atual. 4. ed. ISBN-13: 978-0134610993, ISBN-10: 0134610997. Londres: Editora Pearson Education, 2022. p. 19, 44-45, 49-50
SHEARD, Natalie. Discrimination by recruitment algorithms is a real problem. Phys.org, 2025. Disponível em: https://phys.org/news/2025-05-discrimination-algorithms-real-problem.html . Acesso em: 23 nov. 2025.
WU, Zhiyan et al. The Impact of Algorithmic Price Discrimination on Consumers’ Perceived Betrayal. Frontiers in Psychology, v. 13, 2022.
ZUBOFF, Shoshana. The Age of Surveillance Capitalism. Nova Iorque: Public Affairs, 2019. ISBN-10 1781256845; ISBN-13 978-1781256848.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2026 Beatriz Martins dos Santos, Bruno Henrique da Silva, Eduarda Flores Vieira de Moura, Gabriela de Carvalho Farrapo, Gabrielle Huber da Silva, Mariana Aparecida Cardoso de Moraes
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
