A discriminação algorítmica na seleção de trabalhadores
o caso Amazon.com
Palavras-chave:
Inteligência artificial, Discriminação, Processo seletivo, Direitos fundamentais, Direito do TrabalhoResumo
O artigo abordou a utilização da inteligência artificial em processos de recrutamento de novos empregados e em suas demissões, analisando, dessa forma, os possíveis desvios discriminatórios que podem estar inseridos nos algoritmos. Tomando como base o caso da empresa Amazon.com, os objetivos principais foram analisar as decisões algorítmicas e suas principais consequências socioeconômicas. Pautado na análise de dados e da legislação brasileira, constatou-se a necessária construção de uma governança coletiva somada à observância de direitos fundamentais, como fator limitante ao abuso do poder diretivo do empregador.
Downloads
Referências
DEMISSÕES em um segundo: os algoritmos que decidem quem deve ser mandado embora. El país Brasil, 10 out. 2021. Disponível em: https://brasil.elpais.com/tecnologia/2021-10-10/150-demissoes-em-um-segundo-assim-funcionam-os-algoritmos-que-decidem-quem-deve-ser-mandado-embora.html.Acesso em: 04 out. 2023.
ALMEIDA, Mauro W. Barbosa de Almeida. Lutas Sociais, desigualdade social e discriminação racial. Crítica Marxista, São Paulo, v.1, n.24, 2007, p.98-101. Disponível em: https://www.ifch.unicamp.br/criticamarxista/arquivos_biblioteca/dossie36dossie2.pdf. Acesso em: 31 out. 2023.
ALVES, Adriana Avelar; BEZERRA, Leandro Henrique Costa. Discriminação Algorítmica de Gênero no Trabalho em Plataformas Digitais. Rev. TST, São Paulo, v. 87, n. 3, jul/set 2021. Disponível em: https://juslaboris.tst.jus.br/bitstream/handle/20.500.12178/195297/2021_alves_adriana_discriminacao_algoritmica.pdf?sequence=1&isAllowed=y. Acesso em: 01 nov. 2023.
AMAZON diz que onda de demissões vai atingir mais de 18 mil funcionários. G1 São Paulo, 5 jan. 2023. Disponível em: https://g1.globo.com/tecnologia/noticia/2023/01/05/amazon-demissao.ghtml. Acesso em: 19 out. 2023.
AMAZON prescinde de una inteligencia artificial reclutamiento por discriminar a las mujeres. El país Espanha, 12 out. 2018. Disponível em: https://elpais.com/tecnologia/2018/10/11/actualidad/1539278884_487716.html. Acesso em: 19 out. 2023.
AMAZON scraps secret AI recruiting tool that showed bias against women. Reuters, 10 out. 2018. Disponível em:https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G. Acesso em: 19 out 2023.
AMAZON vai lançar cartão de crédito com anuidade grátis e 3% de cashback em pontos. Estadão, São Paulo, 1 ago. 2023. Disponível em: https://www.estadao.com.br/economia/negocios/amazon-cartao-de-credito-anuidade-gratis. Acesso em: 19 out. 2023.
AZEVEDO, André Jobim de; JAHN, Vitor Kaiser. Direito do Trabalho e Novas Tecnologias: Inteligência Artificial, Big Data e Discriminação Pré-contratual. Academia Brasileira de Direito do Trabalho, 2021. Disponível em: ndt.org.br/wp-content/uploads/2021/04/Azevedo-e-Jahn-DIREITO-DO-TRABALHO-E-NOVAS-TECNOLOGIAS-INTELIGÊNCIA-ARTIFICIAL-BIG-DATA-E-DISCRIMINAÇÃO-PRÉ-CONTRATUAL.docx.pdf. Acesso em: 01 nov. 2023.
BORTOLIN, A. B; GALLI, A.B; SILVA, D.P.C. da. Limites do poder diretivo disciplinar do empregador nas organizações de tendência: a inexistência de colisão de direitos na análise Hermenêutica das relações empregatícias. Brazilian Journal of Development. Curitiba, v.8, n.8, p. 58751-58772, aug. 2022. DOI: https://doi.org/10.34117/bjdv8n8-253. Disponível em: https://ojs.brazilianjournals.com.br/ojs/index.php/BRJD/article/view/51398. Acesso em: 01 nov. 2023.
BRASIL, Presidência da República. Mensagem n. 288, de 8 de julho de 2019. Disponível em: https://www.planalto.gov.br/ccivil_03/_Ato2019-2022/2019/Msg/VEP/VEP-288.htm. Acesso em: 24 out. 2023.
CAMPELLO, Cynthia; VERBICARO, Dennis; MARANHÃO, Ney. Os limites do poder diretivo patronal no uso de redes sociais pelos trabalhadores. Revista de Trabalho, v. 200, ano 45, abr. 2019. Disponível em: https://juslaboris.tst.jus.br/bitstream/handle/20.500.12178/159053/2020_campello_cynthia_limites_poder.pdf?sequence=1&isAllowed=y. Acesso em: 01 nov. 2023.
CARRERA, Fernanda. A raça e o gênero da estética e dos afetos: algoritmização do racismo e do sexismo em bancos contemporâneos de imagens digitais. Universidade de São Paulo, v. 14, n. 2, p. 217-240, 2020. DOI: https://doi.org/10.11606/issn.1982-8160.v14i2p217-240. Disponível em: https://www.redalyc.org/journal/1430/143066518013/143066518013.pdf. Acesso em: 01 nov. 2023.
CERVO, Karina Socal. O direito fundamental ao trabalho na Constituição Federal de 1988. 2008. 134 f. Dissertação – Mestrado em Direito, Universidade de Caxias do Sul, Caxias do Sul, 2008. Disponível em: https://repositorio.ucs.br/xmlui/bitstream/handle/11338/289/Dissertacao%20Karina%20Socal%20Cervo.pdf. Acesso em: 01 nov. 2023.
DELGADO, Maurício Godinho. Curso de Direito do Trabalho. 16ª ed. São Paulo: LTr, 2017.
DESIGUALDADE na Era Digital: Como a discriminação algorítmica afeta os transexuais. Inovajur, Revista Jurídica da UEMG, jan. / jun. 2023. Disponível em: https://revista.uemg.br/index.php/inovajur/article/view/7534/4713 . Acesso em: 23 out. 2023.
DISCRIMINAÇÃO algorítmica da pessoa com deficiência. Whitepaperdocs, 28 set. 2021. Disponível em: https://whitepaperdocs.com/2021/09/discriminacao-algoritmica-da-pessoa-com-deficiencia/. Acesso em: 23 out. 2023.
DISCRIMINAÇÃO Digital: entenda como funciona o racismo algoritmo. Crosoften, Empreiteira de Projetos Digitais, 19 nov. 2020. Disponível em: https://crosoften.com/discriminacao-digital-entenda-como-funciona-o-racismo-algoritmo/. Acesso em: 23 out. 2023.
DONEDA, Danilo; ALMEIDA, Virgílio A. F. O que é a governança de algoritmos?. Politics, out. 2016. Disponível em:https://politics.org.br/edicoes/o-que-%C3%A9-governan%C3%A7a-de-algoritmos. Acesso em: 29 out. 2023.
EL ALGORITMO de Amazon al que no le gustan las mujeres. BBC News Mundo, 11 out. 2018. Disponível em: https://www.bbc.com/mundo/noticias-45823470. Acesso em: 19 out. 2023.
FERRARI, Isabela; BECKER, Daniel; WOLKART, Erik Navarro. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais, São Paulo, v. 107, n. 995, p. 635-655, set. 2018. Disponível em: https://www.academia.edu/38199022/ARBITRIUM_EX_MACHINA_PANORAMA_RIS. Acesso em: 31 out. 2023.
‘FUI despedido por um robô’: como a Amazon deixa máquinas decidirem o destino dos trabalhadores. O Globo, 18 fev. 2022. Disponível em: https://oglobo.globo.com/economia/tecnologia/fui-despedido-por-um-robo-como-amazon-deixa-maquinas-decidirem-destino-dos-trabalhadores-25079925. Acesso em: 18 out. 2023.
GOOGLE conserta seu algoritmo “racista” apagando os gorilas. El País Espanha, 16 jan. 2023. Disponível em: https://brasil.elpais.com/brasil/2018/01/14/tecnologia/1515955554_803955.html. Acesso em: 23 out. 2023.
GU, J.; OELKE, D. Understanding bias in machine learning. Cornell University, 2 set. 2019. Disponível em: https://arxiv.org/abs/1909.01866. Acesso em: 19 out. 2023.
INTELIGÊNCIA artificial, tecnologia digital e discriminação no trabalho: Direitos e conceito básicos. Grupo de Estudos Diversidade e Tecnologia. Disponível em: https://mpt.mp.br/pgt/publicacoes/cartilhas/inteligencia-artificial-tecnologia-digital-e-discriminacao-no-trabalho/@@display-file/arquivo_pdf. Acesso em: 01 nov. 2023.
KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, v. 57, n. 4, 2018. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3296521 Acesso em: 01 nov. 2023.
KONIG, Kauana Christiano; CUNHA E CRUZ, Marco Aurelio Rodrigues da; MARANGON, Douglas. A Lei Geral de Proteção de Dados e a Discriminação Algorítmica. Universidade de Santa Maria: 6º Congresso Internacional de Direito e Contemporaneidade. Santa Maria, 24-26 out. 2022. Disponível em: https://www.ufsm.br/app/uploads/sites/563/2022/11/1.7.pdf. Acesso em: 01 nov. 2023.
LIMA, Ana Carolina. Algoritmos Racistas. Uol, 26 jan. 2021. Disponível em: https://www.uol.com.br/tilt/reportagens-especiais/como-os-algoritmos-espalham-racismo/. Acesso em: 23 out. 2023.
LINDOSO, Maria Cristine Branco. O Processo decisório na era do Big Data: como novos mecanismos de processamento de dados através de algoritmos interferem nas tomadas de decisão. Tecnologia Jurídica & Direito Digital: II Congresso Internacional de Direito, Governo e Tecnologia. Belo Horizonte, 2018, p. 367-381.
MOREIRA, Teresa Alexandra Coelho. A privacidade dos trabalhadores e a utilização de redes sociais online: algumas questões. Estudos de direito do trabalho, v. 2, p. 11-69, 2016.
NASCIMENTO, Amauri Mascaro. Curso de Direito do Trabalho. 26ª ed. São Paulo: Saraiva, 2011.
PERES, Ighor Eduardo V.; FARIAS, Karen A.; MANUGUERRA, Luca S. Preconceito em algoritmos de aprendizagem de máquina e suas bases de treinamento: uma revisão sistemática de literatura. Universidade Presbiteriana Mackenzie- Faculdade de Computação e Informática, 2021. Disponível em: https://dspace.mackenzie.br/items/c9a63960-6968-4326-8902-08548f86a7d6. Acesso em: 01 nov. 2023.
POSSI, A. B. B.; POSSI, A. C. B. A proteção dos dados pessoais e a decisão automatizada: o conflito entre a aplicação do princípio da transparência e o direito à proteção do segredo empresarial. In: LIMA, Cíntia Rosa Pereira de (org.). ANPD e LGPD: Desafios e perspectivas. São Paulo: Almedina, 2021, p. 279-290.
REIS, Beatriz de Felippe; GRAMINHO, Vivian Maria Caxambu. A inteligência artificial no recrutamento de trabalhadores: O caso Amazon analisado sob a ótica dos direitos fundamentais. Universidade de Santa Cruz do Sul. XVI Seminário Internacional Demandas Sociais e Políticas na Sociedade Contemporânea. XII Mostra Internacional de Trabalhos Científicos, 2019. Disponível em: https://online.unisc.br/acadnet/anais/index.php/sidspp/article/view/19599. Acesso em: 01 nov. 2023.
RIOS, Roger Raupp; LEIVAS, Paulo Gilberto Cogo; SCHAFER, Gilberto. Direito da Antidiscriminação e Direitos de Minorias: Perspectivas e Modelos de Proteção Individual e Coletivo. Rev. direitos fundam. democ., v. 22, n. 1, p. 126-148, jan./abr. 2017. Disponível em: https://www.corteidh.or.cr/tablas/r36985.pdf. Acesso em: 01 nov. 2023.
ROCHA, C. J da; PORTO, L.V; ABAURRE, H.E. Discriminação algorítmica no trabalho digital. Revista de Direitos Humanos e Desenvolvimento Social, v.1, e205201, 2020. Disponível em: https://periodicos.puc-campinas.edu.br/direitoshumanos/article/view/5201/3164. Acesso em: 28 out. 2023.
SAIBA mais sobre sustentabilidade organizacional nas empresas com foco na equidade de gênero. Universidade Federal de Pelotas, 21 out. 2022. Disponível em: https://wp.ufpel.edu.br/superavit/2022/09/21/saiba-mais-sobre-sustentabilidade-organizacional-nas-empresas-com-foco-na-equidade-de-genero/. Acesso em: 19 out. 2023.
SCHREIBER, Anderson. Direitos da Personalidade. 2 ed. São Paulo: Atlas, 2013.
SEYFERTH, Giralda. Colonização, imigração e a questão racial no Brasil. Revista USP, [S.1.], n. 53, p. 117-149, 2002. DOI: https://doi.org/10.11606/issn.2316-9036.v0i53p117-149. Disponível em: https://www.revistas.usp.br/revusp/article/view/33192. Acesso em: 01 nov. 2023.
SIGNES, Adrián Todolí. Algoritmos para contrataciones y despidos. ¿Son legales las decisiones automatizadas sobre trabajadores? Blog Argumentos en Derecho Laboral, 21 fev. 2019. Disponível em:https://adriantodoli.com/2019/02/21/algoritmos-para-contrataciones-y-despidos-son-legales-las-decisiones-automatizadas-sobre-trabajadores/. Acesso em: 01 nov. 2023.
TAVARES, João Paulo Lordelo Guimarães. Vieses implícitos e técnicas de automação decisória: riscos e benefícios. Civil Procedure Review, v. 12, n. 1, 2021. Disponível em: https://civilprocedurereview.com/revista/article/download/225/210/429. Acesso em: 01 nov. 2023.
TECNOLOGIA para filtros em redes sociais reforça padrão racista. Folha de S. Paulo, 1 de ago. 2021. Disponível em: https://www1.folha.uol.com.br/cotidiano/2021/08/tecnologia-para-filtros-em-redes-sociais-reforca-padrao-racista.shtml. Acesso em: 23 out. 2023.
UBERIZAÇÃO do trabalho: uma velha conhecida das mulheres. Blog da Marcha Mundial das Mulheres. Disponível em: https://marchamulheres.wordpress.com/2019/08/01/a-uberizacao-do-trabalho-uma-velha-conhecida-das-mulheres/. Acesso em: 01 nov. 2023.
VENDAS da Amazon aumentam 11% no segundo trimestre. CNN Brasil, 3 ago. 2023. Disponível em: https://www.cnnbrasil.com.br/economia/vendas-da-amazon-aumentam-11-no-segundo-trimestre/. Acesso em: 19 out. 2023.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2025 Marina Cavalcanti de Ataíde
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
