DIREITO DO TRABALHO E NOVAS TECNOLOGIAS: INTELIGÊNCIA ARTIFICIAL, BIG DATA E DISCRIMINAÇÃO PRÉ-CONTRATUAL

André Jobim de Azevedo
Vitor Kaiser Jahn

 

INTRODUÇÃO

 

No exercício de suas precípuas finalidades de estudo do Direito do Trabalho, aperfeiçoamento e difusão da legislação trabalhista (art. 3º, a, de seu Estatuto), a ABDT propõe a elaboração da presente obra conjunta, desafiando seus acadêmicos e demais convidados a desvendarem a interlocução entre o presente e o futuro do trabalho.

Pensar e interpretar o “Direito do Trabalho, Hoje”, inevitavelmente, é um desafio. Ainda que por ora de forma embrionária, novas tecnologias e novas formas de perceber o mundo estão desencadeando alterações nas estruturas sociais e nos sistemas econômicos, elementos que nos permitem vislumbrar a Quarta Revolução Industrial já no presente[1].

Ocorre que, ao passo que reconhecemos uma nova Revolução Industrial, devemos estar prontos para o enfrentamento de problemas e questionamentos absolutamente novos no campo juslaboral. O trabalho, enquanto fato social, é dinâmico e está em constante evolução. À medida em que novas tecnologias são implementadas nas relações sociais e no âmbito produtivo por força da Quarta Revolução Industrial, há uma verdadeira metamorfose do trabalho, ensejando novos desafios ao Direito e ao jurista.

Se você, leitor, ainda não está convencido de o quanto as novas tecnologias impactam a maneira como se dá a prestação de trabalho, sugerimos o  seguinte exercício: a) pense, de forma caricata, a figura do trabalhador da Segunda Revolução Industrial, o âmbito em que está inserido, os elementos do vínculo estabelecido com o seu empregador e a pauta de direitos mais relevantes para sua proteção naquele momento; b) agora faça o mesmo esforço, mas com as molduras daquilo que se imagina sobre o assim chamado “futuro do trabalho”, com os traços da Quarta Revolução Industrial, cuja tônica é dada pelo implemento de novas tecnologias como inteligência artificial, big data e internet das coisas.

Provavelmente, você, leitor, cogitou de início um trabalhador consideravelmente subordinado, submetido ao rígido controle do patrão em um âmbito fabril, pródigo em acidentes e adoecimentos, em que a pauta protetiva gravitava em torno de estabelecer limites à exploração advinda do poder patronal, visando melhores condições de trabalho. Por outro lado, ao pensar conforme as molduras do “futuro do trabalho”, forma-se a imagem de alguém trabalhando, possivelmente de modo remoto em sua própria residência, com flexibilidade de horários e auxílio de tecnologia de ponta (computadores, algoritmos, inteligência artificial e mecanismos de tratamento de  dados), contando com maior autonomia na gestão de sua prestação laboral, o que parece descaracterizar a subordinação, ao menos no que tange à concepção clássica enraizada, demandando um repensar do direito do trabalho e toda uma nova pauta de interesses a serem regulados.

O tema “futuro do trabalho” mostra-se, portanto, de absoluta relevância e pertinência, desdobrando-se em diferentes vertentes. Partindo da análise de tecnologias próprias da Quarta Revolução Industrial que possuem o condão de modificar a experiência juslaboral até então sedimentada, a doutrina nacional tem majoritariamente apontado a necessidade de proteção do trabalhador em face da automação, bem como promovido o debate sobre a natureza da relação que se estabelece em tempos de “uberização” do trabalho, isto é, se os trabalhadores que desenvolvem suas funções através de plataformas digitais devem ser considerados como empregados ou não[2].

O presente artigo, porém, propõe-se a questionar uma outra repercussão juslaboral da Quarta Revolução Industrial, que se mostra ainda pouco explorada pela doutrina nacional: a aplicação da inteligência artificial conjugada com  mecanismos de tratamento de dados nos processos de recrutamento de novos empregados e os desvios discriminatórios possíveis em face das normas de Direito da Antidiscriminação.

Nessa senda de navegar pelo (ainda) desconhecido, à toda evidência, não há qualquer pretensão de esgotamento do tema em abordagem, mas sim de propiciar uma contribuição nova, em questão pouco explorada, mas que traz consigo repercussões consideráveis para o direito do trabalho do presente e, sobretudo, para aquele que se imagina para o futuro.

 

  1. LINHAS GERAIS SOBRE DIREITO DA ANTIDISCRIMINAÇÃO E SUA INTERLOCUÇÃO COM O DIREITO DO TRABALHO

 

Estatuindo a igualdade como um dos “valores supremos de uma sociedade fraterna, pluralista e sem preconceitos” em seu preâmbulo, a Constituição elenca o combate à discriminação como um objetivo da República (art. 3, inc. IV), enaltece o Princípio da Igualdade (art. 5º, caput) e prevê a punição de “qualquer discriminação atentatória dos direitos de liberdades fundamentais” (art. 5º, inc. XLI, da CRFB). Nisso já se evidencia a importância do Direito da Antidiscriminação para o ordenamento jurídico pátrio.

O termo “discriminação” não possui origem jurídica, mas provém da linguagem comum, possuindo diferentes acepções possíveis. É no processo de juridicização que constrói um significado próprio para o âmbito jurídico, sendo conceituado de maneira mais restrita como “todas e quaisquer diferenciações, exclusões ou restrições vivenciadas por alguns grupos que tenham por fim, ou por efeito, impedir ou dificultar o reconhecimento, o desfrute ou o exercício de direitos usuais da vida em sociedade, em igualdade de condições com terceiros”[3].

Para o combate da discriminação em sua acepção jurídica, o direito desenvolveu um ramo próprio, chamado de “Direito da Antidiscriminação”, cujas normas têm como finalidade precípua a proteção vinculada a certas características pessoais às quais, com frequência, são cominadas qualidades de inferioridade no âmbito social, como leciona Ferreira da Silva, que complementa:

Normas de Direito da Antidiscriminação voltam-se a evitar que o fato de pessoas portarem determinadas características seja fator capaz de ensejar – intencionalmente ou não – uma considerável redução das possibilidades de exercício das suas potencialidades sociais em relação a outros membros da mesma sociedade. Em geral, causas históricas determinam quais são essas características. Tomando-se de empréstimo o que usualmente se verifica em normas de Direito Internacional e de Direito Constitucional de diversos países, podem-se dar como exemplos dessas características a raça, a origem, o sexo, a orientação sexual, a idade, o fato de portar alguma deficiência e a religião[4].

Embora irradie seus efeitos sobre os diferentes espectros da vida em sociedade, o Direito da Antidiscriminação possui campo fértil no âmbito das relações de trabalho, de modo que se relaciona profundamente com o Direito do Trabalho.

A Convenção nº 111 da OIT, aprovada em 1958 na 42ª Conferência Internacional do Trabalho e promulgada no Brasil pelo Decreto nº 62.150/68, consagra o compromisso internacional de formulação e aplicação de políticas nacionais que assegurem iguais oportunidades em matéria de emprego e profissão, com o objetivo de eliminar atos discriminatórios no âmbito dos Estados membros. Traz consigo a relevante contribuição de definir o que deve ser entendido como discriminação na seara juslaboral:

  1. a) toda distinção, exclusão ou preferência, com base em raça, cor, sexo, religião, opinião política, nacionalidade ou origem social, que tenha o efeito de anular ou reduzir a igualdade de oportunidade ou de tratamento em emprego ou ocupação;
  2. b) qualquer outra distinção, exclusão ou preferência que tenha o efeito de anular ou prejudicar a igualdade de oportunidade ou de tratamento em emprego ou ocupação que possa ser determinada pelo Estado-membro em causa, após consulta com organizações representativas de empregadores e de trabalhadores, se as houver, e com outros órgãos pertinentes.

Cumprindo o compromisso internacional, a Constituição da República Federativa do Brasil de 1988 conta com proibições expressas quanto à discriminação no âmbito laboral, vedando a diferença de salários, de exercício de funções e de critérios de admissão, por motivo de deficiência, sexo, idade, cor ou estado civil, bem como a distinção entre funções ou profissões (art. 7º, incisos XXX, XXXI e XXXII, da CRFB).

No nível infraconstitucional, desde seu texto original de 1943, a CLT estabelece em seu artigo 5º que todo trabalho de igual valor deverá receber igual salário.

Com o advento da Lei nº 9.029/1995, passou a ser expressamente proibida a exigência de atestado de estado gravídico ou esterilização, bem como fora vedada a assim chamada “dispensa discriminatória”, a qual, em certos casos, pode ser inclusive presumida[5], assegurando-se a faculdade de a vítima optar pelo exercício do direito de reintegração.

Posteriormente, a Lei nº 9.799/1999 acrescentou o artigo 373-A à CLT, arrolando uma série de vedações que se traduzem em medidas antidiscriminatórias, in verbis:

Art. 373-A. Ressalvadas as disposições legais destinadas a corrigir as distorções que afetam o acesso da mulher ao mercado de trabalho e certas especificidades estabelecidas nos acordos trabalhistas, é vedado:                  

I – publicar ou fazer publicar anúncio de emprego no qual haja referência ao sexo, à idade, à cor ou situação familiar, salvo quando a natureza da atividade a ser exercida, pública e notoriamente, assim o exigir;

II – recusar emprego, promoção ou motivar a dispensa do trabalho em razão de sexo, idade, cor, situação familiar ou estado de gravidez, salvo quando a natureza da atividade seja notória e publicamente incompatível;            

III – considerar o sexo, a idade, a cor ou situação familiar como variável determinante para fins de remuneração, formação profissional e oportunidades de ascensão profissional;

IV – exigir atestado ou exame, de qualquer natureza, para comprovação de esterilidade ou gravidez, na admissão ou permanência no emprego;             

V – impedir o acesso ou adotar critérios subjetivos para deferimento de inscrição ou aprovação em concursos, em empresas privadas, em razão de sexo, idade, cor, situação familiar ou estado de gravidez;

VI – proceder o empregador ou preposto a revistas íntimas nas empregadas ou funcionárias.

    

Outrossim, a partir da Reforma Trabalhista instituída pela Lei nº 13.467/2017, restou inserido um novo § 6º ao artigo 461 da CLT, prevendo o pagamento de multa, no valor de 50% do limite máximo dos benefícios do Regime Geral da Previdência Social[6], em favor do empregado que venha a ser discriminado no valor de seu salário por motivo de sexo ou etnia. Embora a previsão legal de multa para tal discriminação seja louvável, o quantum prefixado pelo legislador parece não atender às finalidades pedagógico-punitivas que se espera de tal sanção.

Pelas normas citadas, vislumbra-se que, no âmbito laboral, a discriminação pode se configurar nas diferentes fases da relação de emprego, seja na admissão (v.g. exigência, pela empresa, de teste de estado gravídico para evitar a contratação de empregada que seria beneficiada pela respectiva garantia legal); na execução contratual (v.g. pagamento de salário inferior por questões étnicas); ou na cessação do vínculo (v.g. dispensa discriminatória de paciente portador do vírus HIV).

Todavia, a discriminação mostra-se mais recorrente na fase pré-contratual[7], notadamente no processo de recrutamento de novos empregados, por se tratar da etapa em que o empregador exerce o poder de escolha de quem irá ocupar o posto de trabalho, o que é aliado a um momento de grande vulnerabilidade do trabalhador, que se encontra, via de regra, desempregado e ansiando pela vaga que tem o potencial de lhe propiciar os meios necessários para a subsistência própria e de sua família[8].

Consagrando, pois, o Princípio Constitucional da Dignidade da Pessoa Humana e o Postulado da Igualdade, bem como o objetivo constitucional de combate à discriminação, a legislação vigente impede que questões referentes a deficiência, sexo, idade, etnia, situação familiar ou estado de gravidez, entre outras, constituam óbice a vagas de trabalho, salvo quando a natureza da atividade a ser exercida, pública e notoriamente, assim o exigir.

Ocorre que, como será visto, uma vez aplicadas nos processos de recrutamento de novos empregados, tecnologias propiciadas pela Quarta Revolução Industrial possuem potencial considerável de promover atos discriminatórios, demandando atenção redobrada por parte do jurista que se ocupe com o Futuro do Direito do Trabalho e defesa do Direito da Antidicriminação.

 

  1. INTELIGÊNCIA ARTIFICIAL E BIG DATA APLICADOS AO PROCESSO DE ADMISSÃO DE NOVOS EMPREGADOS

 

Pauline Kim, professora da universidade de Washington, aponta que muitos empregadores já estão confiando o recrutamento de novos empregados a ferramentas baseadas em inteligência artificial e big data nos Estados Unidos da América[9].

Para melhor apreciar essa questão, ainda que de modo breve e introdutório, apresentaremos o que deve ser entendido por inteligência artificial e big data.

Pois bem, segundo a engenharia da computação, inteligência artificial corresponde a máquinas autônomas hábeis a conduzir tarefas complexas sem intervenção humana, requerendo que estas sejam capazes de perceber e raciocinar[10]. Inteligência artificial seria, então, a construção de agentes que se comportam de maneira inteligente, como respostas racionais (outputs) aos dados recebidos (inputs). 

A inteligência artificial pode contar com habilidade de machine learning, isto é, programas de aprendizado de máquina que permitem o aperfeiçoamento automático desta conforme a experiência, possuindo a capacidade de aprender algo mesmo que não tenha sido explicitamente programada com a informação inata[11].

Segundo Martínez Devia, a inteligência artificial trabalha com dois elementos fundamentais: a) o poder da computação, que inclui o desenvolvimento de sistemas que permitem o processamento e as operações de dados; e b) o big data, grande conjunto de dados produzidos por diferentes fontes (humanos, máquinas, transações macro, uso da web, redes sociais, entre outros), que alimenta a inteligência. A autora observa que o uso contínuo de diferentes tecnologias (sites, aplicativos, serviços, sensores embutidos em dispositivos, pesquisas na Internet, redes sociais, notebooks, smartphones, dispositivos GPS, entre outros) aumentou em grande escala a quantidade de diária de informações armazenadas[12].

Assim, uma vez conjugados, big data e inteligência artificial oferecem mecanismos de tratamento de grande volume de dados e tomada de decisões automatizadas pela própria máquina.

Feita essa breve introdução, retornamos ao objeto de estudo da professora norte-americana.

Como exemplo da implementação de mecanismos conjugados de inteligência artificial e big data na admissão de novos empregados, Pauline Kim cita a) redes sociais que permitem o direcionamento de vagas pelos anunciantes a um público específico (ao passo que tais mídias tem em seu poder um vasto rol de dados a respeito de seus usuários, viabilizando perfeita segmentação[13]), inclusive com a ferramenta “lookalike audiences”, como a oferecida pelo Facebook, que analisa o grupo de funcionários existente na empresa e busca candidatos com perfis semelhantes; bem como b)  algoritmos de triagem automatizada, que, com base em correlações, buscam prever quais candidatos terão melhor desempenho no trabalho, algo útil para grandes empresas que recebem milhares de currículos, pois tal análise por pessoas humanas seria consideravelmente mais custosa, demandando muitas horas de trabalho. 

No que tange à publicidade direcionada das vagas de emprego, Kim ressalta haver risco considerável de o empregador defrontar-se com questões protegidas pelo Direito da Antidiscriminação ao definir os critérios e características que definirão quem será incluído ou excluído de ter acesso a uma determinada postagem de vaga de emprego. Ora, se for esse o interesse do anunciante, as ferramentas possibilitam segmentar a vaga conforme o gênero, etnia, faixa etária ou estado gravídico, ainda que de forma indireta, através das características extraídas dos perfis, como localização, preferências, curtidas, comunidades e etc. Assim, empregadores podem usar essas ferramentas para deliberadamente excluir ou atingir determinados grupos[14] [15].

Quanto aos algoritmos de triagem e pontuação de currículos, Kim ressalta que estes podem acabar por promover uma classificação discriminatória de candidatos, com base em características que são protegidas, ainda que de forma indireta, a partir de outros dados demográficos[16]. Por exemplo, a discriminação étnica pode se dar, inclusive, pelo código de endereçamento postal (CEP), quando se sabe que determinados bairros são mais habitados por este ou aquele grupo[17].

O que há em comum nas tecnologias de direcionamento de vagas e de algoritmos de triagem é que ambas oferecem mecanismos de análise de dados visando encontrar correlações estatísticas entre variáveis, de modo que experiências passadas são utilizadas para a construção de padrões que permitam inferir outras características, em um esforço de prever casos futuros.

Não se trata, pois, de relação direta de causalidade (causa e efeito), mas sim de correlação, envolvendo a soma de diversas características que, embora sozinhas nada representariam, em correlação podem fornecer um determinado padrão ou perfil. Isto, porém, pode resultar em erros ou vieses significativos, podendo vir a ocorrer perda de oportunidades de emprego por razões absolutamente arbitrárias[18].

Ora, ao passo que a ciência dos algoritmos visa detectar padrões nos dados para fazer previsões futuras, estas não representam necessariamente a realidade, mas uma versão derivada da mineração de dados, incluindo os possíveis vieses humanos e preconceitos refletidos nos dados, no algoritmo ou no modelo aprendido[19]. Assim, um algoritmo de contratação que seleciona candidatos comparando-os com os atuais funcionários de um empregador (modelo lookalike audiences) tenderá a reproduzir os vieses anteriormente existentes caso as práticas de contratação anteriores excluíssem certos grupos (por exemplo, se a empresa contratou majoritariamente homens, esta prática será percebida e replicada pelo algoritmo).

Nesse sentido, valendo-se de um caso fictício que denomina de “Tech Co”, a autora norte-americana Pauline Kim destaca que, embora passem uma imagem de aparente neutralidade – pois, em tese, as máquinas não estariam sujeitas às imperfeições humanas e toda a parcialidade decorrente das experiencias de vida –, tais ferramentas apresentam considerável risco de desfavorecer grupos protegidos por leis antidiscriminação[20].

Assim, a implementação da inteligência artificial e big data para a contratação de empregados demanda atenção e cuidado, com as mesmas preocupações que ensejaram a edição das normas de Direito da Antidiscriminação, abordadas no capítulo anterior. Tais normas deverão ser constantemente revisitadas pelo jurista ao se deparar com tecnologias da Quarta Revolução Industrial que guardem potencial discriminatório.

CONSIDERAÇÕES FINAIS

Debruçando-se sobre a aplicação conjugada de inteligência artificial e big data (tecnologias próprias da Quarta Revolução Industrial) nos processos de recrutamento de novos empregados, prática que na atualidade já vem sendo incorporada na experiência norte-americana de gestão de recursos humanos( e quiçá já em curso em nosso país), o presente artigo apontou a possibilidade de ocorrência de desvios discriminatórios.

As questões levantadas revelam a importância de o jurista do “futuro do trabalho” preocupar-se com o cumprimento dos desígnios constitucionais de erradicação das discriminações. Reconhece-se, porém, não ser esta uma tarefa fácil.

Afinal, caso empresas utilizem as ferramentas de segmentação de anúncios de vagas de emprego de modo discriminatório, selecionando um público-alvo com base em características demográficas que indiquem uma preferência ilegal (v.g. excluindo gêneros, etnias, faixas etárias, mulheres em estado gravídico, etc.), o grupo excluído e as entidades de fiscalização nem sequer terão acesso ao anúncio, pois a estes a publicação não será direcionada.

O problema, portanto, não é de tão fácil apuração como quando a veiculação se dava em anúncios em jornais com expressa menção discriminatória[21] (como vedado no art. 373-A, inc. I, da CLT). Nesses casos do passado, o grupo prejudicado tomava ciência da exclusão pela leitura do jornal e poderia tomar as medidas cabíveis, assim como o Ministério Público do Trabalho, que guarda legitimidade para a defesa dos direitos dessa coletividade. No entanto, devido às diferenças entre as novas publicações direcionadas por algoritmos e os antigos anúncios publicados em jornais impressos de grande circulação, afigura-se incerto como as normas de Antidiscriminação poderão propiciar efetiva tutela dos desígnios constitucionais e fiscalização e correção  dos desvios.

No que pertine aos algoritmos de classificação de candidatos, embora entusiastas da inteligência artificial indiquem que a capacidade de machine learning serviria para corrigir eventuais falhas, no contexto das relações de emprego o aprendizado de máquina é limitado porque esse feedback nem sempre ocorrerá. Afinal, se um algoritmo estiver rotulando candidatos qualificados e não qualificados, o empregador só contratará candidatos identificados, de modo que se algum dos rotulados como “não qualificados” forem de fato “qualificados”, isso dificilmente será constatado pelo empregador, pois a eles não será oferecido o trabalho, de modo que tais erros passarão despercebidos e o modelo não aprenderá a corrigir esses erros, que terão a tendência de se perpetuarem.

Uma solução, ainda que parcial para essas inquietações, possivelmente seja encontrada através do exercício do “direito de explicação”, previsto em nossa Lei Geral de Proteção de Dados (art. 20, § 1º) [22], através do qual aquele que teve seus dados tratados por algoritmos de decisão automatizada pode exigir esclarecimentos a respeito dos critérios e dos procedimentos utilizados para a tomada da decisão automatizada. Tal exigência de explicação é considerada legítima quando há suspeita de o algoritmo estar se valendo de informações proibidas para tomar suas decisões[23], como no caso hipotético de considerar a etnia do candidato para decidir sobre o seu acesso ao emprego[24].

No caso de ter questionados os fundamentos adotados para a tomada das decisões automatizadas, o empregador e/ou fornecedor da tecnologia devem suportar o ônus probatório de demonstrar que o modelo é válido e que as características consideradas são substantivamente significativas, não bastando alegar de maneira genérica que são relacionadas ao trabalho[25].

Fato é que a experiência norte-americana retratada pela Professora Pauline Kim aponta que já no presente o grande volume de dados produzidos e o crescimento da utilização de inteligência artificial está transformando a forma como os empregadores recrutam, selecionam e gerenciam seus empregados nos Estados Unidos.

Destarte, avoca-se o Direito da Antidiscriminação para um novo âmbito de proteções, demandando sua atualização para manter-se eficaz, de modo a incentivar que os empregadores utilizem os dados de forma responsável e sem promover novas formas de discriminação.

Cada nova Revolução Industrial vem carregada de inquietações decorrentes da série de elementos disruptivos que lhe são indissociáveis. Suas inovações impactam sobremaneira a sociedade e demandam novas soluções para novos desafios. Quanto ao tema desvendado neste artigo, não é diferente.

À guisa de considerações finais, regista-se que embora o enfrentamento desses novos desafios não seja simples, o jurista pode encontrar na Constituição um porto seguro, que independentemente do momento histórico-tecnológico, permanece elencando o combate à discriminação como um objetivo-mor da República (art. 3, inc. IV, da CRFB).

 

REFERÊNCIAS

 

ALVARENGA, Rúbia Zanotelli De; CUNHA, Cristine Helena; AMARAL, Jéssica Maria Sousa Gurgel. A eficácia diagonal dos direitos fundamentais como uma limitação ao poder empregatício: uma análise da aplicação do princípio da não discriminação na fase pré-contratual das relações de emprego. Revista de Direito do Trabalho, vol. 211/2020, p. 253–268, 2020.

AZEVEDO, André Jobim; JAHN. Vitor Kaiser. A tutela dos direitos de explicação e revisão das decisões automatizadas no brasil. In: Álvaro Sanchez Bravo. (Org.). Derecho, Inteligencia Artificial y nuevos entornos digitales. 1 ed. Sevilha: Punto Rojo Libros, 2020, v. 1, p. 195-219.

BROOKSHEAR, J. Glenn. Ciência da computação: uma visão abrangente. Tradução de Eduardo Kessler Piveta. 11ª ed. Porto Alegre: Bookman, 2013.

DORNELES, Leandro do Amaral D.; JAHN, Vitor Kaiser. Cem anos da OIT e perspectivas futuras: a necessária ampliação do objeto tutelado pelo direito do trabalho para proteção do trabalhador digital. In: ROCHA, Cláudio Jannotti et al (org.). A organização internacional do trabalho: sua história, missão e desafios, volume 1. São Paulo: Tirant lo Blanch, 2020, p. 91-116. Disponível em https://editorial.tirant.com/br/libro/a-organizacao-internacional-do-trabalho-sua-historia-missao-e-desafios-claudio-jannotti-da-rocha-9786586093773. Acesso em jul. 2020.

DOSHI-VELEZ, Finale; KORTZ, Mason; BUDISH, Ryan; BAVITZ, Christopher; GERSHMAN, Samuel J.; O’BRIEN, David; SHIEBER, Stuart; WALDO, Jim; WEINBERGER, David; WOOD, Alexandra. Accountability of AI Under the Law: The Role of Explanation. Harvard Public Law Working Paper, n. 18, 2007.

INSTITUTO DE TECNOLOGIA E SOCIEDADE DO RIO. Transparência e governança nos algoritmos: um estudo de caso sobre o setor de birôs de crédito. Rio de Janeiro: ITS, 2017. Disponível em https://itsrio.org/wp-content/uploads/2017/05/algorithm-transparency-and-governance-pt-br.pdf. Acesso em jul. 2020.

KAMARINOU, Dimitra; MILLARD, Christopher; SINGH, Jatinder. Machine Learning with Personal Data. Queen Mary School of Law Legal Studies Research Paper, n. 247, 2016. Disponível em: https://ssrn.com/abstract=2865811. Acesso em jul. 2020.

KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, 2018. Disponível em: https://ssrn.com/abstract=3296521. Acesso em jul. 2020.

MARTÍNEZ DEVIA, Andrea. La inteligencia artificial, el big data y la era digital: ¿una amenaza para los datos personales? La Propiedad Inmaterial, n. 27, 2019. Disponível em: https://ssrn.com/abstract=3413806. Acesso em jul. 2020.

SCHWAB, Klaus. A quarta revolução industrial. Tradução de Daniel Moreira Miranda. São Paulo: Edipro, 2016.

SILVA, Amanda Carolina Souza; SOUZA, Carlos Eduardo Silva e. A proibição de discriminação nos contratos e suas implicações nas relações de trabalho. Revista de Direito do Trabalho, vol. 198/2019, p. 53 – 82, 2019.

SILVA, Jorge Cesa Ferreira da. Antidiscriminação e contrato: a integração entre proteção e autonomia. 1. ed. São Paulo: Thomson Reuters Brasil, 2020.

[1]     SCHWAB, Klaus. A quarta revolução industrial. Tradução de Daniel Moreira Miranda. São Paulo: Edipro, 2016, p. 8.

[2]     A respeito da necessidade de ampliação do objeto do direito do trabalho para a proteção do trabalhador digital, ver: DORNELES, Leandro do Amaral D.; JAHN, Vitor Kaiser. Cem anos da OIT e perspectivas futuras: a necessária ampliação do objeto tutelado pelo direito do trabalho para proteção do trabalhador digital. In: ROCHA, Cláudio Jannotti et al (org.). A organização internacional do trabalho: sua história, missão e desafios, volume 1. São Paulo: Tirant lo Blanch, 2020, p. 91-116. Disponível em https://editorial.tirant.com/br/libro/a-organizacao-internacional-do-trabalho-sua-historia-missao-e-desafios-claudio-jannotti-da-rocha-9786586093773. Acesso em jul. 2020.

[3]     SILVA, Jorge Cesa Ferreira da. Antidiscriminação e contrato: a integração entre proteção e autonomia. 1. ed. São Paulo: Thomson Reuters Brasil, 2020.

[4]     Ibidem.

[5]     Súmula nº 443 do TST: DISPENSA DISCRIMINATÓRIA. PRESUNÇÃO. EMPREGADO PORTADOR DE DOENÇA GRAVE. ESTIGMA OU PRECONCEITO. DIREITO À REINTEGRAÇÃO. Presume-se discriminatória a despedida de empregado portador do vírus HIV ou de outra doença grave que suscite estigma ou preconceito. Inválido o ato, o empregado tem direito à reintegração no emprego.

[6]     O que corresponde, hoje, a R$ 3.050,53, haja vista o valor-teto de R$ 6.101,06 estabelecido na Portaria do Ministério da Economia 914/2020.

[7]     SILVA, Amanda Carolina Souza; SOUZA, Carlos Eduardo Silva e. A proibição de discriminação nos contratos e suas implicações nas relações de trabalho. Revista de Direito do Trabalho, vol. 198/2019, p. 53 – 82, 2019.

[8]     ALVARENGA, Rúbia Zanotelli De; CUNHA, Cristine Helena; AMARAL, Jéssica Maria Sousa Gurgel. A eficácia diagonal dos direitos fundamentais como uma limitação ao poder empregatício: uma análise da aplicação do princípio da não discriminação na fase pré-contratual das relações de emprego. Revista de Direito do Trabalho, vol. 211/2020, p. 253 – 268, 2020.

[9]     KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, 2018. Disponível em: https://ssrn.com/abstract=3296521. Acesso em jul. 2020.

[10]   BROOKSHEAR, J. Glenn. Ciência da computação: uma visão abrangente. Tradução de Eduardo Kessler Piveta. 11ª ed. Porto Alegre: Bookman, 2013.

[11]   KAMARINOU, Dimitra; MILLARD, Christopher; SINGH, Jatinder. Machine Learning with Personal Data. Queen Mary School of Law Legal Studies Research Paper, n. 247, 2016. Disponível em: https://ssrn.com/abstract=2865811. Acesso em jul. 2020.

[12]   MARTÍNEZ DEVIA, Andrea. La inteligencia artificial, el big data y la era digital: ¿una amenaza para los datos personales? La Propiedad Inmaterial, n. 27, 2019. Disponível em: https://ssrn.com/abstract=3413806. Acesso em jul. 2020.

[13]   Conforme a autora, o Facebook sabe de tudo o que fazemos dentro dele, mas não só; também sobre nosso comportamento offline. Sabe do que gostamos, quem são nossos amigos, quais links clicamos, para onde viajamos e com o que gastamos nosso dinheiro. KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, 2018. Disponível em: https://ssrn.com/abstract=3296521. Acesso em jul. 2020.

[14]   KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, 2018. Disponível em: https://ssrn.com/abstract=3296521. Acesso em jul. 2020.

[15]   Diante dessa constatação, afigura-se pertinente retornar à leitura do disposto no art. 373-A, inc. I, da CLT, citado no primeiro capítulo deste artigo.

[16]   KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, 2018. Disponível em: https://ssrn.com/abstract=3296521. Acesso em jul. 2020.

[17]   “A verificação da discriminação de grupos considerados vulneráveis demanda análise não meramente da amostragem dos dados utilizados em um sistema decisional, mas, também, dos seus critérios. É comum que determinados outputs que possam ser considerados negativamente discriminatórios, por exemplo, sejam consolidados a partir da análise de dados que não identifiquem diretamente a natureza específica que caracteriza a vulnerabilidade de um grupo, porém funcione como ligação para esta característica. Exemplo disso é o caso do código de endereçamento postal (CEP). Apesar de o CEP não conter informação que em si mesma implique juízo de valor, quando combinado com a apreciação de dados sociodemográficos sobre o conjunto de habitantes em determinadas localidades, identificáveis pelo CEP, pode ocasionar diversas inferências que tenham como consequência a discriminação de uma comunidade vulnerável”. INSTITUTO DE TECNOLOGIA E SOCIEDADE DO RIO. Transparência e Governança nos algoritmos: um estudo de caso sobre o setor de birôs de crédito. Rio de Janeiro: ITS, 2017, p. 12. Disponível em https://itsrio.org/wp-content/uploads/2017/05/algorithm-transparency-and-governance-pt-br.pdf. Acesso em jul. 2020.

[18]   Algoritmos de big data muitas vezes se baseiam em correlações inexplicáveis com observações sobre o comportamento de um indivíduo, em vez de medir habilidades diretamente relacionadas ao desempenho do trabalho.

[19]   KAMARINOU, Dimitra; MILLARD, Christopher; SINGH, Jatinder. Machine Learning with Personal Data. Queen Mary School of Law Legal Studies Research Paper, n. 247, 2016.

[20]   “To explore these issues, I will begin with a story about a fictional tech company, Tech Co. It is experiencing rapid growth and needs to hire many computer programmers quickly. It wants to hire the best talent as efficiently as possible. To accomplish this, it decides to pursue an aggressive social media campaign to target potential applicants. Using tools provided by social media platforms like Facebook, it pushes job advertisements to a narrowly tailored audience—those predicted to be the best candidates. These targeted users see the advertisement on their Facebook news feed. The ad contains a link that takes interested viewers to the website of a third-party vendor hired by the employer to collect and screen applicants. On the website, applicants provide basic personal information, upload a résumé, and take an online test or personality inventory. The vendor aggregates this information with other data available from third-party data brokers and enters it into its proprietary algorithm. The algorithm sorts and ranks applicants and the results are used to recommend the best candidates to Tech Co. Very few of the programmers at Tech Co. are women, and they tend to leave at higher rates than their male counterparts. While the company is concerned by these numbers, it believes that data-driven strategies will be more efficient and more accurate. Moreover, because gender is not a factor in the advertising or hiring algorithms, it assumes that the process is fair. After pursuing this data-driven strategy for some months, the company notices a pattern. First, the percentage of female applicants is much lower than the percentage of female Facebook users. Second, the females who do apply are rarely recommended for hire. Over time, more women leave the firm and their total numbers fall steadily. The company says that it would like to hire more women, but it believes the algorithm is neutral, so it must be that women lack the objective criteria that predict success on the job. This story is intended to illustrate the risk that big data and algorithms may disadvantage groups that are protected by antidiscrimination laws—such as racial and ethnic minorities, women, older workers, and individuals with disabilities. As I will explain, algorithms sometimes operate in ways that are systematically biased against certain groups. When that happens, the effects will look very similar to traditional forms of discrimination”. KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, 2018, p. 1-2. Disponível em: https://ssrn.com/abstract=3296521. Acesso em jul. 2020.

[21]   A experiência norte-americana no Séc. XX era de muitos anúncios de empregos segregados por gêneros e, inclusive, com menções expressas a preferências étnicas: “One of the aims of Title VII the Civil Rights Act of 1964 was to end job segregation. In the first half of the 20th century, help wanted ads were typically sexsegregated and often expressed racial or ethnic preferences. In response, Title VII, in addition to prohibiting discrimination, also made it unlawful for employers to publish advertisements that ‘indicate a preference, limitation, specification or discrimination’ based on a forbidden characteristic”. KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, 2018, p. 10. Disponível em: https://ssrn.com/abstract=3296521. Acesso em jul. 2020.

[22]   Art. 20, § 1º, LGPD – O controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial.

[23]   DOSHI-VELEZ, Finale; KORTZ, Mason; BUDISH, Ryan; BAVITZ, Christopher; GERSHMAN, Samuel J.; O’BRIEN, David; SHIEBER, Stuart; WALDO, Jim; WEINBERGER, David; WOOD, Alexandra. Accountability of AI Under the Law: The Role of Explanation. Harvard Public Law Working Paper, n. 18/2007.

[24]   A respeito do exercício do direito de explicação em face de decisões automatizadas, indica-se a leitura de outra obra de nossa autoria, na qual o tema é devidamente aprofundado: AZEVEDO, André Jobim; JAHN. Vitor Kaiser. A tutela dos direitos de explicação e revisão das decisões automatizadas no brasil. In: Álvaro Sanchez Bravo. (Org.). Derecho, Inteligencia Artificial y nuevos entornos digitales. 1 ed. Sevilha: Punto Rojo Libros, 2020, v. 1, p. 195-219.

[25]   KIM, Pauline. Big Data and Artificial Intelligence: new challenges for workplace equality. University of Louisville Law Review, 2018, p. 13. Disponível em: https://ssrn.com/abstract=3296521. Acesso em jul. 2020.

Deixe um comentário

O seu endereço de e-mail não será publicado.