{"id":10356,"date":"2022-03-03T14:44:09","date_gmt":"2022-03-03T17:44:09","guid":{"rendered":"https:\/\/faracodeazevedo.com.br\/?p=10356"},"modified":"2022-03-03T15:28:47","modified_gmt":"2022-03-03T18:28:47","slug":"a-tutela-dos-direitos-de-explicacao-e-revisao-das-decisoes-automatizadas-no-brasil","status":"publish","type":"post","link":"https:\/\/faracodeazevedo.com.br\/index.php\/2022\/03\/03\/a-tutela-dos-direitos-de-explicacao-e-revisao-das-decisoes-automatizadas-no-brasil\/","title":{"rendered":"A TUTELA DOS DIREITOS DE EXPLICA\u00c7\u00c3O E REVIS\u00c3O DAS DECIS\u00d5ES AUTOMATIZADAS NO BRASIL"},"content":{"rendered":"\t\t<div data-elementor-type=\"wp-post\" data-elementor-id=\"10356\" class=\"elementor elementor-10356\" data-elementor-post-type=\"post\">\n\t\t\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-3b2a3bf7 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"3b2a3bf7\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-53ea27ec\" data-id=\"53ea27ec\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t<div class=\"elementor-element elementor-element-3e37db7a elementor-widget elementor-widget-text-editor\" data-id=\"3e37db7a\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.19.0 - 29-01-2024 *\/\n.elementor-widget-text-editor.elementor-drop-cap-view-stacked .elementor-drop-cap{background-color:#69727d;color:#fff}.elementor-widget-text-editor.elementor-drop-cap-view-framed .elementor-drop-cap{color:#69727d;border:3px solid;background-color:transparent}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap{margin-top:8px}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap-letter{width:1em;height:1em}.elementor-widget-text-editor .elementor-drop-cap{float:left;text-align:center;line-height:1;font-size:50px}.elementor-widget-text-editor .elementor-drop-cap-letter{display:inline-block}<\/style>\t\t\t\t<h6 style=\"text-align: right;\"><span style=\"color: #000000;\">Andr\u00e9 Jobim de Azevedo<\/span><\/h6><h6 style=\"text-align: right;\"><span style=\"color: #000000;\">Vitor Kaiser Jahn.<\/span><\/h6><p>\u00a0<\/p><p><span style=\"color: #000000;\">INTRODU\u00c7\u00c3O<\/span><\/p><p><span style=\"color: #000000;\">Presenciamos o desenvolvimento de novas tecnologias<\/span><br \/><span style=\"color: #000000;\">classificadas como disruptivas, dado o seu consider\u00e1vel potencial <\/span><span style=\"color: #000000;\">de modifica\u00e7\u00e3o abrupta da realidade e da sociedade. Elas t\u00eam <\/span><span style=\"color: #000000;\">afetado a forma como as pessoas se comunicam e relacionam, as fontes de energia, as rela\u00e7\u00f5es de trabalho e o processo <\/span><span style=\"color: #000000;\">produtivo como um todo, os transportes, al\u00e9m do modo de <\/span><span style=\"color: #000000;\">consumo de bens e servi\u00e7os.<\/span><br \/><span style=\"color: #000000;\">Nesse novo contexto, os dados pessoais s\u00e3o compreendidos<\/span><br \/><span style=\"color: #000000;\">como um dos principais ativos empresariais da sociedade<\/span><br \/><span style=\"color: #000000;\">contempor\u00e2nea, uma vez que o seu refinamento permite a segmenta\u00e7\u00e3o dos consumidores para os quais \u00e9 dirigida a oferta e uma maior precis\u00e3o na an\u00e1lise dos riscos de contrata\u00e7\u00e3o.\u00a0<\/span><\/p><p><span style=\"color: #000000;\">Tais dados, por\u00e9m, s\u00e3o extremamente extensos e numerosos, de <\/span><span style=\"color: #000000;\">modo que o seu tratamento se apresenta como tarefa muito<\/span><br \/><span style=\"color: #000000;\">custosa, sen\u00e3o imposs\u00edvel, para ser realizada exclusivamente por pessoas humanas. Afinal, nem se cogita quantas horas de<\/span><br \/><span style=\"color: #000000;\">trabalho uma pessoa levaria para apurar e analisar todos os dados relevantes em correla\u00e7\u00e3o at\u00e9 refin\u00e1-los para o prop\u00f3sito<\/span><br \/><span style=\"color: #000000;\">desejado. Assim, a tecnologia tem se mostrado fundamental<\/span><br \/><span style=\"color: #000000;\">para o tratamento de dados, de modo que n\u00e3o \u00e9 \u201chiperb\u00f3lico\u201d<\/span><br \/><span style=\"color: #000000;\">afirmar que nossa sociedade depende, e tende a cada vez tornar-se mais dependente, de algoritmos de machine learning<\/span><br \/><span style=\"color: #000000;\">vinculados \u00e0 intelig\u00eancia artificial<\/span><span style=\"color: #000000;\">.<\/span><br \/><span style=\"color: #000000;\">A Intelig\u00eancia artificial, segundo a engenharia da computa\u00e7\u00e3o,<\/span><br \/><span style=\"color: #000000;\">corresponde a m\u00e1quinas aut\u00f4nomas que possam conduzir<\/span><br \/><span style=\"color: #000000;\">tarefas complexas sem interven\u00e7\u00e3o humana, requerendo que<\/span><br \/><span style=\"color: #000000;\">estas sejam capazes de perceber e de raciocinar.<\/span><span style=\"color: #000000;\"> Intelig\u00eancia artificial seria, ent\u00e3o, a constru\u00e7\u00e3o de agentes que se comportam <\/span><span style=\"color: #000000;\">de maneira inteligente, como respostas racionais aos dados <\/span><span style=\"color: #000000;\">recebidos.<\/span><br \/><span style=\"color: #000000;\">Segundo Mart\u00ednez Devia, a intelig\u00eancia artificial trabalha com<\/span><br \/><span style=\"color: #000000;\">dois elementos fundamentais: o poder da computa\u00e7\u00e3o, que inclui <\/span><span style=\"color: #000000;\">o desenvolvimento de sistemas que permitem o processamento <\/span><span style=\"color: #000000;\">e as opera\u00e7\u00f5es de dados; e o big data, grande conjunto de dados <\/span><span style=\"color: #000000;\">produzidos por diferentes fontes (humanas, biom\u00e9tricas, <\/span><span style=\"color: #000000;\">m\u00e1quinas, transa\u00e7\u00f5es macro, uso da web, redes sociais, entre <\/span><span style=\"color: #000000;\">outros), que alimenta a intelig\u00eancia. A autora observa que o uso c<\/span><span style=\"color: #000000;\">ont\u00ednuo de diferentes tecnologias (sites, aplicativos, servi\u00e7os, <\/span><span style=\"color: #000000;\">sensores embutidos em dispositivos, pesquisas na Internet, <\/span><span style=\"color: #000000;\">redes sociais, notebooks, smartphones, dispositivos GPS, entre outros) aumentou em grande escala a quantidade de di\u00e1ria de <\/span><span style=\"color: #000000;\">informa\u00e7\u00f5es armazenadas<\/span><span style=\"color: #000000;\">.<\/span><br \/><span style=\"color: #000000;\">Essa conjuga\u00e7\u00e3o de sistemas de intelig\u00eancia artificial com a<\/span><br \/><span style=\"color: #000000;\">capacidade de machine learning no tratamento de dados em<\/span><br \/><span style=\"color: #000000;\">massa permite o desenvolvimento da tomada de decis\u00f5es<\/span><br \/><span style=\"color: #000000;\">absolutamente aut\u00f4nomas em rela\u00e7\u00e3o \u00e0 interfer\u00eancia humana,<\/span><br \/><span style=\"color: #000000;\">especialmente para fins de cria\u00e7\u00e3o de perfis dos titulares dos <\/span><span style=\"color: #000000;\">dados.<\/span><br \/><span style=\"color: #000000;\">Ora, sendo machine learning a ci\u00eancia dos algoritmos que visa<\/span><br \/><span style=\"color: #000000;\">detectar padr\u00f5es nos dados para fazer previs\u00f5es precisas para<\/span><br \/><span style=\"color: #000000;\">dados futuros, Kamarinou et al apontam ser apropriado usar<\/span><br \/><span style=\"color: #000000;\">algoritmos de aprendizado de m\u00e1quina para fins de cria\u00e7\u00e3o de<\/span><br \/><span style=\"color: #000000;\">perfil, tendo em vista que estes s\u00e3o padr\u00f5es resultantes de um<\/span><br \/><span style=\"color: #000000;\">processamento probabil\u00edstico de dados, os quais, por\u00e9m, n\u00e3o<\/span><br \/><span style=\"color: #000000;\">representam necessariamente a realidade, mas uma vers\u00e3o<\/span><br \/><span style=\"color: #000000;\">derivada da minera\u00e7\u00e3o de dados, incluindo os algoritmos e dados <\/span><span style=\"color: #000000;\">utilizados e os poss\u00edveis vieses humanos e preconceitos <\/span><span style=\"color: #000000;\">refletidos nos dados, no algoritmo ou no modelo aprendido.<\/span><\/p><p><span style=\"color: #000000;\">Conforme Caitlin Mulholland e Isabella Frajhof, a partir da <\/span><span style=\"color: #000000;\">capacidade de machine learning, o pr\u00f3prio sistema alcan\u00e7a <\/span><span style=\"color: #000000;\">resultados por meio de processos dedutivos e an\u00e1lises <\/span><span style=\"color: #000000;\">estat\u00edsticas que v\u00e3o sendo determinados com base em<\/span><br \/><span style=\"color: #000000;\">correla\u00e7\u00f5es realizadas pela intelig\u00eancia artificial e, nesse cen\u00e1rio, <\/span><span style=\"color: #000000;\">o controle sobre os inputs e outputs dos sistemas torna-se ainda mais prec\u00e1rio. De fato, se o pr\u00f3prio c\u00f3digo est\u00e1 em constante <\/span><span style=\"color: #000000;\">muta\u00e7\u00e3o, n\u00e3o se sabe em que medida ser\u00e1 poss\u00edvel compreender <\/span><span style=\"color: #000000;\">a rela\u00e7\u00e3o entre inputs e outputs, ainda que haja auditagem e <\/span><span style=\"color: #000000;\">transpar\u00eancia.<\/span><\/p><p><span style=\"color: #000000;\">Ocorre que, na medida em que o tratamento de dados tem <\/span><span style=\"color: #000000;\">crescido exponencialmente e que as decis\u00f5es correspondentes <\/span><span style=\"color: #000000;\">passam a ser delegadas \u00e0 intelig\u00eancia artificial em processos <\/span><span style=\"color: #000000;\">decis\u00f3rios automatizados, eventuais falhas podem causar <\/span><span style=\"color: #000000;\">severos preju\u00edzos \u00e0 pessoa titular dos dados, afetando diversos<\/span><br \/><span style=\"color: #000000;\">aspectos da sua vida, al\u00e9m de haver elevado potencial de <\/span><span style=\"color: #000000;\">ocorrerem discrimina\u00e7\u00f5es.<\/span><br \/><span style=\"color: #000000;\">Afinal, dentro do grande conjunto de dados que s\u00e3o coletados <\/span><span style=\"color: #000000;\">mediante a t\u00e9cnica de big data, encontra-se principalmente <\/span><span style=\"color: #000000;\">dados pessoais, o que desencadeia risco para o titular, se n\u00e3o for <\/span><span style=\"color: #000000;\">feito um tratamento respons\u00e1vel, \u00e9tico e transparente que<\/span><br \/><span style=\"color: #000000;\">proteja seus direitos e liberdades.<\/span><br \/><span style=\"color: #000000;\">Por esses motivos, a Lei Geral de Prote\u00e7\u00e3o de Dados Pessoais<\/span><br \/><span style=\"color: #000000;\">(LGPD) brasileira tutela a prote\u00e7\u00e3o do titular dos dados <\/span><span style=\"color: #000000;\">mediante a previs\u00e3o de direitos de \u201cexplica\u00e7\u00e3o\u201d e de \u201crevis\u00e3o\u201d de <\/span><span style=\"color: #000000;\">decis\u00f5es tomadas unicamente com base em tratamento <\/span><span style=\"color: #000000;\">automatizado de dados pessoais. Contudo, a LGPD revela-se <\/span><span style=\"color: #000000;\">pouco objetiva quanto ao ponto, trazendo d\u00favidas acerca da forma como dever\u00e1 ser explicada a decis\u00e3o automatizada, ou <\/span><span style=\"color: #000000;\">mesmo como dever\u00e1 se dar o procedimento de revis\u00e3o, o que se <\/span><span style=\"color: #000000;\">prop\u00f5e investigar atrav\u00e9s do presente artigo.<\/span><\/p><p><br \/><span style=\"color: #000000;\">REGULA\u00c7\u00c3O DAS DECIS\u00d5ES <\/span><span style=\"color: #000000;\">AUTOMATIZADAS<\/span><\/p><p><br \/><span style=\"color: #000000;\">\u00c9 not\u00f3rio que a Lei Geral de Prote\u00e7\u00e3o de Dados Pessoais (LGPD)<\/span><br \/><span style=\"color: #000000;\">brasileira foi em muito inspirada pelo Regulamento Europeu de<\/span><br \/><span style=\"color: #000000;\">Prote\u00e7\u00e3o de Dados (General Data Protection Regulation &#8211; <\/span><span style=\"color: #000000;\">GDPR), aprovado no ano de 2016.<\/span><br \/><span style=\"color: #000000;\">Assim, analisaremos, ainda que sumariamente, o regramento <\/span><span style=\"color: #000000;\">europeu acerca das decis\u00f5es automatizadas para, ap\u00f3s, apreciar<\/span><br \/><span style=\"color: #000000;\">a forma como a mat\u00e9ria \u00e9 disciplinada pela legisla\u00e7\u00e3o brasileira.<\/span><\/p><p><br \/><span style=\"color: #000000;\">DECIS\u00d5ES AUTOMATIZADAS NO GDPR <\/span><span style=\"color: #000000;\">EUROPEU<\/span><\/p><p><br \/><span style=\"color: #000000;\">O artigo 22 do GDPR14 assegura ao titular dos dados, como regra <\/span><span style=\"color: #000000;\">geral, o direito de recusar-se a ser submetido a decis\u00f5es <\/span><span style=\"color: #000000;\">exclusivamente automatizadas, incluindo a defini\u00e7\u00e3o de perfis (item \u201c1\u201d) 15, mas ressalva que, caso venha a submeter-se por necessidade contratual, em virtude de autoriza\u00e7\u00e3o legal, ou por <\/span><span style=\"color: #000000;\">consentimento expl\u00edcito (item \u201c2\u201d), o titular dos dados poder\u00e1 <\/span><span style=\"color: #000000;\">exigir a revis\u00e3o da decis\u00e3o automatizada por pessoa humana, <\/span><span style=\"color: #000000;\">podendo assim manifestar sua opini\u00e3o acerca da decis\u00e3o e <\/span><span style=\"color: #000000;\">contest\u00e1-la (item \u201c3\u201d), viabilizando o ajuste de eventuais erros.<\/span><br \/><span style=\"color: #000000;\">Conforme Ferrari e Becker, suscita-se, ent\u00e3o um direito \u00e0 <\/span><span style=\"color: #000000;\">interven\u00e7\u00e3o humana:<\/span><\/p><p><span style=\"color: #000000;\">A revis\u00e3o de decis\u00f5es algor\u00edtmicas por humanos j\u00e1 \u00e9 bastante<\/span><br \/><span style=\"color: #000000;\">debatida na doutrina estrangeira a ponto de ter sido suscitada a<\/span><br \/><span style=\"color: #000000;\">exist\u00eancia de um \u201cdireito a uma interven\u00e7\u00e3o humana\u201d (right to a<\/span><br \/><span style=\"color: #000000;\">human in the loop). De um lado, especialistas defendem que a<\/span><br \/><span style=\"color: #000000;\">interven\u00e7\u00e3o humana \u00e9 imprescind\u00edvel para proteger a dignidade <\/span><span style=\"color: #000000;\">do usu\u00e1rio, cujos dados s\u00e3o utilizados para alimentar os <\/span><span style=\"color: #000000;\">algoritmos de tomada de decis\u00f5es, e mitigar seus efeitos<\/span><br \/><span style=\"color: #000000;\">delet\u00e9rios. Do outro, doutrinadores acreditam que, com uma <\/span><span style=\"color: #000000;\">pessoa natural no processo decis\u00f3rio, ele poder\u00e1 restar <\/span><span style=\"color: #000000;\">contaminado por vieses humanos.<\/span><br \/><span style=\"color: #000000;\">Outrossim, o artigo 15, al\u00ednea \u201ch\u201d, do GDPR17, outorga ao titular<\/span><br \/><span style=\"color: #000000;\">dos dados que venha a ser submetido a decis\u00f5es automatizadas o direito de obter do respons\u00e1vel pelo tratamento informa\u00e7\u00f5es<\/span><br \/><span style=\"color: #000000;\">atinentes \u00e0 l\u00f3gica subjacente \u00e0 decis\u00e3o18 e das consequ\u00eancias envolvidas.<\/span><br \/><span style=\"color: #000000;\">Cita-se, ainda, o considerando n\u00ba 71 do GDPR19, o qual indica a <\/span><span style=\"color: #000000;\">garantia de o titular dos dados obter uma explica\u00e7\u00e3o sobre a <\/span><span style=\"color: #000000;\">decis\u00e3o tomada. Contudo, para o direito comunit\u00e1rio, os <\/span><span style=\"color: #000000;\">considerandos n\u00e3o s\u00e3o dotados de for\u00e7a vinculativa, apenas <\/span><span style=\"color: #000000;\">fornecendo orienta\u00e7\u00f5es sobre a interpreta\u00e7\u00e3o dos artigos da <\/span><span style=\"color: #000000;\">norma que antecedem. Assim, os considerandos n\u00e3o poderiam <\/span><span style=\"color: #000000;\">criar direitos que n\u00e3o estejam previstos nos artigos do GDPR.<\/span><\/p><p><span style=\"color: #000000;\">Constituiu-se, ent\u00e3o, interessante diverg\u00eancia doutrin\u00e1ria a r<\/span><span style=\"color: #000000;\">espeito de o GDPR assegurar ou n\u00e3o ao titular de dados um <\/span><span style=\"color: #000000;\">direito \u00e0 explica\u00e7\u00e3o da decis\u00e3o automatizada. Isso porque, como <\/span><span style=\"color: #000000;\">visto, o artigo 15, al\u00ednea \u201ch\u201d, do GDPR, prev\u00ea o direito a <\/span><span style=\"color: #000000;\">\u201cinforma\u00e7\u00f5es \u00fateis sobre a l\u00f3gica subjacente\u201d, apenas estando\u00a0 xpressamente referido o direito a\u0300 \u201cexplica\u00e7\u00e3o da decis\u00e3o\u201d no<\/span><br \/><span style=\"color: #000000;\">Considerando.<\/span><br \/><span style=\"color: #000000;\">Por essa raz\u00e3o, Watcher, Mittelstadt e Floridi defenderam n\u00e3o <\/span><span style=\"color: #000000;\">haver no GDPR um direito \u00e0 explica\u00e7\u00e3o, mas, apenas, \u00e0 <\/span><span style=\"color: #000000;\">informa\u00e7\u00e3o sobre a funcionalidade do sistema, restrito por <\/span><span style=\"color: #000000;\">interesses de controladores de dados (art. 15). Sugerem, ent\u00e3o,<\/span><br \/><span style=\"color: #000000;\">uma s\u00e9rie de modifica\u00e7\u00f5es a serem adotadas no RGPD, dentre <\/span><span style=\"color: #000000;\">as quais a de acrescentar o direito de explica\u00e7\u00e3o ao artigo 22, <\/span><span style=\"color: #000000;\">item \u201c3\u201d, de modo a torn\u00e1-lo juridicamente vinculativo<\/span><span style=\"color: #000000;\">.<\/span><br \/><span style=\"color: #000000;\">Ou seja, no GDPR \u00e9 inegavelmente assegurado o direito de <\/span><span style=\"color: #000000;\">revis\u00e3o da decis\u00e3o automatizada por pessoa humana, havendo, <\/span><span style=\"color: #000000;\">por\u00e9m, diverg\u00eancia doutrin\u00e1ria quanto \u00e0 vinculatividade do <\/span><span style=\"color: #000000;\">direito \u00e0 explica\u00e7\u00e3o da decis\u00e3o automatizada.<\/span><\/p><p><br \/><span style=\"color: #000000;\">DECIS\u00d5ES AUTOMATIZADAS NA LGPD <\/span><span style=\"color: #000000;\">BRASILEIRA<\/span><\/p><p><br \/><span style=\"color: #000000;\">A primeira manifesta\u00e7\u00e3o do direito \u00e0 explica\u00e7\u00e3o no Brasil se deu<\/span><br \/><span style=\"color: #000000;\">na pol\u00eamica Lei do Cadastro Positivo22, a qual regula o credit scoring, que consiste na t\u00e9cnica utilizada por institui\u00e7\u00f5es financeiras <\/span><span style=\"color: #000000;\">para, de forma estat\u00edstica, avaliar a concess\u00e3o de cr\u00e9dito a uma <\/span><span style=\"color: #000000;\">pessoa com base em vari\u00e1veis predeterminadas. Essa previs\u00e3o <\/span><span style=\"color: #000000;\">encontra-se no artigo 5\u00ba, incisos IV e VI, da Lei n\u00ba 12.414\/2011, que <\/span><span style=\"color: #000000;\">arrola dentre os direitos do cadastrado: \u201cIV &#8211; conhecer os principais elementos e crit\u00e9rios considerados para a an\u00e1lise de risco, <\/span><span style=\"color: #000000;\">resguardado o segredo empresarial\u201d; e \u201cVI &#8211; solicitar ao consulente a revis\u00e3o de decis\u00e3o realizada exclusivamente por <\/span><span style=\"color: #000000;\">meios automatizados\u201d.<\/span><\/p><p><span style=\"color: #000000;\">Jurisprudencialmente, o Superior Tribunal de Justi\u00e7a, soberano<\/span><br \/><span style=\"color: #000000;\">na an\u00e1lise da legisla\u00e7\u00e3o infraconstitucional, sedimentou o<\/span><br \/><span style=\"color: #000000;\">entendimento de que o titular dos dados possui o direito de<\/span><br \/><span style=\"color: #000000;\">solicitar esclarecimentos sobre as informa\u00e7\u00f5es valoradas e as<\/span><br \/><span style=\"color: #000000;\">fontes dos dados considerados na apura\u00e7\u00e3o do score, ensejando <\/span><span style=\"color: #000000;\">a edi\u00e7\u00e3o da S\u00famula 550, in verbis:<\/span><\/p><p><br \/><span style=\"color: #000000;\">S\u00famula 550 do STJ: A utiliza\u00e7\u00e3o de escore de cr\u00e9dito, m\u00e9todo<\/span><br \/><span style=\"color: #000000;\">estat\u00edstico de avalia\u00e7\u00e3o de risco que n\u00e3o constitui banco de <\/span><span style=\"color: #000000;\">dados, dispensa o consentimento do consumidor, que ter\u00e1 o <\/span><span style=\"color: #000000;\">direito de solicitar esclarecimentos sobre as informa\u00e7\u00f5es <\/span><span style=\"color: #000000;\">pessoais valoradas e as fontes dos dados considerados no<\/span><br \/><span style=\"color: #000000;\">respectivo c\u00e1lculo.<\/span><\/p><p><br \/><span style=\"color: #000000;\">Ap\u00f3s, aprovada em agosto de 2018, mas com vacatio legis de 24<\/span><br \/><span style=\"color: #000000;\">meses definida pela Lei n\u00ba 13.853\/2019, a LGPD prev\u00ea tanto o<\/span><br \/><span style=\"color: #000000;\">direito de revis\u00e3o de decis\u00f5es tomadas com base em tratamento<\/span><br \/><span style=\"color: #000000;\">automatizado de dados (art. 20, caput)<\/span><span style=\"color: #000000;\">, assim como o direito de<\/span><br \/><span style=\"color: #000000;\">explica\u00e7\u00e3o a respeito dos crit\u00e9rios e dos procedimentos <\/span><span style=\"color: #000000;\">utilizados para a decis\u00e3o automatizada, resguardando, por\u00e9m, os <\/span><span style=\"color: #000000;\">segredos comercial e industrial (art. 20, \u00a7 1\u00ba).<\/span><\/p><p><span style=\"color: #000000;\">Veja-se que, enquanto o artigo 22 do GDPR estabelece que o <\/span><span style=\"color: #000000;\">titular de dados tem o direito de n\u00e3o estar sujeito a nenhuma <\/span><span style=\"color: #000000;\">decis\u00e3o tomada exclusivamente com base no tratamento <\/span><span style=\"color: #000000;\">automatizado que produza efeitos em sua esfera jur\u00eddica ou que o afete significativamente, o artigo 20 da LGPD afirma que o<\/span><br \/><span style=\"color: #000000;\">titular de dados tem \u201cdireito a solicitar a revis\u00e3o de decis\u00f5es<\/span><br \/><span style=\"color: #000000;\">tomadas unicamente com base em tratamento automatizado de<\/span><br \/><span style=\"color: #000000;\">dados pessoais que afetem seus interesses\u201d. Feita essa distin\u00e7\u00e3o, <\/span><span style=\"color: #000000;\">Mulholland e Frajhof defendem que no ordenamento europeu a <\/span><span style=\"color: #000000;\">norma tem \u201cnatureza proibitiva\u201d, vedando a tomada de decis\u00f5es <\/span><span style=\"color: #000000;\">totalmente automatizada, enquanto no ordenamento brasileiro, <\/span><span style=\"color: #000000;\">a norma tem \u201cnatureza atributiva de direito\u201d.<\/span><\/p><p><br \/><span style=\"color: #000000;\">PROBLEMAS QUANTO \u00c0 REVIS\u00c3O E <\/span><span style=\"color: #000000;\">EXPLICA\u00c7\u00c3O DAS DECIS\u00d5ES <\/span><span style=\"color: #000000;\">AUTOMATIZADAS NA LEGISLA\u00c7\u00c3O <\/span><span style=\"color: #000000;\">BRASILEIRA <\/span><span style=\"color: #000000;\">PROCEDIMENTALIZA\u00c7\u00c3O DO PROCESSO DE <\/span><span style=\"color: #000000;\">REVIS\u00c3O<\/span><\/p><p><br \/><span style=\"color: #000000;\">Na reda\u00e7\u00e3o original da Lei n\u00ba 13.709\/2018, o caput do artigo 20<\/span><br \/><span style=\"color: #000000;\">da LGPD26 previa o direito de o titular dos dados solicitar a revis\u00e3o da decis\u00e3o automatizada por pessoa natural, assim como <\/span><span style=\"color: #000000;\">previsto no item \u201c3\u201d do artigo 22 do GDPR.<\/span><br \/><span style=\"color: #000000;\">Contudo, atrav\u00e9s da Medida Provis\u00f3ria n\u00ba 869\/2018, o ent\u00e3o <\/span><span style=\"color: #000000;\">Presidente da Rep\u00fablica Michel Temer modificou a reda\u00e7\u00e3o do<\/span><br \/><span style=\"color: #000000;\">caput do artigo 20 da LGPD para suprimir o trecho \u201cpessoa natural\u201d do dispositivo, afastando, assim, a necessidade de <\/span><span style=\"color: #000000;\">interven\u00e7\u00e3o humana no processo de revis\u00e3o.<\/span><br \/><span style=\"color: #000000;\">Quando votada a convers\u00e3o da Medida Provis\u00f3ria n\u00ba 869\/2018<\/span><br \/><span style=\"color: #000000;\">na Lei n\u00ba 13.853\/2019, o Poder Legislativo optou por <\/span><span style=\"color: #000000;\">reestabelecer a necessidade de revis\u00e3o por pessoa humana <\/span><span style=\"color: #000000;\">mediante a inclus\u00e3o do par\u00e1grafo 3\u00ba ao artigo 20 da LGPD27, no <\/span><span style=\"color: #000000;\">qual, por\u00e9m, diferentemente da reda\u00e7\u00e3o original, outorgou-se \u00e0 <\/span><span style=\"color: #000000;\">autoridade nacional o dever de regulamentar o procedimento <\/span><span style=\"color: #000000;\">levando em considera\u00e7\u00e3o a natureza e o porte da entidade ou o <\/span><span style=\"color: #000000;\">volume de opera\u00e7\u00f5es de dados, ou seja, indicando um <\/span><span style=\"color: #000000;\">tratamento diferenciado a fim de n\u00e3o inviabilizar os neg\u00f3cios <\/span><span style=\"color: #000000;\">envolvidos.<\/span><br \/><span style=\"color: #000000;\">Contudo, nos termos do art. 66, \u00a7 1\u00ba, da Constitui\u00e7\u00e3o da <\/span><span style=\"color: #000000;\">Rep\u00fablica, o Presidente Jair Bolsonaro optou por vetar a <\/span><span style=\"color: #000000;\">inclus\u00e3o do \u00a7 3\u00ba ao artigo 20 da LGPD, apresentando na <\/span><span style=\"color: #000000;\">Mensagem 288\/2019, endere\u00e7ada ao Presidente do Senado <\/span><span style=\"color: #000000;\">Federal, suas raz\u00f5es de veto fundamentadas em suposta <\/span><span style=\"color: #000000;\">contrariedade da revis\u00e3o por pessoa humana ao interesse <\/span><span style=\"color: #000000;\">p\u00fablico:<\/span><\/p><p><br \/><span style=\"color: #000000;\">A propositura legislativa, ao dispor que toda e qualquer decis\u00e3o <\/span><span style=\"color: #000000;\">baseada unicamente no tratamento automatizado seja suscet\u00edvel <\/span><span style=\"color: #000000;\">de revis\u00e3o humana, contraria o interesse p\u00fablico, tendo em vista <\/span><span style=\"color: #000000;\">que tal exig\u00eancia inviabilizar\u00e1 os modelos atuais de planos de <\/span><span style=\"color: #000000;\">neg\u00f3cios de muitas empresas, notadamente das startups, bem c<\/span><span style=\"color: #000000;\">omo impacta na an\u00e1lise de risco de cr\u00e9dito e de novos modelos <\/span><span style=\"color: #000000;\">de neg\u00f3cios de institui\u00e7\u00f5es financeiras, gerando efeito negativo <\/span><span style=\"color: #000000;\">na oferta de cr\u00e9dito aos consumidores, tanto no que diz respeito <\/span><span style=\"color: #000000;\">\u00e0 qualidade das garantias, ao volume de cr\u00e9dito contratado e \u00e0 composi\u00e7\u00e3o de pre\u00e7os, com reflexos, ainda, nos \u00edndices de <\/span><span style=\"color: #000000;\">infla\u00e7\u00e3o e na condu\u00e7\u00e3o da pol\u00edtica monet\u00e1ria.<\/span><br \/><span style=\"color: #000000;\">Ocorre que essa supress\u00e3o da figura humana traz d\u00favida <\/span><span style=\"color: #000000;\">razo\u00e1vel sobre como, ent\u00e3o, dever\u00e1 ser procedimentalizado o <\/span><span style=\"color: #000000;\">processo revis\u00f3rio.<\/span><br \/><span style=\"color: #000000;\">Ora, na reda\u00e7\u00e3o original da Lei n\u00ba 13.709\/2018 a quest\u00e3o era mais <\/span><span style=\"color: #000000;\">clara: haveria, primeiro, o tratamento dos dados atrav\u00e9s da <\/span><span style=\"color: #000000;\">intelig\u00eancia artificial, que faria a correla\u00e7\u00e3o dos dados e tomaria <\/span><span style=\"color: #000000;\">uma decis\u00e3o automatizada. Uma vez solicitada a revis\u00e3o pelo <\/span><span style=\"color: #000000;\">titular dos dados, este apresentaria suas raz\u00f5es, as quais<\/span><br \/><span style=\"color: #000000;\">deveriam ser submetidas ao crivo humano que, ent\u00e3o, poderia<\/span><br \/><span style=\"color: #000000;\">confirmar ou modificar a decis\u00e3o adotada pela intelig\u00eancia<\/span><br \/><span style=\"color: #000000;\">artificial.<\/span><br \/><span style=\"color: #000000;\">No entanto, agora que suprimida a exig\u00eancia da pessoa humana <\/span><span style=\"color: #000000;\">no processo revisor, surge o seguinte problema: em que, de fato, <\/span><span style=\"color: #000000;\">se traduz o direito \u00e0 revis\u00e3o? Significa simplesmente recolocar os <\/span><span style=\"color: #000000;\">mesmos dados antes tratados, no mesmo sistema de intelig\u00eancia <\/span><span style=\"color: #000000;\">artificial anteriormente adotado e obter uma segunda decis\u00e3o (o <\/span><span style=\"color: #000000;\">que n\u00e3o seria irrazo\u00e1vel frente \u00e0 supress\u00e3o normativa da <\/span><span style=\"color: #000000;\">obriga\u00e7\u00e3o humana de faz\u00ea-lo)? \u00c0 toda evid\u00eancia a decis\u00e3o ser\u00e1 <\/span><span style=\"color: #000000;\">id\u00eantica \u00e0 primeira; afinal, um mesmo algoritmo n\u00e3o chegaria a <\/span><span style=\"color: #000000;\">conclus\u00f5es (outputs) diversas a respeito dos mesmos dados <\/span><span style=\"color: #000000;\">(inputs). Ou, ent\u00e3o, significa que todos os controladores de <\/span><span style=\"color: #000000;\">dados necessitar\u00e3o possuir duas distintas ferramentas de <\/span><span style=\"color: #000000;\">intelig\u00eancia artificial, sendo uma a inst\u00e2ncia de primeiro grau e <\/span><span style=\"color: #000000;\">uma de segundo grau com compet\u00eancia revisora? De igual modo, <\/span><span style=\"color: #000000;\">dificilmente haver\u00e1 \u00eaxito na revis\u00e3o das decis\u00f5es de uma <\/span><span style=\"color: #000000;\">m\u00e1quina pela outra, ao passo que ter\u00e3o a mesma programa\u00e7\u00e3o e, <\/span><span style=\"color: #000000;\">portanto, os mesmos problemas, a n\u00e3o ser que, <\/span><span style=\"color: #000000;\">propositadamente, o programador inserisse v\u00edcios em uma que <\/span><span style=\"color: #000000;\">n\u00e3o na outra, mas isso n\u00e3o seria dotado de qualquer l\u00f3gica.\u00a0<\/span><\/p><p><span style=\"color: #000000;\">Vislumbra-se, pois, que a legisla\u00e7\u00e3o brasileira, em descompasso<\/span><br \/><span style=\"color: #000000;\">com a GDPR, anda mal ao retirar a pessoa humana do <\/span><span style=\"color: #000000;\">protagonismo do ato revis\u00f3rio, tornando ao menos nebulosa a <\/span><span style=\"color: #000000;\">forma de como, ent\u00e3o, essa revis\u00e3o dever\u00e1 ser feita.<\/span><br \/><span style=\"color: #000000;\">Ao que parece, diferentemente de uma \u201crevis\u00e3o\u201d propriamente <\/span><span style=\"color: #000000;\">dita, a retirada da figura da pessoa humana indica que a lei est\u00e1 <\/span><span style=\"color: #000000;\">tratando, na verdade, de \u201cretifica\u00e7\u00e3o\u201d, assim como j\u00e1 era previsto<\/span><br \/><span style=\"color: #000000;\">no artigo 43, \u00a7 3\u00ba, do CDC28. Isto \u00e9, diferentemente do que viabilizar um segundo ju\u00edzo decis\u00f3rio sobre os dados, a lei parece <\/span><span style=\"color: #000000;\">permitir que os dados (inputs) sejam retificados e, assim, <\/span><span style=\"color: #000000;\">possibilitar n\u00e3o uma revis\u00e3o, mas sim uma nova decis\u00e3o (output) <\/span><span style=\"color: #000000;\">pela m\u00e1quina. Por exemplo, a intelig\u00eancia artificial atribui um <\/span><span style=\"color: #000000;\">score baixo a algu\u00e9m em virtude de o titular dos dados ter ficado <\/span><span style=\"color: #000000;\">negativado por longa data. No entanto, este solicita a revis\u00e3o <\/span><span style=\"color: #000000;\">com a apresenta\u00e7\u00e3o de senten\u00e7a transitada em julgado que <\/span><span style=\"color: #000000;\">reconhece a inexigibilidade da d\u00edvida inscrita. Com essa <\/span><span style=\"color: #000000;\">\u201cretifica\u00e7\u00e3o\u201d do dado antes desabonat\u00f3rio ser\u00e1 poss\u00edvel \u00e0<\/span><br \/><span style=\"color: #000000;\">m\u00e1quina chegar a uma nova conclus\u00e3o.<\/span><br \/><span style=\"color: #000000;\">O problema \u00e9 que, o principal motivo de se assegurar um direito<\/span><br \/><span style=\"color: #000000;\">\u00e0 revis\u00e3o n\u00e3o diz apenas com a mera retifica\u00e7\u00e3o do banco de <\/span><span style=\"color: #000000;\">dados, mas sim com buscar a corre\u00e7\u00e3o do m\u00e9rito da decis\u00e3o, que <\/span><span style=\"color: #000000;\">pode ter sido influenciada por concep\u00e7\u00f5es discriminat\u00f3rias. Ora, <\/span><span style=\"color: #000000;\">a neutralidade algor\u00edtmica \u00e9 apenas aparente, uma vez que as <\/span><span style=\"color: #000000;\">m\u00e1quinas herdam compreens\u00f5es de seus programadores, ou<\/span><br \/><span style=\"color: #000000;\">mesmo as recebem por aprendizado (machine learning) na<\/span><br \/><span style=\"color: #000000;\">intera\u00e7\u00e3o humana.<\/span><br \/><span style=\"color: #000000;\">De qualquer modo, a quest\u00e3o est\u00e1 longe de ser resolvida e, ao<\/span><br \/><span style=\"color: #000000;\">que tudo indica, necessitar\u00e1 ser aclarada pela autoridade <\/span><span style=\"color: #000000;\">nacional de prote\u00e7\u00e3o de dados atrav\u00e9s de seu poder regulamentar inclu\u00eddo no seu vasto rol de compet\u00eancias previsto<\/span><br \/><span style=\"color: #000000;\">no artigo 55-J da LGPD, a fim de esclarecer de que modo dever\u00e1<\/span><br \/><span style=\"color: #000000;\">ser procedimentalizada a revis\u00e3o das decis\u00f5es automatizadas.<\/span><\/p><p><br \/><span style=\"color: #000000;\">EXTENS\u00c3O DO DIREITO \u00c0 EXPLICA\u00c7\u00c3O<\/span><\/p><p><br \/><span style=\"color: #000000;\">De igual modo, a LGPD n\u00e3o \u00e9 clara sobre em quais situa\u00e7\u00f5es a <\/span><span style=\"color: #000000;\">explica\u00e7\u00e3o poder\u00e1 ser necess\u00e1ria e em qual extens\u00e3o dever\u00e3o <\/span><span style=\"color: #000000;\">ser prestadas informa\u00e7\u00f5es a respeito da decis\u00e3o automatizada.<\/span><\/p><p><span style=\"color: #000000;\">Ora, o artigo 20, \u00a7 1\u00ba, limita-se a estabelecer, em linhas gerais,<\/span><br \/><span style=\"color: #000000;\">que o controlador dever\u00e1 fornecer, sempre que solicitadas, <\/span><span style=\"color: #000000;\">informa\u00e7\u00f5es claras e adequadas a respeito dos crit\u00e9rios e dos <\/span><span style=\"color: #000000;\">procedimentos utilizados para a decis\u00e3o automatizada, <\/span><span style=\"color: #000000;\">observados os segredos comercial e industrial.<\/span><br \/><span style=\"color: #000000;\">Embora a doutrina esteja convergindo sobre a import\u00e2ncia de<\/span><br \/><span style=\"color: #000000;\">assegurar formas de explica\u00e7\u00e3o dos algoritmos, n\u00e3o h\u00e1 consenso <\/span><span style=\"color: #000000;\">sobre como esta deve se dar.<\/span><br \/><span style=\"color: #000000;\">No que pertine \u00e0s hip\u00f3teses em que explica\u00e7\u00f5es s\u00e3o necess\u00e1rias, c<\/span><span style=\"color: #000000;\">onstitui-se o primeiro problema em quest\u00e3o. Afinal, toda e <\/span><span style=\"color: #000000;\">qualquer decis\u00e3o automatizada que envolver interesses do <\/span><span style=\"color: #000000;\">titular dos dados dever\u00e1 ser objeto de explica\u00e7\u00e3o, ou haveria <\/span><span style=\"color: #000000;\">algum filtro limitador, alguma justificativa inerente?<\/span><br \/><span style=\"color: #000000;\">Doshi-Velez et al30 apontam que o pedido de explica\u00e7\u00f5es sobre<\/span><br \/><span style=\"color: #000000;\">uma decis\u00e3o automatizada pode ser justificado por tr\u00eas distintas<\/span><br \/><span style=\"color: #000000;\">raz\u00f5es: entradas (inputs) n\u00e3o confi\u00e1veis ou inadequadas; resultados (outputs) inexplic\u00e1veis; e desconfian\u00e7a quanto \u00e0 <\/span><span style=\"color: #000000;\">integridade do sistema.<\/span><br \/><span style=\"color: #000000;\">Destacam os autores que se h\u00e1 o conhecimento de que um <\/span><span style=\"color: #000000;\">tomador de decis\u00e3o tem acesso a informa\u00e7\u00f5es irrelevantes ou <\/span><span style=\"color: #000000;\">proibidas, h\u00e1 justificativa para o pedido de explica\u00e7\u00e3o pela <\/span><span style=\"color: #000000;\">razo\u00e1vel suspeita de que a decis\u00e3o foi impr\u00f3pria. A entrada (dado <\/span><span style=\"color: #000000;\">interpretado pela intelig\u00eancia artificial) pode ser suspeita <\/span><span style=\"color: #000000;\">quando se acredita que ela \u00e9 logicamente irrelevante; e proibida,<\/span><br \/><span style=\"color: #000000;\">como \u00e9 o caso de certas caracter\u00edsticas, como ra\u00e7a, g\u00eanero e<\/span><br \/><span style=\"color: #000000;\">identidade ou orienta\u00e7\u00e3o sexual, que n\u00e3o devem ser levadas em <\/span><span style=\"color: #000000;\">considera\u00e7\u00e3o na decis\u00e3o sobre o acesso de uma pessoa a<\/span><br \/><span style=\"color: #000000;\">emprego, moradia e outros bens sociais. Da mesma forma, <\/span><span style=\"color: #000000;\">existem certas caracter\u00edsticas que, como apontado pelos <\/span><span style=\"color: #000000;\">autores, devem ser necessariamente levadas em considera\u00e7\u00e3o <\/span><span style=\"color: #000000;\">para uma decis\u00e3o espec\u00edfica, por exemplo, se um empr\u00e9stimo \u00e9 <\/span><span style=\"color: #000000;\">negado a uma pessoa, mas \u00e9 sabido que o relat\u00f3rio de cr\u00e9dito da <\/span><span style=\"color: #000000;\">pessoa jamais fora consultado, podemos suspeitar que a decis\u00e3o <\/span><span style=\"color: #000000;\">foi tomada com informa\u00e7\u00f5es incompletas e, portanto, err\u00f4neas.<\/span><br \/><span style=\"color: #000000;\">Quanto aos resultados inexplic\u00e1veis, os autores apontam casos <\/span><span style=\"color: #000000;\">em que a cren\u00e7a de que ocorreu um erro prov\u00e9m da sa\u00edda <\/span><span style=\"color: #000000;\">(output) do processo de tomada de decis\u00e3o, ou seja, reside na <\/span><span style=\"color: #000000;\">pr\u00f3pria decis\u00e3o. Se o mesmo tomador automatizado de decis\u00e3o <\/span><span style=\"color: #000000;\">tornar diferentes decis\u00f5es para dois assuntos aparentemente<\/span><br \/><span style=\"color: #000000;\">id\u00eanticos, podemos suspeitar que a decis\u00e3o foi baseada em <\/span><span style=\"color: #000000;\">recurso n\u00e3o relacionado ou mesmo aleat\u00f3rio. Da mesma forma, <\/span><span style=\"color: #000000;\">se um tomador de decis\u00e3o produz a mesma decis\u00e3o por dois <\/span><span style=\"color: #000000;\">assuntos marcadamente diferentes, podemos suspeitar que ele<\/span><br \/><span style=\"color: #000000;\">n\u00e3o levou em considera\u00e7\u00e3o uma caracter\u00edstica importante. <\/span><\/p><p><span style=\"color: #000000;\">Por fim, a respeito da desconfian\u00e7a sobre a integridade do <\/span><span style=\"color: #000000;\">sistema, afirmam os autores que podem ser exigidas explica\u00e7\u00f5es a respeito de uma decis\u00e3o mesmo que as entradas (inputs) e <\/span><span style=\"color: #000000;\">sa\u00eddas (outputs) pare\u00e7am adequadas por causa do contexto em <\/span><span style=\"color: #000000;\">que a decis\u00e3o \u00e9 tomada. Isso geralmente acontece quando est\u00e1 <\/span><span style=\"color: #000000;\">em quest\u00e3o decis\u00f5es altamente consequentes e com capacidade <\/span><span style=\"color: #000000;\">ou incentivo para faz\u00ea-lo de uma maneira que seja pessoalmente <\/span><span style=\"color: #000000;\">ben\u00e9fica, mas socialmente prejudicial.<\/span><br \/><span style=\"color: #000000;\">Vistas as hip\u00f3teses de necessidade de informa\u00e7\u00f5es, analisar-se\u00e1, a seguir, o problema quanto \u00e0 extens\u00e3o em que a explica\u00e7\u00e3o <\/span><span style=\"color: #000000;\">dever\u00e1 ser outorgada. Segundo Watcher, Mittelstadt e Floridi, <\/span><span style=\"color: #000000;\">em se tratando de decis\u00f5es automatizadas, h\u00e1 dois tipos vi\u00e1veis<\/span><br \/><span style=\"color: #000000;\">de informa\u00e7\u00e3o: aquela que diz respeito \u00e0 a) funcionalidade do <\/span><span style=\"color: #000000;\">sistema, isto \u00e9, \u00e0 l\u00f3gica, ao significado, \u00e0s consequ\u00eancias <\/span><span style=\"color: #000000;\">previstas, \u00e0s especifica\u00e7\u00f5es de requisitos, \u00e0s ramifica\u00e7\u00f5es de<\/span><br \/><span style=\"color: #000000;\">decis\u00f5es poss\u00edveis, aos modelos predefinidos, crit\u00e9rios e <\/span><span style=\"color: #000000;\">estruturas de classifica\u00e7\u00e3o; e \u00e0quela que diz respeito \u00e0s b) raz\u00f5es <\/span><span style=\"color: #000000;\">da decis\u00e3o tomada, isto \u00e9, \u00e0 justificativa, aos motivos e <\/span><span style=\"color: #000000;\">circunst\u00e2ncias individuais de uma decis\u00e3o automatizada <\/span><span style=\"color: #000000;\">espec\u00edfica, como, por exemplo, pondera\u00e7\u00e3o de recursos, \u00e0s <\/span><span style=\"color: #000000;\">regras de decis\u00e3o espec\u00edficas, informa\u00e7\u00f5es sobre grupos de <\/span><span style=\"color: #000000;\">refer\u00eancia ou perfil34.<\/span><br \/><span style=\"color: #000000;\">Os autores destacam, ainda, ser poss\u00edvel distinguir entre <\/span><span style=\"color: #000000;\">explica\u00e7\u00f5es quanto ao tempo: a) uma explica\u00e7\u00e3o ex ante, seria <\/span><span style=\"color: #000000;\">aquela que ocorreria antes da tomada de decis\u00e3o automatizada, <\/span><span style=\"color: #000000;\">ou seja, apenas poderia apresentar a funcionalidade do sistema; <\/span><span style=\"color: #000000;\">ou b) uma explica\u00e7\u00e3o ex post, seria aquela que ocorreria ap\u00f3s<\/span><br \/><span style=\"color: #000000;\">uma decis\u00e3o automatizada, podendo abordar tanto a <\/span><span style=\"color: #000000;\">funcionalidade do sistema como os fundamentos espec\u00edficos da <\/span><span style=\"color: #000000;\">decis\u00e3o.\u00a0<\/span><\/p><p><span style=\"color: #000000;\">Exemplos auxiliam a esclarecer como essas distin\u00e7\u00f5es interagem.<\/span><br \/><span style=\"color: #000000;\">Conforme Watcher et al, em se tratando de sistema de <\/span><span style=\"color: #000000;\">pontua\u00e7\u00e3o de cr\u00e9dito automatizado, antes de uma decis\u00e3o ser <\/span><span style=\"color: #000000;\">tomada, o provedor do sistema pode informar os dados sobre a <\/span><span style=\"color: #000000;\">funcionalidade do sistema, incluindo a l\u00f3gica geral (como tipos <\/span><span style=\"color: #000000;\">de dados e caracter\u00edsticas consideradas, categorias na <\/span><span style=\"color: #000000;\">ramifica\u00e7\u00e3o de decis\u00f5es), objetivo ou significado (neste caso, <\/span><span style=\"color: #000000;\">para atribuir uma pontua\u00e7\u00e3o de cr\u00e9dito) e as consequ\u00eancias <\/span><span style=\"color: #000000;\">previstas (por exemplo, a pontua\u00e7\u00e3o de cr\u00e9dito pode ser usada <\/span><span style=\"color: #000000;\">pelos credores para avaliar o valor do cr\u00e9dito, afetando os <\/span><span style=\"color: #000000;\">termos de cr\u00e9dito, como taxa de juros). Por outro lado, depois<\/span><br \/><span style=\"color: #000000;\">que uma decis\u00e3o foi tomada, uma explica\u00e7\u00e3o da funcionalidade <\/span><span style=\"color: #000000;\">do sistema ainda pode ser fornecida ao titular dos dados. No <\/span><span style=\"color: #000000;\">entanto, o provedor tamb\u00e9m poder\u00e1 explicar a l\u00f3gica e as <\/span><span style=\"color: #000000;\">circunst\u00e2ncias individuais de sua decis\u00e3o espec\u00edfica, como sua<\/span><br \/><span style=\"color: #000000;\">pontua\u00e7\u00e3o de cr\u00e9dito, os dados ou recursos que foram <\/span><span style=\"color: #000000;\">considerados em seu caso particular e sua pondera\u00e7\u00e3o na \u00e1rvore <\/span><span style=\"color: #000000;\">de decis\u00e3o ou modelo. Em outras palavras, o controlador poder\u00e1 <\/span><span style=\"color: #000000;\">explicar como uma pontua\u00e7\u00e3o espec\u00edfica foi atribu\u00edda. Quando <\/span><span style=\"color: #000000;\">modelos simplistas ou lineares predefinidos s\u00e3o usados e <\/span><span style=\"color: #000000;\">divulgados integralmente, previs\u00f5es sobre a l\u00f3gica de uma <\/span><span style=\"color: #000000;\">decis\u00e3o espec\u00edfica s\u00e3o poss\u00edveis, em princ\u00edpio, ex ante. No <\/span><span style=\"color: #000000;\">entanto, em ambos os casos, a capacidade do fornecedor de <\/span><span style=\"color: #000000;\">oferecer uma explica\u00e7\u00e3o da l\u00f3gica de uma decis\u00e3o espec\u00edfica <\/span><span style=\"color: #000000;\">pode ser limitada por v\u00e1rios fatores jur\u00eddicos e t\u00e9cnicos, <\/span><span style=\"color: #000000;\">incluindo o uso de probabil\u00edstica complexa e m\u00e9todos de tomada <\/span><span style=\"color: #000000;\">de decis\u00e3o.<\/span><br \/><span style=\"color: #000000;\">Ferrari e Becker destacam que ao usu\u00e1rio n\u00e3o interessa receber<\/span><br \/><span style=\"color: #000000;\">o c\u00f3digo-fonte do algoritmo, mas sim entender de forma clara os<\/span><br \/><span style=\"color: #000000;\">crit\u00e9rios que foram utilizados para a decis\u00e3o, o que deve ser,<\/span><br \/><span style=\"color: #000000;\">portanto, levado em conta pelos programadores no momento da<\/span><br \/><span style=\"color: #000000;\">concep\u00e7\u00e3o da aplica\u00e7\u00e3o:<\/span><\/p><p><span style=\"color: #000000;\">O usu\u00e1rio, ao pedir explica\u00e7\u00e3o sobre decis\u00f5es automatizadas, <\/span><span style=\"color: #000000;\">n\u00e3o deseja receber o c\u00f3digo-fonte do algoritmo, mas entender<\/span><br \/><span style=\"color: #000000;\">os crit\u00e9rios que foram utilizados, pois, para ele, como leigo, \u00e9<\/span><br \/><span style=\"color: #000000;\">irrelevante o n\u00famero de linhas de programa\u00e7\u00e3o utilizadas para<\/span><br \/><span style=\"color: #000000;\">que se chegue \u00e0quela decis\u00e3o, por vezes, duvidosa. Para o titular, <\/span><span style=\"color: #000000;\">\u00e9 fundamental receber informa\u00e7\u00f5es consistentes e <\/span><span style=\"color: #000000;\">compreens\u00edveis para que ele, querendo, possa contestar a<\/span><br \/><span style=\"color: #000000;\">decis\u00e3o automatizada. Muito mais do que apenas um direito <\/span><span style=\"color: #000000;\">exclusivo do titular, o direito \u00e0 explica\u00e7\u00e3o impacta a <\/span><span style=\"color: #000000;\">programa\u00e7\u00e3o, a prototipagem e a utiliza\u00e7\u00e3o de sistemas de <\/span><span style=\"color: #000000;\">processamento de dados. Por isso, deve-se pensar em t\u00e9cnicas <\/span><span style=\"color: #000000;\">para garantir compreens\u00e3o, transpar\u00eancia e legibilidade, ou, <\/span><span style=\"color: #000000;\">ainda, um conceito de \u201cexplica\u00e7\u00e3o por design\u201d (explanation by <\/span><span style=\"color: #000000;\">design) ou \u201cexplica\u00e7\u00e3o por padr\u00e3o\u201d (explanation by default) no <\/span><span style=\"color: #000000;\">momento da concep\u00e7\u00e3o da aplica\u00e7\u00e3o.<\/span><br \/><span style=\"color: #000000;\">Nesse mesmo sentido, Doshi-Velez et al38 destacam que a explica\u00e7\u00e3o se distingue da transpar\u00eancia, uma vez que a explica\u00e7\u00e3o <\/span><span style=\"color: #000000;\">n\u00e3o exige o fluxo de bits atrav\u00e9s um sistema de intelig\u00eancia artificial, assim como uma explica\u00e7\u00e3o por seres humanos n\u00e3o exige <\/span><span style=\"color: #000000;\">o conhecimento sobre fluxo de sinais atrav\u00e9s dos neur\u00f4nios, uma <\/span><span style=\"color: #000000;\">vez que nenhum dos dois seria interpret\u00e1vel para um humano.<\/span><br \/><span style=\"color: #000000;\">Em vez disso, segundo os autores, a explica\u00e7\u00e3o significa responder como certos fatores foram usados para chegar ao resultado <\/span><span style=\"color: #000000;\">em uma situa\u00e7\u00e3o espec\u00edfica.<\/span><br \/><span style=\"color: #000000;\">A esse respeito, apontam que, assim como nos requisitos <\/span><span style=\"color: #000000;\">relacionados \u00e0 explica\u00e7\u00e3o humana, precisaremos pensar sobre o<\/span><br \/><span style=\"color: #000000;\">porqu\u00ea e quando explica\u00e7\u00f5es s\u00e3o \u00fateis o suficiente para compensar o custo. Destacam que exigir que todo sistema de <\/span><span style=\"color: #000000;\">intelig\u00eancia artificial explique todas as decis\u00f5es pode resultar em <\/span><span style=\"color: #000000;\">sistemas menos eficientes, escolhas for\u00e7adas de projeto e uma <\/span><span style=\"color: #000000;\">tend\u00eancia a explica\u00e7\u00f5es abaixo do resultado ideal. Citam, como <\/span><span style=\"color: #000000;\">exemplo, que a sobrecarga de for\u00e7ar uma torradeira a explicar <\/span><span style=\"color: #000000;\">por que ela acha que o p\u00e3o est\u00e1 pronto pode impedir que uma<\/span><br \/><span style=\"color: #000000;\">empresa implemente um recurso inteligente. Por outro lado, <\/span><span style=\"color: #000000;\">afirmam que podemos estar dispostos a aceitar o custo <\/span><span style=\"color: #000000;\">monet\u00e1rio de um sistema de aprova\u00e7\u00e3o de empr\u00e9stimos <\/span><span style=\"color: #000000;\">explic\u00e1vel, mas um pouco menos preciso, em prol do benef\u00edcio <\/span><span style=\"color: #000000;\">social de poder verificar se n\u00e3o \u00e9 discriminat\u00f3rio. Assim, DoshiVelez et al sustentam que exigir explica\u00e7\u00f5es dos sistemas de <\/span><span style=\"color: #000000;\">intelig\u00eancia artificial \u00e9 razo\u00e1vel e que devemos come\u00e7ar <\/span><span style=\"color: #000000;\">perguntando aos nossos sistemas de intelig\u00eancia artificial aquilo <\/span><span style=\"color: #000000;\">que pedir\u00edamos aos humanos caso estivessem participando do <\/span><span style=\"color: #000000;\">processo decis\u00f3rio. Isso evitaria, segundo os autores, que os <\/span><span style=\"color: #000000;\">sistemas obtenham um &#8220;passe livre&#8221; para evitar os tipos de <\/span><span style=\"color: #000000;\">escrut\u00ednio que podem chegar aos seres humanos, e evita pedir <\/span><span style=\"color: #000000;\">muito dos sistemas, o que dificultaria a inova\u00e7\u00e3o e o progresso.<\/span><br \/><span style=\"color: #000000;\">Para os autores, a necessidade de explica\u00e7\u00e3o pode ser <\/span><span style=\"color: #000000;\">formalizada por duas ideias t\u00e9cnicas: \u201cexplica\u00e7\u00e3o local\u201d e <\/span><span style=\"color: #000000;\">\u201cfidelidade contrafactual\u201d. Explica\u00e7\u00e3o local diz com os fatores <\/span><span style=\"color: #000000;\">importantes para a tomada da decis\u00e3o, como, por exemplo, o <\/span><span style=\"color: #000000;\">hist\u00f3rico de pagamento para a nega\u00e7\u00e3o de empr\u00e9stimo. Por sua<\/span><br \/><span style=\"color: #000000;\">vez, fidelidade contrafactual significa que, se uma pessoa <\/span><span style=\"color: #000000;\">soubesse que sua renda era o fator determinante para a negativa <\/span><span style=\"color: #000000;\">de cr\u00e9dito, e ent\u00e3o sua renda vier a aumentar, poder\u00e1 ter uma <\/span><span style=\"color: #000000;\">justa expectativa de que o sistema agora considere-as dignas de <\/span><span style=\"color: #000000;\">obter o empr\u00e9stimo.<\/span><\/p><p><span style=\"color: #000000;\">Vislumbra-se, pois, que o direito \u00e0 explica\u00e7\u00e3o faz com que <\/span><span style=\"color: #000000;\">informa\u00e7\u00f5es devam ser prestadas de acordo com o horizonte de <\/span><span style=\"color: #000000;\">compreens\u00e3o do destinat\u00e1rio, ao passo que ao consumidor, que <\/span><span style=\"color: #000000;\">possui na hipossufici\u00eancia t\u00e9cnica um de seus tra\u00e7os <\/span><span style=\"color: #000000;\">caracter\u00edsticos, n\u00e3o interessa receber a sequ\u00eancia de c\u00f3digos<\/span><br \/><span style=\"color: #000000;\">que regem a intelig\u00eancia artificial, mas sim compreender os fatos <\/span><span style=\"color: #000000;\">que foram determinantes para a decis\u00e3o automatizada, o que <\/span><span style=\"color: #000000;\">dever\u00e1 ser observado e viabilizado desde a programa\u00e7\u00e3o da<\/span><br \/><span style=\"color: #000000;\">intelig\u00eancia artificial.<\/span><\/p><p><br \/><span style=\"color: #000000;\">CONSIDERA\u00c7\u00d5ES FINAIS<\/span><\/p><p><br \/><span style=\"color: #000000;\">Tecer considera\u00e7\u00f5es sobre o futuro sempre \u00e9 uma tarefa um <\/span><span style=\"color: #000000;\">tanto quanto dif\u00edcil e arriscada, pois n\u00e3o se sabe, efetivamente, <\/span><span style=\"color: #000000;\">quais ser\u00e3o os impactos que as novas tecnologias, talvez algumas <\/span><span style=\"color: #000000;\">que ainda nem sequer conhecemos, produzir\u00e3o na sociedade.<\/span><br \/><span style=\"color: #000000;\">Embora acredite-se que no futuro a intelig\u00eancia artificial ser\u00e1 <\/span><span style=\"color: #000000;\">ainda mais aprimorada, de modo a amplificar a gama de <\/span><span style=\"color: #000000;\">aplica\u00e7\u00e3o, na atualidade j\u00e1 se pode perceber claramente a sua <\/span><span style=\"color: #000000;\">implementa\u00e7\u00e3o em processos de tomada de decis\u00f5es <\/span><span style=\"color: #000000;\">absolutamente automatizadas, em diferentes segmentos, <\/span><span style=\"color: #000000;\">inclusive no \u00e2mbito do tratamento de dados pessoais.<\/span><br \/><span style=\"color: #000000;\">Tanto o direito comunit\u00e1rio europeu (GDPR), assim como o <\/span><span style=\"color: #000000;\">direito brasileiro (LGPD), t\u00eam se preocupado com a <\/span><span style=\"color: #000000;\">regulamenta\u00e7\u00e3o do tratamento de dados pela intelig\u00eancia <\/span><span style=\"color: #000000;\">artificial, dado o seu grande potencial de promover preju\u00edzos e <\/span><span style=\"color: #000000;\">discrimina\u00e7\u00f5es aos titulares dos dados. Reconhece-se que, <\/span><span style=\"color: #000000;\">enquanto pessoas, n\u00e3o podemos restar submetidos a <\/span><span style=\"color: #000000;\">julgamentos exclusivamente automatizados que, por mais <\/span><span style=\"color: #000000;\">evolu\u00eddas\/desenvolvidas que sejam as m\u00e1quinas, podem <\/span><span style=\"color: #000000;\">apresentar resultados incompat\u00edveis com a realidade, mormente<\/span><br \/><span style=\"color: #000000;\">ao estabelecer perfis generalizantes. Assim, consagrou-se na <\/span><span style=\"color: #000000;\">doutrina o reconhecimento de direitos \u00e0 revis\u00e3o e \u00e0 explica\u00e7\u00e3o <\/span><span style=\"color: #000000;\">de decis\u00f5es tomadas pela intelig\u00eancia artificial. <\/span><\/p><p><span style=\"color: #000000;\">Contudo, como vislumbra Veronese, a efetividade das <\/span><span style=\"color: #000000;\">prescri\u00e7\u00f5es jur\u00eddicas sobre prote\u00e7\u00e3o de dados, no contexto atual <\/span><span style=\"color: #000000;\">de big data, em grande parte depende dos meios t\u00e9cnicos <\/span><span style=\"color: #000000;\">dispon\u00edveis para o monitoramento e auditoria. A afirma\u00e7\u00e3o de <\/span><span style=\"color: #000000;\">direitos subjetivos na legisla\u00e7\u00e3o \u00e9 muito importante, certamente.<\/span><br \/><span style=\"color: #000000;\">N\u00e3o obstante, \u00e9 evidente que a falta de capacidade t\u00e9cnica pode<\/span><br \/><span style=\"color: #000000;\">configurar um empecilho para a efetividade do direito.<\/span><br \/><span style=\"color: #000000;\">Embora estejamos caminhando em um sentido de atualiza\u00e7\u00e3o <\/span><span style=\"color: #000000;\">legislativa para o atendimento das novas demandas que se <\/span><span style=\"color: #000000;\">apresentam pela introdu\u00e7\u00e3o do uso da intelig\u00eancia artificial, o <\/span><span style=\"color: #000000;\">que \u00e9 digno de aplauso, o presente artigo apurou que, com a<\/span><br \/><span style=\"color: #000000;\">retirada do elemento humano no procedimento revis\u00f3rio, <\/span><span style=\"color: #000000;\">esvaziou-se a sua principal raz\u00e3o de ser, parecendo restar sem <\/span><span style=\"color: #000000;\">qualquer efic\u00e1cia o direito previsto no artigo 20 da LGPD. Assim, <\/span><span style=\"color: #000000;\">como abordado no cap\u00edtulo 2.1, conclui-se pela necessidade de a <\/span><span style=\"color: #000000;\">autoridade nacional de prote\u00e7\u00e3o de dados esclarecer o <\/span><span style=\"color: #000000;\">procedimento a ser seguido para viabilizar a efetiva revis\u00e3o da <\/span><span style=\"color: #000000;\">decis\u00e3o automatizada, avocando para si a ampla compet\u00eancia <\/span><span style=\"color: #000000;\">regulamentar que lhe fora outorgada pelo artigo 55-J da LGPD.<\/span><br \/><span style=\"color: #000000;\">Outrossim, fora objeto deste estudo a d\u00favida razo\u00e1vel que se<\/span><br \/><span style=\"color: #000000;\">estabelece doutrinariamente a respeito de quais as informa\u00e7\u00f5es<\/span><br \/><span style=\"color: #000000;\">que o controlador dos dados deve fornecer com fulcro no artigo <\/span><span style=\"color: #000000;\">22, \u00a7 1\u00ba, da LGPD. Quanto ao assunto, no cap\u00edtulo 2.2 conclui-se <\/span><span style=\"color: #000000;\">que as informa\u00e7\u00f5es asseguradas na LGPD devem ser prestadas <\/span><span style=\"color: #000000;\">de acordo com o horizonte de compreens\u00e3o do destinat\u00e1rio, ao <\/span><span style=\"color: #000000;\">passo que ao consumidor, que possui na hipossufici\u00eancia t\u00e9cnica <\/span><span style=\"color: #000000;\">um de seus tra\u00e7os caracterizadores, n\u00e3o interessa receber a <\/span><span style=\"color: #000000;\">sequ\u00eancia de c\u00f3digos que regem a intelig\u00eancia artificial, mas sim compreender os fatos e os crit\u00e9rios que foram determinantes <\/span><span style=\"color: #000000;\">para a decis\u00e3o automatizada.<\/span><br \/><span style=\"color: #000000;\">Assim como apontam os estudos de Doshi-Velez et al, o essencial <\/span><span style=\"color: #000000;\">est\u00e1 em assegurar um elemento de fidelidade contrafactual, isto <\/span><span style=\"color: #000000;\">\u00e9, a partir do momento em que houver a compreens\u00e3o da pessoa <\/span><span style=\"color: #000000;\">titular dos dados a respeito das raz\u00f5es pelas quais recebeu <\/span><span style=\"color: #000000;\">determinada decis\u00e3o, possa ela adequar seu perfil com a justa <\/span><span style=\"color: #000000;\">expectativa de, ent\u00e3o, receber uma decis\u00e3o favor\u00e1vel.<\/span><br \/><span style=\"color: #000000;\">Para tanto, as diretrizes advindas da LGPD dever\u00e3o ser levadas<\/span><br \/><span style=\"color: #000000;\">em conta desde a programa\u00e7\u00e3o dos equipamentos de <\/span><span style=\"color: #000000;\">intelig\u00eancia artificial, a fim de que seja viabilizada a explica\u00e7\u00e3o <\/span><span style=\"color: #000000;\">efetiva e clara ao titular dos dados como algo inerente \u00e0s <\/span><span style=\"color: #000000;\">decis\u00f5es automatizadas, inserindo-se a fun\u00e7\u00e3o no pr\u00f3prio design <\/span><span style=\"color: #000000;\">da m\u00e1quina.<\/span><br \/><span style=\"color: #000000;\">Fato \u00e9 que as rela\u00e7\u00f5es sociais t\u00eam sido constantemente <\/span><span style=\"color: #000000;\">modificadas pela introdu\u00e7\u00e3o de tecnologias disruptivas. Ao <\/span><span style=\"color: #000000;\">direito, pois, incumbe atualizar-se para outorgar a devida <\/span><span style=\"color: #000000;\">resposta jur\u00eddica \u00e0s demandas que surgem a partir das novas <\/span><span style=\"color: #000000;\">tecnologias, sempre com cuidado redobrado para n\u00e3o perder de<\/span><br \/><span style=\"color: #000000;\">foco o principal: a dignidade da pessoa humana e a prote\u00e7\u00e3o de<\/span><br \/><span style=\"color: #000000;\">seus direitos fundamentais.<\/span><\/p><p>\u00a0<\/p><p><br \/><span style=\"color: #000000;\">REFER\u00caNCIAS<\/span><\/p><p><br \/><span style=\"color: #000000;\">ANDR\u00c9, Q.; CARMON, Z.; WERTENBROCH, K.; CRUM, A.; <\/span><span style=\"color: #000000;\">DOUGLAS, F.; GOLDSTEIN, W.; HUBER, J.; VAN BOVEN, L.; <\/span><span style=\"color: #000000;\">WEBER, B.; YANG, H. Consumer Choice and Autonomy in the <\/span><span style=\"color: #000000;\">Age of Artificial Intelligence and Big Data. Johns Hopkins Carey <\/span><span style=\"color: #000000;\">Business School Research Paper, n. 18-03, 2018.<\/span><\/p><p><span style=\"color: #000000;\">BIONI, Bruno R. Prote\u00e7\u00e3o de dados pessoais: a fun\u00e7\u00e3o e os <\/span><span style=\"color: #000000;\">limites do consentimento. Rio de Janeiro: Forense, 2019.<\/span><\/p><p><span style=\"color: #000000;\">BROOKSHEAR, J. Glenn. Ci\u00eancia da computa\u00e7\u00e3o: uma vis\u00e3o<\/span><br \/><span style=\"color: #000000;\">abrangente. Tradu\u00e7\u00e3o de Eduardo Kessler Piveta. 11\u00aa ed. Porto<\/span><br \/><span style=\"color: #000000;\">Alegre: Bookman, 2013.<\/span><\/p><p><span style=\"color: #000000;\">DOSHI-VELEZ, F.; KORTZ, M.; BUDISH, R.; BAVITZ, C.; <\/span><span style=\"color: #000000;\">GERSHMAN, S. J.; O&#8217;BRIEN, D.; SHIEBER, S.; WALDO, J.; <\/span><span style=\"color: #000000;\">WEINBERGER, D.; WOOD, A. Accountability of AI Under the <\/span><span style=\"color: #000000;\">Law: The Role of Explanation. Harvard Public Law Working <\/span><span style=\"color: #000000;\">Paper, n. 18\/2007.<\/span><\/p><p><span style=\"color: #000000;\">FERRARI, Isabela; BECKER, Daniel. O direito \u00e0 explica\u00e7\u00e3o <\/span><span style=\"color: #000000;\">sobre decis\u00f5es automatizadas: uma an\u00e1lise comparativa entre a<\/span><br \/><span style=\"color: #000000;\">Uni\u00e3o Europeia e o Brasil. Revista de direito e as novas <\/span><span style=\"color: #000000;\">tecnologias, vol. 1, 2018.<\/span><\/p><p><span style=\"color: #000000;\">KAMARINOU, D.; MILLARD, C.; SINGH, J. Machine Learning <\/span><span style=\"color: #000000;\">with Personal Data. Queen Mary School of Law Legal Studies <\/span><span style=\"color: #000000;\">Research Paper, n. 247, 2016.<\/span><\/p><p><span style=\"color: #000000;\">MART\u00cdNEZ DEVIA, A. La inteligencia artificial, el big data y la<\/span><br \/><span style=\"color: #000000;\">era digital: \u00bfuna amenaza para los datos personales? La <\/span><span style=\"color: #000000;\">Propiedad Inmaterial, n. 27, 2019.<\/span><\/p><p><span style=\"color: #000000;\">MENDES, Laura S. Privacidade, prote\u00e7\u00e3o de dados e defesa do<\/span><br \/><span style=\"color: #000000;\">consumidor: linhas gerais de um novo direito fundamental. S\u00e3o<\/span><br \/><span style=\"color: #000000;\">Paulo: Saraiva, 2014.<\/span><\/p><p><span style=\"color: #000000;\">MIRAGEM, Bruno. A Lei Geral de Prote\u00e7\u00e3o de Dados (Lei <\/span><span style=\"color: #000000;\">13.709\/2018) e o direito do consumidor. Revista dos Tribunais, <\/span><span style=\"color: #000000;\">vol. 1009\/2019, p. 173-222, 2019.<\/span><\/p><p><br \/><span style=\"color: #000000;\">VERONESE, Alexandre. Os direitos de explica\u00e7\u00e3o e de oposi\u00e7\u00e3o <\/span><span style=\"color: #000000;\">frente \u00e0s decis\u00f5es totalmente automatizadas: comparando o <\/span><span style=\"color: #000000;\">RGPD da Uni\u00e3o Europeia com a LGPD brasileira. In: FRAZ\u00c3O, <\/span><span style=\"color: #000000;\">A.; TEPEDINO, G.; OLIVA, Milena Donato (coord.). Lei geral de prote\u00e7\u00e3o de dados pessoais e suas repercuss\u00f5es no Direito <\/span><span style=\"color: #000000;\">Brasileiro. S\u00e3o Paulo: Thomson Reuters Brasil, 2019, p. 385-415.<\/span><\/p><p><br \/><span style=\"color: #000000;\">MULHOLLAND, C.; FRAJHOF, I. Z. Intelig\u00eancia Artificial e a Lei<\/span><br \/><span style=\"color: #000000;\">Geral de Prote\u00e7\u00e3o de Dados Pessoais: breves anota\u00e7\u00f5es sobre o <\/span><span style=\"color: #000000;\">direito \u00e0 explica\u00e7\u00e3o perante a tomada de decis\u00f5es por meio de <\/span><span style=\"color: #000000;\">machine learning. In: FRAZ\u00c3O, A.; MULHOLLAND, C. (coord.) <\/span><span style=\"color: #000000;\">Lei geral de prote\u00e7\u00e3o de dados pessoais e suas repercuss\u00f5es no <\/span><span style=\"color: #000000;\">direito brasileiro. S\u00e3o Paulo: Thomson Reuters Brasil, 2019.<\/span><\/p><p><span style=\"color: #000000;\">WACHTER, S.; MITTELSTADT, B; FLORIDI, L. Why a right to <\/span><span style=\"color: #000000;\">explanation of automated decision-making does not exist in the<\/span><br \/><span style=\"color: #000000;\">General Data Protection Regulation. International Data Privacy <\/span><span style=\"color: #000000;\">Law, 2017, p. 10.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"<p>Andr\u00e9 Jobim de Azevedo Vitor Kaiser Jahn. \u00a0 INTRODU\u00c7\u00c3O Presenciamos o desenvolvimento de novas tecnologiasclassificadas como disruptivas, dado o seu consider\u00e1vel potencial de modifica\u00e7\u00e3o abrupta da realidade e da sociedade. Elas t\u00eam afetado a forma como as pessoas se comunicam e relacionam, as fontes de energia, as rela\u00e7\u00f5es de trabalho e o processo produtivo como &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/faracodeazevedo.com.br\/index.php\/2022\/03\/03\/a-tutela-dos-direitos-de-explicacao-e-revisao-das-decisoes-automatizadas-no-brasil\/\" class=\"more-link\">Continue lendo<span class=\"screen-reader-text\"> &#8220;A TUTELA DOS DIREITOS DE EXPLICA\u00c7\u00c3O E REVIS\u00c3O DAS DECIS\u00d5ES AUTOMATIZADAS NO BRASIL&#8221;<\/span><\/a><\/p>\n","protected":false},"author":6,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-10356","post","type-post","status-publish","format-standard","hentry","category-sem-categoria","entry"],"_links":{"self":[{"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/posts\/10356","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=10356"}],"version-history":[{"count":4,"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/posts\/10356\/revisions"}],"predecessor-version":[{"id":10360,"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/posts\/10356\/revisions\/10360"}],"wp:attachment":[{"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=10356"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=10356"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/faracodeazevedo.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=10356"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}