Reconhecimento facial, LGPD e Direitos Fundamentais

A Comissão Nacional de Justiça aprovou resolução em 2022 com regras para reconhecimento facial, mas o Senado debate restringir muitos pontos neste ano de 2023. Abaixo segue trecho da matéria do jornal “Estadão”:

“Entre os principais pontos debatidos no Senado, o texto restringe o uso de câmeras instaladas pelas secretarias de segurança pública para reconhecimento facial indiscriminado de pessoas que circulam nas ruas, assim como, veda a implementação de modelos de “ranqueamento social”, que são usados pela China, em que cada cidadão recebe uma “pontuação” de acordo com seu comportamento nas redes sociais e a nota serve para assegurar ou não acesso a recursos públicos.

O Senado convidou uma comissão de 18 juristas para elaborar a proposta de regulação, que tem 45 artigos. O grupo, liderado pelo ministro do Superior Tribunal de Justiça (STJ) Ricardo Villas Bôas Cueva, elaborou um relatório de mais de 900 páginas, com a colaboração de membros da academia, da sociedade civil e de empresas ouvidas em audiências públicas realizadas entre abril e maio do ano passado.” (Por Levy Teles - 08/02/2023).

O uso do Reconhecimento Facial para fins de policiamento ganhou especial espaço nas pautas públicas e sociais nos últimos meses, sobretudo em decorrência das manifestações “Black Lives Matter” (“Vidas Negras Importam”), responsáveis por levantar importantes questões sobre racismo e a discriminação inerentes à essa tecnologia. Um dos principais pontos discutidos dentro desse debate da resolução foi exatamente esse ponto relacionado a discriminação que pode ocorrer. Ponto de extrema importância, pois além de racismo ser crime e carregamos até hoje uma dívida histórica por conta desse em nosso país, a nossa carta magna deixa claro:

“Todos são iguais perante a lei, sem distinção de qualquer natureza, garantindo-se aos brasileiros e aos estrangeiros residentes no País a inviolabilidade do direito à vida, à liberdade, à igualdade, à segurança e à propriedade”.

No Brasil, o uso da tecnologia acontece há algum tempo. No dia 07 de julho de 2019 a polícia militar do estado do Rio de Janeiro iniciou o uso de Reconhecimento Facial com a finalidade de auxiliar a polícia na busca de criminosos, e no dia seguinte de seu uso, dia 08 de julho, foi feita a primeira prisão com o uso da ferramenta. O sistema utilizado neste caso é capaz de identificar os suspeitos com uma precisão de até 90%. Ainda que muito próximo da identificação “perfeita”, o fato da tecnologia não ser precisa o suficiente faz nascer uma série de questionamentos quanto à confiabilidade que se pode depositar nessas ferramentas.

O uso dessa tecnologia apresenta grandes riscos de propagação do racismo, pois os sistemas de inteligência artificial responsáveis por isso têm uma maior dificuldade na identificação de pessoas negras. Vale lembrar que, as cidades de São Francisco, Berkeley e Nova York, todas nos EUA, baniram o uso dos sistemas de reconhecimento facial, principalmente quanto ao uso para fins investigatórios, além de empresas como IBM que declarou publicamente que não mais fornecerá este tipo de tecnologia para a polícia.

A organização “Rede Observatório” aponta que 90% das pessoas que são presas no Brasil, com uso de ferramentas de Reconhecimento Facial são negras, essa é uma preocupação com os riscos de violação a direitos fundamentais (especialmente para essa parcela da população). O uso dessas tecnologias pode agravar o encarceramento em massa, principalmente de jovens e negros das periferias. O governo do Distrito Federal, na contramão dessas preocupações, quanto aos riscos derivados da imprecisão de sistemas de reconhecimento facial, sancionou a Lei nº 6.712/2020, publicada no Diário Oficial na última quarta-feira (11 de novembro de 2020), esse já havia manifestado interesse a aderir o sistema no ano de 2019.

A Resolução nº 332 do CNJ, de 21 de agosto de 2020, aborda questões relacionadas à ética, à transparência e à governança na produção e no uso de tecnologias de Inteligência Artificial no Poder Judiciário.

Nesse sentido, destacam-se alguns pontos interessantes da Resolução, no tocante  à  preocupação  quanto  à  proteção  a  direitos  frente  ao uso dessas ferramentas. O instrumento dispõe que, quanto ao uso de Inteligência artificial deverá ser observado a compatibilidade de sua prática com o respeito aos direitos fundamentais, em especial aqueles previstos na CF e em tratados dos quais o Brasil seja parte (art. 4º).

Com um capítulo dedicado à não-discriminação, a Resolução dispõe que, as decisões tomadas com base no uso de inteligência artificial, deverão ter por objetivo auxiliar no julgamento justo, de forma a preservar a “igualdade, a não discriminação, a pluralidade e a solidariedade” (art. 7º). 

Aborda ainda, nos parágrafos do art. 7º, questões relacionadas aos vieses nos algoritmos que, caso tenham sido identificados anteriormente à produção do software, deverão ser corrigidos. Na hipótese de não ser possível a sua correção, o software deverá ser descontinuado e deverá ser elaborado um relatório explicando o motivo da decisão.

Os projetos analisados no ano de 2022 foram o PL 5.051/2019, do senador Styvenson Valentim (Podemos-RN), que define princípios para uso da inteligência artificial no Brasil; o PL 872/2021, do senador Veneziano Vital do Rêgo (MDB-PB), que disciplina a utilização desse tipo de recurso no país; e o PL 21/2020, do deputado federal Eduardo Bismarck (PDT-CE), que regulamenta a aplicação da inteligência artificial e está em análise no Senado.

“Comissão de Juristas instituída pelo Ato do Presidente do Senado nº 4, de 2022, destinada a subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei nºs 5.051, de 2019, 21, de 2020, e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil (...)”

O texto da resolução estabelece regras para a validade do reconhecimento pessoal como instrumento de prova, mas claro que com alguns requisitos definidos para que seja feita de forma eficaz, alguns parâmetros a serem seguidos em decorrência da onda regulatória de dados pessoais, como por exemplo, com a LGPD em setembro de 2020.

A  Ministra  Rosa  Weber  (presidente  do  CNJ) pontuou em sua fala a importância dessa resolução em seu ponto de vista: “Evita a prisão e condenação de inocentes, reduz a impunidade e amplia o respaldo do sistema de justiça perante a comunidade”.

Ela ainda argumentou que: “o reconhecimento equivocado de pessoas é uma das causas principais do erro judiciário. A 'observância de balizas científicas no procedimento' é essencial para ampliar o grau de fidedignidade desse meio de prova - e consequentemente um passo fundamental na consolidação de uma prestação jurisdicional justa, que não condene inocentes nem permita que culpados permaneçam impunes.”

Segundo a ministra, a equipe elaborou: diagnóstico sobre elementos catalisadores da prisão de inocentes, relacionado ao reconhecimento de pessoas, com atenção especial a incorporação de inteligência artificial e ao impacto do racismo estrutural; protocolo que vai servir como guia para controle judicial de possíveis nulidades; projeto de lei para atualização da legislação que trata do procedimento; proposta pedagógica de curso voltado a capacitação dos magistrados; e cartilha à população em geral 'oferecendo ferramentas para que ela possa fortalecer os mecanismos de controle na realização do procedimento, evitando erros e consequências decorrentes de um reconhecimento indevido.

“DISPOSIÇÕES PRELIMINARES:

Art. 1º: Esta Lei estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial (IA) no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, Coordenação de Comissões Especiais, Temporárias e Parlamentares de Inquérito 16 em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico.

Art. 2º: O desenvolvimento, implementação e uso de sistemas de inteligência artificial no Brasil têm como fundamentos:

I – A centralidade da pessoa humana;

II – O respeito aos direitos humanos e aos valores democráticos; (...)

V – A igualdade, a não discriminação, a pluralidade e o respeito aos direitos trabalhistas;

VI – O desenvolvimento tecnológico e a inovação; (...)

VIII – a privacidade, a proteção de dados e a autodeterminação informativa (...)

Art. 3º: O desenvolvimento, implementação e uso de sistemas de inteligência artificial observarão a boa-fé e os seguintes princípios:

I – Crescimento inclusivo, desenvolvimento sustentável e bem-estar; II – Autodeterminação e liberdade de decisão e de escolha;

III - Participação humana no ciclo da inteligência artificial e supervisão humana efetiva;

IV – Não discriminação;

V – Justiça, equidade e inclusão.”

A China é o país mais vigiado do mundo e utiliza esse sistema de reconhecimento facial, é considerado um país com baixo índice de criminalidade quando comparado a Europa ocidental e tem investido muito em tecnologia como reconhecimento facial, big datas e Inteligência Artificial de vigilância em massa para ser capaz de saber, em tempo real, o que fazem seus 1,4 bilhões de habitantes.

As startups convertidas em empresas multi bilionários Sense Time e MegVii lideram o desenvolvimento de uma das tecnologias mais sofisticadas para vigilância pública, as câmeras e software de reconhecimento facial. De acordo com documentos públicos da MegVii, uma única câmera da empresa é capaz de analisar até mil pessoas por frame capturado, identificar seus rostos e checar, em base de dados públicas, se há entre os monitorados pessoas procuradas pela Justiça.

Além das mais de 200 milhões de câmeras públicas vigiando as cidades do país, tecnologias de monitoramento das atividades online aprofundam a vigilância sobre os cidadãos locais. Os mais de 750 milhões de cidadãos conectados à internet são submetidos a um controle mais rigoroso que em qualquer outro país do mundo. Desde 2011 a principal rede social e de mensagens instantâneas do país, o WeChat, armazena históricos de conversas e posts de seus usuários por, ao menos, seis meses.

No ano passado, deputados e senadores viajaram até a China para conhecer esse sistema capaz de conhecer rostos de qualquer cidadão no meio de uma multidão quase infinita. Essa tecnologia já tem sido testada há um tempo em solo brasileiro como abordamos no início deste artigo, porém, com menor abrangência. Campinas é uma cidade localizada no interior do estado de São Paulo que já faz uso.

Outro estado que utiliza é a Bahia. O reconhecimento facial já é usado com outras finalidades no Brasil, como identificar pessoas suspeitas em aeroportos. São raras, porém, iniciativas voltadas à segurança urbana como a da Bahia ou a de Campinas, que há alguns anos monitora imagens de câmeras para identificar as placas de carros roubados. André Von Zuben, então secretário de Desenvolvimento Econômico, Social e de Turismo de Campinas, argumentou que só no ano de 2020, cerca de 130 pessoas foram detidas devido ao sistema de monitoramento de veículos.

As câmeras podem flagrar carros suspeitos com base em características marcantes, como adesivos de destaque. Em Campinas duas câmeras especiais para reconhecimento facial foram instaladas em pontos estratégicos onde tem grande fluxo de pessoas. Essas são conectadas à Central Integrada de Monitoramento de Campinas (Cimcamp), que tem acesso a quase 500 câmeras na cidade (cerca de 300 da prefeitura e outras 200 de estabelecimentos como bancos, shoppings e a Universidade de Campinas). Essa central alimenta o sistema de monitoramento com os números das placas e características dos veículos que devem ser localizados, assim como, os rostos das pessoas. Os agentes do Cimcamp submetem imagens do suspeito, como fotos tiradas por celular, mas a tecnologia de reconhecimento facial não necessariamente compara a foto fornecida à imagem captada pela câmera.

Funciona assim: a imagem do rosto daquela pessoa é analisada e processada por um algoritmo, treinado para identificar dezenas de pontos faciais únicos e correlações entre eles. Os detalhes captados variam de acordo com a complexidade da tecnologia utilizada, mas podem ser, por exemplo, marcas cicatrizes ou contorno da face. Essas informações são usadas para criar um arquivo que descreve o rosto e funciona como um "RG facial", que é armazenado para futuras consultas. Ele pode ser usado para identificar suspeitos ou localizar desaparecidos mais rapidamente.

Na cidade de São Paulo, no ano de 2019, o Metrô de SP anunciou a implantação de novo sistema de monitoramento eletrônico por imagem de suas estações, trens e áreas de operação nas linhas 1-Azul, 2-Verde e 3-Vermelha. No edital, estavam previstas a ampliação de seu parque de câmeras de 2.200 para 5.200, a troca dos equipamentos analógicos por digitais, incluindo câmeras de reconhecimento facial, e a centralização do comando das câmeras em uma única central – hoje, isso ocorre espalhado pelas estações da companhia.

A iniciativa de usar câmeras de reconhecimento facial pelo Metrô de São Paulo se conecta com diversas outras que estão sendo implementadas em âmbito global a partir da popularização do que se chama de big data, a coleta e processamento de milhares de dados produzidos a todo instante em âmbito digital.

Precisamos ter uma regulamentação responsável para que não sejam cometidas injustiças com o uso dessas tecnologias. Essas devem ser usadas para avanços e não retrocessos. O policial operacional do futuro, possivelmente, precisará menos fuzis e mais domínio de ferramentas tecnológicas.

O uso dessa tecnologia que pontuamos especificamente neste artigo, se faz muito útil e positiva, mas como qualquer tecnologia necessita de aprimoramento, tanto em sua eficácia, quanto em seu uso e que siga normas de privacidade e proteção de dados, além da proteção de direitos fundamentais. No que se refere à propriedade e uso dos dados coletados por este meio: onde ficam armazenadas as informações? Para que fins serão usadas? Quem são seus proprietários?

A LGPD que entrou em vigor no ano de 2020, inspirada na GDPR (Lei Europeia de Proteção de Dados), deve ser usada a fim de garantir mais transparência no uso e armazenamento de dados pessoais na internet, mas ainda há brechas que permitem exceções. É o caso das câmeras: há uma cláusula que diz que dados coletados não estão sujeitos à lei se forem usados para fins de segurança pública.

Entretanto as empresas que ganharem a licitação certamente utilizarão estas informações para vendê-las para anunciantes – o que configura, ao meu ver, uma apropriação indevida de informações que pertencem a cada um dos cidadãos, não à empresa e nem ao governo.

O aumento da Segurança Pública é um argumento positivo, mas é preciso aperfeiçoar o sistema para não haver erros e que as informações coletadas sejam usadas devidamente e não sofram desvio de propósito. Precisamos de um equilíbrio para evitar abusos.

Um pré-requisito válido é que, o fornecedor da tecnologia (a empresa), não tenha acesso aos dados coletados e que o governo adote maneiras menos invasivas.O poder público precisa seguir os princípios gerais da LGDP quando adota esse tipo de tecnologia. Afinal, devemos pensar na ética, na transparência, na liberdade de expressão e na proteção de dados.

Além do exposto, pontuo também que é importante que essa tecnologia não influencie negativamente no princípio da presunção da inocência em casos suspeitos sem investigação anterior. A Lei Geral de Proteção de Dados (LGPD) deve estimular as empresas e o governo a estabelecerem políticas claras de ética, compliance e criptografia de dados.

“O debate sobre a regulação do reconhecimento facial é incipiente, e a sua implementação é exploratória e experimental. O reconhecimento e registro de faces depende de, pelo menos, três processos: (i) expansão das capacidades de processamento, coleta e armazenamento (ex: data centers) de dados, (ii) disseminação de sensores e dispositivos (smartphones, tablets, roteadores, câmeras e atuadores) e (iii) aprimoramento de algoritmos de inteligência artificial.”

Obviamente o uso dessa tecnologia de reconhecimento facial é muito positivo, mas precisamos nos atentar aos pontos importantes para que seu uso seja eficaz. É inevitável que essas tecnologias tomem cada vez maiores proporções, porém, devem sempre ser implementadas com muito cuidado.

"A tecnologia tem que servir para potencializar as nossas habilidades e as nossas competências" (Microsoft)