Política

Racismo algorítmico é tema de audiência pública no Legislativo

A Comissão de Direitos Humanos e Segurança Pública (CDHSP) da Assembleia Legislativa da Bahia (ALBA) promoveu, nesta terça-feira (9), uma audiência pública virtual para debater o racismo algorítmico, com ênfase na relação entre tecnologias e possíveis violações de direitos humanos. O encontro foi realizado em parceria com a Secretaria Estadual de Ciência, Tecnologia e Inovação (SECTI) e teve a participação de pesquisadores, ativistas, representantes de movimentos sociais e do poder público.
 
Presidente da CDHSP, o deputado Jacó Lula da Silva (PT) conduziu os trabalhos e manifestou sua preocupação com o uso da inteligência artificial em iniciativas racistas e de discriminação em razão da cor e da raça da pessoa. “Em que medida o uso destes algoritmos pode reforçar a cultura racista e escravocrata? Vimos, recentemente, que esse sistema de reconhecimento facial foi usado para prisão de homens negros, que mais tarde foram inocentados. Não devemos esquecer que o nosso país tem o racismo e a escravidão enraizados na nossa cultura. Em mais de 500 anos de história, tivemos 388 anos de escravidão”, contextualizou o parlamentar.
 
Sócrates Santana, gestor do ProgramaÊ da Secretaria de Ciência, Tecnologia e Inovação da Bahia (Secti), representou a secretária Adélia Pinheiro no debate. O assessor da pasta estadual explicou que o órgão tem identificado casos de denúncias referentes a plataformas que fazem uso do algoritmo em tomadas de decisões desde o ano de 2013. “Para se ter uma noção, lá atrás, quando se fazia pesquisa por garotas negras, o que retornava era resultado de pornografia”, mencionou Santana, que apontou outros casos que configuravam racismo algorítmico na internet.
 
Em relação ao reconhecimento facial, ferramenta utilizada por órgãos governamentais em algumas cidades, a exemplo de Salvador e Rio de Janeiro, Sócrates explicou que é necessário se ter mais clareza sobre a base de dados que alimenta esse tipo de sistema adotado por gestores da segurança pública.
 
O major Thiago Garcez, coordenador do Centro de Referência Étnico Racial da Secretaria de Segurança Pública da Bahia (SSP-BA), representou o secretário Ricardo Mandarino e a superintendente de Prevenção à Violência, major Denice Santiago. Garcez parabenizou a iniciativa da CDHSP e da SECTI na promoção do debate e informou que irá sugerir à SSP a promoção de cursos de capacitação de policiais, bombeiros e servidores da polícia técnica com a temática discutida na audiência pública.
 
A defensora pública Juliane Andrade representou o defensor público geral Rafson Ximenes. Em sua fala, lembrou a importância da realização do debate exatamente no início do Novembro Negro, momento em que a pauta envolvendo a população negra é evidenciada. Ao contar experiências do seu cotidiano, Juliane relatou que a grande maioria das pessoas que bate à porta da Defensoria Pública da Bahia é formada por pessoas negras. Em paralelo, aponta a existência de decisões judiciais tomadas de forma célere quando se trata de pessoas brancas e de alto poder aquisitivo, enquanto processos penais que têm negros na posição de réu se arrastam por mais tempo até que tenham um desfecho. “A quantidade de processos penais, no recorte Salvador, é formada por cerca de 70% com pessoas negras como réus. É muito nítido no noticiário que quando se fala em pessoa branca e de poder aquisitivo alto, as decisões da Justiça são mais céleres. A qualidade do processo penal ocorre de forma muito diferente”, reforçou.
 
De acordo com a defensora pública, o sistema jurídico brasileiro é seletivo, racista e machista. Diariamente, continua Juliane, são constatadas centenas de flagrantes por atitudes suspeitas que têm a ver com a cor da pele, o tipo de cabelo ou a roupa que a pessoa está vestindo.
 
Mestre em cultura contemporânea e produtor cultural, o pesquisador Tarcízio Silva explicou que o racismo tem sido impulsionado pelas ferramentas tecnológicas, a exemplo do reconhecimento facial, que tem sido implementado em escala global na área da segurança pública. “Eu defendo a necessidade do banimento do reconhecimento facial, uma tecnologia altamente imprecisa e com histórico de erros. Há casos vulgares de erros em Salvador, Rio de Janeiro e até em cidades consideradas globais. O Brasil é um mercado consumidor de tecnologias e não podemos confiar na boa fé destas empresas que oferecem tais sistemas”, alertou.
 
Na sequência, a audiência pública teve a participação de Nina da Hora, cientista da computação e ‘hacker antirracista’. Ela apresentou sua visão técnica do campo da ciência da computação e foi enfática ao defender, também, o fim do uso da tecnologia de reconhecimento facial como ferramenta da segurança pública. “Dentro do meio em que vivo, e por isso que eu me denomino hacker antirracista, a tecnologia está para contribuir com a sociedade. A partir do momento que fecha esta porta, não há motivo para continuar. Ela deve ser aproveitada por amplo número de pessoas no país, o que não houve com o sistema em questão”, disse a pesquisadora.
 
Nina frisa que o algoritmo destes sistemas de reconhecimento facial precisa de dados prévios para funcionamento. “É uma ferramenta pensada por pessoas brancas, sobretudo homens brancos, não necessariamente do Brasil, geralmente dos EUA. Quando a gente tem essa produção de outro local para adaptar no Brasil, a gente precisa de um tempo. Se a base de fotos contém pessoas que foram incriminadas de forma incorreta, mas as imagens não foram retiradas da base, o algoritmo não tem como saber disso na hora da coleta”, exemplificou o que considera falha da funcionalidade da tecnologia.
 
Integrante da Comissão de Promoção da Igualdade Racial da Ordem dos Advogados do Brasil na Bahia (OAB-BA), a advogada Dandara Pinho argumentou que as instituições não podem continuar criminalizando corpos negros com uso da inteligência artificial, pois entende que não existe neutralidade na confecção destas ferramentas tecnológicas. Em sua breve intervenção no debate, sugeriu a criação de um grupo de trabalho de monitoramento da aplicação dos serviços na Bahia.
 
Graduando em Engenharia Civil pela Universidade Católica de Salvador (UCSal), com extensão na Escola de Engenharia Elétrica de Computação da Universidade Estadual de Campinas (Unicamp) e treinamento em Inteligência Artificial na Escola Politécnica da Universidade de São Paulo (USP), Marcus Casaes expôs sua inquietação sobre a importância de se entender quem está por trás da programação do algoritmo e como ela é reproduzida. “Toda inteligência artificial precisa aprender, precisa de base de dados. Toda a parte voltada para a alimentação de banco de dados é feita por pessoas brancas, em sua maioria. Esse sistema possui número muito alto de falso positivo para pessoas negras. É preciso saber quem são os fornecedores dessas tecnologias, quais critérios estão sendo utilizados. É uma caixa-preta, ninguém sabe o que acontece”, disse o estudante, que também pleiteou o banimento do uso de reconhecimento facial.
 
Jade Christinne, mentora jovem do Programa Cidadão Digital (Safernet Brasil e Facebook), embaixadora da Juventude pela Organização das Nações Unidas (ONU) e coordenadora de Articulação Política da Iniciativa Negra, disse ser imprescindível afirmar que máquinas são desenvolvidas por pessoas e para pessoas. “Nesse cenário, é enorme o abismo entre as pessoas que desenvolvem a tecnologia e aquelas impactadas pelo uso das ferramentas. Quem detém o código? A discussão sobre inteligência artificial e algoritmo é também sobre poder. A área de programação ainda é de maioria branca”, frisou.
 
Presente ao encontro virtual, o deputado Hilton Coelho (Psol) elogiou o nível do debate, composto por pesquisadores relativamente jovens na exposição do tema. “Isso nos dá uma alegria enorme. Acho que o principal dessa nossa audiência é procurar fazer com que estejamos todos mais atentos às intervenções do Executivo. Essa ação tecnológica está extremamente intensa, gerando prejuízos levantados aqui. Temos que levar esse debate para a sociedade civil organizada. É um debate sobre poder”, arrematou o parlamentar.
 
Mostrar Mais

Artigos Relacionados

Deixe um comentário

Botão Voltar ao topo
%d blogueiros gostam disto: