Este artigo foi publicado neste portal originariamente em dezembro de 2022

As tecnologias de reconhecimento facial vêm sendo amplamente utilizadas em diversas frentes do mercado, tanto que a projeção é de que movimentem mais de R$ 50 bilhões em 2022, segundo aponta a Allied Market Research. Sem dúvida podemos enumerar uma série de avanços e benefícios do uso da biometria facial. No entanto, é imprescindível lançarmos o olhar para um problema que esta tecnologia reacende: o racismo algorítmico.

A biometria facial tem trazido à tona o debate do racismo que pode estar por trás do uso deste tipo de inteligência artificial. Recentemente, na cidade de Michigan, a jovem Lamya Robinson foi impedida de entrar em uma pista de patinação porque o sistema de biometria facial usado pelas câmeras do local identificou que ela tinha sido banida após uma briga. Contudo, ela jamais havia estado no lugar.

Situações equivocadas como esta podem ser vistas mundo afora e não é diferente no Brasil. Um caso inusitado aconteceu no Ceará, quando o ator norte-americano Michael B. Jordan, conhecido por sucessos como “Pantera Negra”, foi apontado como um dos suspeitos de participar de uma chacina – a sua foto apareceu inclusive ao lado de outros suspeitos.

Apesar de virar meme na internet, esta falha evidenciou um problema e a urgência de discutirmos e procurarmos soluções para o racismo algorítmico. Esse acontecimento e tantos outros já registrados mostram o quanto esta tecnologia, quando mal empregada, pode trazer prejuízos morais, sociais e até mesmo judiciais, sobretudo no que se refere à população negra e asiática.

É fato que tecnologias de biometria facial costumam ter mais dificuldade em distinguir pessoas negras quando comparadas às de pele branca. No Brasil, isso se torna ainda mais problemático considerando que vivemos em um país miscigenado e, por consequência, com uma imensa diversidade de rostos. Para se ter ideia, a precisão dos sistemas que temos hoje no mercado varia entre 75,8% e 87,5% quando aplicadas em pessoas negras.

O que isso nos mostra? Que precisamos ir além dos benefícios desta tecnologia e refletir sobre as desigualdades que ela pode causar, como em casos de acusações e prisões injustas. As tecnologias de IA como as utilizadas em bancos, aplicativos de fotos, redes sociais e pela segurança pública podem, sim, serem discriminatórias e excludentes, principalmente entre mulheres e homens negros.

O reconhecimento facial tem como intuito identificar pessoas a partir de padrões da face. Para que isso aconteça é utilizada a Inteligência Artificial, alimentada por machine learning. Muitas vezes há um reconhecimento equivocado porque a tecnologia é incapaz de analisar rostos negros. Esse processo de aprendizado da máquina é que precisa ser aprimorado para que não tenhamos mais casos de racismo algorítmico. A Inteligência Artificial envolvida precisa ser ensinada da maneira correta. Ou seja, o ser humano por trás da IA é que vai ensinar a tecnologia a não ser racista.

Afinal, na retaguarda dos algoritmos existe alguém que os criou, e não podemos perpetuar a lógica racista que pode estar por trás da tecnologia. O desafio é alcançar algoritmos matemáticos cada vez mais precisos para analisar os diferentes pontos da face de cada indivíduo.

Vou trazer outro exemplo do racismo algorítmico por trás da biometria facial retratado no documentário “Coded Bias”, da Netflix. Aqui uma Inteligência Artificial é investigada pela ótica racista e também machista, camuflada nos algoritmos da biometria facial. Nesse contexto, entram em debate o preconceito e as questões éticas que se desenrolam nas relações humanas e de trabalho.

Para finalizar estas reflexões é importante evidenciar que as Inteligências Artificiais não têm consciência própria, ao contrário do que se enaltece nos filmes de ficção científica. Quem sabe num futuro próximo essa realidade mude, mas no momento presente somos nós seres humanos que estamos por trás das tecnologias e do que elas “pensam”.

Deste modo, a aprendizagem das máquinas e de todo componente tecnológico de IA depende da inteligência humana. Para vencermos o racismo algorítmico devemos ficar atentos à maneira como ensinamos as máquinas. É preciso quebrar esse mecanismo de retroalimentação de uma sociedade desigual também nos meios virtuais, deixando assim de repetir padrões preconceituosos e ultrapassados.

Obrigado pela leitura e até a próxima!

O post MEMÓRIA | A tecnologia pode ser racista? apareceu primeiro em Acontecendo Aqui.

Talvez o maior desafio que temos como pessoas seja deixar algum legado positivo. De ideias a realizações. Colaborar de alguma forma para tornar a vida melhor. Um propósito inspirador ou atitudes que façam a diferença. Podemos sempre deixar uma boa marca no mundo. Essa é a melhor parte do nosso trabalho. Há 18 anos, a Cacto Publicidade atua com inteligência criativa para construir marcas no mercado catarinense.

Recentemente, a Cacto lançou a campanha institucional ”Deixe sua marca no mundo”, como parte de uma série de ações que a agência desenvolveu ao longo do ano, valorizando os trabalhos de comunicação a clientes e marcas com propósitos.

”As marcas são muito mais que os desenhos que as representam, que os serviços ou produtos que ofertam. São pontos de convergência de ideias, boas ideias. Vivemos num mundo novo que demanda, cada vez mais, a atitude e o comprometimento. Seja das grandes marcas, dos pequenos negócios regionais, da nossa atuação na comunidade. É pensando nisso que lançamos a provocação  ”Que marca você vai deixar no mundo?”, explica Fernando Maragno, diretor criativo da agência.

A campanha conta com um vídeo que está veiculando no minuto do Fantástico, spot de rádio, outdoors e anúncios gráficos na região Sul do Estado.

”Além das peças dessa campanha, temos explorado muito isso no dia a dia da agência, no nosso relacionamento com os clientes, nas criações e estratégias que estamos construindo para eles. Como vamos construir grandes marcas se não tivermos motivação e propósitos inspiradores em nossos negócios?”, explica Beto Barata, planejamento da agência.

”Um exemplo disso foram as diversas ações realizadas em 2021 para nossos clientes. Cito as ações para a Unesc, uma grande universidade comunitária com um posicionamento muito propositivo no Sul Catarinense. No segundo semestre, também produzimos o Mova Experience, para um cliente da área da saúde, uma instalação única no país, aberta ao público, com mais de 120m2, de muita tecnologia, interatividade, informação e educação sobre a obesidade, um problema crônico de saúde no mundo. Essa tem sido uma parte importante do trabalho da Cacto, provocar nossos clientes a ações e campanhas que deixem suas boas marcas no mundo, finaliza Maragno.

O post Deixe sua marca no mundo. apareceu primeiro em Acontecendo Aqui.