O Dia Nacional de Combate à Discriminação Racial nos convida a ampliar nossa compreensão sobre o racismo, especialmente em um mundo cada vez mais digitalizado. Se, por um lado, a tecnologia oferece oportunidades poderosas de inclusão, por outro, quando mal aplicada, pode reproduzir ou até agravar desigualdades raciais.
É essencial reconhecer que o combate ao racismo ultrapassa as fronteiras do convívio social e institucional: ele também precisa alcançar os códigos, dados e algoritmos que moldam decisões e comportamentos na sociedade contemporânea.
Neste artigo, vamos refletir sobre como o preconceito se manifesta no ambiente digital, por meio de vieses e discriminação algorítmica, e por que essa discussão é tão urgente.
No Brasil, o Dia Nacional de Combate à Discriminação Racial, celebrado em 3 de julho, A data foi criada para relembrar a aprovação da Lei n° 1.390 de 03/07/1951. É uma data crucial para refletirmos sobre as raízes e as novas manifestações do racismo em nossa sociedade. Em um mundo cada vez mais digitalizado, é fundamental entender como o preconceito também pode estar presente nas tecnologias que usamos diariamente.
O Que é Discriminação Racial?
A discriminação racial é a forma de preconceito que se manifesta por meio de distinções, exclusões, restrições ou preferências baseadas em raça, cor, descendência ou origem étnica, que têm por objetivo anular ou cercear o reconhecimento, gozo ou exercício, em condições de igualdade, dos direitos humanos e liberdades fundamentais nos campos político, econômico, social, cultural ou em qualquer outro campo da vida pública.
A Nova Fronteira da Discriminação: Vieses e Discriminação Algorítmica
Com o avanço da inteligência artificial (IA) e o uso massivo de algoritmos em diversas áreas, surge uma preocupação crescente: Os vieses algorítmicos. Mas o que isso significa?
Um viés algorítmico ocorre quando um sistema automatizado reproduz ou até amplifica preconceitos existentes na sociedade.
Como os Vieses Entram nos Algoritmos?
Os vieses, ou distorções, podem se infiltrar nos algoritmos de diversas maneiras:
- Vieses nos dados de treinamento: Se os dados usados para “ensinar” o algoritmo contêm representações desiguais ou estereotipadas de determinados grupos, o sistema aprenderá a reproduzir esses padrões.
- Vieses de amostragem: Se a coleta de dados não é representativa da diversidade da população, os resultados do algoritmo serão tendenciosos.
- Vieses de design: A forma como os algoritmos são projetados e os objetivos que eles buscam otimizar também podem introduzir vieses.
- Vieses humanos: Os desenvolvedores e engenheiros que criam e implementam esses sistemas também carregam seus próprios vieses, que podem ser inadvertidamente incorporados ao código.
Como combater esse tipo de discriminação?
- Auditoria e Transparência: É fundamental que os algoritmos sejam auditados regularmente para identificar e corrigir vieses. As empresas e instituições que os utilizam devem ser transparentes sobre como esses sistemas funcionam e como as decisões são tomadas.
- Dados Diversos e Representativos: Equipes mais diversas ajudam a identificar e corrigir injustiças tecnológicas antes que elas se tornem sistêmicas.
- Desenvolvimento Ético: Incentivar e promover o desenvolvimento de IA ética, com equipes multidisciplinares que incluam especialistas em direitos humanos e questões raciais.
- Legislação e Regulamentação: A criação de leis e regulamentações específicas para o uso de IA, visando garantir a equidade e coibir a discriminação algorítmica.
- Educação e Conscientização: Promover a educação sobre os riscos e impactos dos vieses algorítmicos, tanto para desenvolvedores quanto para o público em geral.
No Dia Nacional de Combate à Discriminação Racial, é essencial ampliarmos nosso olhar sobre o racismo, reconhecendo também suas manifestações no universo digital.
A tecnologia, quando usada com consciência e responsabilidade, pode ser uma aliada na promoção da equidade. No entanto, se desenvolvida sem atenção à diversidade e aos direitos humanos, corre o risco de perpetuar, e até intensificar desigualdades históricas.
A luta contra a discriminação racial é coletiva e deve estar presente em todas as esferas da sociedade, inclusive nos algoritmos que moldam nossas experiências no mundo virtual.
Fontes confiáveis:
https://prefeitura.sp.gov.br/web/direitos_humanos/w/igualdade_racial/noticias/259759
