Racismo Algorítmico: uma análise da inteligência artificial a partir de Djamila Ribeiro

Alex Ricardo Weber; Andrei Zandoná Bollis; Leonel Piovezana

doi:10.22169/revint.v21.e26do203

Authors

Alex Ricardo Weber Universidade Comunitária da Região de Chapecó- UNOCHAPECÓ https://orcid.org/0009-0009-6562-909X
Andrei Zandoná Bollis Universidade Comunitária da Região de Chapecó -UNOCHAPECÓ https://orcid.org/0009-0003-7745-7754
Leonel Piovezana Universidade Comunitária da Região de Chapecó- UNOCHAPECÓ https://orcid.org/0000-0001-8577-319X

DOI:

https://doi.org/10.22169/revint.v21.e26do203

Keywords:

artificial intelligence, algorithmic racism, Djamila Ribeiro, anti-racist education

Abstract

This article presents an analysis of algorithmic racism in artificial intelligence (AI) in Brazil, using Ribeiro's categories (structurality, algorithmic neutrality, and anti-racist practices) as an analytical axis. The central objective is to examine how studies address these three dimensions. This is qualitative, bibliographical research. The search in the BDTD, CTD/CAPES, and CAPES Periodicals Portal retrieved 38 works; after applying the inclusion criteria, five (one thesis, one dissertation, and three articles) comprised the corpus. The material was subjected to thematic content analysis based on Ribeiro's categories (2019). The selection reveals the incipient, but also the growing academic attention to the interface between AI and racism.

Downloads

Download data is not yet available.

Author Biographies

Alex Ricardo Weber, Universidade Comunitária da Região de Chapecó- UNOCHAPECÓ

Professor de Informática no Instituto Federal de Educação, Ciência e Tecnologia de Santa Catarina, Campus Xanxerê. Leciona nas UCs de Arquitetura, Organização de Computadores e Sistemas Operacionais, Montagem e Manutenção de Computadores, Projeto Integrador e Trabalho Integrador no Curso Técnico em Informática Integrado ao Ensino Médio. É discente do Programa de Pós-Graduação stricto sensu em Educação na UNOCHAPECÓ. Participa do grupo de pesquisa SULEAR. Atuou como coordenador do curso Técnico em Informática Integrado ao Ensino Médio até 2024. Foi coordenador do NEaD. Possui especialização em Docência para Educação Profissional pelo IFSC e em Marketing em Agribusiness pelo I-UMA de Porto Alegre. É graduado em Sistemas de Informação pela ULBRA Carazinho.

Andrei Zandoná Bollis, Universidade Comunitária da Região de Chapecó -UNOCHAPECÓ

Doutorando e Mestre em Educação pelo Programa de Pós-Graduação Stricto Sensu em Educação da Universidade Comunitária da Região de Chapecó (UNO). Especialista no Ensino da Língua Inglesa pelo Instituto Federal de Santa Catarina. Graduação em Letras - Português e Inglês e respectivas literaturas. Professor de Inglês, membro do grupo de pesquisa Educação Intercultural e Pedagogias Decoloniais na América Latina - SULEAR e integrante da equipe editorial da Revista Pedagógica da UNO Chapecó.

Leonel Piovezana, Universidade Comunitária da Região de Chapecó- UNOCHAPECÓ

Pós-Doutorado em Educação pela Universidad de Salamanca - Espanha. Doutor em Desenvolvimento Regional com a Tese intitulada: Território Kaingang na Mesorregião Grande Fronteira do Mercosul - Territorialidades em confronto (UNISC, 2010) e mestrado em Desenvolvimento Regional pela Universidade de Santa Cruz do Sul (2000) Dissertação: Educação e Cultura na Terra Indígena Xapecó. Professor da educação básica na rede pública do Estado de Santa Catarina de 1982 a 2006. Possui graduação em História e Estudos Sociais pela Faculdade de Filosofia Ciências e Letras de Palmas (1984), especialização em História e Geografia pela UFSC. Atualmente é professor titular da Universidade Comunitária da região de Chapecó do Programas de Mestrado e Doutorado em Educação da Unochapecó e atendendo ao Edital n. 023/CAPES/2023, Coordenador Institucional para o Programa Nacional de Fomento à Equidade na Formação de Professores da Educação Básica (PARFOR EQUIDADE) da Universidade Comunitária da Região de Chapecó (UNO).

References

ARAÚJO, Júlio. Racismo algorítmico e microagressões nas redes sociais. Domínios de Lingu@gem, Uberlândia, v. 18, p. e1849, 2024. Disponível em: https://seer.ufu.br/index.php/dominiosdelinguagem/article/view/74207. Acesso em: 13 jul. 2025.

ARAÚJO, Júlio; ARAÚJO, Júlio de. Racismo algorítmico e inteligência artificial: uma análise crítica multimodal. Revista Linguagem em Foco, Fortaleza, v. 16, n. 2, p. 89-109, 2024. Disponível em: https://revistas.uece.br/index.php/linguagememfoco/article/view/13108. Acesso em: 13 jul. 2025.

ALMEIDA, Silvio. Racismo estrutural. São Paulo: Pólen, 2019.

ALVES, Beatriz. Datafolha: 59% dos brasileiros acreditam que a maioria da população é racista. CNN Brasil, São Paulo, 20 nov. 2024. Disponível em: https://www.cnnbrasil.com.br/politica/datafolha-59-dos-brasileiros-acreditam-que-a-maioria-da-populacao-e-racista/. Acesso em: 11 jul. 2025.

BARDIN, Laurence. Análise de conteúdo. São Paulo: Edições 70, 2016.

BONIFÁCIO, Carmen; SCHAPACHNIK, Fernando; PORTO, Fabio. Generative AI and the transformation of Work in Latin America – Brazil. arXiv preprint, 2025. Disponível em: https://arxiv.org/abs/2505.13490. Acesso em: 17 jul. 2025.

BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, v. 81, 2018, p. 1-15. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a.html?mod=article_inline&ref=akusion-ci-shi-dai-bizinesumedeia. Acesso em: 11 jul. 2025.

DAMASCENO, Adriana; PERUZZO, Cicilia Krohling. O tecnicismo na comunicação contemporânea: controvérsias sobre a relação entre redatores-robôs e racismo. Tríade: Comunicação, Cultura e Mídia, Sorocaba, SP, v. 11, n. 24, p. e023014, 2023. DOI: 10.22484/2318-5694.2023v11id5177. Disponível em: https://periodicos.uniso.br/triade/article/view/5177. Acesso em: 13 jul. 2025.

FRANCO, Maria Laura P.B. Análise de Conteúdo. 2. ed. Brasília: Líber Livro Editora, 2005.

MEIRELLES, Fernando S. Pesquisa do Uso da TI nas Empresas – 35. ed. São Paulo: FGV EAESP, 2024. Disponível em: https://eaesp.fgv.br/sites/default/files/legacy/u68/pesti-fgvcia-2024_0.pdf. Acesso em: 17 jul. 2025.

MOROSINI, Marília Costa; FERNANDES, Cleoni Maria Barboza. Estado do Conhecimento: conceitos, finalidades e interlocuções. Educação Por Escrito, Porto Alegre, v. 5, n. 2, p. 154–164, 2014. Disponível em: https://revistaseletronicas.pucrs.br/porescrito/article/view/18875. Acesso em: 10 dez. 2024.

MOROSINI, Marília Costa; KOHLS-SANTOS, Priscila; BITTENCOURT, Zoraia Aguiar. Estado do Conhecimento: teoria e prática. 1. ed. Curitiba: CRV, 2021.

NEPOMUCENO, Thiago de Godoy. Reflexões sobre a colonialidade digital: explorando a dialética entre o ensino da arte e a análise crítica sociológica dos estudantes enquanto sujeitos inseridos na cibercultura. Dissertação (Mestrado). Universidade Federal de Pelotas, Programa de Pós-Graduação em Artes, Centro de Artes. Pelotas, 2023. Disponível em:https://sucupiralegado.capes.gov.br/sucupira/public/consultas/coleta/trabalhoConclusao/viewTrabalhoConclusao.jsf?popup=true&id_trabalho=14954039. Acesso em: 14 jul. 2025.

NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism. New York: NYU Press, 2018.

O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Rua do Sabão, 2020.

RIBEIRO, Djamila. Pequeno manual antirracista. São Paulo: Companhia das Letras, 2019.

SAMARÃO, Liliany Alves. IA e algoritmos enviesados: as dimensões do viver na sociedade 5.0. Tese (Doutorado). Pontifícia Universidade Católica de São Paulo, Programa de Estudos Pós-Graduados em Comunicação e Semiótica. São Paulo: [s.n.], 2023. 108 p. Disponível em: https://ariel.pucsp.br/handle/handle/40758. Acesso em: 13 jul. 2025.

SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022. Disponível em: https://assets.pubpub.org/7bm06qr3/61661883837114.pdf. Acesso em: 11 jul. 2025.

SUE, Derald Wing. Microaggressions in Everyday Life: Race, Gender, and Sexual Orientation, Hoboken, NJ: John Wiley & Sons, 2010.

TYNES, Brendesha M. et al. From Racial Microaggressions to Hate Crimes: A Model of Online Racism Based on the Lived Experiences of Adolescents of Color. In: TORINO, Gina C. et al. (org.). Microaggression Theory: Influence and Implications, Hoboken, NJ: John Wiley & Sons, 2019.

VIANA, Pablo Moreno F.; BELMIRO, Dalila Maria M. Midiatização do racismo brasileiro: Todecachinho, consumo, cidadania no caso da Youtuber Ana Clara Barbosa. Revista Ícone, Caruaru v. 17, n. 2, p. 189–201. Disponível em: https://periodicos.ufpe.br/revistas/icone/article/view/240854. Acesso em: 23 mar. 2026.