Inteligência artificial no ativismo feminino tecnológico - contextos e reflexões
por Renata Frade, doutoranda do Programa Doutoral em Informação e Comunicação em Plataformas Digitais - ICPD, pelas Universidade de Aveiro e Universidade do Porto (Portugal). Mestre em Letras pelo Instituto de Letras da UERJ. Bacharel em Comunicação Social (habilitação Jornalismo), pela PUC-RJ.
28 de outubro de 2021
“A tecnologia é sempre uma forma de conhecimento, práticas e produtos sociais. É o resultado de conflitos e compromissos, cujos resultados dependem principalmente da distribuição de poder e recursos entre os diferentes grupos da sociedade”.
— Judy Wajcman em Feminism Confronts Technology
Uma das vertentes feministas que mais se fortaleceram nos últimos 15 anos é a tecnológica. Em países como Brasil, Estados Unidos e da Europa, mulheres em tecnologia avançaram na mobilização por maior representatividade e igualdade de condições profissionais em TI, de acesso a universidades e cursos em STEM, sobretudo a partir da composição e crescimento de comunidades femininas tecnológicas. São lutas em comum destes coletivos: geração de políticas públicas de incentivo a meninas e jovens por estes campos profissionais, empreendedorismo, resgate de modelos históricos apagados pelo patriarcado, afirmação de identidades de género, fim de preconceitos, sobretudo racial, o qual tem ganho novos e maiores contornos com a inteligência artificial. Um dos coletivos que mais avançam nesta última causa é a Algorithmic Justice League, criado pela doutora do M.I.T., Joy Buolamwini, vítima de discriminação pelo não reconhecimento facial de suas características como negra em aparato tecnológico utilizado em sua pesquisa.
A incorporação tecnológica e a utilização de plataformas digitais como mediadoras da interação e comunicação são fundamentais para estes coletivos, porém também relevantes a outros grupos e movimentos feministas como Ni Una Menos, #Time´s Up e #metoo. Há diversos contextos que explicam e justificam as origens e os desdobramentos deste fenômeno ativista, mas para efeitos deste trabalho iremos nos concentrar em alguns para abordar a influência e a interferência do capitalismo de vigilância e da inteligência artificial no feminismo tecnológico.
A Quarta Onda Feminista, ou feminismo online, é parte do ciberativismo oriundo, principalmente, do surgimento e expansão da Web na transição do século XXI. Minorias, sobretudo femininas, foram as maiores beneficiadas da revolução tecnológica decorrente da Web (Castells, 2018). As Tecnologias da Informação (TI) ampliaram as possibilidades de comunicação entre as mulheres e transformaram relações de gênero. Este Net-ativismo resulta em “novos significados emergentes do social e da participação no interior dos novos contextos simbióticos transorgânicos, nos quais o humano e o tecnológico desenvolvem novas formas de interação e práticas de sociabilidade que superam a forma antropocêntrica” (Santaella, 2018). O Feminismo Tecnológico tem rendido uma vasta produção existente na área de STS (Science and Technology Studies, ou Estudos de Ciência e Tecnologia), que se entrecruza com os Estudos de Género. Os STS investigam como valores políticos e culturais influenciam o avanço tecnológico e a pesquisa científica, assim como o inverso, as influências científicas e tecnológicas sobre a sociedade. Uma das principais contribuições dos STS tem sido desafiar a ideia de que ciência e tecnologia são objetivas e neutras (D’Ignazio, Klein, 2016).
O tratamento de dados, com a automação por trás de interfaces de plataformas digitais, e a criação de novos aparelhos e programas computacionais envolvem algoritmos que podem reforçar os estereótipos de género/sexo, ou de segregação do mercado de trabalho. O data feminism (ou feminismo de dados) é uma maneira de pensar dados tanto em seus usos quanto nos limites, relacionada à experiência direta e ao comprometimento com a ação e pelo pensamento feminista interseccional. O ponto de partida para o feminismo de dados é algo que não é reconhecido na ciência de dados: o poder não é distribuído igualmente no mundo (D’Ignazio, Klein, 2020). Aqueles que exercem o poder são homens de elite, heterossexuais, brancos, sãos, cisgêneros do Norte Global. O trabalho do feminismo de dados é o primeiro a sintonizar como as práticas padrão em ciência de dados servem para reforçar essas desigualdades existentes e a usar a ciência de dados para desafiar e mudar a distribuição de poder. Os dados podem consistir em palavras ou histórias, cores ou sons, ou qualquer tipo de informação que seja sistematicamente coletada, organizada e analisada.
Os sete princípios do feminismo de dados são (D’Ignazio, Klein, 2020):
- Examinar o poder: o feminismo de dados começa analisando como o poder opera no mundo.
- Desafiar o poder: o feminismo de dados compromete-se a desafiar estruturas de poder desiguais e a trabalhar em prol da justiça.
- Elevar a emoção e a personificação: o feminismo de dados nos ensina a valorizar várias formas de conhecimento, incluindo o conhecimento que provém das pessoas como corpos vivos e sensíveis do mundo.
- Repensar binários e hierarquias: o feminismo de dados exige que desafiemos o binário de género, juntamente com outros sistemas de contagem e classificação que perpetuam a opressão.
- Abraçar o pluralismo: o feminismo de dados insiste em que o conhecimento mais completo advém da síntese de múltiplas perspectivas, com prioridade dada às formas locais, indígenas e experimentais de conhecimento.
- Considerar o contexto: o feminismo de dados afirma que os dados não são neutros ou objetivos. Eles são produtos de relações sociais desiguais, e esse contexto é essencial para a realização de análises éticas precisas.
- Tornar o trabalho visível: o trabalho da ciência de dados, como todo o mundo, é obra de muitas mãos. O feminismo de dados torna esse trabalho visível para que possa ser reconhecido e valorizado.
Um dos efeitos nocivos da tecnologia e da inteligência artificial que reforçam o preconceito, apontados por (Benjamin, 2020) é o Code-Switching: quando as pessoas mudam a forma como falam ou agem para se adequar às normas dominantes. Uma reflexão a ser feita é se e como ativistas feministas tecnológicas têm a consciência do quanto suas lutas - mediadas e realizadas sobretudo em plataformas digitais, criadas por empresas que se utilizam de IA e da abundância de dados para obtenção de lucros e objetivos empresariais nem sempre revelados - podem estar contaminadas pelo aprendizado de máquina e pelos servidores destas empresas de mídias sociais. Segundo Crawford (2021) a IA é fundamentada por práticas técnicas e sociais, por política, cultura, pelas estruturas que a sustentam, assim como por instituições privadas e públicas. Atua na formação de conhecimento, comunicação e poder e também tem provocado reconfigurações no nível da epistemologia, princípios de justiça e organização social. No capitalismo de vigilância (Zuboff, 2018), o big data é fundamental em uma nova lógica de acumulação, em uma engenharia social que projeta capacidades sociais e individuais, para o bem e para o mal.
Em uma vida onlife (Floridi, 2013), pautada por 24x7 de interações e conexões, na qual não faz mais sentido questionar se alguém está on-line ou off-line, existe uma simbiose humano-máquina intensificada pela inteligência artificial. O ativismo de coletivos femininos em tecnologia, via plataformas digitais, pode estar em risco e tem o desafio de desenvolver uma consciência crítica vigilante sobre tomadas de decisão e aferição de resultados desprovidos das influências algorítmicas de terceiros, os donos de seus dados nestas plataformas.
Referências Bibliográficas:
Benjamin, R. (2020). Race after technology: Abolitionist tools for the new Jim code. Cambridge: Polity Press. Apple Books.
Castells, M. (2018). O poder da identidade. São Paulo: Editora Paz e Terra. Kindle Version.
Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. S.l.: YALE UNIVERSITY PRESS.
D’Ignazio, C., & Klein, L. F. (2016). Feminist data visualization. Workshop on Visualization for the Digital Humanities (VIS4DH), Baltimore. IEEE.
D’Ignazio, C., Klein, L. (2020). Data Feminism. Cambridge, MA: MIT Press.
Floridi, L. (2015). The Onlife Manifesto: Being Human in a Hyperconnected Era. Cham: Springer International Publishing.
Santaella, L. (2018). Política nas redes e nas ruas. In: Felice, M., Roza, E. (orgs.). Net-ativismo: Redes digitais e novas práticas de participação. Campinas: Papirus. Apple Books
Wajcman, J. (2010). Feminist theories of technology. Cambridge Journal of Economics, 34, pp. 143–152.
Zuboff, S. (2018). Big Other: capitalismo de vigilância e perspectivas para uma civilização de informação. In: Bruno, F. et al. Tecnopolíticas da vigilância: perspectivas da margem. São Paulo: Boitempo.