A apresentação faz uma reflexão sobre a mudança que o conceito de participação social tem passado nos últimos anos. Essa mudança decorre tanto do surgimento de tecnologias de comunicação dialógica em larga escala quanto da emergência de ciborgues, arranjos sociotécnicos humano-máquina híbridos, alimentados por múltiplas subjetividades e instrumentalizados por agentes dotados de Inteligência Artificial. No centro desse debate, de disputa pela memória da cultura e seus processos de construção epistêmica, os próprios conceitos de participação social e democracia são postos em cheque.

Nesse contexto de institucionalização algorítmica pode a democracia ser reconceitualizada e pensada como um arranjo sociotécnico humano-máquina híbrido, de interação livre e dotado de relações democraticamente justas?

Para explorar esse debate André Leirner irá compartilhar sua experiência como arquiteto de sistemas de tecnologia e informação em projetos desenvolvidos no decorrer de seu percurso profissional. Contará também sobre como modelos de inteligência coletiva, inseridos no contexto da ciência pós-normal, podem eventualmente funcionar como pontos de resistência, protegendo subjetividades, fomentando a diversidade e a resiliência socioambiental.

André Leirner é especialista em fortalecimento institucional e gestão da informação aplicada a políticas públicas. Arquiteto formado pela USP, possui mestrado em Organizações Socioespaciais pela Architectural Association de Londres e em Administração Pública e Governo pela Fundação Getúlio Vargas (FGV). Em seu percurso profissional trabalhou como consultor em tecnologia de informação em governo para agências multilaterais, tendo sido parte da equipe ganhadora do prêmio IF Design Awards em inovação de serviços públicos pela Federação Alemã da Indústria.

Como urbanista, ministrou aulas na Escola Nacional de Administração Pública, no INCT Intercity – Future Internet for Smart Cities (IME-USP), no Tribunal de Contas de São Paulo, e desenvolveu curso EAD em mobilidade urbana para transição energética para o Ministério do Desenvolvimento, Indústria, Comércio e Serviços (MDIC). Foi ainda membro do Grupo de Trabalho “Participação e Território”, da Secretaria Nacional de Participação Social do atual governo.

Atualmente realiza pesquisa no Núcleo de Pesquisa Democracia e Ação Coletiva (NDAC), que reúne pesquisadores dedicados ao estudo dos atores sociais, dos papéis de mediação política por eles desempenhados e de suas interações com os agentes estatais. Faz parte ainda do Understanding Artificial Intelligence (UAI), grupo multidisciplinar do Instituto de Estudos Avançados (IEA-USP) que pesquisa e seleciona informação de qualidade para promover uma Inteligência Artificial inclusiva, diversa e ética, que beneficie toda a sociedade.

O evento é uma oportunidade para o público compreender como a tecnologia pode ser um recurso importante para a participação social e desenvolvimento de políticas públicas mais plurais e inclusivas.

Mais informações:

ieasc@sc.usp.br | (16)3373-9177

Transmissão: https://www.youtube.com/@iea.polosaocarlos

Prabhakar Raghavan enfatizará a questão da qualidade da informação e o potencial da inteligência artificial

Mecanismos de Busca e Sociedade: Qualidade da Informação e Potencial da Inteligência Artificial é o tema da conferência de Prabhakar Raghavan, vice-presidente sênior do Google, no dia 22 de agosto, às 10h, no Auditório István Jancsó da Biblioteca Brasiliana Guita e José Mindlin.

O evento é organizado pelo IEA, Instituto de Matemática e Estatística da USP e Google. Será em inglês, com tradução simultânea. Para participar é preciso efetuar inscrição prévia. Recomenda-se chegar com 15 minutos de antecedência.

Raghavan é responsável globalmente pelos produtos de conhecimento e informação do Google. Ele e sua equipe de tecnólogos e engenheiros em todo o mundo administram vários produtos da empresa, incluindo Busca, Notícias, Mapas, Publicidade, Assistente, Comércio e Pagamentos.

Na conferência, ele discutirá algumas das questões prementes de pesquisa, política e sociedade enfrentadas pelos mecanismos de busca na internet e pela sociedade, com foco particular na qualidade da informação e no potencial da inteligência artificial.

Os organizadores destacam que o evento será uma rara oportunidade de ouvir Raghavan diretamente sobre "a realidade operacional de liderar um mecanismo de busca global e a diversidade de questões técnicas e regulatórias que podem afetar o ambiente digital".

Raghavan é um dos principais tecnólogos do mundo e tem mais de 20 anos de experiência em algoritmos de busca, pesquisa na web e bancos de dados. Ele publicou mais de 100 artigos, emitiu 20 patentes e escreveu dois livros para pós-graduandos. É membro da Academia Nacional de Engenharia dos Estados Unidos, da Associação para Máquinas de Computação e do Instituto de Engenheiros Eletricistas e Eletrônicos (IEEE) global. Foi professor consultor de ciência da computação na Universidade Stanford, onde conheceu os fundadores do Google, Larry Page e Sergey Brin, que foram seus alunos.

Mecanismos de Busca e Sociedade: Qualidade da Informação e Potencial da Inteligência Artificial
22 de agosto, 10h
Auditório István Jancsó da Biblioteca Brasiliana Guita e José Mindlin (rua da Biblioteca, 21, Cidade Universitária, São Paulo, SP)
Requer inscrição prévia - Evento em inglês, com tradução simultânea 
Mais informações: com Sandra Sedini (sedini@usp.br), telefone 11 3091-1678
Página do evento

Foto: Divulgação Google

Pablo Ortellado em evento no IEA em junho

O filósofo Pablo Ortellado, professor do curso de Gestão de Políticas Públicas da Escola de Artes, Ciências e Humanidades (Each) da USP e colunista do jornal O Globo, é o novo coordenador acadêmico da Cátedra Oscar Sala.

Ortellado substituiu o professor Eugênio Bucci, da Escola de Comunicações e Artes (ECA) da USP, que continua no Comitê de Governança da cátedra, agora na vaga antes ocupada pela vice-diretora do IEA, Roseli de Deus Lopes.

"Sugeri o nome do Pablo porque ele é um dos principais estudiosos da nova geração da USP a pesquisar as relações entre movimentos políticos e o comportamento das redes sociais. Seu trabalho é absolutamente inovador e muito esclarecedor. Fora isso, é uma pessoa brilhante, que trará uma renovação geracional para a nossa Cátedra", explica Bucci.

Um dos pioneiros da Oscar Sala, o jornalista Eugênio Bucci ajudou a pensar a atuação e as linhas de pesquisa da cátedra. Como coordenador desde 2020, quando foi firmado o convênio entre o IEA e o Comitê Gestor da Internet (CGI.br) e que viabilizou o projeto, Bucci foi responsável pela agenda de eventos, interlocução com os conselheiros, coordenação do trabalho do catedrático e da disciplina "Economia, Cultura e Poder na Internet", iniciada em 2021.

Além de professor da ECA, Bucci é superintendente de Comunicação Social da USP, colunista do jornal "O Estado de S. Paulo" e autor dos livros "O Estado de Narciso" (2015) e "A forma bruta dos protestos" (2016), "Existe democracia sem verdade factual?" (2019), "A superindústria do imaginário" (2021) e "Incerteza, um ensaio" (Autêntica, 2023), dentre outros. Foi presidente da Radiobras de 2003 a 2007, diretor de redação e secretário editorial na Editora Abril. Como pesquisador, sua atuação é nas áreas de: ética e imprensa, comunicação pública, superindústria do imaginário, informação e cultura democrática.

O novo coordenador

Bacharel e doutor em filosofia pela Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP, com pós-doutorado no Centro Brasileiro de Análise e Planejamento (Cebrap), Ortellado tem  atuação marcante na pesquisa empírica sobre a cultura digital e suas implicações políticas.

Também se destaca na análise da agenda política nacional em colunas e artigos na imprensa. Antes de passar a escrever em O Globo, foi colunista do jornal Folha de S.Paulo por quatro anos. Em 2022, em parceria com a jornalista Elisa Martins, produziu o podcast Guerras Culturais, difundido por O Globo e pelo Globoplay.

Atualmente, ele coordenada três pesquisas. Uma delas, iniciada em 2022 com alunos de graduação, tem o título Curtidas no Facebook Estão Polarizando a Sociedade? e conta com apoio da Fapesp. A partir do histórico de postagens e curtidas de um grupo de indivíduos com identidades políticas fortes - e com sua autorização -, a pesquisa busca verificar se “as curtidas recebidas por diferentes tipos de publicações podem funcionar como pistas quantitativas que orientam a escolha de qual identidade deve se impor na busca por um contexto unívoco”.

Outra pesquisa que coordena é A Esfera Pública Digital: Desarranjos e Regulação, iniciada em 2021. O trabalho envolve alunos de graduação e pós-graduação e é apoiado pela Fundação Ford. O projeto dá continuidade às investigações empíricas do Grupo de Políticas Públicas para o Acesso à Informação da USP sobre o processo de degradação e desarranjo da esfera pública digital, ampliando o escopo da pesquisa para a América do Sul.

Ortollado desenvolve ainda a pesquisa Privacidade e Comunicação para Mobilização, em parceria com Marcio Moretto Ribeiro. Iniciado em 2017 e com patrocínio da Fundação Ford, o projeto se dedica a estudar, por meio de questionários, a opinião de quem se mobiliza nas ruas de São Paulo e contraste com o padrão de interação e o consumo de notícias no Facebook e em outras mídias sociais no Brasil.

O filósofo é coautor dos livros “Vinte Centavos: A Luta contra o Aumento” (2013) (também com edição espanhola), “Sobrevivendo nas Redes: Guia do Cidadão” (2018) e Estamos Vencendo: Resistência Global no Brasil (2004). Coorganizou os livros “O Mercado de Livros Técnicos e Científicos no Brasil: Subsídio Público e Acesso ao Conhecimento"  (2008) (também com edições em espanhol e inglês) e “Movimentos em Marcha: Ativismo, Cultura eTecnologia (2013). É autor ou coautor de 17 capítulos de livros e de 31 artigos em periódicos científicos, além de ter orientado 14 dissertações de mestrado.

O sociólogo Nick Couldry, da Escola de Economia e Ciência Política de Londres

Construído nas últimas três décadas por meio da internet e do surgimento de plataformas digitais, a esfera global de comunicação e interação social será discutido pelo sociólogo britânico Nick Couldry na conferência O Espaço do Mundo: Plataformas Digitais e Perspectivas para a Solidariedade Humana no Século 21, no dia 27, às 14h.

A conferência é organizada pela Cátedra Oscar Sala, parceria entre o IEA e o Núcleo de Informação e Coordenação do Ponto BR (NIC.br), braço executivo do Comitê Gestor da Internet no Brasil (CGI.br). A moderação será do cientista da computação Virgílio Almeida, da UFMG, titular da cátedra. O evento será em inglês, com tradução e transmissão ao vivo pela internet.

Professor do Departamento de Mídia e Comunicação da Escola de Economia e Ciência Política de Londres, Couldry tem como áreas de pesquisa: mídia e comunicação; cultura e poder; e teoria social. Sua preocupação principal é com as consequências da concentração de poder simbólico em instituições midiáticas na realidade do dia a dia.

Ao contextualizar a importância da temática a ser abordada por Couldry, Virgílio Almeida destaca que o modelo de negócios das plataformas digitais depende da extração de dados de seus usuários, de forma a modelar seu comportamento e otimizá-lo para gerar valor publicitário. Diante disso, ele pergunta: “E se essas condições – válidas, talvez, em seus próprios termos comerciais – tiverem garantido um espaço de interação humana maior, mais polarizado, mais intenso e mais tóxico do que o compatível com a solidariedade humana?”.

Para ele, isso seria um grande problema para a humanidade, para o qual a teoria social "poderia desempenhar algum papel na desconstrução e potencialmente até na solução, formulando alternativas”.

A questão que se coloca, segundo Almeida, é "como poderíamos imaginar um espaço diferente do mundo que fosse menos propenso à toxidade e mais propenso a gerar a solidariedade e a cooperação efetiva de que a humanidade precisa, para termos alguma chance de enfrentar os enormes desafios compartilhados".

Segunda realidade

Ao longo de sua trajetória acadêmica, Couldry procurou confrontar uma contradição básica: a de que as tecnologias da informação e da comunicação, por apresentarem a todos uma ‘realidade’ todos os dias, "podem facilmente parecer uma segunda Natureza".

Com isso, o que sempre poderia ser contestado pode acabar parecendo algo sem desafio, uma estrutura de poder difícil de mover ou romper, afirma. “Essa estrutura, embora escrita na linguagem ‘suave’ dos símbolos, é forte o suficiente para destruir vidas.”

Couldry relembra que, inicialmente, focou seu trabalho no poder da mídia tradicional (especialmente televisão e imprensa) para definir a realidade política e social. Mais recentemente, passou a se interessar em como uma série de novas instituições digitais associadas à mídia assumiram esse poder.

“Hoje, o trabalho de construção da realidade é feito com igual relevância por meio de algoritmos e processamento de dados que medem nossas atividades em plataformas online ou quando usamos objetos conectados (‘internet das coisas’).”

Diante disso, Coudry apresenta duas questões: como a teoria social pode contribuir para o entendimento desses processos e seus efeitos transformadores na sociedade e na vida das pessoas? ela pode revelar como, quando parecemos ser mais “nós mesmos” e mais “juntos” com os outros, na verdade podemos estar mais enfronhados nos profundos maquinações do poder? “Isso certamente nunca foi tão verdadeiro quanto nesta era dos Big Data”, afirma.

O projeto mais recente de Couldry sobre essas preocupações é o desenvolvimento da estrutura do colonialismo de dados, apresentado inicialmente no livro ““The Costs of Connexion: How Data Are Colonizing Human Life and Approprietade It for Capitalism”, de 2019, coescrito com Ulisses Ali Mejias. Outros livros recentes dele são “Media, Voice, Space and Power: Essays of Reflection” e “Media: Why It Matters”, ambos também de 2019.

Foto: Marcos Santos/Jornal da USP

Chatbots como o Chat GPT, aplicativos de transporte e agências de crédito usam as Inteligências Artificiais e a Big Data com pouca clareza e devem passar por maior escrutínio, defendeu Frank Pasquale, professor de direito sob o título Jeffrey D. Forchelli na Escola de Direito do Brooklyn. Em evento no IEA no dia 30 de março, ele demonstrou preocupação com o uso desenfreado dessas novas ferramentas: “É impressionante a quantidade de dados captados de pessoas físicas”. Segundo o pesquisador, os usuários e consumidores precisam ter mais clareza sobre as informações pessoais que as empresas têm e como elas estão sendo usadas. “O uso é muito pouco claro porque as corporações são como caixas-pretas”, afirmou.

O seminário “Reavaliando a Lei de Proteção de Dados: O Caso dos Direitos de Acesso à Informação” foi organizado pela Cátedra Oscar Sala, parceria do IEA com o Núcleo de Informação e Coordenação do Ponto BR.

O especialista admitiu que as tecnologias de Big Data para avaliação algorítmica de pessoas oferecem mais chances para demonstrar tanto méritos quanto deméritos, apesar das distorções. Antes da introdução dessas técnicas, as empresas de crédito, por exemplo, usavam dados estritamente financeiros para suas análises. Para Pasquale, “usar dados de coletas mais velhas e com um escopo menor pode provocar vieses”. Ele explicou que com o advento do Big Data, as empresas financeiras utilizam uma variedade muito maior de informações, desde registros de músicas preferidas até histórico de visitas em sites. Isso permite que pessoas sem amplos registros financeiros - que têm seu direito de acesso ao crédito negligenciado - consigam mostrar que se comportam da mesma maneira que bons pagadores.

Porém, a falta de transparência causa problemas. Entre eles, segundo o professor, está o uso de dados gratuitos ou baratos, que são normalmente imprecisos, para alimentar seus algoritmos. “De onde exatamente o Chat GPT tira suas informações? Da Wikipedia? Do Reddit? Do 4Chan?”, questionou. Os chatbots prometem oferecer atendimento médico, mas, supondo que usem apenas dados abertos, não terão acesso a bases de dados com paywall e artigos revisados por seus pares. Entretanto essas ferramentas teriam, segundo Pasquale, acesso aos péssimos conselhos médicos da internet aberta e ainda seriam vulneráveis a ataques maliciosos de alteração algorítmica de conteúdo.

Também preocupa a utilização de dados corretos, porém inapropriados. Por exemplo, um banco pode ficar receoso em emprestar dinheiro para uma pessoa com uma doença séria. “É verdade que pacientes diagnosticados com câncer podem passar por instabilidades financeiras e deixar de pagar seus credores, mas não é ético e nem legal negar crédito sob essas condições”, defendeu o especialista.

Outro problema é a criação de novos grupos de discriminação. O mecanismo pode agir de forma errática, por exemplo, "contra pessoas que usam sapatos baratos, alguém que compre perfumes muito caros, que faça muitas ou poucas viagens”, alertou o professor. O comportamento dos algoritmos de machine learning não expressam resultados únicos nem exatos, segundo Pasquale, que afirmou que “sob variáveis diferentes, qualquer cidade norte-americana pode ser elencada como a melhor do país”. Para ele, a transparência pode ajudar as pessoas a entenderem como elas estão sendo avaliadas.

Direitos de acesso à informação

Essas questões levaram a sociedade civil, os políticos e reguladores a demandarem novos marcos de direitos de acesso à informação. Nesse escopo, o especialista cita como avanço a Lei de Acesso à Informação da Califórnia, aprovada em 2018. Ele explica que a lei californiana impacta o funcionamento geral de diversas empresas que operam nesse estado, preferindo universalizar internamente esses direitos a trabalhar de maneira diferente em cada jurisdição, o que complicaria a operação, segundo o Pasquale.

Pela nova legislação californiana, são garantidos ao consumidor:

• Saber qual dado pessoal uma empresa coletou sobre o usuário ou consumidor;

• De onde ela coletou;

• Para qual propósito os dados estão sendo usados;

• Se a empresa que coleta repassa esses dados para outra;

• Caso repasse, para quem está repassando;

• Sob requerimento, a empresa precisa informar qual a lógica envolvida em processos automáticos de decisão;

É no último item que Pasquale vê um impasse: a dificuldade de determinar o nível de detalhes e o significado que essa informação precisa ter. Ele cita que, em alguns casos, os próprios engenheiros que programaram os sistemas não conseguem explicar a associação feita pela Inteligência Artificial para uma tomada de decisão. O custo da lei também provocou dissenso, já que pode chegar a US$ 547 milhões por ano para as empresas nos Estados Unidos. As companhias também atentaram aos seus direitos de manter segredos comerciais seguros. Mesmo assim, o professor vê com otimismo as possibilidades que a nova regra traz.

Virgílio Almeida, Frank Pasquale e Luiz Fernando Martins Castro

Pasquale faz uma analogia com leis ambientais, e afirma que essa legislação contribui para um ecossistema digital mais limpo e justo. Para ele, a lei incentiva curiosos a requisitar seus dados e, mais do que isso, empodera ONGs e grupos ativistas a encontrar injustiças sistemáticas nos algoritmos de maneira coletiva. Ele cita o hipotético caso de um motorista de aplicativo que se vê frustrado em não conseguir prover para sua família e se culpa achando que não trabalha o suficiente ou não é um bom motorista. No entanto, ao se juntar a um grupo de motoristas para analisar seus dados coletivamente, percebe que nenhum deles está conseguindo dinheiro suficiente e que o algoritmo está funcionando em desfavor dos trabalhadores.

Sobre a disputa jurídica entre os interesses das empresas e dos consumidores, Pasquale afirma que as companhias têm equipes jurídicas robustas e bem pagas que estão tentando fazer com que prevaleça a interpretação mais inócua possível da lei, enquanto os reguladores e entidades civis não têm tantos recursos. Por isso, ele acredita que deveria existir um imposto sobre as grandes empresas de tecnologia destinado a financiar as agências reguladoras em busca de níveis maiores de transparência.

No Brasil, segundo Virgílio Almeida, titular da Cátedra Oscar Sala, enfrenta-se o mesmo problema de falta de recursos para entidades que regulam o setor. Almeida destaca a criação da Lei Geral de Proteção de Dados e que existem planos para a criação de um novo setor da economia brasileira, baseado em dados, e por isso é necessário analisar outras alternativas de legislação que regule a prática de comercialização e uso de dados.

Luiz Fernando Martins Castro, coordenador adjunto da Cátedra Oscar Sala, afirmou que a maioria das leis de proteção de dados atuais, inclusive a brasileira, foi baseada no Regulamento Geral de Proteção de Dados da União Europeia. Porém, ele vê que ainda se discute os reais efeitos dessas leis e “em que medida elas vão garantir alguma privacidade e qual privacidade é essa no mundo digital que a gente vive”.

A inteligência artificial (IA) está cada vez mais presente em nosso dia a dia e seu impacto na sociedade deve aumentar graças à interação com os novos chatbots, afetando substancialmente diversas profissões e o modo como interagimos com as máquinas. porém, os algoritmos inteligentes, em especial os que utilizam aprendizado de máquina, são menos complexos do que se imagina. Para explicar isso, o Grupo de Estudo Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP e o Centro de Inteligência Artificial (C4AI) promovem no dia 12 de abril, às 19h, a conferência on-line “Desmistificando a Inteligência Artificial: Ela não é tão complicada como você pensa”.

O evento será exclusivamente on-line, com transmissão pelo canal do C4AI no YouTube. As inscrições são gratuitas e devem ser feitas neste link. Haverá envio de certificado aos participantes mediante preenchimento de formulário disponibilizado no chat durante a transmissão.

O palestrante será o professor titular do Departamento de Computação e Matemática da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP Renato Tinós. Ele vai mostrar que algoritmos que utilizam aprendizado de máquina empregam conceitos matemáticos e computacionais bastante simples e intuitivos, contribuindo assim para desmistificar a inteligência artificial. Para o docente, ao entender melhor os princípios básicos que regem os sistemas inteligentes, o público poderá compreender melhor as oportunidades propiciadas pela IA e as suas maiores limitações.

Renato Tinós possui graduação em Engenharia Elétrica pela Unesp, mestrado e doutorado em Engenharia Elétrica pela USP. Atualmente, é professor titular no Departamento de Computação e Matemática e orientador no programa de pós-graduação em Computação Aplicada, ambos da FFCLRP-USP. Atua na área de Ciência da Computação, com especial interesse em computação evolutiva e redes neurais artificiais.

Mais informações: iearp@usp.br.

Sobre o TechLaw

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional.

Para saber mais, acesse a página do grupo.

Para saber mais sobre outros eventos realizados ou apoiados pelo Instituto de Estudos Avançados Polo Ribeirão Preto da USP, siga nossas redes sociais e inscreva-se em nosso canal no Telegram.

Os atos do dia 8 de janeiro fizeram parte de um contexto complexo no qual o Brasil e outras partes do mundo estão inseridos: a ascendência da extrema direita. Muitas análises sobre esse assunto passam pelas redes sociais. “Com certeza, existe uma dimensão comunicacional importante, isso parece óbvio”, afirmou Pablo Ortellado, professor da Escola de Artes, Ciências e Humanidades (EACH) da USP. Para ele, apesar do grande empenho acadêmico em relacionar a ascensão de grupos radicalizados aos novos meios de comunicação digitais, não existem evidências contundentes para se determinar uma relação de causa e efeito entre esses dois fenômenos. Ortellado não descarta que “talvez os processos de natureza política e social sejam mais importantes do que as condições comunicacionais”.

Ao lado do cientista político José Álvaro Moisés, o filósofo participou do segundo seminário “A Proteção das Instituições Republicanas: Os Atos de 8 de Janeiro”, realizado no dia 27 de janeiro no IEA.

Uma das principais teses que relacionam as mídias sociais com a ascensão do populismo autoritário de direita é baseada no conceito de bolhas nas redes, que são um tipo de vícios dos algoritmos das redes sociais com tendência a mostrar somente opiniões e notícias que convergem com a visão de mundo do usuário. Acredita-se que as bolhas provoquem, a longo prazo, a radicalização desse usuário. Porém, Ortellado afirma que não existem evidências suficientes para comprovar essa tese. Pelo contrário: o nível de homogeneidade das relações fora da internet é muito semelhante aos de dentro das redes. “Fora das mídias sociais, nós mantemos relações sociais homogêneas de amigos, até mesmo geograficamente. Tendemos a morar em bairros com pessoas de perfis muito semelhantes aos nossos”, afirmou.

Outra tese é a de que as pessoas são levadas para esse campo ideológico pela desinformação, através de informações falsas. Mas, na análise de Ortellado, embora exista um crescimento de veículos hiper partidários, a mentira não é muito típica neles. Distorção, manchetes em desacordo com os textos ou notícias fora de contexto são muito mais importantes nesses veículos. Ele também argumentou que os veículos de comunicação e os partidos de esquerda tendem a valorizar o impacto das mentiras na formação desses novos grupos populistas. Para Ortellado, a imprensa o faz porque enfatiza a importância do próprio papel. Já a classe política é motivada a aumentar os efeitos da dinâmica comunicacional por não conseguir dar uma resposta à face política do problema. “Há muitos interesses concorrendo para a ideia de que estamos formando juízos políticos equivocados por estarmos consumindo mentiras”, analisou o professor.

A dificuldade para se conseguir evidências do uso maligno da comunicação digital se dá pelo modelo criptográfico dos aplicativos de mensagens instantâneas, como Whatsapp e Telegram, hoje mais utilizados por grupos radicalizados do que redes como Facebook, Instagram e Twitter. Por isso, Pablo Ortellado defende que seja regulamentada por lei a rastreabilidade desses conteúdos, distinguindo a privacidade do ponto de vista regulatório da conversa individual e da comunicação de massa, a fim de se conseguir evidências para investigações policiais. “É uma lei muito controversa, mas necessária para enfrentar o problema da difusão de conteúdos maliciosos virais”, avaliou.

O que as evidências atuais apontam, segundo Ortellado, é que as pessoas estão consumindo mais informações distorcidas dentro de circuitos de produção que se empenham em adaptar o que está sendo produzido pelo jornalismo profissional e enquadram dentro de ideologias e narrativas partidárias. Também se observa a existência de grupos que perderam completamente contato com os veículos de imprensa tradicionais, o que, para o professor, afasta essas pessoas da verdade factual. Quando se consome tanto os veículos super-partidários quanto a imprensa tradicional, a segunda ajuda a corrigir distorções das primeiras. Mesmo considerando esses mecanismos, Pablo Ortellado acredita que não se deve abandonar a tese de que o problema é de natureza política e social.

Nesse sentido, José Álvaro Moisés, coordenador do Grupo de Pesquisa Qualidade da Democracia do IEA, afirmou que “o que nós estamos presenciando no Brasil não é um fenômeno estritamente local”. Ele nota que há uma crise internacional da democracia especialmente devido à ineficácia dos mecanismos de representação e o aumento da desigualdade social. “As pessoas que perderam renda, status ou posição foram se distanciando da democracia e deixando de se sentirem representadas”, analisou.

Para Ortellado, internacionalmente esses fenômenos têm em comum seu aspecto populista, ou seja, são baseados no antagonismo em relação às elites. “Em particular com as elites culturais e políticas, isso é relativamente comum entre os fenômenos e conseguimos mapear tanto nas retóricas dos presidentes quanto nas máquinas que estão a serviço deles”, apontou.

Moisés também vê como crucial para essa análise o entendimento dos agentes que usam os mecanismos da democracia para subvertê-la. “É preciso olhar para esses aspectos da crise da representação e como as lideranças se apresentam para responder a essa crise”. E completa: “Não existe democracia sem democratas”.

O dia 8 de janeiro

Ao mesmo tempo que o novo governo que se propõe, com pouco mais de 50% dos votos, a reconstruir o país após tudo que aconteceu no Brasil nos últimos quatro anos, na visão de Moisés, o país passou por uma ameaça extremamente séria de golpe de Estado por parte dos apoiadores do candidato que teve pouco mais de 49% dos votos. Os ataques às sedes dos Três Poderes republicanos em Brasília não foram atos isolados, em sua opinião, e sim um ponto de uma conjuntura delicada. “O Brasil é hoje uma sociedade literalmente dividida ao meio, e uma das duas metades é formada por segmentos golpistas que ameaçam a democracia”.

Por isso, a eleição e a posse do presidente Lula aconteceram entre graves desestabilidades. Além da contestação do resultado das eleições por parte do Partido Liberal (PL), sigla com maior número de representantes na Câmara dos Deputados, Moisés cita a tentativa de invasão do prédio da polícia federal no dia 12 de dezembro, dia da diplomação da chapa vencedora do pleito presidencial, quando radicais atearam fogo em ônibus e ameaçaram civis. Na véspera do Natal, houve a tentativa de causar uma explosão com bomba dentro de um caminhão pipa que carregava querosene. Por fim, o episódio de depredação aos prédios dos Três Poderes. “Não são pequenos atos e todos eles tinham uma conexão", afirmou.

O cientista político defendeu que o golpe contra a democracia no Brasil envolveu preparação, financiamento e cuidadoso planejamento. “Ainda não temos informações suficientes, mas teve civis, parlamentares e militares apoiadores do ex-presidente Jair Bolsonaro”. Nesse contexto, Moisés avaliou que o governo Lula acertou em cheio ao não declarar uma Garantia da Lei e da Ordem (GLO), prevista no artigo 142 da Constituição brasileira. A intervenção na segurança do Distrito Federal foi suficiente para estancar a sangria da paralisia das forças policiais. Para ele, a declaração do presidente de que havia perdido a confiança em alguns militares soou como uma demonstração do governo de que está preparado para ir adiante no processo de responsabilização dos crimes cometidos.

O pesquisador avalia que o problema vem desde 2013. Na época das jornadas de junho, houve uma falha na resposta dos principais partidos – segundo ele, PT, PSDB, PMDB e DEM. Essa falha deixou um espaço que foi ocupado pela extrema-direita, principalmente no que diz respeito ao combate à corrupção, avalia Moisés.

César Hidalgo é um dos autores do livro ''How Humans Judge Machines''

Diretor do Centro de Aprendizagem Coletiva do Instituto de Inteligência Artificial e Natural (ANITI), na Universidade de Toulouse, e autor do livro "How Humans Judge Machines" (MIT Press, 2021), Hidalgo fez sua exposição no dia 4 de outubro. O evento teve transmissão online, e organização da Cátedra Oscar Sala, com moderação do coordenador acadêmico Virgílio Almeida.

Intenção e senso de justiça

Hidalgo expôs, com base nos capítulos de seu livro, experimentos realizados para avaliar como as pessoas julgam situações conduzidas por humanos em comparação à condução feita por máquinas. No livro, o interesse é pensar como as pessoas julgam cenários enquanto justos ou injustos, e avaliam ações como erradas ou corretas do ponto de vista da justiça.

Foram coletados vários cenários com experiências randomizadas, designando pessoas de forma aleatória em grupos distintos – em um, deveriam descrever a ação da máquina; no outro, a mesma ação, porém realizada por uma pessoa. O intuito foi avaliar se as pessoas julgam humanos e máquinas da mesma forma se eles cometerem o mesmo erro – e, se não, o que explicaria a diferença nas reações.

As pessoas deveriam reagir avaliando, por exemplo, se a ação havia causado prejuízos, se elas contratariam a pessoa ou o algoritmo para fazer o tipo de serviço demonstrado, se a ação realizada foi intencional ou não, entre outras questões.

Em um cenário em que uma escavadeira está trabalhando na construção de um prédio, não vê um túmulo no ambiente e o destrói, por exemplo. Haveria um julgamento diferente se o responsável pela condução da escavadeira fosse um humano ou uma máquina?

Com base nas respostas, ele observou que as pessoas tendem a ver a ação da máquina como mais prejudicial, e tendem a estar mais dispostos a contratar alguém que destruiu o túmulo sem intenção do que uma máquina que o fez da mesma forma.

Pensando nas dimensões morais e de justiça deste tipo de situação, foi usado outro exemplo. Considerou-se um cenário de resposta à emergência, mais especificamente a um tsunami. O político, ou algoritmo responsável por governar a cidade, poderia decidir entre evacuar todos os habitantes, com 50% de chance de sucesso da operação, ou salvar apenas 50% da população, mas com 100% de chance de sucesso.

Para essa situação, foram verificados três cenários possíveis. No primeiro, a figura política tenta salvar todos e fracassa – nesse caso, as pessoas tendem a achar que a ação da máquina é muito mais prejudicial e não contratariam uma máquina que tenta e fracassa. O humano é avaliado pela motivação e intenção e a máquina, pelo desfecho da situação. No segundo, tenta salvar a todos e consegue – aqui, verificou-se que o homem foi avaliado melhor do que a máquina. E, no terceiro, a figura política salva metade das pessoas.

Neste último cenário, não há muita diferença de percepção entre a ação feita pelo homem ou pela máquina, mas, quando perguntadas se substituiriam o homem pela máquina e vice-versa, as pessoas tendem a dizer que preferem trocar a máquina pelo homem, mas não fariam o inverso.

O pesquisador concluiu que o risco político para os executivos responsáveis pela tecnologia seria maior quando a tecnologia falha do que quando quem falha é uma equipe de humanos.

"Não é apenas que preferimos o humano, depende das dimensões morais", explicou. Como exemplo, falou de um robô que usa uma bandeira para se limpar. A mesma ação feita por um humano seria julgada de forma diferente, de modo que a questão moral e a intenção da ação teriam mais importância nesse caso.

O viés, ou a justiça dos algoritmos, é complicado e é algo que nunca se pode alcançar por completo, afirmou. Quando olhamos a questão da substituição de um pelo outro, as pessoas apresentam aversão à máquina e têm maior probabilidade de substituir uma máquina que tornaria um sistema mais justo por uma pessoa que o tornaria mais injusto.

Já no contexto de um gerente de RH que faz a triagem de candidatos para entrevistas de trabalho, por exemplo, as pessoas podem preferir a seleção feita por máquinas, pois em casos de justiça os humanos tendem a ser mais julgados. Porém, também tendem a ser mais perdoados quando a situação envolve acidentes.

As pessoas julgam os humanos pelas intenções e as máquinas pelos resultados. Hidalgo faz a afirmação com base no estudo realizado nos Estados Unidos, mas acredita que as diferenças no julgamento moral não são culturais e que, independentemente do país, a cultura não muda o efeito macro do experimento. Quanto mais o modelo mental da máquina se aproxima do modelo mental humano, maior é o julgamento humano sobre ela. O sucesso da máquina, afirmou, tende a ser visto como algo natural – e não digno de valorização –, ao passo que o sucesso humano é mais valorizado.

Estão abertas até as 15h do dia 22 de junho as inscrições para a seleção de pesquisador de pós-doutorado que irá atuar no projeto Interação Humano-Algoritmo, coordenado pelo cientista da computação Virgílio Almeida, titular da Cátedra Oscar Sala em 2022.

Poderão se inscrever pesquisadores com título de doutor que possuam fluência em inglês, sem restrição de área de conhecimento. O selecionado receberá (em dedicação exclusiva) bolsa de R$ 8.479,20 durante doze meses [consulte o edital aqui].

As inscrições devem ser feitas através de formulário online, ao qual devem ser anexados uma proposta de pré-projeto (até três páginas), súmula curricular com link para o currículo Lattes (até quatro páginas) e uma carta de apresentação (até duas páginas).

O pré-projeto deve conter nome, proposta de título, resumo e palavras-chave, formulação do problema (situando o projeto na literatura), potencial de interdisciplinaridade e referências bibliográficas. A carta de apresentação deve discorrer sobre os temas desafiantes do nosso tempo relativos às interações algoritmo-humano e destacar habilidades do candidato que contribuam para o projeto.

O resultado da seleção - após avaliação dos documentos e realização de entrevista - será divulgado no dia 28 de junho. O escolhido iniciará suas atividades em 15 de julho.

A Cátedra Oscar Sala está selecionando pesquisadores interessados em integrar grupo de estudos sobre temas relacionados às Interações Humano-Algoritmo para atuar no acompanhamento crítico das atividades coordenadas pelo atual titular, o cientista da computação Virgílio Almeida. As inscrições devem ser feitas até as 15h do dia 15 de junho através de formulário online, ao qual devem ser anexados currículo e carta que descreva o interesse do pesquisador (uma página).

A temática dos estudos envolve conhecimentos de diferentes áreas, como ciências sociais e humanas, ciência da computação e engenharias, direito e ciências da saúde [veja aqui os temas a serem desenvolvidos pelos pesquisadores e o calendário de atividades].

O resultado da seleção será divulgado em 20 de junho. Serão escolhidos até 30 pesquisadores, que se reunirão uma vez por mês (junho-2022 a maio-2023), sempre às sextas-feiras, das 16 às 18h. Os encontros mensais e as demais atividades, destinadas a estudos orientados dos projetos de pesquisa e produção de textos, serão realizados a distância.

Cátedra

A Cátedra Oscar Sala é uma parceria do IEA com o Núcleo de Informação e Coordenação do Ponto BR (NIC.br) no âmbito de convênio entre a USP e o Comitê Gestor da Internet no Brasil (CGI.br). Suas atividades são abertas à participação de professores, pesquisadores e personalidades brasileiras e estrangeiras.

O foco da cátedra é aprofundar o conhecimento sobre a internet, seu funcionamento, suas aplicações e ferramentas. O projeto desenvolvido por Virgílio Almeida a partir de abril de 2022 é dedicado ao estudo do comportamento das interações entre humanos, algoritmos, sistemas de inteligência artificial e robôs enquanto fatores essenciais para a construção de mecanismos de governança digital, de forma a aproveitar os benefícios dos avanços tecnológicos e minimizar seus impactos negativos.

O cientista da computação Virgílio Almeida

Perfil

Os interesses atuais em pesquisa do novo titular da Cátedra Oscar Sala são voltados para a área de algoritmos, governança e políticas para tecnologias digitais, bem como para o impacto socioeconômico dos algoritmos.

Professor emérito do Departamento de Ciência da Computação da UFMG e pesquisador 1A do CNPq, Virgílio Almeida graduou-se em engenharia elétrica na UFMG, obteve o título de mestre em ciência da computação pela PUC-RJ e o de doutor em computação pela Universidade Vanderbilt. Realizou pesquisa de pós-doutorado na Universidade de Boston.

É também professor associado no Centro Berkman Klein para Internet e Sociedade da Universidade Harvard, EUA. Na mesma universidade, foi professor visitante na Escola de Engenharia, ocupando a Cátedra Capes-Harvard. Também atuou como professor visitante Fulbright na Universidade de Nova York.

Em paralelo à sua atividade acadêmica, Almeida tem atuado em instituições governamentais ligadas a políticas nas áreas de ciência e tecnologia. De 2011 a 2015, foi secretário nacional de Políticas de Informática do Ministério da Ciência, Tecnologia e Inovação. Coordenou o CGI.br e foi o responsável pela conferência Netmundial, que em 2014 discutiu as novas bases globais da governança da internet e na qual foi sancionado o Marco Civil da Internet no Brasil (Lei 12.965/2014). Também participou de conselhos, comitês e outras instâncias da Capes e do CNPq.

O livro mais recente de Almeida é “Governance for the Digital World”, publicado pela Palgrave/Macmillan em 2020. Ele é coautor de outros seis livros, publicados pela Prentice Hall em inglês, com edições em português, coreano e russo. Publicou mais de 170 artigos científicos em publicações nacionais e internacionais, os quais têm mais de 15.500 citações.

Almeida é membro da Academia Brasileira de Ciências (ABC), da Academia Mundial de Ciências (TWAS) e da Academia Nacional de Engenharia (ANE).

A compreensão dos impactos sociais, políticos e econômicos dos algoritmos, sejam eles positivos ou negativos, é um desafio de pesquisa e um tema de relevância para a construção de mecanismos de governança e políticas públicas, de acordo com o cientista da computação Virgílio Almeida, que tomará posse no dia 25 de abril, às 14h30, como novo titular da Cátedra Oscar Sala. Ele assume no lugar de Lúcia Santaella. A cerimônia será transmitida ao vivo pela internet [clique aqui para se inscrever].

A cátedra é uma parceria do IEA com o Núcleo de Informação e Coordenação do Ponto BR (NIC.br) no âmbito de convênio entre a USP e o Comitê Gestor da Internet no Brasil (CGI.br). A finalidade desse posto de pesquisa é a análise e discussão de aspectos relacionados com a economia, a cultura e o poder das redes.

A cerimônia de posse terá abertura do coordenador acadêmico da cátedra, Eugênio Bucci, e falas do diretor do IEA, Guilherme Ary Plonski, do coordenador do CGI.br, José Gustavo Sampaio Gontijo, e de Lúcia Santaella, titular em 2021. A saudação ao novo catedrático será feita pelo secretário executivo do CGI.br, Hartmut Richard Glaser. Em seguida ao discurso de posse de Virgílio Almeida, haverá a manifestação do reitor Carlos Gilberto Carlotti Junior.

Projeto

Durante sua titularidade (até março de 2023), Almeida trabalhará no projeto Interações Humano-Algoritmo.  Além do desafio que o tema representa, Almeida destaca outras duas motivações para o trabalho: a diversidade dos tipos de algoritmos em operação, com impacto cada vez maior na sociedade e nas atividades diárias dos cidadãos, e o fato de sua complexidade e dos sistemas integrados por eles estar aumentando rapidamente, com "novos modelos e gigantescas massas de dados tornando esses algoritmos e sistemas opacos, dificultando sobremaneira a compreensão de seu comportamento".

O novo catedrático ressalta que algoritmos e robôs têm sido usados de muitas maneiras socialmente benéficas. Exemplos disso são o seu uso para "antecipar necessidades de saúde, auxiliar o gerenciamento do tráfego em centros urbanos, otimizar o aporte de recursos escassos, facilitar decisões financeiras e aumentar a eficiência de serviços governamentais".

Por outro lado, "algoritmos projetados para filtrar, selecionar e exibir a grande quantidade de informações disponíveis online, combinados com a tendência das pessoas de buscar ambientes sociais similares, podem induzir vieses e grupos da sociedade, alimentando racismo, preconceitos e discriminação".

O caminho para que a sociedade tenha controle e governança sobre algoritmos e maquinas inteligentes, por meio do estabelecimento de normas e regramentos, passa pelo estudo e entendimento de seu comportamento na interação diária com os seres humanos, afirma o pesquisador

Tópicos

Para explorar num contexto multidisciplinar aspectos teóricos, técnicos, sociais, legais e institucionais relacionados com o comportamento das interações humano-algoritmo, Almeida estabeleceu os seguintes tópicos para a pesquisa:

• natureza das interações humanas com algoritmos, robôs, dispositivos e máquinas inteligentes;
• papel do design na construção de algoritmos e máquinas inteligentes (ex.: assistentes inteligentes como Alexa e chatbots);
• comportamento de agentes não humanos: algoritmos, robôs, dispositivos e máquinas inteligentes (ex.: estudos empíricos e modelos teóricos);
• comportamento humano nas relações com não humanos: individual e coletivo;
• regulação e governança dos algoritmos e robôs;
• impactos de algoritmos nos direitos humanos;
• aspectos morais e legais das interações humano-máquina;
• estudo de casos da realidade brasileira como parte do processo de pesquisa dos tópicos anteriores (ex.: impactos na área da saúde, efeitos da automação de processos no comércio e serviços etc.);

Atividades e resultados

A programação preliminar do projeto inclui conferências, seminários, formação de dois grupos de estudos e quatro mini-workshops. Já está prevista a realização em novembro de 2022 do seminário internacional Humano-Algoritmo e seus Impactos Sociais, Econômicos e Políticos em Países em Desenvolvimento. Segundo Almeida, será uma iniciativa com o propósito de inserir a cátedra no cenário internacional.

Os grupos de estudos interdisciplinares (e com a participação também de pesquisadores e estudantes de universidade de outros estados) serão estimulados a trabalhar com casos da realidade brasileira e a submeter artigos sobre os debates a periódicos e conferências qualificados. Além disso, os resultados dos trabalhos dos mini-workshops serão publicados pelo IEA como technical reports.

Posse de Virgílio Almeida como Titular da Cátedra Oscar Sala
25 de abril, 14h30
Evento público e gratuito (mediante inscrição previa - clique aqui), com transmissão ao vivo pela internet
Para mais informações, envie mensagem para catedraoscarsala@usp.br
Página do evento

A editora Iluminuras lançou no final de setembro o novo livro sobre eCultura de Teixeira Coelho, professor emérito da Escola de Comunicações e Artes (ECA) da USP e professor sênior do IEA, onde coordena o Grupo de Estudos em Culturas e Humanidades Computacionais.

Publicada inicialmente em inglês e formato digital, a obra se chama "Signs and Wonder: Art & Culture in the Digital Age" e contém um ensaio inédito e três publicados anteriormente e agora revistos e ampliados. O ebook está à venda na Amazon, Google Play e Rakuten Kobo [no site da Iluminuras é possível fazer reserva de exemplar impresso e em português, edição que será lançada em breve] .

A primeira parte do título é uma referência à frase de Jesus no "Evangelho segundo João" (4:48): "Se não virdes sinais e maravilhas, não crereis". Teixeira Coelho diz que ao citar essa frase não faz uma advertência premonitória, mas sim um convite para que as pessoas observem o que está acontecendo nesta era digital, prestem atenção no que é problemático e também "fiquem maravilhadas" com as realizações.

No entanto, não está nesse convite ao maravilhamento a chave da interpretação do livro, segundo Teixeira Coelho, mas sim em sua epígrafe, extraída de texto do poeta francês Paul Valéry (1871-1945) no livro "Maus Pensamentos e Outros" (1942): "A existência da humanidade não se justifica a não ser por alguns resultados antinaturais que ela atingiu".

Mas essa concepção teleológica da humanidade apontada por Valéry não dá necessariamente margem para otimismo. Para Teixeira Coelho, essa não é uma questão relevante, pois prefere se identificar com a formulação de Nietzsche, na qual otimismo e pessimismo são faces da mesma moeda.

O ensaio "The Expansion of the Digital Domain", que abre o livro, trata da utilização de games no Centro Memorial do Holocausto de Babi Yar, em Kiev, Ucrânia, numa tentativa de atrair o público, e as polêmicas que isso tem gerado. No final de setembro de 1941, Babi Yar foi local de um dos maiores massacres cometidos pelos nazistas. Em dois dias, mais de 32 mil pessoas foram fuziladas, a maior parte judeus, mas também ciganos e prisioneiros de guerra ucranianos e russos.

O debate sobre as implicações éticas das novas tecnologias digitais também está no texto seguinte, "Artificial Intelligence, Artificial Ethics", dedicado à discussão sobre aspectos éticos suscitados pelo avanço na utilização de algoritmos e outros recursos da inteligência artificial, como no caso dos automóveis autônomos.

Em "Divine Madness and Machine", Teixeira Coelho discute como a tecnologia muda a arte e a cultura em termos gerais e as consequências dessas transformações para a atividade artística e para a vida privada e social. Uma abordagem específica está no quarto ensaio, "Iconic Images Are Fading Away", que trata da transição da "captura da realidade" por meio de imagens analógicas para imagens resultantes de operações matemáticas.

A obra termina com um posfácio motivado por um vídeo assistido por Teixeira Coelho quando o livro já estava pronto para ser publicado. Trata-se de um filme promocional sobre o algoritmo Generative Pre-Trained Transformer-3 (GPT-3) desenvolvido pela Open AI, um dos ramos do grupo do empresário Elon Musk.

Com sua capacidade de 175 bilhões de parâmetros operacionais, o GPT-3 pertence à classe dos algoritmos genéticos e pode significar uma alteração radical na maneira como os seres humanos interagem com ferramentas computacionais, pois permite a comunicação direta com a máquina via linguagem natural (até o momento, apenas em inglês).

Segundo Teixeira Coelho, o GPT-3 permite vislumbrar uma série de aplicações futuras para algoritmos desse tipo, como o diagnóstico de doenças e prescrição de medicamentos, a comparação de um fato criminoso com todos do mesmo tipo existentes, com os argumentos de acusação e defesa e até a formulação da sentença, ou ainda produzir uma pintura que Picasso não pintou mas poderia ter pintado.

No entanto, ele ressalta que o GPT-3 ainda apresenta muitos erros ao escrever programas, com pessoas tendo que acrescentar ou retirar uma linha ou outra da programação. Sua capacidade de "conversação" também diminui depois de algumas linhas, pois ele "não se lembra" do que foi dito minutos ou segundos antes."

Além disso, até o momento "nenhum algoritmo consegue representar as emoções e sentimentos de uma pessoa". Assim, mesmo que possa produzir obras que Picasso ou Edward Munch poderiam ter feito, faltará à máquina a intenção expressiva do artista, uma distinção fundamental explorada por Teixeira Coelho no posfácio.