Prabhakar Raghavan enfatizará a questão da qualidade da informação e o potencial da inteligência artificial

Mecanismos de Busca e Sociedade: Qualidade da Informação e Potencial da Inteligência Artificial é o tema da conferência de Prabhakar Raghavan, vice-presidente sênior do Google, no dia 22 de agosto, às 10h, no Auditório István Jancsó da Biblioteca Brasiliana Guita e José Mindlin.

O evento é organizado pelo IEA, Instituto de Matemática e Estatística da USP e Google. Será em inglês, com tradução simultânea. Para participar é preciso efetuar inscrição prévia. Recomenda-se chegar com 15 minutos de antecedência.

Raghavan é responsável globalmente pelos produtos de conhecimento e informação do Google. Ele e sua equipe de tecnólogos e engenheiros em todo o mundo administram vários produtos da empresa, incluindo Busca, Notícias, Mapas, Publicidade, Assistente, Comércio e Pagamentos.

Na conferência, ele discutirá algumas das questões prementes de pesquisa, política e sociedade enfrentadas pelos mecanismos de busca na internet e pela sociedade, com foco particular na qualidade da informação e no potencial da inteligência artificial.

Os organizadores destacam que o evento será uma rara oportunidade de ouvir Raghavan diretamente sobre "a realidade operacional de liderar um mecanismo de busca global e a diversidade de questões técnicas e regulatórias que podem afetar o ambiente digital".

Raghavan é um dos principais tecnólogos do mundo e tem mais de 20 anos de experiência em algoritmos de busca, pesquisa na web e bancos de dados. Ele publicou mais de 100 artigos, emitiu 20 patentes e escreveu dois livros para pós-graduandos. É membro da Academia Nacional de Engenharia dos Estados Unidos, da Associação para Máquinas de Computação e do Instituto de Engenheiros Eletricistas e Eletrônicos (IEEE) global. Foi professor consultor de ciência da computação na Universidade Stanford, onde conheceu os fundadores do Google, Larry Page e Sergey Brin, que foram seus alunos.

Mecanismos de Busca e Sociedade: Qualidade da Informação e Potencial da Inteligência Artificial
22 de agosto, 10h
Auditório István Jancsó da Biblioteca Brasiliana Guita e José Mindlin (rua da Biblioteca, 21, Cidade Universitária, São Paulo, SP)
Requer inscrição prévia - Evento em inglês, com tradução simultânea 
Mais informações: com Sandra Sedini (sedini@usp.br), telefone 11 3091-1678
Página do evento

Foto: Divulgação Google

Estabelecer uma legislação para o uso de ferramentas que envolvam inteligência artificial tem sido um tema bastante discutido em vários países, inclusive no Brasil. Afinal, por que é tão importante ter essa regulação? Para debater essa questão, o USP Analisa conversa com os professores da Faculdade de Direito de Ribeirão Preto, Cristina Godoy, e da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto, Evandro Ruiz.

Segundo Cristina, embora já existam algumas leis que podem ser usadas para regular essa tecnologia, ainda existem pontos que não são cobertos por elas. “A gente tem normas jurídicas que podem dirimir alguns problemas, alguns casos que surgem do uso da inteligência artificial, aplicações, sistemas. Temos a Lei Geral de Proteção de Dados, o Marco Civil da Internet, a legislação sobre propriedade intelectual, o Código de Defesa do Consumidor, o Código Civil. Então há um arcabouço relativamente vasto e adequado para dirimir a maior parte dos casos. Só que existem lacunas. A gente está numa fase agora de identificação dessas lacunas para, aí sim, pensarmos o que devemos regular, mas sem ter uma sobreposição com as outras normas. Senão vai ficar uma legislação muito repetitiva e acaba esvaziando o próprio objetivo da norma”, explica a professora.

Evandro destaca que a Computação não é mais tão independente do Direito como já foi no passado, até porque ela está envolvida em diversos aspectos da vida cotidiana. Por isso, embora muitos profissionais da área não gostem da ideia de uma regulação por considerá-la uma intromissão, ela é, sim, necessária.

“A gente não tem que pensar com os olhos da tecnologia, a gente tem que pensar com um olho de humano, o que o humano - na sua capacidade de pensar, de abstrair, de construir - pode fazer com aquela tecnologia. Então não é um cerceamento, um freio na tecnologia. São eventualmente contornos, barreiras que a gente, como indivíduo, construtor, partícipe daquela tecnologia, precisa pensar em obedecer para que aquilo entre na sociedade de uma maneira construtiva”, diz ele.

Cristina e Evandro também integram o Grupo de Estudo Direito e Tecnologia - TechLaw do Instituto de Estudos Avançados Polo Ribeirão Preto da USP.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

Ao redor do mundo, diferentes abordagens para a regulação da Inteligência Artificial (IA) estão em discussão. Na União Europeia, o Artificial Intelligence Act adota uma abordagem baseada em riscos, ao propor obrigações para fornecedores e operadores de sistemas de IA de acordo com os riscos que possam gerar. Já nos Estados Unidos, a regulação é feita por agências reguladoras e pelos estados da federação. De natureza setorial, esta abordagem pode ser encontrada também no Reino Unido, onde dispositivos legais de diferentes setores têm sido aproveitados para regular a IA. O Japão, por sua vez, vem adotando uma abordagem de soft-law, preocupado, prioritariamente, em não prejudicar o desenvolvimento da tecnologia em questão. Diante de referenciais tão distintos quanto estes, cabe indagar: quais elementos das experiências regulatórias e dos debates em andamento em outros países e regiões do mundo podem auxiliar o Brasil a desenvolver uma abordagem regulatória capaz de encorajar tanto o desenvolvimento da IA em solo nacional, quanto a utilização responsável dessa tecnologia?    

Este evento integra o ciclo de seminários "Desafios e Oportunidades da IA - Perspectivas Setoriais", uma iniciativa do Observatório da Inovação e Competitividade (OIC), com o apoio institucional do C4AI USP-FAPESP-IBM, da CNI/MEI e da ABES. Nosso principal objetivo com essa iniciativa é criar espaços de troca entre pesquisadores e representantes do setor privado para, juntos, refletirmos sobre soluções regulatórias em favor da maximização dos benefícios da IA, minimização de riscos e prevenção dos danos associados à sua aplicação.

O engenheiro e economista Carlos Américo Pacheco, primeiro titular da cátedra

1. Regulação e sandbox regulatório – discutir modelos internacionais, equilibrar controle e inovação e negociar com USP e Google um arcabouço jurídico para experimentação.

2. Mercado de trabalho – analisar impactos sobre postos, renda e qualificações, além de mapear talentos e propor ações de formação.

3. Mapeamento de incidentes – criar parcerias com instituições e imprensa para formar um observatório que dê concretude ao debate sobre IA responsável.

4. Startups e políticas de apoio – acompanhar o ecossistema empreendedor e propor iniciativas específicas.

“Será um trabalho intenso, mas gratificante, se soubermos corresponder às expectativas da USP, do Google e, quem sabe, do Brasil”, afirmou. Leia o discurso na íntegra.

Regulação, diversidade e inovação como eixos centrais

Na avaliação da diretora do IEA, Roseli de Deus Lopes, a parceria com uma empresa da dimensão do Google permite investigar, desde o processo de concepção tecnológica, como evitar efeitos colaterais e antecipar problemas. Ela lembrou que inovações carregam consequências difíceis de prever – positivas e negativas – e que temas como impacto no mercado de trabalho, questões étnicas e desigualdades regionais precisam ser enfrentados de forma sistemática. Roseli defende modelos regulatórios flexíveis, como sandboxes, para evitar que o excesso de regras iniba a inovação nacional.

Essa preocupação dialoga com o que destacou o presidente do Google Brasil, Fábio Coelho, ao defender uma abordagem simultaneamente responsável e ousada para a internet e para o desenvolvimento tecnológico. Segundo ele, o Brasil só dará um salto quando deixar de ser mero consumidor e se tornar produtor de tecnologias de ponta. Isso exige diversidade, afirmou: “Se você constrói tecnologia para todos, precisa conversar com todos.” Para Coelho, a cátedra tem potencial de funcionar como catalisadora de novas “ilhas de excelência” no país.

IA como mudança de época

O coordenador acadêmico da cátedra, Glauco Arbix, argumentou que a inteligência artificial está provocando uma mudança de época. Ao reduzir o “custo da cognição”, a tecnologia se infiltra em áreas antes reservadas exclusivamente aos humanos, remodelando economia, ciência, artes, geopolítica e relações sociais, segundo Arbix.

Ele rejeita o determinismo tecnológico e afirma que o rumo da IA está em disputa. Nesse cenário, a universidade tem papel vital: discutir riscos, elaborar políticas, conectar atores e ampliar a capacidade do país de desenvolver sua própria tecnologia. Arbix sustenta que esta é uma corrida que o Brasil não pode perder – razão pela qual buscou no Google, “uma liderança global”, uma parceria estratégica. Leia o discurso na íntegra.

Um projeto para aproximar Estado, ciência e indústria

Ao saudar a iniciativa, a secretária de Informação e Saúde Digital do Ministério da Saúde, Ana Estela Haddad, afirmou que a cátedra cria “uma oportunidade única” de unir governo, academia e setor privado pela construção de uma IA “não apenas inteligente, mas sábia, justa e profundamente brasileira”.

O reitor da USP, Carlos Gilberto Carlotti Jr., reforçou que o modelo de cátedras tem revitalizado a instituição ao reunir especialistas externos e a comunidade universitária em torno de desafios de interesse público. Para ele, a nova cátedra oferece justamente esse ambiente de pensamento interdisciplinar e renovador.

Um marco para o debate nacional

O lançamento da Cátedra IA Responsável marca um movimento estratégico da universidade e do Google para qualificar o debate brasileiro sobre inteligência artificial, combinando pesquisa, formulação de políticas, regulação e inovação. A expectativa é que o novo espaço se torne referência nacional na articulação entre tecnologia, sociedade e democracia.

Estiveram presentes no evento, dentre muitas outras autoridades:

• Adrian G Lavalle, presidente do Centro Brasileiro de Análise e Planejamento (Cebrap) e professor da FFLCH/USP
• Alex Freire, diretor de Engenharia do Google
• Aluísio Segurado, eleito e nomeado reitor da USP para o período 2026-2030, pró-reitor de Graduação
• Ana Estela Haddad, secretária de Informação e Saúde Digital do Ministério da Saúde
• Anna Lana, pró-reitora de Inclusão e Pertencimento da USP
• Caio Magri, diretor-presidente do Instituto Ethos
• Carlos Eduardo Freire, diretor do Centro de Ciência de Dados para Estatísticas Públicas (CCDEP)
• Clara Ant, assessora especial do presidente Luiz Inácio Lula da Silva
• Daniel Arbix, diretor jurídico do Google
• Demi Getschko, diretor-presidente do Nic.br
• Fabio Cozman, diretor do Center for Artificial Intelligence - C4AI/USP
• Fernanda De Negri, secretária de Ciência Tecnologia e Inovação do Ministério da Saúde
• Fernanda Delmas, diretora de Redação no Valor Econômico
• Francisco Gaetani, secretário(a) extraordinário(a) para a Transformação do Estado no Ministério da Gestão e da Inovação em Serviços Públicos
• Hartmut Glaser, secretário executivo do Comitê Gestor da Internet no Brasil (CGI.br)
• Almirante Ilques Barbosa, comandante da Marinha entre 9 de janeiro de 2019 e 9 de abril de 2021
• José Renato Nalini, secretário de Mudanças Climáticas da cidade de São Paulo
• Maria Arminda N Arruda, vice-reitora da USP
• Paulo Nussenzveig, pró-reitor de Pesquisa e Inovação da USP
• Rodrigo T Calado, pró-reitor de Pós-Graduação da USP
• Virgílio Almeida, titular da Cátedra Oscar Sala (IEA e CGI)

Os cientistas da computação Silvio Meira e André Neves, ambos da Universidade Federal de Pernambuco (UFPE), serão os expositores no seminário Tríades das Inteligências Individuais, Sociais e Artificiais, no dia 1º de agosto, às 15h, com transmissão ao vivo pela internet (não há necessidade de inscrição).

O evento é uma realização da Cátedra Oscar Sala, convênio entre a USP e o Comitê Gestor da Internet no Brasil (CGI.br) com atividades executadas pelo IEA e Núcleo de Informação e Coordenação do Ponto BR (NIC.br). O debatedor será Demi Getschko, do NIC.br. A mediação será do coordenador acadêmico da cátedra, Eugênio Bucci, jornalista e professor da Escola de Comunicação e Artes da USP.

O seminário integra a programação coordenada pelo titular da cátedra, o cientista da computação Virgílio Almeida, da Universidade Federal de Minas Gerais, que desenvolve deste abril de 2022 o projeto Interações Humano-Algoritmo.

Impactos

Meira e Neves falarão sobre a evolução da inteligência artificial (IA) generativa, abordando sua crescente presença em diversas áreas. Destacarão a importância de um entendimento aprofundado dessa tecnologia, considerando seus aspectos técnicos e, especialmente, suas implicações éticas e humanas.

Para eles, essa compreensão detalhada requer um tratamento interdisciplinar capaz de enfrentar os desafios e oportunidades que a IA generativa apresenta. Os dois defendem que essa análise inclua um modelo colaborativo de tomada de decisão, com a integração das inteligências individuais, sociais e artificiais.

Meira é graduado em engenharia eletrônica pelo Instituto Tecnológico de Aeronáutica (ITA), mestre em ciências da computação pela UFPE e doutor na mesma área pela Universidade de Kent em Canterbury, Reino Unido. Ele é professor emérito da UFPE, cientista-chefe da Digital Strategy Company e fundador e presidente do Conselho de Administração do Porto Digital, no Recife, PE

Neves graduou-se em desenho industrial pela Universidade Federal da Paraíba e tornou-se mestre e doutor em ciências da computação pela UFPE. Realizou pesquisa de pós-doutorado na Universidade da Beira Interior (UBI), em Portugal. É professor associado da UFPE com foco nas disciplinas de design aplicado à criação de novos produtos e negócios de base tecnológica.

Tríade das Inteligências Individuais, Sociais e Artificiais
1º de agosto, 15h
Transmissão ao vivo pela internet (não é preciso se inscrever)
Mais informações: com Sandra Sedini (sedini@usp.br), telefone (11) 3091-1678
Página do evento: www.iea.usp.br/eventos/triade-inteligencias

Imagem: Geralt/Pixabay

Além disso, muitos trabalhos novos em IA e AM são informados por um entendimento dessas áreas enraizado nos valores culturais e legais do Norte Global. Um exemplo disso são os clichês da ficção científica americana dos anos 50, que "influenciam a imaginação popular apresentando 'inteligências' governantes sobre-humanas ou robôs servis e sub-humanos flutuando em um nevoeiro de dados".

Essa avaliação é de pesquisadores, artistas e ativistas envolvidos com o seminário Afetando Tecnologias, Maquinando Inteligências, que será realizado de 5 a 7 de fevereiro, das 10 às 21h [v. programação abaixo]. Eles consideram que seu trabalho inicial é desmontar esses clichês, para construir um entendimento coletivo sobre tais ferramentas e instrumentos.

O encontro é organizado pelo Center for Artificial Intelligence (C₄AI), convênio da Fapesp, IBM e USP, e pela Comunidade de Arte e Inteligência Artificial (CAIA) do InovaUSP. O apoio é do Centro de Artes, Design + Pesquisa Social (CAD+SR, na sigla em inglês), EUA; Pedro Barbosa; e IEA.

A Comissão Organizadora é constituída por Katherine Ye (Carnegie Mellon University); Dalida Maria Benfield (Vermont College of Fine Arts e CAD+SR); Bruno Moreschi (Center for Arts, Design and Social Research e InovaUSP) e Gabriel Pereira (Aarhus University).

O seminário é gratuito e aberto ao público. Além de português, serão utilizados o inglês e o espanhol nas exposições, sem tradução. Os interessados em acompanhar presencialmente as sessões da manhã deverão efetuar inscrição prévia.

Tecnologia e sociedade

Os usos da IA ​​e ML estão situados em diferentes espaços culturais, políticos e geográficos, onde também existem diferenças de poder e agência entre as pessoas que estão interagindo com essas tecnologias, afirmam os organizadores. "Com demasiada frequência, os futuros tecnológicos são determinados apenas por pessoas com formação avançada em sistemas tecnológicos e com um entendimento achatado do cenário social."

Eles apresentam uma série de perguntas que devem ser consideradas na discussão sobre o desenvolvimento da área em benefício de todos e do planeta:

• que formas de "inteligência" são implicitamente codificadas e privilegiadas nessas tecnologias?
• como codificar maneiras diferentes e plurais de saber? como maquiná-las para cuidar inteligentemente do humano, do mais-que-humano e do planeta?
• como os diferentes tipos de recursos, como minerais, informação e mão-de-obra, são transportados pelo planeta para sustentar as tecnologias da informação? como remodelar esses fluxos?
• como repensar criticamente os potenciais e funções das inteligências não humanas para justiça social e criatividade? quais comunidades e perguntas estão sendo mal atendidas ou sobreanalisadas por esses sistemas?
• como as condições sociais e econômicas da competição global moldam as pedagogias de IA ​​e AM? como desenvolver pedagogias alternativas que centralizam questões de justiça?

Perfil dos participantes

Os organizadores e convidados do seminário trabalham e pesquisam criticamente questões de tecnologia, computação, arte e humanidades/pesquisa social. A maioria deles está ligada a temas relevantes para o Sul Global e/ou a perspectivas de(s)coloniais, feministas e indígenas.

"Eles trazem uma disposição ativista e colaborativa, especialmente por meio das formas participativas e performativas de construir conhecimento, pesquisa e prática artística. Intencionalmente, focalizam as vozes dos colonizados, oprimidos e marginalizados, que muitas vezes são deixados de lado no discurso e no desenvolvimento da tecnologia", afirma a Comissão Organizadora.

Programação

Afetando Tecnologias, Maquinando Inteligências
5 a 7 de fevereiro, das 10 às 21h
Manhãs: Sala Alfredo Bosi, IEA, rua da Praça do Relógico, 109, térreo, Cidade Universitária, São Paulo
Tardes e Noites: Sala do Caia, Inova USP, avenida Prof. Lúcio Martins Rodrigues, 370, Cid. Universitária, SP
Evento público e gratuito; inscrição prévia apenas para as sessões matutinas
Mais informações: Janaina Oliveira (janainaoliveira@usp.br), telefone (11) 3091-1683
Página do evento

A avalanche da desinformação que tomou a sociedade na última década se tornou uma das grandes preocupações contemporâneas. No centro dos processos comunicacionais, que perderam paulatinamente a credibilidade e a clareza, levando a um cenário caótico e muitas vezes ameaçador à democracia, está a Inteligência Artificial, motor e forma de funcionamento das plataformas digitais que mantêm ativas as redes sociais. Embora abastecidas e teleguiadas por humanos, as máquinas já tomam decisões e fazem escolhas, interagindo a partir do comportamento de seus usuários, que funciona como base para sua programação. O tráfego urbano, as câmeras de segurança, as operações bancárias e a oscilações do mercado financeiro, o controle de pandemias, os debates políticos e muitos outros aspectos das nossas vidas estão cada vez mais sujeitos à interferência de movimentos digitais. Essas movimentações implicam em efeitos éticos. O que nos faz refletir sobre a possibilidade de as máquinas já terem a capacidade de decidir eticamente, mesmo em obediência a um código humano.

Os programas de computador e seus desdobramentos – como a inteligência artificial capaz de criar e programar outras máquinas e outras dimensões de IA – são soluções tecnológicas inteligentes, mas não deveriam ser considerados entes racionais independentes. Afinal, se não há razão no coração das máquinas, como podemos delegar a elas autonomia para tomar decisões que afetam a vida humana? A discussão é tão polêmica quanto atual. Na Europa, já se discute se os algoritmos deveriam possuir personalidade jurídica. E não faltam propostas que definem a existência (e a defesa) de direitos autorais para os chamados bots.

As perguntas que nos rondam são muitas. Como uma decisão que gera efeitos éticos pode ser deliberada por um agente que não é humano? Faz sentido considerarmos que as máquinas tenham um certo grau de liberdade? Um computador pode ser considerado livre, racional e responsável? Ainda que a liberdade humana absoluta seja uma ilusão, há possibilidade de falarmos em uma liberdade análoga para as máquinas? Se elas não podem se enquadrar no mesmo arcabouço ontológico que um ser humano, como entender as consequências éticas de suas ações? Se uma inteligência maquínica pratica atos que se desdobram em consequências éticas, poderia ser tratada como um sujeito ético? Poderíamos nós, no Brasil, substituir funções inteiras do STF por algoritmos? Quais são os limites que deveriam ser observados? Há ainda quem argumente que as máquinas são capazes de pensar conforme a razão. Poderíamos postular que a IA seja uma inteligência, mais que artificial, racional?

O seminário Existe Ética na Inteligência Artificial? se propõe a discutir em profundidade essas e outras questões e as implicações que elas oferecem.

Organização: Magaly Prado (Cátedra Oscar Sala/C4AI) e Eliana Sanches (PPRCOM/ECA)

Coordenação: Eugênio Bucci (ECA/Cátedra Oscar Sala/C4AI)

Transmissão

Acompanhe a transmissão do evento em www.iea.usp.br/aovivo

Stefano Quintarelli

O pensador e político italiano Stefano Quintarelli, membro da Agência para a Itália Digital, estará no IEA no dia 4 de fevereiro, às 11h, para debater o futuro imaterial e a redefinição da sociedade em função da ubiquidade dos dispositivos, da coleta massiva de dados e da inteligência artificial (IA).

Intitulado Democracia, Autonomia e o Futuro Imaterial Conectado: Debate com Stefano Quintarelli, o evento terá como debatedor o diretor-presidente do Núcleo de Informação e Coordenação do Ponto BR (NIC.br), o cientista da computação Demi Getschko. A mediação será do economista Ricardo Abramovay, professor sênior do Instituto de Energia e Ambiente (IEE) da USP.

O debate será em inglês (sem tradução), gratuito e aberto a todos os interessados, mas requer inscrição prévia. Quem não puder comparecer poderá acompanhá-lo ao vivo pela internet.

Concentração de mercados

Abramovay destaca que atualmente nada está fora do alcance e dos impactos da economia da internet: "O poder das gigantes da tecnologia alcançou patamares inéditos e os efeitos em rede tendem a aumentar a concentração desses mercados, que possuem barreiras de entrada cada vez maiores". Ao mesmo tempo, valores democráticos são abalados em razão da combinação da coleta massiva de dados por aplicações de internet com a crescente capacidade de modulação do comportamento eleitoral por empresas especializadas, acrescenta.

Em contraponto a esse cenário, Abramovay vê o ressurgimento do direito concorrencial e da proteção de dados pessoais e a esperança de uma internet descentralizada e emancipadora.

Autor do livro "Instruções para um Futuro Imaterial” (com tradução a ser lançada em breve pela Editora Elefante), Quintarelli também abordará os “efeitos exponenciais” da computação e da IA, como a União Europeia tem lutado para implementar uma nova política concorrencial e de maior proteção de dados pessoais e, ainda, quais as possibilidades de inovação e manutenção da condição humana em ambientes sociotécnicos permeados por robôs e modulação constante do comportamento humano.

César Hidalgo é um dos autores do livro ''How Humans Judge Machines''

Diretor do Centro de Aprendizagem Coletiva do Instituto de Inteligência Artificial e Natural (ANITI), na Universidade de Toulouse, e autor do livro "How Humans Judge Machines" (MIT Press, 2021), Hidalgo fez sua exposição no dia 4 de outubro. O evento teve transmissão online, e organização da Cátedra Oscar Sala, com moderação do coordenador acadêmico Virgílio Almeida.

Intenção e senso de justiça

Hidalgo expôs, com base nos capítulos de seu livro, experimentos realizados para avaliar como as pessoas julgam situações conduzidas por humanos em comparação à condução feita por máquinas. No livro, o interesse é pensar como as pessoas julgam cenários enquanto justos ou injustos, e avaliam ações como erradas ou corretas do ponto de vista da justiça.

Foram coletados vários cenários com experiências randomizadas, designando pessoas de forma aleatória em grupos distintos – em um, deveriam descrever a ação da máquina; no outro, a mesma ação, porém realizada por uma pessoa. O intuito foi avaliar se as pessoas julgam humanos e máquinas da mesma forma se eles cometerem o mesmo erro – e, se não, o que explicaria a diferença nas reações.

As pessoas deveriam reagir avaliando, por exemplo, se a ação havia causado prejuízos, se elas contratariam a pessoa ou o algoritmo para fazer o tipo de serviço demonstrado, se a ação realizada foi intencional ou não, entre outras questões.

Em um cenário em que uma escavadeira está trabalhando na construção de um prédio, não vê um túmulo no ambiente e o destrói, por exemplo. Haveria um julgamento diferente se o responsável pela condução da escavadeira fosse um humano ou uma máquina?

Com base nas respostas, ele observou que as pessoas tendem a ver a ação da máquina como mais prejudicial, e tendem a estar mais dispostos a contratar alguém que destruiu o túmulo sem intenção do que uma máquina que o fez da mesma forma.

Pensando nas dimensões morais e de justiça deste tipo de situação, foi usado outro exemplo. Considerou-se um cenário de resposta à emergência, mais especificamente a um tsunami. O político, ou algoritmo responsável por governar a cidade, poderia decidir entre evacuar todos os habitantes, com 50% de chance de sucesso da operação, ou salvar apenas 50% da população, mas com 100% de chance de sucesso.

Para essa situação, foram verificados três cenários possíveis. No primeiro, a figura política tenta salvar todos e fracassa – nesse caso, as pessoas tendem a achar que a ação da máquina é muito mais prejudicial e não contratariam uma máquina que tenta e fracassa. O humano é avaliado pela motivação e intenção e a máquina, pelo desfecho da situação. No segundo, tenta salvar a todos e consegue – aqui, verificou-se que o homem foi avaliado melhor do que a máquina. E, no terceiro, a figura política salva metade das pessoas.

Neste último cenário, não há muita diferença de percepção entre a ação feita pelo homem ou pela máquina, mas, quando perguntadas se substituiriam o homem pela máquina e vice-versa, as pessoas tendem a dizer que preferem trocar a máquina pelo homem, mas não fariam o inverso.

O pesquisador concluiu que o risco político para os executivos responsáveis pela tecnologia seria maior quando a tecnologia falha do que quando quem falha é uma equipe de humanos.

"Não é apenas que preferimos o humano, depende das dimensões morais", explicou. Como exemplo, falou de um robô que usa uma bandeira para se limpar. A mesma ação feita por um humano seria julgada de forma diferente, de modo que a questão moral e a intenção da ação teriam mais importância nesse caso.

O viés, ou a justiça dos algoritmos, é complicado e é algo que nunca se pode alcançar por completo, afirmou. Quando olhamos a questão da substituição de um pelo outro, as pessoas apresentam aversão à máquina e têm maior probabilidade de substituir uma máquina que tornaria um sistema mais justo por uma pessoa que o tornaria mais injusto.

Já no contexto de um gerente de RH que faz a triagem de candidatos para entrevistas de trabalho, por exemplo, as pessoas podem preferir a seleção feita por máquinas, pois em casos de justiça os humanos tendem a ser mais julgados. Porém, também tendem a ser mais perdoados quando a situação envolve acidentes.

As pessoas julgam os humanos pelas intenções e as máquinas pelos resultados. Hidalgo faz a afirmação com base no estudo realizado nos Estados Unidos, mas acredita que as diferenças no julgamento moral não são culturais e que, independentemente do país, a cultura não muda o efeito macro do experimento. Quanto mais o modelo mental da máquina se aproxima do modelo mental humano, maior é o julgamento humano sobre ela. O sucesso da máquina, afirmou, tende a ser visto como algo natural – e não digno de valorização –, ao passo que o sucesso humano é mais valorizado.

A Inteligência Artificial (IA) pode ser útil à promoção da agenda ambiental de diferentes maneiras. Pode facilitar, por exemplo, o monitoramento e a predição de eventos climáticos, a identificação de formações humanas capazes de prejudicar florestas e áreas de preservação ambiental, e otimizar processos produtivos, reduzindo, assim, seus impactos sobre o meio ambiente.

Todavia, o desenvolvimento e a aplicação de modelos de IA não são livres de consequências ambientais.

São crescentes, por exemplo, as discussões sobre a pegada de carbono do treinamento de modelos de machine learning e sobre os impactos da atividade extrativista necessária para a produção de equipamentos ligados à IA. O seminário abordará esses dois lados da relação entre IA e sustentabilidade.

Este evento integra o ciclo de seminários "Desafios e Oportunidades da IA - Perspectivas Setoriais".

O principal objetivo dessa iniciativa é criar espaços de troca entre pesquisadores e representantes do setor privado para que, juntos, possamos refletir sobre soluções regulatórias em favor da maximização dos benefícios da IA, minimização de riscos e prevenção dos danos associados à sua aplicação.

Exposição:

Carlos Silva (Lead R&D Science, Pachama)

Gustavo Pinheiro (iCS)

Debatedor:

Miriam Garcia (CDP Latin America)

Moderação:

Rodrigo Brandão (OIC-IEA-USP/Cetic.br-Nic.br) e Veridiana Cordeiro (FFLCH/UAI-IEA-USP)

Transmissão:

Acompanhe a transmissão do evento em www.iea.usp.br/aovivo

A sociedade brasileira, embora não se configure como uma das maiores consumidoras dos serviços provenientes da robótica "hoje", precisa se preparar para lidar com a tecnologia, pois ela está chegando.

É preciso saber fazer um bom uso dela e evitar seus efeitos nocivos. Em especial, a robótica social está sendo desenvolvida para nos apoiar diretamente, dentro de hospitais, escolas e residências. A democratização da informação e do conhecimento sobre robótica é essencial para que seja possível inserir todos os indivíduos na engrenagem desta tecnologia: quem constrói os robôs, quem os habilita para o uso social e quem usufrui de seus serviços.

Nessa mesa vamos conhecer um pouco sobre como a robótica já está presente na nossa sociedade, o que podemos esperar das novas facetas dessa tecnologia e como podemos nos preparar para usufruir de maneira produtiva e segura dos serviços que ela pode nos oferecer.

Este evento integra um ciclo de mesas redondas sobre as oportunidades e os desafios que a IA impõe à democracia. O ciclo acontece entre julho e novembro de 2021 e introduz alguns dos temas que serão discutidos durante o I Seminário Internacional Inteligência Artificial: Democracia e Impactos Sociais, que será realizado em 13 e 14 dezembro de 2021 e está sendo organizado pela área de Humanidades do C4AI – Center for Artificial Intelligence.

Exposição

O papel e impacto da robótica na sociedade

Esther Luna Colombini (Instituto de Computação da Universidade Estadual de Campinas)

Exposição 2

Panorama da robótica social e de serviço no mundo: desafios, oportunidades e o futuro da robótica social no Brasil

Anna Priscilla de Albuquerque Wheler (Ontario Tech University, Canadian National Institute for the Blind, CNIB Research e Mitacs)

Moderação:

Sarajane Marques Peres (Escola de Artes, Ciências e Humanidades da Universidade de São Paulo-EACH USP e Center for Artificial Intelligence-C4AI - USP/IBM/FAPESP)

Transmissão

Acompanhe a transmissão do evento em iea.usp.br/aovivo

Este encontro inaugura o ciclo de atividades da Cátedra Oscar Sala em 2025.

Expositor:

Virgilio Almeida (IEA e UFMG)

Moderador:

Luiz Fernando Castro (Cátedra Oscar Sala)

Em 2024, mais de 2 bilhões de pessoas em 60 países vão votar em eleições gerais ou municipais - incluindo o Brasil. Será a primeira vez em que as campanhas terão à disposição ferramentas de inteligência artificial que ajudam a baratear a produção de conteúdo mas, ao mesmo tempo, também podem ser usadas para gerar informações falsas. Mas a preocupação com o uso da tecnologia nas campanhas não é nova. Os professores Cíntia Rosa Pereira de Lima, da Faculdade de Direito de Ribeirão Preto da USP, e Evandro Eduardo Seron Ruiz, da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP, e que também integram o Grupo de Estudo “Direito e Tecnologia” (Tech Law) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, conversaram com o USP Analisa desta sexta sobre esse assunto.

O tema começou a ser discutido com mais intensidade após o escândalo da Cambridge Analytica, no início de 2018, quando um aplicativo criado por um pesquisador da Universidade de Cambridge e intitulado “This is your digital life” conseguiu mapear as predileções de personalidade de usuários do Facebook, informações que foram utilizadas posteriormente para distribuição de conteúdo durante eleições em várias localidades.

“Muitos aplicativos hoje são disponibilizados nas redes sociais e, às vezes, de uma forma ingênua, eles se oferecem para envelhecer fotos ou disponibilizam testes aparentemente inofensivos. O “This is your digital life” pedia um consentimento nos seus termos - e os usuários não leem esses termos porque realmente são muito longos, cansativos - e lá constava que, ao fazerem login no aplicativo com a conta do Facebook, as pessoas consentiam que o criador da aplicação tivesse acesso aos seus contatos na rede social. Isso então escalou uma forma de coleta de dados pessoais que, de inicialmente uns 270 mil usuários, passou a representar 87 milhões de perfis que foram vasculhados pela aplicação”, explica Cíntia.

Atualmente, com a popularização de ferramentas de inteligência artificial, a preocupação vai além da coleta de dados e passa pela própria produção de conteúdo, já que algumas aplicações permitem produzir vídeos e áudios realistas utilizando o rosto e a voz das pessoas. Mesmo assim, Evandro destaca que tecnologias como essas ferramentas de edição e o Chat GPT podem ser usadas de forma positiva nas campanhas.

“Acho que há muitas maneiras do eleitor se beneficiar e ganhar informação, ganhar conhecimento sobre a plataforma do candidato, do partido. O candidato também pode, por exemplo, buscar auxílio no Chat GPT para a geração de um discurso, eventualmente resumir aquele discurso para fazer um vídeo curto para divulgar no YouTube, no Instagram. Enfim, implica até uma redução de custo com assessores, com redatores. Acredito que, no global, a gente sai com uma democracia mais fortalecida, com mecanismos desse tipo, acho que é uma grande vantagem que a computação está trazendo para nós, cidadãos”, diz ele.

Além dos professores Cíntia e Evandro, o podcast USP Analisa conversa com outra integrante do Grupo de Estudos TechLaw, a professora da FDRP Cristina Godoy Bernardo de Oliveira. O conteúdo pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.