O Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP e a iniciativa Understanding Artificial Intelligence, do Instituto de Estudos Avançados da USP promovem no dia 6 de maio, a partir das 14h, a conferência on-line “Ética da inteligência artificial: diretrizes e recomendações para a governança”.

As inscrições são gratuitas e devem ser feitas neste link. A transmissão será pelo canal do IEA-RP no YouTube e pela página do instituto no Facebook. Haverá envio de certificado aos participantes que preencherem um formulário disponibilizado no chat das ferramentas durante o evento.

Os palestrantes serão o professor da Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS) e coordenador da Rede de Inteligência Artificial Ética e Segura (RAIES), Nythamar de Oliveira; o coordenador do Centro de Estudos Europeus e Alemães, Jair Tauchen; a pesquisadora da RAIES e mestranda da PUCRS, Aline Santos Barbosa; e a professora da PUCRS e da Universidade Federal de Santa Catarina, Camila Palhares Barbosa.

Eles vão abordar diretrizes e recomendações ético-morais para a governança da inteligência artificial, incluindo desafios normativos para a regulamentação e a implementação de políticas públicas que assegurem sistemas éticos e seguros, promovendo a inclusão socioeconômica, de gênero e de raça/etnia (igualitarismo interseccional) por meio da inclusão digital.

Sobre os palestrantes

Nythamar de Oliveira é  Ph.D. em Filosofia pela State University of New York, mestre em Filosofia pela Villanova University e realizou pesquisa pós-doutoral na New School for Social Research, de Nova York, na London School of Economics, na University of Miami, na Université Paris 8 e na Universität Kassel, da Alemanha. Atualmente, é professor titular na PUCRS e coordena o Grupo de Pesquisa Interdisciplinar em Neurofilosofia do Instituto do Cérebro e a Rede de Inteligência Artificial Ética e Segura (RAIES).

Jair Tauchen possui graduação em Ciências Religiosas, bacharelado em Teologia e em Direito, e mestrado em Filosofia, todos pela PUCRS. Realizou também doutorado sanduíche na Universität Hamburg, Alemanha. Atualmente, é coordenador do Centro de Estudos Europeus e Alemães (CDEA).

Aline Santos Barbosa é mestranda do Programa de Pós-Graduação em Filosofia da PUCRS, eticista e pesquisadora da RAIES. É CEO de duas empresas na área de gestão da informação na área da cultura e de uso da realidade aumentada para inclusão de pessoas e acessibilidade de conhecimentos.

Camila Palhares Barbosa é pós-doutoranda e doutora em Filosofia pela PUCRS e bacharel em Relações Internacionais pela Unilasalle. Atualmente, é professora substituta na UFSC, professora colaboradora na PUCRS e pesquisadora da RAIES. Suas áreas de pesquisa incluem ética e filosofia política, filosofia moderna e contemporânea, estudos feministas, de gênero e sexualidade.

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) do IEA-RP tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

A inteligência artificial (IA) está cada vez mais presente em nosso dia a dia e seu impacto na sociedade deve aumentar graças à interação com os novos chatbots, afetando substancialmente diversas profissões e o modo como interagimos com as máquinas. porém, os algoritmos inteligentes, em especial os que utilizam aprendizado de máquina, são menos complexos do que se imagina. Para explicar isso, o Grupo de Estudo Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP e o Centro de Inteligência Artificial (C4AI) promovem no dia 12 de abril, às 19h, a conferência on-line “Desmistificando a Inteligência Artificial: Ela não é tão complicada como você pensa”.

O evento será exclusivamente on-line, com transmissão pelo canal do C4AI no YouTube. As inscrições são gratuitas e devem ser feitas neste link. Haverá envio de certificado aos participantes mediante preenchimento de formulário disponibilizado no chat durante a transmissão.

O palestrante será o professor titular do Departamento de Computação e Matemática da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP Renato Tinós. Ele vai mostrar que algoritmos que utilizam aprendizado de máquina empregam conceitos matemáticos e computacionais bastante simples e intuitivos, contribuindo assim para desmistificar a inteligência artificial. Para o docente, ao entender melhor os princípios básicos que regem os sistemas inteligentes, o público poderá compreender melhor as oportunidades propiciadas pela IA e as suas maiores limitações.

Renato Tinós possui graduação em Engenharia Elétrica pela Unesp, mestrado e doutorado em Engenharia Elétrica pela USP. Atualmente, é professor titular no Departamento de Computação e Matemática e orientador no programa de pós-graduação em Computação Aplicada, ambos da FFCLRP-USP. Atua na área de Ciência da Computação, com especial interesse em computação evolutiva e redes neurais artificiais.

Mais informações: iearp@usp.br.

Sobre o TechLaw

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional.

Para saber mais, acesse a página do grupo.

Para saber mais sobre outros eventos realizados ou apoiados pelo Instituto de Estudos Avançados Polo Ribeirão Preto da USP, siga nossas redes sociais e inscreva-se em nosso canal no Telegram.

David Evan Harris, professor da Universidade da Califórnia em Berkeley

A rápida expansão da inteligência artificial (IA) nesta década colocou no centro do debate questões sobre soberania, concentração de poder nas grandes plataformas, direitos autorais, discriminação algorítmica, transparência e riscos à democracia. Em resposta, diferentes modelos regulatórios vêm sendo adotados e formulados em várias partes do mundo.

Diante desse cenário, a Cátedra Oscar Sala realizará o encontro “Regulação da IA da Califórnia e da União Europeia: Modelos Possíveis para o Brasil?", no dia 12 de junho, das 14h às 16h30, na sede do IEA (rua da Praça do Relógio, 109, térreo, Cidade Universitária, São Paulo). Gratuito e aberto a todos os interessados (mediante inscrição prévia), o evento contará com transmissão ao vivo pelo canal do IEA no YouTube.

O expositor será o professor David Evans Harris, da Escola de Negócios Haas da Universidade da Califórnia em Berkeley, EUA. O mediador do encontro será Pablo Ortellado (IEA e EACH-USP), coordenador acadêmico da cátedra. Harris buscará responder quais são as diferenças entre o modelo europeu e o modelo californiano de regulação, que concepções de inovação, mercado e direitos orientam cada uma dessas abordagens e quais lições essas experiências podem oferecer para o debate brasileiro sobre regulação da IA.

Na Califórnia, foi aprovado em 2025 um conjunto de leis voltado à segurança e à transparência no desenvolvimento de modelos avançados de IA (a lei mais importante é a Lei do Senado 53). A nova legislação contempla o contexto estratégico do estado, que abriga 32 das 50 principais empresas de IA do mundo, concentrando tanto o polo de inovação quanto o centro do debate sobre os riscos associados à essa tecnologia.

O modelo da União Europeia que foi admitido em junho de 2024, é conhecido como AI Act. A norma utiliza uma abordagem baseada em riscos, aplicando diferentes regras de acordo com a gravidade dos riscos que cada modelo ou sistema apresenta.

O evento será uma oportunidade para a análise dos impasses para a regulação da IA no Brasil, uma vez que o Projeto de Lei 2.338/23, já aprovado pelo Senado, tem tido tramitação dificultosa na Câmara dos Deputados, devido a impasses políticos, disputas setoriais e pressão eleitoral, aspectos que tornam o processo incerto e demorado no Legislativo do país.

Foto: Universidade da Califórnia em Berkeley

O Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP promove no dia 20 de junho, às 14h, a conferência “Impactos na inovação tecnológica do Brasil sob a perspectiva do PL 2338/2023”.

O evento será realizado no Anfiteatro da Faculdade de Direito de Ribeirão Preto da USP e terá transmissão pelo canal do IEA-RP no YouTube. As inscrições são gratuitas e devem ser feitas neste link. Para receber o certificado de participação, os espectadores on-line deverão preencher um formulário disponibilizado durante a transmissão no chat da plataforma.

O palestrante será o coordenador do Núcleo de Inovação Tecnológica da Universidade Presbiteriana Mackenzie, Eduardo Ariente. Ele vai analisar as propostas trazidas pelo Projeto de Lei 2338/2023 e identificar medidas para o fomento da inovação tecnológica no país. O PL pretende regular o desenvolvimento, fomento, uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana. Um dos pontos mais interessantes da proposta, segundo os organizadores do evento, é o fomento à inovação sustentável a partir de ambientes regulatórios experimentais, também conhecidos como sandbox regulatórios.

Eduardo Ariente é mestre e doutor em Direito pela USP. Atualmente, é professor de Direito do Consumidor, Direito Constitucional e Direito da Inovação na Universidade Presbiteriana Mackenzie, onde também é assessor do Núcleo de Inovação Tecnológica. Tem pesquisado os temas Inovação, Direitos Autorais, Direito do Consumidor, Direitos Fundamentais e Dignidade Humana, Comunicação Social, Direito à informação e Democracia.

A conferência integra o projeto “Regulação e Governança da Inteligência Artificial”, que está promovendo, ao longo deste ano, diversos eventos centrados em questões ligadas ao tema. Ele é realizado por uma parceria entre o Grupo de Estudos Direito e Tecnologia do IEA-RP, o Centro de Estudos Avançados do Direito e Inovação da Faculdade de Direito de Ribeirão Preto, o Centro de Inteligência Artificial da USP e a iniciativa Understanding Artificial Intelligence (UAI), ligada ao IEA.

Mais informações: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

O Grupo de Pesquisa Centro de Estudos em Gestão e Políticas Públicas Contemporâneas (GPublic) do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP promove no dia 10 de abril, às 16h30, a conferência “Consórcios Públicos e Inteligência Artificial”.

O evento será realizado na sala 8 do Bloco B1 da Faculdade de Economia, Administração e Contabilidade de Ribeirão Preto da USP, com vagas limitadas. Haverá transmissão também pelo canal do IEA-RP no YouTube. As inscrições são gratuitas e devem ser feitas neste link. Haverá emissão de certificados tanto para os participantes presenciais quanto on-line. Neste último caso, será preciso preencher um formulário de presença disponibilizado no chat da ferramenta.

Os palestrantes serão o pesquisador de propriedade intelectual e inteligência artificial na gestão pública Claudio Zancan, que é ligado à Universidade de Estrasburgo e ao Centro de Estudos Internacionais em Propriedade Intelectual (Ceipi), e os coordenadores do GPublic e professores da FEA-RP, Claudia Souza Passador e João Luiz Passador.

Eles vão abordar o uso de modelos de inteligência artificial na gestão de consórcios intermunicipais no Brasil, com implementação de ferramentas tecnológicas que permitem, de forma coordenada e estratégica, a gestão eficiente dos serviços públicos. Segundo os palestrantes, a discussão é importante principalmente pela melhoria que essas ferramentas trazem para a tomada de decisões, fornecendo diretrizes capazes de tornar o processo mais informado e preciso.

Mais informações: iearp@usp.br.

Sobre o GPublic

O Centro de Estudos em Gestão e Políticas Públicas Contemporâneas (GPublic) é um grupo de pesquisa registrado no CNPq e ligado ao IEA Polo Ribeirão Preto da USP. Sua produção científica está direcionada a quatro linhas de pesquisa: Desenvolvimento Local e Territorial, Inovação Organizacional, Políticas Públicas Integradas e Avaliação de Políticas Públicas. Coordenado pelos professores Claudia Souza Passador e João Luiz Passador, do Departamento de Administração da Faculdade de Economia, Administração e Contabilidade de Ribeirão Preto da USP, ele se tornou um grupo do IEA-RP em 2021. Saiba mais sobre as atividades na página do grupo ou inscreva-se na newsletter.

Ben Shneiderman, autor de ''Human-Centered AI'' é o conferencista convidado

Organizado pela Cátedra Oscar Sala em parceria com o Comitê Gestor da Internet no Brasil (CGI.br) e o Núcleo de Informação e Coordenação do Ponto BR (NIC.br), o evento terá transmissão ao vivo e moderação de Virgílio Almeida, titular da cátedra. A exposição será feita em inglês, com tradução simultânea.

A partir do surgimento de uma nova síntese que integra tecnologias de Inteligência Artificial (IA) com Interação Humano-Computador para produção da IA Centrada no Homem (HCAI), profissionais como pesquisadores, desenvolvedores, líderes de negócios e formuladores de políticas estão expandindo o escopo centrado na tecnologia da IA.

Segundo os organizadores do evento, a expansão de uma visão focada em algoritmos para "abraçar uma perspectiva centrada no ser humano" pode moldar o futuro da tecnologia para melhor atender às nossas necessidades. Como exemplo, produtos e serviços que melhorem a vida dos usuários podem ser projetados por educadores, designers, engenheiros de software, gerentes de produto, avaliadores e funcionários de agências governamentais.

O objetivo de uma IA centrada no humano é ampliar, aumentar e aprimorar as habilidades humanas, e seus defensores acreditam na promoção de valores humanos, direitos, justiça e dignidade ao construir sistemas seguros e confiáveis.

IA Centrada no Ser Humano: Garantindo o Controle Humano enquanto Aumenta a Automação
26 de agosto, das 15h às 17h
Evento online, público e gratuito
Transmissão ao vivo em inglês com tradução simultânea
Mais informações com Cláudia Regina (clauregi@usp.br)
Página do evento

O Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP e a iniciativa Understanding Artificial Intelligence, do Instituto de Estudos Avançados da USP promovem no dia 6 de maio, a partir das 14h, a conferência on-line “Ética da inteligência artificial: diretrizes e recomendações para a governança”.

Haverá envio de certificado aos participantes que preencherem um formulário disponibilizado no chat das ferramentas durante o evento.

Os palestrantes serão o professor da Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS) e coordenador da Rede de Inteligência Artificial Ética e Segura (RAIES), Nythamar de Oliveira; o coordenador do Centro de Estudos Europeus e Alemães, Jair Tauchen; a pesquisadora da RAIES e mestranda da PUCRS, Aline Santos Barbosa; e a professora da PUCRS e da Universidade Federal de Santa Catarina, Camila Palhares Barbosa.

Eles vão abordar diretrizes e recomendações ético-morais para a governança da inteligência artificial, incluindo desafios normativos para a regulamentação e a implementação de políticas públicas que assegurem sistemas éticos e seguros, promovendo a inclusão socioeconômica, de gênero e de raça/etnia (igualitarismo interseccional) por meio da inclusão digital.

Mesmo com as regras aprovadas em março pelo Tribunal Superior Eleitoral para o uso de inteligência artificial nestas eleições municipais, o eleitor precisa se manter vigilante para não ser enganado com conteúdos criados por meio dessa tecnologia. Os professores da Faculdade de Direito de Ribeirão Preto da USP, Cristina Godoy Bernardo de Oliveira, e da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP, Evandro Eduardo Seron Ruiz, dão uma série de dicas sobre isso no USP Analisa que vai ao ar nesta sexta (31).

Cristina lembra que até existem algoritmos que permitem a detecção dos chamados deep fakes, uma técnica que permite criar vídeos com inteligência artificial e simular com perfeição situações ou falas que nunca existiram. Ela cita como exemplo um vídeo que circulou durante as eleições de 2022 com o então candidato a presidente Jair Bolsonaro dançando e cantando “Ilariê”, da cantora e apresentadora Xuxa Meneghel.

“Conhecendo o Bolsonaro, qual era a probabilidade de ele estar fazendo um vídeo vestido de Xuxa e cantando Ilariê? Nesse sentido, já gera uma estranheza. Ou eu vou compartilhar no sentido de sátira, ou eu vou querer realmente gerar confusão, depende do tom, mas é preciso a gente avaliar o contexto. Também é preciso atentar ao local em que está sendo veiculado. Por exemplo, vídeos dos quais você nem sabe a origem e que estão circulando no WhatsApp. E sempre pensar na sua responsabilidade como cidadão antes de compartilhar”.

Segundo Cristina, existem algumas dicas para reconhecer uma manipulação, como a sincronia da fala com o movimento da boca ou mesmo a aparência dos dentes enquanto a pessoa está falando no vídeo, porém a tecnologia está se aperfeiçoando com rapidez.

“A gente não pode esquecer que os deep fakes serão cada vez mais verossímeis e vai ser muito difícil a gente identificá-los. Mas é muito importante analisar o contexto e o conteúdo transmitido pelos vídeos, que é uma das principais ferramentas para que nós não sejamos enganados com essas montagens de deep fakes”, diz ela.

Evandro destaca que, apesar do lado negativo, a tecnologia pode trazer uma importante economia de recursos, permitindo, por exemplo, utilizar o dinheiro do Fundo Eleitoral - que soma 4,9 bilhões de reais - para outros fins que beneficiem diretamente a população.

“Para a gente ter uma ideia, uma unidade básica de saúde, a mais top delas, nível quatro, custa hoje 800 mil reais. Se a gente considerar que o Brasil tem 5.500 municípios, dá para colocar uma UBS dessa em cada município do país, sendo que muitos não tem nenhuma. É muito dinheiro. Então, eu acho que a gente devia prestar atenção que esse mundo digital novo pode encurtar o distanciamento entre o povo e esse sistema eleitoral. E a gente podia pensar em cortar um pouco - ou muito - desse dinheiro, porque com as redes sociais a gente elimina esse espaço que teoricamente antes era muito grande porque só tinha rádio e TV”, sugere ele.

Além de Cristina e Evandro, o podcast USP Analisa conversou com outra integrante do Grupo de Estudos TechLaw, a professora da FDRP Cíntia Rosa Pereira de Lima. O conteúdo pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, YouTube Music, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

Estabelecer uma legislação para o uso de ferramentas que envolvam inteligência artificial tem sido um tema bastante discutido em vários países, inclusive no Brasil. Afinal, por que é tão importante ter essa regulação? Para debater essa questão, o USP Analisa conversa com os professores da Faculdade de Direito de Ribeirão Preto, Cristina Godoy, e da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto, Evandro Ruiz.

Segundo Cristina, embora já existam algumas leis que podem ser usadas para regular essa tecnologia, ainda existem pontos que não são cobertos por elas. “A gente tem normas jurídicas que podem dirimir alguns problemas, alguns casos que surgem do uso da inteligência artificial, aplicações, sistemas. Temos a Lei Geral de Proteção de Dados, o Marco Civil da Internet, a legislação sobre propriedade intelectual, o Código de Defesa do Consumidor, o Código Civil. Então há um arcabouço relativamente vasto e adequado para dirimir a maior parte dos casos. Só que existem lacunas. A gente está numa fase agora de identificação dessas lacunas para, aí sim, pensarmos o que devemos regular, mas sem ter uma sobreposição com as outras normas. Senão vai ficar uma legislação muito repetitiva e acaba esvaziando o próprio objetivo da norma”, explica a professora.

Evandro destaca que a Computação não é mais tão independente do Direito como já foi no passado, até porque ela está envolvida em diversos aspectos da vida cotidiana. Por isso, embora muitos profissionais da área não gostem da ideia de uma regulação por considerá-la uma intromissão, ela é, sim, necessária.

“A gente não tem que pensar com os olhos da tecnologia, a gente tem que pensar com um olho de humano, o que o humano - na sua capacidade de pensar, de abstrair, de construir - pode fazer com aquela tecnologia. Então não é um cerceamento, um freio na tecnologia. São eventualmente contornos, barreiras que a gente, como indivíduo, construtor, partícipe daquela tecnologia, precisa pensar em obedecer para que aquilo entre na sociedade de uma maneira construtiva”, diz ele.

Cristina e Evandro também integram o Grupo de Estudo Direito e Tecnologia - TechLaw do Instituto de Estudos Avançados Polo Ribeirão Preto da USP.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

Com a possibilidade de utilizar ferramentas como o Chat GPT para criar textos e imagens, o debate sobre regulação da inteligência artificial passou a incluir também o campo da propriedade intelectual. Afinal, esses mecanismos utilizam bancos de dados e são capazes de copiar estilos de artistas. Para entender como ficam os direitos autorais diante desse cenário, o USP Analisa conversa com a professora da Faculdade de Direito de Ribeirão Preto da USP, Cristina Godoy, e com o professor da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP, Evandro Ruiz.

Segundo Cristina, existe um debate em torno da qualidade da propriedade intelectual. Ela lembra o caso de uma fabricante de celulares que tentou registrar a patente de determinados movimentos dos dedos dos usuários nas telas dos dispositivos.

“Há propriedades intelectuais de baixa qualidade, que a gente não deveria proteger, porque na realidade inviabilizam novas tecnologias e competidores, e tem aquelas de boa qualidade. Então vamos utilizar o mesmo sistema de análise. Realmente é uma cópia daquela obra de arte ou é um texto que é a cópia daquele romance? Se foi, acredito que o Direito vai tender a responsabilizar quem usou o Chat GPT. Porque você é responsável pelo conteúdo e pela obra que produz”, diz ela.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

David Levi, da Universidade Stanford, durante sua exposição no IEA

Ao consultar uma ferramenta de inteligência artificial, muita gente considera extremamente natural confiar na explicação ou orientação oferecida. O que muitos ignoram é o quanto essa confiabilidade advém não só da precisão da informação e dos resultados que ela produz, mas também de mecanismos de sedução da IA para a construção dessa percepção favorável a ela.

Explorar vieses cognitivos e tentar satisfazer características psicológicas como vaidade, aspiração e busca de relações empáticas são alguns dos principais mecanismos empregados pela IA.

Para tratar do melhor uso desses recursos por empresas e governos, seu impacto nas pessoas e dos caminhos para uma confiança legítima na IA, o IEA recebeu no dia 24 de março o pesquisador David Levi, do Instituto Stanford de Inteligência Artificial Centrada no Humano, da Universidade Stanford, EUA.

A conferência "IA e Confiança" foi organizada pela Cátedra IA Responsável (parceria da USP com o Google sediada no IEA), Consulado Geral dos EUA em São Paulo e laboratório Undertanding Artificial Intelligence, com apoio do Centro de Inteligência Artificial a Aprendizado de Máquina da USP.

Levi disse que as pessoas tendem a ver os problemas da IA como meramente técnicos e acreditam que a evolução da tecnológica vai resolvê-los. Para ele, isso não vai acontecer. No entanto, afirmou, não há um chamado para ser feito o que é preciso para tornar a tecnologia honesta, pois isso demanda tempo, educação, criação de estruturas e questionamento crítico. “Queremos que a IA faça o que é preciso para nos satisfazer, não controlar o que queremos”, disse.

Ele considera a IA é muito boa para resolver problemas genéricos e nos quais o usuário tem salvaguardas realistas para avaliar a eficácia dos procedimentos recomendados durante o curso da resolução, como monitores e outras formas de acompanhamento e avaliação de resultados. No entanto, considera que ela não é tão boa para problemas específicos e complexos, para os quais há apenas uma solução.

Segundo ele, a capacidade de resolver problemas genéricos com solução factível, a possibilidade de o usuário se valer de salvaguardas realistas e uma comunicação empática torna a IA útil para empresas e governos.

Levi é gerente do Programa de Parcerias com a Indústria do instituto em que atua. Nessa posição, é ele quem fala com o mercado, tentando traduzir os estudos para que as empresas entendam o que torna mais fácil ou difícil a confiança das pessoas na IA.

Um dos casos que mencionou foi o de uma empresa que disse ter contratado um funcionário remoto para atuar com a equipe. Enquanto os funcionários achavam que era uma pessoa, sempre elogiavam a qualidade do trabalho dela. Quando souberam que o novo membro era uma IA, passaram a comentar os erros que ela cometia.

“Isso é um fenômeno psicológico conhecido. A gente concede um benefício às pessoas, procuramos chegar a um meio termo. Com as máquinas, não”. Por isso, uma mentalidade centrada no humano e nas questões mais profundas do ponto de vista psicológico é crucial, afirmou.

Se a IA se apresenta de modo antropomórfico para encorajar essa perspectiva é porque leva a melhores resultados, disse. A ideia é fazer o usuário encará-la como um colega de trabalhos, um assistente. Para isso, a ferramenta usa tom similar ao que as pessoas empregam em seus relacionamentos pessoais. “Há um viés de adulação. Se um usuário diz alguma coisa equivocada, a IA concorda, como se gostasse dele.”

Levi também comentou o caso dos gêmeos digitais. “É a simulação de uma pessoa, vai responder como você responderia. Deveríamos aceitar a existência de uma versão digital nossa? E a de uma pessoa que já morreu, seria aceitável?”, questionou. Quantos aos agentes de IA, ele considera que ninguém com menos de 18 anos deveria usá-los, pois o impacto na saúde mental é muito alto.

No âmbito da utilização empresarial da IA, disse que os códigos de conduta ainda são muito novos e sem o nível de rigor adequado. Para ele, deveria ser adotado um nível similar ao que foi aplicado a um professor nos EUA que editou genes de bebês para que fossem imunes ao HIV e foi preso.

Levi afirmou que as empresas estão tentando lidar com essas dificuldades: “Há empresas querendo implantar agentes de IA, mas acham que eles acabarão monitorando tudo que os funcionários fazem. Os trabalhadores vão aceitar isso? As tecnologias estão aqui, mas ainda não sabemos o que fazer com elas”.

Ele afirmou que o Brasil é um dos países com maior entusiasmo pela IA, com as pessoas assumindo riscos, testando as ferramentas. "Mas se houver escândalos, isso vai abalar o ânimo dos brasileiros com a IA”, ponderou.

Para ele, a confiança na IA é algo que deve ser ganho, rastreado e governado. Talvez a melhor estratégia para lidar com a IA seja o que Levi disse ao ser indagado, no final da exposição, sobre o uso dessa tecnologia pelos jovens: “Estamos sendo liberados de tarefas entediantes. Os jovens serão liberados para se voltar a novos pensamentos. É preciso estimulá-los a desenvolver os músculos mentais. Para isso, é precisamos criar meios de estimular o pensamento crítico.”

Foto: Leonor Calasans/IEA-USP

Esta é uma atividade do projeto Créditos Éticos em Sistemas Inteligentes, desenvolvido no IEA pelo Prof. Flávio Soares Corrêa da Silva no âmbito do Programa Ano Sabático 2025.

"Inteligência e Inteligência Artificial" é o tema da quarta edição da Intercontinental Academia (ICA4), com Sessão de Abertura online de 13 a 18 de junho. As demais sessões acontecerão em outubro em Paris, França, e em junho de 2022 em Belo Horizonte.

A Intercontinental Academia é um projeto da Ubias, rede internacional de institutos de estudos avançados vinculados a universidades. Cada edição é organizada por dois IEAs de diferentes continentes. A ICA4 é uma realização do Instituto de Estudos Avançados Interdisciplinares (Ieat) da Universidade Federal de Minas Gerais (UFMG) e do Instituto de Estudos Avançados de Paris (integrante da Rede Francesa de IEAs). [Leia sobre as edições anteriores no box abaixo.]

O objetivo da Ubias desde que implantou o projeto em 2015 tem sido criar redes globais de futuros líderes de pesquisa, para que trabalhem juntos em mudanças de paradigmas e pesquisas transdisciplinares sob a mentoria de eminentes pesquisadores de várias parte do mundo.

Participantes brasileiros da ICA4 (a partir da esq.): André Fujita, Patricia Coelho de Soárez e Evandro Castro

Segundo os organizadores da ICA4, a edição irá explorar questões interdisciplinares fundamentais na intersecção da ciência cognitiva, neurociência e inteligência artificial (IA).

Ao ressaltar a importância do tema da edição, eles destacam que avanços decisivos têm ocorrido nas últimas décadas na análise da atividade cerebral e sua contraparte comportamental, bem como nas ciências de processamento de informações. "Complementaridades entre neurociência/ciência cognitiva e IA possibilitam a exploração de sinergias e levantam questões éticas entre essas disciplinas, que envolvem desafios e oportunidades enormes para o progresso da sociedade."

Em paralelo a Sessão 2, programada para junho de 2022, em Belo Horizonte, serão realizada uma Sessão Satélite na UFMG, com conferências e mesas-redondas e a participação de mentores da ICA4 e outros convidados do meio acadêmico e do setor produtivo, com transmissão ao vivo pela internet.

Alguns dos temas dessa sessão serão: "Fundamentos e Ética da IA", "Inteligência e Racionalidade", "Cognição e Neurociências", "Explorações Interdisciplinares da IA" e "IA e Ciências da Saúde".

Selecionados

Dos 60 candidatos a participar da 4ª ICA  (23 deles brasileiros), foram escolhidos 19 pesquisadores atuantes em universidades e institutos de pesquisa do Brasil, Alemanha, França, Reino Unido, Polônia, Estados Unidos, Japão, África do Sul, Israel e Países Baixos. As áreas de pesquisa dos selecionados incluem matemática, computação, engenharia, direito, filosofia, linguística, neurociência e história.

Os três brasileiros selecionados são: o cientista de computação André Fujita (indicado pelo IEA-USP), professor associado do Departamento de Computação do Instituto de Matemática e Estatística (IME) da USP; a  professora associada Patricia Coelho de Soárez (com inscrição independente), do Departamento de Medicina Preventiva da Faculdade de Medicina (FM) da USP, especialista em avaliação tecnológica e econômica em saúde e em modelos de análise de decisão; e o linguista computacional Evandro Cunha (indicado pelo Ieat), professor da Faculdade de Letras da UFMG.

A expectativa de Fujita é participar de intensas discussões filosóficas e científicas com os demais participantes e obter "estímulos e inspiração" para tornar mais vigoroso o Programa de Pós-Graduação em Bioinformática da USP, por ele coordenado.

Fujita ressalta que a bioinformática é um campo interdisciplinar integrado por pesquisadores em matemática, ciência da computação, física, química, biologia, medicina e engenharia, entre outras. "As pessoas costumam definir a bioinformática como o estudo de big data de áreas da biologia com o uso de técnicas computacionais. Penso que poderíamos definir a bioinformática como o campo que usa inteligência artificial para descobrir como células e seres aprendem ou adquirem inteligência."

A proposta para a ICA4 de Patrícia, que integra o Grupo de Estudos em Ciência, Tecnologia e Inovação em Saúde, é a adoção de um ponto de vista holístico na avaliação das contribuições da IA nos cuidados com a saúde, incluindo os impactos econômicos, éticos e sociais. De maneira mais específica, seu interesse são as implicações da incorporação da IA em políticas de saúde, processos de tomada de decisão e na igualdade do sistema de saúde brasileiro.

Entre suas expectativas em relação à ICA4 estão obter subsídios para o desenvolvimento de um projeto de pesquisa interdisciplinar sobre a importância da IA para a tomada de decisão em saúde.  Ela espera também aprender sobre procedimentos aplicáveis e ferramentas necessárias para ampliar o impacto de suas pesquisas e alavancar o desenvolvimento de sua carreira como líder de pesquisa.

O principal interesse de pesquisa de Cunha é a comunicação mediada por computador e o uso de métodos computacionais para a solução de problemas linguísticos, especialmente aqueles relacionados com linguística histórica, revitalização de línguas ameaçadas e neurociência da linguagem.

Na ICA4, ele pretende discutir as aplicações da ciência da linguagem em IA e os efeitos da tecnologia na comunicação humana, principalmente no que diz respeito à manipulação, extremismo e disseminação de desinformação no cenário corrente de pandemia e crise climática.

Mentoria

Os participantes contarão com o apoio de 17 mentores, todos eminentes pesquisadores de reconhecimento mundial em várias áreas científicas, filosofia e artes. Entre eles figuram a bióloga molecular Ada Yonath, do Instituto Weizmann, de Israel, Prêmio Nobel de Química de 2009; o economista Robert Aumann, ganhador do Prêmio Nobel de Economia de 2005, professor da Universidade Hebraica de Jerusalém, de Israel; o astrofísico e cosmólogo Martin Rees, Astrônomo Real Britânico e cofundador do Centro para o Estudo de Risco Existencial da Universidade de Cambridge; o neurologista e neurocientista António Damásio, especialista nos processos mentais subjacentes às emoções, aos sentimentos e à consciência; a cientista de computação Timnit Gebru, cofundadora do Black in AI, organização de apoio a pesquisadores e profissionais negros de IA, e uma das ex-líderes da equipe de pesquisa em inteligência artificial ética do Google; e o artista Zaven Paré, dedicado às novas mídias e robótica e colaborador do Programa de Pós-Graduação em Artes, Cultura e Linguagens da Universidade Federal de Juiz de Fora.

Os coordenadores da ICA4 são: Guilherme Ary Plonski, diretor do IEA e até recentemente coordenador do Conselho Diretivo da Ubias; Estevam Barbosa de Las Casas, diretor do Ieat-UFMG; Eliezer Rabinovici, professor do Instituto de Física da Universidade Hebraica de Jerusalém e proponente do projeto Intercontinental Academia; e Olivier Bouin, diretor da Rede Francesa de IEAs e novo coordenador do Conselho Diretivo da Ubias.

Fotos: Divulgação/4th Intercontinental Academia