A inteligência artificial (IA) está cada vez mais presente em nosso dia a dia e seu impacto na sociedade deve aumentar graças à interação com os novos chatbots, afetando substancialmente diversas profissões e o modo como interagimos com as máquinas. porém, os algoritmos inteligentes, em especial os que utilizam aprendizado de máquina, são menos complexos do que se imagina. Para explicar isso, o Grupo de Estudo Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP e o Centro de Inteligência Artificial (C4AI) promovem no dia 12 de abril, às 19h, a conferência on-line “Desmistificando a Inteligência Artificial: Ela não é tão complicada como você pensa”.

O evento será exclusivamente on-line, com transmissão pelo canal do C4AI no YouTube. As inscrições são gratuitas e devem ser feitas neste link. Haverá envio de certificado aos participantes mediante preenchimento de formulário disponibilizado no chat durante a transmissão.

O palestrante será o professor titular do Departamento de Computação e Matemática da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP Renato Tinós. Ele vai mostrar que algoritmos que utilizam aprendizado de máquina empregam conceitos matemáticos e computacionais bastante simples e intuitivos, contribuindo assim para desmistificar a inteligência artificial. Para o docente, ao entender melhor os princípios básicos que regem os sistemas inteligentes, o público poderá compreender melhor as oportunidades propiciadas pela IA e as suas maiores limitações.

Renato Tinós possui graduação em Engenharia Elétrica pela Unesp, mestrado e doutorado em Engenharia Elétrica pela USP. Atualmente, é professor titular no Departamento de Computação e Matemática e orientador no programa de pós-graduação em Computação Aplicada, ambos da FFCLRP-USP. Atua na área de Ciência da Computação, com especial interesse em computação evolutiva e redes neurais artificiais.

Mais informações: iearp@usp.br.

Sobre o TechLaw

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional.

Para saber mais, acesse a página do grupo.

Para saber mais sobre outros eventos realizados ou apoiados pelo Instituto de Estudos Avançados Polo Ribeirão Preto da USP, siga nossas redes sociais e inscreva-se em nosso canal no Telegram.

O Projeto SuCCESS e a Rede Euro-Sul-Americana de Criminologia promovem no dia 14 de abril, às 10h (horário de Brasília), o 3º Simpósio SuCCESS – Pesquisa em Temas Criminológicos. O evento, que será realizado exclusivamente on-line e vai abordar o tema “Justiça Juvenil”, tem a parceria do Instituto de Estudos Avançados Polo Ribeirão Preto e do Centro de Investigación en Criminología da Universidad Castilla-La Mancha, da Espanha.

As inscrições são gratuitas e devem ser feitas neste link. A transmissão será feita pelo canal do IEA-RP no YouTube e pela página do instituto no Facebook. Haverá envio de certificado aos participantes que preencherem o formulário disponibilizado durante o evento nos chats das ferramentas.

Os palestrantes serão os professores da Universidade Federal de Minas Gerais e pesquisadores do Centro de Estudos em Criminalidade e Segurança Pública (Crisp) Braulio Figueiredo Alves da Silva e Frederico Couto Marinho, e a diretora do Centro de Pesquisa em Criminologia da Universidade de Castilla-La Mancha, Esther Fernández Molina.

Em suas apresentações, eles vão abordar os efeitos deletérios no curso de vida dos adolescentes e a resposta infracional, a justiça juvenil no Brasil e na França, e as percepções dos jovens sobre a justiça juvenil.

A moderação será do coordenador da Rede Euro-Sul-Americana de Criminologia, Hugo Morales Cordova.

Mais informações sobre o evento: iearp@usp.br.

A partir da esquerda, quatro dos expositores do seminário: o advogado Luiz Fernando Martins Castro, o professor Virgílio Almeida, o senador Eduardo Gomes e o advogado Maximiliano Martinhão; os outros expositores foram a professora Laura Schertel Mendes (por videoconferência) e o advogado Fabrício da Mota Alves

O presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou no dia 3 de maio o Projeto de Lei 2.338/23, que dispõe sobre a regulação do desenvolvimento e uso da inteligência artificial (IA). A elaboração da proposta foi subsidiada por relatório de comissão de juristas especialmente instituída em fevereiro de 2022 para analisar os aspectos referentes ao estabelecimento de princípios, regras, diretrizes e fundamentos para a regulação da IA no Brasil

No dia 24 de abril, diante da iminente formalização do projeto de lei, a Cátedra Oscar Sala realizou o seminário Desafios Regulatórios da Inteligência Artificial, com a participação de integrantes da comissão de juristas, pesquisadores e representantes do Executivo e do Legislativo.

Os expositores foram o cientista da computação Virgílio Almeida, titular da cátedra e professor da UFMG, Laura Schertel Mendes, professora da UnB e professora visitante da Universidade Goethe de Frankfurt, Alemanha, Maximiliano Martinhão, secretário de Telecomunicações do Ministério das Comunicações, o advogado Fabricio da Mota Alves, do Serur Advogados, e o senador Eduardo Gomes (PL-TO). A moderação foi do advogado Luiz Fernando Martins Castro, coordenador-adjunto da Cátedra Oscar Sala.

A Cátedra Oscar Sala é fruto de convênio entre a USP e o Comitê Gestor da Internet no Brasil (CGI.br) operacionalizado pelo IEA e pelo Núcleo de Informação e Coordenação do Ponto BR (NIC.br), braço executivo do CGI.br. No seminário, Martinhão falou sobre iniciativas em apoio à pesquisa em IA apoiadas pelo CGI.br.

Princípios éticos

Na abertura do encontor, Virgílio Almeida disse que a percepção geral da capacidade dos algoritmos de influenciar aspectos relevantes da vida de todos, e mesmo de atentar contra direitos fundamentais, resultou na tomada de consciência de que é preciso adotar princípios éticos em relação à IA e estabelecer limites para seu emprego.

Vários países, afirmou, deram início a discussões acadêmicas, técnicas e legislativas para “identificar a melhor forma de enfrentar a questão, propondo modelos regulatórios que preservem direitos fundamentais, mas que não inibam o desenvolvimento tecnológico e econômico desejado com o amplo uso da IA”.

Ele destacou a perplexidade de setores da sociedade ao vislumbrar os possíveis impactos da artificial generativa, cujo exemplo de maior repercussão na atualidade é o modelo de linguagem ChatGPT, desenvolvido pela OpenAI, aberto ao público em novembro.

Almeida enfatizou que a legislação sobre propriedade intelectual precisa ser observada no uso de novas ferramentas de IA, e “os advogados são essenciais nessa discussão”. Mas há também questões éticas, tecnológicas e sociais, cujo debate precisa contar com a participação das comunidades que serão impactadas, tecnólogos, eticistas, acadêmicos interdisciplinares e outros especialistas, completou

Ele citou algumas das dificuldades para a análise de possíveis impactos dos sistemas de IA. É o caso dos mecanismos de explicabilidade das decisões tomadas por eles, que apresentam desafios tecnológicos ainda não resolvidos e exigem a participação de uma comunidade maior na sua resolução. Também não está especificado claramente o que pode ser feito em relação à transparência dos algoritmos, afirmou. Segundo Almeida, os procedimentos de estimativa de risco também exigem formulação e regulação.

Pilares

Assim como outros expositores, ele concentrou sua exposição nas propostas presentes no relatório da comissão de juristas que assessorou a Presidência do Senado. De acordo com Almeida, a proposta baseia-se em três pilares:

• garantia de um rol de direitos às pessoas afetadas pelos sistemas de IA;
• gradação do nível de riscos impostos pelos esses sistemas;
• estabelecimento de medidas de governança aplicáveis às empresas que forneçam ou operem sistemas de IA.

Almeida vê várias oportunidades na disponibilidade pública de ferramentas como o ChatGPT. Uma delas é o fato de que haverá cada vez mais necessidade de o ser humano atuar com robôs: “Ao criar um documento ou um vídeo, as pessoas vão interagir não com um ser humano, mas sim com uma máquina.”

A preocupação maior, disse, é a ampliação do alcance da desinformação e a sofisticação na sua produção, e como isso vai alterar o cenário da sociedade. Outra preocupação relevante é o impacto dessas tecnologias no emprego. “O Brasil tem 1,5 milhões de atendentes de telemarketing, que são majoritariamente mulheres em seu primeiro emprego. Ferramentas como o ChatGPT poderão fazer o trabalho delas a um custo muito baixo”, afirmou.

Diferentemente dos algoritmos utilizados por grandes provedores como Google, Facebook e Amazon, sistemas generativos como o ChatGPT não são construídos para um contexto ou condições de uso específicos e sua abertura e facilidade de controle permitem uma escala de uso sem precedentes. Diante disso, “o enfoque de regulação orientada a risco pode não se aplicar”, disse.

Essas características desafiam a abordagem por risco em pelo menos três pontos, de acordo com ele:

• a não definição sobre a viabilidade de classificar sistemas de IA generativos como de alto risco ou de sem risco;
• a imprevisibilidade de riscos futuros;
• as preocupações em torno dos arranjos privados sobre riscos, arranjos realizados entre o provedor e os usuários (“Esse contrato vai ser um objeto-chave nas discussões”).

Vírgílio Almeida: ‘’É preciso propor modelos regulatórios que preservem direitos fundamentais, mas que não inibam o desenvolvimento tecnológico e econômico’’

Adoção de incentivos

Para ele, o ponto central é incentivar que desde o início de sua concepção essas ferramentas considerem riscos e impactos, porque serão usadas de várias maneiras. “É necessário então considerar a adoção de incentivos, para incentivar outro tipo de comportamento”, disse.

“Uma das consequências do carácter geral dos modelos de IA generativa é que a finalidade pretendida e as condições de uso são definidas na relação contratual entre quem o desenvolveu e o usuário. Mas hoje em dia isso é vago e não está previsto na proposta de lei.”

Nas suas conclusões, Almeida enfatizou a necessidade de ampliação do debate sobre a regulação da IA no Brasil, envolvendo diferentes setores da sociedade em arranjos multissetoriais: governo, setor privado (fornecedores e usuários), sociedade civil, academia (ciência e tecnologia) e outros agentes.

É preciso também, disse, avaliar as possíveis relações entre a proposta de regulação da IA e a proposta da Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet (Projeto de Lei 2.360/20), em tramitação no Congresso Nacional. “Afinal, os algoritmos de moderação, que fazem parte da proposta dessa lei, vão ser afetados pelas questões relacionadas com a regulação da IA. E novos algoritmos vão surgir para tentar identificar textos, vídeos e outras coisas geradas por IA”.

Segundo Almeida, outro ponto a ser analisado, é o impacto de sistemas como o ChatGPT na difusão de desinformação e na moderação de conteúdo. “As discussões sobre essa questão não vão ocorrer de forma estanques. Em algum momento terão de ser incorporadas à discussão da IA generativa.”

Relatório

Coube a Laura Schertel Mendes apresentar uma síntese do relatório produzido pela comissão de juristas para subsidiar a elaboração do PL 2.338/23. A comissão contou com 18 membros e foi presidida pelo ministro Ricardo Villas Bôas Cueva, do Superior Tribunal de Justiça (STJ). Ela foi a relatora do documento, que possui 909 páginas.

“Foram dez meses de trabalho intenso e com todas as decisões tomados por unanimidade”, afirmou Mendes. A comissão funcionou entre fevereiro e dezembro de 2022, com a participação de mais de 60 especialistas em 11 audiências públicas e uma conferência internacional. Mais de 100 contribuições escritas foram entregues à comissão.

Ao justificar a importância de um amplo debate sobre a IA, ela afirmou que “os sistemas não são tão inteligentes como se espera e não são tão artificiais como se imagina. Eles necessitam de muitos recursos materiais, energia e intervenção do ser humano desde o começo, na escolha das bases de dados, na definição de tags, na interpretação de resultados, do input ao output, passando pelo modelo”.

Em relação aos desafios no desenvolvimento da IA, ela fez referência a dois aspectos mencionados no livro “Fairness and Machine Learning” (https://fairmlbook.org), de 2019, escrito por Solon Barocas, Moritz Hardt e Arvind Narayanan.

Exemplos e evidências

O primeiro aspecto é quanto ao uso de exemplos: “Os modelos aprendem por meio deles, assim, a primeira grande questão é que precisamos alimentá-los com bons exemplos. Além disso, é preciso ter uma quantidade de exemplos grande o suficiente para atingir o máximo de padrões, que precisam ser diversificados, mostrando os dados corretos em suas diferentes formas de aparição”.

O segundo aspecto referido no livro citado por Mendes é que a tomada de decisão é baseada em evidências e tão confiável quanto as evidências em que ela se baseia. Então, “precisamos de uma alta qualidade de exemplos diversos, para que não tenhamos uma narrativa única do mundo ou apenas do Norte global”.

“Apesar de baseados em evidências, isso não significa que os exemplos levarão a decisões precisas, confiáveis ou justas. É preciso fazer a regulação desde o início, desde a criação do modelo, da coleta dos dados e exemplos até o momento da aplicação do modelo.” O objetivo deve ser propiciar correção, justiça, não discriminação, transparência e credibilidade, disse.

Mendes comentou a carta aberta “Pause the Giant AI Experiments” (interrompam os experimentos de IA de grande porte), divulgada pelo Instituto Futuro da Vida em 22 de abril e já com mais de 27 mil assinaturas, entre as quais as de empresários do mundo tecnológico, pesquisadores de IA e personalidades da cultura, como Elon Musk (dono do Twitter e outras empresas e ex-integrante da OpenAI), Yoshua Bengio (cientista da computação vencedor do Prêmio Turing), Steve Wozniak (cofundador da Apple) e Yuval Noah Harari (autor de “Homo Sapiens”).  A carta insta os laboratórios de IA a paralisarem imediatamente e por ao menos seis meses o treinamento de sistemas de IA mais potentes do que o GPT-4, versão atual do sistema generativo da OpenAI.

Riscos triviais

Segundo ela, mais do que os riscos que sempre abundaram na ficção científica, com robôs controlando o mundo, por exemplo, “hoje deve-se pensar em riscos mais triviais, que podem sim afetar a Humanidade”. É preciso garantir que esses sistemas “funcionem de acordo com nossas expectativas, produzindo dados corretos e de forma segura, como toda inovação responsável”.

O que a proposta de regulação pleiteia são padrões mínimos de segurança, qualidade de dados, transparência e garantia dos direitos fundamentais previstos na Constituição Federal, disse. “Sabemos que os sistemas falham, então, se falham, precisam de intervenção humana. Embora os sistemas sejam muito complexos, os pleitos da proposta são extremamente simples.”

Apesar de várias normas, como a Lei Geral de Proteção de Dados (LGPD) e o Marco Civil da Internet, o fato é que as leis atuais ainda não dão conta dos desafios colocados pela IA, afirmou. “A LGPD aplica-se apenas a dados pessoais e não seria possível aplicá-la, pois os sistemas generativos podem ser alimentados por outros dados, além dos pessoais.”

Pilares da proposta

Os dois principais objetivos da proposta são, segundo Mendes, estabelecer e garantir direitos para todos os afetados e, ao mesmo tempo, estabelecer um sistema de governança com regras claras e padrões mínimos, garantindo a segurança jurídica para que os sistemas de IA possam se desenvolver. A proposta possui cinco pilares:

• Princípios
• Direitos
• Categorização de risco
• Medidas de governança
• Supervisão e responsabilização

Em relação aos princípios, há inclusive aspectos baseados em documentos internacionais, como os de autoria da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) e da Unesco.

Eles incluem: não discriminação; transparência e explicabilidade; confiabilidade dos sistemas da IA; devido processo legal e contestabilidade; participação humana no ciclo de IA e supervisão humana eficaz; responsabilidade e atribuição de responsabilidade a uma pessoa, jurídica ou natural; prevenção e mitigação de riscos sistêmicos.

Uma grande diferença da proposta brasileira, disse, é o capítulo sobre direitos. “Seria impossível pensar em legislação de IA sem atribuir direitos às pessoas afetadas e retirando o Judiciário de sistema de aplicação da lei, que é o que acontece quando não há direitos estabelecidos.”

Entre os direitos definidos na proposta estão: o de receber informações prévias sobre interações com sistemas de IA; direito à explicação; direito de impugnar decisões que produzam efeitos jurídicos ou impactem significativamente os interesses da parte afetada; direito à determinação e participação humana nas decisões de IA, levando em consideração o contexto e o estado da arte do desenvolvimento tecnológica; direito à não discriminação; e direito à privacidade e proteção de dados pessoais.

Quanto à categorização de risco, ela remeteu às preocupações manifestadas por Virgílio de Almeida, no início do seminário.

Mendes informou que o art. 13 do anteprojeto de lei diz que, antes de ser colocado no mercado, todo sistema precisa passar por uma avaliação preliminar. “Essa não é a avaliação de risco. A avaliação de risco só vai ser necessária depois da avaliação preliminar e se o sistema for considerado de alto risco.”

Em relação às medidas de segurança, Mendes explicou que elas tratam de procedimentos a serem cumpridos, em especial pelos provedores de sistemas de alto risco, “embora também haja algumas medidas que se aplicam de forma horizontal a qualquer sistema”.

Medidas de governança

O quarto pilar da proposta são as medidas de governança aplicáveis a sistemas de alto risco. São elas, segundo Mendes:

• documentação;
• utilização de ferramentas de registro automático do funcionamento do sistema, de forma a permitir a avaliação da sua precisão e robustez;
• realização de testes para avaliar os níveis adequados de confiabilidade, de acordo com o setor e o tipo de aplicação do sistema, incluindo testes de robustez, exatidão, precisão e abrangência;
• medidas de gerenciamento de dados para mitigar e prevenir vieses discriminatórios;
• adoção de medidas técnicas para possibilitar a explicabilidade.

Sobre a supervisão e responsabilização, ela ressaltou que todo sistema exige sanções previstas num arcabouço de supervisão. Destacou que a comissão propôs nas audiências públicas a criação de um órgão de supervisão, que funcionaria sobretudo como um aparato de coordenação.

“Sabemos que as agências reguladoras exercem um papel importante nesse papel, caso da Anatel e da Anel, entre outras. No entanto, a única forma de garantir direitos, como padrões e interpretação harmônica da legislação, seria garantir a existência de um órgão que coordenasse toda a aplicação da lei.”

A comissão também previu um artigo aplicável a sistemas generativos como o ChatGPT, que são definidos como de propósito geral. São considerados desse tipo aqueles utilizados nas seguintes situações:

• aplicação como dispositivos de segurança na gestão e no funcionamento de infraestruturas críticas, tais como controle de trânsito e redes de abastecimento de água e eletricidade;
• educação e formação profissional, incluindo sistemas de determinação de acesso a instituições de ensino e de formação profissional ou para avaliação e monitoramento de estudantes;
• área de emprego, gestão de trabalhadores e acesso ao emprego por conta própria, recrutamento, avaliação de candidatos e de desempenho, promoções etc.;
• acesso a serviços públicos essenciais, incluindo elegibilidade de pessoas a serviços de assistência e de seguridade;
• avaliação da capacidade de endividamento das pessoas naturais ou estabelecimento de sua classificação de crédito;
• envio ou estabelecimento de prioridade para serviços de resposta a emergências, incluindo bombeiros e assistência médica;
• administração da justiça, incluindo sistemas que auxiliem autoridades judiciárias na investigação dos fatos e na aplicação da lei.

Impacto eleitoral

Como exemplo de preocupação com possíveis efeitos negativos do uso de sistema de IA, o senador Eduardo Gomes, umas das lideranças na discussão sobre a temática no Congresso Nacional, manifestou que, sem o devido controle, uma ferramenta desse tipo “pode interferir fortemente num resultado eleitoral”.

“Um candidato que tem uma certa base eleitoral e uma certa bandeira política pode ter sua proposta de candidatura atacada 48 horas antes da eleição. Não haverá nada no mundo que o livre da derrota.”

Para ele, “é muito ampla a possibilidade de benefícios ou de estragos - no caso de falta de controle - que a IA pode trazer”.

Quanto ao encaminhamento da discussão e avaliação da regulação da IA no Congresso Nacional, disse que o Legislativo não pode errar, ainda que trabalhe numa velocidade diferente da de outros fóruns. “A coisa mais difícil no Congresso é fazer uso da simplicidade para formular legislação. O Congresso avança muito quando aprova bons projetos, mas avança muito mais quando deixa de aprovar projetos ruins.”

Para ele, a lei sobre IA terá de ter "uma base muito forte, ser muito simples e ter a possibilidade de regulamentação periódica ou alguma coisa que fortaleça a autoridade ou até a instrução do que estamos discutindo, que é a utilização de dados confiáveis e não confiáveis”.

Gomes destacou a ligação do tema com outras questões legislativas, como o Projeto de Lei sobre fake news (PL 2.630/20). Adiantou que o Senado analisa a criação de uma Comissão sobre Comunicação e Direito Digital, que deverá analisar a proposta de regulação da IA. “O Congresso precisa se debruçar sobre o tema, pois não está evidente a estrutura de fiscalização e regulação” exigida pela área.

O trabalho da comissão de juristas foi destacado por Gomes, que frisou a necessidade de que a proposta seja enriquecida com contribuições de outros agentes da sociedade que têm solicitado participação, segundo o senador.

Maximiliano Martinhão, que além de integrante do Ministério das Comunicações é também membro do CGI.br, disse que o tema da IA nunca esteve tão presente em diferentes áreas do governo quanto na atual gestão federal, “o que denota seu impacto”.

Para ele, os casos de racismo, deep fake, processos de seleção discriminatórios, produção e difusão de discursos de ódio, interação inadequada com crianças e outros mal usos da IA “não permitem uma postural liberal, que deixe a tecnologia avançar para depois regulá-la quando extremamente necessário”.

Pesquisa no Brasil

Ao falar sobre a capacitação brasileira em IA, Martinhão citou algumas discussões promovidas pelo CGI.br. A primeira foi no Instituto Alan Turing, em Londres, Reino Unido, em 2019. “Foi gratificante saber que o pessoal do instituto reconhece que a pesquisa brasileira na área está no nível mundial em termos de competência e capacidade”, disse. Existe no mundo uma corrida para liderar aspectos cruciais da IA, o que trará “vantagens comparativas para os líderes e impacto na soberania de muitos países”, afirmou.

Ele comentou duas outras parcerias do CGI.br. Uma delas foi com a USP e a Unesco num evento regional sobre IA, em 2019. Outra foi estabelecida com a Fapesp e o Ministério de Ciência, Tecnologia e Inovação (MCTI) e possibilitou a criação de seis Centros de Tecnologia Aplicada em Inteligência Artificial.

Com previsão de 5 anos de atuação, os centros foram contratados com investimento total (público e privado) no valor de R$ 20 milhões. Eles estão situados no campus da USP em São Carlos (saúde, educação, meio ambiente e cidades inteligentes), na Unicamp (diagnóstico médico), no Instituto de Pesquisa Tecnológica do Estado de São Paulo (indústria), na UFMG (saúde e epidemias), no Senai Cemat (indústria 4.0) e na UFC (internet das coisas em prevenção e tratamento de doenças).

Ele lembrou que desde de 2021 o governo federal conta com a Estratégia Brasil em Inteligência Artificial (Ebia), cujo objetivo é “potencializar o desenvolvimento e a utilização da tecnologia com vistas a promover o avanço científico e solucionar problemas concretos, identificando áreas prioritárias nas quais há maior potencial de obtenção de benefícios”, de acordo com a apresentação do documento. O mais interessante, disse Martinhão, é que o documento traz eixos transversais, como as questões de governança, necessidade de legislação e cooperação internacional.

Ele frisou que a IA tem sido tratada no mundo a partir de alguns princípios. “Na OCDE, a prerrogativa é o respeito aos direitos humanos e ao Estado de Direito. Na União Europeia, recentemente, a discussão deu-se quanto a accountability e explicabilidade.” Em relação a isso, lembrou que um dos países europeus [Itália] impôs recentemente restrições ao ChatGPT por não explicitar como trata dados pessoais.

Martinhão também comentou a carta aberta do Instituto Futuro da Vida em defesa da moratória por seis meses no desenvolvimento de ferramentas de IA de grande porte, como o GPT-4: “A medida não parece excessiva diante de possíveis riscos. Precisamos ter uma avaliação prévia antes da continuidade dos projetos, para dimensionar quais são os riscos e consequências da implementação dessas ferramentas”.

Área regulatória

Servidor de carreira Anatel, uma agência reguladora, ele afirmou que a área regulatória não existe para ser o calo do setor privado, mas sim para defender os interesses de toda a sociedade. “Por isso é preciso entender que uma tecnologia traz uma série de consequências, podendo levar ao monopólio, prejudicando a concorrência e a livre iniciativa, e considerar que o mercado nem sempre consegue se autorregular”, disse.

“A sociedade deve atentar para fato de que podem acontecer práticas predatórias, barreiras de entrada, aquisição de concorrentes, manipulação de algoritmos, concentração de dados em determinada organização e acentuação de desigualdades sociais”, afirmou.

Segundo ele, mais de 10% dos domicílios brasileiros ainda não tem acesso à internet. “O mesmo pode acontecer com a inteligência artificial, com um custo de US$ 20 por mês para desfrutar de mais recursos de uma plataforma. As pessoas pagam em média R$ 17,00 para carregar o celular pré-pago, como iriam pagar R$ 100,00 num serviço de IA?”

Ao final das exposições, Virgílio Almeida reforçou o alerta sobre dois pontos. O primeiro refere-se às big techs: “O que antevemos é uma concentração maior de poder, e completamente fora do Brasil. Não temos infraestrutura computacional e de dados para processamento dessas questões. Não temos uma política pública para organizar os dados brasileiros, armazenados em bancos do IBGE, do Sistema Único de Saúde e de outros organismos”.

O segundo ponto ressaltado por ele é a necessidade de atenção para o impacto da IA no emprego: “Não podemos caminhar numa direção que não ajude a elevar o nível de emprego e a torná-lo o mais qualificado possível”.

Fotos: Leonor Calasans/IEA-USP

Estabelecer uma legislação para o uso de ferramentas que envolvam inteligência artificial tem sido um tema bastante discutido em vários países, inclusive no Brasil. Afinal, por que é tão importante ter essa regulação? Para debater essa questão, o USP Analisa conversa com os professores da Faculdade de Direito de Ribeirão Preto, Cristina Godoy, e da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto, Evandro Ruiz.

Segundo Cristina, embora já existam algumas leis que podem ser usadas para regular essa tecnologia, ainda existem pontos que não são cobertos por elas. “A gente tem normas jurídicas que podem dirimir alguns problemas, alguns casos que surgem do uso da inteligência artificial, aplicações, sistemas. Temos a Lei Geral de Proteção de Dados, o Marco Civil da Internet, a legislação sobre propriedade intelectual, o Código de Defesa do Consumidor, o Código Civil. Então há um arcabouço relativamente vasto e adequado para dirimir a maior parte dos casos. Só que existem lacunas. A gente está numa fase agora de identificação dessas lacunas para, aí sim, pensarmos o que devemos regular, mas sem ter uma sobreposição com as outras normas. Senão vai ficar uma legislação muito repetitiva e acaba esvaziando o próprio objetivo da norma”, explica a professora.

Evandro destaca que a Computação não é mais tão independente do Direito como já foi no passado, até porque ela está envolvida em diversos aspectos da vida cotidiana. Por isso, embora muitos profissionais da área não gostem da ideia de uma regulação por considerá-la uma intromissão, ela é, sim, necessária.

“A gente não tem que pensar com os olhos da tecnologia, a gente tem que pensar com um olho de humano, o que o humano - na sua capacidade de pensar, de abstrair, de construir - pode fazer com aquela tecnologia. Então não é um cerceamento, um freio na tecnologia. São eventualmente contornos, barreiras que a gente, como indivíduo, construtor, partícipe daquela tecnologia, precisa pensar em obedecer para que aquilo entre na sociedade de uma maneira construtiva”, diz ele.

Cristina e Evandro também integram o Grupo de Estudo Direito e Tecnologia - TechLaw do Instituto de Estudos Avançados Polo Ribeirão Preto da USP.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

Com a possibilidade de utilizar ferramentas como o Chat GPT para criar textos e imagens, o debate sobre regulação da inteligência artificial passou a incluir também o campo da propriedade intelectual. Afinal, esses mecanismos utilizam bancos de dados e são capazes de copiar estilos de artistas. Para entender como ficam os direitos autorais diante desse cenário, o USP Analisa conversa com a professora da Faculdade de Direito de Ribeirão Preto da USP, Cristina Godoy, e com o professor da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP, Evandro Ruiz.

Segundo Cristina, existe um debate em torno da qualidade da propriedade intelectual. Ela lembra o caso de uma fabricante de celulares que tentou registrar a patente de determinados movimentos dos dedos dos usuários nas telas dos dispositivos.

“Há propriedades intelectuais de baixa qualidade, que a gente não deveria proteger, porque na realidade inviabilizam novas tecnologias e competidores, e tem aquelas de boa qualidade. Então vamos utilizar o mesmo sistema de análise. Realmente é uma cópia daquela obra de arte ou é um texto que é a cópia daquele romance? Se foi, acredito que o Direito vai tender a responsabilizar quem usou o Chat GPT. Porque você é responsável pelo conteúdo e pela obra que produz”, diz ela.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

O Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP promove no dia 31 de outubro, a partir das 19h, a conferência “Inteligência Artificial e Profiling: desafios jurídicos”. O evento tem a parceria do Centro de Inteligência Artificial da USP (C4AI).

A conferência será exclusivamente on-line, com transmissão pelo canal do C4AI no YouTube. As inscrições são gratuitas e devem ser feitas por este link. Haverá envio de certificado aos participantes mediante preenchimento de formulário que será postado no chat da ferramenta durante o evento.

O palestrante será o diretor do Instituto Avançado de Proteção de Dados (IAPD), Rafael Meira Silva. Ele vai abordar os desafios para o direito e para a democracia que a definição de perfil (profiling) realizada por sistemas de inteligência artificial voltados à tomada de decisões apresenta. Outros tópicos explorados na conferência serão a proteção de dados inferidos pessoais para a definição de perfil e a Lei Geral de Proteção de Dados, o uso de profiling pelo setor público para a classificação de cidadãos, "dataveillance" e garantias constitucionais.

Segundo Rafael, apesar dos desafios, não se pode deixar de ressaltar as vantagens da definição de perfil para melhorar a eficiência no local de trabalho, para fornecer serviços públicos com mais qualidade, para a oferta de sugestões que atendam às expectativas dos usuários e para a trilha de aprendizado na área da educação. Ele destaca que é tarefa do direito regular o tema sem interferir na inovação, buscando maximizar os benefícios trazidos pela inteligência artificial.

Rafael Meira Silva é doutor pela Faculdade de Direito da Universidade de São Paulo, com doutorado sanduíche na Université Panthéon-Sorbonne e graduado pela FD-USP. Foi diretor da Corregedoria do Governo do Estado de São Paulo entre 2010 e 2014. É consultor jurídico para empresas de tecnologia na União Europeia, pesquisador da iniciativa "Understanding Artificial Intelligence" (U.A.I) do IEA-USP, diretor do Instituto Avançado de Proteção de Dados (IAPD) e sócio do M&G Sociedade de Advogados.

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

Para saber mais sobre outros eventos realizados ou apoiados pelo Instituto de Estudos Avançados Polo Ribeirão Preto da USP, siga nossas redes sociais e inscreva-se em nosso canal no Telegram ou entre em nosso grupo no Whatsapp.

O Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, em parceria com o Centro de Inteligência Artificial da USP (C4AI), promove no dia 21 de novembro, a partir das 19h, a conferência on-line “Como a proliferação das ‘fake news’ e seus algoritmos complexos nas redes sociais pode danificar a cultura democrática”.

As inscrições são gratuitas e devem ser feitas neste link. A transmissão será pelo canal do C4AI no YouTube. Haverá envio de certificado de participação a quem preencher o formulário enviado no chat durante o evento.

A palestrante será a pós-doutoranda da Escola de Comunicação e Artes da USP Magaly Prado. Ela vai falar sobre sua pesquisa, que aborda a interferência dos algoritmos das fake news no ciberespaço e o estrago provocado na democracia. Nesse trabalho, ela buscou investigar como se identificam mentiras publicadas por meio de filtragens e discernir sobre as estratégias implementadas para engajar determinados públicos. Os procedimentos metodológicos incluíram, além de levantamento bibliográfico, a coleta e análise de entrevistas com especialistas; um questionário para lembrar como a sociedade memoriza as fake news; e a criação de um repositório de cerca de 700 postagens com material sobre as implicações das ações de algoritmos.

Magaly Parreira do Prado é bolsista na Cátedra Oscar Sala, do IEA, e pós-doutoranda no departamento de Informação e Cultura da Escola de Comunicações e Artes (ECA) da USP. É doutora em Comunicação e Semiótica e mestre em Tecnologias da Inteligência e Design Digital, ambos pela PUC-SP. Tem experiência na área de Comunicação, Informação e Cultura, com ênfase em Jornalismo, Jornalismo na Internet (Multimídia, Produção e Edição Multiplataforma), Redes Sociais Digitais, Algoritmos, Inteligência Artificial, Desinformação e Rádio/ TV. Integra os grupos de estudos Jornalismo, Direito e Liberdade, da ECA/IEA-USP, e é vice-coordenadora do Sociotramas, do TIDD/PUC. É professora na pós-graduação da PUC e no MBA da Fundação Armando Álvares Penteado (FAAP).

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

Para saber mais sobre outros eventos realizados ou apoiados pelo Instituto de Estudos Avançados Polo Ribeirão Preto da USP, siga nossas redes sociais e inscreva-se em nosso canal no Telegram ou entre em nosso grupo no Whatsapp.

Em meio ao debate sobre regulação da inteligência artificial que acontece em todo o mundo, o Brasil centraliza a discussão em torno do Projeto de Lei 2338/2023. De autoria do senador Rodrigo Pacheco, o PL possui como principal influência o modelo regulatório proposto pela União Européia, o EU AI Act. Para discutir as propostas de governança e regulação em torno dessa tecnologia, o Grupo de Estudos Direto e Tecnologia do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, em parceria com o Centro de Estudos Avançados do Direito e Inovação da Faculdade de Direito de Ribeirão Preto, o Centro de Inteligência Artificial da USP e a iniciativa Understanding Artificial Intelligence (UAI), ligada ao IEA, realiza ao longo deste ano o projeto “Regulação e Governança da Inteligência Artificial”, que vai promover diversos eventos híbridos centrados em questões ligadas ao tema.

O primeiro deles, “Regulação da Inteligência Artificial e impactos na economia do Brasil”, será realizado no dia 28 de fevereiro, a partir das 14h, no Anfiteatro da FDRP, no campus Ribeirão Preto da USP. As inscrições devem ser feitas neste link. O evento terá transmissão pelo canal do IEA-RP no YouTube e os espectadores on-line interessados em receber o certificado de participação precisam preencher o formulário que será disponibilizado no chat durante o evento.

O palestrante será o professor da Faculdade de Direito da Universidade Presbiteriana Mackenzie Vicente Bagnoli. Ele vai avaliar a estratégia apresentada pelo PL 2338/23 sob a perspectiva do direito concorrencial, verificando se as big techs serão favorecidas e o quanto essa regulação da inteligência artificial pode impactar a economia do Brasil.

Vicente Bagnoli é doutor em Filosofia e Teoria Geral do Direito pela Faculdade de Direito da USP, mestre em Direito Político e Econômico e bacharel em Direito pela Universidade Presbiteriana Mackenzie. É pesquisador visitante no Instituto Max Planck de Inovação e Concorrência em Munique, Alemanha. Desde 2010 tem a sua atuação profissional na área do Direito da Concorrência reconhecida e premiada por várias publicações internacionais.

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

O Grupo de Estudos Direto e Tecnologia do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, em parceria com o Centro de Estudos Avançados do Direito e Inovação da Faculdade de Direito de Ribeirão Preto, o Centro de Inteligência Artificial da USP e a iniciativa Understanding Artificial Intelligence (UAI), ligada ao IEA, promovem no dia 21 de março, às 14h, a conferência on-line “Regulação da Inteligência Artificial na União Europeia”.

O evento integra o projeto “Regulação e Governança da Inteligência Artificial”, que vai promover debates ao longo de 2024 centrados em questões ligadas a esse tema. As inscrições são gratuitas e devem ser feitas neste link. A conferência é exclusivamente on-line, em inglês e será transmitida pelo canal do IEA-RP no YouTube e também pela página do IEA-RP no Facebook. Os participantes receberão certificado desde que preencham o formulário disponibilizado no chat das ferramentas durante o evento.

O palestrante será o líder de políticas públicas europeias no Instituto Ada Lovelace, Connor Dunlop. Ele vai apresentar uma visão geral do debate em torno da regulação da inteligência artificial na União Europeia e no Reino Unido. A discussão abordará convergências e divergências entre a Lei de Inteligência Artificial da União Europeia e o modelo que está sendo desenvolvido no Reino Unido, introduzindo sua principal característica e a relação com o European Union Artificial Intelligence Act.

Connor Dunlop é líder de políticas públicas europeias no Instituto Ada Lovelace. Tem mestrado em Estudos de Conflitos e Direitos Humanos pela Universiteit Utrecht e bacharelado em História e Política pela Universidade de Newcastle. Atualmente, é responsável por liderar e implementar a estratégia de influência e envolvimento do Instituto Ada Lovelace na governação e regulamentação da inteligência artificial na Europa.

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

O Grupo de Pesquisa Criminologia Experimental e Segurança Pública do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, em parceria com a Associação Internacional de Criminologia em Língua Portuguesa (AICLP), promove no dia 19 de março, às 15h, a conferência on-line “Administração da Justiça na Guerra Colonial Portuguesa (1961-1974): notas sobre a dinâmica processual penal militar”.

O evento será exclusivamente on-line, com transmissão pelo canal do IEA-RP no YouTube e pela página do Instituto no Facebook. As inscrições são gratuitas e devem ser feitas neste link. Os participantes que quiserem receber o certificado deverão preencher o formulário que será enviado no chat das ferramentas durante a transmissão.

As palestrantes serão as professoras da Universidade Lusíada e da Universidade do Porto Maria Leonor Esteves e Fátima da Cruz Rodrigues. Elas vão discutir a dinâmica processual penal militar implementada no contexto da guerra colonial portuguesa, um período de confrontos entre as Forças Armadas Portuguesas e as forças organizadas por movimentos de independência nas então províncias de Angola, Cabo Verde, Guiné-Bissau e Moçambique entre 1961 e 1974.

As docentes vão abordar ainda como crimes alegadamente cometidos por combatentes das Forças Armadas Portuguesas foram interpretados pelos Tribunais Militares Territoriais de Angola, de Moçambique e da Guiné ao longo desse período. Por fim, farão uma reflexão sobre a dinâmica processual da justiça penal militar nas ex-colônias portuguesas, implementada em um contexto sociopolítico complexo que conjuga a ditadura do Estado Novo, a situação extrema da guerra em três territórios distintos na defesa da soberania de Portugal Colonial e uma ordem hierárquica inquestionavelmente racializada, em uma conjuntura internacional favorável às independências de territórios sob o domínio colonial.

Maria Leonor Esteves é professora associada da Universidade Lusíada do Porto, docente da Faculdade de Direito e pesquisadora no Centro de Estudos Jurídicos, Económicos, Internacionais e Ambientais (Cejeia), ligados à Universidade do Porto. É graduada em Direito e mestre em ciências jurídico-criminais pela Faculdade de Direito da Universidade de Coimbra e doutora em Direito pela Faculdade de Direito da Universidade de Santiago de Compostela. É pesquisadora no projeto InJUSTiceWar - Crime e administração da justiça na guerra colonial portuguesa (1961-1974): análise exploratória dos processos-crime contra combatentes das Forças Armadas Portuguesas em Angola, Moçambique e Guiné-Bissau, desenvolvido no Centro de Investigação Interdisciplinar em Crime, Justiça e Segurança (CJS) da FDUP.

Fátima da Cruz Rodrigues é professora auxiliar da Universidade Lusíada Norte, professora auxiliar convidada da Faculdade de Direito da Universidade do Porto e pesquisadora no Centro de Estudos Jurídicos, Económicos, Internacionais e Ambientais (Cejeia). É doutora em Sociologia pela Universidade de Coimbra e desenvolveu seu pós-doutorado no âmbito do projeto Memoirs - Filhos de Impérios e Pós-Memórias Europeias, financiado pelo Conselho Europeu de Investigação. É pesquisadora principal do projeto InJUSTiceWar - Crime e administração da justiça na guerra colonial portuguesa (1961-1974): análise exploratória dos processos-crime contra combatentes das Forças Armadas Portuguesas em Angola, Moçambique e Guiné-Bissau, desenvolvido no Centro de Investigação Interdisciplinar em Crime, Justiça e Segurança (CJS) da FDUP.

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

A partir dos recentes avanços da Criminologia Experimental, o Grupo de Pesquisa em Criminologia Experimental e Segurança Pública do IEA-RP propõe dedicar-se ao estudo de experimentos, métodos e intervenções que permitam extrair evidências científicas sobre o que funciona (what works) nas estratégias de segurança pública. Com base nas evidências científicas obtidas pelo método experimental, pretende-se desenvolver novas abordagens teóricas e recomendações de ação estratégica no campo da segurança pública. Saiba mais na página do grupo.

O Grupo de Pesquisa em Criminologia Experimental e Segurança Pública do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, em parceria com a Associação Internacional de Criminologia em Língua Portuguesa, promove no dia 23 de abril, a partir das 15h (horário de Brasília), a conferência on-line “Caminhos para a Reincidência Criminal Feminina”.

As inscrições são gratuitas e devem ser feitas neste link. O evento é exclusivamente on-line e será transmitido pelo canal do IEA-RP no YouTube e pela página do instituto no Facebook. Haverá emissão de certificado aos participantes que preencherem um formulário disponibilizado no chat das ferramentas durante a transmissão.

A palestrante será a professora Ana Guerreiro. Ela vai abordar o fenômeno da reincidência criminal feminina, destacando os fatores e necessidades que podem originar práticas criminosas. Ana pretende ainda promover uma reflexão crítica sobre abordagens e estratégias holísticas mais eficazes para a reeducação e ressocialização de mulheres, tendo como propósito o melhoramento das práticas existentes no sistema de justiça penal.

Ana Guerreiro é doutora em Criminologia pela Faculdade de Direito da Universidade do Porto (FDUP). Atualmente, é professora auxiliar na Universidade da Maia e professora auxiliar convidada na FDUP. Exerce ainda o cargo de diretora da Unidade de Investigação em Criminologia e Ciências do Comportamento (UICCC) da Universidade da Maia. Suas áreas de interesse são criminalidade feminina, criminalidade organizada, redes criminais, estudos de gênero, violência de gênero e políticas de prevenção.

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

A partir dos recentes avanços da Criminologia Experimental, o Grupo de Pesquisa em Criminologia Experimental e Segurança Pública do IEA-RP propõe dedicar-se ao estudo de experimentos, métodos e intervenções que permitam extrair evidências científicas sobre o que funciona (what works) nas estratégias de segurança pública. Com base nas evidências científicas obtidas pelo método experimental, pretende-se desenvolver novas abordagens teóricas e recomendações de ação estratégica no campo da segurança pública. Saiba mais na página do grupo.

A Faculdade de Direito de Ribeirão Preto da USP, em parceria com a Faculdade de Direito da USP, a Universidade de Camerino e o Grupo de Estudos Direito e Tecnologia - TechLaw do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, realiza no dia 22 de abril, a partir das 8h, o simpósio on-line “O Direito Civil na atualidade: uma visão ítalo-brasileira”.

As inscrições são gratuitas e devem ser feitas neste link. A transmissão será feita pelos canais da FDRP e do IEA-RP no YouTube. Haverá envio de certificados aos participantes que preencherem um formulário disponibilizado no chat durante o evento.

Ao todo, 22 professores de universidades brasileiras e italianas vão discutir diversos aspectos  do Direito Civil em ambos os países. Além das instituições organizadoras, participam palestrantes da Universidade Federal do Rio Grande do Sul, Universidade Estadual de Londrina, Universidade de Molise e Universidade de Fortaleza.

Entre os tópicos que vão pautar os painéis estão direito comparado, relações obrigacionais, responsabilidade pré-contratual, responsabilidade médica, direito ao esquecimento e questões ligadas a tecnologia, animais e pessoas com deficiência.

“Nosso mais legítimo desejo, assim como de todos os palestrantes, foi o de contribuir para a reflexão e o aprimoramento do estudo do Direito Civil Comparado e, por esse motivo, esperamos que o público encontre neste evento não um ponto final aos temas propostos, mas de partida e de incentivo a novas pesquisas doutrinárias”, afirma a professora Maria Cristina de Cicco, professora da Faculdade de Direito da Universidade de Camerino e integrante do comitê científico do evento.

A programação completa está disponível neste link. Mais informações: iearp@usp.br

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) do IEA-RP tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

O Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP e a iniciativa Understanding Artificial Intelligence, do Instituto de Estudos Avançados da USP promovem no dia 6 de maio, a partir das 14h, a conferência on-line “Ética da inteligência artificial: diretrizes e recomendações para a governança”.

As inscrições são gratuitas e devem ser feitas neste link. A transmissão será pelo canal do IEA-RP no YouTube e pela página do instituto no Facebook. Haverá envio de certificado aos participantes que preencherem um formulário disponibilizado no chat das ferramentas durante o evento.

Os palestrantes serão o professor da Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS) e coordenador da Rede de Inteligência Artificial Ética e Segura (RAIES), Nythamar de Oliveira; o coordenador do Centro de Estudos Europeus e Alemães, Jair Tauchen; a pesquisadora da RAIES e mestranda da PUCRS, Aline Santos Barbosa; e a professora da PUCRS e da Universidade Federal de Santa Catarina, Camila Palhares Barbosa.

Eles vão abordar diretrizes e recomendações ético-morais para a governança da inteligência artificial, incluindo desafios normativos para a regulamentação e a implementação de políticas públicas que assegurem sistemas éticos e seguros, promovendo a inclusão socioeconômica, de gênero e de raça/etnia (igualitarismo interseccional) por meio da inclusão digital.

Sobre os palestrantes

Nythamar de Oliveira é  Ph.D. em Filosofia pela State University of New York, mestre em Filosofia pela Villanova University e realizou pesquisa pós-doutoral na New School for Social Research, de Nova York, na London School of Economics, na University of Miami, na Université Paris 8 e na Universität Kassel, da Alemanha. Atualmente, é professor titular na PUCRS e coordena o Grupo de Pesquisa Interdisciplinar em Neurofilosofia do Instituto do Cérebro e a Rede de Inteligência Artificial Ética e Segura (RAIES).

Jair Tauchen possui graduação em Ciências Religiosas, bacharelado em Teologia e em Direito, e mestrado em Filosofia, todos pela PUCRS. Realizou também doutorado sanduíche na Universität Hamburg, Alemanha. Atualmente, é coordenador do Centro de Estudos Europeus e Alemães (CDEA).

Aline Santos Barbosa é mestranda do Programa de Pós-Graduação em Filosofia da PUCRS, eticista e pesquisadora da RAIES. É CEO de duas empresas na área de gestão da informação na área da cultura e de uso da realidade aumentada para inclusão de pessoas e acessibilidade de conhecimentos.

Camila Palhares Barbosa é pós-doutoranda e doutora em Filosofia pela PUCRS e bacharel em Relações Internacionais pela Unilasalle. Atualmente, é professora substituta na UFSC, professora colaboradora na PUCRS e pesquisadora da RAIES. Suas áreas de pesquisa incluem ética e filosofia política, filosofia moderna e contemporânea, estudos feministas, de gênero e sexualidade.

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) do IEA-RP tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

Em 2024, mais de 2 bilhões de pessoas em 60 países vão votar em eleições gerais ou municipais - incluindo o Brasil. Será a primeira vez em que as campanhas terão à disposição ferramentas de inteligência artificial que ajudam a baratear a produção de conteúdo mas, ao mesmo tempo, também podem ser usadas para gerar informações falsas. Mas a preocupação com o uso da tecnologia nas campanhas não é nova. Os professores Cíntia Rosa Pereira de Lima, da Faculdade de Direito de Ribeirão Preto da USP, e Evandro Eduardo Seron Ruiz, da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP, e que também integram o Grupo de Estudo “Direito e Tecnologia” (Tech Law) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, conversaram com o USP Analisa desta sexta sobre esse assunto.

O tema começou a ser discutido com mais intensidade após o escândalo da Cambridge Analytica, no início de 2018, quando um aplicativo criado por um pesquisador da Universidade de Cambridge e intitulado “This is your digital life” conseguiu mapear as predileções de personalidade de usuários do Facebook, informações que foram utilizadas posteriormente para distribuição de conteúdo durante eleições em várias localidades.

“Muitos aplicativos hoje são disponibilizados nas redes sociais e, às vezes, de uma forma ingênua, eles se oferecem para envelhecer fotos ou disponibilizam testes aparentemente inofensivos. O “This is your digital life” pedia um consentimento nos seus termos - e os usuários não leem esses termos porque realmente são muito longos, cansativos - e lá constava que, ao fazerem login no aplicativo com a conta do Facebook, as pessoas consentiam que o criador da aplicação tivesse acesso aos seus contatos na rede social. Isso então escalou uma forma de coleta de dados pessoais que, de inicialmente uns 270 mil usuários, passou a representar 87 milhões de perfis que foram vasculhados pela aplicação”, explica Cíntia.

Atualmente, com a popularização de ferramentas de inteligência artificial, a preocupação vai além da coleta de dados e passa pela própria produção de conteúdo, já que algumas aplicações permitem produzir vídeos e áudios realistas utilizando o rosto e a voz das pessoas. Mesmo assim, Evandro destaca que tecnologias como essas ferramentas de edição e o Chat GPT podem ser usadas de forma positiva nas campanhas.

“Acho que há muitas maneiras do eleitor se beneficiar e ganhar informação, ganhar conhecimento sobre a plataforma do candidato, do partido. O candidato também pode, por exemplo, buscar auxílio no Chat GPT para a geração de um discurso, eventualmente resumir aquele discurso para fazer um vídeo curto para divulgar no YouTube, no Instagram. Enfim, implica até uma redução de custo com assessores, com redatores. Acredito que, no global, a gente sai com uma democracia mais fortalecida, com mecanismos desse tipo, acho que é uma grande vantagem que a computação está trazendo para nós, cidadãos”, diz ele.

Além dos professores Cíntia e Evandro, o podcast USP Analisa conversa com outra integrante do Grupo de Estudos TechLaw, a professora da FDRP Cristina Godoy Bernardo de Oliveira. O conteúdo pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

O Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP promove no dia 23 de maio, a partir das 14h (horário de Brasília), a conferência on-line “Responsabilidade Civil e Inteligência Artificial: Debate na União Europeia”.

O evento é exclusivamente on-line e será transmitido pelo canal do IEA-RP no YouTube e pelo perfil do instituto no Facebook. As inscrições são gratuitas e podem ser feitas neste link. Os espectadores on-line interessados em receber o certificado de participação devem preencher o formulário que será disponibilizado no chat das ferramentas durante o evento.

A palestrante será a professora Ana Mafalda Castanheira Neves de Miranda Barbosa. Especialista em responsabilidade civil em aplicações de inteligência artificial, a docente vai discutir o modelo pautado em classificação de risco da inteligência artificial adotado pela União Europeia e, por conhecer a legislação brasileira, fará uma comparação dele com o Projeto de Lei 2338/23, que estabelece normas para o desenvolvimento, implementação e uso responsável dessa tecnologia no Brasil.

Ana Mafalda é docente associada com agregação da Faculdade de Direito da Universidade de Coimbra, instituição na qual também concluiu mestrado e doutorado em Ciências Jurídico-Civilísticas. A mediação será do docente da Faculdade de Direito da USP, José Faleiros de Moura Júnior.

A conferência integra o projeto “Regulação e Governança da Inteligência Artificial”, que está promovendo, ao longo deste ano, diversos eventos centrados em questões ligadas ao tema. Ele é realizado por uma parceria entre o Grupo de Estudos Direto e Tecnologia do IEA-RP, o Centro de Estudos Avançados do Direito e Inovação da Faculdade de Direito de Ribeirão Preto, o Centro de Inteligência Artificial da USP e a iniciativa Understanding Artificial Intelligence (UAI), ligada ao IEA.

Mais informações: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.