O Grupo de Pesquisa em Direitos Humanos, Democracia e Memória (GPDH) do IEA é um dos realizadores do “Curso Internacional de Direitos Humanos: uma Abordagem Multidimensional", que acontece até o dia 16 de abril. A formação foi elaborada em conjunto com a Diretoria Executiva de Direitos Humanos (DeDH) da Unicamp, Instituto de Políticas Públicas e Relações Internacionais (IPPRI) da Unesp e o Ministério Público do Trabalho da 15a Região.

Em duas semanas de aula, o curso objetiva proporcionar uma compreensão ampla, multifacetada e interdisciplinar dos direitos humanos, de modo a oferecer aos participantes formação abrangente e referências atuais que sirvam para orientar sua atuação judicial e extrajudicial na defesa, reparação e promoção dos direitos humanos.

Com uma perspectiva relacional entre direito, política e sociedade, a formação assume um ponto de vista histórico e político para apresentar a criação das instituições e normativas institucionais, desenvolvendo uma abordagem sociocultural a fim de discutir problemas relacionados aos direitos humanos que se colocam no cotidiano de juristas e outros atores. Assim, propõe-se a analisar as relações entre direito internacional e interno, as complementaridades e tensões entre normas jurídicas e práticas sociais, assim como as formas de interação entre agentes e destinatários nas políticas de promoção.

Para os organizadores do curso, a defesa, proteção e promoção dos direitos humanos supõem a transversalidade de diversos temas, campos e problemas sociais desde a Conferência de Viena de 1993,  através dos princípios da indivisibilidade, interdependência e inter-relação de todos os direitos humanos, bem como de sua complementaridade com a democracia e desenvolvimento.

Eles argumentam que formação em direitos humanos deve ter caráter multidisciplinar. "Isso é especialmente relevante para o cenário atual em que enfrentamos desafios inéditos de caráter sistêmico, postos pela crise do capitalismo financeiro, crise ecológica global, epidemias e pandemias, problemas urbanísticos, além da ascensão de movimentos abertamente autoritários e contrários aos direitos humanos, tanto no plano internacional quanto nacional”, afirmam os organizadores. Para eles, em uma sociedade desigual, que preserva insulamento burocrático no Estado e padrões culturais autoritários, a promoção e implementação dos direitos humanos enfrenta grandes dificuldades para sua efetiva realização.

Criada em 1983, a Lei de Segurança Nacional passou a ser intensamente utilizada para punir críticas ao governo de Jair Bolsonaro. Dados do jornal O Estado de São Paulo mostram que a abertura de inquéritos pela Polícia Federal com base na Lei 7.170/83 nos dois primeiros anos desse mandato cresceram 285% em relação ao mesmo período dos governos de Dilma Rousseff e Michel Temer. A Câmara dos Deputados, inclusive, discute atualmente mudanças nessa lei. Para entender o que é a Lei de Segurança Nacional e os riscos que ela representa à democracia, o USP Analisa conversa nesta semana com o professor da Faculdade de Direito de Ribeirão Preto da USP, Nuno Coelho.

Ele explica que leis de segurança nacional existem em vários países e protegem bens jurídicos fundamentais para o regime democrático, como o próprio Estado, a soberania nacional e as instituições democráticas. “Trata-se de uma lei extremamente importante que é muito ligada à ideologia constitucional, à natureza do regime político que vige em um determinado momento. É claro que uma lei segurança nacional de um contexto nazista, fascista ou ditatorial de qualquer outra índole será diferente de uma lei que trate esse mesmo assunto no contexto democrático do estado de direito, da supremacia da Lei, das liberdades individuais de expressão, de crítica, que são essenciais para o funcionamento da democracia”, diz Nuno.

Segundo o professor, a atual Lei de Segurança Nacional brasileira foi redigida no final da ditadura militar, em um contexto de Guerra Fria que ressaltava uma cultura de guerra psicológica, na qual o inimigo poderia ser simplesmente alguém que não concordasse com o regime vigente.

“Havia muita ênfase na doutrina da segurança nacional, da ideia de que a guerra tem como inimigo outro brasileiro. E os brasileiros que não concordavam com o regime de exceção, com a suspensão de direitos e com todas as mazelas que a ditadura militar implantada em 1964 trouxe, mazelas morais, mazelas políticas e desastre econômico, quem não concordasse com isso era então identificado como o inimigo interno. E contra inimigos internos se poderia lançar mão de ações legitimadas por leis dessa natureza que mantinham essas pessoas caladas, mantinham esses inimigos internos neutralizados”, diz ele.

A entrevista vai ao ar nesta quarta (14), a partir das 18h05, com reapresentação no domingo (18), às 11h30. O programa também pode ser ouvido pelas plataformas de áudio iTunes e Spotify.

O USP Analisa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o programa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram.

No início do ano, o Brasil assistiu ao maior vazamento de dados pessoais de toda a sua história. Mais de 223 milhões de brasileiros tiveram expostas informações que permitem diversas violações de direitos, como emissão de documentos falsos e tomada de empréstimos por terceiros. Para discutir essa questão, o Grupo de Estudos Tech Law do Instituto de Estudos Avançados Polo Ribeirão Preto da USP promove no dia 10 de maio, a partir das 18h30, o webinar Vazamento de dados pessoais: direitos dos titulares e medidas preventivas.

Debatedores

Cíntia Rosa Pereira de Lima (FDRP-USP)
Cristina Godoy Bernardo de Oliveira (FDRP-USP)
Evandro Eduardo Seron Ruiz (FFCLRP-USP)

Países em todo o mundo se apressam para adequar sua legislação de forma a regulamentar empresas que atuam na produção de conteúdo para internet, incluindo o uso de inteligência artificial, moderação desse conteúdo e cobrança de impostos. A recente experiência do Canadá com o projeto de lei C-10, porém, mostra que existe uma linha tênue entre a necessidade dessas novas regulações e a liberdade de expressão. Para discutir esse caso, o Grupo de Estudos Direito e Tecnologia (Tech Law), do Instituto de Estudos Avançados Polo Ribeirão Preto da USP promove no dia 5 de julho, a partir das 18h, o webinar The Challenge of Internet Regulation: Canada’s Struggle to Find a Balance Between Online Rules and Freedom of Expression.

O evento, em inglês, será transmitido pelo canal do IEA-RP no YouTube. A participação é gratuita e as inscrições devem ser feitas neste link. Haverá emissão de certificado mediante preenchimento de formulário que será disponibilizado no chat, durante a transmissão.

O palestrante será o professor da Faculdade de Direito da Universidade de Ottawa Michael Geist. Ele vai explicar detalhes sobre o C-10, projeto de lei apresentado pelo governo canadense em novembro de 2020 com o objetivo de atualizar o Broadcasting Act, política de conteúdo do país que obriga emissoras de rádio e TV a transmitirem uma determinada porcentagem de conteúdo produzido por cidadãos canadenses.

O objetivo, segundo o governo, é garantir que serviços de streaming também se encaixem nesta regra. Porém, a exclusão de uma emenda do projeto pode levá-lo a regular também conteúdos gerados por usuários individuais, como vídeos enviados ao YouTube, postagens no Facebook e podcasts disponibilizados em plataformas de áudio, o que fere a liberdade de expressão.

Participam da discussão as professoras Cíntia Rosa Pereira de Lima e Cristina Godoy Bernardo de Oliveira, da Faculdade de Direito de Ribeirão Preto da USP, e o professor Evandro Ruiz Seron, da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP. Eles integram o Grupo Tech Law do IEA-RP.

Sobre o palestrante

Michael Geist tem doutorado e mestrado em Direito pelas Universidades Columbia e Cambridge. Foi professor visitante nas Universidades de Tel Aviv, Hong Kong e Haifa, e atualmente está vinculado à Universidade de Ottawa, no Canadá.

Sobre o Tech Law

O Grupo de Estudo “Direito e Tecnologia” (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional.

Para saber mais, acesse a página do grupo.

The Challenge of Internet Regulation: Canada’s Struggle to Find a Balance Between Online Rules and Freedom of Expression
5 de julho, 18h
Canal do IEA-RP no YouTube
Inscrições gratuitas
Página do evento

O evento, em inglês, vai abordar detalhes sobre o C-10, projeto de lei apresentado pelo governo canadense em novembro de 2020 com o objetivo de atualizar o Broadcasting Act, política de conteúdo do país que obriga emissoras de rádio e TV a transmitirem uma determinada porcentagem de conteúdo produzido por cidadãos canadenses.

Debatedor

Michael Geist (Universidade de Ottawa)

É com grande satisfação que o Núcleo Jurídico do Observatório de Inovação e Competitividade do IEA/USP apresenta a 2ª edição dos seus Cadernos de Direito e Inovação.

Nesta edição o foco é o Decreto nº 9.283/18, que instituiu nova regulamentação para a Lei Federal de Inovação (Lei nº10.973/04).

Fruto de uma ampla chamada pública o trabalho reúne perspectivas jurídicas variadas, resultando em 17 contribuições dedicadas ao exame das oportunidades trazidas pelo Decreto quanto às possíveis interações entre entes públicos e privados.

Participantes:

Leopoldo Gomes Muraro (UnB)

Rafael Dubeux (UFPE)

Moderação e Apresentação:

Fabio Gomes dos Santos (OIC/IEA-USP)

Gabriela Capobianco Palhares (OIC/IEA-USP)

Transmissão:

Acompanhe o evento on-line em iea.usp.br/aovivo

A partir da esquerda, quatro dos expositores do seminário: o advogado Luiz Fernando Martins Castro, o professor Virgílio Almeida, o senador Eduardo Gomes e o advogado Maximiliano Martinhão; os outros expositores foram a professora Laura Schertel Mendes (por videoconferência) e o advogado Fabrício da Mota Alves

O presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou no dia 3 de maio o Projeto de Lei 2.338/23, que dispõe sobre a regulação do desenvolvimento e uso da inteligência artificial (IA). A elaboração da proposta foi subsidiada por relatório de comissão de juristas especialmente instituída em fevereiro de 2022 para analisar os aspectos referentes ao estabelecimento de princípios, regras, diretrizes e fundamentos para a regulação da IA no Brasil

No dia 24 de abril, diante da iminente formalização do projeto de lei, a Cátedra Oscar Sala realizou o seminário Desafios Regulatórios da Inteligência Artificial, com a participação de integrantes da comissão de juristas, pesquisadores e representantes do Executivo e do Legislativo.

Os expositores foram o cientista da computação Virgílio Almeida, titular da cátedra e professor da UFMG, Laura Schertel Mendes, professora da UnB e professora visitante da Universidade Goethe de Frankfurt, Alemanha, Maximiliano Martinhão, secretário de Telecomunicações do Ministério das Comunicações, o advogado Fabricio da Mota Alves, do Serur Advogados, e o senador Eduardo Gomes (PL-TO). A moderação foi do advogado Luiz Fernando Martins Castro, coordenador-adjunto da Cátedra Oscar Sala.

A Cátedra Oscar Sala é fruto de convênio entre a USP e o Comitê Gestor da Internet no Brasil (CGI.br) operacionalizado pelo IEA e pelo Núcleo de Informação e Coordenação do Ponto BR (NIC.br), braço executivo do CGI.br. No seminário, Martinhão falou sobre iniciativas em apoio à pesquisa em IA apoiadas pelo CGI.br.

Princípios éticos

Na abertura do encontor, Virgílio Almeida disse que a percepção geral da capacidade dos algoritmos de influenciar aspectos relevantes da vida de todos, e mesmo de atentar contra direitos fundamentais, resultou na tomada de consciência de que é preciso adotar princípios éticos em relação à IA e estabelecer limites para seu emprego.

Vários países, afirmou, deram início a discussões acadêmicas, técnicas e legislativas para “identificar a melhor forma de enfrentar a questão, propondo modelos regulatórios que preservem direitos fundamentais, mas que não inibam o desenvolvimento tecnológico e econômico desejado com o amplo uso da IA”.

Ele destacou a perplexidade de setores da sociedade ao vislumbrar os possíveis impactos da artificial generativa, cujo exemplo de maior repercussão na atualidade é o modelo de linguagem ChatGPT, desenvolvido pela OpenAI, aberto ao público em novembro.

Almeida enfatizou que a legislação sobre propriedade intelectual precisa ser observada no uso de novas ferramentas de IA, e “os advogados são essenciais nessa discussão”. Mas há também questões éticas, tecnológicas e sociais, cujo debate precisa contar com a participação das comunidades que serão impactadas, tecnólogos, eticistas, acadêmicos interdisciplinares e outros especialistas, completou

Ele citou algumas das dificuldades para a análise de possíveis impactos dos sistemas de IA. É o caso dos mecanismos de explicabilidade das decisões tomadas por eles, que apresentam desafios tecnológicos ainda não resolvidos e exigem a participação de uma comunidade maior na sua resolução. Também não está especificado claramente o que pode ser feito em relação à transparência dos algoritmos, afirmou. Segundo Almeida, os procedimentos de estimativa de risco também exigem formulação e regulação.

Pilares

Assim como outros expositores, ele concentrou sua exposição nas propostas presentes no relatório da comissão de juristas que assessorou a Presidência do Senado. De acordo com Almeida, a proposta baseia-se em três pilares:

• garantia de um rol de direitos às pessoas afetadas pelos sistemas de IA;
• gradação do nível de riscos impostos pelos esses sistemas;
• estabelecimento de medidas de governança aplicáveis às empresas que forneçam ou operem sistemas de IA.

Almeida vê várias oportunidades na disponibilidade pública de ferramentas como o ChatGPT. Uma delas é o fato de que haverá cada vez mais necessidade de o ser humano atuar com robôs: “Ao criar um documento ou um vídeo, as pessoas vão interagir não com um ser humano, mas sim com uma máquina.”

A preocupação maior, disse, é a ampliação do alcance da desinformação e a sofisticação na sua produção, e como isso vai alterar o cenário da sociedade. Outra preocupação relevante é o impacto dessas tecnologias no emprego. “O Brasil tem 1,5 milhões de atendentes de telemarketing, que são majoritariamente mulheres em seu primeiro emprego. Ferramentas como o ChatGPT poderão fazer o trabalho delas a um custo muito baixo”, afirmou.

Diferentemente dos algoritmos utilizados por grandes provedores como Google, Facebook e Amazon, sistemas generativos como o ChatGPT não são construídos para um contexto ou condições de uso específicos e sua abertura e facilidade de controle permitem uma escala de uso sem precedentes. Diante disso, “o enfoque de regulação orientada a risco pode não se aplicar”, disse.

Essas características desafiam a abordagem por risco em pelo menos três pontos, de acordo com ele:

• a não definição sobre a viabilidade de classificar sistemas de IA generativos como de alto risco ou de sem risco;
• a imprevisibilidade de riscos futuros;
• as preocupações em torno dos arranjos privados sobre riscos, arranjos realizados entre o provedor e os usuários (“Esse contrato vai ser um objeto-chave nas discussões”).

Vírgílio Almeida: ‘’É preciso propor modelos regulatórios que preservem direitos fundamentais, mas que não inibam o desenvolvimento tecnológico e econômico’’

Adoção de incentivos

Para ele, o ponto central é incentivar que desde o início de sua concepção essas ferramentas considerem riscos e impactos, porque serão usadas de várias maneiras. “É necessário então considerar a adoção de incentivos, para incentivar outro tipo de comportamento”, disse.

“Uma das consequências do carácter geral dos modelos de IA generativa é que a finalidade pretendida e as condições de uso são definidas na relação contratual entre quem o desenvolveu e o usuário. Mas hoje em dia isso é vago e não está previsto na proposta de lei.”

Nas suas conclusões, Almeida enfatizou a necessidade de ampliação do debate sobre a regulação da IA no Brasil, envolvendo diferentes setores da sociedade em arranjos multissetoriais: governo, setor privado (fornecedores e usuários), sociedade civil, academia (ciência e tecnologia) e outros agentes.

É preciso também, disse, avaliar as possíveis relações entre a proposta de regulação da IA e a proposta da Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet (Projeto de Lei 2.360/20), em tramitação no Congresso Nacional. “Afinal, os algoritmos de moderação, que fazem parte da proposta dessa lei, vão ser afetados pelas questões relacionadas com a regulação da IA. E novos algoritmos vão surgir para tentar identificar textos, vídeos e outras coisas geradas por IA”.

Segundo Almeida, outro ponto a ser analisado, é o impacto de sistemas como o ChatGPT na difusão de desinformação e na moderação de conteúdo. “As discussões sobre essa questão não vão ocorrer de forma estanques. Em algum momento terão de ser incorporadas à discussão da IA generativa.”

Relatório

Coube a Laura Schertel Mendes apresentar uma síntese do relatório produzido pela comissão de juristas para subsidiar a elaboração do PL 2.338/23. A comissão contou com 18 membros e foi presidida pelo ministro Ricardo Villas Bôas Cueva, do Superior Tribunal de Justiça (STJ). Ela foi a relatora do documento, que possui 909 páginas.

“Foram dez meses de trabalho intenso e com todas as decisões tomados por unanimidade”, afirmou Mendes. A comissão funcionou entre fevereiro e dezembro de 2022, com a participação de mais de 60 especialistas em 11 audiências públicas e uma conferência internacional. Mais de 100 contribuições escritas foram entregues à comissão.

Ao justificar a importância de um amplo debate sobre a IA, ela afirmou que “os sistemas não são tão inteligentes como se espera e não são tão artificiais como se imagina. Eles necessitam de muitos recursos materiais, energia e intervenção do ser humano desde o começo, na escolha das bases de dados, na definição de tags, na interpretação de resultados, do input ao output, passando pelo modelo”.

Em relação aos desafios no desenvolvimento da IA, ela fez referência a dois aspectos mencionados no livro “Fairness and Machine Learning” (https://fairmlbook.org), de 2019, escrito por Solon Barocas, Moritz Hardt e Arvind Narayanan.

Exemplos e evidências

O primeiro aspecto é quanto ao uso de exemplos: “Os modelos aprendem por meio deles, assim, a primeira grande questão é que precisamos alimentá-los com bons exemplos. Além disso, é preciso ter uma quantidade de exemplos grande o suficiente para atingir o máximo de padrões, que precisam ser diversificados, mostrando os dados corretos em suas diferentes formas de aparição”.

O segundo aspecto referido no livro citado por Mendes é que a tomada de decisão é baseada em evidências e tão confiável quanto as evidências em que ela se baseia. Então, “precisamos de uma alta qualidade de exemplos diversos, para que não tenhamos uma narrativa única do mundo ou apenas do Norte global”.

“Apesar de baseados em evidências, isso não significa que os exemplos levarão a decisões precisas, confiáveis ou justas. É preciso fazer a regulação desde o início, desde a criação do modelo, da coleta dos dados e exemplos até o momento da aplicação do modelo.” O objetivo deve ser propiciar correção, justiça, não discriminação, transparência e credibilidade, disse.

Mendes comentou a carta aberta “Pause the Giant AI Experiments” (interrompam os experimentos de IA de grande porte), divulgada pelo Instituto Futuro da Vida em 22 de abril e já com mais de 27 mil assinaturas, entre as quais as de empresários do mundo tecnológico, pesquisadores de IA e personalidades da cultura, como Elon Musk (dono do Twitter e outras empresas e ex-integrante da OpenAI), Yoshua Bengio (cientista da computação vencedor do Prêmio Turing), Steve Wozniak (cofundador da Apple) e Yuval Noah Harari (autor de “Homo Sapiens”).  A carta insta os laboratórios de IA a paralisarem imediatamente e por ao menos seis meses o treinamento de sistemas de IA mais potentes do que o GPT-4, versão atual do sistema generativo da OpenAI.

Riscos triviais

Segundo ela, mais do que os riscos que sempre abundaram na ficção científica, com robôs controlando o mundo, por exemplo, “hoje deve-se pensar em riscos mais triviais, que podem sim afetar a Humanidade”. É preciso garantir que esses sistemas “funcionem de acordo com nossas expectativas, produzindo dados corretos e de forma segura, como toda inovação responsável”.

O que a proposta de regulação pleiteia são padrões mínimos de segurança, qualidade de dados, transparência e garantia dos direitos fundamentais previstos na Constituição Federal, disse. “Sabemos que os sistemas falham, então, se falham, precisam de intervenção humana. Embora os sistemas sejam muito complexos, os pleitos da proposta são extremamente simples.”

Apesar de várias normas, como a Lei Geral de Proteção de Dados (LGPD) e o Marco Civil da Internet, o fato é que as leis atuais ainda não dão conta dos desafios colocados pela IA, afirmou. “A LGPD aplica-se apenas a dados pessoais e não seria possível aplicá-la, pois os sistemas generativos podem ser alimentados por outros dados, além dos pessoais.”

Pilares da proposta

Os dois principais objetivos da proposta são, segundo Mendes, estabelecer e garantir direitos para todos os afetados e, ao mesmo tempo, estabelecer um sistema de governança com regras claras e padrões mínimos, garantindo a segurança jurídica para que os sistemas de IA possam se desenvolver. A proposta possui cinco pilares:

• Princípios
• Direitos
• Categorização de risco
• Medidas de governança
• Supervisão e responsabilização

Em relação aos princípios, há inclusive aspectos baseados em documentos internacionais, como os de autoria da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) e da Unesco.

Eles incluem: não discriminação; transparência e explicabilidade; confiabilidade dos sistemas da IA; devido processo legal e contestabilidade; participação humana no ciclo de IA e supervisão humana eficaz; responsabilidade e atribuição de responsabilidade a uma pessoa, jurídica ou natural; prevenção e mitigação de riscos sistêmicos.

Uma grande diferença da proposta brasileira, disse, é o capítulo sobre direitos. “Seria impossível pensar em legislação de IA sem atribuir direitos às pessoas afetadas e retirando o Judiciário de sistema de aplicação da lei, que é o que acontece quando não há direitos estabelecidos.”

Entre os direitos definidos na proposta estão: o de receber informações prévias sobre interações com sistemas de IA; direito à explicação; direito de impugnar decisões que produzam efeitos jurídicos ou impactem significativamente os interesses da parte afetada; direito à determinação e participação humana nas decisões de IA, levando em consideração o contexto e o estado da arte do desenvolvimento tecnológica; direito à não discriminação; e direito à privacidade e proteção de dados pessoais.

Quanto à categorização de risco, ela remeteu às preocupações manifestadas por Virgílio de Almeida, no início do seminário.

Mendes informou que o art. 13 do anteprojeto de lei diz que, antes de ser colocado no mercado, todo sistema precisa passar por uma avaliação preliminar. “Essa não é a avaliação de risco. A avaliação de risco só vai ser necessária depois da avaliação preliminar e se o sistema for considerado de alto risco.”

Em relação às medidas de segurança, Mendes explicou que elas tratam de procedimentos a serem cumpridos, em especial pelos provedores de sistemas de alto risco, “embora também haja algumas medidas que se aplicam de forma horizontal a qualquer sistema”.

Medidas de governança

O quarto pilar da proposta são as medidas de governança aplicáveis a sistemas de alto risco. São elas, segundo Mendes:

• documentação;
• utilização de ferramentas de registro automático do funcionamento do sistema, de forma a permitir a avaliação da sua precisão e robustez;
• realização de testes para avaliar os níveis adequados de confiabilidade, de acordo com o setor e o tipo de aplicação do sistema, incluindo testes de robustez, exatidão, precisão e abrangência;
• medidas de gerenciamento de dados para mitigar e prevenir vieses discriminatórios;
• adoção de medidas técnicas para possibilitar a explicabilidade.

Sobre a supervisão e responsabilização, ela ressaltou que todo sistema exige sanções previstas num arcabouço de supervisão. Destacou que a comissão propôs nas audiências públicas a criação de um órgão de supervisão, que funcionaria sobretudo como um aparato de coordenação.

“Sabemos que as agências reguladoras exercem um papel importante nesse papel, caso da Anatel e da Anel, entre outras. No entanto, a única forma de garantir direitos, como padrões e interpretação harmônica da legislação, seria garantir a existência de um órgão que coordenasse toda a aplicação da lei.”

A comissão também previu um artigo aplicável a sistemas generativos como o ChatGPT, que são definidos como de propósito geral. São considerados desse tipo aqueles utilizados nas seguintes situações:

• aplicação como dispositivos de segurança na gestão e no funcionamento de infraestruturas críticas, tais como controle de trânsito e redes de abastecimento de água e eletricidade;
• educação e formação profissional, incluindo sistemas de determinação de acesso a instituições de ensino e de formação profissional ou para avaliação e monitoramento de estudantes;
• área de emprego, gestão de trabalhadores e acesso ao emprego por conta própria, recrutamento, avaliação de candidatos e de desempenho, promoções etc.;
• acesso a serviços públicos essenciais, incluindo elegibilidade de pessoas a serviços de assistência e de seguridade;
• avaliação da capacidade de endividamento das pessoas naturais ou estabelecimento de sua classificação de crédito;
• envio ou estabelecimento de prioridade para serviços de resposta a emergências, incluindo bombeiros e assistência médica;
• administração da justiça, incluindo sistemas que auxiliem autoridades judiciárias na investigação dos fatos e na aplicação da lei.

Impacto eleitoral

Como exemplo de preocupação com possíveis efeitos negativos do uso de sistema de IA, o senador Eduardo Gomes, umas das lideranças na discussão sobre a temática no Congresso Nacional, manifestou que, sem o devido controle, uma ferramenta desse tipo “pode interferir fortemente num resultado eleitoral”.

“Um candidato que tem uma certa base eleitoral e uma certa bandeira política pode ter sua proposta de candidatura atacada 48 horas antes da eleição. Não haverá nada no mundo que o livre da derrota.”

Para ele, “é muito ampla a possibilidade de benefícios ou de estragos - no caso de falta de controle - que a IA pode trazer”.

Quanto ao encaminhamento da discussão e avaliação da regulação da IA no Congresso Nacional, disse que o Legislativo não pode errar, ainda que trabalhe numa velocidade diferente da de outros fóruns. “A coisa mais difícil no Congresso é fazer uso da simplicidade para formular legislação. O Congresso avança muito quando aprova bons projetos, mas avança muito mais quando deixa de aprovar projetos ruins.”

Para ele, a lei sobre IA terá de ter "uma base muito forte, ser muito simples e ter a possibilidade de regulamentação periódica ou alguma coisa que fortaleça a autoridade ou até a instrução do que estamos discutindo, que é a utilização de dados confiáveis e não confiáveis”.

Gomes destacou a ligação do tema com outras questões legislativas, como o Projeto de Lei sobre fake news (PL 2.630/20). Adiantou que o Senado analisa a criação de uma Comissão sobre Comunicação e Direito Digital, que deverá analisar a proposta de regulação da IA. “O Congresso precisa se debruçar sobre o tema, pois não está evidente a estrutura de fiscalização e regulação” exigida pela área.

O trabalho da comissão de juristas foi destacado por Gomes, que frisou a necessidade de que a proposta seja enriquecida com contribuições de outros agentes da sociedade que têm solicitado participação, segundo o senador.

Maximiliano Martinhão, que além de integrante do Ministério das Comunicações é também membro do CGI.br, disse que o tema da IA nunca esteve tão presente em diferentes áreas do governo quanto na atual gestão federal, “o que denota seu impacto”.

Para ele, os casos de racismo, deep fake, processos de seleção discriminatórios, produção e difusão de discursos de ódio, interação inadequada com crianças e outros mal usos da IA “não permitem uma postural liberal, que deixe a tecnologia avançar para depois regulá-la quando extremamente necessário”.

Pesquisa no Brasil

Ao falar sobre a capacitação brasileira em IA, Martinhão citou algumas discussões promovidas pelo CGI.br. A primeira foi no Instituto Alan Turing, em Londres, Reino Unido, em 2019. “Foi gratificante saber que o pessoal do instituto reconhece que a pesquisa brasileira na área está no nível mundial em termos de competência e capacidade”, disse. Existe no mundo uma corrida para liderar aspectos cruciais da IA, o que trará “vantagens comparativas para os líderes e impacto na soberania de muitos países”, afirmou.

Ele comentou duas outras parcerias do CGI.br. Uma delas foi com a USP e a Unesco num evento regional sobre IA, em 2019. Outra foi estabelecida com a Fapesp e o Ministério de Ciência, Tecnologia e Inovação (MCTI) e possibilitou a criação de seis Centros de Tecnologia Aplicada em Inteligência Artificial.

Com previsão de 5 anos de atuação, os centros foram contratados com investimento total (público e privado) no valor de R$ 20 milhões. Eles estão situados no campus da USP em São Carlos (saúde, educação, meio ambiente e cidades inteligentes), na Unicamp (diagnóstico médico), no Instituto de Pesquisa Tecnológica do Estado de São Paulo (indústria), na UFMG (saúde e epidemias), no Senai Cemat (indústria 4.0) e na UFC (internet das coisas em prevenção e tratamento de doenças).

Ele lembrou que desde de 2021 o governo federal conta com a Estratégia Brasil em Inteligência Artificial (Ebia), cujo objetivo é “potencializar o desenvolvimento e a utilização da tecnologia com vistas a promover o avanço científico e solucionar problemas concretos, identificando áreas prioritárias nas quais há maior potencial de obtenção de benefícios”, de acordo com a apresentação do documento. O mais interessante, disse Martinhão, é que o documento traz eixos transversais, como as questões de governança, necessidade de legislação e cooperação internacional.

Ele frisou que a IA tem sido tratada no mundo a partir de alguns princípios. “Na OCDE, a prerrogativa é o respeito aos direitos humanos e ao Estado de Direito. Na União Europeia, recentemente, a discussão deu-se quanto a accountability e explicabilidade.” Em relação a isso, lembrou que um dos países europeus [Itália] impôs recentemente restrições ao ChatGPT por não explicitar como trata dados pessoais.

Martinhão também comentou a carta aberta do Instituto Futuro da Vida em defesa da moratória por seis meses no desenvolvimento de ferramentas de IA de grande porte, como o GPT-4: “A medida não parece excessiva diante de possíveis riscos. Precisamos ter uma avaliação prévia antes da continuidade dos projetos, para dimensionar quais são os riscos e consequências da implementação dessas ferramentas”.

Área regulatória

Servidor de carreira Anatel, uma agência reguladora, ele afirmou que a área regulatória não existe para ser o calo do setor privado, mas sim para defender os interesses de toda a sociedade. “Por isso é preciso entender que uma tecnologia traz uma série de consequências, podendo levar ao monopólio, prejudicando a concorrência e a livre iniciativa, e considerar que o mercado nem sempre consegue se autorregular”, disse.

“A sociedade deve atentar para fato de que podem acontecer práticas predatórias, barreiras de entrada, aquisição de concorrentes, manipulação de algoritmos, concentração de dados em determinada organização e acentuação de desigualdades sociais”, afirmou.

Segundo ele, mais de 10% dos domicílios brasileiros ainda não tem acesso à internet. “O mesmo pode acontecer com a inteligência artificial, com um custo de US$ 20 por mês para desfrutar de mais recursos de uma plataforma. As pessoas pagam em média R$ 17,00 para carregar o celular pré-pago, como iriam pagar R$ 100,00 num serviço de IA?”

Ao final das exposições, Virgílio Almeida reforçou o alerta sobre dois pontos. O primeiro refere-se às big techs: “O que antevemos é uma concentração maior de poder, e completamente fora do Brasil. Não temos infraestrutura computacional e de dados para processamento dessas questões. Não temos uma política pública para organizar os dados brasileiros, armazenados em bancos do IBGE, do Sistema Único de Saúde e de outros organismos”.

O segundo ponto ressaltado por ele é a necessidade de atenção para o impacto da IA no emprego: “Não podemos caminhar numa direção que não ajude a elevar o nível de emprego e a torná-lo o mais qualificado possível”.

Fotos: Leonor Calasans/IEA-USP

Em meio ao debate sobre regulação da inteligência artificial que acontece em todo o mundo, o Brasil centraliza a discussão em torno do Projeto de Lei 2338/2023. De autoria do senador Rodrigo Pacheco, o PL possui como principal influência o modelo regulatório proposto pela União Européia, o EU AI Act. Para discutir as propostas de governança e regulação em torno dessa tecnologia, o Grupo de Estudos Direto e Tecnologia do Instituto de Estudos Avançados Polo Ribeirão Preto da USP, em parceria com o Centro de Estudos Avançados do Direito e Inovação da Faculdade de Direito de Ribeirão Preto, o Centro de Inteligência Artificial da USP e a iniciativa Understanding Artificial Intelligence (UAI), ligada ao IEA, realiza ao longo deste ano o projeto “Regulação e Governança da Inteligência Artificial”, que vai promover diversos eventos híbridos centrados em questões ligadas ao tema.

O primeiro deles, “Regulação da Inteligência Artificial e impactos na economia do Brasil”, será realizado no dia 28 de fevereiro, a partir das 14h, no Anfiteatro da FDRP, no campus Ribeirão Preto da USP. O evento terá transmissão pelo canal do IEA-RP no YouTube e os espectadores on-line interessados em receber o certificado de participação precisam preencher o formulário que será disponibilizado no chat durante o evento.

O palestrante será o professor da Faculdade de Direito da Universidade Presbiteriana Mackenzie Vicente Bagnoli. Ele vai avaliar a estratégia apresentada pelo PL 2338/23 sob a perspectiva do direito concorrencial, verificando se as big techs serão favorecidas e o quanto essa regulação da inteligência artificial pode impactar a economia do Brasil.

Vicente Bagnoli é doutor em Filosofia e Teoria Geral do Direito pela Faculdade de Direito da USP, mestre em Direito Político e Econômico e bacharel em Direito pela Universidade Presbiteriana Mackenzie. É pesquisador visitante no Instituto Max Planck de Inovação e Concorrência em Munique, Alemanha. Desde 2010 tem a sua atuação profissional na área do Direito da Concorrência reconhecida e premiada por várias publicações internacionais.

As inscrições são gratuitas e devem ser feitas neste link. A conferência será exclusivamente on-line, com transmissão pelo canal do IEA-RP no YouTube e pela página do Instituto no Facebook. Haverá envio de certificados aos participantes que preencherem um formulário enviado no chat das ferramentas durante a conferência.

O evento integra o ciclo de conferências promovido pelas duas instituições desde 2022 e terá como palestrante o professor associado da Faculdade de Direito da Universidade do Porto e pesquisador do Centro de Investigação Interdisciplinar em Justiça, Jorge Quintas.

Ele vai apresentar uma revisão da literatura científica sobre o tema e uma síntese de um projeto avaliativo da medida de proteção portuguesa realizado por uma equipe de pesquisadores da Escola de Criminologia da Universidade do Porto. O docente vai abordar ainda a história da medida de proteção por teleassistência em Portugal e as metodologias qualitativas e quantitativas utilizadas para examinar a implementação da medida, bem como a avaliação de resultados, especialmente referentes à satisfação, percepção de segurança e revitimização.

Jorge Quintas é doutor em Criminologia, mestre e licenciado em Psicologia. Atua como professor associado na Escola de Criminologia da Faculdade de Direito da Universidade do Porto e como pesquisador no Centro de Investigação Interdisciplinar em Justiça. Seus interesses de pesquisa atuais incluem a avaliação de programas na violência doméstica, estudos de sentencing, avaliação do risco e reabilitação de ofensores e os efeitos das regulações das drogas.

Desde 2006, a SaferNet Brasil, uma associação civil voltada à promoção e defesa dos direitos humanos na internet, recebeu mais de dois milhões e meio de denúncias relacionadas a crimes de ódio. Mas, afinal, o que pode ser considerado realmente discurso de ódio? E quais os limites entre ele e a liberdade de expressão? O USP Analisa abre sua primeira temporada de 2022 respondendo a essas e outras perguntas sobre o tema em uma conversa com as professoras da Faculdade de Direito de Ribeirão Preto da USP e integrantes do Grupo de Estudos Direito e Tecnologia do Instituto de Estudos Avançados Polo Ribeirão Preto da USP Cíntia Rosa Pereira de Lima e Cristina Godoy Bernardo de Oliveira e o diretor da Faculdade de Direito de Ribeirão Preto da USP, Nuno Coelho.

Cristina explica que o discurso de ódio é um tipo de violência pautado na intolerância a diferenças culturais, religiosas, étnicas, orientação sexual e posicionamento político, entre outros. “Ele sempre está muito vinculado à utilização de palavras. Não é só uma violência física, mas virtual e verbal que tende a insultar, intimidar ou assediar pessoas em virtude da sua raça, cor, etnicidade e assim por diante. Mesmo sendo veiculado por palavra, existe a potencialidade ou a capacidade de instigar violência, o ódio ou discriminação contra as pessoas”, afirma.

Apesar disso, segundo ela, não existe na legislação brasileira um crime caracterizado exatamente como discurso de ódio, apenas artigos e leis que abordam injúria racial e preconceituosa e também o feminicídio, que é um crime relacionado a gênero. Mesmo assim, segundo Cíntia, existem consequências na esfera cível para quem pratica esse tipo de violência, já que o Código Civil garante a inviolabilidade à intimidade, à honra e a imagem.

“O Código Civil traz consequências caso esses direitos sejam lesionados, que é a reparação dos danos materiais e morais. E até nesse contexto do discurso de ódio, é importante a gente mencionar também a possibilidade do dano moral coletivo, que já tem sido reconhecido pelos tribunais. O dano moral coletivo é caracterizado por essa violação a valores extrapatrimoniais, valores de extrema relevância para a sociedade e que comporta consequência jurídica porque aquele que pratica pode ser condenado a reparar, pagar um determinado valor em virtude dessa sua conduta. E também há o dano social, que às vezes é caracterizado como consequência do discurso de ódio pois pode levar uma pessoa, por exemplo, a incendiar a casa de alguém. O discurso de ódio pode começar na internet e nas redes sociais e ter consequências no mundo físico”, diz ela.

Nuno lembra ainda que políticos e gestores públicos que praticarem esse tipo de violência também podem sofrer consequências. “Essa prática quando imputada ao agente público pode configurar improbidade administrativa. Como especifica o famoso artigo 11 da Lei de Improbidade, constituirá infração aquele ato que atenta contra os princípios da administração pública, violando por ação ou omissão os deveres de honestidade, de imparcialidade e de legalidade. Por outro lado, nós podemos também elencar o fato de poder constituir crime de responsabilidade atos de um presidente e de outros agentes previstos na Lei 1079, que considera crimes de responsabilidade administrativa atos que atentam contra a construção federal e especialmente contra o exercício dos direitos políticos individuais e sociais”, explica ele.

O USP Analisa agora é quinzenal e vai ao ar em novo formato e horário. Nesta sexta, às 16h45, você ouve um pequeno trecho da entrevista, que pode ser acessada na íntegra nas plataformas de podcast Spotify, Apple Podcasts e Google Podcasts.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram.

O Grupo de Criminologia Experimental e Segurança Pública do Instituto de Estudos Avançados Polo Ribeirão Preto promove nos dias 27 e 28 de maio, a reunião aberta “Crime, Saúde e Clima na Amazônia”.

O evento, exclusivamente presencial, será realizado no Auditório da Faculdade de Direito de Ribeirão Preto da USP. As inscrições são gratuitas e podem ser feitas neste link. Haverá envio de certificado a quem participar.

Segundo o coordenador do Grupo, Eduardo Saad-Diniz, o desmatamento e a degradação da Floresta Amazônica têm causado enorme impacto socioambiental e climático. A partir de estudos de caso envolvendo os conflitos fundiários e tensões sociais na Amazônia urbana, suburbana e rural, o evento pretende demonstrar como a análise das convergências entre políticas de segurança e de saúde podem ser decisivas na formulação de intervenções positivas na região.

Os palestrantes serão o coordenador do Grupo, Eduardo Saad-Diniz; a coordenadora do IEA-RP, Carla Ventura; o defensor público do Estado do Amazonas, Carlos Alberto Souza de Almeida Filho; e a advogada e engenheira florestal Penélope Anthony. Eles vão abordar tópicos como regularização fundiária, conflitos urbanos e rurais, segurança pública, segurança sanitária, segurança climática, planejamento urbano e sustentabilidade, entre outros. A mediação dos painéis será da vice-coordenadora do Grupo, Ruth Estêvão.

Veja a programação completa neste link. Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

A partir dos recentes avanços da Criminologia Experimental, o Grupo de Pesquisa em Criminologia Experimental e Segurança Pública do IEA-RP propõe dedicar-se ao estudo de experimentos, métodos e intervenções que permitam extrair evidências científicas sobre o que funciona (what works) nas estratégias de segurança pública. Com base nas evidências científicas obtidas pelo método experimental, pretende-se desenvolver novas abordagens teóricas e recomendações de ação estratégica no campo da segurança pública. Saiba mais na página do grupo.

As tecnologias digitais ampliam as possibilidades de organização social, econômica e política de incontáveis formas, o que se reflete também como uma mudança nos próprios processos democráticos. Garantir eleições justas, combater a desinformação, promover direitos fundamentais online e assegurar uma governança participativa das inovações tecnológicas são apenas alguns exemplos de desafios que o direito tem de enfrentar ao mesmo tempo em que deve servir como impulsionador dos aspectos positivos da tecnologia digital e minimizar os riscos trazidos pelas inovações. Para promover uma discussão em torno dessas questões, o Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP promove no dia 24 de março, às 16h, a conferência on-line “A relação entre direito e tecnologia”.

As inscrições são gratuitas e devem ser feitas neste link. O evento é exclusivamente on-line e será transmitido pelo canal do IEA-RP no YouTube e pela página do Instituto no Facebook. Haverá envio de certificado aos participantes que preencherem um formulário enviado no chat das plataformas durante a transmissão.

O palestrante será o professor da Goethe Universität Frankfurt am Main, na Alemanha, Ricardo Campos. Ele destaca que, devido à falta de critérios e parâmetros estáveis para orientar as pessoas e instituições decorrentes do desenfreado avanço tecnológico, o direito desempenha um papel importante na construção de um horizonte mínimo comum de ação social. Não apenas cada vez mais a tecnologia é usada para melhorar a entrega de serviços jurídicos, tornando-os mais acessíveis e eficientes, mas também vez mais frameworks jurídicos são necessários para garantir que as tecnologias sejam desenvolvidas e usadas de maneira segura, ética e benéfica para a sociedade.

Ricardo Campos é docente nas áreas de proteção de dados, regulação de serviços digitais e direito público na faculdade de direito da Goethe Universität Frankfurt am Main, na Alemanha. É mestre e doutor pela Goethe Universität e atua com regulação de serviços digitais, proteção de dados, direito público e regulatório. Ganhador do prêmio Werner Pünder sobre regulação de serviços digitais em 2021 e do European Award for Legal Theory da European Academy of Legal Theory, em 2022. É ainda coordenador da área de Direito Digital da OAB Federal/ESA Nacional, diretor do Instituto Legal Grounds e sócio do escritório Opice Blum, Bruno e Vainzof.

O evento é promovido em parceria com o Centro de Inteligência Artificial (C4AI).

Mais informações sobre o evento: iearp@usp.br.