Eles se referem ao ChatGPT, recurso de inteligência artificial desenvolvido pela empresa OpenAI, lançado publicamente no final de outubro. Numa definição simplificada, é uma ferramenta da área de processamento de linguagem natural que procura entender como ela funciona e processá-la computacionalmente, respondendo a perguntas ou elaborando textos solicitados pelo usuário, de acordo com o professor Fábio Cozman, diretor do Centro de Inteligência Artificial (C4AI) da USP.

Sistemas similares estão sendo desenvolvidos por outras empresas. Recentemente, o Google liberou o acesso ao seu, chamado Bard, nos EUA e no Reino Unido. A Microsoft pretende incorporar o ChatGPT no seu sistema de busca, Bing, e no pacote do Office, que inclui o Word e o Excel.

O fato é que o surgimento do ChatGPT tem despertado enorme entusiasmo pelas suas potencialidades, acompanhado de inúmeras preocupações éticas e sociais em diversas áreas que sofrerão seu impacto, como no caso de seu uso na pesquisa e no ensino superior.

Essas promessas e riscos motivaram o IEA a realizar o seminário ChatGPT: Potencial, Limites e Implicações para a Universidade, no dia 21 de março, com a participação de pesquisadores das áreas de computação, sociologia, engenharia, direito, inovação e educação, além de dirigentes da USP e representante do Ministério da Educação (MEC). Foram parceiros do Instituto na iniciativa o Centro Brasileiro de Análise e Planejamento (Cebrap) e o Núcleo de Informação e Coordenação do Ponto BR (NIC.br), braço executivo do Comitê Gestor da Internet no Brasil (CGI.br).

O seminário deu início a uma série de debates para a elaboração de propostas a serem encaminhadas à Reitoria da USP, para que esta defina um conjunto de diretrizes e normas que asseguram o uso adequado e ético de ferramentas como ChatGPT no ensino e na pesquisa.

Segundo o sociólogo Glauco Arbix, professor da Faculdade de Filosofia, Letras e Ciências Humanas e pesquisador do IEA e do C4AI, serão realizados cinco seminários sobre impactos dos modelos de linguagem no mercado de trabalho, sustentabilidade, ciência e tecnologia, saúde e educação. A partir dos encontros, serão produzidos textos para maturação das ideias e formadas equipes em parcerias com várias unidades da USP.

A preocupação com os impactos dos modelos de linguagem ficou patente diante do elenco de apoiadores da Universidade ao seminário: Reitoria; Pró-Reitorias de Graduação, de Pós-Graduação e de Pesquisa e Inovação; C4AI; Jornal da USP; e três estruturas de pesquisa sediadas no IEA: Núcleo de Pesquisa Observatório da Inovação e Competividade, Cátedra Oscar Sala e Cátedra Alfredo Bosi de Educação Básica.

O que é

A palestra introdutória do seminário foi feita por Fábio Cozman. Além de dirigir o C4AI, ele é professor do Departamento de Mecatrônica da Escola Politécnica da USP, especialista em várias áreas da IA. Ele tratou do desenvolvimento computacional e metodológico que levou à criação do ChatGPT, das características e funcionamento do dispositivo e dos desafios brasileiros para acompanhar o que ele considera similar à corrida espacial entre EUA e a ex-URSS durante a Guerra Fria.

Segundo ele, a área de processamento de linguagem natural já era discutida em 1950 e é uma das partes da IA, que inclui também: representação do conhecimento e raciocínio; visão computacional [reconhecimento de imagens]; tomada de decisão; e aprendizado de máquina.

“As áreas de visão computacional e de processamento de linguagem natural são mais ligadas ao como interagir com o mundo. Nos últimos anos, no entanto, toda as áreas de IA foram profundamente influenciadas pelo aprendizado de máquina, cujo interesse principal é coletar dados e construir padrões de como as coisas funcionam, para que possam ser reproduzidos por máquinas na resolução de problemas práticos", explicou.

O surgimento dos big data (bancos de dados gigantescos) e a ampliação da capacidade de processamento computacional contribuiu muito para o desenvolvimento do aprendizado de máquina para resolver inúmeros problemas, disse. Acrescentou que o crescimento da área de processamento de linguagem natural teve um crescimento gradual até 2010 e depois teve uma explosão.

Primórdios

Cozman lembrou que o primeiro programa de processamento de linguagem natural, o Eliza, criado nos anos 60 no MIT, era capaz de responder a perguntas simples, simulando um psicólogo. “Funcionava com regras, uma técnica muito comum em outros sistemas. A maior parte dos chatbots com que as pessoas interagem no comércio eletrônico funciona à base de regras.”

"O Eliza funcionava muito bem e demonstrou que o ser humano gosta de conversar com uma máquina. E mesmo que o sistema tenha padrões bem simples, tendemos a achá-lo muito inteligente", disse.

Até os anos 80, os sistemas progrediram lentamente, sempre se baseando em regras e análises linguísticas. A primeira revolução aconteceu por volta de 1990, devido ao interesse da Darpa (Agência de Projetos de Pesquisa Avançada em Defesa), dos Estados Unidos, em sistemas de tradução, o que provocou uma série de avanços em universidades e empresas.

“Os pesquisadores perceberam que, em vez de usar regras sintáticas para traduções e entendimento de texto, ou seja, usar apenas a linguística, era melhor pegar um monte de frases e calcular a probabilidade da próxima palavra a partir do que tinha sido escrito. É isso o que os modelos de linguagem fazem. O ChatGPT calcula a probabilidade da próxima palavra em função de até 3 mil palavras ditas antes.”

Para montar um modelo de linguagem, uma gigantesca quantidade de textos, com bilhões de palavras, é selecionada para constituir o que é chamado de corpus. “Estima-se que o corpus da atual versão do ChatGPT contenha 500 bilhões de palavras. O modelo é chamado de generativo, pois gera textos”, explicou.

Revoluções

A partir de 2009, houve várias revoluções na área de processamento natural da linguagem, de acordo com Cozman, que destacou as três mais importantes: a dos embeddings (de 2003 a 2013, aproximadamente); a do aprendizado profundo (a partir de 2012); e dos transformers (a partir de 2019).

O embedding é uma relação em que a cada palavra é associada um número de maneira intuitiva, de forma a permitir o agrupamento de palavras por proximidade numérica. explicou. "Palavras de alguma forma relacionadas com “bom” (ótimo, benéfico, satisfatório etc.), por exemplo, terão números associados próximos entre si."

O entendimento que era possível transformar símbolos em números foi fundamental, permitiu a uma série de revoluções, que culminaram no modelo chamado transformer, uma das maneiras de calcular a probabilidade de ocorrência de uma palavra a partir do que foi dito antes, disse Cozman. O transformer é uma rede neural artificial, uma estrutura que procura emular o funcionamento de rede de neurônios do cérebro humano.

Fábio Cozman, diretor do C4AI, durante a palestra introdutória sobre o ChatGPT

O ChatGPT é um transformer. A inicial da palavra está na sigla GPT (Generative Pre-Trained Transformer). Nele, explicou, o que existe é um modelo com entradas de palavras e saídas das próximas palavras na frase. As palavras de entrada são representadas por números, que são somados, multiplicados e subtraídos várias vezes. Essas operações intermediárias levam a uma camada oculta, onde novamente os números sofrem novas operações matemáticas. Como são muitas as fases de camadas ocultas e com inúmeros “neurônios”, o resultado é uma função muito complexa, que mapeia o que se passa a partir da entrada de palavras às saídas resultantes do processo.

“Essas funções dependem de vários números, que são estimados, aprendidos, treinados e extraídos de dados, e dessa forma há o aprendizado da rede neural. Uma rede profunda envolve o ciclo entrada-camada oculta-saída várias vezes. Uma bastante famosa é a Alexnet, de 2012, com 60 milhões de números e oito camadas ocultas, capaz de identificar rostos humanos quase como os seres humanos o fazem."

A segunda ideia revolucionária na construção dos transformers foi a formulação dos chamados “esquemas de atenção”, uma associação de dois números a cada palavra: um referente à sua representação numérica, conforme dito antes, e outro que indica a posição da palavra na frase. “Com isso, cada palavra terá uma representação numérica variável de acordo com a palavra que a preceder. Tecnicamente, isso é chamado de embbeding contextual.”

Primeiras versões

O primeiro transformer foi o Bert, uma rede neural produzida pelo Google e com versões que variavam de 110 a 340 milhões de parâmetros (números para especificar as relações de entrada e saída) com mais de 3 bilhões de palavras em seu corpus, afirmou Cozman. Depois surgiu uma família de transformers chamada T5, também do Google, a qual possuía 11 bilhões de parâmetros. Outro conjunto famoso são os GPT, da OpenAI. As versões 1, 2 e 3 “eram modelos generativos básicos e apresentavam problemas sérios, respondendo coisas erradas, sem sentido, agressivas, impróprias, discriminatórias ou até de conotação sexual”, disse.

Na passagem da versão 3 para a 4, em desenvolvimento, houve uma mudança acentuada, com o GPT Instruct, treinado para responder a instruções com habilidade maior para evitar erros e alucinações, explicou. “O mais incrível foi a evolução do tamanho dos GPTs. O 3 já possuía 175 bilhões de parâmetros, o 3,5, basicamente o GPT Instruct, possui cerca de 500 bilhões de parâmetros. Não se sabe o tamanho do 4. A própria OpenAI deixa claro em seu site que não vai divulgar o tamanho.”

“Não é só o ChatGPT que está espantando a comunidade acadêmica. Muitas outras coisas estão acontecendo”, disse Cozman. Ele citou como exemplo um projeto iniciado na IBM e que está sendo ampliado no C4AI, sob a coordenação do vice-diretor do centro, Cláudio Pinharez, da IBM (financiadora do centro, ao lado da Fapesp).

"O problema para fazer tradução de línguas indígenas é a dificuldade em construir um corpus suficientemente vasto, pois há poucos registros escritos. Diante dessa dificuldade, os pesquisadores pegaram um transformer de tradução do inglês para alemão com 500 milhões de parâmetros e o treinaram com 45 mil parâmetros de línguas indígenas. Dessa forma, conseguiram obter um tradutor do guarani para outras línguas indígenas.,

Redução de erros

O ChatGPT foi criado em 2015 pela OpenAI quando ela era uma instituição sem fins lucrativos (agora é uma empresa). O sistema atualmente disponível para o público (correspondente basicamente ao GPT Instruct), depois de refinado com a interação com seres humanos, que indicaram se uma resposta era boa ou melhor que outra, por exemplo, adquiriu um sistema próprio de identificação de respostas erradas ou inapropriadas, afirmou.

“Todos os processadores de linguagem natural erram, mas o ChatGPT erra menos. Eles têm uma capacidade surpreendente de responder a perguntas e propor soluções para problemas, como na organização e produção de códigos de programação. São excelentes assistentes e estão sendo usados na indústria por programadores com aumento da produtividade.”

Os problemas que sistemas desse tipo apresentam, como alucinações, erros e coisas impróprias, advêm da própria forma como foram criados, segundo Cozman. Problemas sérios são a produção de plágios e a não identificação de fontes, levando alguém a citar algo que tem propriedade intelectual associada, afirmou.

Ele destacou que diretrizes de uso têm sido discutidas em todo o mundo. “Algumas são óbvias, como não permitir trabalhos em coautoria com o ChatGPT e similares. Há várias definidas por entidades, como a Associação de Linguística Computacional, que definiu o que fazer em casos de assistência gramatical, busca ou geração de texto.”

IA no Brasil

Mas qual a situação do Brasil nessa “nova corrida espacial”? Para Cozman, o país está numa situação relativamente boa na área de IA, com uma comunidade grande e forte de pesquisadores. "Em 2021, a maior área de investimento da Embrapii foi em IA."

“De acordo com dados de 2020 da Fapesp, o Brasil aparecia no 12º lugar no ranking de produção de artigos científicos em IA. A USP, em particular, tem uma posição privilegiada, com um conjunto grande de pesquisadores em várias unidades e liderança na produção de artigos.” No entanto, ele julga que o país precisa de uma reação para acompanhar a evolução na área, uma vez que foi ultrapassado nos últimos anos por Holanda, Turquia e Rússia, de acordo com dados da OCDE. “Essa perda de posições talvez se deva ao pouco investimento em pesquisa no país nos últimos anos.”

São vários os desafios do país nesse contexto trazido pelo ChatGPT. Um deles é o fato de as línguas brasileiras, inclusive o português, terem pouco conjuntos de dados e poucas ferramentas para a construção de bases de textos e parâmetros, comentou. “No C4AI, temos feito um esforço grande de desenvolvimento de ferramentas, mas falta material para o português e outras línguas brasileiras serem reconhecidas com a importância que têm.”

Falta de infraestrutura

Outro problema é a falta de infraestrutura para rodar os transformers: “Até onde sei, o GPT 3 precisa de um computador com 80 GPUs [unidades de processamento gráfico] para rodar. A USP não tem nenhum computador que consiga rodar o GPT 3. Nosso cluster, que custou mais de R$ 1 milhão, tem 8 GPUs. Acredito que nenhuma universidade brasileira tenha um computador que possa rodá-lo. A Petrobrás tem computador com muitas GPUs, talvez possa rodá-lo”.

Isso significa que a universidade brasileira não está preparada para essa nova “corrida espacial”, disse Cozman. “É muito importante que o Brasil se prepare, para que esses modelos que estão controlando a língua sejam de fato dominados, entendidos pela comunidade acadêmica do país.”

“Será necessário legislar com cuidado e refletir sobre os próximos passos em termos de investimento e capacidade de estar presente nessa discussão internacional com a nossa língua, e não apenas usar aquilo que está sendo gerado a partir de dados que não sabemos de onde vêm", concluiu.

Na abertura oficial do seminário, que se seguiu à palestra introdutória de Cozman, o reitor da USP, Carlos Gilberto Carlotti Júnior, realçou que quando surge uma novidade que propõe soluções para a sociedade, a universidade precisa participar como um ator representativo do pensamento crítico sobre a questão.

Para ele, os legisladores terão de definir algumas normas para a proteção da sociedade, pois “um sistema não pode ser tão fechado que não se saiba de onde vem a solução que ele apresenta”. O maior desafio será metodológico, segundo ele. “Precisamos entender as ferramentas e aprender como usá-las. Precisamos saber que informações devemos pedir e como pedi-la", disse.

Carlotti fez um alerta para despertar a conscientização sobre o problema na Universidade: "Agora temos a oportunidade de a USP contratar servidores e professores. No entanto, até o momento, apenas a Faculdade de Direito de Ribeirão Preto solicitou a contratação de um profissional da área de IA".

Transformações na Universidade

Citando o sociólogo estadunidense James Coleman, o diretor do IEA, Guilherme Ary Plonski, professor de duas unidades da USP (Escola Politécnica e Faculdade de Economia, Administração e Contabilidade) comentou que a universidade sempre foi caracterizada pelo processo lento de suas mudanças, que se consolidam quando iniciativas esparsas atingem uma massa crítica considerável.

“A questão é a velocidade. Pode levar uma década para algo virar uma preocupação institucional. O ChatGPT tem outro ritmo. Em dois meses atingiu 120 milhões de usuários. Daí a importância do seminário para acelerar, catalisar o processo de transformação em função do impacto de tecnologias como o ChatGPT, de forma a alimentar os processos de decisão e implante de políticas na USP."

No caso do ChatGPT, não é primeira vez que não contam o está lá dentro, disse. “É um dado da realidade humana não sabermos o que consumimos. E o que é declarado num momento pode ser ‘desdeclarado’ depois. Há uma promessa, mas as circunstâncias mudam, fazendo com que os objetivos também mudem."

Mesa de abertura do seminário; a partir da direita, o reitor Carlos Gilberto Carlotti Junior, Guilherme Ary Plonski e Glauco Arbix; na tela, a secretária de Ensino Superior do MEC, Denise Pires de Carvalho

Para ele, o professor talvez se torne mais um curador e "isso irá requerer um repertório mais rico do que aquele que estávamos acostumados a ter".

O sociólogo Glauco Arbix, professor da Faculdade de Filosofia, Letras e Ciências Humanas e pesquisador do IEA e do C4AI, afirmou que essas tecnologias podem ajudar o desenvolvimento da educação, apesar de ainda apresentarem muitos problemas. “A USP deve estar atenta ao mais avançado e deve qualificar o debate, sem relegar a universidade no passado e recusando as transformações. Por outro lado, a comunidade acadêmica não pode aceitar as coisas passivamente, de forma acrítica. Precisamos encontrar posições equilibradas", disse.

Arbix afirmou que nunca houve consenso para avaliar o uso de tecnologias em educação e que se deve considerar que “não estamos vivendo o fim do mundo”, com as máquinas superando os seres humanos. Ao mesmo tempo, “não podemos ficar deslumbrados com as tecnologias, sem questioná-las.”

Potencial

Para ele, esses modelos de linguagem têm enorme potencial para elevar a eficiência do ensino. “Podem permitir a individualização do acompanhamento de alunos, prepará-los melhor, sobretudo os mais defasados, e tornar mais eficiente a atividade docente na sala de aula. Pode possibilitar uma espécie de educação de precisão”, considerou.

Outra possibilidade vista por Arbix é a oportunidade de melhorar a comunicação sobre ciência com a sociedade: “Somos bons para descobrir coisas novas, mas ruins para apresentá-las à sociedade. Dependemos da sociedade, de verbas públicas, não podemos nos fechar em copas.”

Ele acredita também que sistemas como o ChatGPT podem ajudar muito na pesquisa. Citou que há experiencias nesse sentido para a concepção e formulação de novas drogas.

Arbix informou que um relatório da OpenAI explica que a versão 4 utilizará 1 trilhão de parâmetros e terá chance consideravelmente reduzida de alucinar e produzir informação falsa em relação à versão 3.

Ele comentou que todas as grandes corporações estão trabalhando em seus modelos de transformers, num universo que inclui poucos países, liderados por EUA e China, seguidos depois por Alemanha, Austrália e Canada.

No entanto, poucas universidades estão trabalhando com isso, disse. Em encontros dos quais participou no início do ano, Arbix constatou que universidades como MIT, Harvard, Yale e Carnegie Mellon, por exemplo, "estão de fora desse trabalho, não conseguem acompanhar os poucos centros dedicados a ele".

Para ele, essa tecnologia poderia ser um alento para países como o Brasil, mas há o risco de servir para aprofundar o abismo que separa os países, ampliando a desigualdade entre eles, pessoas e regiões.

Atualização

"A USP pode ser um grande laboratório para o país. Mas temos que questionar as tecnologias, atualizar nosso código de ética e todos os setores que podem sofrer mudanças para melhor."

Arbix comentou que cidades como Nova York, Seattle e outras proibiram o uso do ChatGPT no ensino público. Entretanto, na sua opinião, sistemas como ChatGPT não vão substituir o professor: “O ensino precisará cada vez mais do professor”. Por outro lado, não será possível aceitar um texto assinado por chat e haverá a grande dificuldade de realizar exames orais em cursos com dezenas ou centenas de estudantes, disse.

Para Arbix, comparar com processos anteriores não vai dar certo: "O ChatGPT é uma inflexão na trajetória da IA e nada justifica que façamos os erros cometidos no passado. Temos uma situação nova, não se trata de uma ferramenta simples e não vamos resolver os problemas com a enxurrada de coisas que virão se continuarmos a fazer referências a coisas do passado. A Reitoria vai ter de dizer o que pode e o que não pode, e fazer revisões sistemáticas. Deve ter um portal, com tutoriais para o uso dessas novas tecnologias".

Para a secretária de Ensino Superior do MEC, Denise Pires de Carvalho, “é preciso que nos transformemos para atender à demanda da sociedade. “Melhorar a qualidade de vida é um desafio enorme, principalmente na área da educação”, afirmou.

Para ela, é preciso discutir como enfrentar sem preconceito o ChatGPT e outros aspectos, como o binômio ensino-aprendizagem, o ensino híbrido e o currículo de formação dos professores. Disse estar preocupada com ferramentas que tornam o ser humano cada vez mais individualista e com a questão do plágio em sistemas como o ChatGPT.

Fake news

O titular da Cátedra Alfredo Bosi de Educação Básica, Naomar de Almeida Filho, ex-reitor da UFBA, manifestou sua preocupação de que esses modelos de linguagem se tornem máquina de fake news extremamente críveis. Ele vê no uso do chat uma possiblidade de sinergia, potencializando elementos complementares na relação ser humano-máquina. Quanto ao plágio, considera que a universidade brasileira é desaparelhada para lidar com ele e talvez o com o ChatGPT seja mais fácil reconhecê-lo.

Para Almeida Filho, “a exposição de Cozman indicou que essa ‘caixa opaca’ que é o ChatGPT faz coisas que quem programou não tem controle. E aí está um desafio para o sistema educacional e de pesquisas: criar métodos para investigar o imponderável”.

O pró-reitor de Graduação, Aluisio Augusto Cotrim Segurado, disse que o ChatGPT pode ser um estímulo à flexibilização, possibilitando soluções mais criativas para problemas concretos. “Em vez de um TCC [trabalho de conclusão de curso] teórico, pode ser proposta a resolução de um problema e essa ferramenta poderia ajudar os estudantes, sem eximi-los de apresentar uma proposta criativa", comentou

O titular da Cátedra Oscar Sala, Virgílio Almeida, da UFMG, disse que uma das propostas em discussão em universidades americanas é exigir que os trabalhos dos alunos sejam acompanhados de um pequeno dossiê, onde eles expliquem as razões de uso do ChatGPT, em que partes foi utilizado e qual o impacto desse uso no trabalho.

Colaboração humanos-maquinas

Para Almeida, há visões diferentes sobre o uso dos modelos de linguagem, mas há convergência de ideias. Considerou que a questão é multidisciplinar, envolvendo áreas da filosofia, direito, ciências naturais, computação, entre outras. "É uma oportunidade para capacitar os estudantes para o convívio humanos-máquinas de forma colaborativa. As consultorias já estão contratando alunos com conhecimento de ChatGPT.”

Almeida destacou vários riscos associados ao ChatGPT: éticos diante do problema da veracidade das informações fornecidas pelo chat; eliminação de empregos, como o de atendentes de call centers; problema de plágio e autoria, enfraquecendo a credibilidade de instituições tradicionalmente vinculadas à produção de conteúdos; impacto no regime democrático, diante da possibilidade de produção em grande quantidade de conteúdos convincentes, reduzindo a possibilidade de outras opiniões serem ouvidas.

Ele destacou também o fato de os modelos de linguagem não terem um entendimento ético do mundo, senso de verdade e confiabilidade: “Os formuladores de políticas não devem se esforçar em manter a tecnologia constante. O que deve ser constante é o compromisso com direitos fundamentais”.

A economista Dora Kaufman, da PUC-SP e do C4AI, além de colunista de IA da revista Época Negócios, apresentou propostas para o enfrentamento da complexidade e da velocidade da IA. “A USP precisa assumir um papel de protagonista nesse processo. Isso deveria começar por uma revisão dos comitês de ética, inclusive na sua composição, que deve ser diversificada. Isso serviria de referência para outras universidades e para a sociedade”, disse.

Marco legal

À tarde, ocorreu a mesa O ChatGPT, Educação e a Sala de Aula, com (a partir da esq.) Eugênio Bucci (coordenador), Dora Kaufman, Naomar de Almeida Filho, Virgílio Almeida, Valdir Barzotto, Luciano Digiampietri e Karla Lima

Ela disse que a Universidade Stanford, dos EUA, fez algo muito interessante diante da assimetria do conhecimento entre legisladores e especialistas da tecnologia: organizou um workshop para os assessores dos congressistas estadunidenses. “A USP poderia fazer algo parecido, para familiarizar os assessores dos parlamentares com o tema”, acrescentou.

Ela propôs também que a Revista USP prepare um dossiê sobre o tema. “Existe uma expectativa da sociedade que a USP participe do debate, dando mais legitimidade a ele", afirmou.

O professor Valdir Barzotto, da Faculdade de Educação da USP, disse representar os não fascinados nem temerosos com o ChatGPT. “Vamos sofrer para sermos treinados, mas não é para ter medo.”

Ensino de português

Ele vê o risco de consolidação do que já é hegemônico no trato com a língua – com o reconhecimento do escrito e sua reprodução sem questionamento - como um dos impactos do ChatGPT no ensino e na aprendizagem do português, “perpetuando-se uma trava no conhecimento”. Como lidar com isso? Não tratar o ChatGPT como se fosse uma pessoa, respondeu. "Outra recomendação é discutir o fato que o número de textos produzidos não se confunde com conhecimento."

Ele propôs que nos critérios de avaliação a busca de indícios de que o autor quer avançar o conhecimento. Além disso, "é preciso enfrentar questões éticas do uso de textos em gera, seja ele feito por quem for".

Para Luciano Digiampietri, assessor da Pró-Reitoria de Pós-Graduação e professor da Escola de Artes, Ciências e Humanidades (Each-USP), o primeiro cuidado nas pós-graduação é sempre relembrar aos alunos o cuidado que devem ter com a informação que aplicam em seus trabalhos, indicando o que ela contribuiu com ele. Ressaltou a importância de cuidados quanto autoria e responsabilidade sobre o que é informado.

Um aspecto importante, segundo ele, é a questão das referências bibliográficas, algo problemático no  ChatGPT, pois ele “alucina, inventa livros, autores. Se não se consegue referência para uma informação, então não é uma ferramenta para o trabalho”.

Perguntas certas

Um aspecto positivo é a possiblidade de obter informações sobre o que as pessoas estão fazendo em relação a vários temas, disse. “Algumas questões podem ser levantadas e úteis para identificar ferramentas para seu aprofundamento.” A questão é fazer as perguntas certas: “Como num oráculo da Antiguidade, fazer a pergunta errada pode ter consequências trágicas no futuro”.

A professora Karla Lima, assessora da Pró-Reitoria de Graduação e professora da Each-USP, considera que os alunos devem ser orientados sobre o risco de perda de identidade, dependendo da forma que utilizarem o ChatGPT, e quanto isso pode ser prejudicial em termos éticos.

“Estamos formando alunos que não sabem pensar, acostumados e pegar tudo pronto. Precisamos fazê-los pensar, mas o ChatGPT vem na contramão disso. Eles devem acrescentar melhorias e serem críticos ao que o chat apresenta”, afirmou.

Código de honra

O jornalista e professor Eugênio Bucci, superintendente de Comunicação Social da USP e coordenador acadêmico da cátedra Oscar Sala, comentou que as universidades brasileiras não possuem código de honra, usual em universidades dos EUA. “Como um código de ética pode funcionar sem um pacto de honra?”, indagou.

Em relação a isso, Naomar de Almeida Filho lembrou que as universidades brasileiras não possuem cartas de fundação. “A lei que cria uma universidade já estabelece seu estatuto. Nos Estados Unidos, Canadá e Reino Unidos, a carta de fundação é uma carta de princípios, da qual deriva um código de honra”. Disse também que as universidades brasileiras não são aparelhadas para lidar com a questão do plágio, pois “não veem isso como um problema”.

No encerramento do encontro, a especialista em filosofia do direito Cristina Godoy, professora da Faculdade de Direito de Ribeirão Preto (FDRP) da USP, disse que ao falar em regulação, tem-se dois modelos: o reativo, com o estabelecimentos de sanções a condutas vetadas, e o cautelar, para prevenir que determinadas condutas ocorram. “Ambos têm falácias. O reativo dá a sensação de que não é preciso regular, pois já há normas e o ChatGPT é apenas uma nova tecnologia. O cautelar indica que não existe nada para regular o chat e é preciso agir rápido, mas as normas acabam não solucionando o problema.”

Normas éticas

Para ela, as diretrizes prenunciadas no seminário caminham no sentido de normas éticas: “Estamos buscando princípios de natureza ética que vão inspirar normas jurídicas para a USP. Precisamos entender como a comunidade acadêmica vai atuar em relação a isso. Depois, num segundo momento, vamos passar ao modelo reativo. No momento, vamos ver o que deve ser atualizado, o que queremos e o que não queremos”.

Para Demi Getschko, diretor-presidente do NIC.br, os programadores de computação não estão preocupados em mudar o viés de um software: “O que a gente quer é viés. Código de ética é um viés. Código de honra é um viés. Quem não tem viés é uma formiga, apenas corta folhas".

A seu ver, é preciso discutir em profundidade o que é IA. “Um algoritmo fixo, ainda que com 1 trilhão de parâmetros, é um algoritmo fixo. Mas se aprende, não é fixo.”

"Quando o ChatGPT é corrigido, ele aprende a correção. Corrige e pede desculpas. No entanto, apresenta muitas falhas lógicas. Se digo a ele que entrei numa sala onde havia 100 assassinos e matei um deles e pergunto quanto assassinos restaram na sala, ele responde 99", exemplificou.

A inteligência artificial (IA) está cada vez mais presente em nosso dia a dia e seu impacto na sociedade deve aumentar graças à interação com os novos chatbots, afetando substancialmente diversas profissões e o modo como interagimos com as máquinas. porém, os algoritmos inteligentes, em especial os que utilizam aprendizado de máquina, são menos complexos do que se imagina. Para explicar isso, o Grupo de Estudo Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP e o Centro de Inteligência Artificial (C4AI) promovem no dia 12 de abril, às 19h, a conferência on-line “Desmistificando a Inteligência Artificial: Ela não é tão complicada como você pensa”.

O evento será exclusivamente on-line, com transmissão pelo canal do C4AI no YouTube. As inscrições são gratuitas e devem ser feitas neste link. Haverá envio de certificado aos participantes mediante preenchimento de formulário disponibilizado no chat durante a transmissão.

O palestrante será o professor titular do Departamento de Computação e Matemática da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP Renato Tinós. Ele vai mostrar que algoritmos que utilizam aprendizado de máquina empregam conceitos matemáticos e computacionais bastante simples e intuitivos, contribuindo assim para desmistificar a inteligência artificial. Para o docente, ao entender melhor os princípios básicos que regem os sistemas inteligentes, o público poderá compreender melhor as oportunidades propiciadas pela IA e as suas maiores limitações.

Renato Tinós possui graduação em Engenharia Elétrica pela Unesp, mestrado e doutorado em Engenharia Elétrica pela USP. Atualmente, é professor titular no Departamento de Computação e Matemática e orientador no programa de pós-graduação em Computação Aplicada, ambos da FFCLRP-USP. Atua na área de Ciência da Computação, com especial interesse em computação evolutiva e redes neurais artificiais.

Mais informações: iearp@usp.br.

Sobre o TechLaw

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional.

Para saber mais, acesse a página do grupo.

Para saber mais sobre outros eventos realizados ou apoiados pelo Instituto de Estudos Avançados Polo Ribeirão Preto da USP, siga nossas redes sociais e inscreva-se em nosso canal no Telegram.

Claudio Pinhanez, novo professor visitante do IEA, utilizará a Inteligência Artificial (IA) em um projeto de documentação, preservação e revitalização de línguas indígenas. Intitulada “Processamento computacional ético de línguas indígenas brasileiras”, a proposta de pesquisa foi aprovada no dia 15 de dezembro de 2022 pelo Conselho Deliberativo do Instituto.

Cerca de 2680 línguas indígenas estão ameaçadas de extinção até 2100, o que levou a Unesco a estabelecer a “Década das Línguas Indígenas”, entre  os anos 2022 e 2032, com o objetivo de fomentar iniciativas que revitalizem e preservem idiomas ameaçados. Nesse sentido, Pinhanez propõe desenvolver técnicas de IA e processamento de linguagem natural (PLN) no suporte de documentação de línguas indígenas brasileiras. O PLN é um campo interdisciplinar que pesquisa a interação linguística entre seres humanos e computadores.

Para aplicar técnicas de PLN em línguas indígenas, o projeto pretende explorar o uso de modelos de linguagem de base pré-treinados e multilinguísticos. Caso essa estratégia não alcance os objetivos, a alternativa será coletar grandes quantidades de  dados linguísticos para treinar um novo modelo.

Um dos pilares éticos recomendados pela Unesco é o lema “nada de nós sem nós”, que propõe a inclusão dos povos originários nas iniciativas de preservação de suas próprias línguas. Assim, está no plano de trabalho o empoderamento de comunidades indígenas de São Paulo para usar, desenvolver, manter e melhorar as tecnologias envolvidas na proposta.

Pinhanez afirma que não apenas os linguistas podem se beneficiar de informações mais abundantes sobre as línguas indígenas, mas também “a comunidade da inteligência artificial pode ganhar imensamente com um entendimento mais profundo de todas as línguas”. Segundo o professor, cerca de apenas 200 dos mais de sete mil idiomas são contemplados pelas tecnologias de IA e PLN.

O projeto aprovado que terá sede no IEA envolve outros pesquisadores de diversas instituições, entre eles: Paulo Cavalin e Marisa Vasconcelos, do IBM Research Brazil; Luciana Storto, Thomas Finbow e Alexander Yao Cobbinnah, da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH-USP); e Sarajane Marques Peres, da Escola de Artes, Ciências e Humanidades (EACH-USP).

Perfil

Claudio Pinhanez é especialista em Inteligência Artificial, interação homem-máquina, sistemas conversacionais e ciência de serviços. Bacharel em matemática e mestre em ciência da computação pela USP, o professor ingressou em 1999 no laboratório de mídia do Massachusetts Institute of Technology (MIT), onde obteve o título de Ph.D. em Artes de Mídia e Ciências.

Profissionalmente, atua no Center for Artificial Intelligence (C4AI) e no IBM Research. Foi membro docente do Departamento de Ciência da Computação do IME-USP e cientista pesquisador da IBM T.J. Watson Research Center Yorktown Heights, em Nova York. O pesquisador atuou com pioneirismo em sistemas interativos de corpo inteiro baseados em câmeras e criou o "Everywhere Displays”, um sistema de projeção interativa capaz de transformar qualquer superfície em uma tela responsiva.

A partir da esquerda, quatro dos expositores do seminário: o advogado Luiz Fernando Martins Castro, o professor Virgílio Almeida, o senador Eduardo Gomes e o advogado Maximiliano Martinhão; os outros expositores foram a professora Laura Schertel Mendes (por videoconferência) e o advogado Fabrício da Mota Alves

O presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou no dia 3 de maio o Projeto de Lei 2.338/23, que dispõe sobre a regulação do desenvolvimento e uso da inteligência artificial (IA). A elaboração da proposta foi subsidiada por relatório de comissão de juristas especialmente instituída em fevereiro de 2022 para analisar os aspectos referentes ao estabelecimento de princípios, regras, diretrizes e fundamentos para a regulação da IA no Brasil

No dia 24 de abril, diante da iminente formalização do projeto de lei, a Cátedra Oscar Sala realizou o seminário Desafios Regulatórios da Inteligência Artificial, com a participação de integrantes da comissão de juristas, pesquisadores e representantes do Executivo e do Legislativo.

Os expositores foram o cientista da computação Virgílio Almeida, titular da cátedra e professor da UFMG, Laura Schertel Mendes, professora da UnB e professora visitante da Universidade Goethe de Frankfurt, Alemanha, Maximiliano Martinhão, secretário de Telecomunicações do Ministério das Comunicações, o advogado Fabricio da Mota Alves, do Serur Advogados, e o senador Eduardo Gomes (PL-TO). A moderação foi do advogado Luiz Fernando Martins Castro, coordenador-adjunto da Cátedra Oscar Sala.

A Cátedra Oscar Sala é fruto de convênio entre a USP e o Comitê Gestor da Internet no Brasil (CGI.br) operacionalizado pelo IEA e pelo Núcleo de Informação e Coordenação do Ponto BR (NIC.br), braço executivo do CGI.br. No seminário, Martinhão falou sobre iniciativas em apoio à pesquisa em IA apoiadas pelo CGI.br.

Princípios éticos

Na abertura do encontor, Virgílio Almeida disse que a percepção geral da capacidade dos algoritmos de influenciar aspectos relevantes da vida de todos, e mesmo de atentar contra direitos fundamentais, resultou na tomada de consciência de que é preciso adotar princípios éticos em relação à IA e estabelecer limites para seu emprego.

Vários países, afirmou, deram início a discussões acadêmicas, técnicas e legislativas para “identificar a melhor forma de enfrentar a questão, propondo modelos regulatórios que preservem direitos fundamentais, mas que não inibam o desenvolvimento tecnológico e econômico desejado com o amplo uso da IA”.

Ele destacou a perplexidade de setores da sociedade ao vislumbrar os possíveis impactos da artificial generativa, cujo exemplo de maior repercussão na atualidade é o modelo de linguagem ChatGPT, desenvolvido pela OpenAI, aberto ao público em novembro.

Almeida enfatizou que a legislação sobre propriedade intelectual precisa ser observada no uso de novas ferramentas de IA, e “os advogados são essenciais nessa discussão”. Mas há também questões éticas, tecnológicas e sociais, cujo debate precisa contar com a participação das comunidades que serão impactadas, tecnólogos, eticistas, acadêmicos interdisciplinares e outros especialistas, completou

Ele citou algumas das dificuldades para a análise de possíveis impactos dos sistemas de IA. É o caso dos mecanismos de explicabilidade das decisões tomadas por eles, que apresentam desafios tecnológicos ainda não resolvidos e exigem a participação de uma comunidade maior na sua resolução. Também não está especificado claramente o que pode ser feito em relação à transparência dos algoritmos, afirmou. Segundo Almeida, os procedimentos de estimativa de risco também exigem formulação e regulação.

Pilares

Assim como outros expositores, ele concentrou sua exposição nas propostas presentes no relatório da comissão de juristas que assessorou a Presidência do Senado. De acordo com Almeida, a proposta baseia-se em três pilares:

• garantia de um rol de direitos às pessoas afetadas pelos sistemas de IA;
• gradação do nível de riscos impostos pelos esses sistemas;
• estabelecimento de medidas de governança aplicáveis às empresas que forneçam ou operem sistemas de IA.

Almeida vê várias oportunidades na disponibilidade pública de ferramentas como o ChatGPT. Uma delas é o fato de que haverá cada vez mais necessidade de o ser humano atuar com robôs: “Ao criar um documento ou um vídeo, as pessoas vão interagir não com um ser humano, mas sim com uma máquina.”

A preocupação maior, disse, é a ampliação do alcance da desinformação e a sofisticação na sua produção, e como isso vai alterar o cenário da sociedade. Outra preocupação relevante é o impacto dessas tecnologias no emprego. “O Brasil tem 1,5 milhões de atendentes de telemarketing, que são majoritariamente mulheres em seu primeiro emprego. Ferramentas como o ChatGPT poderão fazer o trabalho delas a um custo muito baixo”, afirmou.

Diferentemente dos algoritmos utilizados por grandes provedores como Google, Facebook e Amazon, sistemas generativos como o ChatGPT não são construídos para um contexto ou condições de uso específicos e sua abertura e facilidade de controle permitem uma escala de uso sem precedentes. Diante disso, “o enfoque de regulação orientada a risco pode não se aplicar”, disse.

Essas características desafiam a abordagem por risco em pelo menos três pontos, de acordo com ele:

• a não definição sobre a viabilidade de classificar sistemas de IA generativos como de alto risco ou de sem risco;
• a imprevisibilidade de riscos futuros;
• as preocupações em torno dos arranjos privados sobre riscos, arranjos realizados entre o provedor e os usuários (“Esse contrato vai ser um objeto-chave nas discussões”).

Vírgílio Almeida: ‘’É preciso propor modelos regulatórios que preservem direitos fundamentais, mas que não inibam o desenvolvimento tecnológico e econômico’’

Adoção de incentivos

Para ele, o ponto central é incentivar que desde o início de sua concepção essas ferramentas considerem riscos e impactos, porque serão usadas de várias maneiras. “É necessário então considerar a adoção de incentivos, para incentivar outro tipo de comportamento”, disse.

“Uma das consequências do carácter geral dos modelos de IA generativa é que a finalidade pretendida e as condições de uso são definidas na relação contratual entre quem o desenvolveu e o usuário. Mas hoje em dia isso é vago e não está previsto na proposta de lei.”

Nas suas conclusões, Almeida enfatizou a necessidade de ampliação do debate sobre a regulação da IA no Brasil, envolvendo diferentes setores da sociedade em arranjos multissetoriais: governo, setor privado (fornecedores e usuários), sociedade civil, academia (ciência e tecnologia) e outros agentes.

É preciso também, disse, avaliar as possíveis relações entre a proposta de regulação da IA e a proposta da Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet (Projeto de Lei 2.360/20), em tramitação no Congresso Nacional. “Afinal, os algoritmos de moderação, que fazem parte da proposta dessa lei, vão ser afetados pelas questões relacionadas com a regulação da IA. E novos algoritmos vão surgir para tentar identificar textos, vídeos e outras coisas geradas por IA”.

Segundo Almeida, outro ponto a ser analisado, é o impacto de sistemas como o ChatGPT na difusão de desinformação e na moderação de conteúdo. “As discussões sobre essa questão não vão ocorrer de forma estanques. Em algum momento terão de ser incorporadas à discussão da IA generativa.”

Relatório

Coube a Laura Schertel Mendes apresentar uma síntese do relatório produzido pela comissão de juristas para subsidiar a elaboração do PL 2.338/23. A comissão contou com 18 membros e foi presidida pelo ministro Ricardo Villas Bôas Cueva, do Superior Tribunal de Justiça (STJ). Ela foi a relatora do documento, que possui 909 páginas.

“Foram dez meses de trabalho intenso e com todas as decisões tomados por unanimidade”, afirmou Mendes. A comissão funcionou entre fevereiro e dezembro de 2022, com a participação de mais de 60 especialistas em 11 audiências públicas e uma conferência internacional. Mais de 100 contribuições escritas foram entregues à comissão.

Ao justificar a importância de um amplo debate sobre a IA, ela afirmou que “os sistemas não são tão inteligentes como se espera e não são tão artificiais como se imagina. Eles necessitam de muitos recursos materiais, energia e intervenção do ser humano desde o começo, na escolha das bases de dados, na definição de tags, na interpretação de resultados, do input ao output, passando pelo modelo”.

Em relação aos desafios no desenvolvimento da IA, ela fez referência a dois aspectos mencionados no livro “Fairness and Machine Learning” (https://fairmlbook.org), de 2019, escrito por Solon Barocas, Moritz Hardt e Arvind Narayanan.

Exemplos e evidências

O primeiro aspecto é quanto ao uso de exemplos: “Os modelos aprendem por meio deles, assim, a primeira grande questão é que precisamos alimentá-los com bons exemplos. Além disso, é preciso ter uma quantidade de exemplos grande o suficiente para atingir o máximo de padrões, que precisam ser diversificados, mostrando os dados corretos em suas diferentes formas de aparição”.

O segundo aspecto referido no livro citado por Mendes é que a tomada de decisão é baseada em evidências e tão confiável quanto as evidências em que ela se baseia. Então, “precisamos de uma alta qualidade de exemplos diversos, para que não tenhamos uma narrativa única do mundo ou apenas do Norte global”.

“Apesar de baseados em evidências, isso não significa que os exemplos levarão a decisões precisas, confiáveis ou justas. É preciso fazer a regulação desde o início, desde a criação do modelo, da coleta dos dados e exemplos até o momento da aplicação do modelo.” O objetivo deve ser propiciar correção, justiça, não discriminação, transparência e credibilidade, disse.

Mendes comentou a carta aberta “Pause the Giant AI Experiments” (interrompam os experimentos de IA de grande porte), divulgada pelo Instituto Futuro da Vida em 22 de abril e já com mais de 27 mil assinaturas, entre as quais as de empresários do mundo tecnológico, pesquisadores de IA e personalidades da cultura, como Elon Musk (dono do Twitter e outras empresas e ex-integrante da OpenAI), Yoshua Bengio (cientista da computação vencedor do Prêmio Turing), Steve Wozniak (cofundador da Apple) e Yuval Noah Harari (autor de “Homo Sapiens”).  A carta insta os laboratórios de IA a paralisarem imediatamente e por ao menos seis meses o treinamento de sistemas de IA mais potentes do que o GPT-4, versão atual do sistema generativo da OpenAI.

Riscos triviais

Segundo ela, mais do que os riscos que sempre abundaram na ficção científica, com robôs controlando o mundo, por exemplo, “hoje deve-se pensar em riscos mais triviais, que podem sim afetar a Humanidade”. É preciso garantir que esses sistemas “funcionem de acordo com nossas expectativas, produzindo dados corretos e de forma segura, como toda inovação responsável”.

O que a proposta de regulação pleiteia são padrões mínimos de segurança, qualidade de dados, transparência e garantia dos direitos fundamentais previstos na Constituição Federal, disse. “Sabemos que os sistemas falham, então, se falham, precisam de intervenção humana. Embora os sistemas sejam muito complexos, os pleitos da proposta são extremamente simples.”

Apesar de várias normas, como a Lei Geral de Proteção de Dados (LGPD) e o Marco Civil da Internet, o fato é que as leis atuais ainda não dão conta dos desafios colocados pela IA, afirmou. “A LGPD aplica-se apenas a dados pessoais e não seria possível aplicá-la, pois os sistemas generativos podem ser alimentados por outros dados, além dos pessoais.”

Pilares da proposta

Os dois principais objetivos da proposta são, segundo Mendes, estabelecer e garantir direitos para todos os afetados e, ao mesmo tempo, estabelecer um sistema de governança com regras claras e padrões mínimos, garantindo a segurança jurídica para que os sistemas de IA possam se desenvolver. A proposta possui cinco pilares:

• Princípios
• Direitos
• Categorização de risco
• Medidas de governança
• Supervisão e responsabilização

Em relação aos princípios, há inclusive aspectos baseados em documentos internacionais, como os de autoria da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) e da Unesco.

Eles incluem: não discriminação; transparência e explicabilidade; confiabilidade dos sistemas da IA; devido processo legal e contestabilidade; participação humana no ciclo de IA e supervisão humana eficaz; responsabilidade e atribuição de responsabilidade a uma pessoa, jurídica ou natural; prevenção e mitigação de riscos sistêmicos.

Uma grande diferença da proposta brasileira, disse, é o capítulo sobre direitos. “Seria impossível pensar em legislação de IA sem atribuir direitos às pessoas afetadas e retirando o Judiciário de sistema de aplicação da lei, que é o que acontece quando não há direitos estabelecidos.”

Entre os direitos definidos na proposta estão: o de receber informações prévias sobre interações com sistemas de IA; direito à explicação; direito de impugnar decisões que produzam efeitos jurídicos ou impactem significativamente os interesses da parte afetada; direito à determinação e participação humana nas decisões de IA, levando em consideração o contexto e o estado da arte do desenvolvimento tecnológica; direito à não discriminação; e direito à privacidade e proteção de dados pessoais.

Quanto à categorização de risco, ela remeteu às preocupações manifestadas por Virgílio de Almeida, no início do seminário.

Mendes informou que o art. 13 do anteprojeto de lei diz que, antes de ser colocado no mercado, todo sistema precisa passar por uma avaliação preliminar. “Essa não é a avaliação de risco. A avaliação de risco só vai ser necessária depois da avaliação preliminar e se o sistema for considerado de alto risco.”

Em relação às medidas de segurança, Mendes explicou que elas tratam de procedimentos a serem cumpridos, em especial pelos provedores de sistemas de alto risco, “embora também haja algumas medidas que se aplicam de forma horizontal a qualquer sistema”.

Medidas de governança

O quarto pilar da proposta são as medidas de governança aplicáveis a sistemas de alto risco. São elas, segundo Mendes:

• documentação;
• utilização de ferramentas de registro automático do funcionamento do sistema, de forma a permitir a avaliação da sua precisão e robustez;
• realização de testes para avaliar os níveis adequados de confiabilidade, de acordo com o setor e o tipo de aplicação do sistema, incluindo testes de robustez, exatidão, precisão e abrangência;
• medidas de gerenciamento de dados para mitigar e prevenir vieses discriminatórios;
• adoção de medidas técnicas para possibilitar a explicabilidade.

Sobre a supervisão e responsabilização, ela ressaltou que todo sistema exige sanções previstas num arcabouço de supervisão. Destacou que a comissão propôs nas audiências públicas a criação de um órgão de supervisão, que funcionaria sobretudo como um aparato de coordenação.

“Sabemos que as agências reguladoras exercem um papel importante nesse papel, caso da Anatel e da Anel, entre outras. No entanto, a única forma de garantir direitos, como padrões e interpretação harmônica da legislação, seria garantir a existência de um órgão que coordenasse toda a aplicação da lei.”

A comissão também previu um artigo aplicável a sistemas generativos como o ChatGPT, que são definidos como de propósito geral. São considerados desse tipo aqueles utilizados nas seguintes situações:

• aplicação como dispositivos de segurança na gestão e no funcionamento de infraestruturas críticas, tais como controle de trânsito e redes de abastecimento de água e eletricidade;
• educação e formação profissional, incluindo sistemas de determinação de acesso a instituições de ensino e de formação profissional ou para avaliação e monitoramento de estudantes;
• área de emprego, gestão de trabalhadores e acesso ao emprego por conta própria, recrutamento, avaliação de candidatos e de desempenho, promoções etc.;
• acesso a serviços públicos essenciais, incluindo elegibilidade de pessoas a serviços de assistência e de seguridade;
• avaliação da capacidade de endividamento das pessoas naturais ou estabelecimento de sua classificação de crédito;
• envio ou estabelecimento de prioridade para serviços de resposta a emergências, incluindo bombeiros e assistência médica;
• administração da justiça, incluindo sistemas que auxiliem autoridades judiciárias na investigação dos fatos e na aplicação da lei.

Impacto eleitoral

Como exemplo de preocupação com possíveis efeitos negativos do uso de sistema de IA, o senador Eduardo Gomes, umas das lideranças na discussão sobre a temática no Congresso Nacional, manifestou que, sem o devido controle, uma ferramenta desse tipo “pode interferir fortemente num resultado eleitoral”.

“Um candidato que tem uma certa base eleitoral e uma certa bandeira política pode ter sua proposta de candidatura atacada 48 horas antes da eleição. Não haverá nada no mundo que o livre da derrota.”

Para ele, “é muito ampla a possibilidade de benefícios ou de estragos - no caso de falta de controle - que a IA pode trazer”.

Quanto ao encaminhamento da discussão e avaliação da regulação da IA no Congresso Nacional, disse que o Legislativo não pode errar, ainda que trabalhe numa velocidade diferente da de outros fóruns. “A coisa mais difícil no Congresso é fazer uso da simplicidade para formular legislação. O Congresso avança muito quando aprova bons projetos, mas avança muito mais quando deixa de aprovar projetos ruins.”

Para ele, a lei sobre IA terá de ter "uma base muito forte, ser muito simples e ter a possibilidade de regulamentação periódica ou alguma coisa que fortaleça a autoridade ou até a instrução do que estamos discutindo, que é a utilização de dados confiáveis e não confiáveis”.

Gomes destacou a ligação do tema com outras questões legislativas, como o Projeto de Lei sobre fake news (PL 2.630/20). Adiantou que o Senado analisa a criação de uma Comissão sobre Comunicação e Direito Digital, que deverá analisar a proposta de regulação da IA. “O Congresso precisa se debruçar sobre o tema, pois não está evidente a estrutura de fiscalização e regulação” exigida pela área.

O trabalho da comissão de juristas foi destacado por Gomes, que frisou a necessidade de que a proposta seja enriquecida com contribuições de outros agentes da sociedade que têm solicitado participação, segundo o senador.

Maximiliano Martinhão, que além de integrante do Ministério das Comunicações é também membro do CGI.br, disse que o tema da IA nunca esteve tão presente em diferentes áreas do governo quanto na atual gestão federal, “o que denota seu impacto”.

Para ele, os casos de racismo, deep fake, processos de seleção discriminatórios, produção e difusão de discursos de ódio, interação inadequada com crianças e outros mal usos da IA “não permitem uma postural liberal, que deixe a tecnologia avançar para depois regulá-la quando extremamente necessário”.

Pesquisa no Brasil

Ao falar sobre a capacitação brasileira em IA, Martinhão citou algumas discussões promovidas pelo CGI.br. A primeira foi no Instituto Alan Turing, em Londres, Reino Unido, em 2019. “Foi gratificante saber que o pessoal do instituto reconhece que a pesquisa brasileira na área está no nível mundial em termos de competência e capacidade”, disse. Existe no mundo uma corrida para liderar aspectos cruciais da IA, o que trará “vantagens comparativas para os líderes e impacto na soberania de muitos países”, afirmou.

Ele comentou duas outras parcerias do CGI.br. Uma delas foi com a USP e a Unesco num evento regional sobre IA, em 2019. Outra foi estabelecida com a Fapesp e o Ministério de Ciência, Tecnologia e Inovação (MCTI) e possibilitou a criação de seis Centros de Tecnologia Aplicada em Inteligência Artificial.

Com previsão de 5 anos de atuação, os centros foram contratados com investimento total (público e privado) no valor de R$ 20 milhões. Eles estão situados no campus da USP em São Carlos (saúde, educação, meio ambiente e cidades inteligentes), na Unicamp (diagnóstico médico), no Instituto de Pesquisa Tecnológica do Estado de São Paulo (indústria), na UFMG (saúde e epidemias), no Senai Cemat (indústria 4.0) e na UFC (internet das coisas em prevenção e tratamento de doenças).

Ele lembrou que desde de 2021 o governo federal conta com a Estratégia Brasil em Inteligência Artificial (Ebia), cujo objetivo é “potencializar o desenvolvimento e a utilização da tecnologia com vistas a promover o avanço científico e solucionar problemas concretos, identificando áreas prioritárias nas quais há maior potencial de obtenção de benefícios”, de acordo com a apresentação do documento. O mais interessante, disse Martinhão, é que o documento traz eixos transversais, como as questões de governança, necessidade de legislação e cooperação internacional.

Ele frisou que a IA tem sido tratada no mundo a partir de alguns princípios. “Na OCDE, a prerrogativa é o respeito aos direitos humanos e ao Estado de Direito. Na União Europeia, recentemente, a discussão deu-se quanto a accountability e explicabilidade.” Em relação a isso, lembrou que um dos países europeus [Itália] impôs recentemente restrições ao ChatGPT por não explicitar como trata dados pessoais.

Martinhão também comentou a carta aberta do Instituto Futuro da Vida em defesa da moratória por seis meses no desenvolvimento de ferramentas de IA de grande porte, como o GPT-4: “A medida não parece excessiva diante de possíveis riscos. Precisamos ter uma avaliação prévia antes da continuidade dos projetos, para dimensionar quais são os riscos e consequências da implementação dessas ferramentas”.

Área regulatória

Servidor de carreira Anatel, uma agência reguladora, ele afirmou que a área regulatória não existe para ser o calo do setor privado, mas sim para defender os interesses de toda a sociedade. “Por isso é preciso entender que uma tecnologia traz uma série de consequências, podendo levar ao monopólio, prejudicando a concorrência e a livre iniciativa, e considerar que o mercado nem sempre consegue se autorregular”, disse.

“A sociedade deve atentar para fato de que podem acontecer práticas predatórias, barreiras de entrada, aquisição de concorrentes, manipulação de algoritmos, concentração de dados em determinada organização e acentuação de desigualdades sociais”, afirmou.

Segundo ele, mais de 10% dos domicílios brasileiros ainda não tem acesso à internet. “O mesmo pode acontecer com a inteligência artificial, com um custo de US$ 20 por mês para desfrutar de mais recursos de uma plataforma. As pessoas pagam em média R$ 17,00 para carregar o celular pré-pago, como iriam pagar R$ 100,00 num serviço de IA?”

Ao final das exposições, Virgílio Almeida reforçou o alerta sobre dois pontos. O primeiro refere-se às big techs: “O que antevemos é uma concentração maior de poder, e completamente fora do Brasil. Não temos infraestrutura computacional e de dados para processamento dessas questões. Não temos uma política pública para organizar os dados brasileiros, armazenados em bancos do IBGE, do Sistema Único de Saúde e de outros organismos”.

O segundo ponto ressaltado por ele é a necessidade de atenção para o impacto da IA no emprego: “Não podemos caminhar numa direção que não ajude a elevar o nível de emprego e a torná-lo o mais qualificado possível”.

Fotos: Leonor Calasans/IEA-USP

O lançamento do ChatGPT, uma ferramenta revolucionária que trabalha com inteligência artificial e foi disponibilizada para o público no final do ano passado, tem trazido cada vez mais debates sobre os impactos que esse tipo de tecnologia tem na sociedade. Para discutir esse tema, o USP Analisa conversou com o docente no Instituto de Ciências Matemáticas e da Computação da USP e integrante do Centro de Inteligência Artificial da USP, Fernando Osório.

Ele explica que a principal evolução por trás do ChatGPT em relação a outras ferramentas que usam inteligência artificial é o hardware, ou seja, o equipamento que está por trás dele. “Houve uma evolução significativa do poder computacional das máquinas e isso obviamente trouxe as soluções que podem ser apresentadas em aplicações de inteligência artificial, como processamento de voz, de imagens e, no caso do ChatGPT, uma coisa que não estava tão sofisticada, que é a geração de texto. Textos muito bem escritos, muito coesos”, diz o professor.

Segundo Osório, a perfeição na escrita e no encadeamento das palavras faz com que os usuários tenham uma credibilidade no ChatGPT muito maior do que deveriam ter. “O ChatGPT encadeia as ideias no texto de uma maneira muito interessante, muito bem colocada. Mas isso não quer dizer que sejam corretas as informações. E é aí que talvez começam a surgir algumas questões, porque ele se passa por uma pessoa de um alto nível de conhecimento e de educação pela sofisticação da forma como os textos são produzidos. A gente tem que tomar um certo cuidado principalmente quanto ao conteúdo, pois coesão não quer dizer verdade”.

O docente destaca ainda que não há possibilidade dessa ferramenta substituir os tradicionais mecanismos de busca - embora ela seja utilizada com frequência para essa finalidade. “O ChatGPT não tem como ser atualizado diariamente, como o Google. É por isso que eu digo: ele não vai, não deve e eu espero que não substitua o Google e outros buscadores. Porque eles dão uma lista de referências onde você pode olhar várias respostas, você pode ver os links de onde vieram essas respostas, seja de um site confiável ou não, e você muitas vezes tem a informação da data de quando ela foi publicada. E isso o ChatGPT não dá”.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

É inegável que ferramentas baseadas em inteligência artificial, como o ChatGPT, vão trazer impactos ao mercado de trabalho e à realidade de muitas profissões. Mas qual será a extensão disso? No USP Analisa que vai ao ar hoje, às 16h45, o professor do Instituto de Ciências Matemáticas e de Computação (ICMC) e pesquisador do Centro de Inteligência Artificial (C4AI) da USP, Fernando Osório, comenta essa questão.

Ele destaca que, embora essas ferramentas funcionem por meio de um prompt, ou seja, um texto que dá à plataforma informações sobre o que o usuário deseja gerar, o resultado vai depender do conhecimento do profissional em sua área. “A gente volta um pouco àquela questão do iniciante e do profissional. O profissional tem a capacidade de fazer uma geração de prompt muito mais adequada que o iniciante e de reconhecer, por exemplo, que a resposta ainda não está pronta”, diz ele.

Osório cita o exemplo dos designers gráficos e lembra que ferramentas de geração de imagens, como o Dall-E, também desenvolvido pela Open AI, empresa que criou o ChatGPT, são usadas, algumas vezes, para substituir o trabalho desse profissional. Mas o resultado nem sempre é adequado.

“Por exemplo, o dono da empresa quer criar um logotipo. Eu já vi gente sugerindo usar ferramentas como o Dall-E e outras semelhantes para esse fim. Mas o dono da empresa não entende de linguagem, de comunicação, dos sentimentos que ele está transmitindo com aquelas cores. Ele não é um designer gráfico. A imagem gerada talvez seja um logo bonitinho para ele, mas não vai traduzir para o público aquilo que se quer transmitir numa imagem de um logotipo. Nessas horas, o design gráfico pode usar o ChatGPT? Pode, porque algumas vezes fazer certas obras gráficas é complexo. Mas o designer vai entrevistar o cliente, traduzir isso num prompt, gerar a imagem, analisar, criticar e melhorar. Isso tudo faz parte do conhecimento do designer”.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

Estabelecer uma legislação para o uso de ferramentas que envolvam inteligência artificial tem sido um tema bastante discutido em vários países, inclusive no Brasil. Afinal, por que é tão importante ter essa regulação? Para debater essa questão, o USP Analisa conversa com os professores da Faculdade de Direito de Ribeirão Preto, Cristina Godoy, e da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto, Evandro Ruiz.

Segundo Cristina, embora já existam algumas leis que podem ser usadas para regular essa tecnologia, ainda existem pontos que não são cobertos por elas. “A gente tem normas jurídicas que podem dirimir alguns problemas, alguns casos que surgem do uso da inteligência artificial, aplicações, sistemas. Temos a Lei Geral de Proteção de Dados, o Marco Civil da Internet, a legislação sobre propriedade intelectual, o Código de Defesa do Consumidor, o Código Civil. Então há um arcabouço relativamente vasto e adequado para dirimir a maior parte dos casos. Só que existem lacunas. A gente está numa fase agora de identificação dessas lacunas para, aí sim, pensarmos o que devemos regular, mas sem ter uma sobreposição com as outras normas. Senão vai ficar uma legislação muito repetitiva e acaba esvaziando o próprio objetivo da norma”, explica a professora.

Evandro destaca que a Computação não é mais tão independente do Direito como já foi no passado, até porque ela está envolvida em diversos aspectos da vida cotidiana. Por isso, embora muitos profissionais da área não gostem da ideia de uma regulação por considerá-la uma intromissão, ela é, sim, necessária.

“A gente não tem que pensar com os olhos da tecnologia, a gente tem que pensar com um olho de humano, o que o humano - na sua capacidade de pensar, de abstrair, de construir - pode fazer com aquela tecnologia. Então não é um cerceamento, um freio na tecnologia. São eventualmente contornos, barreiras que a gente, como indivíduo, construtor, partícipe daquela tecnologia, precisa pensar em obedecer para que aquilo entre na sociedade de uma maneira construtiva”, diz ele.

Cristina e Evandro também integram o Grupo de Estudo Direito e Tecnologia - TechLaw do Instituto de Estudos Avançados Polo Ribeirão Preto da USP.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

Ter uma legislação específica que regule o uso de tecnologias envolvendo inteligência artificial é algo debatido já há alguns anos no Brasil. Mas será realmente necessário criar um novo dispositivo ou o regramento que já existe seria capaz de atender essa necessidade? Os professores Cristina Godoy, da Faculdade de Direito de Ribeirão Preto da USP, e Evandro Ruiz, da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP, conversaram sobre isso com o USP Analisa.

Cristina citou o Projeto de Lei 21/2020, de autoria do deputado Eduardo Bismarck (PDT-CE), que criava o marco legal do desenvolvimento e uso da Inteligência Artificial. Apesar de aprovado na Câmara, no Senado ele acabou englobado por um outro, o PL 2.338/2023, proposto pelo presidente da casa, Rodrigo Pacheco.

A professora explica que no sistema jurídico brasileiro existem dois tipos de responsabilidade: a responsabilidade subjetiva, na qual é preciso demonstrar que uma ação gerou dano e comprovar a culpa do autor dessa ação; e a responsabilidade objetiva, que exige apenas a existência da ação e do dano, sem a necessidade de comprovação da culpa.

“O regime geral no PL 21/2020 era exatamente de responsabilidade civil subjetiva. Aí muitos falaram que deveria ser objetiva. Mas o Código de Defesa do Consumidor já previa a responsabilidade objetiva. E a maior parte dessas situações vai envolver o Código de Defesa do Consumidor (CDC). Falar do regime de responsabilidade civil subjetiva quando não se aplica o CDC é raro, então não tinha porque discutir tanto sobre esse assunto”, diz ela.

Evandro lembra que o Marco Civil da Internet, que entrou em vigor em 2014, teve uma tramitação longa e bastante contestada, mas hoje é o documento no qual a computação se espelha para crescer. Para ele, alterar ordenamentos como o Marco, que foram criados há menos de dez anos, traz riscos ao desenvolvimento da tecnologia no país.

“Isso pode até provocar uma erosão dessas empresas de inovação e eventualmente até provoca uma fuga dos cérebros do Brasil para desenvolver aquela boa ideia num outro lugar. Se a gente discutir agora um documento e tiver um consenso, que a gente aprove esse documento e teste ele por alguns anos. A gente sabe que, se a sociedade muda, obviamente o ordenamento jurídico vai mudar. Mas é preciso ter uma estabilidade. Que essas regras permaneçam por um tempo para a gente poder experimentar, ver o que deu certo e o que não deu certo. E acho que dez anos é pouco. Para a computação, é pouco”.

Cristina e Evandro também integram o Grupo de Estudo Direito e Tecnologia - TechLaw do Instituto de Estudos Avançados Polo Ribeirão Preto da USP.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

Com a possibilidade de utilizar ferramentas como o Chat GPT para criar textos e imagens, o debate sobre regulação da inteligência artificial passou a incluir também o campo da propriedade intelectual. Afinal, esses mecanismos utilizam bancos de dados e são capazes de copiar estilos de artistas. Para entender como ficam os direitos autorais diante desse cenário, o USP Analisa conversa com a professora da Faculdade de Direito de Ribeirão Preto da USP, Cristina Godoy, e com o professor da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP, Evandro Ruiz.

Segundo Cristina, existe um debate em torno da qualidade da propriedade intelectual. Ela lembra o caso de uma fabricante de celulares que tentou registrar a patente de determinados movimentos dos dedos dos usuários nas telas dos dispositivos.

“Há propriedades intelectuais de baixa qualidade, que a gente não deveria proteger, porque na realidade inviabilizam novas tecnologias e competidores, e tem aquelas de boa qualidade. Então vamos utilizar o mesmo sistema de análise. Realmente é uma cópia daquela obra de arte ou é um texto que é a cópia daquele romance? Se foi, acredito que o Direito vai tender a responsabilizar quem usou o Chat GPT. Porque você é responsável pelo conteúdo e pela obra que produz”, diz ela.

O USP Analisa é quinzenal e leva ao ar pela Rádio USP nesta sexta, às 16h45, um pequeno trecho do podcast de mesmo nome, que pode ser acessado na íntegra nas plataformas de podcast Spotify, Apple Podcasts, Google Podcasts, Deezer e Amazon Music.

O programa é uma produção conjunta do Instituto de Estudos Avançados Polo Ribeirão Preto (IEA-RP) da USP e da Rádio USP Ribeirão Preto. Para saber mais novidades sobre o USP Analisa e outras atividades do IEA-RP, inscreva-se em nosso canal no Telegram ou em nosso grupo no Whatsapp.

Os cientistas da computação Silvio Meira e André Neves, ambos da Universidade Federal de Pernambuco (UFPE), serão os expositores no seminário Tríades das Inteligências Individuais, Sociais e Artificiais, no dia 1º de agosto, às 15h, com transmissão ao vivo pela internet (não há necessidade de inscrição).

O evento é uma realização da Cátedra Oscar Sala, convênio entre a USP e o Comitê Gestor da Internet no Brasil (CGI.br) com atividades executadas pelo IEA e Núcleo de Informação e Coordenação do Ponto BR (NIC.br). O debatedor será Demi Getschko, do NIC.br. A mediação será do coordenador acadêmico da cátedra, Eugênio Bucci, jornalista e professor da Escola de Comunicação e Artes da USP.

O seminário integra a programação coordenada pelo titular da cátedra, o cientista da computação Virgílio Almeida, da Universidade Federal de Minas Gerais, que desenvolve deste abril de 2022 o projeto Interações Humano-Algoritmo.

Impactos

Meira e Neves falarão sobre a evolução da inteligência artificial (IA) generativa, abordando sua crescente presença em diversas áreas. Destacarão a importância de um entendimento aprofundado dessa tecnologia, considerando seus aspectos técnicos e, especialmente, suas implicações éticas e humanas.

Para eles, essa compreensão detalhada requer um tratamento interdisciplinar capaz de enfrentar os desafios e oportunidades que a IA generativa apresenta. Os dois defendem que essa análise inclua um modelo colaborativo de tomada de decisão, com a integração das inteligências individuais, sociais e artificiais.

Meira é graduado em engenharia eletrônica pelo Instituto Tecnológico de Aeronáutica (ITA), mestre em ciências da computação pela UFPE e doutor na mesma área pela Universidade de Kent em Canterbury, Reino Unido. Ele é professor emérito da UFPE, cientista-chefe da Digital Strategy Company e fundador e presidente do Conselho de Administração do Porto Digital, no Recife, PE

Neves graduou-se em desenho industrial pela Universidade Federal da Paraíba e tornou-se mestre e doutor em ciências da computação pela UFPE. Realizou pesquisa de pós-doutorado na Universidade da Beira Interior (UBI), em Portugal. É professor associado da UFPE com foco nas disciplinas de design aplicado à criação de novos produtos e negócios de base tecnológica.

Tríade das Inteligências Individuais, Sociais e Artificiais
1º de agosto, 15h
Transmissão ao vivo pela internet (não é preciso se inscrever)
Mais informações: com Sandra Sedini (sedini@usp.br), telefone (11) 3091-1678
Página do evento: www.iea.usp.br/eventos/triade-inteligencias

Imagem: Geralt/Pixabay

Prabhakar Raghavan enfatizará a questão da qualidade da informação e o potencial da inteligência artificial

Mecanismos de Busca e Sociedade: Qualidade da Informação e Potencial da Inteligência Artificial é o tema da conferência de Prabhakar Raghavan, vice-presidente sênior do Google, no dia 22 de agosto, às 10h, no Auditório István Jancsó da Biblioteca Brasiliana Guita e José Mindlin.

O evento é organizado pelo IEA, Instituto de Matemática e Estatística da USP e Google. Será em inglês, com tradução simultânea. Para participar é preciso efetuar inscrição prévia. Recomenda-se chegar com 15 minutos de antecedência.

Raghavan é responsável globalmente pelos produtos de conhecimento e informação do Google. Ele e sua equipe de tecnólogos e engenheiros em todo o mundo administram vários produtos da empresa, incluindo Busca, Notícias, Mapas, Publicidade, Assistente, Comércio e Pagamentos.

Na conferência, ele discutirá algumas das questões prementes de pesquisa, política e sociedade enfrentadas pelos mecanismos de busca na internet e pela sociedade, com foco particular na qualidade da informação e no potencial da inteligência artificial.

Os organizadores destacam que o evento será uma rara oportunidade de ouvir Raghavan diretamente sobre "a realidade operacional de liderar um mecanismo de busca global e a diversidade de questões técnicas e regulatórias que podem afetar o ambiente digital".

Raghavan é um dos principais tecnólogos do mundo e tem mais de 20 anos de experiência em algoritmos de busca, pesquisa na web e bancos de dados. Ele publicou mais de 100 artigos, emitiu 20 patentes e escreveu dois livros para pós-graduandos. É membro da Academia Nacional de Engenharia dos Estados Unidos, da Associação para Máquinas de Computação e do Instituto de Engenheiros Eletricistas e Eletrônicos (IEEE) global. Foi professor consultor de ciência da computação na Universidade Stanford, onde conheceu os fundadores do Google, Larry Page e Sergey Brin, que foram seus alunos.

Mecanismos de Busca e Sociedade: Qualidade da Informação e Potencial da Inteligência Artificial
22 de agosto, 10h
Auditório István Jancsó da Biblioteca Brasiliana Guita e José Mindlin (rua da Biblioteca, 21, Cidade Universitária, São Paulo, SP)
Requer inscrição prévia - Evento em inglês, com tradução simultânea 
Mais informações: com Sandra Sedini (sedini@usp.br), telefone 11 3091-1678
Página do evento

Foto: Divulgação Google

A consequência dessa mudança de comportamento é "a estagnação da web", segundo Prabhakar Raghavan, vice-presidente sênior do Google. Para ele, no entanto, há muito o que explorar de informações confiáveis e de formas variadas fora do chamado "jardim murado" (walled garden) da internet, como é chamado o mundo dos aplicativos e plataformas extraweb.

Essa foi a visão que ele apresentou na conferência Mecanismos de Busca e Sociedade: Qualidade da Informação e Potencial da Inteligência Artificial, no dia 22 de agosto, evento organização pelo Google, IEA e Instituto de Matemática e Estatística (IME) da USP.

O maior desafio para essa exploração do conteúdo da web manter-se de grande relevância para os indivíduos e a sociedade, como tem sido até agora, é encontrar o equilíbrio ente os interesses dos anunciantes e a preservação da individualidade dos usuários dos mecanismos de busca, segundo Raghavan.

A estagnação da web depois de mais de 20 anos de crescimento exponencial na produção de conteúdo para sites e portais deve-se à maior facilidade de inclusão de conteúdo em aplicativos, explicou o conferencista. Apesar de o usuário ter o trabalho adicional de instalar o aplicativo, registrar-se nele e, eventualmente, atender a outros pré-requisitos (características que definem o "jardim murado"), tem maior facilidade para inserir conteúdo, ao contrário de todo o trabalho para registar, produzir, hospedar e atualizar um site web.

Melhorias do sistema

Raghavan afirmou que o Google tem se empenhado em diversas frentes para melhorar o acesso às informações e tentar garantir que elas tenham a qualidade desejável. Isso inclui ações como o aprimoramento dos sistemas de tradução de conteúdo em inglês para outras línguas.

Segundo ele, as equipes da empresa propõem milhares de melhorias todo ano, mas a maioria é rejeitada. "O processo de decisão do que será aproveitado constitui o centro de melhoria do sistema: há 60 mil avaliadores de alterações espalhados pelo mundo. Eles analisam o tratamento usual dado a uma busca e comparam com o resultado possível a partir de uma melhoria sugerida. A alteração é adotada quando há consenso entre os avaliadores sobre seus benefícios."

Os critérios a serem considerados pelos avaliadores estão num documento com 170 páginas disponível a todos os interessados. Raghavan defendeu a divulgação das políticas da empresa: "A norma é tornar as políticas públicas; cabe ao usuário decidir se confia ou não no mecanismo".

Ele exemplificou duas posturas básicas do mecanismo que o fazem apresentar uma resposta ou não. Se alguém pergunta se os EUA mantêm corpos de seres alienígenas, aparecerão muitas opiniões, mas o sistema não indicará uma resposta. Mas se alguém perguntar se o Brasil é maior que A Austrália, o sistema responderá que sim, pois há consenso sobre o fato e fontes confiáveis que certificam a informação.

Raghavan mencionou vários outros critérios para exclusão de conteúdos nas buscas, como a presença de abuso de crianças, informações extremamente pessoais, spams, entre outros. A inserção de publicidade é vetada em determinadas situações, como no caso de material de caráter nazista.

Ele destacou a importância de melhoria do letramento digital dos usuários para que obtenham informações mais confiáveis. Uma delas é o acesso a informações sobre a fonte, que pode ser visto ao clicar nos três pontos verticais do lado direito de cada URL indicada na pesquisa, bem como os alertas sobre informações duvidosas.

Não é verdade que o Google apresente resultados e anúncios direcionados por possuir um perfil detalhado do usuário, afirmou. “Não queremos personalizar resultados, a não ser que isso traga benefícios às pessoas.” Isso acontece, por exemplo, na busca de uma rota no Google Maps: "Com as informações de várias pessoas que utilizam o sistema, é possível evitar congestionamentos. Isso foi importante durante a pandemia, pois permitiu saber onde havia aglomerações de pessoas".

No caso da publicidade apresentada depois da manifestação do interesse em algum produto, explicou que o Google não tem um perfil armazenado sobre o usuário, como muitos pensam, trata-se apenas do reconhecimento de cookies implantadas no celular do usuário quando acessa um site. O sistema de anúncios reconhecerá, por exemplo, o cookie de um site de vestidos consultado e passará a apresentar publicidade de vestidos.

“Se for extinto esse reconhecimento de dados, acabará o sistema da web aberta”, disse. Então, o grande problema é como resolver a relação entre oportunidades para a publicidade e o nível de preservação da privacidade a ser assegurado aos usuários. O interesse do Google, segundo Raghavan, é que as pessoas tenham interesse por várias coisas e seja possível rastrear seus interesses.

Explicou que ao se fazer uma busca, no topo de relação de páginas web indicadas podem aparecem de um a quatro anúncios ou nenhum, de acordo com o tipo de pergunta. Os anúncios que aparecem primeiro não são necessariamente os que pagam mais ao Google. É feita uma correlação entre o valor pago pelo anunciante e a relevância de seu anúncio em outras buscas.

Inteligência artificial

Ele abordou também as aplicações de ferramentas de inteligência artificial nas buscas. Uma delas é a que permite a busca oral, quando o usuário fala o que quer pesquisar em vez de digitar. Para exemplificar a importância do recurso, comentou que esse tipo de busca representa 5% do total nos EUA, mas é de 30% na Índia. Daí o interesse em aprimorá-lo, uma vez que o sistema só reconhece adequadamente 80% do que é dito, disse.

No caso de imagens, há as possibilidades oferecidas pelo Google Lens, que pode identificar inúmeras coisas, como a espécie de uma planta fotografada e suas eventuais doenças. "Os estudantes usam esse recurso inclusive para resolver problemas matemáticos: basta fotografá-lo e virá uma a resposta, se é uma equação quadrática, por exemplo, e como solucioná-la."

Raghavan lembrou o desenvolvimento do Bert (Bidirectional Encoder Representations for Transformers), uma ferramenta baseada em rede neural para processamento de linguagem natural pré-treinada lançado pelo Google em 2018. "O Bert foi produzido para entender melhor os documentos nas buscas, mas com o passar dos anos ajudou a entender melhor as próprias buscas." O Bert reconhece os substantivos e a prioridade a ser dada a cada um. Este ano o Google lançou o Bard, um chatbot aberto aos usuários brasileiros em julho. No entanto, como alertou, as respostas apresentadas por chatbot como o Bard ainda devem ser avaliadas com cautela.

A principal dificuldade dos mecanismos de busca e outras ferramentas para a obtenção de informações consiste em conseguir uma regulagem fina que permita, ao mesmo tempo, nível elevado de factualidade (consistência da informação) e fluidez na experiência do usuário, afirmou o conferencista.

Raghavan encerrou sua conferência comentando recursos do Google que contribuem com a sustentabilidade. Em muitos países, as rotas indicadas pelo Google Maps, por exemplo, levam em consideração qual é o percurso mais verde, com menor emissão de gases efeito estufas pelo meio de transporte utilizado. Os cálculos indicam que isso permitiu a redução na emissão de gases correspondente ao que 250 mil automóveis produzem durante um ano. Nas pesquisas sobre voos e rotas aéreas também é possível escolher a opção com menor pegada de carbono.

Abertura

A abertura do evento com Raghavan foi prestigiada com a presença do reitor da USP, Carlos Gilberto Carlotti Junior, que lembrou as parcerias já mantidas pela Universidade com o Google, caso do serviço de e-mail de docentes, servidores e estudantes; de Liedi Bernucci, diretora presidente do Instituto de Pesquisas Tecnológicas (IPT) do Estado de São Paulo, que deverá sediar um Centro de Engenharia do Google; da vice-diretora do IEA, Roseli de Deus Lopes; e do presidente da Comissão de Pesquisa e Inovação do IME-USP, Alfredo Goldman.

Miriam Wimmer, diretora da Autoridade Nacional de Proteção de Dados (ANPD)

Apesar de já há algum tempo ter enorme peso econômico e importância para o desenvolvimento de diversos setores, o fluxo internacional de dados digitais encontra várias barreiras no embate entre as várias legislações nacionais a ele aplicáveis.

Evidentemente, a coleta, o processamento e uso de dados no âmbito nacional ou internacional exigem salvaguardas para a garantia de aspectos como a privacidade e a concorrência econômica. Daí a importância de arcabouços legais como a Lei Geral de Proteção de Dados (LGPD) (13.709/2018) para o contexto brasileiro.

Como tudo relacionado à evolução tecnológica, o sistema digital caracteriza-se como um verdadeiro ecossistema em permanente transformação, marcado atualmente pela intensa participação da inteligência artificial (IA) e sua demanda por dados pessoais.

Todos esses temas estiveram presentes na programação do IEA em agosto por ocasião de dois eventos com a participação da diretora da Autoridade Nacional de Proteção de Dados (ANPD), Miriam Wimmer. No dia 1º de agosto, ela foi a expositora principal da mesa Fluxo Internacional de Dados: Aspectos Regulatórios, integrante da programação da edição 2023 da Escola São Paulo de Ciência Avançada de Diplomacia Científica e da Inovação (InnScid SP, na sigla em inglês), realizada de 24 de julho a 4 de agosto, no Centro de Inovação (Inova) da USP.

O segundo encontro em que Wimmer foi expositora foi Regulação da IA: Qual Deve ser o Papel da ANPD?, no dia 22 de agosto, seminário do ciclo Desafios e Oportunidades da IA - Perspectivas Setoriais, organizado pelo Observatório da Inovação e Competitividade, núcleo de apoio à pesquisa (NAP) sediado no IEA.

Doutora em políticas de comunicação e cultura pela Universidade de Brasília e mestre em direito público pela Universidade do Estado do Rio de Janeiro (Uerj), Wimmer dirige a ANDP desde a criação do órgão há dois anos e meio. Ela integra o quadro técnico do governo federal desde 2007, tendo trabalhado no antigo Ministério das Comunicações e no Ministério de Ciência, Tecnologia, Inovação e Comunicações, onde coordenou a elaboração da Estratégia Brasileira para a Transformação Digital.

Em sua participação na InnSciD SP, Wimmer destacou que o fluxo internacional de dados levanta questões complexas sobre jurisdição legal e soberania. Além disso, “os sistemas legais nacionais competem entre si, o que cria dificuldades para os negócios e os indivíduos e até mesmo para a pesquisa acadêmica”.

Nova fase da globalização

Ela apresentou gráfico de relatório publicado por dois pesquisadores do  Centro de Pesquisa de Economia Política (CEPR, na sigla em inglês) com a indicação de um crescimento de 45 vezes no fluxo de dados internacionais entre 2005 e 2016, com a estimativa de um valor anual de US$ 2,8 trilhões em 2016 e a perspectiva que chegue a US$ 11 trilhões em 2025. “Esse relatório indica que estamos entrando em uma nova fase da globalização, marcada pelo comércio, finanças e fluxo internacional de dados”, afirmou.

Outro documento comentado por Wimmer foi um white paper lançado em agosto de 2022 pela  Câmara Internacional de Comércio (ICC, na sigla em inglês) sobre Acesso Confiável de Governos a Dados Pessoais Mantidos pelo Setor Privado. Ela ressaltou que o documento trata de questões sensíveis que impactam o fluxo internacional de dados. O white paper menciona que ao mesmo tempo que esse fluxo é crucial para uma economia interconectada, as tentativas de governos nacionais de acessar dados mantidos por empresas privadas reduzem a confiança nesse fluxo internacional de dados, disse.

Por outro lado, muitos países estão perdendo acesso a  dados transferidos internacionalmente, e vemos um grande  número de países adotando políticas, por exemplo, exigindo que os dados estejam localizados em seu território ou criando restrições legais ou econômicas em relação a transferências internacionais de dados.

Crescimento em terabytes por segundo da banda de transmissão de dados internacionais (fonte: Telegeography; McKinsey Global Institute analysis, 2019)

Em muitos países, discute-se um armazenamento compulsório dos dados no próprio território e até mesmo regras para acesso de governos à armazenagem em outros países, afirmou. “Isso cria uma quantidade significativa de consequências sociais, políticas e econômicas, porque quando os dados não podem fluir entre países seu valor é de alguma forma capturado ou retido dentro território nacional. Ficamos impossibilitados de obter o uso adequado dos dados”, disse.

Barreiras ao fluxo de dados

Outro documento comentado por Wimmer se chama “Medindo o Valor Econômico de Dados e o Fluxo de Dados entre Países – Uma Pesquisa Comercial”, produzido por um grupo de trabalho sobre privacidade e segurança da Organização para a Cooperação e Desenvolvimento Econômico (OCDE).

O documento apresenta um sumário dos tipos de barreiras ao fluxo internacional de dados:

• muitos países exigem o armazenamento e processamento de dados em servidores locais;
• há países com regulamentação para a proteção de dados que regulam a coleta, utilização e transferência de dados pessoais (o exemplo mais abrangente é a Regulação Geral sobre a Proteção de Dados [GDPR na sigla em inglês] da União Europeia e a LGPD brasileira);
• há países com leis sobre competição e antitruste adaptadas ao mercado digital (exemplo: votação no Parlamento Europeu de lei para a divisão das operações do Google na União Europeia);
• mecanismos de cibersegurança: conjunto de tecnologias, processos e controles projetados para proteger sistemas, redes e dados de exploração não autorizada (um exemplo disso é o trabalho da União Europeia para a introdução de um processo de certificação para a internet das coisas [IoT, na sigla em inglês] para aumentar a cibersegurança dos dispositivos);
• direito de propriedade intelectual (por exemplo, sobre conteúdos digitais como músicas, filmes e livros);
• restrições ao uso da internet, censura e bloqueios contra a transferência de dados (“Experimentamos isso no Brasil algumas vezes em 2017 e, mais recentemente, em relação ao WhatsApp e ao Telegram, com a aplicação da lei local e enormes impactos”, exemplificou Wimmer).

Rede de cabos submarinos para transmissão de dados

Ela comentou que a sociedade está acostumada a um conceito de soberania e jurisdição fortemente ligado ao aspecto físico, ao território, mas quando discute a internet, tende a retratá-la com uma nuvem, algo abstrato e distribuído, onde as fronteiras são irrelevantes. “No entanto, quando se examina a forma como a internet é estruturada, vemos que não há nuvem, apenas o computador de alguém”, comentou. “É uma rede física, com cabos submarinos conectando países, diferentes regimes legais, redes baseadas em protocolos de organizações governamentais e não governamentais.”

Essa fisicalidade conectada leva à tentativa de identificar a qual legislação nacional uma questão se sujeita, mas isso depende de vários fatores, “o que cria um grande problema não só na aplicação da lei como também em relação aos direitos individuais”, afirmou Wimmer.

“No Brasil temos um direito fundamental à proteção de dados pessoais, mas esse não é o caso dos EUA. Temos um sistema de checks and balances e obrigações legais para os serviços de inteligência coletarem certo tipo de informação, mas isso não se aplica nos EUA, China e outras jurisdições.”

Além disso, nos últimos anos tem havido uma proliferação de legislação sobre o ambiente digital, com regras de proteção de dados, sobre acesso a mercados digitais e sobre inteligência artificial, comentou. “Muitas dessas leis têm alcance extraterritorial, uma vez que estabelecem coisas independentemente de onde os dados estão armazenados.”

Em paralelo a isso, há também a emergência da regulação privada, uma vez que as big techs (Meta [Facebook, Instagram e WhatsApp], Microsoft, Apple, X [antigo Twitter], Amazon e Alphabeth [Google]) e outras empresas de tecnologia exigem a subscrição de seus termos de uso e obediência a critérios sobre que conteúdo é aceitável inserir em seus serviços, como atingir maior audiência, quais as condições para menores de idade os utilizarem etc.

Wimmer lembrou que as redes sociais removeram conteúdos postados por políticos e que “isso às vezes desafiou normas e violou direitos de expressão, mas a resposta das empresas foi simplesmente que essas eram suas regras e se aplicavam ao ciberterritório de seus serviços”.

Soberania e cibersegurança

Um conceito muito discutido na Europa e mais recentemente no Brasil é o de soberania digital, um conceito muito abstrato e que está sendo utilizado de forma bastante flexível para descrever muitos tipos de fenômenos, afirmou Wimmer.

Uma referência mencionada por ela sobre várias ideias relacionadas com a soberania digital europeia é o paper “Towards a More Resiliente Europe  Post-Coronavirus” (para uma Europa mais resiliente pós-coronavírus), publicado pelo Parlamento Europeu em abril de 2021.

Os governos nacionais devem estar seguros de sua capacidade de supervisionar e controlar infraestruturas críticas, de acordo com a diretora da ANPD

No entanto, vários países americanos já contam com equipamentos da Huawei para as tecnologias 4G e 3G. “A questão era convencer os países a utilizarem equipamentos americanos, talvez.”

“A discussão sobre o 5G e cibersegurança está conectada com a soberania digital, pois os países devem estar seguros de sua capacidade de supervisionar e controlar infraestruturas críticas”, afirmou.

Outro ponto ligado à soberania digital está relacionado com a competição. “As big techs adquiriram tamanha predominância, dada a vantagem competitiva adquirida com a enorme quantidade de dados que coletam e processam, que inibem a capacidade de inovação e competição de empresas daqui ou da Ásia. E quando alguma startup se torna competitiva é adquirida por uma grande companhia.”

Proteção de dados e privacidade

Também merece atenção, segundo Wimmer, a proteção de dados e da privacidade, um dos hot topics da atualidade. “Temos hoje em dia programas acadêmicos muito interessantes sobre a ideia de vigilância digital e capitalismo de vigilância. O modelo atual de negócios é construído a partir da coleta de informações pessoais e sua transformação em commodities de maneira a torná-los inputs para criação de valor por grandes companhias do Hemisfério Norte”, disse.

A partir desse quadro geral, Wimmer discutiu como a discussão sobre soberania digital e transferência de dados entre países está conectada com proteção de dados pessoais e privacidade.

Segundo ela, 140 países já possuem algum nível de legislação para proteção de dados e privacidade. “O que muitas dessas legislações têm em comum é a abordagem ex ante [expectativa do que irá ocorrer] em relação à proteção de dados, a qual é, basicamente, a abordagem europeia.”

Muitas leis possuem alcance extraterritorial, não importando onde o banco de dados está instalado

Ela explicou as características dessa abordagem. A primeira está ligada à ideia de que ao tratar de proteção de dados pessoais estão sendo protegidos direitos fundamentais, porque esses dados são uma projeção da personalidade da pessoa, sua aparência física, status, coisas que gosta de fazer, família, orientação sexual e outros elementos que a definem, afirmou. “É preciso alguma espécie de controle sobre o que é feito com meus dados pessoais. Eles não podem ser utilizados para me prejudicar, piorar minha situação econômica, social ou política de alguma maneira.”

Por esse motivo, muitos países têm reconhecido a ideia dos direitos fundamentais no que se refere à proteção de dados pessoais e “isso implica proteção do ponto de vista das organizações privadas e do próprio governo, que precisa agir de acordo com certos princípios e regras”. A noção de dados pessoais é geralmente abrangente, “pois não estamos tratando apenas de identificar indivíduos, mas também de indivíduos identificáveis [que podem ser identificados a partir de dados não pessoais]".

Outro aspecto é que essas leis trazem vários princípios importantes para a criação de uma espécie de fricção no que se refere a novas tecnologias, um princípio de minimização de dados, para não haver coleta de dados maior do que o necessário para o que é intencionado, explicou. Há também a limitação ou especificação da intenção: “Isso significa que quando coletamos dados de alguém, devemos informar claramente o que faremos com eles e que não faremos nada mais do que isso”.

Wimmer pondera que, ao tratar de big data, aplicações de inteligência artificial e uso comercial de dados pessoais, esses princípios de fato criam fortes limitações. “E são princípios muito tradicionais, mencionados pela OCDE no início dos anos 80, e agora presentes em muitas legislações de proteção a dados no mundo.”

Finalmente, ela destacou a criação de uma autoridade de proteção de dados independente e com um espectro amplo de responsabilidades, que inclui a supervisão dos setores público e privado e, em muitos países, regulações para a transferência de dados internacionais.

Muitas legislações produzem efeitos extraterritoriais bastante definidos, disse. O exemplo claro disso é a legislação da União Europeia, que “se aplica tanto a processadores de dados instalados na UE, não importando se os dados estão nela ou não, quanto a processadores de dados externos cuja atividade tenha como alvo o mercado da UE".

“A mesma coisa acontece no Brasil, com a LGPD [Lei Geral de Proteção de Dados, 13.709/2018], que se aplica não importa onde a companhia tenha sua sede e onde os dados estão armazenados, desde que o processamento dos dados ocorra no Brasil para o fornecimento de bens ou serviços, ou se o processamento envolve dados de indivíduos residentes no Brasil, ou se os dados pessoais a serem processados foram coletados no Brasil.”

Wimmer: ''O modelo atual de negócios é construído a partir da coleta de informações pessoais e sua transformação em commodities de maneira a torná-los inputs para criação de valor por grandes companhias do Hemisfério Norte''

Graus de restrições ao fluxo

Wimmer ressaltou a complexidade para os dados serem transferidos internacionalmente, já que as legislações dos diversos países competem entre si.

Ela citou o artigo “Trade and Cross-Border Data Flows” [comércio e fluxo de dados transfronteiriços], de 2019, produzido por dois técnicos da OCDE, Francesca Casalini e Javier López González. “O trabalho apresenta uma taxonomia muito interessante sobre abordagens quanto a fluxos de dados internacionais.”

No quadro apresentado pelo artigo, uma coluna é dedicada aos países onde há ausência de regulação ou acontece um fluxo livre com regulação pelo setor privado, “ou seja, faça o que quiser e se algo errado acontecer, veremos o que fazer”.

A coluna intermediária inclui casos como os da União Europeia e do Brasil, em que há diferentes instrumentos para habilitar o fluxo internacional, que vão desde o reconhecimento da adequação (em que um país reconhece outro país com nível similar de proteção) até mecanismos contratuais e certificação.

A terceira coluna é dedicada a sistemas bem restritivos, onde o fluxo internacional de dados não é permitido, exceto se uma autoridade de proteção autorizar ou houver uma decisão de adequação.

Segundo Wimmer, o sistema brasileiro é relativamente similar ao europeu, com a diferença que, enquanto na União Europeia certo número de mecanismos para o fluxo internacional de dados são considerados “derrogações”, excepcionais, não podem ser utilizados para transferências operacionais, no Brasil há outras condições, que podem ser utilizadas em qualquer caso: cooperação legal internacional para aplicação da lei; proteção da vida ou segurança física; autorização pela ANPD; acordos de cooperação internacionais; política pública; consentimento; observância de obrigação legal ou regulatória; execução de contrato; exercício de direitos.

Ela lembrou que outros países possuem diferentes abordagens. “A questão é se nós, enquanto sociedade, consideramos benéfica a transferência internacional de dados, num contexto em que mais de uma centena de países possuem diferentes sistemas legais e diferentes fluxos de dados. Como podemos fazer isso funcionar?”

Para ela, a melhor postura é “pressionar fortemente por decisões de adequação”. Numa relação assim, “os europeus dirão: o Brasil tem legislação similar à nossa, então discutiremos decisões de mútua adequação”. O problema é multiplicar esse tipo de relação mutual para 140 países, considerando as diferentes nuances entre seus sistemas legais, ponderou.

A tendência, disse, é a adoção de instrumentos contratuais, como as chamadas Standard Contractual Clauses (SCC) [cláusulas contratuais padrão], ou ainda a adoção de alguma espécie de certificação ou código de conduta, “quando uma companhia é certificada de forma privada e reconhecida como cumpridora de um certo nível de proteção na transferência de dados entre países”.

Diferenças entre EUA e União Europeia

Para Wimmer, um dos principais desafios internacionais está em habilitar a transferência de dados entre UE e EUA, que possuem sistemas muito diferentes. “Os Estados Unidos não têm uma proteção geral de dados. Não há legislação federal, não há direitos fundamentais quanto à proteção de dados. Por outro lado, há muitas leis estaduais. A Comissão Federal de Comercio dos Estados Unidos está trabalhando nessa questão, mas sob a ótica de práticas injustas ou enganosas, o que é uma abordagem completamente diferente."

Ela citou o caso de Max Schrems, um ativista austríaco que por três vezes impediu acordos internacionais de transferência de dados entre EUA e EU. “O seu argumento é que não importa o quanto uma companhia seja certificada e os compromissos que assuma, pois os serviços de inteligência dos EUA têm permissão para acessar dados pessoais”. Em julho, foi anunciado um novo acordo entre a EU e os EUA, e Schrems manifestou seu descrédito no X logo em seguida: "Em geral, trata-se de uma cópia de velhos princípios”.

Uma vez que os benefícios do fluxo internacional de dados são muito claros, a questão que se coloca é “como resolver as diferentes abordagens quanto a restrições, soberania, proteção a dados pessoais e propriedade intelectual, salvaguardas, aplicação da lei etc.”, afirmou Wimmer.

“Esse é um dos mais estimulantes pontos de discussão em diferentes organizações internacionais, não apenas aquelas ligadas à proteção de dados, como a Global Privacy Assembly. A questão está presente em relatórios produzidos pelo Fórum Econômico Mundial, pela OCDE e em anexos de dois ou três encontros do G7”, afirmou.

Wimmer frisou que “a solução para a questão ainda não está clara, mas talvez esteja claro o que devemos desejar: precisamos de melhores acordos e arranjos para facilitar a cooperação legal internacional: essa é uma das dificuldades que temos na mesa hoje em dia”.

Imagens (a partir do alto): Roque de Sá/Agência Senado; Telegeography; Wikimedia; Pxfuel; Rawpixel; Wikimedia; X

Veridiana Cordeiro, responsável pelo lançamento da plataforma

Veridiana Cordeiro, pesquisadora associada do IEA e professora da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH-USP), afirmou no evento de lançamento da plataforma que “nem sempre o material sobre IA é de boa qualidade”. Líder da iniciativa, ela acredita que a plataforma UAI funciona como um “grande filtro”.

“O site vai ajudar a nos direcionar como se fosse um GPS da IA, que dá os caminhos de qualidade para chegarmos onde quisermos”, comentou a pesquisadora. Para ela, depois do furor em torno do Chat GPT, a universidade começou a buscar referências sobre como usar a IA e a fazer um debate mais amplo sobre o assunto voltado à comunidade acadêmica.

Sediado no IEA, o projeto tem como parceiros o Observatório da Inovação e Competitividade, do IEA, e o Scientific Artificial Intelligence Map, dentro do Center for Artificial Intelligence (C4AI). Veridiana Cordeiro afirmou que a Plataforma UAI, que já tem 43 pesquisadores associados, é uma iniciativa aberta e fez um convite público a pesquisadores do assunto para contatá-la.

O site se divide em seis frentes, cada uma com uma coordenação e um grupo de pesquisadores. São eles: ética; governança; setor público; sociedade e cultura; saúde; e regulação. Os organizadores buscam pesquisadores para abranger uma sétima frente, a da educação.

A plataforma tem três tipos principais de conteúdo. As notas críticas, que são pequenos artigos escritos pelos pesquisadores da iniciativa, irão discorrer sobre algum assunto em voga ou alguma expectativa dos especialistas. Na área de notícias, serão indicadas reportagens confiáveis sobre IA, que passarão por uma curadoria dos organizadores do projeto. A plataforma também tem uma seção dedicada a pequenas entrevistas com pesquisadores, autoridades e desenvolvedores que são referências no uso e estudo da IA em suas áreas.

Além desses materiais, o site também disponibiliza repositórios com os artigos científicos mais relevantes na análise dos pesquisadores. Os textos terão caráter introdutório e serão revistos anualmente para manter o conteúdo atualizado.

Glauco Arbix, integrante do Grupo de Pesquisa Observatório da Inovação e Competitividade do IEA, afirmou durante o lançamento que a plataforma também pretende “abrir caminho para pesquisadores mais jovens que estão procurando referências e materiais de qualidade” sobre a IA e seus impactos.

Alguns dos integrantes da iniciativa estiveram presentes no evento de lançamento da plataforma e comentaram sobre como suas frentes tratarão dos assuntos:

Saúde

Caio Portella, doutorando da faculdade de Medicina da USP, mencionou a desinformação entre profissionais da saúde sobre a IA. Para ele, falta material de referência sobre novas ferramentas de diagnóstico e de tratamento terapêutico. “A Plataforma se propõe a organizar e reunir pesquisadores para facilitar a transição tecnológica”, disse.

Ética

“Se reunirmos dez filósofos para chegar a uma conclusão, eles certamente chegarão a quinze conclusões”. A anedota contada por Lucas Petroni, filósofo e cientista político que integra o grupo de ética da plataforma, se refere ao tamanho do desafio de debater ética no complexo campo da IA.

A estratégia adotada para chegar a resultados práticos será afunilar as questões e centrar em critérios de avaliação normativa da inteligência artificial que possam ser “usáveis”, segundo Petroni. “Vamos fazer uma reflexão mais pertinente e pontual sobre problemas específicos”, afirmou.

Regulação

O coordenador da frente de regulação, Leonardo Peixoto Barbosa, disse que a sua frente irá entender as estratégias regulatórias que estão em curso em outros países, em grupos de países e, sobretudo, no Brasil. “A gente quer entender o papel da influência do poder regulatório de alguns países e de algumas lideranças econômicas globais sob o desenvolvimento da tecnologia aqui no Brasil”, afirmou o mestre em direito econômico pela USP.

Setor Público

Para Rodrigo Brandão, mestre em ciência política e doutorando em sociologia pela USP, o Estado, além da regulação, tem dois papéis principais na relação com a IA. O setor público pode coordenar o desenvolvimento da tecnologia através de estratégias nacionais e de políticas públicas necessárias para levar essas estratégias adiante.

Outro campo de análise é o uso da IA pela máquina pública. Na análise de Brandão, a máquina pública pode usar a IA para ajudar a melhorar “uma série de procedimentos públicos, processos de elaboração e políticas públicas”. Mas se não for bem utilizada, segundo o pesquisador, abre margem a uma vigilância excessiva do Estado. “Como potencializar os benefícios dessa tecnologia no setor público reduzindo os riscos?”, é a questão sobre a qual o grupo vai se debruçar.

Sociedade e Cultura

Para Veridiana Cordeiro, que coordena a frente, sociedade e cultura “abrigam muita coisa”, mas atualmente o grupo é formado por sociólogos e antropólogos. O grupo vai abordar os  impactos da inteligência artificial no mundo do trabalho, na violência, policiamento preditivo. “Iremos abarcar várias temáticas, mas a partir de uma perspectiva sociológica”, afirmou.

O Grupo de Estudos Direito e Tecnologia (TechLaw) do Instituto de Estudos Avançados Polo Ribeirão Preto da USP promove no dia 31 de outubro, a partir das 19h, a conferência “Inteligência Artificial e Profiling: desafios jurídicos”. O evento tem a parceria do Centro de Inteligência Artificial da USP (C4AI).

A conferência será exclusivamente on-line, com transmissão pelo canal do C4AI no YouTube. As inscrições são gratuitas e devem ser feitas por este link. Haverá envio de certificado aos participantes mediante preenchimento de formulário que será postado no chat da ferramenta durante o evento.

O palestrante será o diretor do Instituto Avançado de Proteção de Dados (IAPD), Rafael Meira Silva. Ele vai abordar os desafios para o direito e para a democracia que a definição de perfil (profiling) realizada por sistemas de inteligência artificial voltados à tomada de decisões apresenta. Outros tópicos explorados na conferência serão a proteção de dados inferidos pessoais para a definição de perfil e a Lei Geral de Proteção de Dados, o uso de profiling pelo setor público para a classificação de cidadãos, "dataveillance" e garantias constitucionais.

Segundo Rafael, apesar dos desafios, não se pode deixar de ressaltar as vantagens da definição de perfil para melhorar a eficiência no local de trabalho, para fornecer serviços públicos com mais qualidade, para a oferta de sugestões que atendam às expectativas dos usuários e para a trilha de aprendizado na área da educação. Ele destaca que é tarefa do direito regular o tema sem interferir na inovação, buscando maximizar os benefícios trazidos pela inteligência artificial.

Rafael Meira Silva é doutor pela Faculdade de Direito da Universidade de São Paulo, com doutorado sanduíche na Université Panthéon-Sorbonne e graduado pela FD-USP. Foi diretor da Corregedoria do Governo do Estado de São Paulo entre 2010 e 2014. É consultor jurídico para empresas de tecnologia na União Europeia, pesquisador da iniciativa "Understanding Artificial Intelligence" (U.A.I) do IEA-USP, diretor do Instituto Avançado de Proteção de Dados (IAPD) e sócio do M&G Sociedade de Advogados.

Mais informações sobre o evento: iearp@usp.br.

Sobre o grupo

O Grupo de Estudo Direito e Tecnologia (Tech Law) tem como objetivo principal o estudo interdisciplinar de temas que envolvem áreas de Direito e da Ciência da Computação, bem como analisar as características e os desafios da sociedade informacional. Para saber mais, acesse a página do grupo.

Para saber mais sobre outros eventos realizados ou apoiados pelo Instituto de Estudos Avançados Polo Ribeirão Preto da USP, siga nossas redes sociais e inscreva-se em nosso canal no Telegram ou entre em nosso grupo no Whatsapp.