Seminário apresentará resultados de pesquisa sobre decisões judiciais envolvendo incidentes de IA
A Cátedra IA Responsável, parceria da USP com o Google sediada no IEA, realiza em 14 de setembro, às 14h, o seminário “Classificação de Incidentes de IA”. O evento será realizado na Sala do Conselho Universitário da USP. A participação é aberta ao público e gratuita, mediante inscrição prévia.
Durante o encontro, serão apresentados resultados iniciais de uma pesquisa desenvolvida ao longo dos últimos cinco anos no Centro de Inteligência Artificial (C4AI) da USP. O estudo analisou decisões do Tribunal de Justiça do Estado de São Paulo (TJ-SP) com o objetivo de identificar situações envolvendo falhas, danos, riscos e efeitos adversos associados a sistemas de inteligência artificial.
A pesquisa monitorou mensalmente decisões judiciais de segunda instância do TJ-SP e reuniu cerca de 30 mil acórdãos até agosto deste ano. A partir da aplicação de uma lista de 102 termos de referência e de metodologias da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) e da Organização Internacional de Normalização (ISO), foram selecionados e analisados 600 acórdãos.
Entre os casos identificados, destacam-se ocorrências relacionadas ao uso de biometria e reconhecimento facial, principalmente em processos envolvendo análises para concessão de crédito bancário, segundo a coordenadora da pesquisa, Cristina Godoy, pesquisadora da Cátedra IA Responsável.
Um dos resultados que serão apresentados é um glossário de termos relacionados a incidentes de IA elaborado a partir da análise dos acórdãos. O material deverá subsidiar o Observatório de Incidentes de IA da cátedra na elaboração de uma ontologia preliminar (modelo que organiza conceitos e relações entre eles) e de uma taxonomia-piloto para classificar os incidentes identificados nas decisões judiciais.
“Esse material vai nos servir para a construção da taxonomia dos incidentes e realizar o trabalho de ontologia para o Observatório de Incidentes de IA”, afirma Godoy.
Segundo a pesquisadora, o objetivo do seminário é reunir perspectivas acadêmicas, jurídicas e tecnológicas para discutir como incidentes envolvendo inteligência artificial podem ser identificados, descritos e classificados.
O encontro terá ainda como expositores David Bledin, vice-presidente de Confiança e Segurança e de IA Responsável do Google; Cristine Hoepers, do Núcleo de Informação e Coordenação do Ponto BR (NIC.br); e Alexandre Pacheco, da Escola de Direito de São Paulo da Fundação Getulio Vargas (FGV Direito SP).
Bledin falará sobre os testes aplicados pelo Google a produtos e serviços relacionados à IA. Hoepers abordará incidentes na internet de maneira mais ampla, incluindo aqueles que não estão necessariamente relacionados ao uso de inteligência artificial. Pacheco tratará dos aspectos jurídicos dos incidentes envolvendo sistemas de IA.
Além de pesquisadora da Cátedra IA Responsável e do Polo Ribeirão Preto do IEA, Godoy é professora da Faculdade de Direito de Ribeirão Preto da USP e integrante do Comitê Gestor do Centro de Inteligência Artificial e Aprendizado de Máquina (Ciaam) da USP.
O seminário será realizado em inglês, com tradução simultânea. A participação presencial requer inscrição prévia. O evento também poderá ser acompanhado pelo canal do IEA no YouTube. A realização conta com o apoio do NIC.br e da FGV Direito SP.
Imagem: produzida por IA (ChatGPT)