Nos últimos anos, testemunhamos uma multiplicação de instituições, tanto públicas quanto privadas, que propuseram diretrizes de governo, produziram toolkits industriais e encabeçaram discussões sobre o desenvolvimento ético da IA.

Esta palestra pretende apresentar o ecossistema global explorado no projeto de arte e pesquisa “Fluxus Landscape: Um Panorama da Ética e Governança em Inteligência Artificial”, respondendo a questões como: quem são os atores principais envolvidos nesse campo e quais tópicos eles têm explorado? Por que é preciso incluir vozes da diversidade e de artistas nessas conversas? Quais propósitos pode ter a arte no enfrentamento dos desafios de regulação das Inteligências Artificiais?

Exposição:

Şerife Wong (Icarus Salon, Estados Unidos)

Coordenação:

Glauco Arbix (OIC IEA USP)

O artista visual Eduardo Kac (na tela) falou sobre seu trabalho em bioart na abertura do 5º encontro da jornada; os outros participantes foram Marcos Cuzziol, Helena Nader (moderadora), Fábio Cozman, Bruno Moreschi (os quatro presentes na mesa, a partir da esq.) e Vanderley Bagnato

Os dois encontros da Jornada Relações do Conhecimento entre Arte e Ciência: Gênero, Neocolonialismo e Espaço Sideral realizados na última semana de agosto promoveram um diálogo entre artistas visuais, pesquisadores de arte, músicos, um matemático, um engenheiro e um psicanalista.

Esse elenco diversificado de especialistas possibilitou ao público presente na Sala do Conselho Universitário e online uma visão panorâmica sobre temas como: bioart; inteligência artificial, algoritmos genéticos e redes neurais na produção artística; a relação da luz com a matéria e as cores percebidas e supostas pelo cérebro; e a visão psicanalítica sobre as metáforas de representações construídas no inconsciente e aquelas produzidas por artistas.

Bioart

No dia 29, o tema foi A Coelha e Eu: Arte, Ciência e Tecnologia. Os expositores foram o artista visual Eduardo Kac, o físico e artista visual Bruno Moreschi, o pesquisador de arte e curador Marcos Cuzziol, do Itaú Cultural,  e dois professores da USP:  o especialista em inteligência artificial Fabio Cozman, da Escola Politécnica, e o físico Vanderley Bagnato, do Instituto de Física de São Carlos. A moderação foi da biomédica a Helena Nader, professora da Unifesp e titular da Cátedra Olavo Setubal de Arte, Ciência e Cultura, parceira da Pró-Reitoria de Cultura na organização da jornada.

A coelha citada no título do encontro é Alba, ela própria a obra de arte "GFP Bunny", produzida por engenharia genética por Kac e apresentada ao público em 2000. Alba recebeu o gene da proteína fluorescente verde (GFP, na sigla em inglês) e graças a isso se tornava verde quando exposta à luz fluorescente.

Até hoje ela é um símbolo da bioart, termo criado por Kac em 1997 para classificar outra obra sua, a "Time Capsule", que utilizava biomateriais e tecnologias da imagem. A bioart baseia-se na biologia e faz uso de moléculas como proteínas e DNA, células e organismos invertebrados e vertebrados.

Em sua exposição (por teleconferência) na abertura do encontro, Kac detalhou a realização de suas obras e os conceitos que as orientam. No caso da "GFP Bunny", explicou que o momento de sua realização era fortemente marcado pela passagem para o terceiro milênio, inclusive com o receio de pane mundial dos sistemas computadorizados devido ao chamado “bug do milênio”.

“A Alba se transformou numa espécie de símbolo da época e inaugurou um novo vocabulário artístico, que trabalha com a própria vida, mergulhando na plasticidade biológica da vida.” Ele disse que seu interesse é criar um organismo inédito, de formar a “cultivar o novo” e pelo valor simbólico que isso produz.

A participação da luz (fluorescente, no caso) na revelação da cor verde geneticamente introduzida na coelha Alba conectou-se diretamente com o tema da exposição de Bagnato, que sintetizou os aspectos envolvidos na relação da luz com a matéria e como o ser humano visualiza as cores.

"Nem tudo que enxergamos existe”, como no caso da suposição de cor amarela pelo cérebro humano quando há uma sobreposição de radiações do verde e do vermelho, uma vez que o olho humano só percebe essas duas cores e a azul, explicou o físico.

Inteligência artificial

Se o processamento pelo cérebro de informações obtidas pelos sentidos permite “ver” até o que não existe, será possível pensar em máquinas com essa capacidade, não só para a percepção de obras, mas também para participar de sua criação?

Difícil responder a essa questão no atual desenvolvimento da inteligência artificial (IA), apesar das "alucinações" que parecem ocorrer em sistemas desse tipo.

Falando sobre o desenvolvimento da IA em termos gerais, Cozman disse que há várias dúvidas técnicas, éticas e epistemológicas sobre o tema. Há duas questões básicas, segundo ele: é possível construir algo que mimetize a inteligência humana? é aceitável fazer isso?

No caso dessa AI “forte”, o “objetivo é muito mal definido”, afirmou Cozman, para quem a sociedade está se adaptando de forma pragmática a uma AI aplicada. “Mas ela é baseada em dados, diferente da humana”. Para atingir o patamar da mente humana, será preciso um grande incremento no poder computacional e na quantidade de dados analisados, de forma que uma máquina possa representar conhecimento e raciocínio, tomar decisões e aprender a partir dos dados coletados, disse o pesquisador.

Em resumo, o desenvolvimento da IA ainda está muito longe de passar no teste de Turing - formulado pelo matemático britânico Alan Turing (1912-1954) como forma de descobrir se um computador pode se passar por um ser humano -, afirmou Cozman. Além disso, a IA ainda desperta muitas dúvidas sobre sua conveniência, em razão das questões éticas, sociais e econômicas que suscita, como os impactos no mercado de trabalho, disse.

“Os artistas não estão interessados na criação de máquinas que sejam artistas”, afirmou Moreschi, cuja motivação para trabalhar com IA é analisar como ela interage com a produção artística, inclusive ao possibilitar formas de releitura da arte e crítica institucional sobre o sistema artístico.

Um dos trabalhos que desenvolveu com um grupo de pesquisadores de diversas áreas envolveu a submissão de 700 imagens de obras de arte de um museu holandês ao escrutínio de sete sistemas de IA de corporações, entre as quais Google, Facebook, Amazon e Microsoft.

Esse trabalho permitiu constar que esses sistemas, ao “observarem” as imagens de arte conceitual, muitas vezes as associam a bens de consumo triviais. Moreschi citou também outros casos de distorções interpretativas: no caso de uma obra com imagem de mulher, não importa em que contexto, o indicador relativo a erotismo do sistema do Google apresentou elevação; em alguns casos em que a imagem continha uma pessoa negra, havia elevação (menor do que no caso mulher/erotismo) do indicador vinculado à violência no sistema da Microsoft.

Ele destacou que os sistemas de IA não podem ser culpabilizados por essas distorções, "mas sim a sociedade, que tem suas características refletidas pelos sistemas".

Mas o interesse dele não é apenas desconstruir o sistema de arte e a tecnologia de IA aplicada a ele. Ele também se dedica à análise da participação humana no ensino de máquinas. Esse é o caso dos “turkers”, pessoas de baixa renda, principalmente dos Estados Unidos e da Índia, que trabalham em condições extremamente precárias e recebem valores irrisórios para cumprir tarefas que alimentam o aprendizado dos sistemas de AI, segundo Moreschi.

A exposição dedicada ao uso efetivo de recursos computacionais na produção de arte coube a Cuzziol. Ele lembrou que a concepção da chamada Máquina de Turing (computador ideal idealizado pelo matemático britânico em 1937) estabelece que ela é capaz de resolver qualquer problema, desde que tenha memória e tempo suficiente para isso.

Imprevisibilidade

No entanto, “nem tudo o que o computador faz é previsível”, de acordo com Cuzziol. Citou como exemplo disso, as “alucinações” de sistemas de IA comentadas por Moreschi na exposição anterior, como o caso de um sistema indicar pessoas inexistentes ao identificar os trabalhadores que montaram a 33ª Bienal de São Paulo.

Cuzziol também tratou do uso, na produção artística, de algoritmos genéticos (criação de uma “população” por simulação numérica para a solução de algum tipo de problema) a redes neurais (simulam as interações de um cluster de neurônios). Ele ilustrou sua apresentação com imagens e vídeos de obras de artes de vários artistas que utilizam esses recursos.

O uso da tecnologia digital na produção artística também foi abordado no encontro que se seguiu, no dia 30, desta vez acompanhada de discussões sobre biologia sintética; física, percepção do tempo; fractalidade, experimentalismo e programação em música; relações musica/fala; e visão psicanalítica da ciência e da arte.

Com o título Arte, Música, Física e Psicanálise, o encontro do dia 30 teve exposições do artista visual e físico Otávio Schipper; do matemático Vitor Guerra Rolla, do Instituto de Matemática Pura e Aplicada (Impa); do psicanalista Leopold Nosek, do Instituto de Psicanálise Durval Marcondes; e de dois professores da USP, o músico experimental Fernando Iazzetta, da Escola de Comunicações e Artes (ECA), e o músico, compositor e crítico literário José Miguel Wisnik, da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH). O moderador foi o crítico e historiador de arte e curador Paulo Herkenhoff, também titular da cátedra.

Schipper relatou sua trajetória intelectual e como artista, da reprovação no vestibular para a Escola Nacional de Belas Artes e a posterior formação em física ao período em que esteve como artista residente do Impa e ao interesse na recriação de células artificias para examinar como é o seu comportamento.

Os trabalhos de Schipper parecem sintetizar o objetivo central da jornada de encontros, pois são um constante diálogo entre arte e ciências, com ênfase em investigações - a partir de suas obras - sobre a natureza abstrata do tempo e a experiência subjetiva dele, biologia sintética, telecomunicações ao longo da história, efeitos da ondas de luz nas ondas cerebrais e condições primordiais para o surgimento da vida.

A música e os sons em geral também são uma preocupação de seus trabalhos, como no caso da sonoridade subjacente à história de objetos antigos de comunicação, telecomunicação e deslocamento (telégrafos, elevadores). Para ele, “a memória do som parece ser mais forte que a memória visual”.

Os participantes do 6º encontro da jornada foram (a partir da esq.): Otávio Schipper, José Miguel Wisnik, Paulo Herkenhoff (moderador), Vitor Guerra Rolla, Leopold Nosek e Fernando Iazzetta

Fractalidade

No caso de Rolla, a música é o principal tema das pesquisas que realiza no Impa. Sua preocupação é investigar a possível fractalidade da música, hipótese inicialmente levantada por pesquisadores nos anos 80 tendo como referência a geometria fractal desenvolvida por Benoît de Mandelbrot (1924-2010).

Segundo ele, muitos trabalhos científicos em matemática e física tentaram provar a existência de autossimilaridade - característica principal dos fractais – na música, mas não tinham uma fundamentação matemática relevante. Os estudos de Rolla basearam-se em música erudita e chegaram à conclusão que nem todas as peças tem natureza fractal.

Seu trabalho mais recente envolve codificação ao vivo, “um novo tipo de arte performática em que alguém programa todos os sons a serem executados a partir de quatro ondas básicas”.

A experimentação em música também foi tema da exposição de Iazzetta, que coordena o NuSom – Núcleo de Pesquisas em Sonologia (NuSom) da USP. Apesar de utilizar recursos tecnológicos digitais e analógicos para o trabalho com música e sonoridade em geral, o núcleo tem um posicionamento crítico em relação à tecnologia, pois considera importante levar em conta as contingências a que seus trabalhos estão sujeitos, afirmou.

Existe um pensamento mais ou menos homogêneo sobre a experimentação em música/sonoridade produzido nos grandes centros internacionais, na opinião do pesquisador. O núcleo começou a pensar de que maneira poderia contribuir com as discussões e chegou à conclusão que deveria incorporar os problemas de execução externos ao grupo. “A precariedade passou a ‘povoar’ nossas pesquisas.”

Iazzetta especificou que o trabalho experimental em música do núcleo tem motivação ética e estética. O estímulo de natureza ética é produzir conhecimento na universidade em vez de reproduzir procedimentos canônicos ancorados na tradição musical dos séculos 18 e 19.

Do ponto de vista estético a preocupação é confrontar a tradição - a partir da reflexão epistemológica e sobre discursos socioculturais - com as práticas musicais experimentais, de forma a rastrear a interseção da música com o nascimento da ciência moderna e o desenvolvimento da modernidade a partir do século 16.

Para o fato de o núcleo se definir como de sonologia, Iazzetta explicou que na música há disciplinas consolidadas, que "observam" sua prática a partir de preceitos da própria música. Não é o caso da sonologia, segundo ele, pois esta “olha para fora, observa como a música se relaciona com aspectos sociais, com a acústica e várias outros questões”.

Da memória de sons e da fractalidade e experimentalismo em música, o encontro passou, na exposição de Wisnik, à consideração da voz como instrumento musical, não só no canto, mas também fala.

“Quando falamos, a matéria sonora tem os mesmos parâmetros da música: duração, altura, intensidade, timbre e ataque”. Ao falar desses parâmetros, Wisnik exemplificou com sua própria fala no momento de cada explicação.

Para ele, as características da fala se relacionam de maneira difusa com a música, física e psicanálise, outros temas abordados no encontro. “Em tudo isso há o que temos consciência e o que nos escapa.” Ao mesmo tempo, ao ouvir alguém falar, “recebemos muitas informações sobre a pessoa, como idade, classe social, história pessoal e estado de vida”.

Inconsciente

Com a exposição de Nosek, “o que nos escapa” – como disse Wisnik – na arte, na ciência e em suas conexões teve a oportunidade de uma ponderação psicanalítica. Ele comparou a transformação da psicanálise, que passou da interpretação dos sonhos ao exame do inconsciente, ao fim da sonata, "que possui um tema dominante, um segundo tema e termina com a síntese entre os dois", substituída pela música atonal.

Os sonhos são uma síntese entre o desejo e a proibição e "demandam uma sensação de êxito", explicou Nosek. A interpretação dos sonhos continua na psicanálise, mas é preciso saber "como se chegou ao sonho, como aquela representação se construiu, e esse trajeto interessa às artes, à cultura".

A teorização psicanalítica deve se dar não pela revelação de conceitos, mas pela identificação de correspondências, afirmou o psicanalista. "É uma tentativa de metaforizar as profundidades da alma humana, algo que os artistas fazem o tempo todo."

Fotos: Leonor Calasans/IEA-USP

Peterson argumentará que todas as tecnologias são "facas de dois gumes", podendo produzir bons e maus efeitos, ou até mesmo ambos concomitantemente, de acordo com a maneira como são usadas. Um planejamento é, portanto, crucial. A estrutura analítica de Donald será a da "epidução", uma forma de raciocínio sensível ao contexto. O substrato físico da epidução é a função executiva associada principalmente ao córtex pré-frontal do cérebro humano. Será defendido que a epidução e seu substrato neural estão sob crescente pressão nos tempos modernos: tanto sua prioridade quanto seu fardo aumentaram. Essa estrutura fornece uma abordagem sistemática das condições de vida no século XXI, geradas e auxiliadas pelas tecnologias de conectividade, inteligência artificial e robótica.

Material de apoio: Life in the Cognitive Era Handbook

Expositor

Donald M. Peterson (IEA-USP)

Moderação

Antonio Mauro Saraiva (EP e IEA - USP)

• intensificar a interação com atores da sociedade interessados na área, sejam entidades públicas ou privadas, tanto em projetos quanto na formação de recursos humanos.
• estimular uma maior integração dos grupos de pesquisa em inteligência artificial da USP, por meio da identificação de interesses comuns e complementares que possam levar a projetos de colaboração.

O workshop contará com apresentações sobre temas selecionados, seguidos de painéis com especialistas. Haverá sessões sobre a utilização da inteligência artificial nas áreas de finanças, de óleo e gás, do agronegócio e da saúde, além do debate sobre aspectos éticos e sociais, incluindo discussões sobre políticas públicas. [Veja a programação.]

O encontro é aberto ao público e gratuito, mas requer inscrição prévia online. Quem não puder comparecer ao Auditório Nicolau Sevcenko, da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH), terá a oportunidade de assistir ao workshop ao vivo pela internet.

Contexto

A área de inteligência artificial apresentou enorme avanço na última década, atravessando as paredes dos laboratórios de pesquisa para chegar às mais diversas aplicações reais, afirmam os organizadores. "O uso de dispositivos com capacidade de decisão e de interação com usuários e clientes é uma realidade em diversos setores, entre os quais a indústria, o agronegócio, a saúde e o ensino."

Diversos cenários têm sido construídos, alguns enfatizando os benefícios advindos do aumento de produtividade, outros alertando para riscos associados à privacidade. "A sociedade está atenta a essas mudanças tecnológicas e engajada na discussão dos seus aspectos éticos e na sua influência nas relações humanas e nas relações de trabalho".

A USP lidera pesquisas em inteligência artificial há décadas, segundo eles. "Em suas unidades estão hoje germinando novos algoritmos de processamento de linguagem e imagens, além de novas discussões sobre dimensões sociais da tecnologia.

Recentemente a USP realizou uma chamada de projetos sobre em sistemas inteligentes, tendo recebido mais de uma centena de propostas das mais diversas áreas do conhecimento.

Iniciada em 2015, a série Strategic Workshops promove encontros em áreas estratégicas e com reconhecida excelência na USP. Os eventos reúnem pesquisadores em torno de temas transdisciplinares com o objetivo de mapear expertises e promover novos arranjos de pesquisas entre os próprios pesquisadores da Universidade.

PROGRAMAÇÃO

Inteligência Artificial e suas Aplicações: Avanços e Tendências
25 de junho, das 8h30 às 21h
Anfiteatro Nicolau Sevcenko, Departamento de História da FFLCH-USP, rua Prof. Lineu Prestes, 338, Cidade Universitária, São Paulo
Evento público, gratuito e com inscrição prévia online - Para assistir ao vivo pela internet não é preciso se inscrever
Mais informações: com Sandra Sedini (sedini@usp.br), telefone (11) 3091-1678
Página do evento

Foto: Asawin/Pxhere

Combinando experiência como músico - em especial, durante a produção do seu mais recente trabalho solo - e pesquisa na área de inovação, o palestrante cobrirá vários aspectos da relação entre homem e máquina para a criação musical, ilustradas com diversos casos e exemplos. A palestra é de interesse não apenas da comunidade artística, mas traz importantes insights para gestão de processos de inovação.

Expositor

Bruno César Araújo (músico)

Comentários

Davi Nakano (O.I.C IEA)

Moderador

Mario Salerno (EP USP e OIC USP)

Stefano Quintarelli

O pensador e político italiano Stefano Quintarelli, membro da Agência para a Itália Digital, estará no IEA no dia 4 de fevereiro, às 11h, para debater o futuro imaterial e a redefinição da sociedade em função da ubiquidade dos dispositivos, da coleta massiva de dados e da inteligência artificial (IA).

Intitulado Democracia, Autonomia e o Futuro Imaterial Conectado: Debate com Stefano Quintarelli, o evento terá como debatedor o diretor-presidente do Núcleo de Informação e Coordenação do Ponto BR (NIC.br), o cientista da computação Demi Getschko. A mediação será do economista Ricardo Abramovay, professor sênior do Instituto de Energia e Ambiente (IEE) da USP.

O debate será em inglês (sem tradução), gratuito e aberto a todos os interessados, mas requer inscrição prévia. Quem não puder comparecer poderá acompanhá-lo ao vivo pela internet.

Concentração de mercados

Abramovay destaca que atualmente nada está fora do alcance e dos impactos da economia da internet: "O poder das gigantes da tecnologia alcançou patamares inéditos e os efeitos em rede tendem a aumentar a concentração desses mercados, que possuem barreiras de entrada cada vez maiores". Ao mesmo tempo, valores democráticos são abalados em razão da combinação da coleta massiva de dados por aplicações de internet com a crescente capacidade de modulação do comportamento eleitoral por empresas especializadas, acrescenta.

Em contraponto a esse cenário, Abramovay vê o ressurgimento do direito concorrencial e da proteção de dados pessoais e a esperança de uma internet descentralizada e emancipadora.

Autor do livro "Instruções para um Futuro Imaterial” (com tradução a ser lançada em breve pela Editora Elefante), Quintarelli também abordará os “efeitos exponenciais” da computação e da IA, como a União Europeia tem lutado para implementar uma nova política concorrencial e de maior proteção de dados pessoais e, ainda, quais as possibilidades de inovação e manutenção da condição humana em ambientes sociotécnicos permeados por robôs e modulação constante do comportamento humano.

Nesse contexto, é importante que a USP, que já abriga numerosas iniciativas sobre o tema, articule sua presença e sua contribuição nesse assunto estruturante para o desenvolvimento econômico e social, considerando, além do autoaprendizado, capacidade de reconhecimento de padrões em grandes volumes de dados, e outros aspectos característicos da IA, questões culturais, éticas e morais.

Assim, a Pró-Reitoria de Pesquisa e o IEA realizam um encontro para apresentar as perspectivas e possíveis rumos acerca do tema e promover o recém-lançado edital Sistemas Digitais Inteligentes, que visa fomentar pesquisas sobre o assunto.

Por estimular a desconfiança quanto a veracidade das informações,  a diferença entre uma notícia verídica e fraudulenta se torna mais um obstáculo para o processo de convencimento do eleitor. Os instrumentos jurídicos disponibilizados pelo Estado não foram concebidos para a disseminação de informação através dos meios que se utiliza atualmente.

Debatedores:

Diogo Rais (Univ. Presbiteriana Mackenzie)

Rafael Fonseca Santos (Univ. Presbiteriana Mackenzie)

Moderador:

Maria Edelvacy Marinho (Univ. Presbiteriana Mackenzie e OIC IEA USP)

Neste ponto de sua evolução, se for possível usar esse termo, as máquinas estão prestes a dotarem-se do que se denomina de consciência. Nesse contexto, não é apenas o desaparecimento de empregos que estarão em jogo, é a própria ideia de ser humano que passa por exame e eventual processo de redefinição. A morte pode em breve ser uma opção, não mais uma inevitabilidade (para aqueles que puderem pagar por isso) — e toda a estrutura que define os seres humanos, as relações entre eles e a natureza, será radicalmente alterada. A realidade virtual provavelmente irá redefinir a experiência humana subjetiva e as noções de corpo e fisicalidade. Mentiras simples e puras e uma insistência na relatividade da verdade, ou indiferença em relação a ela, podem alterar o conceito de História e as relações sociais. A inteligência aumentada está próxima, mas também, no mesmo processo, estão a desinteligência e a desintegração do que é conhecido como sociedade.

Este seminário irá abordar este quadro e as ações que podem ser realizadas neste momento a fim de continuar permitindo o controle da vida pelo ser humano ou, em todo caso, de tirar o melhor proveito da nova tecnologia.