Por Que não Deveríamos Querer Ser "Pets" de Máquinas Superinteligentes

Click here for the English version

Quando questionado sobre o futuro relacionamento da humanidade com os computadores, Marvin Minsk deu a famosa resposta: “Se tivermos sorte, eles podem decidir nos manter como animais de estimação”. Várias autoridades eminentes continuam a argumentar que existe um perigo real de que máquinas “superinteligentes” escravizem – talvez até destruam – a humanidade. Poderíamos pensar em seguida que deveríamos abandonar a busca pela IA. Em vez disso, a maioria daqueles que afirmam estar preocupados com a ameaça existencial representada pela IA não se preocupam com o que chamam de “problema da IA amigável”. Grosso modo, esta é a questão de como podemos garantir que as IA que se desenvolverão a partir da primeira IA que criarmos permanecerão simpáticas à humanidade e continuarão a servir, ou pelo menos a ter em conta, os nossos interesses

Esta palestra se baseará na filosofia “neo-republicana” de Philip Pettit para argumentar que resolver o problema da IA Amigável não mudaria o fato de que o advento da IA superinteligente seria desastroso para a humanidade, em virtude de nos tornar escravos de máquinas. Uma ideia fundamental da tradição republicana é que a liberdade exige um certo tipo de igualdade, o que claramente falta entre os animais de estimação e os seus donos. A benevolência não é suficiente.

Enquanto a IA tiver o poder de interferir nas escolhas da humanidade, e a capacidade de o fazer sem referência aos nossos interesses, então dominar-nos-á e, portanto, tornar-nos-á não-livres. Os animais de estimação de donos gentis ainda são animais de estimação, o que não é um status que a humanidade deveria adotar.

Se realmente pensamos que existe o risco de que a pesquisa em IA conduza ao surgimento de uma superinteligência, então precisamos repensar se é de fato sábio desenvolver a IA.

Abertura e comentários: Virgílio Almeida (titular da Cátedra Oscar Sala)

Exposição: Robert Sparrow (Monash University)

Moderação: Elen Nas (IEA-USP)

Transmissão:

Acompanhe a transmissão do evento em www.iea.usp.br/aovivo

Inscrições

Organização

Apoio