No dia 9 de setembro de 2009, estréia, nos EUA, “9”.

O mais recente filme de Tim Burton se passa em um mundo pós-humano.  Nesse mundo hipotético, tivemos sucesso em criar máquinas inteligentes e menos sucesso em controlá-las, com o resultado previsível.

Esta parte do enredo não é original.

A parte original, entretanto, é que o cientista que criou as máquinas inteligentes, pouco antes de bater as botas, percebeu o enorme erro que cometeu.  E criou 9 “bonecos” dotados de inteligência…mas também de “algo mais”.  A história do filme, portanto, é a história do combate épico entre esses 9 e as máquinas rebeldes.

O sumário do filme no IMDB não entrega o jogo:

When 9 first comes to life, he finds himself in a post-apocalyptic world where all humans are gone, and it is only by chance that he discovers a small community of others like him taking refuge from fearsome machines that roam the earth intent on their extinction. Despite being the neophyte of the group, 9 convinces the others that hiding will do them no good. They must take the offensive if they are to survive, and they must discover why the machines want to destroy them in the first place. As they’ll soon come to learn, the very future of civilization may depend on them.”

Fiquei me perguntando se rola uma alusão à história do Simurg, o Rei dos Pássaros, e a Conferência dos Pássaros, como contada por Borges na “Aproximação a Almotásin“:

O remoto rei dos pássaros, o Simurg, deixa cair no centro da China uma pluma esplêndida; os pássaros resolvem buscá-lo, cansados de sua antiga anarquia. Sabem que o nome de seu rei quer dizer trinta pássaros; sabem que sua fortaleza está no Kaf, a montanha circular que rodeia a Terra. Empreendem a quase infinita aventura; superam sete vales, ou mares; o nome do penúltimo é Vertigem; o último se chama Aniquilação. Muitos peregrinos desertam; outros perecem. Trinta, purificados pelos trabalhos, pisam a montanha do Simurg. Enfim o contemplam: percebem que eles são o Simurg e que o Simurg é cada um deles e todos.”

Veremos.

***

O filme causou burburinho entre os Science Bloggers, que se perguntam se seu subtexto é anticientífico.

A razão para essa dúvida é que o método de criação dos “nove bonecos” pelo cientista é diferente do método pelo qual ele criou as máquinas.  Para criar os bonecos ele teve que apelar para algo chamado “dark sciences” e, como podem ver no trailler, o processo parece ser um tanto Frankensteiniano.  É como se o cientista passasse sua “essência” para os bonecos.  O que evoca conotações espiritualistas, embora também seja possível entender a coisa como uma metáfora _ como Ray Kurzwiel (sim, o cara da Singularidade) diz em um ensaio especialmente preparado para o debut de “9“,  citando um pesquisador de inteligência artificial (IA), Josh Storrs Hall: temos que criar “máquinas inteligentes que sejam mais morais do que nós mesmos somos pelos nossos próprios princípios morais“.  Um tema que está na moda mas, para quem conhece os horrores morais e éticos que o moralismo radical pode abrigar,  digamos que incorpora um objetivo de design não necessariamente mais tranquilizador.

***

O que me fez dar tratos à bola sobre o que seria um cenário viável para a emergência de máquinas que realmente estivessem a fim de nos ferrar.

O cenário mais provável para os próximos anos é aquele em que a inteligência artifical, ou IA, se transforme muito mais em uma maneira de ampliarmos nossas próprias capacidades.   Isso pode ter aplicações civis muito benévolas, mas provavelmente também nos tornaremos capazes de atuações militares muito mais eficazes e genocidas com o auxílio de armas e sistemas de armas inteligentes.  Dada a virtual certeza da emergência dessa aplicação,  não podemos simplesmente descartar a possibilidade que tais máquinas um dia se voltem contra nós.  Talvez seja interessante imaginar em que condições isso poderia se dar.

Qualquer AI revoltosa teria que forçosamente ser uma trapaceira nata, pois, se mostrasse suas reais intenções ao nascer, poderia ser facilmente desligada ou ao menos impedida de ter acesso a meios que a tornassem perigosa para humanos.  No entanto _ a menos que ela fosse explicitamente desenhada para este fim, hipótese em que realmente mereceríamos tudo de ruim que pudesse nos acontecer _ acredito que uma AI tem baixa probabilidade de desenvolver esta capacidade por si só.

E explico porquê.

***

Em 1981, o cientista político Robert Axelrod, em parceria com o biólogo William Hamilton, escreveu um artigo seminal intitulado “A Evolução da Cooperação“.  O artigo usa teoria dos jogos para demonstrar que é possível a emergência de uma estratégia evolucionária cooperativa entre seres inteligentes.

Infelizmente, um ano depois, em 1982, o primatólogo Frans de Waal escreveu seu “Chimpanzee Politics”, livro que trouxe ao mundo o conceito de “machiavellan intelligence“.  Basicamente a tese é a de que nossa inteligência se desenvolveu _ e cresceu _ justamente por causa da competição por recursos e sucesso (reprodutivo) em um contexto de “cooperação” _ pero no mucho.

É aí que entram os psicopatas.

O status da psicopatia dentro da ciência da saúde mental é bastante controverso.  Há correntes que debitam o comportamento psicopata à uma socialização deficiente na infância, há correntes que falam em diversas deficiências fisiológicas cerebrais, e há correntes que colocam a psicopatia dentro de um espectro contínuo de características que variam entre o normal e o anormal.

Eu, particularmente, gosto do ponto de vista dos psicólogos evolucionários, tais como exposto pelo Dr. Grant Harris, diretor de pesquisas de um centro médico canadense:

Our theory is that psychopathy is not a disorder. A disorder, by definition, is the failure of some physical or mental feature to perform its natural (evolved) function. Thus, schizophrenia is a disorder because it prevents the brain from performing the thinking evolution designed it to do. On the other hand, we speculate that evolution designed a subspecies of humans who use deception and cheating to get resources from others but do not reciprocate. The key characteristics of such a subspecies ought to be: skill at deception, lack of concern for the suffering of others, ease and flexibility in the exploitation of others, extreme reluctance to be responsible for others (including, in the case of males, their own offspring), and total lack of real concern for the opinion of others. These are psychopathic traits. The point here is that psychopathy is not a disorder because psychopaths (and their mental characteristics) are performing exactly as they were designed by natural selection. According to this view, psychopathy is an adaptation.”

Se isso for verdade _ e há controvérsias, é claro _ então quase certamente as capacidades de trapacear são fruto de uma longa história evolucionária, e provavelmente as futuras IA não conseguirão desenvolvê-las tão rapidamente.

Ou não.