O que perguntar para um computador: Kieslowski, a inteligência artificial e os limites da ciência

O que perguntar para um computador: Kieslowski, a inteligência artificial e os limites da ciência

Estado da Arte

30 de novembro de 2016 | 08h00

Por João Cortese

“Segundo Eliot, a poesia é intraduzível. Mas será que ele estava necessariamente correto? Imaginem um tradutor capaz de acumular todo o conhecimento existente sobre palavras ou sobre uma língua. Um tradutor dotado de memória ilimitada, à qual pode recorrer a qualquer momento. Usado de maneira não convencional, um computador pode ser algo ou alguém como ele. Considerem este instrumento: ele parece discernir apenas duas figuras, zero e um. Mas na verdade, ele tem não só algo que pode ser chamado de inteligência, mas também um tipo de consciência: ele seleciona, o que significa que ele escolhe. Ou deveríamos dizer que ele tem uma determinação da vontade? Eu creio que um computador, programado de maneira apropriada, poderia ter seu próprio gosto, preferências estéticas e personalidade.”

Com estas considerações termina-se uma aula sobre a tradução automatizada na universidade de Varsóvia – na cena de um filme de 1988. Espectadores da 40ª Mostra Internacional de Cinema de São Paulo puderam reassistir nas últimas semanas aos episódios do monumental Decálogo, de Krzystof Kieslowski.

A cena descrita aparece no primeiro dos dez episódios, no original polonês intitulado simplesmente Jeden, “um”. Na versão brasileira, assim como na norte-americana, um dos Mandamentos é associado ao título: “Amarás a Deus sobre todas as coisas”.

Krzystof (Henryk Baranowski) é um professor universitário, entusiasta da ciência da computação – paixão transmitida ao seu filho Pavel (Wojciech Klata). Juntos, eles calculam em quanto tempo uma pessoa de esqui alcança outra de trenó, controlam as maçanetas e torneiras da casa e preveem a temperatura necessária para que se possa patinar sobre o gelo do lago de seu bairro, sempre pela mesma máquina: o computador pessoal.

O jovem Pavel (Wojciech Klata) em Decálogo I, de Kieslowski (fonte: Senseofcinema)

O jovem Pavel (Wojciech Klata) em Decálogo I, de Kieslowski (fonte: Senseofcinema)

Quanto à tradução computacional, reconhecemos no sonho de Krzystof a potência dos tradutores automáticos contemporâneos. A base binária e o acesso a uma enorme “memória” de dados são de fato os recursos com os quais muita informação é hoje processada.

Contudo, T. S. Eliot provavelmente não limitaria a noção de tradução às ações desempenhadas por tais programas. No poema East Coker, um dos “Quatro quartetos” de Eliot, uma estrofe se inicia com os seguintes versos:

O dark dark dark. They all go into the dark,
The vacant interstellar spaces, the vacant into the vacant

Para os quais o tradutor do Google propõe:

O escuridão escuro escuro. Todos eles vão para o escuro,
Os espaços interestelares vago, o vago no espaço vago

Resultado que ninguém acreditará equiparar-se à tradução de Ivan Junqueira:

O escuro escuro escuro. Todos mergulham no escuro,
Nos vazios espaços interestelares, no vazio que o vazio inunda

Se já é difícil decidir em que sentido o computador pode verdadeiramente “traduzir” quando processa a linguagem, poder-se-ia dizer que ele possui uma “inteligência”?

Em 1950, Alan Turing, o pai da computação moderna, publicou um artigo na revista Mind no qual dizia que tal pergunta é demasiado traiçoeira: o que é “pensar”? Ao invés disso, Turing propôs um teste para saber se um computador pode chegar a ter um comportamento indistinguível daquele de um ser humano. O célebre “Teste de Turing” avalia se um computador digital pode ser bem-sucedido num certo “jogo de imitação”.

Alan Turing

Alan Turing, aos 15 anos, na Sherborne School (Fonte: Sherborne School Archive)

Imagine-se que uma pessoa (o interrogador) é colocada num quarto, e em outro aposento tenhamos um computador e outra pessoa, com as quais o interrogador “dialoga” unicamente através de uma interface do tipo tela e teclado. O interrogador sabe que do outro lado estão o computador e o ser humano, mas não sabe com qual dos dois ele troca mensagens. O jogo consiste em adivinhar, através de perguntas, qual dos dois está respondendo no momento. O computador terá êxito no teste, portanto, caso seu comportamento seja suficientemente indistinguível daquele de um ser humano para que o interrogador não perceba a diferença.

Diversos questionamentos foram feitos ao teste, principalmente sobre o que ele pode medir. Do ponto de vista “prático”, o teste foi realizado com diversos programas de inteligência artificial. Em 2014, pesquisadores da Universidade de Reading anunciaram que uma máquina havia passado no teste, com a personalidade criada de Eugene Goostman, um garoto ucraniano de 13 anos. Nem todos estiveram de acordo sobre o significado de tal resultado[1].

No filme de Kieslowski, o jovem Pavel faz um programa que lhe responde o que sua mãe, que ele crê viver em outro país, está fazendo naquele momento. Às 15h30 em Varsóvia, por exemplo, Pavel descobre através de seu programa que sua mãe está dormindo. Por outro lado, quando ele pergunta com o que ela está sonhando, o computador responde: “não sei”.

Programas de inteligência artificial frequentemente dão respostas deste tipo. Eliza, por exemplo, é um programa concebido para simular a atuação de um psicoterapeuta rogeriano. Eliza pode dar respostas que a tiram de “saias justas”: se perguntamos algo sobre ela, por exemplo, ela responde: “nós estamos falando sobre você, não sobre mim”. Quando perguntei “o que é a morte”, ela respondeu: “você já perguntou isso a alguma outra pessoa? ”[2].

Um programador dirá, de maneira justa, que as inteligências artificiais são feitas para tipos precisos de interação, e que seu propósito não é o de responder à razão da morte, e nem o de traduzir a poesia de Eliot.

A questão a colocar talvez não seja então quanto um computador pode fazer do ponto de vista da inteligência, mas o que, dada a sua natureza, ele pode fazer. Pode-se esperar de um computador tudo o que se espera de um humano?

A questão evoca uma outra, também abordada pelo filme de Kieslowski: a ciência dá poder ao homem sobre o mundo, mas quais são os limites da previsibilidade científica? Se ao computador deve-se perguntar o que ele pode fazer enquanto computador, ao homem cabe perguntar até onde pode ele ir enquanto homem.

Ao tomar café da manhã com seu pai que lê o jornal, Pavel observa a página de obituários e lhe pergunta:

– Por que as pessoas morrem?

– Por várias razões: parada cardíaca, câncer, acidentes ou simplesmente pela idade.

Ao que Pavel insiste:

– Eu quero dizer, o que é a morte?

– A morte? O coração deixa de bombear sangue, o sangue deixa de alcançar o cérebro, tudo para: morre-se. É isso.

Quando Pavel pergunta o que resta após a morte, e se há uma alma, como lhe contou sua tia, seu pai responde:

– Algumas pessoas acham que a vida é mais fácil se elas acreditarem nisso.

– E para você?

– Eu não sei.

A atitude do personagem Krzystof pode ser qualificada como esperar da ciência e da tecnologia aquilo que, por princípio, elas não podem dar ao homem. Sob a pena de aparentar uma tautologia, caberia dizer que só se pode calcular o calculável. Esperar da ciência algo impossível a ela só trará angústia – o gelo do lago se quebra sob os patins, e Krzystof continua negando-o: “isso não pode ter acontecido”.

Talvez a sentença final do filme de Kieslowski seja dada por Pavel, que chora por ter encontrado morto na rua o cachorro do qual tanto gostava: que me importa poder calcular em quanto tempo o esqui alcança o trenó, se o cachorro morre de qualquer maneira?

João Cortese é graduado em Ciências Moleculares, mestre em Filosofia da Ciência e é doutorando em Filosofia pela USP e pela Université de Paris 7.

[1] http://link.estadao.com.br/noticias/geral,software-engana-humanos-e-passa-pelo-teste-de-turing,10000031159

Para uma perspectiva crítica: https://www.wired.com/2014/06/turing-test-not-so-fast/

[2] O programa ELIZA foi desenvolvido entre 1964 e 1966 no MIT, por Joseph Weizenbaum. Uma implementação deste programa pode ser testada em http://www.manifestation.com/neurotoys/eliza.php3

Confira no Estado da Arte – O cânone em pauta nosso podcast sobre “Behaviorismo” 

Confira no Grande Teatro do Mundo: “A verdade enquanto subjetividade” de Soren Kierkegaard

Tendências: