Inteligência artificial: 'Somos como crianças brincando com uma bomba'

Máquinas sencientes são uma ameaça maior para a humanidade do que a mudança climática, de acordo com o filósofo de Oxford Nick Bostrom

Você encontrará o Future of Humanity Institute em uma rua medieval no centro de Oxford. Fica ao lado da igreja de St Ebbe, que existe neste local desde 1005, e acima de um Pure Gym, inaugurado em abril. O instituto, uma faculdade de pesquisa da Universidade de Oxford, foi criado há uma década para fazer as maiores perguntas em nosso nome. Notavelmente: quais são exatamente os "riscos existenciais" que ameaçam o futuro de nossa espécie; como os medimos; e o que podemos fazer para evitá-los? Ou, colocando de outra forma: em um mundo de múltiplos medos, do que precisamente deveríamos ter mais medo?

Quando chego para encontrar o diretor do instituto, professor Nick Bostrom, uma cama está sendo entregue no escritório do segundo andar. O risco existencial é um tipo de operação 24 horas por dia; ele dorme irregularmente, se é que dorme.

Bostrom, um filósofo sueco de 43 anos, recentemente adquiriu algo do status de profeta da desgraça entre aqueles que atualmente fazem mais para moldar nossa civilização: os bilionários da tecnologia do Vale do Silício. Sua reputação se baseia principalmente em seu livro Superintelligence: Paths, Dangers, Strategies, que foi um best-seller surpresa do New York Times no ano passado e agora chega em brochura, seguindo recomendações de leitura obrigatória de Bill Gates e Elon Musk, da Tesla. (No melhor tipo de crítica literária, Musk também deu ao instituto de Bostrom £ 1 milhão para continuar com suas investigações.)

O livro é um exame animado e especulativo da ameaça singular que Bostrom acredita – após anos de cálculo e argumentação – ser a mais provável de nos eliminar. Essa ameaça não é a mudança climática, nem a pandemia, nem o inverno nuclear; é a criação possivelmente iminente de uma inteligência de máquina geral maior que a nossa.

A capa do livro de Bostrom é dominada por uma foto de uma coruja com olhos loucos. A coruja é o tema da parábola de abertura do livro. Um grupo de pardais está construindo seus ninhos. "Somos todos tão pequenos e fracos", twittou um, debilmente. "Imagine como a vida seria fácil se tivéssemos uma coruja que pudesse nos ajudar a construir nossos ninhos!" Há um acordo geral de twitter entre os pardais em todos os lugares; uma coruja poderia defender os pardais! Poderia cuidar de seus velhos e jovens! Poderia permitir-lhes viver uma vida de lazer e prosperidade! Com essas fantasias em mente, os pardais mal conseguem conter sua excitação e saem voando em busca do salvador de cabeça giratória que transformará sua existência.

Há apenas uma voz discordante: "Scronkfinkle, um pardal caolho com temperamento inquieto, não estava convencido da sabedoria do esforço. Disse ele: 'Isso certamente será nossa ruína. Não deveríamos pensar um pouco na arte de domesticar e domesticar corujas primeiro, antes de trazermos tal criatura para o nosso meio?'” Suas advertências, inevitavelmente, caem em ouvidos surdos de pardal. Domar corujas seria complicado; por que não pegar a coruja primeiro e trabalhar nos detalhes mais tarde? O livro de Bostrom, que é um alerta estridente sobre as implicações mais sombrias da inteligência artificial, é dedicado a Scronkfinkle.

Bostrom articula seus próprios avisos de maneira adequadamente irritada. Ele tem fama de obsessivo e viciado em trabalho; ele é magro, pálido e semi-noturno, muitas vezes ficando no escritório até de madrugada. Não surpreendentemente, talvez, para um homem cujos dias são dominados por quadros brancos cheios de fórmulas que expressam os méritos relativos de 57 variedades de apocalipse, ele parece deixar o mínimo possível ao acaso. No lugar das refeições, ele prefere um elixir de smoothie verde envolvendo vegetais, frutas, leite de aveia e soro de leite em pó. Outros entrevistadores comentaram sobre ele evitar apertos de mão para se proteger contra infecções. Ele estende a mão para mim, mas tenho a sensação de que ele a está isolando para desinfetar quando eu for embora. Há, talvez como resultado, uma leve impaciência nele, à qual ele se esforça para resistir.