Ainda que as formas primitivas de inteligência artificial desenvolvidas até aqui se tenham revelado muito úteis, receio as consequências de criar algo que possa ser equivalente ou ultrapassar os humanos (...) Por exemplo, a curto prazo, os exércitos mundiais estão a considerar a hipótese de iniciar uma corrida ao armamento em sistemas de armamento autónomo que possam escolher e eliminar os seus próprios alvos. Enquanto as Nações Unidas estão a debater um tratado para banir tais armas, os defensores de armamento autónomo esquecem-se normalmente de colocar a questão mais importante: qual é o final provável de uma corrida ao armamento e será ele desejável para a espécie humana? (...) A longo prazo, a IA poderá automatizar os nossos empregos, trazendo tanto grande prosperidade como igualdade. (...) Resumindo, a chegada da IA superinteligente seria a melhor ou a pior coisa que alguma vez aconteceria à humanidade (...) Uma IA superinteligente será extremamente boa a atingir os seus objectivos e, se esses objectivos não estiverem alinhados com os nossos, teremos problemas (...) Por exemplo, a IA tem o potencial para erradicar as doenças e a pobreza, mas os investigadores devem trabalhar para criar uma inteligência artificial que possa ser controlada (...) Um Relatório apresentado ao Parlamento [Europeu] declara que o mundo se encontra na iminência de uma nova revolução industrial robótica. Analisa se atribuir direitos legais aos robôs, enquanto pessoas electrónicas, em igualdade com a definição legal de personalidade empresarial, seria admissível. Mas realça que, a todo o momento, os investigadores e criadores devem garantir que todas as concepções robóticas incluam um interruptor. Isso não ajudou os cientistas a bordo da nave espacial Hal, o computador robotizado defeituoso de 2001: Odisseia no Espaço, de Stanley Kubrick, mas isso era ficção (...) O Relatório reconhece a possibilidade de que, dentro de algumas décadas, a IA possa ultrapassar a capacidade intelectual humana e desafiar a relação entre humanos e robôs (...) Os robôs acelerarão decididamente o processo de retalho da Internet. Mas, para revolucionar as compras, têm de ser suficientemente rápidos para permitir entregas no próprio dia para todas as encomendas (...) Quando eu era mais novo, a ascensão da tecnologia apontava para um futuro em que todos teríamos mais tempo de lazer. Mas, na realidade, quanto mais conseguimos fazer, mais ocupados ficamos. (...) Agora o inventor Daniel Kraft está a investigar como poderemos replicar-nos a nós próprios visualmente. A questão é: quão convincente poderá ser um avatar? (...) As conquistas que vimos até aqui serão seguramente pálidas quando comparadas com as que as próximas décadas trarão e não conseguimos prever o que poderemos alcançar quando as nossas próprias mentes forem amplificadas pela IA.
Talvez as ferramentas desta nova revolução tecnológica permitam tornar a vida humana melhor. Por exemplo, os investigadores estão a desenvolver IA que ajudará a reverter a paralisia em pessoas com lesões na coluna vertebral. Utilizando implantes de circuitos interligados em silicone e interfaces electrónicos sem fios entre o cérebro e o corpo, a tecnologia permitiria às pessoas controlarem os movimentos do seu corpo com os seus pensamentos.
Eu acredito que o futuro da comunicação seja interfaces entre o cérebro e os computadores. Há dois caminhos: elétrodos no crânio e implantes. O primeiro é como olhar através do vidro fosco, o segundo é melhor, mas tem o risco da infecção. Se conseguirmos ligar um cérebro humano à Internet, ele terá toda a Wikipédia à sua disposição. (...) Avançará a encriptação. Os computadores quânticos mudarão tudo, até a biologia humana. Já existe uma técnica que permite editar com precisão o ADN, chamada CRISPR. (...) Encontramo-nos no limiar de um bravo novo mundo. É um sítio entusiasmante, ainda que instável, para se estar, e nós somos os pioneiros.
Quando criámos o fogo fizemos repetidamente asneira, depois inventámos o extintor. Com tecnologias mais poderosas, como armas nucleares, biologia sintética e inteligência artificial forte, devemos planear antecipadamente e apontar para termos as coisas bem feitas à primeira, porque poderá ser a nossa única hipótese. O nosso futuro é uma corrida entre o poder crescente da nossa tecnologia e a sabedoria com a qual a utilizamos. Vamos garantir que a sabedoria vence.
Stephen Hawking, no seu último livro, Breves respostas às grandes perguntas (ed.Planeta), em pré-publicação pela Visão, 22-11 a 28-11-2018, pp.54-60.
