Resumo de Superinteligência

O que fundamentalmente nos diferencia das feras do campo? Bem, a principal diferença entre os seres humanos e os animais é a nossa capacidade de pensamento abstrato aliada à capacidade de nos comunicarmos e acumularmos informações. Em essência, nossa inteligência superior nos impulsionou para o topo.

Então, o que o surgimento de uma nova espécie, intelectualmente superior aos humanos, significaria para o mundo?

Desde a invenção dos computadores em 1940, os cientistas têm trabalhado para construir uma máquina que possa pensar. Qual foi o progresso alcançado? Um grande avanço na Inteligência Artificial (ou IA) são as máquinas criadas pelo homem que imitam nossa própria inteligência.

A história começa com o Dartmouth Summer Project de 1956, que se esforçou para criar máquinas inteligentes que pudessem fazer o que os humanos fazem.

Está claro que imitar a inteligência humana é uma maneira eficaz de criar tecnologia, mas a imitação pode se dar de várias formas. Portanto, enquanto alguns cientistas são a favor de projetar sinteticamente uma máquina que simule os seres humanos (por meio da IA, por exemplo), outros defendem uma imitação exata da biologia humana, uma estratégia que poderia ser realizada com técnicas como a Emulação do Cérebro Inteiro (ou WBE).

Então, quais são as diferenças entre os dois?

A maioria das grandes descobertas da humanidade foi alcançada por um único cientista que atingiu um objetivo antes que outros chegassem lá ou por meio de grandes colaborações internacionais. Então, o que cada rota significaria para o desenvolvimento da SI?

Bem, se um único grupo de cientistas encontrasse rapidamente soluções para os problemas que impedem a IA e a WBE, é muito provável que seus resultados produzissem uma única máquina superinteligente. Isso porque a natureza competitiva do campo pode forçar esse grupo a trabalhar em segredo.

Você provavelmente já ouviu isso um milhão de vezes, mas há alguma sabedoria em ter cuidado com o que se deseja. Embora possamos estar nos esforçando para alcançar a superinteligência, como podemos garantir que a tecnologia não interprete mal seu objetivo e cause uma devastação indescritível?

A chave para esse problema está em programar a motivação para que a SI cumpra suas várias metas dadas pelo homem. Digamos que projetamos um SI para fabricar clipes de papel; parece benigno, mas o que impede a máquina de levar sua tarefa ao extremo e sugar todos os recursos do mundo para fabricar uma montanha de material de escritório?

Mas chega de falar em dizimação e destruição total. Antes de entrar em pânico com o apocalipse iminente liderado por máquinas, vamos dar uma olhada em como a tecnologia de inteligência geral pode ser desenvolvida e colocada em uso produtivo.

É provável que a disponibilidade crescente e o custo decrescente da tecnologia levem à produção em massa barata de máquinas capazes de realizar trabalhos que atualmente exigem as mãos e a mente de um ser humano. Isso significa que as máquinas não apenas substituirão toda a força de trabalho humana, mas também serão facilmente substituíveis.

Está claro que uma força de trabalho totalmente robótica transformaria completamente a economia, bem como nossos estilos de vida e desejos; à medida que o trabalho das máquinas se tornar a nova norma mais barata, o salário dos trabalhadores cairá tanto que nenhum ser humano conseguirá viver de um salário. Além disso, os poucos empregadores da força de trabalho mecânica acumulariam muito dinheiro.

Mas isso nos leva de volta a um ponto anterior, porque o destino desse dinheiro também depende do fato de a SI ser projetada por um único grupo exclusivo ou ser o resultado de um lento processo de colaboração. Se a primeira opção for verdadeira, a maioria das pessoas ficaria com poucas opções de geração de renda, provavelmente alugando moradias para outros humanos ou contando com suas economias e pensões.

Está claro que o desenvolvimento da SI traz consigo uma série de problemas de segurança e, na pior das hipóteses, pode levar à destruição da humanidade. Embora possamos tomar algumas precauções ao considerar a motivação para a SI que criamos, isso por si só não será suficiente.

Então, o que você fará?

A principal mensagem deste livro:

Inventar uma máquina superinteligente capaz de fazer coisas muito além da capacidade de um ser humano é uma perspectiva tentadora e um caminho precário. Para garantir que essa tecnologia se desenvolva de forma segura e responsável, precisamos priorizar a segurança em detrimento do avanço tecnológico sem controle. O destino de nossa espécie depende disso.