Sobre o livro

Na imaginação popular, a inteligência artificial sobre-humana é um maremoto que se aproxima que ameaça não apenas os empregos e as relações humanas, mas também a própria civilização. O conflito entre humanos e máquinas é visto como inevitável e seu resultado muito previsível. Neste livro inovador, o distinto pesquisador de IA Stuart Russell argumenta que esse cenário pode ser evitado, mas apenas se repensarmos a IA do zero. Russell começa explorando a ideia de inteligência em humanos e em máquinas. Ele descreve os benefícios de curto prazo que podemos esperar, de assistentes pessoais inteligentes a pesquisas científicas amplamente aceleradas, e descreve os avanços da IA ​​que ainda precisam acontecer antes de alcançarmos a IA sobre-humana. Ele também explica as maneiras que os humanos já estão descobrindo para fazer mau uso da IA, de armas autônomas letais a sabotagem viral. Se os avanços previstos ocorrerem e a IA sobre-humana surgir, teremos criado entidades muito mais poderosas do que nós. Como podemos garantir que eles nunca, jamais, terão poder sobre nós? Russell sugere que podemos reconstruir a IA em uma nova base, de acordo com a qual as máquinas são projetadas para serem inerentemente incertas sobre as preferências humanas que devem satisfazer. Essas máquinas seriam humildes, altruístas e comprometidas com nossos objetivos, não os deles. Essa nova base nos permitiria criar máquinas comprovadamente deferentes e comprovadamente benéficas.

Ler mais