Antes que escolham por nós: Reflexão e ação para a era da inteligência artificial

Geoffrey Hinton, frequentemente chamado de “padrinho da inteligência artificial”, deixou o Google em 2023 para poder falar abertamente sobre os riscos da tecnologia que ajudou a criar. Stuart Russell, autor do livro-texto padrão em cursos de IA no mundo inteiro, argumenta que o controle de máquinas superinteligentes é o problema mais importante do século.

Quando os próprios inventores dessa tecnologia revolucionária pedem que prestemos atenção, é prudente ouvir.

Antes que escolham por nós é um panorama acessível e rigoroso do debate sobre riscos da inteligência artificial, escrito para o leitor informado que não é necessariamente. técnico. O livro não é alarmista nem complacente.

Examina com seriedade tanto os argumentos mais dramáticos quanto os contra-argumentos dos céticos.

Em quatro partes e dez capítulos, o livro percorre:

• Fundamentos — O que realmente significa “inteligência” quando aplicada a máquinas, e por que é tão difícil fazer um sistema perseguir exatamente o que queremos (o problema do alinhamento).
• O mapa dos riscos — Os perigos que já estão entre nós: IA facilitando a criação de armas biológicas, alimentando campanhas de desinformação em escala industrial, potencializando ciberataques, perpetuando discriminação algorítmica.

A corrida competitiva entre nações e empresas que leva todos a privilegiar velocidade sobre segurança.

E os mecanismos pelos quais sistemas podem escapar ao controle humano — não por malícia, mas por competência direcionada a objetivos mal especificados.

E, com igual profundidade, os argumentos de quem considera esse cenário exagerado, incompleto ou prematuro.

Os esforços de governos para regular uma tecnologia que ainda não compreendem por completo. E o papel insubstituível do cidadão informado num debate que não pode ser terceirizado para especialistas.

Este livro pretende ser de interesse para qualquer pessoa que queira entender o que está em jogo na revolução da inteligência artificial sem precisar de doutorado em ciência da computação.

Para quem quer formar opinião própria, fundamentada, sobre um dos debates mais importantes do nosso tempo.

E para todos aqueles que acreditam que decisões sobre o futuro da IA não devem ser delegadas a umas poucas organizações, empresas de tecnologia e governos — e que a participação informada de cada cidadão faz diferença.

Marcelo Kanhan é escritor e pesquisador independente, com especializações em computational social sciences e gestão. Sua prática integra construção, reflexão e escrita sobre tecnologias de informação e suas implicações sociais. Primeira edição em português. Publicado por paper9.