Nick Bostrom, até recentemente, ele era professor na Universidade de Oxford, onde atuou como diretor fundador do Instituto para o Futuro da Humanidade, de 2005 até seu encerramento em 2024. Ele é o fundador e pesquisador principal da organização sem fins lucrativos Macrostrategy Research Initiative.

O progresso científico e tecnológico pode alterar as capacidades ou os incentivos das pessoas de maneiras que desestabilizariam a civilização. Por exemplo, os avanços em ferramentas de biohacking do tipo "faça você mesmo" podem facilitar para qualquer pessoa com treinamento básico em biologia matar milhões de leões;novas tecnologias militares podem desencadear corridas armamentistas em que quem atacar primeiro terá uma vantagem decisiva; ou algum processo economicamente vantajoso pode ser inventado, produzindo externalidades globais negativas desastrosas e difíceis de regular. Este artigo introduz o conceito de um mundo vulnerável: em linhas gerais, um mundo em que existe algum nível de desenvolvimento tecnológico em que a civilização quase certamente é devastada por padrão, ou seja, a menos que tenha saído da "condição padrão semi-anárquica". Diversas vulnerabilidades históricas contrafactuais e futuras especulativas são analisadas e organizadas em uma tipologia. Uma capacidade geral de estabilizar um mundo vulnerável exigiria, infelizmente, capacidades muito ampliadas para policiamento preventivo e governança global. A hipótese do mundo vulnerável oferece, portanto, uma nova perspectiva a partir da qual se pode avaliar o equilíbrio risco-benefício dos desenvolvimentos em direção à vigilância submissa ou a uma ordem mundial unipolar.

Implicações Políticas

• A política tecnológica não deve assumir, sem questionamento, que todo progresso tecnológico seja benéfico, ou que a abertura científica completa seja sempre a melhor opção, ou que o mundo tenha a capacidade de gerenciar qualquer possível desvantagem de uma tecnologia após sua invenção;

• Algumas áreas, como a biologia sintética, podem produzir uma descoberta que democratize repentinamente a destruição em massa, por exemplo, ao capacitar indivíduos a matar centenas de milhões de pessoas usando materiais facilmente disponíveis. Para que a civilização tenha uma capacidade geral de lidar com invenções "proibidas" desse tipo, ela precisaria de um sistema de vigilância mundial onipresente e em tempo real. Em alguns cenários, tal sistema precisaria estar em vigor antes mesmo da invenção da tecnologia;

• A proteção parcial contra um conjunto limitado de possíveis invenções proibidas pode ser obtida por meio de intervenções mais direcionadas. Por exemplo, o risco biológico poderia ser mitigado por meio de verificações de antecedentes e monitoramento de pessoal em alguns tipos de biolaboratórios, desencorajando o biohacking do tipo "faça você mesmo" (por exemplo, por meio de requisitos de licenciamento) e reestruturando o setor de biotecnologia para limitar o acesso a alguns instrumentos e informações de ponta. Em vez de permitir que qualquer pessoa compre sua própria máquina de síntese de DNA, a síntese de DNA poderia ser fornecida como um serviço por um pequeno número de fornecedores rigorosamente monitorados;

• Outro tipo de bloqueio, mais sutil, seria aquele que fortalece os incentivos para o uso prejudicial — por exemplo, uma tecnologia militar que torna as guerras mais destrutivas, ao mesmo tempo que dá uma vantagem maior ao lado que ataca primeiro. Assim como os esquilos fazem ninhos nos tempos de fartura para armazenar nozes para o inverno, devemos usar os tempos de relativa paz para construir mecanismos mais fortes para resolver disputas internacionais. Acesse o artigo completo aqui.