Proibir ideias que parecem assustadoras pode oferecer conforto, mas faz mais mal do que bem

Em 1818, Mary Shelley inventou uma técnica que tem sido usada há séculos para o bem e para o mal. Isso é chamado de ficção científica.

Você pode não pensar que os gêneros literários contam como tecnologia, mas a ficção científica tem sido uma ferramenta para prever e criticar a ciência. Shelley FrankensteinConsiderado por muitos como o primeiro verdadeiro romance de ficção científica, foi suficientemente poderoso para que a África do Sul o proibisse em 1955. Isso deu o tom para uma história que ainda hoje serve como um alerta sobre consequências não intencionais.

A ciência exata que Victor Frankenstein empregou em sua criação não é possível, até onde sabemos. Mas os pesquisadores hoje são capazes de restaurar o cérebro de pessoas mortas para algo semelhante à vida. Experimentos estão em andamento para testar os efeitos do tratamento preferido para a doença de Alzheimer na retomada da atividade celular (mas, mais importante, não da consciência) após a morte (ver “O tratamento radical traz as pessoas de volta das portas da morte”).

É difícil não pensar nas muitas histórias de ficção científica que tratam de situações semelhantes e imaginar o que pode acontecer a seguir. O mesmo se aplica ao trabalho relatado em “A simulação de IA de 1000 pessoas replica com precisão o seu comportamento”, onde os investigadores estão a utilizar a tecnologia por trás do ChatGPT para replicar os pensamentos e comportamentos de indivíduos específicos, com um sucesso surpreendente.

Em ambos os casos, as equipas por detrás desta investigação, confundindo os limites do facto, da ficção e do que significa ser humano, estão profundamente conscientes das preocupações éticas envolvidas no seu trabalho, que está a ser conduzido com forte supervisão ética e divulgado o mais cedo possível. palco com seus detalhes. Mas agora que a tecnologia foi demonstrada, pouco há que impeça grupos mais nefastos de fazerem esforços semelhantes sem supervisão e com potencial para causar grandes danos.

Isso significa que a pesquisa deveria ser proibida por medo de que o livro de Shelley caísse em mãos erradas? Longe disso. As preocupações sobre a tecnologia são melhor abordadas através de regulamentos apropriados e baseados em evidências e de sanções rápidas para os infratores. Quando os reguladores desaparecem, perdemos não apenas tecnologia, mas também oportunidades de criticar e discutir.