O homem que propôs a teoria da simulação tem um aviso terrível

More than 20 years ago, futurist intellectual Nick Bostrom upended the psyches of tech bros the world around when he proposed in a 2003 Philosophical Quarterly paper that we all may be living in a computer simulation.Beloved by such strange bedfellows as Elon Musk, Bill Gates, and Sam Altman, Bostrom has released two other influential missives — 2014’s “Superintelligence: Paths, Dangers, Strategies,” which detailed the ways AI could become smarter than humans, and 2024’s “Deep Utopia: Life and Meaning in a Solved World,” which ponders on what will happen if AI fixes everything — in the interim.He also was embroiled in a minor controversy after a very racist email he sent in the 1990s was uncovered in 2023, and the following year, his Future of Humanity Institute at Oxford was shut down in what the philosopher lamented as “death by burocracia. “Agora, falando do outro lado do boom da IA ​​dos últimos anos, Bostrom começou a ver, como ele disse ao The London Standard, algumas de suas previsões sobre a IA começam a se concretizar em tempo real.” Tudo está acontecendo agora “, disse o filósofo do avanço da IA. “Estou bastante impressionado com a velocidade dos desenvolvimentos que vimos nos últimos anos”. Quando ele escreveu “Superintelligence” no início de 2010, ele era, como o filósofo disse ao padrão, principalmente cuspindo – e agora, quando nos aproximamos, algumas de suas idéias sobre isso estão mudando também. Se essa ainda era sua crença ultimamente, o filósofo se desmornou. “Ainda há sempre a possibilidade de que a civilização humana possa se destruir de alguma outra maneira”, disse Bostrom ao padrão, “de modo que nem sequer tivemos a chance de tentar a nossa supereintélice. Reorganizar a sociedade pode ser uma coisa positiva, “Bostrom refletiu. encontrado na declaração de missão de qualquer laboratório de IA. Os dois segundos, no entanto, são bastante não convencionais, mesmo para o cara que popularizou a teoria da simulação. “Isso pode parecer estranho, mas como estamos construindo AIS cada vez mais sofisticada e complexa, é possível que algumas delas tenham vários graus e formas de status moral”, explicou Bostrom, a área de riscos da “Mentes digitais”. Se as raças alienígenas vieram à Terra com sua própria IA mega-avançada, Bostrom postulou-se, os humanos poderiam teoricamente acabar brincando de paz entre eles. “Se algum desses tipos de tipos de [alien] Os seres existem: “Ele elucidou, um” desiderato importante quando criamos nossa própria superinteligência é garantir que ela se dê bem com esses outros super seres “. our self-worth and dignity and different ways of filling our lives and days, aside from having to work for a living.”As difficult as it is to imagine a world where “full unemployment” is a positive, Bostrom, ever the “fretful optimist,” thinks that a post-work world could be splendid.”Ultimately, much greater space for human flourishing could be unlocked through advanced AI,” he concluded. “If things go well, people will look back em 2025 e estremecendo de horror nas vidas que vivemos. “Mais no futuro da IA: o” padrinho de Ai “tem um plano bizarro para salvar a humanidade do mal ai ai

Fonte