A estudante do MIT cai porque ela diz que Agi vai matar todos antes de se formar

Provavelmente estamos nos sentindo um pouco ansiosos com a IA. É horrível para o meio ambiente, é usado como uma desculpa para demitir trabalhadores, inunda a Internet com desinformação e inclinação, entrincheire a vigilância do governo e parece estar levando as pessoas a psicose. And so, at a time when many college students are dropping out to join AI startups, one former MIT student says she called it quits because she’s afraid of something altogether more catastrophic: that an artificial general intelligence (AGI), or superhuman AI, will completely wipe out the human race, Forbes reports.”I was concerned I might not be alive to graduate because of AGI,” Alice Blair, who enrolled at the university in 2023, disse à publicação. “Acho que em uma grande maioria dos cenários, por causa da maneira como estamos trabalhando em direção à AGI, obtemos extinção humana”. Blair agora trabalha como escritor técnico no centro de segurança sem fins lucrativos e não tem planos de voltar ao MIT. Ela se juntou, na esperança de conhecer outras pessoas interessadas em tornar a IA segura e aparentemente ficou desapontada. “Eu prevejo que meu futuro está no mundo real”, disse ela à Forbes.nikola Jurković, um ex -aluno de Harvard que serviu no clube de segurança de sua escola, é solidário com a idéia. “Se sua carreira está prestes a ser automatizada até o final da década, todos os anos passados na faculdade são subtraídos de sua curta carreira”, disse ele à Forbes. “Pessoalmente, acho que a AGI está talvez a quatro anos e a automação completa da economia é de cinco ou seis anos de distância.” Construir uma AGI, um sistema que corresponde ou supera a inteligência humana, é grande parte do final do jogo da indústria de IA. OpenAI CEO Sam Altman called the recent launch of its poorly-received AI model GPT-5 a major stepping stone towards AGI, even going as far as to call it “generally intelligent.”Many experts are skeptical, however, that we’re anywhere near building such a powerful AI model, and point to recent signs that improvements to the tech are hitting a wall.”It is extremely unlikely that AGI will come in the next five years,” Gary Marcus, an O pesquisador de IA e crítico franco da indústria, disse à Forbes. “É apenas um hype de marketing fingir o contrário, quando tantos problemas essenciais (como alucinações e erros de raciocínio) permanecem sem solução.” E embora existam formas de dano muito reais que a IA pode causar, a extinção total é um pouco exagerada, disse Marcus. De fato, a indústria da IA provavelmente quer que você compre na profeta do dia do juízo final da IA. Altman e outros CEOs de tecnologia aumentam esses riscos. Fazer isso cria a impressão de que a tecnologia é muito mais capaz do que é atualmente e permite que essas empresas controlem a narrativa sobre como a tecnologia deve ser regulamentada. E se você está imaginando um apocalipse como nos filmes de “The Matrix” – escravização humana nas mãos de inteligências de máquinas que se rebelaram contra seus criadores – você pode estar ignorando as formas muito mundanas de danos que já está causando, como a automação de empregos e a raiva do meio ambiente.

Fonte