Especialistas alertam que a IA está obtendo o controle de armas nucleares

“Ele encontrará seu caminho para tudo.” O Nobel laureado se reuniu com especialistas nucleares no mês passado para discutir a IA e o fim do mundo-e se isso soa como a abertura para um sucesso de bilheteria de ficção científica definido no apocalipse, você não está sozinho. Exatamente por que isso precisa ser verdadeiro é difícil de definir, mas o sentimento de inevitabilidade – e ansiedade – é palpável nos relatórios da revista. “É como eletricidade”, disse à Wired, membro do Boletim do Conselho de Ciência e Segurança dos Cientistas Atômicos, Bob Latiff. “Vai encontrar seu caminho para tudo.” É uma situação bizarra. Os AIs já demonstraram exibir inúmeras faixas escuras, recorrendo a usuários humanos chantageando a uma taxa surpreendente quando ameaçados de ser fechado. No contexto de uma IA, ou redes de AIS, protegendo um estoque de armas nucleares, esses tipos de riscos fracos se tornam imensos. E isso sem entrar em uma preocupação genuína entre alguns especialistas, que também é o enredo do filme “The Terminator”: uma ai super-humana hipotética que está indo desonesta e transformando as armas nucleares da humanidade contra ele. nível. “Esse tipo de doomerismo de AI está na mente dos líderes de tecnologia há muitos anos, pois a realidade joga um jogo de câmera lenta de recuperação. Em sua forma atual, os riscos provavelmente seriam mais banais, já que os melhores modelos de IA hoje ainda sofrem de alucinações desenfreadas que diminuem bastante a utilidade de seus resultados. Então, há a ameaça de falha na tecnologia de AI, que deixa as lacunas em nossa segurança cibernética, permitindo que todos os adversários sejam de adversários que não sejam de um mestão de armas de tiro em controle de armas nucleares. Desafiador, com a Federação de Cientistas Americanos Diretor de Risco Global Jon Wolfsthal admitindo a publicação de que “ninguém realmente sabe o que é a IA”. Eles encontraram pelo menos algum terreno comum, pelo menos. “Nesse reino, quase todo mundo diz que queremos controle humano eficaz sobre a tomada de decisão de armas nucleares”, acrescentou Wolfsthal. Latiff concordou que “você precisa garantir às pessoas para quem você trabalha, há alguém responsável”. Se tudo isso soa como um show de palhaço, você não está errado. Sob o presidente Donald Trump, o governo federal está ocupado interrompendo a IA em todos os domínios possíveis, geralmente enquanto os especialistas os alertam que a tecnologia ainda não está – e pode nunca estar – até a tarefa. Hammering the Bravate Home, o Departamento de Energia declarou este ano que a IA é o “próximo projeto de Manhattan”, referenciando o projeto da era 2 da Segunda Guerra Mundial que resultou nas primeiras bombas nucleares do mundo. Do estoque dos EUA de mísseis nucleares, se gabou de uma conferência de defesa que o Pentágono está dobrando a IA, argumentando que “melhorará nossas capacidades de tomada de decisão”. Felizmente, o algodão parou de declarar que devemos que a tecnologia seja que a tecnologia é mais importante. AI para segurança de armas nucleares

Fonte