O “padrinho de IA” tem um plano bizarro para salvar a humanidade do mal ai

Geoffrey Hinton, the pioneering mind behind AI industry-transforming neural networks, who’s often referred to as a “godfather of AI,” says we need to infuse AI with “maternal instincts” to save humanity from rogue AI.Though his work on neural networks helped to usher in the large language models (LLMs) that dominate Silicon Valley today, these days, Hinton is known for being somewhat of an AI Alarmista: Ele acredita que há uma chance significativa de que a AI superinteligente acabar com a humanidade e fala sobre esse risco com frequência. Como relatórios da CNN, Hinton, que recebeu um prêmio Nobel no ano passado, a que se levanta a serem suportes de uma visão distópica de uma visão de que se submetem a serem usados para serem usados para serem suportes para serem smart. Desenvolva muito rapidamente dois sub -omos, se forem inteligentes “, disse Hinton à conferência, conforme citado pela CNN. “Um é permanecer vivo … [and] the other subgoal is to get more control.”Instead, Hinton advised that humans should opt for a different approach: essentially turn AI agents into mother-like figures, so they’ll care for their idiot babies, or humans.”The right model is the only model we have of a more intelligent thing being controlled by a less intelligent thing,” said Hinton, as quoted by CNN, “which is a mother being controlled by her baby.”“That’s the only good resultado. If it’s not going to parent me, it’s going to replace me,” the scientist continued. “These super-intelligent caring AI mothers, most of them won’t want to get rid of the maternal instinct because they don’t want us to die.”Hinton’s theory isn’t just strange; it doesn’t appear to be backed by science and is shrouded in a murky, complicated history.The concept of the “maternal instinct” suggests that women are born with an innate, almost mystical O instinto da mãe que chuta automaticamente quando um bebê nasce. is a biological truth was popularized largely by men, experts have argued, and is rooted deeply in religious stereotypes, eugenics, and gendered biases.”The notion that the selflessness and tenderness babies require is uniquely ingrained in the biology of women, ready to go at the flip of a switch, is a relatively modern — and pernicious — one,” the Pulitzer Prize winning journalist Chelsea Conaboy, who Escreveu um livro que interroga a ciência frouxa por trás da teoria do instinto materno, escreveu em um ensaio de 2022 para o New York Times. Instinto, muito menos de uma maneira mensurável, em sistemas de IA superintelecidos, assume que ele existe. A superinteligência ainda é teórica e existem riscos de IA mais imediatos em que podemos nos concentrar – por exemplo, a promoção dos vieses sociais existentes já assados nos dados de treinamento de futuros modelos de IA. A Superintelligência já aconteceu. E, enquanto isso, antes de lançarmos a mamãe do One Robot para governar a todos, talvez a indústria da IA possa trabalhar para diminuir os vieses de gênero incorporados aos modelos de IA, ou contratar mais mulheres para realmente construir seus produtos? Mais com a IA, dizendo coisas: Sam Altman chama seu próprio modelo de IA “irritante” depois de ser o que serve para serem para serem para serem os que serem para a AI, de Sam Altman.

Fonte