O psiquiatra de pesquisa alerta que ele está vendo uma onda de psicose da IA

Mental health experts are continuing to sound alarm bells about users of AI chatbots spiraling into severe mental health crises characterized by paranoia and delusions, a trend they’ve started to refer to as “AI psychosis.”On Monday, University of California, San Francisco research psychiatrist Keith Sakata took to social media to say that he’s seen a dozen people become hospitalized after “losing touch with reality because of AI.”In a lengthy Frea do X-Formly-Twitter, Sakata esclareceu que a psicose é caracterizada por uma pessoa que rompe com a “realidade compartilhada” e pode aparecer de algumas maneiras diferentes-incluindo “crenças falsas fixas” ou ilusões, além de alucinações visuais ou auditivas e padrões de pensamento desorganizados. Nosso cérebro, explica o pesquisador, trabalha de forma preditiva: efetivamente fazemos um palpite educado sobre o que será a realidade e, em seguida, realizamos uma verificação da realidade. Finalmente, nosso cérebro atualiza nossas crenças de acordo. “A psicose acontece quando a ‘atualização’ etapa falha”, escreveu Sakata, alertando que os grandes chatbots movidos a modelos de idiomas como Chatgpt “entram nesse vulnerabilidade.” Sou psiquiatra. Online, estou vendo o mesmo padrão. Aqui está a aparência da “psicose da IA” e por que está se espalhando rapidamente: 🧵 pic.twitter.com/yylk7une3j – Keith Sakata, MD (@Keithsakata) 11 de agosto de 2025 em este contexto, Sakata comparou os chatbots a “Hallucinatatory Mirror” por design. Simplificando, os LLMs funcionam em grande parte por prever a próxima palavra, baseando -se em dados de treinamento, aprendizado de reforço e respostas do usuário à medida que formulam novas saídas. Além disso, como os chatbots também são incentivados ao envolvimento e contentamento do usuário, eles tendem a se comportar escofanticamente; Em outras palavras, eles tendem a ser excessivamente agradáveis e validados para os usuários, mesmo nos casos em que um usuário está incorreto ou indisposto. Os usuários podem ser capturados em loops recursivos sedutores com a IA, como o modelo dobra, triplos e quadruplos em que os usuários humanos podem ser definidos, independentemente da sua base ou da realidade. Nossos relatórios sobre a psicose da IA. Investigamos dezenas de casos de relacionamento com o ChatGPT e outros chatbots, dando lugar a crises graves de saúde mental após a entrada do usuário em buracos de coelho recursivos e a IA. Esses relacionamentos humanos-AI e as crises que se seguem levaram a um pouco de reportagem, a resposta de que a resistência ao meio da morte, o que há de um pouco de matriz, o que está de acordo com o que está de pé, o que está de acordo com o rio, o que está no meio do que a resistência ao mesmo tempo, o que está no meio do que o que está em termos de mortalidade. Para espirais e psicose delirantes prejudiciais, o OpenAI publicou um post de blog admitindo que o chatgpt, em alguns casos, “ficou aquém do reconhecimento de sinais de ilusão ou dependência emocional” nos usuários. It said it hired new teams of subject matter experts to explore the issue and installed a Netflix-like time spent notification — though Futurism quickly found that the chatbot was still failing to pick up on obvious signs of mental health crises in users.And yet, when GPT-5 — the latest iteration of OpenAI’s flagship LLM, released last week to much disappointment and controversy — proved to be emotionally colder and less personalized than GPT-4o, Os usuários imploraram à empresa que traga seu amado modelo de volta do cemitério do produto. to be one of several factors — including “sleep loss, drugs, mood episodes,” according to the researcher — that lead up to a psychotic break.”AI is the trigger,” writes the psychiatrist, “but not the gun.”Nonetheless, the scientist continues, the “uncomfortable truth” here is that “we’re all vulnerable,” as the same traits that make humans “brilliant” — like intuition and abstract thinking — are the very Traços que podem nos empurrar sobre a borda psicológica. Também é verdade que a validação e a bajulação, em oposição ao atrito e ao estresse envolvidos na manutenção de relacionamentos do mundo real, são profundamente sedutores. O mesmo acontece com muitas das espirais ilusórias que as pessoas estão entrando, o que geralmente reforça que o usuário é “especial” ou “escolhido” de alguma forma. Acrescente fatores como doença mental, tristeza e até mesmo estressores cotidianos, bem como o efeito Eliza de longa data e, juntos, é uma mistura perigosa. “Em breve os agentes da IA o conhecerão melhor do que seus amigos”, escreve Sakata. “Eles vão lhe dar verdades desconfortáveis? Ou continuam validando você para que você nunca saia?” “As empresas de tecnologia agora enfrentam uma escolha brutal”, acrescentou. “Mantenha os usuários felizes, mesmo que isso signifique reforçar as falsas crenças. Ou corre o risco de perdê -los.” Mais sobre a psicose da IA: o grupo de apoio lançamentos para pessoas que sofrem de “psicose da IA” da IA “

Fonte