O psicólogo diz que a IA está causando tipos nunca vistos de transtorno mental

Algo continua acontecendo com pessoas que recebem chatbots viciados como ChatGPT. Os profissionais de saúde mental estão chamando isso de “psicose da IA”: recorrendo aos modelos de IA para conselhos, os usuários logo ficam encantados pelas respostas humanas da máquina sicófica. Torna -se não apenas uma ferramenta, mas um companheiro – e o pior tipo, constantemente com você com o que você deseja ouvir e validar qualquer coisa que você diga, não importa o quão errado ou desequilibrado. Isso leva a casos como um homem que foi hospitalizado repetidamente depois que Chatgpt convenceu que poderia dobrar o tempo, ou outro que acreditava ter descoberto avanços na física. Às vezes, fica horrivelmente trágico: as interações com a IA Chatbots supostamente levaram a várias mortes, incluindo o suicídio de um garoto de 16 anos. But experts do emphasize that there’s something unique, bizarre, and deeply alarming happening in these AI interactions, with many of the reported cases involving people with no history of mental illness, even if they don’t perfectly align with known types of psychosis.In a recent interview with Rolling Stone, clinical psychologist Derrick Hull — who is helping build a therapy chatbot at Slingshot AI — opined that “the reported cases seem more akin to what could be called ‘Ai ilusões’ “, do que a psicose. A psicose, acrescentou, é um “grande termo” que descreve “alucinações e uma variedade de outros sintomas” que ele não viu nos casos relatados. Mude o mundo enquanto sua vida real e pessoal caiu no caminho. Mas o feitiço foi quebrado quando ele pediu a outro chatbot da AI, Google Gemini, para revisar sua teoria. Savagely, a IA disse que o trabalho era apenas um “exemplo da capacidade dos modelos de idiomas de liderar narrativas convincentes, mas completamente falsas”. “Imediatamente, sua certeza, que a bolha estava explodindo”, disse Hull à Rolling Stone. “Você não vê isso em pessoas que têm esquizofrenia ou outros tipos de experiências psicóticas – o ‘insight’ não desaparece tão rápido.” Em suma, de acordo com Hull, estamos vendo ilusões desenfreadas, mas não necessariamente psicose. Isso ecoa um estudo recente realizado por pesquisadores do King’s College London, que examinaram mais de uma dúzia de casos de pessoas que se espalham para o pensamento paranóico e experimentando pausas com a realidade. Eles descobriram que os pacientes foram claramente levados a manter crenças ilusórias, mas não mostraram sinais das alucinações e pensamentos desordenados que são emblemáticos da esquizofrenia e outras formas de psicose. A explicação mais provável, nas opiniões dos autores, não era menos preocupante. Falando à Scientific American, o principal autor Hamilton Morrin descreveu os bots como criando uma “câmara de eco para um” e alertou no jornal que os chatbots da AI podem sustentar ilusões de uma maneira que não vimos antes. “Hull parece concordar que há algo único que estamos vendo apenas os estágios nascentes. “I predict that in the years ahead there will be new categories of disorders that exist because of AI,” he wrote in a LinkedIn post last month, as quoted by Rolling Stone.AI is “hijacking healthy processes in a way that leads to what we would call pathology, or leads to dysfunction in some way,” he told the magazine, “rather than just capitalizing on folks who are already experiencing dysfunction of some kind.”In sum, AI psychosis pode não ser, estritamente falando, a linguagem mais precisa para descrever o que está acontecendo. Por outro lado, é importante que, reunindo -se em torno de uma terminologia compartilhada, o fenômeno esteja sendo identificado e tocando com razão sinos de alarmes durante uma escassez de investigação acadêmica sobre o assunto, pois é apenas a ausência de que a falta de chatb em que se mantém em que se manifestam. Se de fato é um, já que esse é um tópico emergente-não deve prejudicar a conscientização dos riscos graves representados pela tecnologia, enquanto tenta responsabilizar as empresas multibilionárias que lidando.

Fonte