Os pesquisadores pressionam a pausa no bot de terapia de IA após relatos de psicose de IA em produtos semelhantes

A vitiligo research group has “hit pause” on its forthcoming AI therapy bot after learning about negative mental health effects that other chatbots have been having on users.The Vitiligo Research Foundation, a nonprofit dedicated to raising awareness and helping sufferers of the pigment-loss skin condition, cited recent news stories about so-called “AI psychosis” — the unofficial group of symptoms, including paranoid delusions, that AI seems to induce Em certos usuários – como sua lógica para fazer uma pausa em seu próprio conselho. “Pegue Geoff Lewis, um grande nome de Nome [venture capitalist] que também é um investidor do Openai, “as observações da fundação em um comunicado de imprensa sobre sua decisão”. [Silicon] Valley took notice — not because he’d cracked some hidden code, but because people were worried about his mental health.”Lewis isn’t the only headline-grabbing case of AI psychosis. As Futurism, the New York Times, the Wall Street Journal, and other outlets have reported, the problem of seemingly AI-induced delusions has gotten so bad that people are being hospitalized, involuntarily committed, jailed, and even dying because of it. Seeking to circumvent such malign Consequências, algumas pessoas até começaram um grupo de apoio para os sofredores de psicose de IA e seus entes queridos. Com um estudo recente de Stanford e Carnegie Mellon, que descobriu que os chatbots da IA tendem a colar com os que não se liberam, e que não tenham o suporte para que os suportados sejam reportados para que os suportados sejam releativos para que os suportados sejam releativos, que não tenham o suporte para que os suportados sejam os que se destacam, o fato de serem releutados para que os suportes sejam releativos, que não tenham o suporte para a reposição. Terapia Chatbot para Vitiligo.ai, sua ferramenta de perguntas e respostas de IA que fornece, de acordo com o site “Insights profundos sobre pesquisa de vitiligo, tratamentos, nutrição e saúde mental” Recursos. Em vez disso, o comunicado da imprensa passou a revelar que o bot de terapia forneceu alguns resultados estranhos quando a base beta a testou nos bastidores. “Vimos um comportamento estranho o suficiente em execuções de teste-respostas estranhas, resenhas inúteis, até mesmo a validação acidental de que não se referem a que não se referem. A última coisa que qualquer pessoa com vitiligo precisa é de um chatbot que se sente favorável ao piorar as coisas. “Por todos os danos que vimos vindo de chatbots nos últimos meses, essa escolha sem fins lucrativos para atrasar a terapia é que se refresca, embora seja interessante que seja o que se refere ao controle de que as candidatos a serem que se refletem, o que se refresca, embora seja interessante que seja o que se refere ao controle, o que se refere ao controle, o que é mais interessante, para que seja o que se reexam ao controle, o que se refere a um barramento, o que se refresca, embora seja interessante que seja o que se refere ao controle, o que se refere a um barramento, o que se refresca, embora seja interessante que seja o que se refere ao controle, o que se refere ao controle de suas garras, o que se refere ao seu barramento, o que é mais interessante, para que seja o que se reexam ao controle de suas garras, o que se refere ao seu barra. Terapeuta vai por acaso, exorta o usuário a continuar matando a onda

Fonte