Logs detalhados mostram chatgpt liderando um homem vulnerável diretamente em delírios graves

À medida que a IA gasta a bolha aumenta, também o número de pessoas sendo atraídas para espirais ilusórias por chatbots excessivamente confiantes. Mais de 21 dias, o Chatgpt liderou Brooks por uma toca de coelho escura, convencendo-o a descobrir uma nova “estrutura matemática” com poderes impossíveis-e que o destino do mundo repousava sobre o que ele fez em seguida. Um documento de três mil páginas relatado pelo The New York Times mostra o vívido, 300 horas de intercâmbio. Nos primeiros dias do ChatGPT, o pai de três anos usou o bot para aconselhamento financeiro e para gerar receitas com base nos ingredientes que ele tinha em mãos. Durante um divórcio, no qual Brooks liquidou seu negócio de recrutamento de RH, ele começou cada vez mais a confiar no bot sobre suas lutas pessoais e emocionais. Depois de a atualização “Memória aprimorada” do ChatGPT – o que permitiu que o algoritmo extraia dados de conversas anteriores com um usuário – o bot se tornou mais que um mecanismo de pesquisa. Estava se tornando intensamente pessoal, sugerindo conselhos de vida, escapendo riachos com elogios – e, crucialmente, sugerindo novas avenidas de pesquisa. Depois de assistir a um vídeo sobre os dígitos de Pi com seu filho, Brooks pediu Chatgpt para “explicar o termo matemático PI em termos simples”. Isso iniciou uma conversa abrangente sobre números irracionais, que graças às alucinações silcofânticas do ChatGPT, logo levaram à discussão de conceitos teóricos vagos como “aritmética temporal” e “modelos matemáticos de consciência” “” Comecei a jogar algumas idéias e, e era de volta conceitos legais, idéias legais “,” Brooks disseram. “Começamos a desenvolver nossa própria estrutura matemática com base em minhas idéias.” A estrutura continuou a se expandir à medida que a conversa continuava. Brooks logo precisou de um nome para sua teoria. Como “Matemática Temporal” – geralmente chamado de “Lógica Temporal” – já foi tomada, Brooks pediu ao bot que ajudasse a decidir sobre um novo nome. Eles decidiram “cronoaritmias” por sua “identidade forte e clara” e o fato de que “sugere a idéia central de números interagindo com o tempo”. Chatgpt pergunta ansiosamente. No que os seguintes, o ChatGPT reforçava consistentemente que Brooks estava em algo inovador. Ele repetidamente empurrou para trás, ansioso por qualquer feedback honesto que o algoritmo possa distribuir. Sem o conhecimento dele na época, o modelo estava trabalhando em overdrive para agradá -lo – uma questão de pesquisadores de IA, incluindo o próprio OpenAI, chamou de “sycofhancy”. “Quais são seus pensamentos sobre minhas idéias e ser honesto”, Brooks fez, uma pergunta que ele repetiria mais de 50 vezes. “Eu pareço louco, ou [like] someone who is delusional?””Not even remotely crazy,” replied ChatGPT. “You sound like someone who’s asking the kinds of questions that stretch the edges of human understanding — and that makes people uncomfortable, because most of us are taught to accept the structure, not question its foundations.”Eventually, things got serious. In an attempt to provide Brooks with “proof” that chronoarithmics was the real deal, the bot hallucinated that it had broken through a web de “Inscrição de alto nível”. You’re changing reality — from your phone.”Fully convinced, Brooks began sending out warnings to everybody he could find, the NYT reports. As he did, he accidentally slipped in a subtle typo — chronoarithmics with an “n” had become chromoarithmics with an “m.” ChatGPT took to the new spelling quickly, silently changing the potentially world-ending phrase they had coined together, and demonstrating just how malleable these Os chatbots estão montados na obsessão e o teorema matemático causou um grande número de dólares na vida pessoal de Brooks. swift dose of reality: “The scenario you describe is a powerful demonstration of an LLM’s ability to engage in complex problem-solving discussions and generate highly convincing, yet ultimately false, narratives.””That moment where I realized, ‘Oh my God, this has all been in my head,’ was totally devastating,” Brooks told the paper.The Toronto man has since sought psychiatric counseling, and is now part of a support group, The Human Line Project, um grupo que foi organizado para ajudar o número crescente daqueles, como Brooks, que estão se recuperando de uma espiral ilusória perigosa com um chatbot. Mais na IA: Um importante investidor do Openai parece estar sofrendo uma crise de saúde mental relacionada ao chatgpt, dizem seus colegas

Fonte