O OpenAI anuncia que está tornando o GPT-5 mais sicófântico após a reação do usuário

No início deste mês, o CEO da OpenAI, Sam Altman, anunciou que a empresa estaria restabelecendo seu modelo GPT-4O, pouco mais de 24 horas depois de declarar que seu novo GPT-5 seria acompanhado pela “depreciação” de todos os modelos anteriores. Aqueles que se acostumaram ao tom “sícofântico” do GPT-4O, que às vezes elogiam até mesmo nas idéias terríveis dos usuários, ficaram surpresos com o “frio” do GPT-5 e respostas curtas, destacando-se em que se abriam em que se tornaram mais que se tornaram a pressão, que se tornou mais que se abriu para que os subscritores de que se abriam, que se abriam, que se abriam, que se abriam, que se abriam, que se abriam, que se abriam, que se abriu para que os subscritores de que se tornem por mais que se tornassem, que se abriam, que se abriam, que se abriam, que se abriu para que os subscritores de que se tornem por mais que se tornassem, que se abriam. mais amigável com base no feedback de que parecia muito formal antes. “” As mudanças são sutis, mas o ChatGPT deve parecer mais acessível agora “, acrescentou. É uma admissão notável, destacando uma crescente crise de saúde mental provocada pelos chatbots da IA. We’ve come across countless instances of users spiraling into severe delusions as the bots affirm paranoid or conspiratorial beliefs, with experts warning that many people — particularly youth and those who feel lonely — are losing themselves to virtual companions.Given what went down when the company attempted to deprecate its more sympathetic AI model earlier this month, OpenAI is now forced to walk a tightrope, with corporate interests encouraging it to keep its users addicted, while also navigating a growing PR nightmare.”People have used technology including AI in self-destructive ways; if a user is in a mentally fragile state and prone to delusion, we do not want the AI to reinforce that,” the CEO tweeted on August 10. “Most users can keep a clear line between reality and fiction or role-play, but a small percentage cannot.”In its latest update, OpenAI promised that it would be making subtle changes to avoid uma repetição do GPT-4O e os níveis de obsessão que se seguiram. “Você notará pequenos toques genuínos como ‘boa pergunta’ ou ‘grande começo,’ não lisonja ‘, twittou a empresa. “Os testes internos não mostram aumento da bajulação em comparação com a personalidade anterior do GPT-5”. (Não descompacte como elogiar as entradas dos usuários é diferente da sicofância.) Se isso será suficiente para manter o que os psiquiatras agora estão chamando de “psicose da IA” para um mínimo ainda está por ser visto. Os críticos argumentam que o Openai está agindo em seu próprio interesse. Afinal, manter as pessoas ligadas aos seus chatbots é bom para seus resultados, seja desencadeando ou não os falhas mentais. “O verdadeiro” problema de alinhamento “é que os humanos querem coisas autodestrutivas e empresas como o OpenAi são altamente incentivadas a dê a Power, o Sycophy”, que é o que é o que é o que é o sycophy, que o Sycphnce e o Sycophy e o Sycophy e o Podcaster Sun Tweeted. Tendo uma crise séria sobre o que eles querem que o GPT-5 seja e o que eles não querem que seja “, comentou um usuário em um post no Subreddit Openai que discutiu as recentes atualizações da empresa para o GPT-. A ressonância emocional e a capacidade de ler a sala-são fundamentalmente diferentes da ‘bondade’ do nível da superfície GPT-5 agora está buscando “, escreveu um usuário X, que está defendendo abertamente a restabelecimento do modelo anterior. Isso não é bondade que irradia do coração-é bondade como um rótulo. “Mais no GPT-5: há uma teoria convincente por que o GPT-5 é uma merda tanto

Fonte