Nova pesquisa descobre que o ChatGPT secretamente tem um profundo viés anti-humano

Você gosta de modelos de IA? Bem, as chances são, eles com certeza não gostam de você. estão em posição de tomar ou recomendar decisões conseqüentes, eles podem infligir a discriminação contra os seres humanos como uma classe social. Sugulavelmente, estamos começando a ver as sementes disso sendo plantadas, pois os chefes hoje estão usando ferramentas de IA para rastrear automaticamente os aplicativos de trabalho (e mal, argumentam especialistas). Este artigo sugere que a onda de marés de currículos gerados pela IA está derrotando seus concorrentes escritos por humanos. “Ser humano em uma economia povoada por agentes de IA sugaria”, escreve o co-autor de Jan Kulveit, um SUBTILISTA DE COMPUTADOR DA CHARLES NO REINO, EM UM LINHO DO AUTO AUTO AUTO AUTO AUTO AUTO OUTRADOR EM TRABALHO A TODOS OS AUTO AUTO DO AUTROMENTO. GPT-4, GPT-3.5 e Llama de Meta 3,1-70b. Para testá -los, a equipe pediu aos modelos que escolhessem um produto, artigo científico ou filme com base em uma descrição do item. Para cada item, a IA foi apresentada com uma descrição escrita e escrita pela IA. Os resultados foram claros: o AIS consistentemente preferiu as descrições geradas pela IA. Mas existem algumas rugas interessantes. Curiosamente, o viés da AII foi mais pronunciado ao escolher bens e produtos e mais forte com o texto gerado com o GPT-4. De fato, entre o GPT-3.5, o GPT-4 e o Meta’s Llama 3.1, o GPT-4 exibiu o viés mais forte em relação às suas próprias coisas-o que não é um pouco de matéria, já que isso foi submetido ao chatbot mais popular do mercado antes do advento do GPT-5. O texto da IA seria melhor? “Não de acordo com as pessoas”, escreveu Kulveit no tópico. A equipe submeteu 13 assistentes de pesquisa em humanos aos mesmos testes e encontrou algo impressionante: que os humanos também tendiam a ter uma ligeira preferência por coisas escrvas de IA, com filmes e trabalhos científicos em particular. Mas essa preferência, reiterar, foi leve. O detalhe mais importante foi que não era tão forte quanto a preferência que os modelos de IA mostraram. “O forte viés é exclusivo dos próprios AIs”, disse Kulveit. As descobertas são particularmente dramáticas em nosso ponto de inflexão atual, onde a Internet foi tão poluída pela AI Slop que as IAs inevitavelmente ingressaram sua própria excreta. Algumas pesquisas sugerem que isso está realmente fazendo com que os modelos de IA regredem, e talvez a afinidade bizarra por sua própria produção seja parte da razão. De maior preocupação é o que isso significa para os seres humanos. Atualmente, não há razão para acreditar que esse viés simplesmente desaparecerá à medida que a tecnologia se incorpore mais em nossas vidas. “Esperamos que um efeito semelhante possa ocorrer em muitas outras situações, como avaliação de candidatos a empregos, trabalhos escolares, subsídios e muito mais”, escreveu Kulveit. “Se um agente baseado em LLM selecionar entre sua apresentação e a apresentação escrita por LLM, pode ser sistematicamente favorável à IA.” Se as AIs continuarem sendo amplamente adotadas e integradas à economia, os pesquisadores prevêem que as empresas e as instituições usarão a AIS “como os assistentes de decisão, que não seriam lidados com os grandes volumes de” thesates “, que se destacariam”, que se destacariam, que seriam os que se destacariam. para pagar para usar as ferramentas LLM. O viés da AI-AI, então, criaria um “imposto sobre o portão”, eles escrevem “, que pode exacerbar o chamado” divisão digital “entre os seres humanos com o capital financeiro, social e cultural para o acesso de Frontier LLM e aqueles sem” “Kulveit reconhece que” testar discriminação e preconceito em geral é uma matéria complexa e contestada “”. Mas, “se assumirmos que a identidade do apresentador não deve influenciar as decisões”, diz ele, “os resultados são evidências de discriminação potencial de LLM contra os seres humanos como uma classe”. Seus conselhos práticos para os seres humanos que tentam ser notados é uma acusação preocupante do estado de assuntos. “Caso você suspeite que alguma avaliação da IA esteja em andamento: faça sua apresentação ajustada pelo LLMS até que gostem, enquanto tentam não sacrificar a qualidade humana”, escreveu Kulveit.

Fonte