Os testes mostram que os principais modelos de IA estão cometendo erros desastrosos quando usados ​​para jornalismo

Muitos executivos de mídia estão apostando o futuro da indústria em inteligência artificial, chegando a substituir os jornalistas em um esforço para manter os custos baixos e lucrar com o hype. O resultado desses esforços até agora deixou muito a desejar. Encontramos inúmeros exemplos de publicações publicando inadvertidamente Slop de IA iluminados, irritando os leitores e jornalistas. O abraço do Google à tecnologia está prejudicando ativamente os resultados das publicações, mantendo os leitores-e com eles, membros muito necessários e exibir receita de anúncios-longe do conteúdo que sua IA está monetizando. Publicado pela Columbia Journalism Review, a IA é surpreendentemente terrível ao resumir documentos e pesquisas científicas para repórteres ocupados que podem ser tentados a confiar no Tech.schellman e seus colegas criaram um novo teste para avaliar os “valores jornalísticos de precisão e” Geminh) e a maioria dos modelos de Gemini e Gemini. A liberação do GPT-5 depois que o OpenAi descartou os planos para retirá-lo-gerou com sucesso pequenos resumos de reuniões e minutos das reuniões do governo local com “quase nenhuma aluquim”. As alucinações também foram uma questão maior nos resumos longos do que os curtos. As deficiências da tecnologia eram muito mais flagrantes quando se tratava de realizar pesquisas em nome dos repórteres científicos. A equipe encarregou as cinco principais ferramentas de pesquisa de IA de gerar uma lista de trabalhos científicos relacionados para quatro trabalhos acadêmicos, com resultados que variaram de “desanimador” a “alarmante”. “Nenhuma das ferramentas produziu revisões de literatura com sobreposição significativa às citações de referência, exceto um teste com o Scholar semântico, onde corresponde a cerca de 50 % das citações”. “Nos quatro testes, a maioria das ferramentas identificou menos de 6 % dos mesmos documentos citados nas críticas de autoria humana e, muitas vezes, 0 %”. Testes repetidos mostraram que o consenso científico da AIS mudou simplesmente com a mesma solicitação “, uma lista de artigos relacionados a pouco não é incompleta, a schell”. “If a journalist relies on these tools to understand the context surrounding new research, they risk misunderstanding and misrepresenting scientific breakthroughs, omitting published critiques, and overlooking prior work that challenges the findings.”In short, the investigation shows that despite AI companies promising that their tech can be used to reduce the workload of overworked journalists, their tools fail at rote tasks like summarization and scientific research.That means it’s also up Para os jornalistas para realizar uma “verificação de fatos finais”, argumentou Schellmann. Mas esse é o paradoxo no coração de tanta IA contemporânea: qual é a utilidade de uma ferramenta se você precisa verificar novamente tudo o que faz? É possível que o uso dessas ferramentas possa acabar aumentando as cargas de trabalho dos jornalistas. Como a Internet continua sendo poluída por uma inclinação generativa de IA que, na maioria das vezes, ilude praticamente qualquer forma de verificação de fatos humanos ou reversão, o futuro do jornalismo está em jogo. A indústria do jornalismo está enfrentando uma ameaça existencial, pois as redações são agitadas por demissões varridas. Enquanto isso, as empresas de mídia estão dobrando as promessas da IA, capturando o entusiasmo dos acionistas, marcando acordos de licenciamento de um milhão de dólares com artistas como o OpenAI. já faz pouco mais de um ano e meio que o Futurism publicou uma história sobre a Sports Illustated Slop, a IA, mais importante, os autores de Ai, em que os autores, os autores, que se transformaram em mecâncias ilustradas. E isso, apesar da desilusão generalizada e de uma reviravolta anti-ai tangível. E o Washington Post está piorando em uma ferramenta de IA para permitir que os escritores subqualificados publiquem conteúdo em suas páginas famosas. Mesmo a editora robusta de periódicos científicos Springer Nature agora está oferecendo para vender autores publicados AI “kits de mídia” que resumem sua própria pesquisa. Os consumidores de mídia também são suspeitados da tecnologia. No ano passado, um estudo constatou que, quando a contribuição da IA ​​foi mencionada na assinatura, as percepções dos leitores sobre a credibilidade da fonte e do autor caíram significativamente. Mais sobre jornalismo de IA: a IA está cortando a garganta da indústria do jornalismo

Fonte