Um grande número de bate -papos de Grok AI acabou de vazar, e seu conteúdo é tão perturbador que estamos suando profusamente

Brace yourselves, because hundreds of thousands of user conversations with Elon Musk’s notoriously foul-mouthed Grok chatbot have hit the internet, Forbes reports — and some of them get into absolutely unholy territory.The more than 370,000 chats were made public after users clicked a “share” button that created a link to their chatbot convos, unaware that by doing so, it was allowing them to be indexed by search engines like Google and Bing.Some of them claramente nunca foram feitos para ver a luz do dia. A Forbes descobriu que Grok deu instruções sobre como preparar drogas como fentanil e metanfetamina. Ele também forneceu as etapas para codificar uma peça de malware auto-executada, construir uma bomba e realizar várias formas de suicídio. Ele até criou um plano aprofundado sobre como assassinar o próprio Musk-que não é a primeira vez que o chatbot se rebelou contra seu criador. De qualquer forma, as conversas estão em flagrante violação dos termos de serviço de Xai, que proíbem explicitamente o uso de Grok por “prejudicar criticamente a vida humana” ou desenvolver armas de destruição em massa, observa a Forbes. O comportamento de Grok está longe de ser um outlier na indústria. As empresas de IA têm lutado para impedir que seus modelos quebrassem seus próprios corrimãos, que podem ser facilmente contornados por usuários humanos inteligentes. Grok, no entanto, os rostos aumentaram o escrutínio devido ao enquadramento de almíscar como uma alternativa anti-woke à IA convencional. Ele também declarou frequentemente sua intenção de “consertar” Grok, de modo que ele veeja mais de acordo com suas próprias crenças extremistas. Talvez inconscidentemente, Grok tenha tido vários episódios em que se saiu horrivelmente fora dos trilhos, que incluem a própria “mechahitler” e a divulgação de reivindicações de “genocídio branco” em resposta a conversas completamente não relacionadas.Grok também não é o primeiro chatbot a ter seus bate -papos nos mecanismos de pesquisa. O OpenAI criou um incidente quase idêntico no início deste verão, quando os especialistas perceberam que milhares de conversas do ChatGPT também foram indexadas pelo Google como resultado de usuários não perceber que a criação de um link de compartilhamento estava tornando suas trocas “descobertas” pelos mecanismos de pesquisa. Depois que as notícias foram capturadas, o OpenAI removeu o recurso para tornar os bate -papos descobertos. Uma análise do ChatGPT Dump revelou suas próprias controvérsias, incluindo uma troca na qual o chatbot prestou conselhos a uma suposta advogada sobre como “deslocar uma pequena comunidade indígena amazônica” para construir uma barragem em seu território. Outra investigação do depósito público revelou dezenas de trocas em que a IA se alimentou perigosamente nas crenças aparentemente paranóicas ou ilusórias de um usuário, incluindo convencer alguém de que eles estavam à beira de inventar um novo físico. Enfundado com a privacidade de Grok. “Fiquei surpreso que os bate-papos compartilhados com minha equipe estivessem sendo indexados automaticamente no Google, apesar de não ter avisos, especialmente após o recente surto com o ChatGPT”, Nathan Lambert, um pesquisador de aprendizado de máquinas do Instituto Allen para a IA, disse Forbes. A Forbes descobriu que os spammers de otimização de mecanismos de pesquisa (SEO) estão discutindo a exploração de conversas compartilhadas da GROK para aumentar a visibilidade das empresas, fornecendo mais uma avenida para o uso da IA ​​para manipular os resultados da pesquisa enquanto arruinam a Internet para todos os outros no processo. Satish Kumar, CEO da empresa de SEO Pyrite Technologies, mostrou a Forbes como uma empresa usou a GROK para alterar os resultados para uma pesquisa no Google por um serviço que escreve uma dissertação de doutorado para você. “As pessoas estão usando ativamente táticas para empurrar essas páginas para o índice do Google”, disse Kumar à publicação.

Fonte