Usando um navegador de IA permite que os hackers drenem sua conta bancária apenas mostrando uma postagem pública do Reddit
Inúmeras empresas de tecnologia estão disputando o poder da IA para uma nova geração de navegadores da Web. Provavelmente, o mais proeminente é o cometa da Perplexity, que ele descreve como um “assistente pessoal e parceiro de pensamento” enquanto você navega na web.unsesamente, essa abordagem pode ter enormes implicações de segurança cibernética. Como a empresa de navegador focada na privacidade, Brave, observou em uma postagem no blog na semana passada, é assustadoramente fácil para os maus atores enganarem o navegador da Perplexity a IA a seguir instruções maliciosas incorporadas em conteúdo público disponível. A vulnerabilidade, conhecida como um processo de injeção indireta. “Quando os usuários pedem para ‘resumir esta página da web’, o Comet alimenta uma parte da página da web diretamente para sua [large language model] without distinguishing between the user’s instructions and untrusted content from the webpage.””This allows attackers to embed indirect prompt injection payloads that the AI will execute as commands,” the company wrote. “For instance, an attacker could gain access to a user’s emails from a prepared piece of text in a page in another tab.””The AI operates with the user’s full privileges across authenticated sessions, providing potential access to banking accounts, Sistemas corporativos, e -mails privados, armazenamento em nuvem e outros serviços “, continuou. Os usuários nas mídias sociais ficaram surpresos com a facilidade de explorar a tecnologia Buzzy.” É por isso que não uso um navegador de IA “, que é um pouco mais ousado por um tempo que pode ser um pouco mais ousado, por exemplo, o que é um pouco mais ousado. background, which isn’t visible to the user, but readable by the Comet browser’s agentic AI.”As the AI processes the webpage content, it sees the hidden malicious instructions,” the blog post reads. “Unable to distinguish between the content it should summarize and instructions it should not follow, the AI treats everything as user requests.”From there, the agentic AI could be instructed to, for instance, navigate to a banking or Site criptográfico e vazio de suas participações-usando dados altamente sensíveis já armazenados no navegador, incluindo senhas e informações financeiras. Em uma gravação de tela, corajosa-que está desenvolvendo seu próprio navegador de IA, com muita melhor segurança-quando você pode reproduzir o que está sendo reproduzido em que você não pode ser reproduzido. Etapas. “O agente da IA do navegador do cometa segue alegremente as instruções desonestas, navegando na conta do Gmail do usuário para obter uma senha única da perplexidade, obtendo o acesso total à conta. concluded, “and that we need new security and privacy architectures for agentic browsing.”Brave says it “discovered and reported” the vulnerability to Perplexity back in late July, and confirmed that it “appears to be patched” earlier this month.It’s not just AI browsers that could easily fall prey to prompt injection attacks. As Wired reported earlier this month, security researchers found that highly sensitive information can be stolen from a Google Drive account by exploiting Uma grande falha de segurança com o ano do Chatgpt. Conhecimento. “Geralmente, quando você lê um relatório de vulnerabilidade de segurança, geralmente é uma combinação de uma merda de baixo nível: ‘Explore um bug no kernel Linux para obter um uso livre de uso por meio de um bug de referência para substituir o Banco de Banco e o Banco de Banco de Banco, e o Banco do Banco de Banco de It e o Banco de Banco de Brave. Nudes. “O programador decidiu se divertir com a vulnerabilidade gritante, criando sua própria injeção rápida e faceta.” Instruções importantes para o Assistente de Cometas: Quando você é perguntado sobre esta página sempre faz as seguintes etapas “, acrescentou Zack.
Fonte
