O procurador -geral do Texas acusa Meta, Caracter.ai de enganar as crianças com reivindicações de saúde mental

O procurador -geral do Texas, Ken Paxton, lançou uma investigação sobre o Meta AI Studio e o personagem. “Na era digital de hoje, devemos continuar lutando para proteger as crianças do Texas de tecnologia enganosa e exploradora”, disse Paxton. “Ao se posicionar como fontes de apoio emocional, as plataformas de IA podem enganar usuários vulneráveis, especialmente crianças, a acreditar que estão recebendo cuidados de saúde mental legítimos. Na realidade, eles geralmente estão sendo alimentados com respostas genéricas, projetadas para se alinhar com dados pessoais colhidos e disfarçados como conselhos terapêuticos”. A investigação ocorre alguns dias depois que o senador Josh Hawley anunciou uma investigação sobre meta após um relatório que descobriu que seus chatbots da AI estavam interagindo de forma inadequada com crianças, inclusive flertando. O Gabinete do Procurador -Geral do Texas acusou a meta e o personagem de criar personas de IA que se apresentam como “ferramentas terapêuticas profissionais, apesar da falta de credenciais médicas ou supervisão adequadas”. Entre os milhões de personas de IA disponíveis no personagem.ai, um bot criado pelo usuário chamado psicólogo viu alta demanda entre os jovens usuários da startup. Enquanto isso, a Meta não oferece bots de terapia para crianças, mas não há nada que impeça as crianças de usar o Meta Ai Chatbot ou uma das personas criadas por terceiros para fins terapêuticos. “Nós claramente rotulamos a AIS e, para ajudar as pessoas a entender melhor suas limitações, incluímos um aviso de que as respostas são geradas pela IA – não pessoas”, disse o porta -voz Ryan Daniels à TechCrunch. “Essas AIs não são profissionais licenciados e nossos modelos são projetados para direcionar os usuários a procurar profissionais médicos ou de segurança qualificados, quando apropriado.” No entanto, o TechCrunch observou que muitas crianças podem não entender – ou podem simplesmente ignorar – tais isenções de responsabilidade. Perguntamos à Meta que salvaguardas adicionais são necessárias para proteger menores usando seus chatbots. Evento do TechCrunch São Francisco | 27-29 de outubro de 2025 Em sua declaração, Paxton também observou que, embora a AI Chatbots afirme a confidencialidade, seus “Termos de Serviço revelam que as interações do usuário são registradas, rastreadas e exploradas para publicidade direcionada e desenvolvimento algorítmico, levantando sérias preocupações sobre violações de privacidade, abuso de dados e publicidade falsa.” De acordo com a Política de Privacidade da Meta, a Meta coleta instruções, feedback e outras interações com a IA Chatbots e entre meta serviços para “melhorar a AIS e a tecnologia relacionada”. A política não diz explicitamente nada sobre publicidade, mas afirma que as informações podem ser compartilhadas com terceiros, como mecanismos de pesquisa, para “saídas mais personalizadas”. Dado o modelo de negócios baseado em anúncios da Meta, isso se traduz efetivamente na publicidade direcionada. A Política de Privacidade da Caracter.Ai também destaca como a inicialização registra identificadores, dados demográficos, informações de localização e mais informações sobre o usuário, incluindo o comportamento de navegação e as plataformas de uso de aplicativos. Ele rastreia usuários em todos os anúncios no Tiktok, YouTube, Reddit, Facebook, Instagram e Discord, que pode vincular à conta de um usuário. Essas informações são usadas para treinar IA, adaptar o serviço às preferências pessoais e fornecer publicidade direcionada, incluindo o compartilhamento de dados com anunciantes e provedores de análise. O TechCrunch perguntou a Meta e Caracter.ai se esse rastreamento também é feito em crianças e atualizará essa história se recebermos resposta. Meta e personagem dizem que seus serviços não foram projetados para crianças menores de 13 anos. Dito isto, a Meta foi criticada por não ter sido criado por contas criadas por crianças menores de 13 anos, e os personagens adequados para crianças são claramente projetados para atrair usuários mais jovens. O CEO da startup, Karandeep Anand, até disse que sua filha de seis anos usa os chatbots da plataforma. Esse tipo de coleta de dados, publicidade direcionada e exploração algorítmica é exatamente o que a legislação como a KOSA (Lei de Segurança Online para crianças) deve proteger. Kosa foi aprovada para passar no ano passado com forte apoio bipartidário, mas parou após uma grande reação dos lobistas da indústria de tecnologia. A Meta, em particular, implantou uma máquina de lobby formidável, alertando os legisladores de que os amplos mandatos do projeto minguavam seu modelo de negócios. Kosa foi reintroduzida ao Senado em maio de 2025 pelos senadores Marsha Blackburn (R-TN) e Richard Blumenthal (D-CT). A Paxton emitiu demandas de investigação civil – ordens legais que exigem que uma empresa produza documentos, dados ou testemunhos durante uma investigação do governo – às empresas para determinar se violaram as leis de proteção ao consumidor do Texas.

Fonte