A história de horror se paira quando as crianças são bichos de pelúcia alimentados por AI

From Steven Spielberg’s creepy “AI” (2001) to M3GAN (2022), toys imbued with artificial intelligence have been a source of fascination and terror in pop culture for decades.Now, in the face of all those cautionary tales, a new class of vaguely menacing chatty toys are being sold online — but unlike the “Gremlin”-esque Furbies of yore, these are powered by cutting-edge AI, and their danger quotient lies in what they may tell children or share with outside companies.As the New York Times reports, these next-generation talking stuffed animals run the gamut of quality and authenticity, but all have one major ask: that parents trust that their young kids will be safe playing with toys that are connected to such a fraught technology.That’s a mighty tall order given how much harm has been done to kids from supposedly “child-friendly” chatbots, which Futurism has documented extensively.The first, best-known, and likely safest of these AI-infused stuffed toys are made by Curio, a Silicon Valley-based startup that boasts a bespoke, child-friendly chatbot and voice acting by electronic musician and Elon Musk ex Claire “Grimes” Boucher.As you can see from the photos below, these three plushies are indeed adorable — they’re $100 apiece, if you’re curious — Mas há mais neles do que encontra os olhos, e não estamos apenas falando sobre os chatbots, microfones e caixas de voz construídas dentro delas. Em uma entrevista com Boucher postada no site Curio e atingiu o anúncio de lançamento da empresa no final de 2023, a A-I-I-I-Itusused Artist disse que o brinquedo que ela projetou, não foi o que se destacou. Declaração e outros no site oficial de Curio, não levam em consideração uma ressalva estranha encontrada na política de privacidade da empresa, reconhecendo que os serviços cognitivos do Azure da Microsoft, o OpenAI, a Perplexity AI e a plataforma de verificação dos pais, todos os serviços da Web Kids podem “coletar ou manter informações pessoais de crianças através do aplicativo ou dispositivo”. Notas do NYT, isso contraria as alegações da empresa de que ela não retém as interações das crianças para algo que não seja a revisão dos pais nos aplicativos dos brinquedos, e procuramos curiosidade para perguntar o que é tudo o que é sobre todos os nomes, com poucos dubiantes, até mesmo que os nomes “não são” pequenos sketchs, até mesmo que os nomes “não são” pequenos sketchs. em seus detalhes, se não seus preços, que são aproximadamente os mesmos que os brinquedos vendidos por Curio. Little Alflers é o mais sombrio dos dois, com sua classificação de confiança de 2, gráficos gerados pela IA de crianças e suas famílias com os brinquedos, e zero detalhes sobre o que a IA sofre o chatbot construído no produto. Em sua subseção de “documentação”, a Companhia afirma que os compradores podem selecionar entre mais de 20 modelos de idiomas (LLMS) das empresas, incluindo as do OpenAI, Anthropic, Gêmeos do Google e vários outros que parecem se basear principalmente na China. Em vez disso, nomeia repetidamente uma empresa chamada “Astroship”, um software pouco conhecido como uma ferramenta de AI do construtor de sites e de serviço. As such, we don’t know whether FoloToy, or Astroship, or whoever is really behind those purported AI plushies is collecting data from the young kids that would use them.The privacy policy also ends with this astonishing and seemingly AI-generated clunker: “If you have any questions, concerns, or requests regarding this Privacy Policy, please contact us at [your contact email]. “Com tantos exemplos dos males de IA, de pessoas que caem em obsessão e psicose ao interagir com os chatbots para as crescentes preocupações de privacidade que cercam até os modelos mais sofisticados, parece muito prematuramente que está sendo informado para que as empresas de segurança são seguras. Mantenha os usuários seguros são aceitáveis para adultos que têm agência nessa decisão, mas para crianças pequenas que não têm a dizer no assunto, parece injusto e limítrofe perigoso expô -las à IA em geral – muito menos ai contrabandeada para algo tão inócuo como um brinquedo de pelúcia.

Fonte