Os advogados gerais avisam o Open ‘, o dano às crianças não será tolerado’
O procurador -geral da Califórnia, Rob Bonta, e o procurador -geral de Delaware, Kathy Jennings, se reuniram e enviaram uma carta aberta ao OpenAI para expressar suas preocupações com a segurança do chatgpt, principalmente para crianças e adolescentes. O aviso ocorre uma semana depois que a Bonta e 44 outros advogados gerais enviaram uma carta a 12 das principais empresas de IA, após relatos de interações sexualmente inadequadas entre os chatbots da IA e as crianças. “Desde a emissão dessa carta, soubemos da morte comovente por suicídio de um jovem californiano depois de ele ter prolongado interações com um chatbot de Openai, bem como um assassinato-suicídio igualmente perturbador em Connecticut”, escrevem Bonta e Jennings. “Quaisquer que fossem as salvaguardas em vigor não funcionaram.” As duas autoridades estaduais estão atualmente investigando a proposta de reestruturação da OpenAI em uma entidade com fins lucrativos para garantir que a missão da organização sem fins lucrativos permaneça intacta. Essa missão “inclui garantir que a inteligência artificial seja implantada com segurança” e a construção de inteligência geral artificial (AGI) para beneficiar toda a humanidade, “incluindo crianças”, de acordo com a carta. “Antes de nos beneficiarmos, precisamos garantir que as medidas de segurança adequadas estejam em vigor para não prejudicar”, continua a carta. “É nossa visão compartilhada que o OpenAI e a indústria em geral não estão onde eles precisam estar em garantir a segurança no desenvolvimento e implantação dos produtos de IA. Como procuradores gerais, a segurança pública é uma de nossas missões principais. À medida que continuamos nosso diálogo relacionado ao plano de recapitalização da OpenAI. Bonta e Jennings pediram mais informações sobre as atuais precauções e governança de segurança da OpenAI e disseram que espera que a empresa tome medidas corretivas imediatas, quando apropriado. O TechCrunch procurou o OpenAI para comentar. Evento do TechCrunch São Francisco | 27-29 de outubro de 2025
Fonte
