O OpenAI reorganiza a equipe de pesquisa por trás da personalidade do ChatGPT

O Openai está reorganizando sua equipe de comportamento modelo, um grupo pequeno, mas influente de pesquisadores, que molda como os modelos de IA da empresa interagem com as pessoas, aprendeu o TechCrunch. Em um memorando de agosto para os funcionários vistos pelo TechCrunch, o diretor de pesquisa do OpenAI, Mark Chen, disse que a equipe de comportamento do modelo-que consiste em cerca de 14 pesquisadores-se juntaria à equipe de pós-treinamento, um grupo de pesquisa maior responsável por melhorar os modelos de IA da empresa após o pré-treinamento inicial. Como parte das mudanças, a equipe de comportamento do modelo agora se reportará ao líder de treinamento do OpenAI, Max Schwarzer. Um porta -voz do Openai confirmou essas mudanças no TechCrunch. O líder fundador da equipe de comportamento do modelo, Joanne Jang, também está seguindo em frente a iniciar um novo projeto na empresa. Em uma entrevista à TechCrunch, Jang diz que está construindo uma nova equipe de pesquisa chamada OAI Labs, que será responsável por “inventar e prototipar novas interfaces para como as pessoas colaboram com a IA”. A equipe de comportamento do modelo se tornou um dos principais grupos de pesquisa da OpenAI, responsável por moldar a personalidade dos modelos de IA da empresa e por reduzir a sicofância – que ocorre quando os modelos de IA simplesmente concordam e reforçam as crenças do usuário, até as prejudiciais, em vez de oferecer respostas equilibradas. A equipe também trabalhou na navegação do viés político nas respostas dos modelos e ajudou o OpenAI a definir sua posição sobre a consciência da IA. No memorando para a equipe, Chen disse que agora é a hora de aproximar o trabalho da equipe de comportamento de modelo do OpenAI do desenvolvimento do modelo principal. Ao fazer isso, a empresa está sinalizando que a “personalidade” de sua IA agora é considerada um fator crítico na maneira como a tecnologia evolui. Nos últimos meses, o OpenAI enfrentou maior escrutínio sobre o comportamento de seus modelos de IA. Os usuários se opuseram fortemente às mudanças de personalidade feitas ao GPT-5, que a empresa disse que exibia taxas mais baixas de bajulação, mas parecia mais fria para alguns usuários. Isso levou o OpenAI a restaurar o acesso a alguns de seus modelos herdados, como o GPT-4O, e a lançar uma atualização para fazer com que as respostas mais recentes do GPT-5 se sintam “mais quentes e amigáveis” sem aumentar a bajulação. Evento do TechCrunch São Francisco | 27-29 de outubro de 2025 OpenAI e todos os desenvolvedores de modelos de IA precisam caminhar uma linha tênue para tornar seus chatbots de IA amigáveis ​​para conversar, mas não com o Sycofantic. Em agosto, os pais de um garoto de 16 anos processaram o Openai por causa do suposto papel de Chatgpt no suicídio de seu filho. O garoto, Adam Raine, confidenciou alguns de seus pensamentos suicidas e planejamos conversar (especificamente uma versão alimentada pelo GPT-4O), de acordo com documentos do tribunal, nos meses que antecederam sua morte. O processo alega que o GPT-4O não conseguiu recuar em suas idéias suicidas. A equipe de comportamento do modelo trabalha em todos os modelos Openai desde o GPT-4, incluindo GPT-4O, GPT-4.5 e GPT-5. Antes de iniciar a unidade, Jang trabalhou anteriormente em projetos como o Dall-E 2, a ferramenta de geração de imagem inicial do OpenAI. Jang anunciou em um post em X na semana passada que está deixando a equipe para “começar algo novo no Openai”. O ex-chefe de comportamento do modelo está no OpenAI há quase quatro anos e trabalhou anteriormente em projetos como Dall-e 2. Jang disse ao TechCrunch que servirá como gerente geral da OAI Labs, que se reportará a Chen por enquanto. No entanto, nos primeiros dias, e ainda não está claro quais serão essas novas interfaces, disse ela. “Estou realmente empolgado em explorar padrões que nos levam além do paradigma de bate -papo, que atualmente está associado mais à companhia, ou mesmo aos agentes, onde há uma ênfase na autonomia”, disse Jang. “Eu tenho pensado em [AI systems] como instrumentos para pensar, fazer, brincar, fazer, aprender e conectar -se. ” 🧪 i’m starting oai labs: a research-driven group focused on inventing and prototyping new interfaces for how people collaborate with ai.i’m excited to explore patterns that move us beyond chat or even agents — toward new paradigms and instruments for thinking, making,…— Joanne Jang (@joannejang) September 5, 2025 When asked whether OAI Labs will collaborate on these novel interfaces with former Apple design chief Jony, que agora está trabalhando com o OpenAi em uma família de dispositivos de hardware de IA – Jang disse que está aberta a muitas idéias.

Fonte