O outro lado do Openai 12 Histórias surpreendentes que você não ouviu

Enquanto navegava no YouTube, tropecei em um vídeo intitulado Este livro mudou como penso sobre a IA. Curioso, cliquei e me apresentou ao Empire of Ai, de Karen Hao, um livro que mergulha profundamente na evolução do Openai. O livro explora a história do Openai, sua cultura de sigilo e sua busca quase obstinada pela inteligência geral artificial (AGI). Com base em entrevistas com mais de 260 pessoas, juntamente com a correspondência e os documentos internos, Hao pinta uma imagem reveladora da empresa. Depois de ler, descobri 12 fatos particularmente fascinantes sobre o Openai que a maioria das pessoas não conhece. Vamos mergulhar. 1. O “aberto” em Openai era mais marca do que crença de que o nome parece nobre que não gosta da idéia de “aberta” ai? Mas aqui está o problema: desde o início, a abertura era mais narrativa do que o compromisso. Os fundadores Sam Altman, Greg Brockman e Elon Musk se apoiaram nele porque os ajudaram a se destacar. Atrás de portas fechadas, porém, o co -fundador Ilya Sutskever já estava sugerindo que eles poderiam reduzir isso assim que a história cumpriu seu objetivo. Em outras palavras: aberto, até que não fosse conveniente. 2. Promessa de bilhões de dólares de Elon Musk? Principalmente fumaça e espelhos lembram -se da promessa chamativa de financiamento de US $ 1 bilhão de Musk? Acontece que o Openai só viu cerca de US $ 130 milhões. E menos de US $ 45 milhões vieram diretamente do próprio Musk. Seu volante ao financiamento quase levou a organização a crises, forçando Altman a caçar novas fontes de dinheiro. 3. A mudança de fins lucrativos foi mais sobre sobrevivência do que a visão em 2019, a OpenAI apresentou sua estrutura de “lucro com limpeza”, lançando-a como uma maneira inovadora de equilibrar missões e dinheiro. Mas a verdade é muito menos fascinante: o modelo sem fins lucrativos não estava trazendo os bilhões necessários para competir com os gigantes da tecnologia. A certa altura, Brockman e Sutskever até discutiram se fundir com uma startup de chip. Criar o OpenAI LP não era uma visão ousada era uma linha de vida. 4. O modelo de “com fins lucrativos” parecia ilimitado para os críticos que os investidores foram informados de que seus retornos seriam limitados a 100x. Parece responsável, certo? Mas faça as contas: um cheque de US $ 10 milhões ainda pode se transformar em um pagamento de US $ 1 bilhão. Os críticos rapidamente chamaram de “basicamente ilimitado”, argumentando que o boné só parecia significativo até você ver os números reais. 5. O enredo “muito perigoso” do GPT-2 foi um golpe de mestre de relações públicas em 2019, o Openai disse que seu modelo GPT-2 era tão poderoso que tinha que ser retido por razões de segurança. Manchetes explodiram. Mas aqui está a reviravolta: muitos pesquisadores pensaram que as reivindicações de risco estavam exageradas e viram tudo como um golpe publicitário projetado por Jack Clark, chefe de comunicações da Openai na época. O golpe funcionou – a empresa estava de repente em toda parte. 6. A cultura de Openai tinha “tribos” em conflito dentro do Openai, as coisas não eram exatamente harmoniosas. O próprio Sam Altman descreveu a organização como dividida em três facções: exploradores de pesquisa, advogados de segurança e construtores de espírito startup. Ele até avisou sobre a “guerra tribal” se eles não pudessem se juntar. Essa não é apenas a tensão no local de trabalho, é um sinal de conflito profundo sobre a direção da empresa. 7. A estréia global do ChatGPT foi basicamente um acidente achando que o lançamento do ChatGPT foi cuidadosamente coreografado? De jeito nenhum. O produto que fez do OpenAI um nome familiar foi lançado em apenas duas semanas como uma “prévia da pesquisa”, logo após o Dia de Ação de Graças 2022. A corrida estava em parte para se adiantar de um chatbot do Anthropic. Até o maior parceiro do Microsoft Openai foi pego de surpresa e supostamente irritado. 8. Os dados de treinamento incluíram livros piratas e vídeos do YouTube, onde você obtém dados suficientes para treinar algo como GPT-3 ou GPT-4? No caso de Openai, raspando quase tudo o que pôde. O GPT-3 usou um conjunto de dados secreto apelidado de “Books2”, que supostamente incluiu obras piratas da biblioteca Gênesis. O GPT-4 foi ainda mais longe, com os funcionários transcrevendo vídeos do YouTube e retirando qualquer coisa on-line sem avisos explícitos de “não raspar”. 9. A “segurança da IA” ignorou inicialmente os danos sociais OpenAi adora falar sobre a segurança da IA ​​agora. Mas, no início, os executivos resistiram às chamadas para ampliar o termo para incluir danos no mundo real, como discriminação e viés. Quando pressionado, um líder disse sem rodeios: “esse não é o nosso papel”. A mensagem era clara: a segurança significava riscos existenciais, não os impactos cotidianos. 10. A dimensionamento veio com os custos ambientais ocultos maiores modelos exigem mais computação e mais recursos. O treinamento do GPT-4 nos data centers da Iowa da Microsoft consumiu aproximadamente 11,5 milhões de galões de água em um único mês, durante uma seca. Surpreendentemente, Altman e outros líderes nunca discutiram esses custos ambientais em reuniões em toda a empresa. 11. “O SummerSafe LP” teve uma inspiração sombria antes do Openai LP ter seu nome público, foi secretamente incorporado como “SummerSafe LP”. A referência? Um episódio de Rick e Morty, onde um carro, encarregado de manter o verão seguro, recorre a assassinatos e torturas. Internamente, era um aceno irônico para como os sistemas de IA podem distorcer objetivos bem-intencionados em resultados perigosos. 12. Os funcionários que partiram enfrentaram documentos vazados por pressão de patrimônio revelados revelaram que o OpenAI usou uma tática hardball com os funcionários que partem: assinam um rigoroso contrato de não separação ou risco de perder o patrimônio líquido. Isso essencialmente forçou as pessoas a silêncio ao longo da vida. Altman disse mais tarde que não sabia que isso estava acontecendo e ficou envergonhado, mas os registros mostram que ele assinou a papelada concedendo à empresa esses direitos um ano antes. Pensamentos finais A história de Openai é tudo menos direta. De promessas quebradas e confrontos internos a práticas controversas de dados, a empresa geralmente opera de maneiras que não correspondem às suas mensagens públicas. Se você vê isso como estratégia experiente, dores de crescimento bagunçado ou algo mais preocupante depende da sua perspectiva. Mas uma coisa é clara: o “aberto” em Openai sempre foi complicado.

Fonte