Aprendendo como a produção de produção é realmente construída
Projeto 2 do meu desafio de 100 Projetos do Github – mergulhando em estruturas que nunca vi antes do dia, outra estrutura para descobrir que estou trabalhando no meu desafio para aprender com 100 projetos diferentes do github, e hoje eu desembarcou em algo chamado Parlant. Entrando, sinceramente, não tinha idéia do que “modelagem de comportamento agêntico” significava, mas a base de código parecia substancial e profissional, então imaginei que valia um mergulho profundo. Mas o que chamou minha atenção não foi a parte da IA - foi como eles abordaram o problema de confiabilidade de uma perspectiva de engenharia de software. O principal insight que clicou para mim: eles tratam o comportamento do chatbot como qualquer outro sistema complexo que precise de resultados previsíveis. Em vez de escrever instruções vagas e esperar o melhor, eles construíram um sistema que força a IA através de etapas obrigatórias e testáveis. Um espera um bom comportamento, o outro garante um caminho específico. As aulas de engenharia que são fascinantes do ponto de vista da arquitetura do projeto é como elas separaram as preocupações: correspondência de diretrizes: descobre quais regras se aplicam à chamada de SituationTool atual: lida com a geração de integrais de API externa: na verdade, a responsabilidade é de uma única responsabilidade e a aplicação de uma única responsabilidade. Sua engenharia de software de livros didáticos aplicada a um domínio que eu nunca o vi antes. A “AHA” sobre a complexidade que estuda sua abordagem me fez perceber algo interessante sobre os desafios modernos de software. Ficamos muito bons em gerenciar a complexidade do código – microservices, separação de preocupações, design modular. Mas a IA apresenta um novo tipo de complexidade: a complexidade da tomada de decisão. O parlant aplica essencialmente os princípios tradicionais de engenharia de software para gerenciar como um sistema de IA toma decisões. Em vez de deixar a IA descobrir tudo (o que leva a um comportamento imprevisível), eles restringem e estruturam o processo de tomada de decisão. É como se estivesse tratando o “processo de pensamento” da IA como outro componente do sistema que precisa ser projetado corretamente. A estrutura carrega dinamicamente as regras relevantes para cada conversa e rastreia o que já foi aplicado. DO ponto de vista de um sistema, eles construíram um mecanismo de regras bastante sofisticado, com a busca de vetores por correspondência semântica, correlação de eventos para rastrear ações relacionadas e uma arquitetura de plug -in para a extensibilidade. enorme. a maioria dos projetos de IA que eu vi focar em obter um comportamento de demonstração impressionante. O Parlant se concentra em obter um comportamento consistente, audível e apropriado para os negócios. That shift in priorities leads to completely different architectural decisions.The Broader PatternLooking at their positioning relative to other frameworks: LangChain: Great for rapid prototyping and experimentation with lots of tools and integrationsTraditional chatbot builders: Predictable but rigid, limited to predefined flowsParlant: Attempting to bridge that gap with structured flexibility My TakeawayEven though this is an AI framework, the real As lições eram sobre engenharia de software. Como você constrói sistemas complexos que se comportam previsivelmente? Como você separa as preocupações ao lidar com componentes não determinísticos? Como você torna algo escalável e sustentável quando a lógica principal envolve a tomada de decisões em vez de apenas o processamento de dados? Essas são perguntas que provavelmente se aplicam muito além do chatbots.
Fonte
