Bem, a esta altura, temos mais de 1.000 linhas em nosso arquivo markdown. Esta é principalmente para diversão.
Se você estava esperando por uma introdução ao humanlayer, então é isso. Se estiver praticando o Elemento 6 - Iniciar/Pausar/Retomar por meio de uma API simples e o Elemento 7 - Entrar em contato com humanos por meio de chamadas de ferramentas, então você está pronto para integrar esse elemento. Permita que o usuário inicie/pause/retome a partir de...
Em vez de criar inteligências monolíticas que tentam fazer tudo, é melhor criar inteligências pequenas e focadas que possam fazer uma coisa bem feita. As inteligências são apenas um bloco de construção em um sistema maior e amplamente determinístico. O principal insight aqui é a limitação do modelo de linguagem grande: quanto maior e mais complexa a tarefa,...
Esse é um ponto secundário, mas vale a pena mencionar. Uma das vantagens de um agente é que ele é "autocorretivo" - para tarefas curtas, um modelo de linguagem grande (LLM) pode chamar uma ferramenta com falha. Há uma boa chance de que um bom LLM seja capaz de ler uma mensagem de erro ou um rastreamento de pilha e...
Se você tiver o controle do seu próprio fluxo de controle, poderá implementar muitos recursos interessantes. Crie estruturas de controle personalizadas que se ajustem ao seu caso de uso específico. Especificamente, determinados tipos de chamadas de ferramentas podem ser um motivo para sair de um loop, aguardar a resposta de uma pessoa ou esperar por outra tarefa de longa duração (por exemplo, um pipeline de treinamento)...
Por padrão, a API Large Language Model (LLM) depende de uma escolha de token de alto risco: retornamos conteúdo de texto simples ou retornamos dados estruturados? Você está dando muito peso à primeira opção de token, que, no caso do clima em Tóquio...
As inteligências são programas e esperamos poder iniciar, consultar, retomar e interrompê-los de alguma forma. Usuários, aplicativos, pipelines e outras inteligências devem ser capazes de iniciar facilmente uma inteligência com uma API simples. Quando operações de longa duração precisam ser executadas, as inteligências e seu código determinístico de orquestração...
Mesmo fora do espaço de IA, muitos sistemas de infraestrutura tentam separar o "estado da execução" do "estado do negócio". Para aplicativos de IA, isso pode envolver abstrações complexas para manter o controle de informações como a etapa atual, a próxima etapa, o estado de espera, novas tentativas etc. Essa separação introduz complexidade. Essa separação introduz complexidade e, embora possa valer a pena,...
A ferramenta não precisa ser complexa. Em sua essência, elas são simplesmente saídas estruturadas de seu Modelo de Linguagem Grande (LLM) que são usadas para acionar o código determinístico. Por exemplo, digamos que você tenha duas ferramentas CreateIssue e SearchIssues. Pedir a um modelo de linguagem grande (LLM) para "usar uma das várias ferramentas" é, na verdade, pedir que ele produza...
Você não precisa usar um formato padronizado e baseado em mensagens para fornecer contexto ao modelo de linguagem grande. A qualquer momento, sua entrada para o grande modelo de linguagem na inteligência de IA é: "Aqui está tudo o que aconteceu até agora e aqui está o que fazer em seguida." É tudo engenharia contextual. O grande modelo de linguagem é...
Não terceirize sua engenharia de prompt de entrada para uma estrutura. A propósito, esse conselho está longe de ser novo: algumas estruturas oferecem uma abordagem de "caixa preta" como esta: agent = Agent( role="..." , objetivo="..." , personalidade="..." , tools=...
Um dos padrões mais comuns na criação de inteligências é converter a linguagem natural em chamadas de ferramentas estruturadas. Esse é um padrão avançado que permite que você crie inteligências que podem raciocinar sobre tarefas e executá-las. Esse padrão, quando aplicado de forma atômica, consiste em pegar uma frase (por exemplo,) que pode ser usada para Ter...
Versão detalhada: como chegamos até aqui Você não precisa me ouvir Seja você um novato em inteligências ou um veterano mal-humorado como eu, vou tentar convencê-lo a abandonar a maioria de suas opiniões pré-existentes sobre inteligências de IA, dar um passo atrás e repensá-las a partir dos primeiros princípios. (Como...
Uma introdução abrangente O "12-Factor Agents" não é uma biblioteca ou estrutura de software específica, mas sim um conjunto de princípios de design para a criação de aplicativos LLM (Large Language Model) confiáveis, dimensionáveis e de fácil manutenção. O projeto foi iniciado pelo desenvolvedor Dex, que descobriu que muitas equipes estavam usando a inteligência artificial existente .....
FineTuningLLMs é um repositório do GitHub criado pelo autor dvgodoy, com base em seu livro A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face. Esse repositório...
A tecnologia de modelagem de linguagem grande (LLM) está mudando rapidamente, e a comunidade de código aberto está produzindo uma grande quantidade de recursos de aprendizado valiosos. Esses projetos são um tesouro de práticas para os desenvolvedores que desejam dominar o LLM sistematicamente. Neste artigo, daremos uma olhada detalhada em nove dos principais projetos de código aberto no GitHub que são amplamente aclamados, não...
Introdução Este curso abordará: Como planejar efetivamente a implantação do AI Agent em um ambiente de produção. Erros e problemas comuns que você pode encontrar ao implantar o AI Agent em um ambiente de produção. Como gerenciar os custos e, ao mesmo tempo, manter o desempenho do AI Agent. Objetivos de aprendizado Após concluir este curso, você saberá...
Introdução Bem-vindo ao curso sobre Metacognição no AI Agent! Este capítulo foi criado para iniciantes interessados em saber como os agentes de IA pensam sobre seus próprios processos de pensamento. Ao final deste curso, você entenderá os principais conceitos e terá exemplos práticos de aplicação da metacognição ao projeto do AI Agent. Objetivos de aprendizado .....
Quando você começa a trabalhar em um projeto que envolve várias inteligências, precisa considerar o Multi-Intelligence Design Pattern. No entanto, pode não ser óbvio quando mudar para a multiinteligência e quais são as vantagens. Introdução Neste curso, a Microsoft tenta responder às seguintes perguntas: Quais cenários são adequados para a multiinteligência? Quais cenários são adequados para a inteligência múltipla?