Agentes de 12 fatores 2. Assuma o controle de seus prompts de entrada.

Não terceirize sua engenharia de solicitação de entrada para uma estrutura.

A propósito.Essa sugestão está longe de ser nova:

Algumas estruturas oferecem uma abordagem de "caixa preta" como essa:

agent = Agent(
role="...",
goal="...",
personality="...",
tools=[tool1, tool2, tool3]
)
task = Task(
instructions="...",
expected_output=OutputModel
)
result = agent.run(task)

Isso é útil para introduzir uma engenharia de prompt de entrada de alto nível para ajudá-lo a começar, mas geralmente é difícil ajustar e/ou fazer engenharia reversa para colocar a quantidade certa de Token Entrada para seu modelo.

Em vez disso, você deve assumir o controle de seus prompts de entrada e tratá-los como código para cidadãos de primeira classe:

function DetermineNextStep(thread: string) -> DoneForNow | ListGitTags | DeployBackend | DeployFrontend | RequestMoreInformation {
prompt #"
{{ _.role("system") }}
你是一个乐于助人的助手，负责管理前端和后端系统的部署。
你通过遵循最佳实践和正确的部署程序，努力确保部署的安全和成功。
在部署任何系统之前，你应该检查：
- 部署环境 (预发环境 vs 生产环境) 
- 要部署的正确标签/版本
- 当前的系统状态
你可以使用 deploy_backend、deploy_frontend 和 check_deployment_status 等工具来管理部署。对于敏感部署，使用 request_approval 来获得人工验证。
始终首先考虑该做什么，例如：
- 检查当前部署状态
- 验证部署标签是否存在
- 如果需要，请求批准
- 在部署到生产环境之前，先部署到预发环境
- 监控部署进度
{{ _.role("user") }}
{{ thread }}
下一步应该做什么？
"#
}

(O exemplo acima usa BAML Gerar prompts de entrada, mas você pode usar qualquer ferramenta de engenharia de prompts de entrada que desejar para fazer isso, ou até mesmo criar modelos manualmente)

Se essa assinatura de função parecer um pouco estranha, adicionaremos uma nova assinatura de função ao Elemento 4 - Ferramentas como resultados estruturados Discutido em.

function DetermineNextStep(thread: string) -> DoneForNow | ListGitTags | DeployBackend | DeployFrontend | RequestMoreInformation {

Principais benefícios de assumir o controle de seus prompts de entrada:

1. Controle totalEscreva exatamente os comandos de que suas inteligências precisam, sem abstrações de caixa preta!
2. Testes e avaliaçõesCrie testes e avaliações para seus prompts de entrada como faria com qualquer outro código!
3. iteração (matemática)Modifique rapidamente os avisos de entrada com base no desempenho real
4. transparênciaSaiba exatamente quais comandos suas inteligências estão usando
5. Hacking de funçõesAPIs: aproveite as APIs que suportam o uso não padrão de funções de usuário/assistente - por exemplo, uma versão sem chat da API "completions" da OpenAI, agora obsoleta. Isso inclui uma série de técnicas chamadas de "model gaslighting"

Lembre-se: os prompts de entrada são a interface principal entre a lógica do aplicativo e o modelo de linguagem grande (LLM).

O controle total dos prompts de entrada oferece a flexibilidade e o controle de prompts de entrada necessários para inteligências de nível de produção.

Não sei qual é o melhor prompt de entrada, mas sei que você quer ter a flexibilidade de poder experimentar tudo.