Parlant: uma estrutura de código aberto para fornecer controle confiável de grandes inteligências de modelagem de linguagem

O Parlant é uma estrutura de corpo inteligente de IA de código aberto que visa abordar os principais desafios enfrentados atualmente pelos modelos de linguagem grande (LLMs) em aplicativos do mundo real: imprevisibilidade e falta de controle. Ao criar inteligências de IA, os desenvolvedores geralmente se deparam com problemas como modelos que ignoram as solicitações do sistema, produzem respostas alucinatórias ou não conseguem lidar com casos-limite. A Parlant enfrenta esses desafios com uma abordagem inovadora que não depende mais apenas da complexa engenharia de dicas, mas permite que os desenvolvedores definam diretrizes comportamentais claras. Escritas em linguagem natural, essas diretrizes garantem que as inteligências ajam precisamente de acordo com a lógica comercial e as regras predefinidas em um determinado contexto. A estrutura aplica dinamicamente as diretrizes por meio de mecanismos de autocrítica e correspondência de contexto em tempo real para garantir um comportamento inteligente consistente e confiável, especialmente em serviços de atendimento ao cliente, finanças, saúde e outras áreas em que é necessária alta estabilidade. A Parlant suporta a integração de APIs e ferramentas externas e oferece total interpretabilidade, permitindo que os desenvolvedores entendam claramente os motivos por trás de cada decisão tomada por um corpo inteligente.

Lista de funções

• Diretrizes comportamentaisPermite que os desenvolvedores usem linguagem natural para definir regras que as inteligências devem seguir sob condições específicas, garantindo a execução precisa da lógica comercial.
• Fluxo de diálogo (Journeys)O usuário pode definir um caminho claro para o diálogo, orientando as inteligências para que atinjam seus objetivos passo a passo em várias rodadas de diálogo.
• Integração confiável de ferramentasSuporte para acesso estável a APIs externas, bancos de dados ou serviços de back-end para eventos de interação específicos de inteligências.
• Adaptação de domínioCapacidade das inteligências de aprender e usar a terminologia específica do setor para fornecer respostas mais personalizadas e profissionais.
• Respostas predefinidasO risco de alucinações de modelo pode ser efetivamente eliminado com o uso de modelos de resposta predefinidos, e a consistência no estilo de resposta pode ser garantida.
• Explicabilidade totalDescrição: Forneça informações sobre o processo de tomada de decisão de um órgão inteligente, explicando quando e por que cada critério foi combinado e seguido.
• Guarda-corpos embutidosMecanismos embutidos para evitar que as inteligências se alucinem e saiam do tópico, bem como a capacidade de lidar com entradas inadequadas de usuários por meio de auditoria de conteúdo.
• Widget ReactInterface de usuário de bate-papo plug-and-play: fornece uma interface de usuário de bate-papo plug-and-play que pode ser facilmente incorporada a qualquer aplicativo da Web.

Usando a Ajuda

O objetivo da Parlant é proporcionar uma experiência fácil e rápida, desde o desenvolvimento até a implantação, permitindo que os desenvolvedores criem e executem uma inteligência de IA controlada por comportamento em minutos.

montagem

O Parlant pode ser facilmente instalado com o pip, o gerenciador de pacotes do Python. Basta abrir o terminal ou a ferramenta de linha de comando e digitar o seguinte comando:

pip install parlant

Esse comando baixará e instalará automaticamente a estrutura Parlant e todas as suas dependências necessárias.

Primeiros passos rápidos: Criando uma inteligência de pesquisa de clima

Aqui está um exemplo simples que demonstra como criar um corpo inteligente que pode consultar a previsão do tempo em 60 segundos.

1. importar o SDK e definir as ferramentas

Primeiro, você precisa importar o arquivoparlant.sdk. Em seguida, use o@p.toolDecoradores para definir as ferramentas que as inteligências podem usar. As ferramentas são essencialmente funções Python assíncronas comuns que podem executar qualquer função de que você precise, como chamar uma API.

import parlant.sdk as p
from datetime import datetime
# 定义一个获取天气的工具
# 它接收一个城市名称作为参数
@p.tool
async def get_weather(context: p.ToolContext, city: str) -> p.ToolResult:
# 在这里编写你自己的天气API调用逻辑
# 为简化示例，我们直接返回一个固定的结果
return p.ToolResult(f"Sunny, 72°F in {city}")
# 定义一个获取当前日期和时间的工具
@p.tool
async def get_datetime(context: p.ToolContext) -> p.ToolResult:
return p.ToolResult(datetime.now())

2. criação e configuração de inteligências

Em seguida, você precisa escrever ummainFunções assíncronas para iniciar serviços, criar inteligências e configurar o comportamento para elas.

async def main():
# 启动Parlant服务器
async with p.Server() as server:
# 创建一个名为"WeatherBot"的智能体
agent = await server.create_agent(
name="WeatherBot",
description="一个乐于助人的天气助手"
)
# 创建一个上下文变量，让智能体在每次回复时都能获取最新时间
# 'get_datetime'工具会被自动调用
await agent.create_variable(name="current-datetime", tool=get_datetime)
# 使用自然语言创建一条行为准则
# 这是Parlant的核心功能，用于确保智能体的行为
await agent.create_guideline(
condition="当用户询问天气时",
action="调用天气工具获取当前天气，并用友好的语气回复，同时给出一些建议",
tools=[get_weather] # 将之前定义的工具绑定到这条准则
)
# 你可以在这里添加更多、更复杂的行为准则...
# 启动成功后，可以在 http://localhost:8800 访问测试界面
print("🎉 智能体测试界面已就绪，请访问 http://localhost:8800")
if __name__ == "__main__":
import asyncio
asyncio.run(main())```
**3. 运行并测试**
将以上代码保存为一个Python文件（例如 `weather_bot.py`），然后在终端中运行它：
```shell
python weather_bot.py

Quando o programa estiver em execução, você verá uma mensagem em seu terminal indicando que a interface de teste está no modo http://localhost:8800 Ele está pronto para ser usado. Abra seu navegador neste endereço e você poderá interagir com o "WeatherBot" que acabou de criar em tempo real.

Quando você pergunta: "Como está o tempo em Nova York?" Quando você pergunta "Como está o tempo em Nova York?ParlantA estrutura reconhecerá que essa intenção corresponde àquela que você definiu para oconditione, em seguida, executa automaticamente oactionresponder cantandotoolsIsso significa que a chamada para oget_weathere com base na funçãoactionGere respostas amigáveis para as descrições no

Conceito básico: Diretrizes de comportamento

O Código de Conduta é o recurso mais poderoso do Parlant. Ele resolve o problema dos métodos tradicionais, em que as inteligências podem ignorar os longos avisos do sistema. Você não precisa mais rezar para que o LLM entenda as suas intenções, mas pode prescrever diretamente o comportamento dele.

Uma diretriz consiste em várias partes:

• conditionCritério de seleção: as condições que acionam o critério, descritas em linguagem natural. Exemplo: "O usuário está emocionado e exige um reembolso".
• actionAções: as ações que a inteligência deve executar quando as condições forem atendidas, novamente descritas em linguagem natural. Por exemplo: "Primeiro acalme o usuário e, em seguida, chame a ferramenta de consulta de pedidos para confirmar a elegibilidade do reembolso".
• toolsFerramenta: Uma ou mais ferramentas vinculadas à diretriz. Essas ferramentas serão chamadas quando a diretriz for ativada.

O mecanismo do Parlant analisa o contexto do diálogo em tempo real e combina dinamicamente a combinação mais adequada de critérios para orientar o LLM na geração de respostas. Essa abordagem melhora muito a previsibilidade e a confiabilidade do comportamento das inteligências.

cenário do aplicativo

1. atendimento ao cliente
   No domínio do atendimento ao cliente, as empresas podem definir diretrizes rígidas para o fluxo de diálogo e o tratamento de problemas. Por exemplo, a definição de diferentes códigos de conduta para cenários como solicitações de reembolso, suporte técnico, consultas de pedidos etc. garante que as inteligências sempre sigam as políticas da empresa, forneçam um serviço padrão, preciso e empático e direcionem automaticamente os usuários para o atendimento humano ao cliente quando for detectado um sentimento negativo.
2. serviço financeiro
   No setor financeiro, onde a conformidade é fundamental, a Parlant pode garantir que as inteligências de IA cumpram as leis e os regulamentos rigorosos ao fornecer consultoria de investimento ou lidar com informações de contas de clientes. As diretrizes podem ser definidas para evitar o fornecimento de consultoria financeira não autorizada e para reforçar a autenticação quando operações confidenciais estiverem envolvidas.
3. cuidados com a saúde
   Os assistentes de IA no setor de saúde precisam lidar com dados confidenciais dos pacientes e não fornecer orientações médicas incorretas. Com o Parlant, é possível definir diretrizes rígidas de privacidade, garantir que as conversas estejam em conformidade com os requisitos regulamentares, como a HIPAA, e aconselhar imediatamente os usuários a procurar ajuda médica profissional quando descreverem sintomas graves, em vez de tentar diagnosticá-los por conta própria.
4. comércio eletrônico
   Os bots de compras de plataformas de comércio eletrônico podem usar a Parlant para orientar os usuários durante o processo de compra. Ao configurar "fluxos de diálogo" (Journeys), os usuários podem ser orientados a procurar produtos, responder a perguntas de especificação, lidar com consultas de estoque e, por fim, fazer um pedido. Quando o usuário se desvia do tema de compras, as diretrizes podem guiá-lo de volta ao processo de compras.

QA

1. Qual é a diferença entre a Parlant e outras estruturas de IA, como a LangChain?
   A principal diferença da Parlant é a sua filosofia de design. Enquanto as estruturas tradicionais se concentram em "solicitar" que os LLMs sigam as instruções por meio de engenharia de dicas e chamadas encadeadas, que muitas vezes não são confiáveis em cenários complexos, a Parlant oferece uma abordagem mais determinística para "forçar" as inteligências a seguirem as regras por meio do seu "código de conduta" e dos mecanismos de correspondência de contexto em tempo real, alcançando assim um nível mais alto de controle e confiabilidade. A Parlant oferece uma maneira mais determinística de "forçar" as inteligências a seguirem regras por meio de seu "código de conduta" e de mecanismos de correspondência de contexto em tempo real, alcançando assim um nível mais alto de controle e confiabilidade.
2. Quais são os grandes modelos de linguagem suportados pela Parlant?
   A estrutura do Parlant foi projetada para ser flexível e suporta uma ampla variedade de LLMs, incluindo a família de modelos da OpenAI, bem como vários modelos de código aberto no HuggingFace. Isso permite que os desenvolvedores escolham o modelo mais adequado de acordo com suas necessidades e orçamento.
3. É necessário ter conhecimento profundo de IA para usar a Parlant?
   Não. Um dos objetivos do projeto da Parlant é reduzir as barreiras para o desenvolvimento de inteligências de IA confiáveis. Seus principais recursos, como os códigos de comportamento, são definidos por meio de linguagem natural, o que permite que desenvolvedores e até mesmo pessoas de negócios sem um profundo conhecimento de IA participem do projeto de comportamentos corporais inteligentes.
4. Como o Parlant lida com alucinações e respostas imprecisas?
   O Parlant aborda o problema das alucinações de várias maneiras. Em primeiro lugar, um "Código de Conduta" garante que as inteligências devem recorrer a ferramentas ou bancos de dados para obter informações factuais em cenários críticos para os negócios. Em segundo lugar, o recurso de "modelos de resposta predefinidos" permite o uso de texto pré-escrito em cenários em que é necessária uma precisão absoluta (por exemplo, cotações de preços, declarações de políticas), evitando totalmente a necessidade de "free-riding" por parte dos LLMs.
5. O projeto é de código aberto e está disponível comercialmente?
   Sim, o Parlant é de código aberto sob a licença Apache 2.0, o que significa que você pode usá-lo gratuitamente e em projetos comerciais.