O PocketPal AI é um aplicativo móvel de código aberto projetado para trazer Small Language Models (SLMs) diretamente para o seu telefone celular, tanto para usuários de iOS quanto de Android. Ele fornece uma experiência de bate-papo de IA independente da Web que garante a privacidade do usuário e oferece suporte ao gerenciamento automático de memória e a uma rica seleção de modelos. Desenvolvido por Asghar Ghorbani, esse aplicativo se integra à biblioteca de modelos Hugging Face, permitindo que os usuários façam download e usem uma ampla variedade de modelos diretamente pelo aplicativo para diferentes necessidades de bate-papo e solução de problemas.
Lista de funções
- Bate-papo off-line com IAIA pode ser usada para diálogo sem conexão com a Internet.
- Diversidade de modelosSuporte a uma variedade de modelos de idiomas pequenos, como Danube, Phi, Gemma 2, etc., que os usuários podem escolher e alternar de acordo com suas necessidades.
- Gerenciamento automático de memóriaO aplicativo descarrega automaticamente o modelo em segundo plano, economizando recursos do dispositivo.
- Integração do modelo de rosto de abraçoPesquisa, download e uso de modelos diretamente da biblioteca de modelos do Hugging Face.
- usuárioInterface de usuário: fornece uma interface simples e intuitiva para o gerenciamento de modelos e diálogos pelo usuário.
- PrivacidadeTodos os diálogos são processados localmente, garantindo que os dados não sejam transferidos para servidores externos.
Usando a Ajuda
Processo de instalação
O PocketPal AI é muito fácil de instalar:
Usuários do iOS.
- Abra a App Store.
- 在搜索栏中输入”PocketPal AI”。
- Clique para fazer download e instalar o aplicativo.
Usuários do Android.
- Abra a Google Play Store.
- 搜索”PocketPal AI”。
- Clique em Install (Instalar).
Diretrizes para uso
Inicie o aplicativo.
- Ao abrir o aplicativo PocketPal AI, você verá uma página inicial simples, geralmente com um botão de menu (que pode aparecer como três linhas ou quatro pontos).
Selecionar e fazer download de modelos.
- 点击菜单进入”Models”页面。这里列出了所有预装的模型和可从Hugging Face下载的模型。
- 选择你感兴趣的模型,点击”Download”按钮开始下载。下载后,点击”Load”按钮将模型加载到内存中。
Início do diálogo.
- 从菜单中选择”Chat”,进入聊天界面。
- Digite sua pergunta ou diálogo na caixa de entrada de texto e clique em Send (Enviar). O modelo dará uma resposta com base no modelo carregado no momento.
Configurações avançadas do modelo.
- 在”Models”页面,点击模型旁边的箭头图标(v),你将看到一系列高级设置选项,如调整温度、BOS token等,这些可以优化模型的输出效果。
Gerenciando a memória.
- PocketPal AI会自动管理模型的内存使用。如果你开启了”Auto Offload/Load”功能,应用会智能地在后台卸载模型,节省资源。
Reproduzindo o diálogo.
- Manter pressionada qualquer parte do diálogo copia um parágrafo específico, enquanto clicar no ícone de cópia na parte inferior do balão de diálogo copia a resposta inteira.
Perguntas frequentes e soluções.
- Carregamento lento do modelo ou falhas no aplicativo: Primeiro, verifique se a API do Metal está ativada (somente iOS) e tente desativá-la se isso for um problema. Se o problema persistir, relate o problema no GitHub.
- Não é possível encontrar o modelo necessário:通过Hugging Face集成的搜索功能,你可以搜索更多的模型。如果依然找不到,你可以尝试手动下载GGUF格式的模型并通过”Add Local Model”选项导入。
A experiência de uso do PocketPal AI é altamente personalizada, você pode ajustar e usar modelos diferentes de acordo com suas necessidades e aproveitar os serviços de conversação instantânea e privada com AI. Durante o processo de uso do dispositivo, você pode encontrar alguns problemas menores, mas eles podem ser resolvidos com eficácia por meio do suporte da comunidade e das atualizações contínuas dos desenvolvedores. Se você precisa de um assistente de diálogo privado ou deseja usar a IA sem Internet, vale a pena experimentar o PocketPal AI como uma ferramenta de código aberto.
Download do instalador e modelo do PocketPal AI para Android
Quarks: https://pan.quark.cn/s/06f5cf4ece85 Código de extração: D8m2