GPT4All 是一个生态系统，用于运行功能强大且自定义的大型语言模型，这些模型可在消费级 CPU 和任何 GPU 上本地运行。请注意，您的 CPU 需要支持 AVX 或 AVX2 指令。

GPT4All模型是一个3GB - 8GB的文件，您可以下载并插入GPT4All开源生态系统软件中。Nomic AI支持并维护这个软件生态系统，以确保质量和安全，并带头努力让任何个人或企业轻松训练和部署他们自己的边缘大型语言模型。

项目地址：https://github.com/nomic-ai/gpt4all

RWKV是一款不错的替代品（包含各种风格的RWKV模型）