GPT4All 一个免费开源使用、本地运行的、注重隐私的LLM 聊天机器人，无需 GPU 或互联网，可在 CPU 和几乎任何 GPU 上本地运行的开源大型语言模型。支持Windows、macOS和linux，下载安装完后，选择需要的模型下载即可使用，也支持使用openai key进行使用，响应迅速，功能实用。

https://github.com/nomic-ai/gpt4all

GPT4All 的工作原理

GPT4All 是一个生态系统，用于训练和部署在消费级 CPU 上本地运行的强大且定制的大型语言模型。

目标很简单——成为任何个人或企业都可以自由使用、分发和构建的最佳指令调整助理式语言模型。

GPT4All 模型是一个 3GB – 8GB 文件，您可以下载该文件并将其插入 GPT4All 开源生态系统软件中。Nomic AI 支持并维护这个软件生态系统，以加强质量和安全性，同时带头让任何个人或企业轻松训练和部署自己的边缘大型语言模型。