GPT4All - 一键搭建本地的AI大模型聊天机器人教程（支持离线使用）
作者：hangge | 2024-10-14 08:42
现在 AI 大模型的发展很快，ChatGPT 的强大能力已经让很多人感到 AI 带来的变化。不过，目前商业化较高的 AI 大模型基本都是需要联网或者账号才能使用，这对于普通用户来说很不方便。特别是国内用户，由于网络问题，一些 AI 大模型无法直接使用，或者说在内网环境下也无法访问这些 AI 大模型。
而 GPT4All 提供了一个可以直接在本地运行各大商业友好的开源大模型解决方案，让所有普通用户都可以感受到开源大模型带来的方便。下面我将介绍如何使用 GPT4All 来安装部署一个本地的 AI 大模型。
1，GPT4All 介绍
（1）GPT4ALL 是一个运行强大自定义大语言模型的生态系统，能够在 CPU、NVDIA 以及 AMD GPU 上本地运行。它允许任何个人或企业轻松部署自已的边缘大规模语言模型。
（2）GPT4ALL 是一款面向隐私的软件，用于与在我们自己的计算机上运行的大型语言模型进行聊天。模型型运行于本地不上传用户数据
（3）GPT4ALL 模型是一个 3GB-8GB 的文件，我们可以下载并插入到 GPT4AIl 软件中。Nomic AI 支持并维护此软件生态系统，以确保质量和安全，并在努力允许任何个人或企业轻松部署自己的边缘大型语言模型的同时发挥领先作用。
（4）GPT4ALL 提供跨平台支持，可在 Windows、MacOS、Linux 三个平台上运行。
2，安装配置
（1）首先访问 GPT4All 的官网（点击访问），根据操作系统选择相应的版本进行下载安装：
（2）GPT4All 默认会将模型下载到 C 盘，如果 C 盘空间紧张的话我们可以修改模型的存放位置。个人习惯将 GPT4All 安装在其他盘符，然后在 GPT4All 安装目录下创建一个 models 文件夹：
（3）然后在 GPT4All 的 Settings 设置页面中将模型下载路径改成制定目录即可：
3，添加模型
（1）首先点击左侧面板的“Models”按钮，然后点击中间的“Add Model”按钮开始添加模型：
（2）此时界面上会显示 GPT4All 提供的各种 AI 大模型，每个模型都有相应的详细介绍。我们选择需要的模型点击“Download”按钮进行下载，比如我这里下载的是 Llama 3.1 8B 模型。
提示：如果下载中途卡住了我们可以取消再继续下载，或者重启程序再继续下载，下载进度会保留不需要担心。
4，使用说明
（1）模型下载完毕后，我们点击界面左侧的“Charts”按钮打开聊天面板，然后点击右侧上方的“Choose a model...”链接选择使用的模型，这里我选择刚下载的 Llama 3.1 模型。
（2）等待模型加载完毕后我们就可进行对话聊天了：
全部评论（0）