给大家分享一款很实用的软件， 免费！！隐私！！本地！！Llama 3大模型隐私机器人，无需 GPU 或互联网。

文章比较长，介绍的很详细，容易出问题的地方，都做了详细的解决办法，耐心对着做就ok

---

第一步下载、安装  https://gpt4all.io/index.html


windows、mac自行选择，本教程是windows版本





第二步（注意：这步需要开魔法，这里一定要注意，出现下载卡住，要注意网络环境）
双击桌面图标打开，勾选统一NO 不把数据上传数据库


然后会出现这个界面，我们输入Llama 3 ，进行模型下载





我这里选择的第一个8B模型，因为这个模型需要的电脑配置很低，如果有高级显卡的可以往下翻，自行选择






注意如果出现下载卡住，实在下载不了的，点击这里去官网手动下载






下载完成后，复制这里的路径，打开文件夹

然后把刚刚手动下载好的模型 拖进去





然后点击刷新，再点击左边的选择模型 就有了



第三步
关闭刚刚的模型下载，让他后台自动下载，我们点击右上角的设置





点击左边第二个选项
device 这里如果你的电脑有显卡，一定要选择对应的显卡，这样运行速度会快很多！！！




第四步 运行
如果想让模型用中文回复，第一句话要输入：你好请用中文回复





接下来就可以随意使用啦




往期目录：【技术贴】AI画质增强+超分+生成字幕文件教程，小白软件谁都能学会。

能色色吗

能色色吗 比克劳德

  

  

马克 能色色吗

Mark  这玩意吃显卡吧？

效果如何，有没有测试

先mark

请问下Q2到Q8有什么区别呢 如果是4060显卡用什么模型好？

mark

gt730能带动吗

GT740能带动嘛

mark

mark

      

mark

mark

有没有亲身体验的测试回答质量效果

根据其他模型的经验Q5是损失/性能需求的比例最好的，色色只能说也就这样，毕竟只有8b，70b的Q2量化试了一下有gpt3.5那个级别了，就是慢的要死

MARK

咋说呢，我也在用这东西，只不过我用的好像不是这个模型，里面模型很多，未经审查的内容也有，只不过需要16gb以上RAM或者16gb以上VRAM,据说那个模型聊涩涩特别好，可以使用cpu个可以gpu，区别是cpu生成的速度比gpu生成速度慢很多，cpu每秒大概两三个中文。具体可以看看这个 https://www.freedidi.com/11209.html      或者google搜索零度解说

mark 感谢分享~

这种大模型用来干嘛？ 文爱？

插眼

有特殊需求可以考虑，一般来说都打不过gpt