| 浏览器收藏 | 打印

a5.gif

柳下瑜

GF  2024-03-29 19:27
全看 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

请问20g的内存模型速度快还是7gb的显存速度快？

我的配置是3060ti+32g内存，用什么模型速度和回复质量最高？另外求个AI聊天群。今天第一次了解到是酒馆和webui使用了一下很有意思。
顶端

none.gif

7cbbceca

B1F  2024-03-29 19:35
全看 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大
什么llama，gpt都行吧，去huggingface上找找看，有不少大模型是开源的
顶端