a5.gif

柳下瑜

GF  2024-03-29 19:27

请问20g的内存模型速度快还是7gb的显存速度快?

我的配置是3060ti+32g内存,用什么模型速度和回复质量最高?另外求个AI聊天群。今天第一次了解到是酒馆和webui使用了一下很有意思。

1051175.jpg

onexph

B1F  2024-03-29 20:07
正常情况肯定显存快,只能说3060ti跑不动显存占用大点的模型

1051175.jpg

onexph

B2F  2024-03-29 22:39

回 5楼(柳下瑜) 的帖子

不能