a5.gif

柳下瑜

GF  2024-03-29 19:27

请问20g的内存模型速度快还是7gb的显存速度快?

我的配置是3060ti+32g内存,用什么模型速度和回复质量最高?另外求个AI聊天群。今天第一次了解到是酒馆和webui使用了一下很有意思。

a5.gif

柳下瑜

B1F  2024-03-29 19:46

回 1楼(7cbbceca) 的帖子

有群吗老哥

a5.gif

柳下瑜

B2F  2024-03-29 21:02

回 4楼(onexph) 的帖子

能不能显存内存同时调用?

a5.gif

柳下瑜

B3F  2024-03-30 00:19

回 6楼(onexph) 的帖子

老哥,我发现酒馆调动本地模型文本量都有限啊,所以是不是才有了破限的概念?那怎么在后台调整文本量大小?

a5.gif

柳下瑜

B4F  2024-03-30 00:47

回 6楼(onexph) 的帖子

老哥,为什么角色卡导入进去后跟她们聊天输出的都是角色介绍的内容?