| 浏览器收藏 | 打印

a5.gif

柳下瑜

GF  2024-03-29 19:27
只看GF |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

请问20g的内存模型速度快还是7gb的显存速度快？

我的配置是3060ti+32g内存，用什么模型速度和回复质量最高？另外求个AI聊天群。今天第一次了解到是酒馆和webui使用了一下很有意思。
顶端

none.gif

7cbbceca

B1F  2024-03-29 19:35
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大
什么llama，gpt都行吧，去huggingface上找找看，有不少大模型是开源的
顶端

a5.gif

柳下瑜

B2F  2024-03-29 19:46
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

回 1楼(7cbbceca) 的帖子

有群吗老哥
顶端

964970.jpg

dcb06d03

B3F  2024-03-29 20:00
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大
7gb显存还是太少了
顶端

1051175.jpg

onexph

B4F  2024-03-29 20:07
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大
正常情况肯定显存快，只能说3060ti跑不动显存占用大点的模型
顶端

a5.gif

柳下瑜

B5F  2024-03-29 21:02
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

回 4楼(onexph) 的帖子

能不能显存内存同时调用？
顶端

1051175.jpg

onexph

B6F  2024-03-29 22:39
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

回 5楼(柳下瑜) 的帖子

不能
顶端

a5.gif

柳下瑜

B7F  2024-03-30 00:19
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

回 6楼(onexph) 的帖子

老哥，我发现酒馆调动本地模型文本量都有限啊，所以是不是才有了破限的概念？那怎么在后台调整文本量大小？
顶端

a5.gif

柳下瑜

B8F  2024-03-30 00:47
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

回 6楼(onexph) 的帖子

老哥，为什么角色卡导入进去后跟她们聊天输出的都是角色介绍的内容？
顶端

3.gif

糸樂沢

B9F  2024-04-13 02:12
（非洲农业不太发达日本资源实在缺乏不能打架不能给他要掺金坷垃）
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大

回 7楼(柳下瑜) 的帖子

破限应该指的是突破chatgpt或者claude这种禁止色色的模型的限制吧
顶端

Mni

B10F  2024-04-13 21:31
| ▼展开
只看该作者 |
屏蔽
屏蔽此人 屏蔽头像
| 小 中 大
顶端