因为GPT4all启动器中自带的大模型数量较少,自由度较低且能力有限,我们可以导入外部的大模型。(之后我会更新搜集到的大模型)下面的模型需搭配启动器使用。教程可以翻到文章末尾查看。
使用教程
1.打开启动器下载大模型的路径。
打开启动器>点击左上角三条横杠>选择download>复制路径download path>在文件夹里输入路径即可找到大模型下载的路径。
2.然后将下载的bin文件直接拖入该路径。如果下载的是.mp4文件请将它后缀名改为.bin
3.重启启动器。并选择大模型,初始化成功即可使用。
注意!
所有模型均可在此启动器下运行。只有速度快慢的差距。这里推荐内存大小为流畅运行时的内存大小。
大模型文件包括
1.llama-2-13b-chat 版本:q5.k.s
点评:这个模型比较普通,属于很稳定的版本。中文水平一般。速度较快。文本理解能力优秀。推荐内存16GB以上。推荐下载。
2.wizard-vicuna-13b-uncensored-superhot-8k 版本:q6.k
点评:这个模型很独特。中文水平一般。速度一般。文本理解能力优秀。推荐内存20GB以上。
3.wizardlm-13b-v1.1-superhot-8k 版本:q4.0
点评:这个模型为清华大学联合训练。中文水平优秀。速度较快。文本理解能力优秀。推荐内存12GB以上。
4.WizardLM-Uncensored-SuperCOT-StoryTelling-30b-superhot-8k 版本:q4.1
点评:这个模型很大,功能很全面。中文水平不知道。速度较慢。文本理解能力很优秀。推荐内存30GB的玩家挑战。
请登录后发表评论
注册
停留在世界边缘,与之惜别