Update README.md
Browse files
README.md
CHANGED
|
@@ -14,13 +14,13 @@ license: apache-2.0
|
|
| 14 |
|
| 15 |
在gguf模型文件和modelfile文件所在目录:
|
| 16 |
```bash
|
| 17 |
-
ollama create ElisNovel-V1-14B-Q4_K_M -f Modelfile # 安装Q4_K_M
|
| 18 |
```
|
| 19 |
```bash
|
| 20 |
-
ollama create ElisNovel-V1-14B-Q8_0 -f Modelfiles(将Modelfiles第四行Q4_K_M替换为Q8_0) # 安装Q8_0
|
| 21 |
```
|
| 22 |
```bash
|
| 23 |
-
ollama create ElisNovel-V1-14B-F16 -f Modelfile(Modelfiles第四行Q4_K_M替换为F16) # 安装F16
|
| 24 |
```
|
| 25 |
|
| 26 |
## 使用方式
|
|
|
|
| 14 |
|
| 15 |
在gguf模型文件和modelfile文件所在目录:
|
| 16 |
```bash
|
| 17 |
+
ollama create ElisNovel-V1-14B-Q4_K_M -f Modelfile # 安装Q4_K_M精度,预计占用显存12G-
|
| 18 |
```
|
| 19 |
```bash
|
| 20 |
+
ollama create ElisNovel-V1-14B-Q8_0 -f Modelfiles(将Modelfiles第四行Q4_K_M替换为Q8_0) # 安装Q8_0精度,预计占用显存18G-
|
| 21 |
```
|
| 22 |
```bash
|
| 23 |
+
ollama create ElisNovel-V1-14B-F16 -f Modelfile(Modelfiles第四行Q4_K_M替换为F16) # 安装F16精度,预计占用显存28G
|
| 24 |
```
|
| 25 |
|
| 26 |
## 使用方式
|