Hugging Face's logo

SakuraLLM
/
Sakura-GalTransl-14B-v3.8

GGUF
imatrix
conversational
Model card Files
xet
Community
5
xd2333 commited on
Commit
10bab61
·
verified ·
1 Parent(s): d650f8b

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +3 -3
README.md CHANGED
@@ -29,13 +29,13 @@ license: cc-by-nc-sa-4.0
29
  1. 下载模型：
30
 
31
  ```
32
- wget https://hf-mirror.com/SakuraLLM/Sakura-GalTransl-14B-v3.7/resolve/main/Sakura-Galtransl-14B-v3.7-Q5_K_S.gguf
33
  ```
34
 
35
  3. 不要按教程运行.run，而是运行下面的命令：
36
 
37
  ```
38
- ./llama.cpp/llama-server -m Sakura-Galtransl-14B-v3.7-Q5_K_S.gguf -c 32768 -np 16 -fa -ngl 999 -a Sakura-Galtransl-14B-v3.7-Q5_K_S --port 6006
39
  ```
40
 
41
- 然后继续按"SSH转发服务到本地"操作即可。接口地址为http://127.0.0.1:6006 ，翻译时可以设置**16线程**最大化速度
 
29
  1. 下载模型：
30
 
31
  ```
32
+ wget https://hf-mirror.com/SakuraLLM/Sakura-GalTransl-14B-v3.8/resolve/main/Sakura-Galtransl-14B-v3.8.gguf
33
  ```
34
 
35
  3. 不要按教程运行.run，而是运行下面的命令：
36
 
37
  ```
38
+ ./llama.cpp/llama-server -m Sakura-Galtransl-14B-v3.8.gguf -c 32768 -np 16 -fa -ngl 999 -a Sakura-Galtransl-14B-v3.8 --port 6006
39
  ```
40
 
41
+ 然后继续按"SSH转发服务到本地"操作即可。接口地址为http://127.0.0.1:6006 ，翻译时可以设置**16线程**最大化速度，16线程跑满时每小时大约翻译3w句