Update README.md
Browse files
README.md
CHANGED
|
@@ -74,7 +74,7 @@ Cite the original BLOOM, Stanford Alpaca and Self-Instruct papers as well!
|
|
| 74 |
|
| 75 |
GPTQ是目前SOTA的one-shot权重量化方法。
|
| 76 |
|
| 77 |
-
此模型的推理代码请见https://github.com/LianjiaTech/BELLE/tree/main/gptq .
|
| 78 |
|
| 79 |
一般来说，推荐使用8-bit量化及groupsize = 128.
|
| 80 |
|
|
|
|
| 74 |
|
| 75 |
GPTQ是目前SOTA的one-shot权重量化方法。
|
| 76 |
|
| 77 |
+
此模型的推理代码请见https://github.com/LianjiaTech/BELLE/tree/main/models/gptq .
|
| 78 |
|
| 79 |
一般来说，推荐使用8-bit量化及groupsize = 128.
|
| 80 |
|