Upload README_CN.md with huggingface_hub
Browse files- README_CN.md +4 -1
README_CN.md
CHANGED
|
@@ -99,9 +99,12 @@ Hunyuan-A13B采用了细粒度混合专家(Fine-grained Mixture of Experts,F
|
|
| 99 |
你可以克隆 [`llama.cpp`](https://github.com/ggerganov/llama.cpp) 并按照其官方指南进行安装。通过下方参考代码运行推理。
|
| 100 |
|
| 101 |
```shell
|
| 102 |
-
llama-cli -
|
| 103 |
```
|
| 104 |
|
|
|
|
|
|
|
|
|
|
| 105 |
|
| 106 |
## 联系我们
|
| 107 |
如果你想给我们的研发和产品团队留言,欢迎联系我们腾讯混元LLM团队。你可以通过邮件([email protected])联系我们。
|
|
|
|
| 99 |
你可以克隆 [`llama.cpp`](https://github.com/ggerganov/llama.cpp) 并按照其官方指南进行安装。通过下方参考代码运行推理。
|
| 100 |
|
| 101 |
```shell
|
| 102 |
+
llama-cli -hf tencent/Hunyuan-A13B-Instruct-GGUF:Q4_0 -p "Write a short summary of the benefits of regular exercise" -n 4096 temp 0.7 --top-k 20 --top-p 0.8 --repeat-penalty 1.05 --no-warmup
|
| 103 |
```
|
| 104 |
|
| 105 |
+
### ollama
|
| 106 |
+
|
| 107 |
+
未来将会支持。当前建议使用 llama.cpp 进行推理。
|
| 108 |
|
| 109 |
## 联系我们
|
| 110 |
如果你想给我们的研发和产品团队留言,欢迎联系我们腾讯混元LLM团队。你可以通过邮件([email protected])联系我们。
|