|
|
|
@ -77,6 +77,8 @@ ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对中文问答和对话进
|
|
|
|
|
|
|
|
|
|
如果这些方法无法帮助你入睡,你可以考虑咨询医生或睡眠专家,寻求进一步的建议。 |
|
|
|
|
``` |
|
|
|
|
模型的实现仍然处在变动中。如果希望固定使用的模型实现以保证兼容性,可以在 `from_pretrained` 的调用中增加 `revision="v0.1.0"` 参数。`v0.1.0` 是当前最新的版本号,完整的版本列表参见 [Change Log](https://huggingface.co/THUDM/chatglm-6b#change-log)。 |
|
|
|
|
|
|
|
|
|
### 从本地加载模型 |
|
|
|
|
以上代码会由 `transformers` 自动下载模型实现和参数。完整的模型实现可以在 [Hugging Face Hub](https://huggingface.co/THUDM/chatglm-6b)。如果你的网络环境较差,下载模型参数可能会花费较长时间甚至失败。此时可以先将模型下载到本地,然后从本地加载。 |
|
|
|
|
|
|
|
|
@ -93,6 +95,11 @@ GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/THUDM/chatglm-6b
|
|
|
|
|
|
|
|
|
|
将模型下载到本地之后,将以上代码中的 `THUDM/chatglm-6b` 替换为你本地的 `chatglm-6b` 文件夹的路径,即可从本地加载模型。 |
|
|
|
|
|
|
|
|
|
**Optional** 模型的实现仍然处在变动中。如果希望固定使用的模型实现以保证兼容性,可以执行 |
|
|
|
|
```Shell |
|
|
|
|
git checkout v0.1.0 |
|
|
|
|
``` |
|
|
|
|
|
|
|
|
|
## Demo & API |
|
|
|
|
|
|
|
|
|
我们提供了一个基于 [Gradio](https://gradio.app) 的网页版 Demo 和一个命令行 Demo。使用时首先需要下载本仓库: |
|
|
|
@ -102,7 +109,7 @@ git clone https://github.com/THUDM/ChatGLM-6B
|
|
|
|
|
cd ChatGLM-6B |
|
|
|
|
``` |
|
|
|
|
|
|
|
|
|
#### 网页版 Demo |
|
|
|
|
### 网页版 Demo |
|
|
|
|
|
|
|
|
|
![web-demo](resources/web-demo.gif) |
|
|
|
|
|
|
|
|
@ -116,7 +123,7 @@ python web_demo.py
|
|
|
|
|
|
|
|
|
|
感谢 [@AdamBear](https://github.com/AdamBear) 实现了基于 Streamlit 的网页版 Demo,运行方式见[#117](https://github.com/THUDM/ChatGLM-6B/pull/117). |
|
|
|
|
|
|
|
|
|
#### 命令行 Demo |
|
|
|
|
### 命令行 Demo |
|
|
|
|
|
|
|
|
|
![cli-demo](resources/cli-demo.png) |
|
|
|
|
|
|
|
|
|