From 543cfcd299b3df8286f3b517332b9b2aaf6acfbd Mon Sep 17 00:00:00 2001 From: limix <5939272+golimix@users.noreply.github.com> Date: Sat, 1 Jul 2023 22:21:45 +0800 Subject: [PATCH] Update README.md MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit 更新macbook pro 不能正常执行的代码逻辑 --- README.md | 7 +++++++ 1 file changed, 7 insertions(+) diff --git a/README.md b/README.md index cea2461..7ed155c 100644 --- a/README.md +++ b/README.md @@ -157,6 +157,13 @@ cd ChatGLM2-6B 如果这些方法无法帮助你入睡,你可以考虑咨询医生或睡眠专家,寻求进一步的建议。 ``` +* 针对macbook pro m1max 电脑,请使用以下命令 ``AutoModel.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True, device='cuda')``替换 + +```python +model = AutoModel.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True).half().to('mps') +``` + + #### 从本地加载模型 以上代码会由 `transformers` 自动下载模型实现和参数。完整的模型实现在 [Hugging Face Hub](https://huggingface.co/THUDM/chatglm2-6b)。如果你的网络环境较差,下载模型参数可能会花费较长时间甚至失败。此时可以先将模型下载到本地,然后从本地加载。