From 51138c47f8c7042a478c7f54807985c2ded8dea7 Mon Sep 17 00:00:00 2001 From: yiranyyu <2606375857@qq.com> Date: Fri, 31 May 2024 22:16:00 +0800 Subject: [PATCH] update readme --- README_zh.md | 28 +++++++++++++++++++++++++--- 1 file changed, 25 insertions(+), 3 deletions(-) diff --git a/README_zh.md b/README_zh.md index 659c4f1..ceed2a8 100644 --- a/README_zh.md +++ b/README_zh.md @@ -54,7 +54,7 @@ - [MiniCPM-Llama3-V 2.5](#minicpm-llama3-v-25) - [MiniCPM-V 2.0](#minicpm-v-20) -- [Online Demo](#online-demo) +- [Demo](#demo) - [安装](#安装) - [推理](#推理) - [模型库](#模型库) @@ -465,9 +465,31 @@ | OmniLMM-12B | [文档](./omnilmm.md) | -## Online Demo +## Demo + +我们提供由 Hugging Face [Gradio](https://www.gradio.app/guides/quickstart) 支持的在线和本地 Demo。Gradio 是目前最流行的模型部署框架,支持流式输出、进度条、process bars 和其他常用功能。 + +### Online Demo + +欢迎试用 Hugging Face Spaces 上的 [MiniCPM-Llama3-V 2.5](https://huggingface.co/spaces/openbmb/MiniCPM-Llama3-V-2_5) | [MiniCPM-V 2.0](https://huggingface.co/spaces/openbmb/MiniCPM-V-2) Online Demo。 + +### 本地 WebUI Demo + +您可以使用以下命令轻松构建自己的本地 WebUI Demo。 + +```shell +pip install -r requirements.txt +``` + +```shell +# 对于 NVIDIA GPU,请运行: +python web_demo_2.5.py --device cuda + +# 对于搭载 MPS 的 Mac(Apple 芯片或 AMD GPU),请运行: +PYTORCH_ENABLE_MPS_FALLBACK=1 python web_demo_2.5.py --device mps +``` + -欢迎通过以下链接使用我们的网页端推理服务: [MiniCPM-Llama3-V 2.5](https://huggingface.co/spaces/openbmb/MiniCPM-Llama3-V-2_5) | [MiniCPM-V 2.0](https://huggingface.co/spaces/openbmb/MiniCPM-V-2). ## 安装