Merge pull request #334 from LDLINGLINGLING/main

增加了量化脚本，SWIFT 和 Xinference 的推理文档，在 readme 中增加了常用模块和新模块的快速导航

README_zh.md

@@ -75,6 +75,16 @@
 - [🌟 Star History](#-star-history)
 - [引用](#引用)
 
+## MiniCPM-Llama3-V 2.5快速导航 <!-- omit in toc -->
+你可以点击以下表格快速访问MiniCPM-Llama3-V 2.5中你所需要的常用内容
+
+| 功能分类 |  | |  |  | |  |  ||
+|:--------:|:------:|:--------------:|:--------:|:-------:|:-----------:|:-----------:|:--------:|:-----------:|
+| 推理 | [Transformers](https://github.com/OpenBMB/MiniCPM-V/blob/main/docs/inference_on_multiple_gpus.md) | [ollama](https://github.com/OpenBMB/ollama/tree/minicpm-v2.5/examples/minicpm-v2.5) | [SWIFT](./docs/swift_train_and_infer.md) | [llama.cpp](https://github.com/OpenBMB/llama.cpp/blob/minicpm-v2.5/examples/minicpmv/README.md) | [Xinfrence](./docs/xinference_infer.md) | [Gradio](./web_demo_2.5.py) | [Streamlit](./web_demo_streamlit-2_5.py) |[vLLM](#vllm)
+| 微调      | [Full-parameter](./finetune/readme.md) |   [LoRA](./finetune/readme.md)     | [SWIFT](./docs/swift_train_and_infer.md)           |  |             |             |          |             |
+| 安卓部署  | [apk](http://minicpm.modelbest.cn/android/modelbest-release-20240528_182155.apk)  | [llama.cpp](https://github.com/OpenBMB/llama.cpp/blob/minicpm-v2.5/examples/minicpmv/README.md)               |  |        |             |             |          |             |
+| 量化      | [Bnb](./quantize/bnb_quantize.py)  |                            
+
 
 ## MiniCPM-Llama3-V 2.5
 **MiniCPM-Llama3-V 2.5** 是 MiniCPM-V 系列的最新版本模型，基于 SigLip-400M 和 Llama3-8B-Instruct 构建，共 8B 参数量，相较于 MiniCPM-V 2.0 性能取得较大幅度提升。MiniCPM-Llama3-V 2.5 值得关注的特点包括：