5 Commits

Author	SHA1	Message	Date
root	e88f8283a9	修改了一下使用cuda的断言	2024-07-30 14:44:56 +08:00
root	28b91ce6b3	增加了英文注释	2024-07-30 14:24:19 +08:00
root	1ee1023d26	注释改成了英文，并且修改了在bnb不能在cpu上推理的bug	2024-07-30 14:15:35 +08:00
root	e47c6ab5aa	修改了代码，增加了注释和规范性	2024-07-12 16:09:49 +08:00
root	4fb4c50486	不少用户需要自行量化模型，这里提供了bnb量化脚本和使用方法	2024-07-12 15:58:21 +08:00