qihua ab5b8eb160 refactor(llm): 重构 vLLM 推理任务处理方式，支持多任务处理 ...

- 移除任务队列和单任务处理限制
- 使用 asyncio.run_coroutine_threadsafe() 在后台线程中运行推理任务

2025-03-08 10:41:49 +08:00

..

bin

fix lint

2025-01-02 12:32:43 +08:00

cli

初步合并vllm支持，异步推理的通道处理还存在bug

2025-03-07 20:26:19 +08:00

dataset

fix pitch computation

2025-01-23 15:44:03 +08:00

flow

add online trt export

2025-01-10 13:55:05 +08:00

hifigan

add online trt export

2025-01-10 13:55:05 +08:00

llm

refactor(llm): 重构 vLLM 推理任务处理方式，支持多任务处理

2025-03-08 10:41:49 +08:00

tokenizer

update readme

2024-12-16 14:05:00 +08:00

transformer

fix lint

2024-12-16 10:37:10 +08:00

utils

fix pitch computation

2025-01-23 15:44:03 +08:00

__init__.py

add cosyvoice code

2024-07-04 21:15:12 +08:00