vllm-ascend 产品

来源: githubOPEN_SOURCE开源PythonApache-2.0发布于 2025-01-29

Community maintained hardware plugin for vLLM on Ascend

2076

Stars

1200

Forks

2

技术栈

0

替代方案

0

相关事件

大语言模型大模型 / LLM

vllm-ascend · 相关技术

相关技术

transformers(2011)

Pythonlanguage