rtp-llm 产品

来源: githubOPEN_SOURCE开源CudaApache-2.0发布于 2023-12-27

RTP-LLM: Alibaba's high-performance LLM inference engine for diverse applications.

1114

Stars

186

Forks

3

技术栈

0

替代方案

0

相关事件

rtp-llm · 替代方案

暂无数据