rtp-llm 产品

来源: githubOPEN_SOURCE开源CudaApache-2.0发布于 2023-12-27

RTP-LLM: Alibaba's high-performance LLM inference engine for diverse applications.

1114

Stars

186

Forks

3

技术栈

0

替代方案

0

相关事件

相关技术查看全部 (3)

CUDA(2004)
LLaMAarchitecture
GPTarchitecture

替代方案

暂无数据

相关事件

暂无数据

相关文章

暂无数据