lorax 产品

来源: githubOPEN_SOURCE开源PythonApache-2.0发布于 2023-10-20

Multi-LoRA inference server that scales to 1000s of fine-tuned LLMs

3780

Stars

312

Forks

5

技术栈

0

替代方案

0

相关事件

大语言模型大模型 / LLM 深度学习框架

lorax · 相关技术

相关技术

transformers(2011)

PyTorchframework

LLaMAarchitecture

GPTarchitecture

Pythonlanguage