gpu_poor 产品

来源: githubOPEN_SOURCE开源JavaScript发布于 2023-09-12

Calculate token/s & GPU memory requirement for any LLM. Supports llama.cpp/ggml/bnb/QLoRA quantization

1399

Stars

89

Forks

3

技术栈

0

替代方案

0

相关事件

大语言模型 GPU 大模型 / LLM 深度学习框架 GPU / AI 加速卡

0

开发者/公司

3

相关技术

0

替代方案

0

相关事件

0

相关文章

开发者/公司

暂无数据

相关技术查看全部 (3)

PyTorchframework

LLaMAarchitecture

Hugging Face Transformersconcept

替代方案

暂无数据

相关事件

暂无数据

相关文章

暂无数据