bitsandbytes 产品

来源: githubOPEN_SOURCE开源PythonMIT发布于 2021-06-04

Accessible large language models via k-bit quantization for PyTorch.

8197

Stars

849

Forks

2

技术栈

0

替代方案

0

相关事件

人工智能大语言模型大模型 / LLM 深度学习框架

1

开发者/公司

2

相关技术

0

替代方案

0

相关事件

2

相关文章

开发者/公司查看全部 (1)

B

bitsandbytes-foundationCOMPANY

相关技术查看全部 (2)

PyTorchframework

Pythonlanguage

替代方案

暂无数据

相关事件

暂无数据

相关文章查看全部 (2)

Making LLMs even more accessible with bitsandbytes, 4-bit quantization and QLoRA

Hugging Face Blog2023-05-24

A Gentle Introduction to 8-bit Matrix Multiplication for transformers at scale using transformers, accelerate and bitsandbytes

Hugging Face Blog2022-08-17