关于

GitHub 原始描述(英文)

LLM model quantization (compression) toolkit with HW acceleration support for Nvidia, AMD, Intel GPU and Intel/AMD/Apple CPU via HF, vLLM, and SGLang.

以下为仓库作者撰写的原始描述。

简要分析

热度分
1734
价值分
840
活跃状态
活跃

语言占比

C
C++
CMake
Cuda
HIP
Makefile
Python
Shell

Release