项目介绍
flashinfer-ai/flashinfer 是一个托管在 GitHub 上的开源项目，主要使用 Cuda 编写，采用 Apache License 2.0 许可证，目前获得 6.8k 个 Star、1.7k 次 Fork。
- 仓库全名
- flashinfer-ai/flashinfer
- 开源许可证
- Apache License 2.0
- Star 数
- 6.8k
- Fork 数
- 1.7k
- 未关闭 Issue
- 1.4k
README 摘要
High-Performance GPU Kernels for Inference Documentation | Latest Release | Blog | Slack | Discussion Forum | FlashInfer is a library and kernel generator for inference that delivers state-of-the-art performance across diverse GPU architectures. It provides unified APIs for attention, GEMM, and MoE operations with multiple backend implementations including FlashAttention-2/3, cuDNN, CUTLASS, and TensorRT-LLM. Why…
完整内容见 GitHub 原始 README 或本页 。
常见问题
flashinfer 用什么语言开发？
主要使用 Cuda 编写，采用 Apache License 2.0 许可证，目前有 6.8k 个 Star。
flashinfer 可以免费商用吗？
仓库采用 Apache License 2.0 许可证，可免费使用与修改，商业使用请遵守许可证条款（例如保留版权声明与许可声明）。
如何获取 flashinfer 的源码？
可以直接克隆仓库：git clone https://github.com/flashinfer-ai/flashinfer.git；安装与运行步骤见仓库 README。
flashinfer 最近还在维护吗？
仓库最近一次更新为 3 小时前，当前有 1.4k 个未关闭 Issue；Star 数为 6.8k，可作为社区活跃度的参考。
相关仓库
LeetCUDA：面向初学者的现代 CUDA 学习笔记（基于 PyTorch），200+ CUDA 内核、Tensor Cores、HGEMM、FA-2 MMA。
论文《Deep Painterly Harmonization》的代码和数据：https://arxiv.org/abs/1804.03189
该项目是我们 CVPR2019 论文《Deep High-Resolution Representation Learning for Human Pose Estimation》的官方实现
评论