Tiiny-AI/PowerInfer

仓库概览、指标与主题

在 GitHub 打开
avatarTiiny-AI
9.6k
587129
MIT License

AI 技术解读 AI 生成

以下内容由 AI 大模型基于项目 README 与元信息生成，仅供技术选型参考， 具体以项目官方文档为准。

AI 解读内容已同步仓库最新状态（最后提交：5月11日）。 编辑团队负责选题与抽样审核，详见 编辑准则。

相关仓库

tensorflow/tensorflow avatar
tensorflowtensorflow
1 周前
200.6k
78.6k
3.3k
价值分 143752

适合所有人的开源机器学习框架

deep-learningdeep-neural-networksdistributed+5
C++
1.3 GB
🤍 0
详情
ggml-org/llama.cpp avatar
llama.cppggml-org
2 周前
129.9k
23.9k
2.6k
价值分 84959

C/C++中的LLM推理

ggml
C++
437.3 MB
🤍 3
详情
react/react-native avatar
react-nativereact
1 天前
126.7k
25.3k
1.2k
价值分 83540

使用React构建原生应用程序的框架

androidapp-frameworkcross-platform+5
C++
964.8 MB
🤍 0
详情
electron/electron avatar
electronelectron
3 周前
123.2k
17.2k
623
价值分 79065

：electron：使用JavaScript、HTML和CSS构建跨平台桌面应用程序

electronjavascriptc-plus-plus+6
C++
212.4 MB
🤍 0
详情
godotengine/godot avatar
godotgodotengine
2 周前
117.9k
26.3k
13.5k
价值分 77972

Godot Engine -多平台2D和3D游戏引擎

game-enginegodotgodotengine+4
C++
1.8 GB
🤍 0
详情
microsoft/terminal avatar
terminalmicrosoft
3 周前
105.0k
9.6k
1.8k
价值分 65789

新的Windows终端和原始的Windows控制台主机，都在同一个地方！

cmdcommand-lineconsole+8
C++
175.4 MB
🤍 0
详情
opencv/opencv avatar
opencvopencv
7月23日
90.1k
56.0k
2.5k
价值分 70732

开源计算机视觉库

opencvc-plus-pluscomputer-vision+2
C++
549.9 MB
🤍 0
详情
bitcoin/bitcoin avatar
bitcoinbitcoin
7月3日
89.6k
39.0k
677
价值分 65422

比特币核心集成/舞台树

bitcoinc-plus-pluscryptocurrency+2
C++
311.0 MB
🤍 0
详情

关于

面向本地部署的高速大语言服务模型

简要分析

热度分
20392
价值分
6895
活跃状态
活跃
主题数量
5
语言C++
默认分支
大小20.5 MB
更新5月11日
large-language-modelsllamallmllm-inferencelocal-inference

编辑推荐

社区关注度与协作度较高，适合实践与生产使用。

C++ActiveMIT License
GitHub

语言占比

C
C++
CMake
CSS
Cuda
Dockerfile
HTML
JavaScript
Jinja
Kotlin
Makefile
Metal
Nix
Objective-C
Python
SCSS
Shell
Swift
TypeScript
Vim Script
Zig

贡献者

ggerganovggerganovslarenslarencebtenzzrecebtenzzreJohannesGaesslerJohannesGaesslerikawrakowikawrakowKerfuffleV2KerfuffleV2hodlenhodlenswswprusnakprusnakjhen0409jhen0409howard0suhoward0suanzz1anzz1

README

暂无 README 预览

评论

暂无评论