gemma4 开源项目推荐（487 个）

qualcomm /GenieX

只需几行代码，即可在 Qualcomm 设备的 NPU、GPU 和 CPU 上本地运行前沿 LLM 和 VLM

drumih /turbo-fieldfare

在任何 M 系列 MacBook 上以约 2 GB 内存进行 Gemma 4 26B-A4B 推理

webbrain-one /webbrain

面向 Chrome 和 Firefox 的开源 AI 浏览器代理（monorepo）

stenolabs /stenoai

StenographAI is the secure privacy-first AI notepad & notetaker for confidential conversations in government & defence sectors. On Windows, Linux & MacOS.

SimonSchubert /Kai

口袋里的 OpenClaw 替代品

agents-io /PokeClaw

PokeClaw（PocketClaw）——首款控制你安卓手机的设备内AI。Gemma 4，没有云端，没有API密钥。Poke是Pocket的缩写。

NVIDIA-NeMo /Automodel

🚀Pytorch用于LLC/VLM的分布式本地培训库，具有OOTB Hugging Face支持

kessler /gemma-gem

Gemma Gem 完全通过 WebGPU 运行 Google 的 Gemma 4 型号——没有 API 密钥，没有云端，也没有数据流出你的机器。

zhongkaifu /TensorSharp

A native .NET LLM inference engine and agent runtime for GGUF models. TensorSharp provides a console application, a web-based chatbot interface, iPhone App, and Ollama/OpenAI-compatible HTTP APIs for programmatic access. It supports Windows/MacOS/iOS/Linux with full GPU capability

timmyy123 /LLM-Hub

手机上的本地AI助手

johnbean393 /KeyType

一位开源的共打者，支持macOS全系统AI自动补全

dineshsoudagar /local-llms-on-android

Run local LLMs like Gemma, Qwen, and LLaMA on Android for offline, private, real-time chat and question answering with LiteRT and ONNX Runtime.

john-rocky /coreai-model-zoo

Apple Core AI（iOS/macOS 27）社区模型动物园+知识库：Qwen3.5和Gemma 4端到端转换，设备验证（iPhone 17 Pro GPU/ANE），转换陷阱，定制Metal内核，Swift runner

AtomicBot-ai /atomic-llama-cpp-turboquant

llama.cpp fork with TurboQuant WHT-rotated KV cache & weight compression + Gemma 4 MTP and Qwen 3.6 NextN speculative decoding (+30-50% throughput).

jegly /OfflineLLM

Private on-device AI chat for Android - runs any GGUF model locally via llama.cpp with ARM-optimised SIMD. Zero network permissions, encrypted settings, biometric lock, tamper detection. + GPU Acceleration - PQC ML-DSA-87 signed releases

tgo-app-dev /vpipe

Real-time multimodal AI pipelines on Apple Silicon

simranjeet97 /Awsome_AI_Agents

这是一门端到端的人工智能代理及代理人工智能课程，包含15+个AI代理项目，具有实时应用场景和行业专业知识。

vNeeL-code /GHOST

Agentic ✧ Gemma Inference for Android System Intelligence

kapitalismho /PuriPuly-heart

用于 VRChat 的基于 LLM 的双向翻译器

Brekel /VisionCaptioner

Automated image & video captioning using Qwen-VL, Gemma4 and SAM3.