localai 开源项目推荐（202 个）

Mintplex-Labs /anything-llm

别再租用你的智能。用 AnythingLLM 拥有它。强大本地优先智能体体验所需的一切。

janhq /jan

Jan 是 ChatGPT 的开源替代品，可在你的电脑上 100% 离线运行。

AlexsJones /llmfit

数百个模型与提供商。一条命令即可找到能在你的硬件上运行的模型。

getumbrel /llama-gpt

一个可自托管、离线的类 ChatGPT 聊天机器人。由 Llama 2 驱动。100% 私密，数据不会离开你的设备。新增：支持 Code Llama！

aingdesk /AingDesk

AingDesk是一款简单好用的AI助手，支持知识库、模型API、分享、联网搜索和智能体，并且仍在快速成长中。

JHubi1 /ollama-app

A modern and easy-to-use client for Ollama

n4ze3m /dialoqbase

Create chatbots with ease

aayushch /laya

Laya is an open-source, local-first AI notification command center that aggregates Slack, Gmail, GitHub, Jira, Notion, Outlook, Calendar (and more) notifications using local LLMs via Ollama and LM Studio. Supports cloud models via BYOK.

runebookai /tome

一个神奇的 LLM 桌面客户端，让*任何人*都能轻松使用 LLM 和 MCP

cognitivetech /ollama-ebook-summary

LLM for Long Text Summary (Comprehensive Bulleted Notes)

askimo-ai /askimo

聊天、RAG搜索、多步计划工作流程、MCP工具和代理集成。支持 OpenAI、Claude、Gemini、Grok、Ollama、LM Studio 等

withcatai /catai

Run AI ✨ assistant locally! with simple API for Node.js 🚀

prem-research /app

Prem App it's your personal AI in your pocket

KolosalAI /Kolosal

Kolosal AI 是一个开源且轻量级的 LM Studio 替代方案，可以在你的设备上 100% 离线运行大型语言模型。

edgenai /edgen

⚡ Edgen: Local, private GenAI server alternative to OpenAI. No GPU required. Run AI models locally: LLMs (Llama2, Mistral, Mixtral...), Speech-to-text (whisper) and many others.

djcopley /ShellOracle

智能壳级命令生成的终端工具

scouzi1966 /maclocal-api

'afm' 命令 CLI：macOS 服务器和单提示符模式，通过一个聚合的 OpenAI 兼容 API 端点，暴露苹果的 Foundation 和 MLX 模型及其他 API，运行在你的 Mac 上。支持Apple Vision和单一命令（非服务器）推理，同时支持管道。现在有了网页浏览器和本地 AI API 聚合器

reid41 /QA-Pilot

QA-Pilot is an interactive chat project that leverages online/local LLM for rapid understanding and navigation of GitHub code repository.

ayushh0110 /ScreenMind

AI-powered screen memory — captures, analyzes, and lets you search/chat your screen history. Powered by Gemma 4 . 100% local, 100% private.

GGZ14 /vllm-mxfp4

The fastest vLLM build for AMD R9700's. For the latest updates join the Launch80 discord server. I am on X now also https://x.com/bkuyper