AI Pulse

Lemonade:开源本地AI平台,分钟级部署支持多模态推理

Lemonade 是一款面向个人设备的开源本地 AI 平台,主打「私有、快速、开箱即用」——无需云依赖,可在任意 PC(Windows/Linux/macOS beta)上分钟级完成部署。其核心服务仅 2MB,基于原生 C++ 构建,支持 llama.cpp、Ryzen AI SW、FastFlowLM 等多引擎,并能自动识别并配置 GPU 与 NPU 环境。

它提供统一的本地 API(如 POST /api/v1/chat/completions),一站式支持大语言模型对话、图像生成(如‘文艺复兴风格的柠檬水壶’)、语音合成与转录。用户可同时加载多个模型,例如 gpt-oss-120b 或 Qwen-Coder-Next;通过 --no-mmap 参数可加速加载并扩展上下文至 64K+ tokens。内置 GUI 应用支持模型一键下载、试用与切换。

Lemonade 完全兼容 OpenAI API 标准,已深度集成数十款应用,并可即插即用地接入数百个现有工具。项目由本地 AI 社区共建,强调自由、隐私与硬件普惠。

📎 阅读原文 · lemonade-server.ai