项目简介
Google AI Edge Gallery 是 Google 开源的设备端机器学习与生成式 AI 展示平台,允许用户在 Android 或 iOS 设备上完全离线地运行顶级开源大语言模型(LLM)。最新版本已正式支持 Gemma 4 模型系列。
⭐ 当前 Stars:16,357(今日新增 1,487)
📄 许可证:Apache License 2.0
🔗 仓库地址:google-ai-edge/gallery
核心功能
🤖 AI 聊天与思维模式
支持流畅的多轮对话,并提供"思维模式"(Thinking Mode)功能,可以窥探模型内部逐步推理的过程——特别适合理解复杂的问题求解步骤。Gemma 4 系列及以上支持此功能。
🧰 智能体技能(Agent Skills)
将 LLM 从纯对话工具升级为主动助手。通过内置技能板块,可为模型增强维基百科事实核查、交互式地图、视觉摘要卡片等能力,还支持从 URL 加载社区贡献的模块化技能。
🖼️ 图像问答
多模态能力,通过设备摄像头或相册识别物体、解决视觉谜题,获取图像的详细描述。
🎙️ 音频转录
实时将语音录音转录并翻译为文字,完全在本地运行,保护隐私。
🧪 提示词实验室(Prompt Lab)
专属工作区,支持测试不同提示词,并可精细调控温度(temperature)、top-k 等模型参数。
📱 移动操作自动化
基于 FunctionGemma 270m 微调模型,实现离线设备控制与任务自动化。
🌱 迷你花园(Mini Garden)
趣味实验性小游戏,使用自然语言通过 FunctionGemma 模型来种植和收获虚拟花园。
📊 模型管理与基准测试
灵活的开源模型沙盒,支持从列表下载模型或加载自定义模型,并可在本机硬件上运行基准测试,评估各模型的真实性能表现。
隐私与安全
Gallery 所有推理均在设备本地完成,无需互联网连接,确保提示词、图像及敏感数据的完全隐私。这是其区别于云端 AI 服务的核心优势。
技术栈
| 组件 | 技术 |
|---|---|
| 模型运行时 | LiteRT(轻量级推理引擎) |
| 模型来源 | Hugging Face 集成 |
| 核心 API | Google AI Edge |
| 平台 | Android 12+ / iOS 17+ |
安装方式
- Google Play 商店:搜索 “Google AI Edge Gallery” 安装
- Apple App Store:搜索 “Google AI Edge Gallery” 安装
- GitHub Releases:直接下载 APK(适用于无法访问 Google Play 的用户)
相关资源
总结
Google AI Edge Gallery 代表了边缘 AI 的前沿实践——将原本只能在云端运行的强大语言模型带到了用户的掌心。随着 Gemma 4 的加入和 Agent 技能系统的不断丰富,这款应用正在成为探索设备端 GenAI 能力的最佳入口之一。无论是开发者评估模型性能,还是普通用户享受离线 AI 体验,Gallery 都值得关注。