Google AI Edge Gallery:设备端 AI 的完整体验平台

Google AI Edge Gallery 是一款在 Android/iOS 本地运行开源大语言模型的旗舰应用,支持 Gemma 4、离线推理、Agent 技能、图像问答、音频转录等多种 GenAI 用例,完全私密无需联网。

项目简介

Google AI Edge Gallery 是 Google 开源的设备端机器学习与生成式 AI 展示平台,允许用户在 Android 或 iOS 设备上完全离线地运行顶级开源大语言模型(LLM)。最新版本已正式支持 Gemma 4 模型系列。

⭐ 当前 Stars:16,357(今日新增 1,487)
📄 许可证:Apache License 2.0
🔗 仓库地址:google-ai-edge/gallery


核心功能

🤖 AI 聊天与思维模式

支持流畅的多轮对话,并提供"思维模式"(Thinking Mode)功能,可以窥探模型内部逐步推理的过程——特别适合理解复杂的问题求解步骤。Gemma 4 系列及以上支持此功能。

🧰 智能体技能(Agent Skills)

将 LLM 从纯对话工具升级为主动助手。通过内置技能板块,可为模型增强维基百科事实核查、交互式地图、视觉摘要卡片等能力,还支持从 URL 加载社区贡献的模块化技能。

🖼️ 图像问答

多模态能力,通过设备摄像头或相册识别物体、解决视觉谜题,获取图像的详细描述。

🎙️ 音频转录

实时将语音录音转录并翻译为文字,完全在本地运行,保护隐私。

🧪 提示词实验室(Prompt Lab)

专属工作区,支持测试不同提示词,并可精细调控温度(temperature)、top-k 等模型参数。

📱 移动操作自动化

基于 FunctionGemma 270m 微调模型,实现离线设备控制与任务自动化。

🌱 迷你花园(Mini Garden)

趣味实验性小游戏,使用自然语言通过 FunctionGemma 模型来种植和收获虚拟花园。

📊 模型管理与基准测试

灵活的开源模型沙盒,支持从列表下载模型或加载自定义模型,并可在本机硬件上运行基准测试,评估各模型的真实性能表现。


隐私与安全

Gallery 所有推理均在设备本地完成,无需互联网连接,确保提示词、图像及敏感数据的完全隐私。这是其区别于云端 AI 服务的核心优势。


技术栈

组件 技术
模型运行时 LiteRT(轻量级推理引擎)
模型来源 Hugging Face 集成
核心 API Google AI Edge
平台 Android 12+ / iOS 17+

安装方式

  • Google Play 商店:搜索 “Google AI Edge Gallery” 安装
  • Apple App Store:搜索 “Google AI Edge Gallery” 安装
  • GitHub Releases直接下载 APK(适用于无法访问 Google Play 的用户)

相关资源


总结

Google AI Edge Gallery 代表了边缘 AI 的前沿实践——将原本只能在云端运行的强大语言模型带到了用户的掌心。随着 Gemma 4 的加入和 Agent 技能系统的不断丰富,这款应用正在成为探索设备端 GenAI 能力的最佳入口之一。无论是开发者评估模型性能,还是普通用户享受离线 AI 体验,Gallery 都值得关注。