Google AI Edge Gallery翻译站点

Google AI Edge Gallery是谷歌于 2025 年 6 月推出的一款实验性应用程序，旨在让用户在移动设备上本地运行生成式 AI 模型。该应用支持从 Hugging Face 下载多种开源模型，如 Gemma 3n、Qwen 2.5 等，用户无需联网即可在 Android 设备上执行图像生成、问答、多轮对话、代码编辑等任务。iOS 版本正在开发中 。

🚀 怎么使用？

1. 下载安装：通过 GitHub 项目页面下载 APK 文件并安装到 Android 设备上。

2. 浏览模型库：应用内置模型浏览器，支持搜索和筛选 Hugging Face 上的兼容模型。

3. 下载模型：选择所需模型，下载到本地设备。

4. 运行任务：使用内置功能如“AI Chat”、“Ask Image”、“Prompt Lab”等，执行相应的 AI 任务。

5. 查看性能指标：实时监控模型的运行性能，如首字节时间（TTFT）、解码速度和延迟等 。

✨ 主要功能

• 本地运行，完全离线：所有模型在设备本地运行，无需互联网连接，保障数据隐私。

• 多种模型选择：支持从 Hugging Face 下载并运行各种 AI 模型，如 Gemma 3、Gemma 3n 和 Qwen 2.5。

• AI 聊天：与本地运行的 AI 模型进行多轮对话。

• 图像提问：上传图像并向 AI 模型提问，以获取描述、解决问题或识别对象。

• Prompt Lab：使用各种提示模板探索单轮 AI 任务，如文本摘要、重写和代码生成。

• 性能洞察：提供实时性能指标，如首字节时间（TTFT）、解码速度和延迟。

• 自带模型：用户可以测试自己的 LiteRT 任务模型。

• 开发者资源：提供模型卡和源代码的快速链接 。

⚙️ 技术原理

Google AI Edge Gallery 基于以下技术实现：

• 边缘计算架构：利用设备本地的计算资源（如 CPU、GPU、NPU）执行 AI 模型，减少对云端的依赖。

• 轻量级运行时：应用内置轻量级运行时环境，支持多种模型格式，确保在移动设备上的高效运行。

• 模型优化：对模型进行量化和剪枝等优化，降低计算资源消耗，提高运行速度。

• 安全与隐私：所有数据处理均在设备本地完成，避免用户数据上传至云端，保障隐私安全 。

🛠 应用场景

🔗 项目地址

• GitHub 项目主页： https://github.com/google-ai-edge/gallery

❓ 常见问题（FAQ）

1. 如何获取 Google AI Edge Gallery？
您可以通过 GitHub 项目主页下载 APK 文件并安装到 Android 设备上。iOS 版本正在开发中，敬请期待。

2. 使用该应用需要联网吗？
下载模型时需要联网，模型下载完成后，所有任务均可在离线状态下运行，无需互联网连接。

3. 支持哪些 AI 模型？
应用支持从 Hugging Face 下载多种开源模型，如 Gemma 3、Gemma 3n 和 Qwen 2.5 等。

4. 如何查看模型的运行性能？
应用提供实时性能指标，包括首字节时间（TTFT）、解码速度和延迟等，帮助用户了解模型的运行状态。

5. 是否支持自定义模型？
是的，应用支持用户测试自己的 LiteRT 任务模型，具体操作请参考 GitHub 项目主页提供的文档。