本地AI离线也好用！Gemma 4让你的电脑变身本地AI助手，不用token完全免费 ，手机也能离线使用
摘要
Google 推出的 Gemma 4 本地模型可免费下载到电脑与手机，完全离线运行、避免资料泄露。文章介绍用 LM Studio（电脑，选 E4B 版）与 Google AI Edge Gallery App（手机，选 E2B 版）部署对话，支持图文、文档处理；进阶部分演示接入 Brave Search API 联网、授权本地文件夹操作、关联 VS Code 的 Continue 插件做程序开发。适合无网环境或注重隐私的场景。
前言
Google 新推出的开源 AI 模型 Gemma 4，一个很吸引人的点是可以免费下载到手机和电脑本地使用，而且能完全离线运行，这就意味着你的对话、文件数据都不会经过任何服务器，隐私性拉满。虽然它的"聪明程度"比不上顶级的联网模型（比如 Gemini 旗舰版或 GPT 系列），但在无网络环境下表现也不错，已经能完成不少复杂的任务。
Gemma 4 主要有 4 个版本：E2B、E4B、26B、31B。其中 E2B、E4B 面向手机和笔记本，26B、31B 面向 Mac 和台式机等性能更强的设备。想知道自己的电脑适合跑哪个版本，可以访问：https://www.canirun.ai 一键检测。
电脑上怎么用
目前电脑上运行本地大模型的主流方法有两种：
Ollama：偏命令行操作，适合专业人员、喜欢脚本化的人。
LM Studio（本文用的这种）：偏图形界面操作，下载、选模型、对话都在窗口里点点点搞定，更适合普通人。
下载 LM Studio：Windows、macOS、Linux 都有，访问官网下载：https://lmstudio.ai
安装 Gemma 4 模型：我是笔记本，所以选 E4B 这个版本。模型卡片上通常有几个小图标，分别代表视觉能力、skill（技能）能力、推理能力，可以据此判断这个模型能做什么。
下载完成后可以调模型设置，比如修改上下文长度（context length）——如果你要让它分析较大的文件，把上下文调大一些效果更好。
修改系统提示词：这里可以输入给 AI 设定"规则"，比如"你是一名严谨的技术编辑""请用中文回答"等，让它更贴合你的使用习惯。
日常使用：基本和豆包、DeepSeek 一样，通过对话的形式提问即可。它也能处理图片和文档内容（视觉模型），直接把文件拖进对话框就能分析。
手机上怎么用
手机端更简单：
手机安装 Google AI Edge Gallery 这个 App，安卓、iOS 的应用商店都能搜到。
打开对话界面，先下载 AI 模型。手机上我选了 Gemma 4 E2B（手机端的小模型，兼顾体积与可用性）。
下载完成后就能直接对话了。
手机端同样支持视觉功能，拍照提问、识图翻译都可以离线完成。
进阶玩法：给 LM Studio 接上更多能力
LM Studio 不止能本地聊天，还可以通过连接其他 MCP / 工具完成更高难度的任务：
连接 Brave Search API 增加联网搜索：在 LM Studio 里配置 Brave 的搜索 API，就能让本地模型也能"联网查资料"。地址：https://brave.com/search/api
给系统提示增加文件夹访问权限：让模型能读取本地文件夹，实现简单的本地文件操作。
关联 VSCode 做简单开发：让本地模型帮你写代码。三步搞定：
在 LM Studio 里开启本地服务器（开启后它会提供一个本地 API 地址）。
VSCode 端安装 Continue 插件。
在 Continue 里连接 LM Studio，选好模型后输入提示词，就能让它在编辑器里生成你要的程序。测试时如果结果不理想，可以直接通过对话让它修改。
小结
坦白讲，本地大模型的实际可用程度和电脑配置直接相关，而且大多数场景下远不如在线的 API 好用——毕竟在线模型更大、更强、迭代更快。但本地模型的优势在于隐私性好、完全离线，所以拿来处理一些敏感文件、做本地翻译整理，是完全够用的。手机端在飞机上、国外等无网络环境下，语音翻译、识图翻译这些功能尤其好用。如果你是隐私敏感型用户，或经常出入无网环境，这套本地 AI 方案值得一试。