本地AI离线也好用!Gemma 4让你的电脑变身本地AI助手,不用token完全免费 ,手机也能离线使用
摘要
Google 推出的 Gemma 4 本地模型可免费下载到电脑与手机,完全离线运行、避免资料泄露。文章介绍用 LM Studio(电脑,选 E4B 版)与 Google AI Edge Gallery App(手机,选 E2B 版)部署对话,支持图文、文档处理;进阶部分演示接入 Brave Search API 联网、授权本地文件夹操作、关联 VS Code 的 Continue 插件做程序开发。适合无网环境或注重隐私的场景。
前言
Google新推出的AI模型Gemma 4可以免费下载到手机和电脑使用,可以完全离线使用从而避免资料泄露。虽然聪明程度比不上顶级的网络模型,但在无网络的环境下表现也不错,已经能够完成一些复杂的任务。 Gemma 4主要有4个版本:E2B、E4B、26B、31B,前两个用于手机和笔记本,后两个用于Mac和台式电脑。查看自己的电脑适合哪个版本可以访问:https://www.canirun.ai

电脑如何使用
目前电脑上运行本地模型的方法有两种,第一种是Ollama,偏指令操作更适合专业人员使用。我用的是第二种LM Studio,偏界面操作更适合普通人使用。
下载 LM Studio Windows、MacOS、Linux均可访问官网下载:https://lmstudio.ai

安装Gemma 4 AI模型 我是笔记本,选择E4B这个版本,三个图标分别是视觉能力、skill能力、推理能力

下载完毕后,可以修改模型设置,比如上下文长度,分析较大文件时可以调大

修改系统提示词,这里可以输入AI的规则

使用上基本和豆包、DeepSeek一样,通过对话的形式提问

也可以处理图片和文档内容


手机如何使用
手机下载
Google ai edge galleryAPP,安卓、iOS商店均可安装
打开对话界面,下载AI模型,手机上我选择
Gemma 4 E2B
可以进行对话

同样支持视觉功能

进阶功能
LM studio还可以通过链接其他MCP完成更多高难度任务,比如
连接Brave Sesarch API增加网络搜索功能 网址:https://brave.com/search/api

系统提示中增加文件夹的权限实现本地文件操作

关联VSCode,完成简单的程序开发
LM Studio开启本地服务器

VSCode端安装Continue插件

连接LM Studio后选择AI模型,输入提示词即可生成想要的程序

测试一下,有问题可以继续通过对话的形式修改

结尾
本地AI大模型的实用程度和电脑配置有直接关系,而且大部分场景都远不如在线的API好用,但隐私性更好,所以处理文件还是足够用了。手机端在飞机、国外等无网环境下,语音翻译和识图翻译功能还是非常好用的。