banner
约 300 字
1 分钟

本地AI离线也好用!Gemma 4让你的电脑变身本地AI助手,不用token完全免费 ,手机也能离线使用

摘要

Google 推出的 Gemma 4 本地模型可免费下载到电脑与手机,完全离线运行、避免资料泄露。文章介绍用 LM Studio(电脑,选 E4B 版)与 Google AI Edge Gallery App(手机,选 E2B 版)部署对话,支持图文、文档处理;进阶部分演示接入 Brave Search API 联网、授权本地文件夹操作、关联 VS Code 的 Continue 插件做程序开发。适合无网环境或注重隐私的场景。

前言

Google新推出的AI模型Gemma 4可以免费下载到手机和电脑使用,可以完全离线使用从而避免资料泄露。虽然聪明程度比不上顶级的网络模型,但在无网络的环境下表现也不错,已经能够完成一些复杂的任务。 Gemma 4主要有4个版本:E2B、E4B、26B、31B,前两个用于手机和笔记本,后两个用于Mac和台式电脑。查看自己的电脑适合哪个版本可以访问:https://www.canirun.ai

90fb320ec943ace3.png

电脑如何使用

目前电脑上运行本地模型的方法有两种,第一种是Ollama,偏指令操作更适合专业人员使用。我用的是第二种LM Studio,偏界面操作更适合普通人使用。

  1. 下载 LM Studio Windows、MacOS、Linux均可访问官网下载:https://lmstudio.ai

    1ca1c6a6a6d61d16.png
  2. 安装Gemma 4 AI模型 我是笔记本,选择E4B这个版本,三个图标分别是视觉能力、skill能力、推理能力

    121f2805ec66bf57.png
  3. 下载完毕后,可以修改模型设置,比如上下文长度,分析较大文件时可以调大

    eb91b27de931c538.png
  4. 修改系统提示词,这里可以输入AI的规则

    7ba6265d922de44f.png
  5. 使用上基本和豆包、DeepSeek一样,通过对话的形式提问

    8ec94ba70d6c9d8a.png

    也可以处理图片和文档内容

    f17af9a11669aadc.png
    e5ba4204efaee526.png

手机如何使用

  1. 手机下载Google ai edge galleryAPP,安卓、iOS商店均可安装

    6a0bf5e62b864275.png
  2. 打开对话界面,下载AI模型,手机上我选择Gemma 4 E2B

    580ecac52c68fc7b.png
  3. 可以进行对话

    52ebf2fa728b0401.png
  4. 同样支持视觉功能

    3cf26453bb48399f.png

进阶功能

LM studio还可以通过链接其他MCP完成更多高难度任务,比如

  1. 连接Brave Sesarch API增加网络搜索功能 网址:https://brave.com/search/api

    71e81a8c2b16ee5b.png
  2. 系统提示中增加文件夹的权限实现本地文件操作

    0e549389b2ed7330.png
  3. 关联VSCode,完成简单的程序开发

    • LM Studio开启本地服务器

      813c0afba29883e2.png
    • VSCode端安装Continue插件

      4776d26bf9a2396e.png
    • 连接LM Studio后选择AI模型,输入提示词即可生成想要的程序

      625c4644c4503359.png

      测试一下,有问题可以继续通过对话的形式修改

      932700321dc2c98c.png

结尾

本地AI大模型的实用程度和电脑配置有直接关系,而且大部分场景都远不如在线的API好用,但隐私性更好,所以处理文件还是足够用了。手机端在飞机、国外等无网环境下,语音翻译和识图翻译功能还是非常好用的。

END