banner
约 300 字
1 分钟

本地AI离线也好用!Gemma 4让你的电脑变身本地AI助手,不用token完全免费 ,手机也能离线使用

-
-
无标签

前言

Google新推出的AI模型Gemma 4可以免费下载到手机和电脑使用,可以完全离线使用从而避免资料泄露。虽然聪明程度比不上顶级的网络模型,但在无网络的环境下表现也不错,已经能够完成一些复杂的任务。 Gemma 4主要有4个版本:E2B、E4B、26B、31B,前两个用于手机和笔记本,后两个用于Mac和台式电脑。查看自己的电脑适合哪个版本可以访问:https://www.canirun.ai

90fb320ec943ace3.png
90fb320ec943ace3.png

电脑如何使用

目前电脑上运行本地模型的方法有两种,第一种是Ollama,偏指令操作更适合专业人员使用。我用的是第二种LM Studio,偏界面操作更适合普通人使用。

  1. 下载 LM Studio Windows、MacOS、Linux均可访问官网下载:https://lmstudio.ai

    1ca1c6a6a6d61d16.png
    1ca1c6a6a6d61d16.png
  2. 安装Gemma 4 AI模型 我是笔记本,选择E4B这个版本,三个图标分别是视觉能力、skill能力、推理能力

    121f2805ec66bf57.png
    121f2805ec66bf57.png
  3. 下载完毕后,可以修改模型设置,比如上下文长度,分析较大文件时可以调大

    eb91b27de931c538.png
    eb91b27de931c538.png
  4. 修改系统提示词,这里可以输入AI的规则

    7ba6265d922de44f.png
    7ba6265d922de44f.png
  5. 使用上基本和豆包、DeepSeek一样,通过对话的形式提问

    8ec94ba70d6c9d8a.png
    8ec94ba70d6c9d8a.png

    也可以处理图片和文档内容

    f17af9a11669aadc.png
    f17af9a11669aadc.png
    e5ba4204efaee526.png
    e5ba4204efaee526.png

手机如何使用

  1. 手机下载Google ai edge galleryAPP,安卓、iOS商店均可安装

    6a0bf5e62b864275.png
    6a0bf5e62b864275.png
  2. 打开对话界面,下载AI模型,手机上我选择Gemma 4 E2B

    580ecac52c68fc7b.png
    580ecac52c68fc7b.png
  3. 可以进行对话

    52ebf2fa728b0401.png
    52ebf2fa728b0401.png
  4. 同样支持视觉功能

    3cf26453bb48399f.png
    3cf26453bb48399f.png

进阶功能

LM studio还可以通过链接其他MCP完成更多高难度任务,比如

  1. 连接Brave Sesarch API增加网络搜索功能 网址:https://brave.com/search/api

    71e81a8c2b16ee5b.png
    71e81a8c2b16ee5b.png
  2. 系统提示中增加文件夹的权限实现本地文件操作

    0e549389b2ed7330.png
    0e549389b2ed7330.png
  3. 关联VSCode,完成简单的程序开发

    • LM Studio开启本地服务器

      813c0afba29883e2.png
      813c0afba29883e2.png
    • VSCode端安装Continue插件

      4776d26bf9a2396e.png
      4776d26bf9a2396e.png
    • 连接LM Studio后选择AI模型,输入提示词即可生成想要的程序

      625c4644c4503359.png
      625c4644c4503359.png

      测试一下,有问题可以继续通过对话的形式修改

      932700321dc2c98c.png
      932700321dc2c98c.png

结尾

本地AI大模型的实用程度和电脑配置有直接关系,而且大部分场景都远不如在线的API好用,但隐私性更好,所以处理文件还是足够用了。手机端在飞机、国外等无网环境下,语音翻译和识图翻译功能还是非常好用的。

END

相关文章

暂无相关文章