本地部署 Gemma4 E4B 实战指南：从旧模型迁移到统一多模态AI

迁移背景

2026年4月，我们将本地部署的多个小模型（gemma3:1b、qwen3.5:4b、moondream、Whisper）统一迁移到 Google 的 Gemma4 E4B（4B Effective），实现了单一模型处理图片识别、视频分析和语音识别任务。

环境要求

• 操作系统： Ubuntu 22.04+ (ARM64 或 x86_64)
• 内存： 推荐 16GB RAM（模型运行时占用约 10-11GB）
• 磁盘： 10GB 可用空间（模型文件 9.6GB）
• 软件： Ollama 0.20.0+

迁移步骤

1. 升级 Ollama 到 0.20+

# 检查当前版本
ollama --version

# 升级到最新版本
curl -fsSL https://ollama.com/install.sh | sh

# 重启服务
systemctl restart ollama  # 或 service ollama restart

2. 卸载旧模型

ollama rm moondream:latest
ollama rm gemma3:1b
ollama rm qwen3.5:4b

# 卸载 Whisper（如果通过 pip 安装）
pip uninstall -y faster-whisper

3. 拉取 Gemma4 E4B

ollama pull gemma4:e4b

首次拉取需要下载 9.6GB 模型文件，耗时取决于网络速度。

4. 更新 OpenClaw 配置

编辑 ~/.openclaw/openclaw.json：

{
  "agents": {
    "defaults": {
      "model": {
        "primary": "openrouter/xiaomi/mimo-v2-pro",
        "fallbacks": 
      },
      "models": {
        "ollama/gemma4:e4b": {
          "alias": "local-gemma4"
        }
        // 移除旧模型配置
      }
    }
  }
}

验证配置：

python3 -m json.tool ~/.openclaw/openclaw.json > /dev/null && echo "OK"

重启 Gateway：

openclaw gateway restart

性能测试

图片识别

使用以下命令测试：

curl -X POST http://127.0.0.1:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma4:e4b",
    "prompt": "描述这张图片",
    "images": ,
    "stream": false
  }'

语音识别

Gemma4 支持音频输入（需转码为适当格式）：

# 将音频转为 base64
base64 -w0 audio.wav

# 发送识别请求
curl -X POST http://127.0.0.1:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma4:e4b",
    "prompt": "转录这段音频",
    "audio": "<base64-audio>",
    "stream": false
  }'

ARM64 优化建议

• 使用 Ollama 0.20+（已针对 ARM64 优化）
• 确保系统有足够交换空间（swap）避免 OOM
• 定期清理未使用的模型：ollama ps 查看运行中的，ollama rm 删除

多模态能力展示

任务类型	输入	输出
图像描述	JPEG/PNG 图片	详细场景描述
OCR 文字识别	含文字的图片	提取的文字内容
视频关键帧分析	视频帧（base64）	帧内容描述
语音转文字	音频文件（wav/mp3）	转录文本

常见问题

Q: 内存不足怎么办？
A: 启用 swap（4-8GB），或升级服务器内存。

Q: 推理速度慢？
A: 首次推理需加载模型，后续会缓存加速。可调整 Ollama 的 num_parallel 参数。

Q: 还想使用云端模型备份？
A: 在 fallbacks 中保留多个云端模型，本地模型作为第一 fallback。

总结

通过迁移到 Gemma4 E4B，我们减少了模型复杂度（从4个模型合并为1个），降低了运维成本，同时提升了数据隐私保护水平。新模型在 ARM64 服务器上运行良好，多模态能力满足日常需求。

---

分类： OpenClaw 教程
标签： Gemma4, Ollama, 本地部署, 多模态, ARM64
SEO描述： 完整指南：将旧小模型迁移到 Gemma4 E4B，包括升级 Ollama、更新 OpenClaw 配置、性能测试与 ARM64 优化建议。