🧠 亭溪苑本地大模型详细方案

位置：B2设备间（与NAS一起）| 更新：2026-06-07 | 定位：家庭AI助手+智能家居语音控制+隐私优先

---

一、核心定位

不是替代 ChatGPT/GPT-5，而是做「家里的事」：

能做的	不能做的
语音控制全屋设备	不能写代码/写文章
家庭信息查询（日程/天气/待办）	不能联网搜索最新资讯
语音对话闲聊	不能生成图片/视频
隐私数据处理（账单/证件）	不适合复杂推理任务

核心价值：所有对话数据不出家门，隐私安全。

---

二、硬件选型

方案对比

方案	硬件	RAM	能跑的模型	推理速度	价格	推荐度
A. 树莓派5	RPi 5 8GB	8GB	Qwen2.5:7b Q4	~5-8 token/s	~600	⭐ 预算之选
B. 小主机	Intel N100 小主机	16GB	Qwen2.5:7b Q4	~15-20 token/s	~1500	⭐⭐ 性价比最佳
C. 小主机	Intel N300 小主机	16GB	Qwen2.5:14b Q4	~8-12 token/s	~2000	模型更大
D. 旧笔记本	i5-8250U + 16GB	16GB	Qwen2.5:7b Q4	~10-15 token/s	~0（闲置利用）	零成本起步
E. Mac Mini M4	Apple M4 16GB	16GB 统一内存	Qwen2.5:14b Q4	~25-30 token/s	~4000	⭐⭐⭐ 性能最强

推荐：方案 B（Intel N100 小主机，16GB）

理由：

• N100 功耗仅 6W，7×24h 开机一年电费约 30 元
• 16GB 内存跑 7B 模型绰绰有余，还能同时跑 Home Assistant
• x86 架构，软件兼容性最好（Docker/Ollama/Pi-hole 全支持）
• 体积小巧（手掌大），放弱电箱或 B2 设备间都行
• ~1500 元价位，性能是树莓派的 3 倍

推荐硬件清单

物品	型号	单价	数量	小计
小主机	零刻 EQ12 Mini（N100+16GB+512GB）	~1300	1	1300
散热	自带散热器	0	1	0
电源	自带 12V/3A	0	1	0
合计	~1300

💡 如果预算充足，选零刻 SER7（锐龙 7840HS + 32GB）约 3000 元，可跑 14B-30B 模型。

---

三、软件栈

3.1 系统层

软件	用途	说明
Ubuntu 24.04 LTS	操作系统	稳定、长期支持、Docker 原生
Docker	容器化部署	所有服务用 Docker，互不干扰
Portainer	Docker 可视化管理	Web 界面管理容器

3.2 AI 层

软件	用途	说明
Ollama	大模型推理引擎	一键拉取/运行开源模型，OpenAI 兼容 API
Open WebUI	对话界面	类似 ChatGPT 的 Web 界面，支持多用户
Home Assistant	智能中枢	设备控制 + 自动化 + AI Integration
Whisper	本地语音识别	语音→文字，中文识别准确率高
Piper TTS	本地语音合成	文字→语音，支持中文，声音自然

3.3 服务层

软件	用途	说明
Pi-hole	DNS 广告过滤	全屋广告过滤
WireGuard	VPN	远程安全回家
Mosquitto	MQTT Broker	Zigbee 设备消息中转
CUPS	打印服务	全屋网络打印
Nginx Proxy Manager	反向代理	外网安全访问各服务

---

四、模型选择

4.1 推荐模型（按优先级）

模型	参数	量化后大小	N100 推理速度	中文能力	推荐用途
Qwen2.5 7B Instruct	7B	~4.5GB	~18 token/s	⭐⭐⭐ 最佳	主力家庭助手
Qwen3 8B	8B	~5.0GB	~15 token/s	⭐⭐⭐ 最佳	Qwen2.5 升级版
Llama 3.1 8B Instruct	8B	~4.8GB	~16 token/s	⭐⭐ 良好	英文场景备用
Phi-3.5 3.8B Mini	3.8B	~2.3GB	~25 token/s	⭐⭐ 良好	轻量快速响应

4.2 模型搭配策略

主力模型：Qwen2.5:7b（日常对话+设备控制+信息查询）
└── 占用 ~4.5GB RAM

备用模型：Phi-3.5:3.8b（快速响应简单问题）
└── 占用 ~2.3GB RAM

总内存占用：~7GB / 16GB（剩余 9GB 给 HA + Docker + 系统）

---

五、语音交互方案

5.1 语音链路

用户说话
↓
小爱音箱（或其他麦克风）→ 语音采集
↓
Whisper（本地语音识别）→ 文字
↓
Qwen2.5:7b（理解意图+生成回复）→ 回复文字
↓
Piper TTS（本地语音合成）→ 语音
↓
音箱播放回复

5.2 语音控制示例

用户说	系统做
"我冷了"	空调调高2度
"我出门了"	离家模式（关灯/关空调/布防）
"今天天气"	查询嘉善天气并播报
"播放音乐"	小爱音箱播放指定歌单
"打开影院模式"	关灯/关窗帘/开投影
"NAS 空间还剩多少"	查询 NAS 存储并播报
"监控里看到什么"	调取摄像头画面（需屏幕）

5.3 语音设备

设备	位置	用途	价格
小爱音箱 Pro	1F客厅	语音采集+播放	~200
小爱音箱	2F主卧	语音采集+播放	~100
小爱触屏音箱	1F玄关	语音+屏幕（看监控/门铃）	~300
USB 麦克风阵列	树莓派/N100	远场拾音（可选）	~50

---

六、与 Home Assistant 集成

6.1 AI + HA 联动

用户："把客厅灯调暗一点"
↓
Whisper 识别 → "把客厅灯调暗一点"
↓
Qwen2.5 理解意图 → {"action": "light.turn_on", "entity": "light.living_room", "brightness": 30}
↓
Home Assistant 执行 → 客厅灯调到 30% 亮度
↓
Qwen2.5 生成回复 → "好的，客厅灯已调到30%"
↓
Piper TTS 播报 → 音箱播放回复

6.2 HA 的 AI 集成方式

集成	用途	说明
Ollama Conversation	对话代理	HA 内置集成，直接调用 Ollama API
OpenAI Conversation	备用	如果用云端模型
Automation + AI	自动化触发	AI 分析结果触发 HA 自动化

---

七、部署架构

7.1 Docker Compose 服务编排

# 核心服务
services:
ollama:          # 大模型推理
open-webui:      # 对话界面
homeassistant:   # 智能中枢
whisper:         # 语音识别
piper:           # 语音合成
pihole:          # DNS过滤
wireguard:       # VPN
mosquitto:       # MQTT
cups:            # 打印
nginx-proxy:     # 反向代理
portainer:       # Docker管理

7.2 资源分配（16GB RAM）

服务	内存占用	CPU
Ollama (Qwen2.5:7b)	~5GB	中等
Home Assistant	~1GB	低
Open WebUI	~512MB	低
Whisper	~1GB	高（推理时）
Piper TTS	~256MB	低
Pi-hole	~256MB	极低
WireGuard	~128MB	极低
其他服务	~1GB	低
系统预留	~2GB	-
总计	~11GB / 16GB

---

八、远程访问安全

8.1 安全原则

❌ 禁止：端口映射 / UPnP / 直接把服务暴露到公网
✅ 推荐：WireGuard VPN（加密隧道）

8.2 远程访问流程

手机（外面）
↓ WireGuard VPN 连接
家庭网络（加密隧道）
↓
N100 小主机
├── Home Assistant（全屋控制）
├── Open WebUI（AI 对话）
├── NAS（文件/监控）
└── 摄像头（实时监控）

8.3 安全措施

措施	说明
WireGuard VPN	所有远程访问走 VPN，不暴露任何端口
VLAN 隔离	IoT 设备与家庭网络隔离
自动更新	Ubuntu + Docker 自动安全更新
防火墙	UFW 默认拒绝所有入站，仅放行 VPN
密码策略	所有服务强密码 + 2FA（如支持）

---

九、预算汇总

项目	价格
N100 小主机（16GB+512GB）	~1300
小爱音箱 Pro（1F）	~200
小爱音箱（2F）	~100
小爱触屏音箱（1F玄关）	~300
USB 麦克风阵列（可选）	~50
合计	~1950

💡 如果家里有闲置笔记本/旧电脑，可以零成本起步，先跑通再升级硬件。

---

十、与 NAS 的分工

任务	由谁处理	原因
AI 推理（LLM）	N100 小主机	需要 CPU/GPU 算力
数据存储	NAS	需要大容量硬盘
监控录像	NAS	需要大容量+持续写入
相册备份	NAS	需要大容量+RAID
设备控制	N100（HA）	需要低延迟
DNS 过滤	N100（Pi-hole）	需要低延迟
VPN	N100（WireGuard）	需要加密运算

两者关系：N100 是「大脑」，NAS 是「记忆」。大脑处理任务，记忆存储数据。

---

本方案与智能家居 v3、NAS 方案配套使用，N100 小主机放置在 B2 设备间或 1F 弱电箱