导入 GGUF 模型：离线推理的入口
GGUF 是什么
GGUF 是 llama.cpp 生态的标准模型格式——把开源模型（Llama、Gemma、Qwen 等）量化打包后的单文件，社区几乎所有的开源模型发布都会附带 GGUF 版本。Agora 集成了 llama.cpp，所以能直接吃这个格式；这也是它「完全离线」能力的来源。
导入四步
- 拿到 GGUF 文件：从模型社区搜索「模型名 + GGUF」下载，注意选与手机内存匹配的量化版本（选型见下一页）；
- 进入导入入口：「设置 → Providers → Local」，导入 GGUF 文件；
- 应用接管文件：Agora 会把模型复制进应用自管理的存储并登记——之后删掉原文件不影响使用，删除应用内条目也不会碰你存储里的原文件；
- 启用并选用：导入的模型自动启用，回到底栏选择器即可选中开聊。
整个过程不需要密钥、不需要网络（文件本身得先有）。
导入时可配的参数
每个本地模型条目有自己的一组参数，与云端模型相互独立：
- 模型 ID 与别名：显示名随便起，方便区分；
- 上下文大小：占内存大头，手机上建议保守起步；
- 温度、Top P、最大输出：本地模型的生成参数；
- 闲置保留（Model Idle Retention）：决定不用的模型在内存里驻留多久才卸载——设短了每次重新加载慢，设长了占内存，按自己切换频率权衡。
加载与性能的现实预期
本地推理是 CPU 与内存的重活，预期要摆正：
- 模型越大、上下文越长，加载越慢、生成越慢；
- 内存不足时可能直接加载失败，排查思路见闪退与模型加载失败；
- 电耗明显是正常现象，长会话建议插电。