私有化 AI 客服：自托管智能客服选型指南

三类驱动最常见。其一是数据边界：客服对话里是客户的身份、订单与投诉细节，金融、医疗、政务与跨境业务常要求数据不出既定边界，把对话送给第三方云端推理在很多合规框架下需要额外评估。其二是模型主权：自部署意味着可以换模型、换版本、按对话类型路由不同模型——云端产品的模型策略你只能接受。其三是成本可预测：按坐席或按「解决量」计费的曲线随业务量线性上升，买断式私有部署把这条曲线变成一次性的许可费加上你自己的推理成本。

候选方案无论是开源拼装还是商用引擎，按这八条过一遍，任何一条含糊都会在生产里变成风险：

• 模型端点自选：支持 OpenAI 兼容接口与私有推理端点，模型可替换、可回滚
• RAG 溯源：答案必须命中你的知识库且可引用来源，而不是模型的自由发挥
• 人工接管：AI 答不准时无缝转人工，坐席能看到完整上下文
• 评测与红队：上线前能对回答质量做批量评测、对提示注入等攻击做仿真
• 流式与语音：回复流式下发，语音转写链路可控
• 部署足迹：单机可起步，扩容不改客户端
• 不出网：服务端无强制遥测或云依赖，内网可完整运行
• 数据治理：保留期、导出、匿名化与法律保留有现成机制

云端 AI 客服的通行计费是按坐席月付加 AI 加购，或按「每次解决」计费——对话量越大账单越高，且单价由厂商调整。私有化的账是另一种算法：一次性或按年的许可费，加上你自己的服务器与模型调用成本（模型调用量与对话量相关，但你可以选择更便宜的模型、缓存高频问题、限制上下文长度）。坐席越多、年限越长，两条曲线的差距越大；代入你的坐席数和对话量算三年总账，结论通常很直观。

以 IMCore 为例：一条命令拉起含 AI worker 的本地栈（PostgreSQL + pgvector + Redis + 消息总线），配置 bot 与模型端点后即可在网页客服气泡里对话；第二步把知识库灌进 RAG、设置转人工规则；第三步用评测任务对回答质量做版本门禁，再上生产。部署形态从单机 Compose 到 Helm 集群不改客户端，模型端点可以随时切换——包括切到完全内网的推理服务。