为什么是现在：数据不敢出门，AI又必须用
11月3日，世界互联网大会乌镇峰会开幕，DeepSeek、阿里千问、MiniMax的负责人同台聊开源与安全。巧的是，就在同一时期，国产开源模型迎来了一轮集中爆发：千问系列累计开源460多款模型，全球下载量超过40亿次。
这意味着什么？意味着"好用的大模型"不再稀缺了。但对大量中小企业来说，真正的问题从来不是"有没有模型"，而是"敢不敢把数据送出去"。律所的客户卷宗、工厂的工艺图纸、医院的病历数据、财务公司的账目——这些东西谁敢往公有云API上扔？
于是出现了一个真实存在的中间地带：企业想用AI，但要求模型必须跑在自己机房、自己服务器上，数据不出内网。 而绝大多数中小企业，根本没有人会装这东西。一单2到8万元的"本地部署代工"生意，就是这么长出来的。
谁在买单：三种最典型的客户画像
第一类：律所、财税所、咨询公司。 他们的核心资产就是客户资料，泄密一次就可能丢执照。他们对AI的需求很具体：合同审阅、文书初稿、案例检索。部署一套本地知识库问答系统，刚好对症。
第二类：制造业工厂和民营医院。 工厂有工艺文档、设备维修手册；医院有病历和检验报告。这两类数据都有合规红线，公有云想都别想。本地部署+内网问答，是他们唯一能接受的形态。
第三类：有信创要求的国企下属单位和事业单位。 政策导向摆在那，国产化、自主可控是硬指标。开源模型+国产硬件的组合，天然对他们的胃口。
这三类客户的共同点：预算不算大（几万到十几万）、需求明确、决策链短，而且复购和转介绍很强——一个产业园里装好一家，隔壁几家会主动来问。
交付全流程：从硬件评估到运维交接
这门生意的交付，大致分五步，每一步都要跟客户讲清楚边界，不然售后会把你拖死。
第一步：需求与硬件评估（1-3天）。 先看客户有什么机器。很多中小企业其实有闲置服务器，或者愿意花一两万买张消费级显卡。你要给出明确的硬件清单：跑7B级别的模型和跑70B级别的模型，显存需求差一个数量级。评估阶段就要把丑话说在前面：硬件不够，效果打折，别到时候怪你。
第二步：模型选型。 千问、DeepSeek这些开源模型各有侧重：有的中文强、有的代码强、有的长文本强。根据客户的场景（问答、文书、代码辅助）选1-2个主力模型，再配一个embedding模型做知识库检索。这一步最考验你的判断力，选错了后面全是坑。
第三步：部署与接入。 Docker容器化部署是标配，vLLM或Ollama做推理加速，然后接上知识库（RAG）和一个简单的Web对话界面。客户要的是"打开浏览器就能用"，不是一堆命令行。
第四步：知识库搭建与微调。 把客户的文档切分、向量化、入库，做一轮问答效果测试。注意：绝大多数中小企业的场景，用RAG就够了，真要做模型微调的不到一成，别为了显得专业硬上微调，又贵又慢。
第五步：运维交接与培训。 教客户的IT（如果有的话）怎么重启服务、怎么加文档，留一份运维手册。很多代工者会在这里留一个按年收费的运维包，这是后续稳定的现金流。
定价：2到8万一单是怎么构成的
报价一般分三块：部署实施费 + 知识库搭建费 + 年度运维费。
小型项目（单机、7B模型、几百份文档）：2到3万，工期一周左右。
中型项目（多卡、几十B模型、上万份文档、要对接OA或内部系统）：5到8万，工期两到四周。
年度运维一般按首年实施费的20%-30%收，包含模型升级、故障响应、定期巡检。别小看这部分，做上十几家客户，光运维一年就是几十万的稳定收入。
定价有个实战技巧：按效果分期收。比如首付50%，上线验收付40%，稳定运行一个月付尾款10%。中小企业对一次性付全款很敏感，分期能显著提高成单率。
门槛：Linux、Docker、GPU调优缺一不可
实话实说，这活儿不是零门槛，但也不是高不可攀。核心技能就三块：
1. Linux和Docker：部署、网络、存储、容器编排，这是基本功，不会这个别碰。
2. GPU与推理优化：显存占用估算、量化（AWQ/GPTQ）、vLLM参数调优。客户问"为什么这么慢"，你得答得上来。
3. RAG知识库工程：文档切分策略、向量库选型、检索效果调优。这是决定"好不好用"的关键，也是你跟纯装机师傅拉开差距的地方。
获客方面，最有效的是线下：本地商会、产业园区管委会、中小企业服务中心。做一场"AI降本增效"的免费分享，现场演示本地问答，转化率比线上投广告高得多。另外，给第一家客户做好后，一定要拿到转介绍——产业园里一栋楼，装好一家能带出三家。
风险提示
开源协议合规是第一红线。 不同模型的开源协议差别很大：Apache 2.0相对宽松，有些模型带非商业限制或需要额外授权。部署前务必确认所选模型的License允许商用部署，必要时让客户方法务过一遍。别因为省事，给自己和客户埋雷。
安全责任写进合同。 模型跑在客户内网，数据泄露、系统被黑，客户第一时间会找你。合同里要明确：你的责任边界是部署交付和约定范围内的运维，不包括客户自身网络安全和人员误操作。丑话说在前面，是对双方的保护。
回款周期是现金流杀手。 中小企业账期普遍长，尾款拖三个月是常态。所以首付款比例不能低于50%，小项目甚至可以要求全款。别为了成单把付款条件放得太松，干完活收不到钱，比没单子更难受。
写在最后
本地部署代工的本质，是把开源红利翻译成中小企业听得懂、用得起的服务。模型越来越强、越来越便宜，这个趋势只会加速；而中小企业"数据不敢出门"的焦虑，短期内也不会消失。一边是供给侧的开源大爆发，一边是需求侧的合规焦虑，中间这个翻译和落地的活儿，就是未来两到三年里最实在的机会之一。
但它也不是躺赚：拼的是你的工程能力和本地信任关系。先拿下一两个标杆客户，把交付流程跑成SOP，再去复制。慢就是快。
