做社交产品的人这两年应该都有一个共同感受平台里的“信号”越来越少“噪音”越来越多。打开评论区前几排是机器刷出来的广告往下翻是情绪化的对喷再往下才偶尔找得到一条真正值得回复的内容。我们花了很多资源处理推荐、审核、举报效果却始终隔着一层。问题出在哪我用一个信号处理的比喻来理解这件事社交场景里需要的是一个“低通滤波器”把那些高频的、短促的、没有长期价值的噪音滤掉把低频的、稳定的、真正有意义的信号保留下来。而这个滤波器恰恰应该是垂直AI而不是我们习惯性依赖的通用大模型。这个想法一开始只是我在做社区风控和互动质量优化时的一点直觉。做的时间越长越能确认一个判断通用AI负责“什么都懂一点”但到了具体社交场景里它不知道什么该放行、什么该拦截更不理解你这个社区里的“梗”、黑话和人际关系。垂直AI的价值就是在一堆混杂的内容里按场景规则挑出真正值得被看见的那部分信号。这篇文章我就按自己的实操经验把为什么要做垂直AI、怎么做、以及中间踩过的坑完整拆开讲一遍。1. 社交场景的噪音问题通用AI为什么总差一口气1.1 高频噪音的具体画像我先给噪音画个像。在社交平台里噪音不是单一类型而是好几股来源混在一起往外冒。第一类是机器流量这是最典型的“高频噪音”。批量注册的小号在评论区刷广告、在话题下发低质量内容一天可能产生几十万条规律性强、重复度高靠关键词规则就能筛掉一部分但总有人用各种变体绕过。第二类是情绪化内容。热点事件一出来评论区就会涌进来大量站队、抬杠、人身攻击的短句。这些内容不是机器产生的但它们的共同特征是爆发快、衰减也快价值密度极低却会占用大量信息流位。第三类是低质量互动。复制粘贴的“顶一个”“学习了”或者靠表情包刷屏凑热度的互动让互动率数字好看但实际上一句话有效信息都没有。第四类是虚假信息和断章取义。这类内容更麻烦它们反映的不是频率问题而是“信号污染”。一条被恶意剪辑的短视频在传播的早期看起来完全没有问题等到人工发现时已经扩散到足够大的范围。这几类噪音叠加在一起导致真实用户找内容越来越难。而平台的推荐和审核系统如果只靠简单规则或通用模型很容易同时犯两个错把有价值的信号误杀比如正常讨论被判定为敏感词或者把噪音放过去等到用户投诉才补救。1.2 通用AI的瓶颈在哪里通用大模型这两年进步很大问答、翻译、写代码的能力都有目共睹。但它在社交场景里的表现始终差着好几口气。第一通用模型缺少场景上下文。一个训练自海量公开数据的模型知道什么是“一般来说正确的表达”但不知道你的社区里什么是“被允许的表达”。同样是“这个做得不行”在技术讨论区可能是一句正常评价在一个鼓励友善表达的社区里可能就会被判为负面攻击。通用模型判断不了这种差异因为它没有你的社区规范、案例库和用户举报数据。第二通用模型在时效性上跟不上。社交场景的内容是流动的新梗每天出现热点事件几分钟内发酵。通用大模型的训练数据往往滞后知识截止日期固定它不理解当下这个社区正在流行什么说法、正在讨论哪件事。这就导致它在判断“这句话是否是引战”时手里拿的是三个月前的参考答案。第三响应成本和速度不匹配。做内容的实时过滤单条判断延迟要控制在几十毫秒以内。通用大模型跑一次推理根据上下文长度不同耗时可能到几百毫秒甚至几秒。在实时性要求高的环节根本扛不住。第四也是最容易忽略的一点通用模型的输出不稳定。同样的输入今天判断是正常明天判断是违规而且很难解释为什么。做内容治理的人都知道最怕的不是模型不聪明而是模型不可解释。用户来申诉的时候平台拿不出判罚依据体验和合规都有问题。所以我说通用AI不是不好而是它不适合直接当社交场景的“滤波器”。它像一台什么频段都能接收的收音机噪声和信号一起放出来听感反而更乱。1.3 低通滤波器的隐喻从信号处理看内容治理我用低通滤波器来类比不是随便找个概念包装而是因为内容筛选的逻辑和信号处理真的很像。在电子工程里低通滤波器的作用是让低于截止频率的信号通过衰减高于截止频率的信号。一个混入高频噪声的音频信号经过低通滤波后噪声被压下去主体声音会变得干净。社交场景里我们可以把内容理解为一条连续的信号流。高频率产生的往往是短命噪音——突发情绪、刷屏广告、跟风评论低频率出现的反而是有持久价值的信号——深度回答、真实求助、背后有信任关系的人际互动。垂直AI要做的事情就是根据平台的定位和治理目标设计一个合适的“截止频率”什么内容值得被放大什么内容应该被压制什么内容的优先级介于两者之间。当然这个类比不能机械地套用。社交内容不是物理信号的简单叠加它不是靠频率高低就能一刀切分还需要语义理解、关系判定和价值观对齐。但“低通滤波器”这个隐喻帮我拎清了一个关键问题算法不能把所有内容都平等对待必须有选择地衰减一部分信号、保留另一部分信号。而这种“选择性”必须来自场景不能来自通用世界的平均常识。2. 垂直AI的核心思路让AI理解“这个场景”而不是“所有场景”2.1 垂直AI到底指什么叫“垂直AI”的名字很多行业大模型、领域模型、场景智能本质都是一回事面向特定业务场景、用场景化数据训练或约束、以场景指标为优化目标的AI系统。它不是说我非要训练一个全新的基座模型才算垂直。更常见的方式是在通用大模型的基础上做领域微调挂一套场景知识库叠加规则引擎再把交互流程按场景重做一遍。换句话说垂直AI的重点在“垂直”这两个字上它的知识半径、决策边界和评估标准都以场景为中心。我举个例子。某社区平台之前用通用内容安全API做评论审核遇到“草”这个字模型会基于通用语义判定为负面但在这个以户外运动为主题的社群里“草”是“草地”的意思是正常讨论。后来团队引入了一个垂直配置的审核层把平台历史数据、用户协议、社区指南全部注入模型同时补充了一批由社区管理员标注的典型案例模型才学会区分“你说得对但草率了”和“今天去草地上野餐了”。这就是垂直AI和通用AI的差别同样的模型底座因为注入了场景知识输出语义完全变了。2.2 场景知识如何决定滤波质量垂直AI的效果上限不取决于模型参数规模而取决于场景知识是否准确、完整、可更新。什么是场景知识在社交内容治理的场景里通常包括这几个部分社区规则与价值观这是“滤波器截止频率”的基准。不同社区的容忍度不同家长型社区和辩论型社区对冒犯性表达的接受度完全不一样。历史案例库被用户举报过的内容、被管理员删除过的内容、以及在申诉中被判定误杀的案例都是宝贵样本。当前热点与流行语哪些内容正在发酵、哪些说法是当下社区里的新梗这些信息更新得越快滤波越准。用户画像与关系链一个长期正常发言的用户偶尔说一句重话和一个新注册的账号发同样的内容处理方式往往应该不一样。关系链信息能帮模型判断这句话的语境风险。这些知识组装进AI系统的方式通常不是塞到提示词里就完事。更可靠的做法是分层规则引擎管确定性强的部分比如广告链接、电话号码、明显违禁词模型管语义判断部分比如一句“影射”某类行为的评论是否构成违规知识库负责提供上下文证据比如这个词在三天前刚被用户举报过一百次模型就会提高警惕。这个过程我自己的感受是场景知识是“滤波器”的频谱特性。通用模型本身是一块平坦的频率响应曲线对所有话题一视同仁垂直AI通过注入场景知识把曲线重新整形让它在目标频段有更高的增益、在噪音频段有更强的衰减。2.3 垂直AI和通用模型不是替代关系很多人一听垂直AI就觉得要抛弃通用大模型雇一群算法专家从零开始训练。这是个误解。实际落地上垂直AI通常建立在通用模型之上。通用大模型提供语义理解的基础能力垂直工程负责约束它的输出范围、补充场景信息、调整决策标准。你可以理解为通用模型是发动机垂直AI是整个变速箱和底盘。发动机决定动力上限但能不能平稳地在社交场景这条路上跑还得看传动和调校。我团队里一条用得比较多的流水线是这么搭的底层用一个开源的大语言模型做语义编码中间挂一个检索模块去场景知识库里找相似案例最后接一个决策模块综合模型输出、规则结果和用户上下文给出分级处置建议。这套东西的训练成本和直接全量微调大模型比低了一个数量级效果在特定场景里比通用API明显好。所以垂直AI的关键词不是“从零”而是“约束”和“适配”。3. 从零搭建一个社交场景垂直AI的实操路径3.1 第一步把“信号”和“噪音”定义清楚搭建垂直AI的第一步不是选模型、不是买显卡而是和业务方一起开会把“信号”和“噪音”的定义敲死。这一步走歪了后面全白干。定义信号要落到可操作的描述而不是抽象口号。比如“优质评论”不能只写“有价值、友善、有深度”而要拆成可标注的特征是否包含事实性信息或独特观点是否与正文主题直接相关是否包含建设性的提问或反馈是否对其他用户的回答有帮助语气是否中性或正向同样地噪音也要分类定义。广告、辱骂、引战、无意义灌水、虚假信息每类都要给正例和反例。正例是“确定要过滤掉的内容”反例是“长得像但要放行的内容”。这里我给一个建议定义阶段一定让运营人员参与算法工程师不要自己拍脑袋。运营人员每天在看内容他们脑子里对“垃圾”的判断标准是活的但很少写下来。你要做的是把他们的判断结构化变成标注规则。这个环节做细一点后面数据标注和模型训练都会顺很多。3.2 第二步构造场景样本与评估集定义清楚之后下一步是攒数据。社交流量数据和通用这种公开的数据集不太一样必须从你自己的平台抽。我常用的做法是从三个渠道取样历史人工处理记录运营明确判定过违规或放行的内容这是最直接的监督信号用户举报数据用户在“举报”时填写的理由类别带着真实的用户态度在线抽样在正常信息流里随机抽样内容让标注员按规则重新标注补齐那些用户没举报、运营没看到的“沉默样本”。抽样要注意时间跨度。只抽某一周的数据会有偏差比如突发热点那周引战内容特别多会让模型把“正常讨论”也误判成引战。建议至少抽一个季度以上的数据并且覆盖日常、节假日、热点事件三种状态。评估集要单独留出来不能和训练集混在一起。我会把评估集按照业务关注点分层普通评论、争议性评论、隐含攻击、机器广告各留一部分单独跑指标。这样在模型调优的时候能立刻看到它在哪个细分维度上变好、哪个维度上崩了而不是只看一个总体准确率的数字。3.3 第三步模型选型、微调与提示词约束样本和评估集就位后才进入模型环节。第一步是选底座。我的经验是不要迷信最大参数量的模型而要看响应速度和效果是否匹配场景。在内容审核这种高并发、低延迟场景里中等规模的开源模型往往比超大模型更合适因为快而且通过场景微调后效果差距可以补回来。第二步是确定控制方式。如果预算有限优先做提示词约束把社区规则、判罚标准、正反例全部写进系统提示词让模型在给定的知识圈里做判断。这个方法简单直接适合冷启动验证场景定义是否正确。如果效果不够再考虑做参数微调。第三步是接入知识检索。这一步是对垂直能力影响最大的。把社区指南、历史案例、流行语词典拆分成片段存进向量库判断每一条新内容之前先从库里检索出最相似的几个历史案例作为参考上下文喂给模型。这个设计可以让模型每次判断都有“先例可循”减少凭空推理带来的随机性。最后是设计人机协同规则。不是所有内容都走模型有些确定性强的内容直接走规则。比如包含网址、手机号的内容用正则就能确认是广告没必要让模型来猜。模型只处理规则吃不准的部分这样整体准确率和资源消耗都能得到优化。3.4 第四步效果评估与灰度上线上线不是把模型部署上去就结束了而是要设计一套评估闭环。我习惯的指标框架分三层准确率层噪音召回率、噪音误杀率、判断一致性业务层举报量变化、人工审核工作量变化、有效互动率变化体验层申诉量、申诉通过率、申诉响应时长。这三层的权重不一样。我做内容治理项目时最优先看的不是“抓到了多少违规”而是“误伤了多少正常用户”。一个社区如果每天误杀正常评论用户会逐渐失去表达意愿这种损伤是慢性的、致命的。所以我会在准确率层单独设一个“杀错比例”的红线超过红线就回滚模型不管召回率涨了多少。灰度上线也有讲究。先用一小部分流量跑影子模式模型判完了不改线上结果只记录判定和人工复核结果的对比。影子模式跑一周看统计指标。第二步再放大到5%的线上流量只处理明确违规的内容高危内容仍然转人工。等数据稳定了再逐步覆盖全量。这样一步步来出问题影响面是可控的。4. 我在实际落地中踩过的坑4.1 坑一把“场景”理解成了“关键词列表”刚开始做垂直化改造的时候我们犯过最典型的错误以为垂直就是收集一大堆本场景的敏感词、黑话、流行语塞进关键词列表就完事了。结果很快被打脸。某个运动社区的案例让我印象很深平台要治理“擦边球”内容运营列了几百个相关词汇模型短信规则倒是配得很全但真实世界里用户根本不会按词表说话。谐音、缩写、语境反讽完全靠词表覆盖等于没覆盖。真正有效的做法是把关键词当作一种弱信号辅助模型判断而不是当作唯一依据。关键词命中只用来提高采样权重最终决策交给语义模型结合上下文判断。4.2 坑二标注标准不一致模型学歪了有一版模型的离线指标一直上不去排查到最后发现是标注问题。两个标注员对同一条内容一个认为是违规一个认为正常标注一致性只有60%。模型在这种数据上训练逻辑自然是混乱的。后来我们做了两件事一是把标注规则改成分步骤清单每个标注员都必须按清单逐条打勾再做最终判断二是每个批次里掺入10%的审核样本由经验更丰富的运营复核用来计算一致性并回传纠偏。标注一致性从60%提到了85%以上之后模型的离线指标也跟着上来了。这个经历让我意识到垂直AI前的第一个“模型”其实是人。人没有统一标准机器学到的就是随机噪声。4.3 坑三把通用大模型直接当生产系统用有一阵子我们图省事想直接用现成的通用大模型API做内容判断结果踩了一脚泥一是响应延迟不稳定高峰期单条判断能卡两秒二是输出格式飘忽今天返回JSON明天给你加一段分析文字解析器经常崩三是无法解释判定依据用户申诉时我们根本拿不出合理理由。所以我现在坚持一套原则通用大模型只能当“阅读理解器”不能当“最终裁判”。它可以帮我们做语义理解但最终决策必须落到一个可控的判定流程里要么是确定性规则要么是经过微调的专用模型要么是人工复核。垂直AI的工作本质上就是把一个不准但聪明的能力变成一套准且可解释的工程系统。4.4 坑四只盯离线指标忽略线上体验有一版模型在离线评估集上表现很好准确率能到95%以上上线一周后社区活跃度却轻微下滑。查了反馈数据发现大量正常用户的发言被静默折叠了。离线指标好是因为测试集里噪音比例高线上真实场景里正常内容占多数极小比例的误杀都会被放大成大面积体验损伤。后来我们优化了两点一是在评估集里增加“正常内容占比”的模拟让它更贴近线上分布二是给模型加了一个“不确定就放行”的偏好只有当置信度足够高时才拦截拿不准的内容先保留再由用户举报触发后续处理。这个改动牺牲了一点召回率但用户体验稳住了长期看对社区健康的贡献更大。用一句话总结这四个坑不要离场景太远。关键词不是场景离线指标不是场景通用模型更不是场景。只有把标准、数据、流程全部围绕场景重做一遍垂直AI才真正开始发挥价值。5. 垂直AI的边界与延伸思考5.1 垂直AI不是万能的要泼一盆冷水垂直AI不是银弹它有自己的适用边界。第一个边界是问题复杂度。如果一个场景里的判断标准本身不清晰比如有些内容处在灰色地带不同人认知差异很大那么垂直AI能做到的只是“显式化分歧”而不是“消除分歧”。它能把判断规则固定下来但规则本身对不对、是否符合公众预期仍需要人来决策。第二个边界是数据密度。垂直AI依赖场景样本如果一个新业务冷启动阶段根本没有历史数据垂直AI的优势就无从谈起。这时候反而应该先用通用模型配合强规则顶上等数据积累够了再垂直化。第三个边界是成本。垂直AI的维护不是一次性的。流行语在变、社区规则在调、用户表达方式在变模型需要持续地更新样本、重跑评估、迭代调优。这是一个长期运营投入不是做一个模型就完事的项目。如果业务体量太小垂直化的投入产出比可能并不划算。5.2 从“过滤噪音”走向“增强信号”垂直到最后我觉得会走到一个更积极的方向不只是滤噪音而是主动放大有价值的信号。现在的垂直AI主要做的是“堵”的功夫——把垃圾压下去。但一个健康的社交场景更重要的是“疏”的功夫——让好内容获得更多曝光让认真表达的人被看见让高质量的关系在互动中被强化。低通滤波器的另一面其实是信号增强放大器。比如在信息流排序里可以通过垂直模型识别出哪些内容具备“建设性”“可信度”“利他性”给这类内容更高的初始权重而不只是依赖点赞和转发这些有噪音干扰的原始互动信号。再比如评论排序不再单靠点赞数而是结合评论本身的质量判断、作者的历史贡献、评论与正文的相关性把那些“被噪音淹没的好回复”提到前面来。从内容治理到内容建设这可能是垂直AI在社交场景里真正的想象空间。第一步解决“不坏”第二步解决“更好”。写在最后我自己的体会是做垂直AI这件事最大的门槛不是技术而是愿不愿意扎进场景里。架模型、调参、跑评估这些流程只要有经验都能做得差不多。真正拉开差距的是你是否愿意花时间去和运营一遍一遍过标注规则是否愿意把历史案例拆成几百个细分类目是否愿意上线后蹲着数据看用户的真实反应。低频的信号往往藏在最容易被忽略的细节里。做产品如此做社交场景的AI也一样。与其追着每个月的新模型抢首发不如先把自己场景里的那套“低通滤波器”做扎实。它可能不那么炫目但一定是最值得被信赖的那一层防线。