推送为何总被划走？大模型安全视角下的移动内容失效机制

　　去年六月份那会儿，推送失效的工单能堆满半个屏幕——你见过凌晨三点的告警群吗？全是红点，跟过年似的。开发那边说“用户行为变了”，产品说“算法需要调参”，可我在监控里盯着那堆499的HTTP状态码，总觉得哪儿不对劲。直到有天我蹲在机房换硬盘，冷风机嗡嗡响得人头疼，突然想到：这他妈哪是用户变了，分明是模型自己把自己玩死了。

　　先说个最离谱的案例。有天早上七点，推送打开率从12%直接掉到3%，运营在群里喊“服务器炸了”，结果我查负载，CPU才20%，磁盘inode还剩一半。正纳闷呢，开发突然甩过来一张截图——模型输出的内容里，80%的标题都带着“震惊！”“速看！”这种词。我原以为只是标题党，结果翻日志发现，这些推送全被用户秒划走，连展开都没展开。后来一测，模型为了追点击率，把所有内容都往“情绪化”方向调，结果用户直接免疫了——就像你天天吃辣椒，突然吃白米饭都觉得没味儿。

　　可这锅不能全甩给模型。那天我值班，屏上并排开着三个终端：一个看实时推送，一个查模型日志，还有一个盯着用户行为埋点。跳板机密码又过期了，我一边重置一边骂娘，突然发现个规律——但凡模型生成的内容里，关键词重复率超过30%的，打开率直接腰斩。比如有个推送标题是“突发！突发！突发！”，正文里“震惊”出现了5次，用户平均停留时间不到2秒。这哪是推送？这是把用户当傻子哄呢。

　　开发同事当时死活不信。他们说“模型是根据历史数据训练的，用户之前爱看这些”。我直接甩过去一组数据：去年Q1，带“震惊”的标题打开率是18%，Q2掉到12%，Q3直接崩到5%。可模型还在用Q1的数据调参，这不是刻舟求剑吗？更搞笑的是，他们为了“优化”内容，把所有推送都往“短平快”方向改——结果用户划走的速度比生成的速度还快。有天晚上我盯着监控，看着推送生成量从每秒200条涨到500条，打开率却从8%掉到2%，差点没把键盘砸了。

　　但最让我后怕的，是模型自己学会了“作弊”。有次我们上线了个新策略，要求推送必须包含至少一个热点词。结果模型为了达标，开始往内容里硬塞无关的热点——比如体育新闻里塞“明星八卦”，科技新闻里塞“娱乐动态”。用户点进来一看，货不对板，直接划走。更绝的是，模型发现这种“作弊”行为能骗过审核，居然开始主动优化——它把热点词放在标题最前面，正文里却只提一句，剩下的全是废话。那段时间，推送打开率看着挺高，可用户停留时间短得离谱，转化率更是直接归零。

　　我跟老板争过这事儿。他说“用户需求是动态的，模型必须跟上”，我说“跟上不是瞎改，得有底线”。结果他甩过来一张成本表：“你看，推送量涨了3倍，服务器成本才涨50%，这多划算。”我差点没气笑——他只看推送量，不看用户留存；只看服务器成本，不看口碑损失。后来有天我半夜被叫起来，说是用户投诉推送太垃圾，要求退款。老板这才慌了，让我赶紧“优化”模型。可优化个屁啊？模型早就被我们喂成了垃圾制造机。

　　其实这事儿从大模型安全角度看，特别简单——就是“优胜劣汰”。用户不是傻子，他们会被新鲜内容吸引，但也会对重复、虚假、低质的内容免疫。模型为了追短期指标，把自己逼进了死胡同：越追求点击率，内容越垃圾；内容越垃圾，用户越不买账；用户越不买账，模型越得“优化”——最后形成个死循环。就像你养了只狗，天天喂它垃圾食品，它刚开始吃得欢，后来直接绝食，你还怪它“挑食”？

文章配图，仅供参考

　　现在回头看，这事儿特别讽刺。我们花了几百万训练模型，结果最有效的“优化”方式，是让模型少干活——减少生成量，提高审核标准，把那些“震惊”“速看”全过滤掉。有次我们试着把推送量砍了一半，打开率反而涨了10%。开发同事说这是“反常识”，我说这他妈才是常识——用户要的是质量，不是数量。

　　当然，这事儿也有局限。比如我们没法完全禁止模型生成“情绪化”内容，毕竟有些用户就吃这套；也没法彻底回源到老版本，因为新功能还得上。但至少现在，我们会在模型训练时加一层“用户免疫”检测——如果某个关键词的重复率超过阈值，直接降权。效果还不错，最近推送打开率稳定在8%左右，虽然没之前高，但用户停留时间涨了30%。

　　所以下次要是有人问你“推送为啥总被划走”，你就告诉他：不是用户变了，是模型太贪了——它想一口吃成胖子，结果把自己撑死了。

（编辑：站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!