前言:4600字长文总结,用大白话讲讲运营人不得不知道的那些基本算法原理
本文大纲:
一、背景
二、算法推荐系统的两个核心
(一)内容标签
(二)用户标签
三、如何衡量推荐系统的好坏
四、总结
关键词:内容标签(语义标签、实体标签),用户标签,算法原理,运营策略
一、背景
在纸媒时代,消费者对于信息和内容的获取处于十分被动且匮乏的状态。
一张报纸、一份杂志,虽然“千人一面”,但许多人仍然爱不释手,看了又看。
随着互联网时代(特别是移动互联网)的到来,信息如同《三体》里“技术爆炸”的概念一般,呈现出“信息爆炸”的状态。
每天以EB为单位的信息量诞生在互联网的每个角落,预计2025年全球每天产生的数据量将达到491EB。(1 EB=1024 PB=1048576 TB)
在这种情况下,消费者对于信息的获取变得更加的主动且丰富。
但丰富并不意味着有效。
纸媒时代尚且有专业的编辑对内容进行筛选、排版后“分发”给消费者。
但对于互联网产品来说,即使内容再丰富,用户如果不感兴趣也是无效内容。
要知道“效率”是商业社会的本质之一。低效意味着随时有可能落后或被淘汰。
为了解决这一问题, 淘宝最早再在2013年提出“千人千面”的概念。
依托淘宝网十年发展积累下来的庞大数据库,从细分类目中抓取那些与买家兴趣相匹配的商品,进行优先展现。
而每个在淘宝网上购买或是浏览过商品的消费者,都会被平台打上标签,比如年龄、地域、客单价、收藏偏好等。标签的不同,在千人千面模式下用户所看到的产品就会有所差异。
更有效率的内容分发方式,因此由野蛮生长进入到精细化运营的时代。
到了以“算法驱动”为核心的张一鸣手里,今日头条、抖音等产品更是在“算法驱动”理念下饲养出来的洪水猛兽。
而如今,算法分发已经几乎是所有搜索引擎、浏览器、资讯软件、内容社区、社交软件等产品的标配。
作为一名运营人,即使不用动手去写编程算法,但了解相关算法知识、懂得相关推荐机制背后的原理,则是成长进阶路上不得不点亮的技能点之一。
如阿里内容运营专家社招岗位里,便要求能够联动内容生产、算法上下游去做相应的策略执行:
而运营专家这个级别基本都是P7起步,年薪50W往上:
因此你还好意思说自己不需要懂点算法推荐原理吗?
二、算法推荐系统的两个核心:内容标签与用户标签
算法原理本质上用一句大白话就可以解释:让喜欢看妹子的用户看到含有妹子的内容。
但在现实环境中,放眼互联网,能把这句话做好的公司其实没几个。
(一)为什么抖音让人如此上瘾?
许多人或许会有这样的体验:在不同的场景下(在家、地铁、公司)、不同的时间点(早上、中午、晚上),即使是同类型的内容(如电影),实际上所接收到的内容也略有差别。
例如白天大多会收到比较幽默的内容,而到了晚上则会收到略带悬疑的影视剪辑片段等;
而无论是什么时候打开抖音,都能让用户沉浸其中,似乎感觉不到时间的流逝,往往一下子能过去一两个小时。
你会发现抖音似乎很懂你,因为给你推送的内容全都是你喜欢看的。
抛开抖音的产品设计、沉浸式消费体验、短平快的内容节奏等,这其中还便涉及到算法推荐机制和运营策略等因素。
(二)给内容打标,真的有那么简单吗?
1、给标签定义难
2、给内容打标也难
在给一篇内容打上标签之前,首先需要做的是给标签做定义。
即讲清楚什么是苹果,而不是把苹果叫成梨。
一篇内容通常包括一级分类、二级分类、三级分类、标签几个层次。
如动漫>日漫>火影忍者>鸣人 ,对于这些具有普遍性认知的分类跟标签来说,还比较好下定义。
但是对于搞笑、美女这样的标签,通常因人而异,因为每个人的笑点不同、审美不同。
到底什么内容才算好笑、多好看才算美女?
萝卜青菜各有所爱,打标还没开始,就先卡在定义上面。
这里其实就涉及到两个概念:实体标签跟语义标签
1、实体标签:广州就是广州、上海就是上海;马云就是马云,淘宝就是淘宝。
他们都是确定的实体,通常在不同人那里不会产生太大的歧义。
2、语义标签:如沙雕、美女、奇葩等词,并没有确定的指定对象,在不同人那里会有不同的认知。
因此打标难点通常出现在语义标签的定义上面。
语义标签的推荐效果是检验一个公司NLP(自然语言处理)技术水平的试金石。
根据不同公司业务能力或业务需求的不同,对标签颗粒度的要求也不同。
比如有的公司拆分到火影忍者就不往下拆了,直接把这个词当作最小颗粒度的标签;
所有涉及到这部动漫的内容都可以打上这个“火影忍者”标签,但是难免有种一刀切的感觉,对后续的运营工作也有影响。
比如有的用户想看、或者想搜索“鸣人”,结果推送的、搜索出来的全都是“火影忍者”里面的其他人;
而有的公司则继续往下拆:火影忍者>鸣人、佐助、小樱等实体标签。
因此可以看得出:标签颗粒度越细,推荐的内容越精准,同时所需要投入的资源更大。
OK,即使把整个公司的打标团队拉到一个会议室里面,大家通过统一培训、讲解,一个月后大家终于对什么是沙雕、什么算美女有了一个统一的认知,审美逐渐相同。
那么打标就可以顺利开展了吗?NO!
让我们先喝口水缓一缓,然后再往下继续聊。
(三)用户标签:可能是最难搞的部分
1、用户口味就像个难哄的女朋友
比内容标签难度更大的便是用户标签,因为火影忍者就是火影忍者,一旦打上这个内容标签,它就不会变成海贼王。
内容标签尚且可以通过人工打标+机器训练的方式进行。
但用户不一样,可能这个月他喜欢看火影忍者,算法推荐机制也给他匹配了相关的内容;
但是下个月他可能因为朋友同事的推荐开始看海贼王了,如果算法还没反应过来,继续给他推送火影忍者的相关内容,此时这些内容对他来说便是无效内容,从而影响了内容的分发效率。
好比胡萝卜一直是胡萝卜,但是用户的口味却一直在变化。今天想喝汤,明天想吃肉。
这里其实涉及到<推荐窄化>的问题,算法机制越差的产品,其推荐的内容越容易出现窄化;
如不小心点击了几篇文章,算法便默认你喜欢这一类内容,此后便一直推送相关信息,无法做到根据用户的口味变化进行灵活更迭。
尽管在这个时代,无论使用哪一款内容产品,都不可避免的会出现“信息茧房”的现象,但成熟的NLP技术与初级之间,实际的产品体验效果仍是天差地别。
2、掌握用户的基本信息
在做用户标签之前,需要先掌握跟用户相关的信息,通常包括性别、年龄、地点、兴趣偏好等;
(1)性别有助于分发性别属性较明显的内容:如给男生推送体育、给女生推送美容护肤;
(2)年龄也同理:给年轻人推送动漫、游戏等内容,给老年人推送养生、保健信息等;
(3)地点则用于推送与区域热点相关的信息:如给上海用户推送上海突发新闻;北京限行对于广州用户似乎没有多大影响。
以上三者通常可以通过用户自动填写、授权访问位置信息的方式获取,且不会有太大的变动。
而对于用户兴趣偏好,如上所说,则是做用户标签的难点所在。
获取用户兴趣偏好采用的方式是根据用户消费过的内容匹配相应的标签,通常采取以下几种方式进行定位:
(1)过滤噪声:如用户被标题党内容吸引进去,但是停留时间过段,则说明用户对该内容所绑定的标签不感兴趣。以此来过滤标题党。
(2)热点降权:对一些社会热点、突发新闻(如某明星出轨),虽然短时间内用户浏览了相关信息,但并不能说明该用户一定对“娱乐”内容特别感兴趣,需要对该用户的“娱乐”兴趣偏好进行降权处理;
(3)时间衰减:如上所说,用户的兴趣会发生偏移,因此推送策略需要更偏向于新的用户行为。
(4)惩罚展现:如果一篇推荐给用户的文章没有被点击,则该内容的相关特征(如内容分类、标签)权重会被降低。
例如新注册用户(女,28岁,上海)在刷抖音时,会采用A-A、A-B的方式进行测试。
首先连续推送两条影视剪辑内容(A-A),用户都完整观看并有点赞、评论等操作;
其次推送影视剪辑后推送母婴内容(A-B),用户只观看了影视剪辑内容,却划走了母婴内容;
那么则说明用户对“影视剪辑”这一内容的兴趣偏好度较高,对“母婴”标签内容兴趣偏好较低。
3、不同内容类型的推荐权重
我们都知道对于综合型平台而言,内容通常不止一种类型,如今日头条便包含了长图文、小视频、短视频、问答、微头条等几种不同形态的内容。
即使是同一个标签,如“美女”,不同内容类型的推荐权重是否一样?还是给经常看小视频的用户优先推送相关内容?这也是算法推荐机制需要考虑的问题。
而不同产品形态对于内容类型的推荐权重也不同。如B站首页对于短视频的推荐权重通常高于小视频的推荐权重。
三、如何衡量推荐系统的好坏
内容推荐的准不准,通常可以直接从数据上去分析。CTR(点击率)、消费时长、点赞、评论、转发数等“可量化指标”
如Y=F(X1,X2,X3),评论数的影响权重通常大于点赞权重,不同平台由于产品差异对于参数的权重设置也有所不同;
而不同的用户因其账号“置信度”的差异,即使点赞了同一条内容,对该内容的影响权重也有差异:如知乎大V点赞跟普通账号点赞是明显不一样的。
但有时数据也有缺陷。如对于低俗、标题党、涉黄内容,如果时间内吸引了大量用户点击浏览,那么算法能判定其为好内容,并加大推送量吗?
答案显然是否定的。
通常需要打压降权的内容主要有以下几种:
(1)广告、低质搬运内容打压;
(2)涉黄、低俗恶心内容打压;
(3)标题党、低质账号内容降权等;
因此基社会责任感和政策法规等因素,则需要对该部分内容进行打压、降权,而对重点时事新闻进行置顶强插,如打开新闻APP都会看到置顶了习大大的相关文章。
而这些都是算法无法独立完成的,需要运营配合进行,许多资讯平台都会有专门的首页运营小组对内容进行人工干预。
许多APP日常通知栏PUSH的内容也是采取算法+人工的方式进行推送的。
四、总结
回到开头所说:
要让喜欢看妹子的用户看到含有妹子的内容。
这句如此简单的话想要实现它,需要做到:
1、内容标签的准确定义、准确打标。因为不同的人对于同一个语义标签会有不相同的认知;
2、用户标签的准确匹配。清楚用户对于哪种“妹子”兴趣偏好度更高:是长发妹子?还是短发妹子?是双眼皮?还是单眼皮?南方人还是北方人等等颗粒度更细的拆分;
用户标签是建立在内容标签打的足够准确的前提条件之上的,一步错则步步错。
如果内容标签无法准确判断,那么基于内容标签建立起来的用户标签也是不可信的。
3、算法训练:要想训练机器能够自动打标,通常一个“标签”就需要训练几个星期的时间。
通常采用抓取标题关键词的方式打上内容标签,但有时标题与文章或视频里面所有表达的内容其实有很大出入,因此打上的标签很有可能是不准确的,需要人工进行复核,判断其准确率。
4、内容源供给:即使内容标签跟用户标签都打的准、算法训练的也足够牛X,那么内容够不够?这又是一个灵魂拷问。
如许多用户都喜欢看“长发、双眼皮、南方妹子”的相关内容,但是“内容库”里该类型的内容并不多,推送了几条之后便开始重复推送,用户都看腻了。
这时运营策略上便需要配合算法做出相应的调整和内容引入、扩充。
光看到上面这些就已经让人头大了,然而还没完:
(1)上游相应的内容生产者是谁?
(2)需要生产多少内容才能满足供给?
(3)新增的内容对于现有其他品类的内容会有什么影响?
(4)不同等级的内容创作者该如何分润?
以及内容从生产、入库、审核、打标、分发各个环节折损情况如何优化?
以上这些都是运营工作者在实际工作中需要不断进行摸索与探究的问题。
-END-