推荐系统架构-(附ppt&代码)

Part1.乐视网视频推荐系统 

推荐系统:和传统的推荐系统架构无异(基础建模+规则)

数据模块特点:用户反馈服务数据-》kv 缓存-》log存储

                         行为日志-》解析/聚合-》session log-》cf/用户模型

系统推荐流程:

     召回:聚类算法;tensorflow(topN);分类,top个性化标签(微软lda);cf/als;人工干预

     排序:时效+相似度+gbdt/ LR

     过滤

     策略调整:分类多样性

调优—提升较明显的组合:

    1.分类+标签倒排排序

    2.itemcf+als召回+分类多样性

    3.itemcf召回优化排序+此召回的用户反馈调权占比40%

    4.item召回打分引入曝光

短视频冷启动:排序未点击的会马上落下

Part2.RoadMap of YouTube isrecommendation System(Ke Wang)PPT

Youtube推荐系统的发展历程:

    1.get tags:user共现图/pagerank思想 && 引用视频相关视频中top tags

    2.基于user兴趣推荐多级相关视频

    3.视频排序:质量,多样性,多频道源

    4.相关视频推荐优化:避免cf缺点(cf缺点:新鲜性 and 长尾)

        1)retrieval with weighted topic(短期内观看视频中大众类型标签推荐计算)

        2)防止(1),learning topic transitions

        用户行为去拟合topic的权重大小

  5.优化应用:deep learning

召回建模中的策略

    deep learning输入embedding:历史搜索+观看+用户特征,最后输出概率;

    显性反馈没有隐含反馈重要;

    用户最近100条兴趣 better than  最近100天用户的兴趣;

    feed流中:放弃序列输入 防止过拟合用户模块

    新用户的兴趣挖掘:时序行为挖掘 better 随机行为

ranking 建模:(用户观看时长为指标)

    dnn架构和召回类似。

    dnn输入:视频,视频均值,用户语言,视频语言,距离上次观看时间开方,原值,平方;先前的印象原值,开方,平方;等embedding

输出:加权lr(正样本评估加权)

Part3 58同城智能推荐系统的演进和实践 詹坤林

评价指标:推荐点击占比,推荐转化比,点击率,转化率,覆盖率(评价长尾)

特点:用户标签和帖子标签很完善

用户标签挖掘:

     标签会有分类:购房偏好,租房偏好,购车偏好,通用属性(时间,质量分,关键词,图片),动态属性(pv、uv、阅读时长)等

召回:

     兴趣召回(基于兴趣标签检索),热门召回(统计ctr,平滑处理),地域召回,关联规则,协同过滤(实时itemCF),SVD(效果一般),DNN

召回融合:

    1)分级先后顺序融合

    2)调制融合(比例融合)

排序模型:

    单一模型LR/XGBoost/FM

    融合模型:XGBoost+LR/FM

    深度模型:FNN(提升2%) / Wide deep/CNN

多目标优化(多权):

    点击率,转化率,停留时长预估(回归,分类)

学习平台:

    深度学习在kubernets中融合tensorflow,caffe,Distribute tensor flow

    机器学习:Yarn融合MLib,DMc

    深度学习和机器学习平台通过hdfs打通

规则迭代(AB test):

    去重策略/打散列表/产品逻辑/页面展示迭代

    A/Btest(有web操作页面,可供全公司配置实验)

请求分流/数据监控

A/B多层实验架构

系统优点:

     耦合性低,扩展性佳;协同开发,快速迭代;

关键技术

    58自研RPC框架SCF

系统立体监控:

    业务总体监控/关键模块监控(请求量,失败量,平均延时,最大值,最小值)+告警阈值

数据监控:

    推荐埋点设计:每一次曝光seqNo,进入点击click标志链式关联;沟通时长决定是否打上埋点commucate

埋点开发测试流程:

    埋点文档沉淀+EtL抽取文档

效果数据统计:

     hive上用Kylin(多维数据)做可视化,邮件报警和监控

推荐效果:

    推荐占比20%~30%,流量2亿,响应30ms

Part4 58个性化推荐push系统 

推送的作用:

    服务用户,提高日活和留存,活动运营和推广

推送点击率预估&效果数据监控

原策略bug:条数限制,先来先推,精准度差,干扰性大

推送控制系统:

     机制化推送+运营推送—》通用推送平台—〉消息总线—》推送平台

推送点击率预估:样本(推送点击1;推送未点击0);特征工程(用户行为特征,推送上下文环境特征:周几,推送信息特征:软文);模型算法:xgboost(分布式版)

模型离线评价:批次召回率 整体召回率

原文地址:https://www.cnblogs.com/AngelaSunny/p/7717846.html