Chinaunix首页 | 论坛 | 博客
  • 博客访问: 153730
  • 博文数量: 73
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 760
  • 用 户 组: 普通用户
  • 注册时间: 2017-10-24 14:09
个人简介

每天分享阿里云大学精品课程

文章分类

全部博文(73)

文章存档

2019年(73)

我的朋友

分类: 大数据

2019-07-01 16:09:39

什么是RecEng:

推荐引擎( Recommendation Engine,简称RecEng )是在阿里云计算环境下建立的一套推荐服务框架,用于实时预测用户对物品偏好,支持您定制推荐算法,支持 A/B Test 效果对比。 阿里云推荐引擎,以数据驱动业务,通过人工智能实现1对1营销,为您的顾客提供量身定做的服务,帮助企业快速创新。同时能够为您的企业降低运营成本,提高顾客对企业的满意度和忠诚度,提升企业的业务目标。

课程详细内容:

本认证系统的讲解了推荐系统的概念、应用、算法原理,并详细介绍了阿里的推荐引擎产品RecEng,最后通过一个微项目让学员亲自动手搭建一个推荐系统。

整个过程分为数据上传、数据预处理、推荐系统设置、测试上线四个部分,学员可参考本实验,结合企业自身业务和需求,将所学应用到实践中去。

通过本案例,学员可了解推荐系统的概念、应用、算法原理以及阿里的推荐引擎产品RecEng的使用方法。通过动手实践,学员可以独立使用推荐引擎产品RecEng快速搭建企业推荐系统。

推荐引擎基本概念:

  • 客户/租户(org/tenant)

指RecEng的使用者,系统中由其阿里云账号代表。通常客户是一个组织,RecEng中常用org表示客户。

  • 用户(user)

指客户的用户,即RecEng使用者的用户。推荐是一个2C的服务,使用推荐服务的客户必然有其自己的用户,RecEng使用者的用户简称为“用户”,系统中常用user表示用户。

  • 物品(item)

指被推荐给用户的内容,可以是商品,也可以是歌曲,视频等其他内容,系统中常用item表示物品。

  • 业务(biz)

业务针对数据集定义,定义了算法所能使用的数据范围。一个客户在RecEng上可以有多个业务,不同的业务必然有不同的数据集。RecEng要求每个业务提供四类数据(不要求全部提供):用户数据,物品数据,用户行为数据,推荐效果数据。每一组这样的数据就构成一个业务。系统中常用biz表示业务。

比如某客户A有两类被推荐的物品,分别是视频和歌曲,于是客户A可以在RecEng上建立两个业务M和N,其中M的物品数据为视频,N的物品数据为歌曲,其他的数据(指用户数据,用户行为数据等)可以都相同。在这种方案下,业务M和N的数据是独立的,即业务M虽然能看到用户对于歌曲的行为,但是业务M中不包含歌曲的物品数据,所以会丢弃用户对于歌曲的行为;如果业务M中某用户只对歌曲有行为,对视频没有行为,业务M也会丢弃这类用户。反之对业务N亦然。

一个业务最好只推荐一类物品。多类物品的推荐在后续的行业模板会有支持,需要引入板块(plate)的概念,一份业务数据可以生成多个板块的数据集,场景绑定某个板块进行推荐算法计算。

  • 场景(scn)

场景指的是推荐的上下文,每个场景都会输出一个API,场景由推荐时可用的参数决定。有两种场景最为常见,分别是首页推荐场景和详情页推荐场景。顾名思义,在执行首页推荐时,可用的参数只有用户信息;而在执行详情页推荐时,可用的参数除了用户信息,还包括当前详情页上所展示的物品信息。系统中常用scn表示场景。

一个业务可以包含多个场景,即对于某个业务A,它包含多个首页场景也是完全可以的。

事实上,回到场景的原始定义,场景只是由推荐的上下文决定,客户完全可以根据自己的需求建立全新的场景,比如针对搜索关键词的推荐场景,这时可用的参数除了用户信息,还有用户所输入的关键词。

  • 流程(flow)

算法流程指数据端到端的处理流程,一部分流程属于业务范畴,如数据导入流程,效果计算流程,数据质量分计算流程;一部分属于场景,比如场景算法流程。从数据源类型和产出来划分,又分为离线流程,近线流程,在线流程

1. 离线流程

一般情况下,离线流程的输入和输出都是MaxCompute(原ODPS)表,所以离线数据规范其实上是一组MaxCompute表的格式规范,包括接入数据、中间数据和输出数据三类数据的格式规范。接入数据指客户离线提供的用户、物品、日志等数据,中间数据是在离线算法流程中产生的各种中间性质的结果数据表,输出数据是指推荐结果数据表,该结果最终将会被导入到在线存储中,供在线计算模块使用。

2. 近线流程

推荐引擎的的近线流程主要处理用户行为发生变化、推荐物品发生更新时,对离线推荐结果进行更新。不像离线算法,天然以MaxCompute(原ODPS)表作为输入和输出,近线程序的输入数据可以来自多个数据源,如在线的表格存储(原OTS),以及用户的API请求,又或者是程序中的变量;输出可以是程序变量,或者写回在线存储,或者返回给用户。出于安全性考虑,推荐引擎提供了一组SDK供客户自定义在线代码读写在线存储(Table Store),不允许直接访问,所以需要定义每类在线存储的别名和格式。对于需要频繁使用的在线数据,无论其来自在线存储还是用户的API请求,RecEng会预先读好,保存在在线程序的变量中,客户自定义代码可以直接读写这些变量中的数据。

3. 在线流程

推荐引擎的的在线流程负责的任务是推荐API接收到API请求时,实时对离线和近线修正产生的推荐结果进行过滤、排重、补足等处理;后者主要处理用户行为发生变化、推荐物品发生更新时,对离线推荐结果进行更新

一个场景只包含一个离线流程和一个近线流程,可以包含多个在线流程,用于支持A/BTest。

  • 算法策略(Algorithm Strategy)

算法策略定义了一套离线/近线流程。并且透出相关的算法参数,帮助客户构建自己的算法流程。一个场景可以配置多个算法策略,最终会合并执行,产出一系列推荐候选集和过滤集,在线流程通过引用这些候选集来完成个性化推荐。

  • 作业/任务(task)

作业指运行中的离线流程实例,作业和离线流程的关系完全等同于进程和程序的关系。每个作业都是不可重入的,即对每个离线流程,同一时间只允许运行一份实例。作业直接存在上下游关系,如果上游作业失败,下游任务也会被取消。

阿里云开发者社区全面升级,一站式体验,用得更爽:(阿里云开发者社区首页

阅读(1225) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~