• Hi:欢迎来到一心论文网!
  • 您当前的位置:首页 > 工学 > 计算机 > 正文

    【PPT】50页PPT揭秘腾讯大数据平台与推荐应用架构

    来源:网络  时间:2017-07-01 00:33:00

      

    2014年10月25日,由eBay、CSDN共同举办的“大数据峰会”将在上海豫园万丽酒店举办。腾讯T4技术专家、数据平台部精准推荐中心总监李勇,以“腾讯大数据平台与推荐应用架构”作为峰会的结尾。

    内容简介:

    腾讯的月活跃用户8.3亿

    微信月活跃用户4.4亿

    QQ空间月活跃用户6.5亿

    游戏月活跃用户过亿

    如今腾讯的数据分析已经能做到始终“不落地”,即全部的实时处理。腾讯大数据平台有如下核心模块:TDW、TRC、TDBank、TPR和Gaia。简单来说,TDW用来做批量的离线计算,TRC负责做流式的实时计算,TPR负责精准推荐,TDBank则作为统一的数据采集入口,而底层的Gaia则负责整个集群的资源调度和管理。李勇还特别强调了数据平台体系化是应用基础,数据应用商业化是价值导向。

    数据平台体系化是应用基础,数据应用商业化是价值导向。

    腾讯深度学习平台的挑战

    深度神经网络模型复杂,训练数据多,计算量大

    模型复杂:人脑有100多亿个神经细胞,因此DNN的神经元和权重多

    训练数据多:大量训练数据才能训练出复杂模型

    微信语音识别:数万个神经元,超过50,000,000参数,超过4,000,000,000样本,单机训练耗时以年计,流行的GPU卡需数周

    深度神经网络需要支持大模型

    更深更宽的网络能获得更好的结果

    以图像识别为例,增加卷积层的filter数量,加大模型深度等,可获得更好的模型质量

    深度神经网络训练中超参数多,需要反复多次实验

    非线性模型:代价函数非凸,容易收敛到局部最优解

    敏感的超参数:模型结构、输入数据处理方式、权重初始化方案、参数配置、激活函数选择、权重优化方法等

    数学基础研究稍显不足,倚重技巧和经验

    腾讯深度学习平台Mariana

    腾讯有广泛的深度学习应用需求,其挑战如下

    模型复杂,训练数据多,计算量大

    需要支持大模型

    训练中超参数多,需要反复多次实验

    Mariana腾讯深度学习平台提供三个框架解决上述问题

    Mariana DNN: 深度神经网络的GPU数据并行框架

    Mariana CNN: 深度卷积神经网络的GPU数据并行和模型并行框架

    Mariana Cluster: 深度神经网络的CPU集群框架

    Mariana已支持了训练加速、大模型和方便的训练作业

    微信语音识别6 GPU做到4.6倍加速比

    微信图像识别4 GPU做到2.5倍加速比,并支持大模型

     Mariana已成功应用到微信语音识别和微信图像识别,并在广点通广告推荐的点击率预估中积极尝试

    (编选:中国电子商务研究中心)

    相关论文

    最新论文

    热点论文

    [中等教育职专政治教育中的德育渗透
      帮助学生树立正确的价值观和人生观,提升学生的个人品德与思想素质,是职专政治教育的主要目标与根本目的。但受限于传统政治教育的教学 [全文]
    [中国哲学传递“中国梦”正能量是记者的神圣使命
      摘要:中国梦是中华民族伟大复兴的梦,是当今中华民族前进的动力,是当前中国最具影响力、最具感染力、最具普遍性的正能量。记者作为以 [全文]
    [财务控制论企业集团财务控制的对策
    摘 要:市场经济飞速发展促使企业集团组织形式发生非常大的变化,那么企业集团需要有效利用自身发展优势,促进现代化经济发展。 改革逐渐 [全文]
    [财务控制中小企业的财务控制问题分析
    摘 要:随着市场经济体制不断完善,我国中小企业进入快速发展阶段,其在国民经济发展中的作用被不断凸显出来。本文中笔者以中小企业财务管 [全文]
    [职业教育分析音乐课堂中的情感互动及学生体验
      【摘要】针对音乐课堂中的情感互动及学生体验进行分析,基于学生的实际音乐学习需求、音乐学习目标等予以教学设计,以期能够不断提升音 [全文]
    [市场营销新时期下市场营销的演变趋势分析
    摘要:随着全球经济互相影响,新市场格局的形成让新时期环境里市场营销不断发生变革。而本文主要是对当今市场新形势进行一个分析,找出对市 [全文]
    [国际贸易国际贸易融资创新及风险控制
    [摘 要] 国际贸易企业融资风险的主要表现有两种:一是国际贸易企业无法以自身的流动资金偿还债务,要通过集资的方式偿还债务本金和利息; [全文]
    [国际贸易“互联网 +”时代下国际贸易发展策略研究
    摘 要:随着网络技术和经济全球化的进一步发展,互联网关系到国际贸易领域的方方面面,并以全新的国际贸易形态,将分散在世界各地的市场, [全文]

    售前客服

    咨询QQ:619978682

    在线客服