和云计算一样,大数据也一直是个很热的话题,尤其是在BAT这样的海量数据公司,一定离不开大数据。大数据目前也成为了一个领域,数据挖掘、数据分析和数据管理等等。
说到大数据,hadoop是必然要谈的话题,其优越、稳定的分布式方案,已经被大多数大数据业务的公司采用,有电商、有云商和电信公司。从某种意义上说,hadoop技术已经成为大数据的一种标识。
记得2011-2013在给移动做云平台时,用户的访问日志数据和应用的log数据就是用hadoop采集、分析、处理和管理的,这已经是在2012年项目二期快要发布的时候引入的解决方案,2011年做原型的时候,因为都是内部用户测试在用,日志还紧紧是直接从log文件里去读取;到后来形成集群后,需要采集集群上所有的日志,log采集和读取形成瓶颈,渐渐的变成了项目的鸡肋,所以引入hadoop来采集日志、并且进行分析处理后,进行持久化入库,供业务层去做日志展示和日志分析。
互联网在极速发展,带来网路流量也是空前巨大的,在这种趋势下,hadoop技术应运而生,很好的解决了海量数据的分析和存储问题。全球用户量大的网站,Baidu、taobao、facebook,依靠hadoop技术,很好的处理了大量用户带来的海量数据问题。
这本书写的还算可以,写的还算通俗易懂,理论性比较强,不过挺适合我这种初学者来好好读一翻的。
相关推荐
大数据时代的IT架构设计,让你了解大数据及其技术的使用和发展过程
云计算与大数据时代下的IT基础架构-詹爱军
基于大数据的IT人才需求信息爬取方法与实现.pdf
大数据时代数据资产管理"五星模型" 伴随着大数据时代的悄然来临,数据的价值得到人们的广泛认同,对数据的重视提到了前所未有的高度。数据已经作为企业重要资产被广泛应用于盈利分析与预测、客户关系管理、合规性监管...
《Spring技术内幕:深入解析Spring架构与设计原理(第2版)》是国内一本系统分析Spring源代码的著作,也是Spring领域的问鼎之作,由业界拥有10余年开发经验的专业Java专家亲自执笔,Java开发者社区和Spring开发者...
大数据可视化平台产品背景下的IT基础架构创新方案 数字化转型时代下的IT基础架构创新方案(完整版
大数据时代保险公司IT项目经理绩效考核研究——以国内某知名保险公司为例.pdf
offline部分架构 部分架构 本⽂从⼤框架上介绍推荐系统架构,在许多公司⾯试中会给你⼀个推荐或者数据挖掘的问题,⽐如让你简单设计⼀个feed流推荐系统,所以 需要对推荐系统的整体框架要了解。下⾯是⼀个推荐系统...
1、新IT技术架构的安全挑战 2、零信任架构的发展历史 3、什么是零信任架构? 4、零信任架构的应用实践
大数据时代的好处 虽然有多种解读,但业界一般认为,大数据有四个"V"字开头的特 征:Volume(容量) , Variety(种类) , Velocity(速度)和最重要的 Value (价值) 。Volume 是指大数据巨大的数据量与数据完整...
下面将对大数据时代进行简单概述,介绍大数据前沿的公司以及大数据时代的利与弊。 最早提出“大数据”时代到来的是全球知名咨询公司麦肯锡,他称:“数据,已经渗透到当今每一个行业和业务职能领域,成为...
2022年大数据可视化平台产品背景下的IT基础架构创新方案-数字化转型时代下的IT基础架构创新方案完.pptx
2022年大数据可视化平台产品背景下的IT基础架构创新方案-数字化转型时代下的IT基础架构创新方案(.pptx
基于大数据的IT服务模式探究.pdf
今年,大会将继续秉承分享IT最佳应用实践的宗旨,围绕大数据应用、数据架构、数据管理(数据治理)、传统数据库软件等技术领域展开深入探讨。 一直以来,数据库架构实践、数据库优化应用等,是备受大家关注的传统...
大数据背景下IT业发展前景.pdf