移动开发 架构设计 编程语言 Web前端 互联网
开发杂谈 系统运维 研发管理 数据库 云计算 Android开发资料
  软件世界网 -> 数据库 -> 大数据核心技术 -> 正文阅读

[数据库]大数据核心技术

分类:数据库 标题:大数据核心技术 网站:软件世界网
[数据库] 大数据核心技术 | 软件世界网
详细内容:     Common2.2.0以前的大多数版本中,包含HDFSMapReduce和其他项目公共内容,从2.2.0开始HDFSMapReduce被分离为独立的子项目,其余内容为Hadoop Common
    Avro:新的数据序列化格式与传输工具,将逐步取代Hadoop原有的IPC机制。
    MapReduce并行计算框架,0.20前使用org.apache.hadoop.mapred旧接口,2.2.0版本开始引入org.apache.hadoop.mapreduce的新API
    HDFS:Hadoop分布式文件系统(Hadoop Distributed FileSystem)
    Pig大数据分析平台,为用户提供多种接口。
    Hive:数据仓库工具,由Facebook贡献。
    Hbase:类似Google BigTable的分布式NoSQL列数据库。(HBaseAvro已经于20105月成为顶级Apache项目)
    ZooKeeper:分布式锁设施,提供类似Google Chubby的功能,由Facebook贡献。
   Sqoop:Sqoop是一个用来将Hadoop和关系型数据库中的数据相互转移的工具,可以将一个关系型数据库(例如MySQL, Oracle, Postgres)中的数据导入到HadoopHDFS中,也可以将HDFS的数据导入到关系型数据库中。
   Oozie:负责MapReduce作业调度。


上一篇文章      下一篇文章      查看所有文章
2016-03-26 16:27:14  
数据库 最新文章
Python&MySQL&PyQt
最新用python来操作mysql完全解析
mongodb的安装详解
1.PDO简介
《MySQL必知必会学习笔记》:高级联结
【翻译自mos文章】怎么对Microsoft(Office)
MyCAT全局表描述及示例
ocp
关于SQL数据表存储过程表名前缀换成dbo代码
数据库调优教程(二)慢查询数据准备
  网站联系: qq:121756557 email:121756557@qq.com  软件世界网 --