暂无图片
暂无图片
暂无图片
暂无图片
暂无图片
Impala
编辑
简介:Impala是Cloudera公司主导开发的新型查询系统。
简介:Impala是Cloudera公司主导开发的新型查询系统。
产品概览 用户评价

目录

产品简介

Impala是Cloudera公司主导开发的新型查询系统,它提供SQL语义,能查询存储在Hadoop的HDFS和HBase中的PB级大数据。已有的Hive系统虽然也提供了SQL语义,但由于Hive底层执行使用的是MapReduce引擎,仍然是一个批处理过程,难以满足查询的交互性。相比之下,Impala的最大特点也是最大卖点就是它的快速。

发展历史

Impala项目于2012年10月宣布,其目标是为数据科学家提供SQL接口和商业智能工具。Impala支持多种HDFS文件格式,但它对Parquet进行了优化,Parquet是2013年初发布的一种面向列的文件格式。Impala于2015年12月2日被接受进入Apache孵化器。

产品优势

  • Impala不需要把中间结果写入磁盘,省掉了大量的I/O开销。
  • 省掉了MapReduce作业启动的开销。MapReduce启动task的速度很慢(默认每个心跳间隔是3秒钟),Impala直接通过相应的服务进程来进行作业调度,速度快了很多。
  • Impala完全抛弃了MapReduce这个不太适合做SQL查询的范式,而是像Dremel一样借鉴了MPP并行数据库的思想另起炉灶,因此可做更多的查询优化,从而省掉不必要的shuffle、sort等开销。
  • 通过使用LLVM来统一编译运行时代码,避免了为支持通用编译而带来的不必要开销。
  • 用C++实现,做了很多有针对性的硬件优化,例如使用SSE指令。
  • 使用了支持Data locality的I/O调度机制,尽可能地将数据和计算分配在同一台机器上进行,减少了网络开销。

产品功能

  1. Impala可以根据Apache许可证作为开源免费提供。
  2. Impala支持内存中数据处理,它访问/分析存储在Hadoop数据节点上的数据,而无需数据移动。
  3. 使用类SQL查询访问数据。
  4. Impala为HDFS中的数据提供了更快的访问。
  5. 可以将数据存储在Impala存储系统中,如Apache HBase和Amazon s3。
  6. Impala支持各种文件格式,如LZO,序列文件,Avro,RCFile和Parquet。

所属公司

Cloudera

相关资料

官网:http://impala.apache.org

用户评价

0
0
词条统计
创建者:墨天轮福利君
编辑次数:0
浏览次数:2138
API调用次数:0
贡献者