java开发者的大数据工具和框架

Java开发者的大数据工具和框架当今编程人员面对的最大挑战就是复杂性，硬件越来越复杂，OS越来越复杂，编程语言和API越来越复杂，我们构建
的应用也越来越复杂。根据外媒的一项调查报告，以下列出了Java程序员在过去12个月内一直使用的一些工具或框架，或许会对你有意义。
先来看看大数据的概念。根据维基百科，大数据是庞大或复杂的数据集的广义术语，因此传统的数据处理程序不足以支持如此庞大的体量。武汉IT
培训在许多情况下，使用SQL数据库存储/检索数据都是很好的选择。而现如今的很多情况下，它都不再能满足我们的目的，这一切都取决于用
例的变化。现在来讨论一些不同的非SQL存储/处理数据工具，例如，NoSQL数据库，全文搜索引擎，实时流式处理，图形数据库等。1
、MongoDB——最受欢迎的，跨平台的，面向文档的数据库。MongoDB是一个基于分布式文件存储的数据库，使用C++语言编写。
旨在为Web应用提供可扩展的高性能数据存储解决方案。应用性能高低依赖于数据库性能，MongoDB则是非关系数据库中功能最丰富，最像
关系数据库的，随着MongDB3.4版本发布，其应用场景适用能力得到了进一步拓展。武汉Java培训MongoDB的核心优势就是
灵活的文档模型、高可用复制集、可扩展分片集群。你可以试着从几大方面了解MongoDB，如实时监控MongoDB工具、内存使用量和页
面错误、连接数、数据库操作、复制集等。2、Elasticsearch——为云构建的分布式RESTful搜索引擎。Elasti
cSearch是基于Lucene的搜索服务器。它提供了分布式多用户能力的全文搜索引擎，基于RESTfulweb接口。Elasti
csearch是用Java开发的，并作为Apache许可条款下的开放源码发布，是比较流行的企业级搜索引擎。ElasticSear
ch不仅是一个全文本搜索引擎，还是一个分布式实时文档存储，其中每个field均是被索引的数据且可被搜索;也是一个带实时分析功能的分
布式搜索引擎，并且能够扩展至数以百计的服务器存储及处理PB级的数据。ElasticSearch在底层利用Lucene完成其索引功能
，因此其许多基本概念源于Lucene。3、Cassandra——开源分布式数据库管理系统，最初是由Facebook开发的，旨在处
理许多商品服务器上的大量数据，提供高可用性，没有单点故障。武汉UI设计培训ApacheCassandra是一套开源分布式NoS
QL数据库系统。集GoogleBigTable的数据模型与AmazonDynamo的完全分布式架构于一身。于2008开源，此后
，由于Cassandra良好的可扩展性，被Digg、Twitter等Web2.0网站所采纳，成为了一种流行的分布式结构化数据存储
方案。因Cassandra是用Java编写的，所以理论上在具有JDK6及以上版本的机器中都可以运行，官方测试的JDK还有Open
JDK及Sun的JDK。Cassandra的操作命令，类似于我们平时操作的关系数据库，对于熟悉MySQL的朋友来说，操作会很容
易上手。4、Redis——开源(BSD许可)内存数据结构存储，用作数据库，缓存和消息代理。Redis是一个开源的使用ANSI
C语言编写的、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库，并提供多种语言的API。Redis有三个主要使
其有别于其它很多竞争对手的特点：Redis是完全在内存中保存数据的数据库，使用磁盘只是为了持久性目的;Redis相比许多键值数据
存储系统有相对丰富的数据类型;Redis可以将数据复制到任意数量的从服务器中。西安IT培训5、Hazelcast——基于Ja
va的开源内存数据网格。Hazelcast是一种内存数据网格in-memorydatagrid，提供Java程序员关键任
务交易和万亿级内存应用。虽然Hazelcast没有所谓的“Master”，但是仍然有一个Leader节点(theoldestm
ember)，这个概念与ZooKeeper中的Leader类似，但是实现原理却完全不同。同时，Hazelcast中的数据是分布式的
，每一个member持有部分数据和相应的backup数据，这点也与ZooKeeper不同。Hazelcast的应用便捷性深受开发
者喜欢，但如果要投入使用，还需要慎重考虑。6、EHCache——广泛使用的开源Java分布式缓存。主要面向通用缓存、JavaE
E和轻量级容器。EhCache是一个纯Java的进程内缓存框架，具有快速、精干等特点，是Hibernate中默认的CacheP
rovider。主要特性有：快速简单，具有多种缓存策略;缓存数据有两级，内存和磁盘，因此无需担心容量问题;缓存数据会在虚拟机重启的
过程中写入磁盘;可以通过RMI、可插入API等方式进行分布式缓存;具有缓存和缓存管理器的侦听接口;支持多缓存管理器实例，以及一个实
例的多个缓存区域;提供Hibernate的缓存实现。7、Hadoop——用Java编写的开源软件框架，用于分布式存储，并对非常
大的数据集进行分布式处理。用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群进行高速运算和存储。Hadoop实
现了一个分布式文件系统(HadoopDistributedFileSystem)，简称HDFS。Hadoop的框架最核心的设
计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，MapReduce则为海量的数据提供了计算。8、Solr
——开源企业搜索平台，用Java编写，来自ApacheLucene项目。西安Android培训Solr是一个独立的企业级搜索应
用服务器，它对外提供类似于Web-service的API接口。用户可以通过请求，向搜索引擎服务器提交一定格式的XML文件，生成索引
;也可以通过HttpGet操作提出查找请求，并得到XML格式的返回结果。与ElasticSearch一样，同样是基于Lucen
e，但它对其进行了扩展，提供了比Lucene更为丰富的查询语言，同时实现了可配置、可扩展并对查询性能进行了优化。9、Spark
——ApacheSoftwareFoundation中最活跃的项目，是一个开源集群计算框架。Spark是一种与Hadoo
p相似的开源集群计算环境，但是两者之间还存在一些不同之处，这些不同之处使Spark在某些工作负载方面表现得更加优越，换句话说
，Spark启用了内存分布数据集，除了能够提供交互式查询外，它还可以优化迭代工作负载。Spark是在Scala语言中实现
的，它将Scala用作其应用程序框架。与Hadoop不同，Spark和Scala能够紧密集成，其中的Scala可以
像操作本地集合对象一样轻松地操作分布式数据集。10、Memcached——通用分布式内存缓存系统。Memcached是一套分
布式快取系统，当初是DangaInteractive为了LiveJournal所发展的，但被许多软件(如MediaWiki)所使
用。Memcached作为高速运行的分布式缓存服务器，具有以下的特点：协议简单，基于libevent的事件处理，内置内存存储方式。
11、ApacheHive——在Hadoop之上提供类似SQL的层。Hive是一个基于Hadoop的数据仓库平台。通过hi
ve，可以方便地进行ETL工作。hive定义了一个类似于SQL的查询语言，能够将用户编写的SQL转化为相应的Mapreduce程序
基于Hadoop执行。目前，已经发布了ApacheHive2.1.1版本。12、ApacheKafka——最初是由Li
nkedIn开发的高吞吐量，分布式订阅消息系统。ApacheKafka是一个开源消息系统项目，由Scala写成。该项目的目标是
为处理实时数据提供一个统一、高通量、低等待的平台。Kafka维护按类区分的消息，称为主题(topic)。生产者(producer)
向kafka的主题发布消息，消费者(consumer)向主题注册，并且接收发布到这些主题的消息。kafka以一个拥有一台或多台服务
器的集群运行着，每一台服务器称为broker。13、Akka——用于在JVM上构建高并发，分布式和弹性消息驱动应用程序的工具包
。Akka是一个用Scala编写的库，用于简化编写容错的、高可伸缩性的Java和Scala的Actor模型应用。
它已经成功运用在电信行业，系统几乎不会宕机。14、HBase——开放源代码，非关系型，分布式数据库，采用Google的BigT
able建模，用Java编写，并在HDFS上运行。与FUJITSUCliq等商用大数据产品不同，HBase是GoogleBi
gtable的开源实现，类似GoogleBigtable利用GFS作为其文件存储系统，HBase利用HadoopHDFS作为其
文件存储系统;Google运行MapReduce来处理Bigtable中的海量数据，HBase同样利用HadoopMapRedu
ce来处理HBase中的海量数据;GoogleBigtable利用Chubby作为协同服务，HBase利用Zookeeper作为
对应。15、Neo4j——在Java中实现的开源图形数据库。Neo4j是一个高性能的NOSQL图形数据库，它将结构化数据存储
在网络上而不是表中。它是一个嵌入式的、基于磁盘的、具备完全事务特性的Java持久化引擎。16、CouchBase——开源分布式
的NoSQL面向文档数据库，针对交互式应用程序进行了优化。如果以前没有NoSQL的使用经验，那么理解couchbase的时候关键
有两点：延后写入和松散存储。该产品基于ApacheCouchDB，并整合了GeoCouch(一个基于Erlang、紧密集成的地理
空间索引系统，可支持LBS应用)。西安Java培训17、ApacheStorm——开源分布式实时计算系统。ApacheSt
orm是一个能近实时地在数据之上运行用户代码片段的流式数据处理框架。它实际上是一系列连在一起的管道。通常用于简单的分析任务，诸
如计算，以及清洗，使其常规化，并且准备摄入用于长期存储的数据。18、CouchDB——开源的面向文档的NoSQL数据库，使用JS
ON存储数据。CouchDB是一个开源的面向文档的数据库管理系统，可以通过RESTfulJavaScriptObject
Notation(JSON)API访问。CouchDB落实到最底层的数据结构就是两类B+Tree。19、Oracle
Coherence——内存数据网格解决方案，通过提供对常用数据的快速访问，使企业能够可预测地扩展关键任务应用程序。简单来说，Co
herence仅支持Java，.NET和C++API三个版本，这三个都是面向对象的语言，这也说明Coherence和应用开发的亲
和性。20、Titan——可扩展的图形数据库，优化用于存储和查询包含分布在多机集群上的数百亿个顶点和边的图形。支持不同的分布式
存储层：Cassandra1.1和HBase0.92。原生实现BlueprintsgraphAPI，Gremlingra
phtraversallanguage，Framesgraph-to-objectmapper，Rexstergraph
server。21、AmazonDynamoDB——快速，灵活的全面管理NoSQL的数据库服务，适用于任何规模的要求一致性，
单位毫秒延迟的应用程序。AmazonDynamoDB是一种完全托管的NoSQL数据库服务，提供快速而可预测的性能，能够实现无缝扩展。22、AmazonKinesis——AWS上的实时流式传输数据平台。Web应用程序、移动设备、可穿戴设备、行业传感器和许多软件应用程序和服务都可能生成大量的流数据(有时达到每小时数TB)，需要对其进行连续地收集、存储和处理。AmazonKinesis就是针对这种需求产生的。23、Datomic——完全事务，云就绪，分布式数据库，用Clojure编写。Datomic是一个灵活的、基于时间因子的数据库，支持联合查询，具有弹性的可扩展性以及支持ACID事务性。Datomic提供高可用的、分布式存储服务。西安IT培训