搭建 Spark 源码研读和代码调试的开发环境 经验

搭建Spark源码研读和代码调试的开发环境 从Github上获取Spark源码 导入源码到Intellij IDEA 16 2. 添加缺失的flume sink源代码 3. 添加运行依赖的jars

skxe3313 2016-12-11   26753   0

30分钟概览Spark分布式计算引擎 经验

本文主要帮助初学者快速了解Spark,不会面面俱到,但核心一定点到。 详细内容可参考Spark入门教程-1 Spark是继Hadoop之后的下一代分布式内存计算引擎,于2009年诞生于加州大学

P20

  基于Twitter Algebird和Spark Streaming的大规模流式数据处理算法 文档

Algorithms with Twitter Algebird + Spark Streaming 基于Twitter Algebird 和 Spark Streaming 的大规模流式数据处理算法 2. You

erbq 2014-09-18   667   0
P40

  spark--高效的分布式计算架构 文档

1. spark ----高效的分布式计算架构 ---- 何奇14112852181Life is short,you need spark! 2. Life is short,you need spark

cador 2017-03-13   721   0
P24

  YAFIM:基于spark的并行化频繁项集挖掘算法 文档

1. YAFIM: Frequent Itemset Mining with Spark Rong Gu, Hongjian Qiu, Yihua Huang Parallel Algorithm System

aacall 2014-06-25   592   0

解读2015之Spark篇:新生态系统的形成 资讯

2015年的Spark社区的进展实在是太快了,我发现1月份出版的一本参考书到现在已经有很多内容是过时的了。社区大踏步前行的同时,用户和应用案例也越来越多,应用行业越来越广泛。到年底了我们来梳理下Spark这快速发展的一年。

jopen 2016-01-07   38554   0

Spark/DBSCAN做地理定位数据聚类 资讯

的点被分配到相同的集群。黑色的孤立点被视为“异常点”。图片来自Natalino Busa。 在Spark里使用PairRDDs 在大多数实际应用中,机器学习系统必须处理数以百万计的用户和数十亿的事件。因此

jopen 2016-03-04   33151   0
DBSCAN   Spark  

大数据技术大合集:Hadoop家族、Cloudera系列、spark、storm 经验

大数据我们都知道hadoop,可是还会各种各样的技术进入我们的视野:Spark,Storm,impala,让我们都反映不过来。为了能够更好 的架构大数据项目,这里整理一下,供技术人员,项目经理,架构师

jopen 2014-11-22   190566   0

视频类网站大数据生态 Spark在爱奇艺的应用实践 经验

Spark生态@爱奇艺 秉承“悦享品质”的品牌理念,提供更多、更好的视频 – 2010年4月上线 – 2013年5月与PPS合并 – 月度独立访问用户4+亿(3月份数据) – 20

jopen 2014-12-12   32735   0

两款高性能并行计算引擎Storm和Spark比较 经验

来自http://blog.csdn.net/iefreer/article/details/32715153 Spark 基于这样的理念,当数据庞大时,把计算过程传递给数据要比把数据传递给计算过程要更富效率。每个节点

jopen 2015-06-19   149951   0

分布式计算系统,Spark 发布1.0.0 版本 资讯

Spark 是一个基于内存计算的开源的集群计算系统,目的是让数据分析更加快速。Spark非常小巧玲珑,由加州伯克利大学AMP实验室的Matei为主的小团队所开发。使用的语言是Scala,项目的core

jopen 2014-05-30   29373   0
Spark  

量化派基于Hadoop、Spark、Storm的大数据风控架构 经验

I和数据挖掘这些工作都放到了Spark[5] 上。这样一来,依赖不同任务或不同计算框架间的数据共享情况在所难免,例如Spark的分属不同Stage的两个任务,或Spark与MapReduce 框架的数

jopen 2015-10-06   52802   0

浅谈Spark应用程序的性能调优 经验

Spark是基于内存的分布式计算引擎,以处理的高效和稳定著称。然而在实际的应用开发过程中,开发者还是会遇到种种问题,其中一大类就是和性能相关。在本文中,笔者将结合自身实践,谈谈如何尽可能地提高应用程序性能。

jopen 2016-01-19   22460   0

Spark生态系统中的图数据分析知识 经验

GraphFrames的工作机制 Malak:作为Apache Spark生态系统的一部分,GraphX是Spark的官方图处理系统。即使在Spark 2.0中也是如此。GraphX基于RDD技术,每条边和每

pcus3589 2016-10-19   7473   0

Spark Streaming + Elasticsearch 构建 App 异常监控平台 经验

独立开发。造轮子,首先要考虑的就是成本问题。我们选择了站在开源巨人的肩膀上,如图1所示。 Spark Streaming 每天来自客户端和服务器的大量异常信息,会源源不断的上报到异常平台的Ka

beuf3754 2016-11-06   22460   0

使用Spark Streaming + Kudu + Impala构建一个预测引擎 经验

可用来动态规划计算机资源,或者业务优化。传统的批处理方法预测采用Impala和Spark两种方法,动态预测使用Spark Streaming。 任何预测的起点是基于海量历史数据和实时更新的数据来预测未来的数据业务。

首款Linux平板Spark细节再曝光 下周可预订 资讯

首款 Linux 平板电脑 Spark 将“很快”上市,目前在 Spark Q&A页面曝光了关于这款平板电脑的更多详细信息,包括硬件、运行软件以及推出时间。 据悉,Spark 采用 7 英寸多点触摸屏幕,分辨率为

fmms 2012-02-05   6330   0
Linux  

Java的微型Web框架 Spark 简易入门教程 经验

一、Spark是什么 Spark是一个微型的Java Web框架,它的灵感来自于Sinatra,它的目的是让你以最小的代价创建出一个Java Web应用。 二、使用Spark Spark的使用

jopen 2015-03-04   15574   0

大数据赛道上的单挑:MapReduce与Spark到底谁快? 资讯

html 通常人们认为Spark的性能和速度全面优于MapReduce,但最新的对决显示MapReduce在某些方面也有胜场,而且数据规模越大优势越大。 Apache Spark是当今最火爆的大数据

jopen 2015-10-11   12292   0

Spark IM 2.7.3 发布,IM 客户端 资讯

Spark是一个开源,跨平台IM客户端。它的特性支持集组聊天,电话集成和强大安全性能。如果企业内部部署IM使用Openfire+Spark是最佳的组合。 Spark IM 2.7.3 发布,此版本包含

jopen 2015-10-23   8318   0
1 2 3 4 5 6 7 8 9 10