Ubuntu下Spark开发环境搭建 经验

配置Ubuntu下使用Python开发Spark应用 Ubuntu 64 基本环境配置 安装 JDK ,下载 jdk-8u45-linux-x64.tar.gz ,解压到 /opt/jdk1.8

dgy7 2015-05-21   254373   0

内存计算技术那家强?SPARK vs HANA 经验

会,跟各位聊聊到底什么是内存计算技术,以及比较一些现在两种比较主流的内存计算技术Apache Spark和SAP HANA,它们的特点和区别。 什么是内存计算技术? 关于内存计算,就像云计算和大数

jopen 2014-11-18   37159   0

基于Spark的图计算框架 GraphX 入门介绍 经验

GraphX原型论文 GraphX 是 Spark中用于图(e.g., Web-Graphs and Social Networks)和图并行计算(e.g., PageRank and Collaborative

jopen 2015-01-08   245739   0

网易大数据平台的Spark技术实践 经验

网易大数据Spark技术应用 Spark技术代表未来数据处理的新方向,Spark是UC Berkeley AMP lab开源的类Hadoop MapReduce的通用并行计算框架,Spark基于Ma

jopen 2014-12-19   64036   0

Spark设计理念与基本架构 经验

83.html 《深入理解Spark:核心思想与源码分析》一书前言的内容请看链接 《深入理解SPARK:核心思想与源码分析》一书正式出版上市 《深入理解Spark:核心思想与源码分析》一书第一章的内容请看链接《第1章

没心没肺 2016-01-27   56246   0

使用Spark Streaming进行情感分析 经验

这里将使用Twitter流式数据,它符合所有所需:持续而且无止境的数据源。 Spark Streaming Spark Streaming在电子书 《手把手教你学习Spark》 第六章有详细介绍,这里略过Streaming API的详细介绍,直接进行程序开发

Spark的RDD原理以及2.0特性的介绍 经验

王联辉,曾在腾讯,Intel 等公司从事大数据相关的工作。2013 年 - 2016 年先后负责腾讯 Yarn 集群和 Spark 平台的运营与研发。曾负责 Intel Hadoop 发行版的 Hive 及 HBase 版本研

di742088 2016-05-19   68140   0

使用Apache Spark构建实时分析Dashboard 经验

本篇文章中我们将学习如何使用Apache Spark streaming,Kafka,Node.js,Socket.IO和Highcharts构建实时分析Dashboard。 问题描述 电子商

我逍遥 2016-11-28   18418   0

《Machine Learning with Spark》书评与作者访谈 资讯

近几年获得大量的关注,因为它对企业与商业做出决策非常有帮助。 Apache Spark 及其机器学习库 MLlib 为开发可伸缩的机器学习应用,提供了多种有用的算法。 关于这个话题, Nick

jopen 2016-02-18   25101   0

Apache Spark 1.6.1 发布,集群计算环境 资讯

Apache Spark 1.6.1 发布了,Apache Spark 是一种与 Hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载

jopen 2016-03-11   27731   0

Java开源IM客户端Spark 博客

Spark 是一个开源,跨平台IM客户端。它的特性支持集组聊天,电话集成和强大安全性能。如果企业内部部署IM使用Openfire+Spark是最佳的组合。 http://www.igniterealtime

lovegis 2010-11-04   3556   0

大数据计算平台Spark内核全面解读 经验

1、Spark介绍 Spark是起源于美国加州大学伯克利分校AMPLab的大数据计算平台,在2010年开源,目前是Apache软件基金会的顶级项目。随着 Spark在大数据计算领域的暂露头角,越来

jopen 2015-02-03   29051   0

微软开源用于Spark的深度学习库MMLSpark 资讯

微软开源了 MMLSpark ,用于用于 Apache Spark 的的深度学习库。MMLSpark 可以与 微软认知工具包 和 OpenCV 完美整合。 微软发现,虽然 SparkML 可以建立

jopen 2017-10-24   8214   0

Spark + ansj 对大数据量中文进行分词 经验

mapreduce对存储在hdfs中大量的数据文本进行分词。由于mapreduce的速度较慢,相对spark来说代码书写较繁琐。本文使用 spark + ansj对存储在hdfs中的中文文本数据进行分词。 首先下载ansj源码文件,下载地址为

x286 2015-05-25   149807   0

使用Apache Spark分析豆瓣电影数据 经验

近在学Berkeley 的Scalable Machine Learning这门课程,接触了下Spark的基本的操作,然后就想要不然自己抓取豆瓣的电影数据来分析下。 本来是想实践下豆瓣电影的推荐系

jopen 2015-07-12   26561   0

Spark如何解决常见的Top N问题 经验

表“product_url”的示例数据如下: (2)统计各个产品线下各个URL的访问次数 这个逻辑使用Spark SQL即可以实现,示例数据如下: 可以看出,数据多出了一个字段access,用于表示某产品线下某个URL的访问次数。

jopen 2015-11-11   6743   0

在Eclipse上运行Spark(Standalone,Yarn-Client) 经验

ipse上运行Spark程序,提交到集群上以YARN-Client方式运行,或者以Standalone方式运行呢? 答案是可以的。下面我来介绍一下如何在eclipse上运行Spark的wordcount程序。我用的hadoop

ZXF0109521 2016-02-01   59440   0

深入浅出Spark(二) 什么是RDD 经验

本系列讲座是沁原对Sameer Farooqui的《Advanced Apache Spark》的解说。 完整视频: https://www. bittiger.io/videos/NBAT gD

CharlotteOF 2016-08-17   17406   0

Spark如虎添翼的Zeppelin - 基础篇 经验

0. 简介 Spark 是一个非常好的计算平台,支持多种语言,同时基于内存的计算速度也非常快。整个开源社区也很活跃。 但是Spark在易用性上面还是有一些美中不足。 对于刚接触的人来说,上手以及环境搭建还是有一些困难。

zulo2012 2016-08-20   57436   0

Apache Spark 1.4 发布,开源集群计算系统 资讯

Apache Spark 是一种与 Hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越,换句话说,Spark 启用了内

jopen 2015-06-11   16817   0
1 2 3 4 5 6 7 8 9 10