运用Spark加速实时数据分析 资讯

管理不同大小规则的数据。 在过去,Hadoop中运用MapReduce进行批处理的特性足以满足许多组织的处理需求。然而,随着信息化时代的发展,越来越多组织亟需使用 更加快速的数据处理。这些需求来自

jopen 2015-10-29   11656   0
Spark  

如何运用Spark进行实时数据分析 资讯

管理不同大小规则的数据。 在过去,Hadoop中运用MapReduce进行批处理的特性足以满足许多组织的处理需求。然而,随着信息化时代的发展,越来越多组织亟需使用更加快速的数据处理。这些需求来自各

勿忘初心321 2015-12-21   32298   2

实时大数据分析平台:Ebay Pulsar 经验

eBay 开源的实时大数据分析平台。 作为全球性的商务平台和支付行业领先者,拥有海量的用户行为数据。 基于现有的hadoop大数据处理,已经不能够满足业务上对实时性的需求。基于过去的大数据处理的经验和对最

jopen 2015-03-03   35429   0

数据中心丢包分析及解决方案 经验

上周对数据中心tcp数据传输的超时重传时间进行了探究,是的,我们可以缩短重传超时时间,但为什么在数据中心内部也会出现丢包呢?下面会对这个问题进行探讨。 下面几种丢包情形是大家所熟悉的: 1、数据中心内网的某个端口的带宽跑满

jopen 2015-03-31   22090   0
数据  

使用Python和Pandas分析Pronto CycleShare数据 经验

这是一篇非常不错的pandas 分析入门文章,在此简单翻译摘录如下。 本周,西雅图的自行车共享系统 Pronto CycleShare 一周岁了。 为了庆祝这一点,Pronto 提供了从第一年的数据缓存,并宣布了 Pronto

demond123 2017-02-20   19371   0
P20

  数据流图与需求分析建模案例 文档

2.2 数据流图数据流图(Data Flow Diagram,DFD)是描述系统中数据流程的图形工具,它标识了一个系统的逻辑输入和逻辑输出,以及把逻辑输入转换为逻辑输出所需的加工处理。数据存储数据源点 或终点加

jidechao 2012-06-13   6319   0
报告  

PHP查询MySQL大量数据的内存占用分析 问答

这篇文章主要是从原理, 手册和源码分析在PHP中查询MySQL返回大量结果时, 内存占用的问题, 同时对使用MySQL C API也有涉及. 昨天, 有同事在PHP讨论群里提到, 他做的一个项

jopen 2011-12-20   14962   2
MySQL   PHP   C/C++  

Java 网络数据分析包 JNetStream 经验

JNetStream 是一个用 Java 语言开发的网络数据分析类库,同时也提供了一个分析工具。可以通过内置的NPL语言定义自己需要的协议 (比如可用NPL定义RTP与SIP协议),NPL的语法与J

fmms 2012-01-17   41414   0
P16

  SQL Server数据库设计的案例分析 文档

数据库设计的案例分析 一、教学管理 1. 基本需求 某学校设计学生教学管理系统。学生实体包括学号、姓名、性别、生日、民族、籍贯、简历、登记照,每名学生选择一个主修专业,专业包括专业编号和名称,一个专

youmuren 2012-04-05   496   0

思科安全大数据分析框架:OpenSOC 经验

思科在 BroCON 大会上亮相了其安全大数据分析架构 OpenSOC,引起了广泛关注。OpenSOC 是一个针对网络包和流的大数据分析框架,它是大数据分析与安全分析技术的结合, 能够实时的检测网络异常情

jopen 2014-12-19   45317   0

6个用于大数据分析的最好工具 经验

com/archives/22617 大数据是一个含义广泛的术语,是指数据集,如此庞大而复杂的,他们需要专门设计的硬件和软件工具进行处理。该数据集通常是万亿或EB的大小。这些 数据集收集自各种各样的来源:传感器

jopen 2015-02-09   54075   0

使用Apache Spark分析豆瓣电影数据 经验

不然自己抓取豆瓣的电影数据分析下。 本来是想实践下豆瓣电影的推荐系统,想通过实际的数据来完成”Collaborative filtering”, 目前的第一步就是先获取数据,这也是这篇博文的主要内容。

jopen 2015-07-12   26561   0

GWpy - 引力波数据分析工具 经验

GWPY是一个面向对象编程的Python包,也就是说,数据对象是这个包的核心关注点。每一个数据对象都体现为一个类实例,包含了其属性和包含的数据。 GWPY提供了4种核心数据对象,分别代表引力波探测器所产生的四种标准数据: TimeSeries(时间序列数据)

w2c2y2 2016-02-14   6406   0

数据和区块链之间的比较分析 经验

数据和区块链两者之间有个共同的关键词:分布式,代表了一种从技术权威垄断到去中心化的转变。 分布式存储:HDFS vs. 区块 大数据,需要应对海量化和快增长的存储,这要求底层硬件架构和文

avalon6884 2017-03-08   40607   0

iOS端数据库解决方案分析 经验

很早之前就想写一篇iOS端数据库相关的总结文章,梳理下使用移动端数据库的一些重要知识点,再综合对比下sqlite和CoreData的优缺点,希望能帮助一些这方面经历较少的同学少走一些弯路。 为什么要用数据库 iO

BiaHartnett 2016-11-07   10443   0

使用ORM Profiler分析数据访问性能 资讯

ORM Profiler [1] ,这是一款旨在帮助提高数据访问层性能的工具。它会跟踪和记录 ADO.NET 调用,以便开发者可对他们的数据访问进行分析,进而发现其中的潜在问题。 ORM Profiler

jopen 2011-10-18   10065   0
ORM  

DataCleaner 3.5.5 发布,数据质量分析 资讯

是一个数据质量分析工具,可让您进行数据分析,验证和模拟类似ETL的任务。这些活动可以帮助您管理和监控数据质量,以确保您的数据是有用的,适用于您的业务情况。它可用于主数据管理(MDM)的方法,数据仓库项目,统计研究,为提取

jopen 2013-09-25   5668   0

NSA 将开源大数据分析工具 Nifi 资讯

与Apache软件基金会合作,在Apache许可证下 开源 大 数据分析工具Niagarafiles (Nifi)。NSA称 Nifi 能在多个计算机网络中自动化数据流,即使数据格式和协议存在差异。目前关于Nifi的细节透露的不多。Nifi首席开发者

jopen 2014-11-27   6443   0
Nifi  

Windows 10 Web使用数据分析 资讯

Windows 10 的“成功”,设备检测公司 51Degress 将 Windows 10 的 web 使用率数据和早前的 Windows 8.1、Windows 8、Windows 7、Windows Vista、Windows

jopen 2015-09-16   9753   0

数据分析的 7 个关键步骤 资讯

数据科学家” 术语总让人联想到一个孤独的天才独自工作,将深奥的公式应用于大量的数据,从而探索出有用的见解。但这仅仅是数据分析过程中的一步。数据分析本身不是目标,目标是使企业能够做出更好的决策。数据

勿忘初心321 2015-12-24   14091   1
1 2 3 4 5 6 7 8 9 10