-
数据分析与挖掘学习（一）
所属栏目：[大数据] 日期：2021-03-10 热度：130
数据分析与挖掘过程 一. 定义挖掘目标 一般的数据挖掘任务包括： 1. 分类与预测 2. 聚类分析 3. 关联规则 4. 时序模式 5. 偏差检验 6. 智能推荐 二. 数据取样 抽取一个与挖掘目标相关的样本子集，标准是 1. 相关性 2. 可靠性 3. 有效性 而不是选用全部数据做[详细]
-
Acdream 1210 Chinese Girls#39; Amusement（大数模板运算 + 找
所属栏目：[大数据] 日期：2021-03-10 热度：150
传送门 Chinese Girls’ Amusement Time Limit: 2000/1000MS (Java/Others) Memory Limit: 128000/64000KB (Java/Others) Submit Statistic Next Problem Problem Description You must have heard that the Chinese culture is quite different from that o[详细]
-
最值得推荐的统计和数据分析好书之一
所属栏目：[大数据] 日期：2021-03-09 热度：193
推荐一本统计和数据分析领域非常受欢迎的书，这书升级版原版评价甚至比第1版更好，中文版最近刚出版。 后面的图中给出了豆瓣和知乎对第一版的评价，还有知乎受关注的相关问题的网址。 《R语言实战（第2版）》 R in Action ,Second Edition: Data analysis an[详细]
-
大数加法、减法和乘法
所属栏目：[大数据] 日期：2021-03-09 热度：164
加法： #includestdio.h#includestring.h#includestdlib.hchar* add(const char *arr,const char *brr){ int lena=strlen(arr); int lenb=strlen(brr); int maxlen=(lenalenb)?lenb:lena; char* sum=(char*)malloc(maxlen+2); memset(sum,'0',maxlen+1); sum[详细]
-
当我们谈大数据分析的时候，我们在谈什么？
所属栏目：[大数据] 日期：2021-03-09 热度：193
数据分析是一个大话题，借这篇笔记整理一下自己的思路：数据分析是什么？涉及到哪些技术？有哪些数据公司玩家？如何定位数据分析的价值？如果选择数据分析作为自己的职业，需要掌握什么样的基本概念？希望帮助对于数据分析有兴趣的同学快速入门！ 前言 数据[详细]
-
【快讯】R语言在大数据统计分析中的应用及前景
所属栏目：[大数据] 日期：2021-03-09 热度：71
2016年6月8日下午，数据观—清华大数据 “ 技术 · 前沿 ” 系列思享会在清数D-LAB顺利举办。本次活动有幸邀请到美国普度大学统计系教授及清华大学统计学研究中心兼职教授朱宇进行R语言在大数据统计分析中的应用及前景主题分享。 本次讲座分别介绍了统计分析[详细]
-
精准测试新玩法の基于犯罪心理学挖掘代码风险
所属栏目：[大数据] 日期：2021-03-09 热度：67
前言 ? 犯罪心理学还能用于挖掘代码风险？ 挖掘出来的东西是什么？ 挖掘出来的东东长什么样子 ? 挖掘出来能用来做什么？ 具体怎么样挖掘呢 ? 这是本文的主要探讨的内容． ? 在大型的项目中 , 代码和模块的复杂度在很大程度上决定了测试任务的时间 ,? 在项目[详细]
-
常用的数据标准化方法
所属栏目：[大数据] 日期：2021-03-09 热度：103
数据的标准化（normalization）是将数据按照一定规则缩放，使之落入一个小的特定区间。这样去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。其中最典型的就是0-1标准化和Z标准化，当然，也有一些其他的标准化方[详细]
-
BI Intelligence 报告：2016 年 5 大数字化趋势（附下载）
所属栏目：[大数据] 日期：2021-03-09 热度：90
C 新智元编译?? ? 来 源：Business Insider 译者：闻菲 【新智元导读】 Business Insider 网站日前公开了旗下调研团队 BI Intelligence 去年 2 月发布的调查报告，成功 预测了消息APP成为新的OS和Bot的崛起。报告还预计物联网是下一场工业革命，将颠覆能源、[详细]
-
HDU 1212 Big Number（大数取模）
所属栏目：[大数据] 日期：2021-03-09 热度：142
Big Number Time Limit: 2000/1000 MS (Java/Others)????Memory Limit: 65536/32768 K (Java/Others) Total Submission(s): 7063????Accepted Submission(s): 4866 Problem Description As we know,Big Number is always troublesome. But it's really impor[详细]
-
R语言：SMOTE - Supersampling Rare Events in R:用R对非平衡数
所属栏目：[大数据] 日期：2021-03-09 热度：76
SMOTE - Supersampling Rare Events in R:用R对稀有事件进行超级采样 在这个例子中将用到以下三个包 {DMwR} - Functions and data for the book “Data Mining with R” and SMOTE algorithm:SMOTE算法 {caret} - modeling wrapper,functions,commands：模型[详细]
-
寻找第K大数的方法
所属栏目：[大数据] 日期：2021-03-09 热度：119
寻找一堆数中第K大的数，第一感觉是排序，然后将排序之后的值取第K个。但是实际上，这种方式最少的时间复杂度是O(nlogn)。有更简单的方式可以实现线性的时间复杂度。 算法总是有穷尽的，而思想无穷尽，而实用算法的本质是用空间去换取时间。 这里的方案是：[详细]
-
基因数据处理43之mango之503错误
所属栏目：[大数据] 日期：2021-03-08 热度：163
HTTP ERROR : 503 Problem accessing /. Reason : Service Unavailable Powered by Jetty :// 更详细请见： https://github.com/bigdatagenomics/mango/issues/181[详细]
-
基因数据处理37之bdg-formats编译成功
所属栏目：[大数据] 日期：2021-03-07 热度：159
更多代码请见：https://github.com/xubo245/AdamLearning 1解释 bdg-formats是在spark平台上用avro定义的基因处理的数据格式，包括read、sam、vcf、databaseannotion在云平台上的格式，主要用于Adam系统中 2.代码： 【2】下载 编译： mvn clean package -Dsk[详细]
-
《hadoop进阶》PeopleRank从社交关系中挖掘价值用户
所属栏目：[大数据] 日期：2021-03-07 热度：106
转载请注明出处： 转载自? Thinkgamer的CSDN博客： blog.csdn.net/gamer_gyt 代码下载地址：点击查看 1：PageRank 与 PeopleRank 2：需求分析：挖掘CSDN博客的价值用户 3：算法模型：PeopleRank算法 4：架构设计：从数据准备到PR算法的MR化 5：程序开发：had[详细]
-
XTU 1247 Robb#39;s Problem
所属栏目：[大数据] 日期：2021-03-07 热度：172
Robb’s Problem [ Submit Code ] [ Top 20 Runs ] Acceteped : 48 ? Submit : 335 Time Limit : 1000 MS ? Memory Limit : 65536 KB ? Description Robb’s Problem 题目描述 Robb想知道阶乘 n ! 第 m 位数码是什么？ 输入 第一行是一个整数 T , ( 1 ≤ T[详细]
-
基因数据处理38之dbSnpId到omimId的映射表
所属栏目：[大数据] 日期：2021-03-07 热度：116
1.下载： 首先收到【2】，来源是【2】 【1】中有描述： You can also get those SNPs with an OMIM ID number by downloading from the dbSNP FTP site: the OmimVarLocusIdSNP table contains the information you need for your organisim of interest (hu[详细]
-
基因数据处理39之mango安装记录
所属栏目：[大数据] 日期：2021-03-07 热度：166
更多代码请见：https://github.com/xubo245/AdamLearning 1解释 mango安装记录 mango主要是在adam上实现 可视化平台 A scalable genome browser 2.代码： git clone https: //github.com/bigdatagenomics/mango.git cd mangomvn clean package -DskipTests[详细]
-
基因数据处理41之mango使用失败
所属栏目：[大数据] 日期：2021-03-07 热度：163
hadoop@Master:~/xubo/tools/adam- 2.10 - 0.19 -git/bin$ mango-submit /xubo/mango/snap/datatest .fa .adam -read_files /xubo/mango/snap/datatest2 .sort .bam .adam -var_files /xubo/mango/snap/datatest2 .flt .vcf .adam -feat_file /xubo/mango/sn[详细]
-
51NOD 1116 K进制下的大数(字符串取模 + 枚举)
所属栏目：[大数据] 日期：2021-03-07 热度：129
传送门 1116 K进制下的大数 基准时间限制：1 秒 空间限制：131072 KB 分值: 20 难度：3级算法题 收藏 关注 有一个字符串S，记录了一个大数，但不知这个大数是多少进制的，只知道这个数在K进制下是K - 1的倍数。现在由你来求出这个最小的进制K。 例如：给出的[详细]
-
poj3181 Dollar Dayz (DP+大数)
所属栏目：[大数据] 日期：2021-03-07 热度：132
Dollar Dayz Crawling in process... Crawling failed Time Limit: 1000 MS???? Memory Limit: 65536 KB???? 64bit IO Format: %I64d %I64u Submit Status Practice POJ 3181 Appoint description: System Crawler (2016-05-27) Description Farmer John goe[详细]
-
基因数据处理40之bedtools的安装和使用
所属栏目：[大数据] 日期：2021-03-07 热度：162
1.下载： git clone https: //github.com/arq5x/bedtools.git 2.编译： make 3.配置： cp * /usr/local /bin/ 4.运行： bam变成bed hadoop @Master :~/xubo/data/snap $ bamToBed -i datatest.sorted.bam datatest.sorted.bed 查看： hadoop @Master :~/xubo[详细]
-
基因数据处理42之mango问题_seqdict.avro不存在解决
所属栏目：[大数据] 日期：2021-03-07 热度：54
参考【1】中问题解决 问题分析：这是新版本的问题：adam0.19.1目前在maven中心仓库没有 解决办法： package org.gcdss.test import java.io.File import java.nio.file.Files import org.apache.parquet.hadoop.metadata.CompressionCodecName import org.ap[详细]
-
Twitter开源大数据实时分析系统Heron：Heron架构
所属栏目：[大数据] 日期：2021-03-06 热度：115
Heron架构 Heron是Apache Storm的一个直接继承者。从架构角度来看，它与Storm截然不同，但是从API的角度看它是完全向后兼容的。 下面的章节指明了Heron和Storm的区别，描述了Heron背后的设计目标，并解释了其架构的主要组件。 代码库 Heron代码库的详细指南[详细]
-
大数据分析界的“神兽”Apache Kylin初解
所属栏目：[大数据] 日期：2021-03-06 热度：128
转自李栋，来自Kyligence公司，也是Apache Kylin Committer PMC member，在加入Kyligence之前曾就职于eBay、微软。 今天分享的主题是：聊聊“神兽”Apache Kylin的最新特性。本次分享将首先对Apache Kylin进行基本介绍；接下来介绍1.5.x最新版本在架构上的重[详细]
