-
在数据分析、挖掘方面,好书推荐
所属栏目:[大数据] 日期:2021-03-14 热度:170
入门读物: 深入浅出数据分析 (豆瓣)?这书挺简单的,基本的内容都涉及了,说得也比较清楚,最后谈到了R是大加分。难易程度:非常易。 啤酒与尿布 (豆瓣)?通过案例来说事情,而且是最经典的例子。难易程度:非常易。 数据之美 (豆瓣)?一本介绍性的书籍,每章[详细]
-
数据标准化与PCA白化原理探索
所属栏目:[大数据] 日期:2021-03-14 热度:104
PCA是实验中很常用的工具,一般用来做降维,它的实现有很多很多种,其中牵涉相当多的细节,笔者在实现PCA时常常有困惑,为什么查到的各种代码总有一些不同的trick,有时候对样本提前归一化?有时候又要减均值?这些操作对于PCA降维效果到底有什么影响?这篇[详细]
-
R语言绘制文字云
所属栏目:[大数据] 日期:2021-03-14 热度:114
差不多一年没有怎么认真写过博客了,最近要做毕业设计,记录一下有关实验。参考实验楼上一个实验。主要学习使用分词包 Rwordseg 对莎士比亚的名著《仲夏夜之梦》中的内容进行单词频数统计,提取关键词,并进行数据清洗,最后使用包 wordcloud 根据关键词出现[详细]
-
K 大数查询
所属栏目:[大数据] 日期:2021-03-14 热度:168
题目大意 有N个集合,初始为空。有M个操作, 修改操作:编号范围在l~r的集合都加入一个数值为a的数, 询问操作:编号范围在l~r的集合数值为第k大的数。 n,m=50000,|a|=n,k 树套树 当然可行,但我不会 考虑离线——整体二分 L,R表示数值的区间,mid=(L+R)/2[详细]
-
大数 Astar-Round1 Problem B
所属栏目:[大数据] 日期:2021-03-14 热度:177
题目 2016"百度之星" - 资格赛(Astar Round1) http://bestcoder.hdu.edu.cn/contests/contest_showproblem.php?cid=690pid=1002 Problem Description 度熊面前有一个全是由1构成的字符串,被称为全1序列。你可以合并任意相邻的两个1,从而形成一个新的序列[详细]
-
R语言数据处理——tidyr包
所属栏目:[大数据] 日期:2021-03-14 热度:145
????在实际进行数据分析的过程中,我们常需要对数据进行一些相应的整理, “ tidyr 包 ”中的 gather( 宽数据转为长数据 )、 spread( 长数据转为宽数据 )、 unit( 多列合并为一列 )、 separate( 将一列分离为多列 ) 这四个 函数为我们的数据整理提供[详细]
-
R文本挖掘 | 如何在用户词库中添加搜狗词典?
所属栏目:[大数据] 日期:2021-03-14 热度:105
写 在前面 亲爱的小伙伴们!阔别大家将近10天,是不是等得有些着急了呢?本期大猫课堂将继续《R文本挖掘》系列,上节课中已经教大家 如何用jiebaR分词包进行分词 ,本期将教大家一个更加进阶的分词功能: 把搜狗专业词库添加进自己的用户自定义词典中。 稍微[详细]
-
lt;大数处理gt; 2016百度之星第二题
所属栏目:[大数据] 日期:2021-03-14 热度:141
链接:http://bestcoder.hdu.edu.cn/contests/contest_showproblem.php?cid=690pid=1002 Problem B ? ?Accepts: 2483 ? ?Submissions: 9088 ?Time Limit: 2000/1000 MS (Java/Others) ? ?Memory Limit: 65536/65536 K (Java/Others) Problem Description 度[详细]
-
《hadoop进阶》PeopleRank从社交关系中挖掘价值用户
所属栏目:[大数据] 日期:2021-03-11 热度:129
转载请注明出处: 转载自? Thinkgamer的CSDN博客: blog.csdn.net/gamer_gyt 代码下载地址:点击查看 1:PageRank 与 PeopleRank 2:需求分析:挖掘CSDN博客的价值用户 3:算法模型:PeopleRank算法 4:架构设计:从数据准备到PR算法的MR化 5:程序开发:had[详细]
-
XTU 1247 Robb#39;s Problem
所属栏目:[大数据] 日期:2021-03-11 热度:123
Robb’s Problem [ Submit Code ] [ Top 20 Runs ] Acceteped : 48 ? Submit : 335 Time Limit : 1000 MS ? Memory Limit : 65536 KB ? Description Robb’s Problem 题目描述 Robb想知道阶乘 n ! 第 m 位数码是什么? 输入 第一行是一个整数 T , ( 1 ≤ T[详细]
-
基因数据处理38之dbSnpId到omimId的映射表
所属栏目:[大数据] 日期:2021-03-11 热度:116
1.下载: 首先收到【2】,来源是【2】 【1】中有描述: You can also get those SNPs with an OMIM ID number by downloading from the dbSNP FTP site: the OmimVarLocusIdSNP table contains the information you need for your organisim of interest (hu[详细]
-
基因数据处理39之mango安装记录
所属栏目:[大数据] 日期:2021-03-11 热度:87
更多代码请见:https://github.com/xubo245/AdamLearning 1解释 mango安装记录 mango主要是在adam上实现 可视化平台 A scalable genome browser 2.代码: git clone https: //github.com/bigdatagenomics/mango.git cd mangomvn clean package -DskipTests[详细]
-
基因数据处理41之mango使用失败
所属栏目:[大数据] 日期:2021-03-11 热度:145
hadoop@Master:~/xubo/tools/adam- 2.10 - 0.19 -git/bin$ mango-submit /xubo/mango/snap/datatest .fa .adam -read_files /xubo/mango/snap/datatest2 .sort .bam .adam -var_files /xubo/mango/snap/datatest2 .flt .vcf .adam -feat_file /xubo/mango/sn[详细]
-
51NOD 1116 K进制下的大数(字符串取模 + 枚举)
所属栏目:[大数据] 日期:2021-03-11 热度:72
传送门 1116 K进制下的大数 基准时间限制:1 秒 空间限制:131072 KB 分值: 20 难度:3级算法题 收藏 关注 有一个字符串S,记录了一个大数,但不知这个大数是多少进制的,只知道这个数在K进制下是K - 1的倍数。现在由你来求出这个最小的进制K。 例如:给出的[详细]
-
poj3181 Dollar Dayz (DP+大数)
所属栏目:[大数据] 日期:2021-03-11 热度:163
Dollar Dayz Crawling in process... Crawling failed Time Limit: 1000 MS???? Memory Limit: 65536 KB???? 64bit IO Format: %I64d %I64u Submit Status Practice POJ 3181 Appoint description: System Crawler (2016-05-27) Description Farmer John goe[详细]
-
基因数据处理40之bedtools的安装和使用
所属栏目:[大数据] 日期:2021-03-11 热度:198
1.下载: git clone https: //github.com/arq5x/bedtools.git 2.编译: make 3.配置: cp * /usr/local /bin/ 4.运行: bam变成bed hadoop @Master :~/xubo/data/snap $ bamToBed -i datatest.sorted.bam datatest.sorted.bed 查看: hadoop @Master :~/xubo[详细]
-
基因数据处理42之mango问题_seqdict.avro不存在解决
所属栏目:[大数据] 日期:2021-03-11 热度:190
参考【1】中问题解决 问题分析:这是新版本的问题:adam0.19.1目前在maven中心仓库没有 解决办法: package org.gcdss.test import java.io.File import java.nio.file.Files import org.apache.parquet.hadoop.metadata.CompressionCodecName import org.ap[详细]
-
基因数据处理43之mango之503错误
所属栏目:[大数据] 日期:2021-03-11 热度:88
HTTP ERROR : 503 Problem accessing /. Reason : Service Unavailable Powered by Jetty :// 更详细请见: https://github.com/bigdatagenomics/mango/issues/181[详细]
-
推荐系统技术之文本相似性计算(三)
所属栏目:[大数据] 日期:2021-03-10 热度:129
今天这篇也比较长,但中间有部分是代码,7,8,9最后三节的信息我认为较为有用。 前面说了两篇了,推荐系统技术之文本相似性计算(一)和推荐系统技术 --- 文本相似性计算(二)分别介绍了 TFIDF 和向量空间的相关东西,然后介绍了 主题模型 ,这一篇我们就[详细]
-
趣图:论修电脑和当医生的相似性
所属栏目:[大数据] 日期:2021-03-10 热度:112
(点击 上方公众号 ,可快速关注) 既然喝水这么重要,今天来送个福利 ↓↓↓ 据路边社报道,水杯离你越近,喝水的频率将会越高。 借今天的趣图,来团一款方便携带的随手水杯。emoi 品牌,环保,外观设计简洁大方,手感也很不错。密封防漏做的好,可随身携带[详细]
-
[生产库实战] 如何合理的使用logmnr进行日志挖掘,并对生产库影
所属栏目:[大数据] 日期:2021-03-10 热度:59
Oracle Logmnr这个工具怎么用这里就不详细说,可以查看官方文档,网上的文档也一大堆,自己找吧。我这里就直接上干货了。 --创建Oracle目录 select * from dba_directories; create directory archivelog_dir as '/archivelog1/temp_archivelog/'; --grant r[详细]
-
基因数据处理44之cloud-scale-bwamem安装
所属栏目:[大数据] 日期:2021-03-10 热度:190
cloud-scale-bwamem是在spark等云环境上实现bwa-mem算法,加速对全基因组匹配的处理 1.下载: git clone https: //github.com/ytchen0323/cloud-scale-bwamem.git 2.编译: mvn clean package 3.编译成功: [INFO] ----------------------------------------[详细]
-
基因数据处理50之cs-bwamem、bwa、snap、bwa-mem与art比较
所属栏目:[大数据] 日期:2021-03-10 热度:157
直接看结果: (1)art仿真数据: hadoop @Master :~/cloud/adam/xubo/data/GRCH38Sub/cs-bwamem $ cat G38L100c50Nhs20 .aln ##ART_Illumina read_length 100 @CM art_illumina -ss HS20 -i GRCH38chr1L3556522 .fna -l 100 -c 50 -o G38L100c50Nhs20 -rs 1[详细]
-
基因数据处理45之cloud-scale-bwamem安装(compile.pl安装有问题
所属栏目:[大数据] 日期:2021-03-10 热度:57
脚本: hadoop @Master :~/xubo/tools/cloud-scale-bwamem $ cat compile.pl #! /usr/bin/perl system "mvn clean package" ;chdir "./src" ;system "mvn package -PotherOutputDir" ;chdir "./main/jni_fpga" ;system "mvn package -PotherOutputDir" ;chdi[详细]
-
基因数据处理47之ART基因序列数据生成器(仿真)
所属栏目:[大数据] 日期:2021-03-10 热度:116
1.概念: ART基因序列数据生成器 详细请见论文:【1】 和官网【2】 2.下载: ART-bin-GreatSmokyMountains-04.17.16-Linux64.tgz http://www.niehs.nih.gov/research/resources/assets/docs/artbingreatsmokymountains041716linux64tgz.tgz 3.配置 sudo cp到[详细]