-
全国高校R语言大数据分析与机器学习研修班
所属栏目:[大数据] 日期:2021-01-08 热度:62
(培训采用案例教学方式,因选用案例较多,大纲中不一一罗列)[详细]
-
[bigdata-001] mysql 5.7 由于安全问题不能导出数据的解决方式
所属栏目:[大数据] 日期:2021-01-08 热度:91
1. create user 'b1'@'localhost' identified by 'b1'; grant all privileges on *.* to 'b1'@'localhost' identified by 'b1'; 2. select oid into outfile '/home/brian/xxx.csv' from android_user_event_sorted; ERROR 1290 (HY000): The MySQL server[详细]
-
[bigdata-002]python3 以get方式获取json的api
所属栏目:[大数据] 日期:2021-01-08 热度:86
1. server.py #!/usr/bin/env python3#-*- coding:utf-8 -*-import osimport jsonimport picklefrom flask import Flask,request,render_template,jsonify,make_response,url_forfrom impala.dbapi import connect#flask appapp = Flask(__name__)@app.rou[详细]
-
[bigdata-002]python3 +flask 以post方式获取json的api
所属栏目:[大数据] 日期:2021-01-08 热度:160
1. server.py #!/usr/bin/env python3#-*- coding:utf-8 -*-import osimport jsonimport picklefrom flask import Flask,request,render_template,jsonify,make_response,url_forfrom impala.dbapi import connect#flask appapp = Flask(__name__)@app.rou[详细]
-
[bigdata-003]在cdh 5.7下 用sqoop1将mysql数据库数据导入到hdfs
所属栏目:[大数据] 日期:2021-01-08 热度:56
1. 假设,myql安装在bigdata2上。我们要在bigdata3上执行sqoop1。 2. 首先,要在mysql上创建一个'b3'@'%'的账户,这个账户限定只能从外部ip地址访问mysql。 3. 在bigdata3上做如下操作 http://www.cloudera.com/documentation/enterprise/5-7-x/topics/cdh[详细]
-
挖掘微信Web版通信的全过程
所属栏目:[大数据] 日期:2021-01-08 热度:195
昨天是周末,在家闲得无聊,于是去weiphone.com逛了一圈,偶然发现有人发了一帖叫《微信 for Mac》,这勾起了我的好奇心,国内做Mac开发的人确实很少,对于那些能够独自开发一些Mac第三方工具的开发者我都表示很敬畏,于是点进去看了一个究竟,如果你们好[详细]
-
[bigdata-004]CDH Impala的应用场景
所属栏目:[大数据] 日期:2021-01-08 热度:160
可以将Impala视为改进版的Hive。 两者都使用SQL语言,且Imapal的SQL是Hive SQL的子集。 Hive慢,Impala快,测试的结果是,常规问题上,Impala比Hive快十倍。有了Impala,Hive就可以不用了。 Impala没有索引。这是一个非常显著的特征,没有索引,就不能快速[详细]
-
LightOJ1214 Large Division (大数求余,同余定理)
所属栏目:[大数据] 日期:2021-01-08 热度:125
Given two integers,a and b,you should check whether a is divisible by b or not. We know that an integer a is divisible by an integer b if and only if there exists an integer c such that a = b * c. Input Input starts with an integer T (≤[详细]
-
算法提高 大数加法
所属栏目:[大数据] 日期:2021-01-02 热度:153
问题描述 输入两个正整数a,b,输出a+b的值。 输入格式 两行,第一行a,第二行b。a和b的长度均小于1000位。 输出格式 一行,a+b的值。 样例输入 4 2 样例输出 6 #includestdio.h#includestring.hvoid fun(int n,int sum[]){int temp,i;for(i=0;in;i++){temp[详细]
-
[bigdata-031] python3+selenium 做抓取
所属栏目:[大数据] 日期:2021-01-02 热度:165
1. 安装 1.1 pip3 install -U selenium 1.2 下载 https://github.com/mozilla/geckodriver/releases/download/v0.13.0/geckodriver-v0.13.0-linux64.tar.gz? 解压缩,然后放到/usr/bin目录 2. 抓取豆瓣 #!/usr/bin/env python3#!-*- coding:utf-8 -*-impor[详细]
-
logminer挖掘
所属栏目:[大数据] 日期:2021-01-02 热度:181
1.???? Logminer介绍 LogMiner 是Oracle公司从产品8i以后提供的一个实际非常有用的分析工具,使用该工具可以轻松获得Oracle 重做日志文件(归档日志文件)中的具体内容,LogMiner分析工具实际上是由一组PL/SQL包和一些动态视图组成,它作为Oracle数据库的[详细]
-
[bigdata-005] 用docker搭建oracle 11g并提供python3 开发
所属栏目:[大数据] 日期:2021-01-02 热度:121
参考资料 http://www.bubuko.com/infodetail-401514.html 1. docker上的oracle 11g https://hub.docker.com/r/alexeiled/docker-oracle-xe-11g/ 安装和启动命令: 1.1 docker pull alexeiled/docker-oracle-xe-11g 1.2 docker run --name dck-oracle-11g -[详细]
-
[bigdata-006] 工作流 tez和oozie
所属栏目:[大数据] 日期:2021-01-02 热度:181
1.? 基本状况 Tez是Hortonworks开发的。 董西成的分析 http://dongxicheng.org/mapreduce-nextgen/apache-tez/ http://zh.hortonworks.com/blog/introducing-tez-faster-hadoop-processing/ tez运行在Yarn上的,DAG工作流,底层设计,对Map和Reduce进一步[详细]
-
HDoj1047Integer Inquiry(大数连续相加)
所属栏目:[大数据] 日期:2021-01-02 热度:108
Integer Inquiry Time Limit: 2000/1000 MS (Java/Others)????Memory Limit: 65536/32768 K (Java/Others) Total Submission(s): 19438????Accepted Submission(s): 5087 Problem Description One of the first users of BIT's new supercomputer was Chip[详细]
-
读取csv数据并保存成图像
所属栏目:[大数据] 日期:2021-01-02 热度:83
int main(int argc,char* argv[]){ifstream file("******.csv");string value;int i = 0;int j = 0;while (file.good()){getline(file,value,'n');//cout string(value,value.length()) endl;if (i 0){value.erase(0,2);value.erase(value.length() - 9);[详细]
-
几种大数阶乘算法效率比较(Java)
所属栏目:[大数据] 日期:2021-01-02 热度:175
完整代码: package bigdatamul;import java.math.BigInteger;/** * 大数阶乘 * * @Description: TODO(大数阶乘) * * @author yzy * @date 2016-12-20 上午9:31:14 * */public class Test { public static void main(String[] args) { //单位:ms //fun1(5[详细]
-
报告一:知识工程与大数据分析
所属栏目:[大数据] 日期:2021-01-02 热度:77
报告一:知识工程与大数据分析 报告人:漆桂林博士,东南大学教授 主要内容:知识工程是人工智能的重要分支之一,知识的获取和基于知识的推理能力是人类高级智能的体现。知识工程涉及到机器学习、知识表示与推理、自然语言处理和数据存储等技术。本报告将[详细]
-
数据处理之one-hot
所属栏目:[大数据] 日期:2021-01-02 热度:144
分类方法,通常需要把数据的各个属性转换为一个向量表示,这样每条数据的特征就是一个向量,向量上的每个维度就表示了一个特征属性。 但是如果要转换的数据包含了3种属性,比如身高,体重,年龄。A是女,168cm,70kg,30岁;B是男,180cm,90kg,20岁,那么[详细]
-
米斯特白帽培训讲义 挖掘篇 厂商寻找
所属栏目:[大数据] 日期:2021-01-02 热度:132
米斯特白帽培训讲义 挖掘篇 厂商寻找 讲师:gh0stkey 整理:飞龙 协议:CC BY-NC-SA 4.0 厂商是什么 厂商可以是一个网站(Web 应用),或者一段程序(PC、移动应用)。从白帽子的角度来说,两个都是厂商,都可以挖掘。 基于漏洞平台的寻找 现在国内有三大[详细]
-
七牛数据处理再添新兵——图片瘦身
所属栏目:[大数据] 日期:2021-01-02 热度:68
副标题#e# 我们现在已经很难想象,图片的出现,竟然只是作为分割文字和缓解疲劳的工具。 随着智能手机的普及,以及像 in、nice 这样以分享图片为主的应用的流行,人们记录生活、分享感悟的方式不再局限于文字,而是逐渐被拍照取代,拍照也不需要那么刻意为[详细]
-
[bigdata-007] Hortonworks HDF搭建流程
所属栏目:[大数据] 日期:2021-01-02 热度:179
1. hdf docker搭建 1.1 hdf的镜像xemuliam/hdf 镜像链接 https://hub.docker.com/r/xemuliam/hdf/ 下载镜像: docker pull xemuliam/hdf 1.2 创建容器 docker run --name dck-hdf-8080 -p 8080:8080 -d xemuliam/hdf 1.3 进入容器bash交互 docker exec -it[详细]
-
BI工具选型指标,如何选择好的BI工具
所属栏目:[大数据] 日期:2021-01-02 热度:123
随着信息化的发展,越来越多的企业将商业智能BI的部署列入了企业信息化建设的下期目标,BI市场需求的日益旺盛,也催生了BI厂商激烈的市场竞争,带动了国内BI工具技术的发展及成熟。 那么作为一个正在或者即将要进行BI工具选型的企业,面对百花齐放的BI市场[详细]
-
如何正确理解商业智能(BI)?
所属栏目:[大数据] 日期:2021-01-02 热度:143
为了让读者更加清晰地把BI与MIS系统区别开来,本文讨论了BI与DSS(决策支持系统)、EIS(经理执行系统)的主要区别。最后,本文分析了制约BI健康发展的若干因素。 引言 ??? 商业智能(BI)是目前在国外企业界和软件开发界受到广泛关注的一个研究方向。可以[详细]
-
BI选型流程建议
所属栏目:[大数据] 日期:2021-01-02 热度:100
一、成立选型小组 ? ? ? ? 成立选型小组是企业确定进行软件选型所需要做的第一步。选型小组将负责整个软件选型过程的执行。选型小组成员至少包括公司副总以上领导一名、 CIO 一名、业务负责人一名。 二、评估需求 ? ? ? ?评估需求是指企业成立BI选型小组之[详细]
-
BI离不了报表
所属栏目:[大数据] 日期:2021-01-02 热度:76
前不久写了一篇文章:报表?VS BI,指出,报表不等于BI。这几天碰到一个客户,让我不得不说出另外的一句话,那就是,BI离不了报表。 ? ? ??演示中,客户的领导发表意见:你们这个还是报表,我们要的不是报表。比如库存,不同的地方的库存标准是不一样的,有[详细]