〖课程介绍〗:

本课程专门为0基础学员而设计，共包括十个大阶段，从java基础开始，内容精准聚焦大数据开发过程中必备的离线数据分析、实时数据分析和内存数据计算等重要内容；涵盖了大数据体系中几乎所有的核心技术，包含Linux、Zookeeper、Hadoop、Redis、HDFS、MapReduce、Hive、Impala、Hu

含千亿级数据实战项目！！真枪实战

〖课程目录〗:

• 阶段一 : Java基础
• 编程基础
• DOS常用命令、Java概述、JDK环境安装配置、环境变量配置、Java程序入门
  常量与变量、数据类型、运算符、流程控制语句、方法、数组
• 面向对象入门
• 面向对象思想、类与对象、成员变量和局部变量、封装、 this关键字、构造方法
  Object类、Scanner类、Random类、String、StringBuilder类
  集合概述、集合特点、ArrayList集合
  字符输入流、字符输出流、字符缓冲输入流、字符缓冲输出流、 复制文件、集合与文件中数据相互读写
• 市场价值 : 具备JavaSE基本开发能力，但是还不能满足企业用人需求，可为后续JavaWeb的学习打下坚实基础
• 阶段二 : JavaWeb
• Java基础增强
• 类加载器、反射、网络编程、端口和协议、TCP协议、服务端、客户端、多线程、线程和进程、线程的生命周期、线程安全、代码同步、注解、JDK常用注解、自定义注解
• Java web 核心
• HTML、CSS、JavaSript、BootStrap
  MySQL数据库、MySQL单表操作、MySQL多表操作、MySQL事物、 MySQL存储引擎、JDBC、JDBCDataSource
  Tomcat、Http协议、servlet入门、Rquest、Response、JSP、MVC、 Cookie、Session、JSP、ETLJSTL、Filter、listener
  Jquery、Ajax、ajax跨域、分页
  Maven项目构建、管理、编译、仓库配置、 Git项目管理
• 市场价值 : 具备JavaWeb开发能力，但是还不能满足企业用人需求，可为后续学习框架打下坚实基础
• 阶段三 : 主流框架
• Spring 组件
• Spring简介、Spring配置文件、Spring配置数据源 、Spring注解开发、AOP简介、AOP的实现方式、JdbcTemplate基本使用、Spring的事务控制
• SpringMVC组件
• Spring集成web开发环境、SpringMVC简介、SpringMVC组件解析、SpringMVC的数据响应、SpringMVC的请求参数绑定、SpringMVC的文件上传、SpringMVC的拦截器 、SpringMVC的异常处理
• Mybatis组件
• Mybatis快速入门、Mybatis基本增删改查操作、Mybatis核心配置文件、Mybatis的dao层实现原理、Mybatis映射文件深入-动态SQL、Mybatis核心配置文件深入、Mybatis的多表操作、Mybatis注解开发、SSM整合
• 市场价值 : 对热门的框架和SOA架构应用，便可掌握项目的构建并能够搭建企业级JavaWeb项目，为后期的项目做铺垫
• 阶段四 ： 流行框架
• Lucene组件
• 全文检索基本介绍、lucene入门案例中文分析器索引库维护
• Spring Data JPA
• JPA的引入、JPA的入门案例主键生成策略、JPA的基本操作
• Spring Boot
• spring boot 介绍、spring boot 入门、spring boot 原理分析、 spring boot 配置文件
• 市场价值 : 前后端分离开发成为企业中软件架构的新宠儿，而掌握微服务框架的使用、项目环境快速部署的人才已被互联网企业所重视。所以适应现互联网开发环境，学习微服务框架成为企业新需人才必要条件。
• 阶段五 : 大数据基础增强
• linux操作基础
• 虚拟机的联网以及基础命令增强、linux的查找命令、linux的用户与用户组、linux的权限管理、linux系统服务管理、网络管理 、shell的变量定义、变量引用、算数运算符、流程控制语句、函数使用
• Jvm 优化
• 熟悉jvm 参数，visualVM 工具，垃圾回收原理， JVM字节码分析等等
• 市场价值 : 能够完成中小型企业常见的自动化脚本
• 阶段六 : 大数据Hadoop离线分布式系统
• 大数据基础和 硬件介绍
• 大数据集群基本环境准备、大数据集群环境的基础准备
• Hadoop 核心组件以及性能优化
• HDFS组件详解以及实战、mapreduce 组件详解以及性能优化、Yarn组件详解以及多租户的实现、hive组件实战以及性能优化、impala组件实战以及性能优化sqoop常见问题详解
• 辅助系统工具
• sqoop hue impala kudu oozie flume azkaban组件功能介绍、架构和原理、多个案例整合
• 网站流量日志分析项目
• 项目背景，日志埋点收集,数据预处理，数据入库，指标分析，统计分析，可视化
• 市场价值 : 本阶段匹配的工作岗位包括ETL工程师、任务调度工程师、Hive工程师、数据仓库工程师等。
• 阶段七 : 大数据 NoSQL、Kafka和ELK技术实战
• NoSQL、Kafka和ELK技术实战
• NoSQL介绍、Redis的原理和架构、 Redis的集群搭建、Hbase的应用场景、Hbase架构和原理以及RowKey设计和优化策略、HBase+Redis微博实战案例、Elasticsearch的功能、架构和原理以及ELK案例实战
• 市场价值 : 1、解决Hbase的RowKey高性能设计策略，满足业务的需求； 2、解决Hbase的性能瓶颈，解决业务问题对Hbase高性能的挑战； 3、解决企业里面海量数据实时传输的问题； 4、解决海量日志快速检索和监控问题。
• 阶段八 : 大数据 Spark 内存计算系统
• Scala语言基础
• Scala基础、声明变量、数据类型、条件表达式、块表达式、循环、方法和函数、数组、元组、集合、Iterator、构造器、伴生对象、akka
• Spark入门以及集群搭建
• Spark集群环境搭建，spark入门程序，RDD入门
• SparkRDD
• Spark的应用场景、架构和原理、入门案例、Spark Session讲解、RDD的概念和特性、Transformation RDD讲解、Action RDD讲解、Partition、Task、RDD的依赖关系、RDD的容错机制、RDD的存储级别、RDD的缓存机制、RDD的广播操作、DAG思想、DAG的生成、DAG的处理过程、运行机制、Driver和Executor
• Spark SQL
• Spark SQL功能介绍、DataFrame、DataSet、RDD、Dataset和DataFrame的转换、读写Hive表数据、读写HDFS的数据、DataFrame的API操作、读取文件(txt、CSV、Json、parquet)、临时表、读写RDBMS、Spark SQL执行计划、Spark SQL的性能优化
• SparkStreaming原理_运行过程_特性
• sparkstring的功能介绍,架构，流计算Dstream运行原理
• Structured Streaming_介绍_案例
• Structured String的功能介绍、input功能、output功能、window操作、watermark操作、过期数据操作、去重数据操作、整合Socket数据、整合Kafka数据、OutputModel(Append\complete\update)功能、Flume+kafka+Structured Streaming实现用户访问行为的实时分析
• DMP项目
• Kudu应用场景,项目介绍, Kudu原理，cdh环境搭建,kudu整合spark开发，项目框架搭建,报表统计,商圈库功能。
• 市场价值 : 可从事Spark相关工作，包括ETL工程师、Spark工程师、Hbase工程师、用户画像系统工程师、大数据反欺诈工程师。
• 阶段九 : 大数据 Flink 实时计算系统
• Flink基础介绍
• Flink的运行机制、Flink组件和逻辑计划、Flink执行计划生成、JobManager中的基本组件、TaskManager、算子、网络、水印WaterMark、任务调度
• flink进阶
• flink的状态管理、CheckPoint、flinksql及flinkTableApi
• Flink电商指标分析项目
• 上报服务系统开发、Flink实时数据分析系统开发、实时频道热点分析业务开发、实时频道PV/UV分析、实时频道用户新鲜度分析、实时频道地域分析业务开发、实时运营商分析业务开发、实时数据同步系统、Canal数据采集平台
• 市场价值 : 目前Flink在大型互联网公司使用的的广泛，在传统行业Flink目前也是处在一个爆发的阶段。
• 阶段十 : 大数据新技术实战详解
• Druid
• Druid应用场景、集群搭建、数据加载、重要概念、架构及原理、数据查询、元数据、实时应用案例
• 市场价值 : Druid目前人才需求量在不断的增加
• 阶段十一 : 机器学习（ 选修 ）
• 机器学习概念入门
• 1.基本概念：属性、属性的度量、属性类型、数据集类型、数据集的特性、训练集、测试集、特征值、监督学习、非监督学习、半监督学习等概念
  2.数据的预处理：聚集、抽样、维度规约、特征子集选择、特征创建、离散化和二元化、变量变换
  3.模型的评估：模型的过分拟合(过拟合)，欠拟合，评估分类器的性能(交叉验证和自助法)，模型评估方法、损失函数和风险函数、参数优化等，模型复杂度(奥卡姆剃刀)4.机器学习处理的一般流程分析
• 机器学习数学基础
• 初等数学基础、函数求导以及链式求导法则、方向导数、梯度、泰勒级数、 拉格朗日乘子法、线性代数与矩阵、特征值与特征向量、概率分析、 极大似然估计、梯度下降法代码实践、牛顿法代码实战、 矩阵分解实战(SVD,PCA,QR)
• 机器学习语言基础之Python语言
• 基础数据类型、list/tuple/dict/set、列表推导式、生成器推导式、 lambda函数、控制语句、文件读写、异常处理分析、面向对象编程、 GUI编程、Python基础项目实践
• Python数据分析库实战
• Numpy矩阵运算库基础及实战、Scipy数值运算库基础及实战、 Matplotlib绘图库基础及实战、Seaborn绘图库基础及实战、 Pandas数据分析库基础及实战
• Spark机器学习库实战
• SparkML和SparkMLLIB区别、Spark机器学习基础、Pipeline管道、 特征抽取(TF-IDF、Word2Vec、CountVectorizer）、特征转换(Tokenizer、 PCA、N-gram、DCT、one-hot、MinMaxScaler、Normalizer、SqlTransformer、VectorAssembler)、特征选择(VectorSlicer、RFormula、 ChiSqSelector)
• 机器学习算法之用户标签预测项目实战
• 用户画像标签预测实战、KNN、KMeans、决策树算法模型(ID3、C4.5、 Cart树)、集成学习算法(Bagging、随机森林、Adaboost算法、GBDT算法、 XGBOOST算法、LightGBM算法模型)、人才流失模型项目实战
• 机器学习算法之推荐系统实战
• 基于记忆的CF实战(Surprise库实战)、基于模型的CF实战(SparkALS实战)、 基于Native-Bayes分类算法实战、基于内容推荐(jieba分词、提取词向量、 文本分类、特征聚类)、关联挖掘算法实战(基于Spark的FP-Growth算法实战)、推荐项目实战
• 机器学习算法之CTR点击率预估实战
• 特征工程实战、CTR点击率预估应用场景分析、 逻辑斯特回归算法理论基础推导及项目实战、推荐系统指标分析、 推荐系统架构分析、基于Wideanddeep模型理论及实战(学会读学术Paper)
• 机器学习算法之深度学习基础及图片分类实战
• 神经网络和深度学习基础、MP神经元模型、感知机模型、BPNN模型实战、 CNN模型实战图像识别、Tensorflow基础、电影评论文本分析、 RNN文本情感分析实战
• 市场价值 : 可从事机器学习、数据挖掘等相关工作，包括推荐算法工程师、数据挖掘工程师、机器学习工程师，填补人工智能领域人才急剧增长缺口。
• 阶段十二 : 云计算（ 选修 ）
• 虚拟化
• hypervisor管理类工具、QEMU、KVM、QEMU-KVM、libvirt、虚拟化技术概述，Xen、VMware、KVM虚拟化对比与实践
• 公有云（阿里云）
• 公有云概述、阿里云应用实战
• 私有云运维（OpenStack)
• Openstack概述，OpenStack组件功能介绍，OpenStack安装与配置，OpenStack私有云运维实战;
• 容器Docker+监控
• Docker概述，Docker部署，Docker容器，Docker镜像仓库该学科热门课程
• Kubernetes概述、Kubernetes安装与部署、Docker+Kubernetes集群实战
• 市场价值 : 熟练掌握和学习后，可满足Linux云计算架构工程师的需求。