一、Scala编程详解： 第1讲-Spark的前世今生 第2讲-课程介绍、特色与价值 第3讲-Scala编程详解：基础语法 第4讲-Scala编程详解：条件控制与循环 第5讲-Scala编程详解：函数入门 第6讲-Scala编程详解：函数入门之默认参数和带名参数 第7讲-Scala编程详解：函数入门之变长参数 第8讲-Scala编程详解：函数入门之过程、lazy值和异常 第9讲-Scala编程详解：数组操作之Array、ArrayBuffer以及遍历数组 第10讲-Scala编程详解：数组操作之数组转换 第11讲-Scala编程详解：Map与Tuple 第12讲-Scala编程详解：面向对象编程之类 第13讲-Scala编程详解：面向对象编程之对象 第14讲-Scala编程详解：面向对象编程之继承 第15讲-Scala编程详解：面向对象编程之Trait 第16讲-Scala编程详解：函数式编程 第17讲-Scala编程详解：函数式编程之集合操作 第18讲-Scala编程详解：模式匹配 第19讲-Scala编程详解：类型参数 第20讲-Scala编程详解：隐式转换与隐式参数 第21讲-Scala编程详解：Actor入门 二、课程环境搭建： 第22讲-课程环境搭建：CentOS 6.5集群搭建 第23讲-课程环境搭建：Hadoop 2.4.1集群搭建 第24讲-课程环境搭建：Hive 0.13搭建 第25讲-课程环境搭建：ZooKeeper 3.4.5集群搭建 第26讲-课程环境搭建：kafka_2.9.2-0.8.1集群搭建 第27讲-课程环境搭建：Spark 1.3.0集群搭建 三、Spark核心编程： 第28讲-Spark核心编程：Spark基本工作原理与RDD 第29讲-Spark核心编程：使用Java、Scala和spark-shell开发wordcount程序 第30讲-Spark核心编程：wordcount程序原理深度剖析 第31讲-Spark核心编程：Spark架构原理 第32讲-Spark核心编程：创建RDD实战（集合、本地文件、HDFS文件） 第33讲-Spark核心编程：操作RDD实战（transformation和action案例实战） 第34讲-Spark核心编程：transformation操作开发案例实战 第35讲-Spark核心编程：action操作开发案例实战 第36讲-Spark核心编程：RDD持久化详解 第37讲-Spark核心编程：共享变量（Broadcast Variable和Accumulator） 第38讲-Spark核心编程：高级编程之基于排序机制的wordcount程序 第39讲-Spark核心编程：高级编程之二次排序实战 第40讲-Spark核心编程：高级编程之topn与分组取topn实战 四、Spark内核源码深度剖析： 第41讲-Spark内核源码深度剖析：Spark内核架构深度剖析 第42讲-Spark内核源码深度剖析：宽依赖与窄依赖深度剖析 第43讲-Spark内核源码深度剖析：基于Yarn的两种提交模式深度剖析 第44讲-Spark内核源码深度剖析：SparkContext初始化原理剖析与源码分析 第45讲-Spark内核源码深度剖析：Master主备切换机制原理剖析与源码分析 第46讲-Spark内核源码深度剖析：Master注册机制原理剖析与源码分析 第47讲-Spark内核源码深度剖析：Master状态改变处理机制原理剖析与源码分析 第48讲-Spark内核源码深度剖析：Master资源调度算法原理剖析与源码分析 第49讲-Spark内核源码深度剖析：Worker原理剖析与源码分析 第50讲-Spark内核源码深度剖析：Job触发流程原理剖析与源码分析 第51讲-Spark内核源码深度剖析：DAGScheduler原理剖析与源码分析（stage划分算法与task最佳位置算法） 第52讲-Spark内核源码深度剖析：TaskScheduler原理剖析与源码分析（task分配算法） 第53讲-Spark内核源码深度剖析：Executor原理剖析与源码分析 第54讲-Spark内核源码深度剖析：Task原理剖析与源码分析 第55讲-Spark内核源码深度剖析：Shuffle原理剖析与源码分析（普通Shuffle与优化后的Shuffle） 第56讲-Spark内核源码深度剖析：BlockManager原理剖析与源码分析（Spark底层存储机制） 第57讲-Spark内核源码深度剖析：CacheManager原理剖析与源码分析 第58讲-Spark内核源码深度剖析：Checkpoint原理剖析与源码分析 五、Spark性能优化： 第59讲-Spark性能优化：性能优化概览 第60讲-Spark性能优化：诊断内存的消耗 第61讲-Spark性能优化：高性能序列化类库 第62讲-Spark性能优化：优化数据结构 第63讲-Spark性能优化：对多次使用的RDD进行持久化或Checkpoint 第64讲-Spark性能优化：使用序列化的持久化级别 第65讲-Spark性能优化：Java虚拟机垃圾回收调优 第66讲-Spark性能优化：提高并行度 第67讲-Spark性能优化：广播共享数据 第68讲-Spark性能优化：数据本地化 第69讲-Spark性能优化：reduceByKey和groupByKey 第70讲-Spark性能优化：shuffle性能优化 六、Spark SQL： 第71讲-课程环境搭建：Spark 1.5.1新版本特性、源码编译、集群搭建 第72讲-Spark SQL：前世今生 第73讲-Spark SQL：DataFrame的使用 第74讲-Spark SQL：使用反射方式将RDD转换为DataFrame 第75讲-Spark SQL：使用编程方式将RDD转换为DataFrame 第76讲-Spark SQL：数据源之通用的load和save操作 第77讲-Spark SQL：Parquet数据源之使用编程方式加载数据 第78讲-Spark SQL：Parquet数据源之自动分区推断 第79讲-Spark SQL：Parquet数据源之合并元数据 第80讲-Spark SQL：JSON数据源复杂综合案例实战 第81讲-Spark SQL：Hive数据源复杂综合案例实战 第82讲-Spark SQL：JDBC数据源复杂综合案例实战 第83讲-Spark SQL：内置函数以及每日uv和销售额统计案例实战 第84讲-Spark SQL：开窗函数以及top3销售额统计案例实战 第85讲-Spark SQL：UDF自定义函数实战 第86讲-Spark SQL：UDAF自定义聚合函数实战 第87讲-Spark SQL：工作原理剖析以及性能优化 第87讲-Spark SQL：与Spark Core整合之每日top3热点搜索词统计案例实战 第87讲-Spark SQL：核心源码深度剖析（DataFrame lazy特性、Optimizer优化策略等） 第87讲-Spark SQL：延伸知识之Hive On Spark 七、Spark Streaming： 第88讲-Spark Streaming：大数据实时计算介绍 第89讲-Spark Streaming：DStream以及基本工作原理 第90讲-Spark Streaming：与Storm的对比分析 第91讲-Spark Streaming：实时wordcount程序开发 第92讲-Spark Streaming：StreamingContext详解 第93讲-Spark Streaming：输入DStream和Receiver详解 第94讲-Spark Streaming：输入DStream之基础数据源以及基于HDFS的实时wordcount案例实战 第95讲-Spark Streaming：输入DStream之Kafka数据源实战（基于Receiver的方式） 第96讲-Spark Streaming：输入DStream之Kafka数据源实战（基于Direct的方式） 第97讲-Spark Streaming：DStream的transformation操作概览 第98讲-Spark Streaming：updateStateByKey以及基于缓存的实时wordcount案例实战 第99讲-Spark Streaming：transform以及广告计费日志实时黑名单过滤案例实战 第100讲-Spark Streaming：window滑动窗口以及热点搜索词滑动统计案例实战 第101讲-Spark Streaming：DStream的output操作以及foreachRDD性能优化详解 第102讲-Spark Streaming：与Spark SQL结合使用之top3热门商品实时统计案例实战 第103讲-Spark Streaming：缓存与持久化机制详解 第104讲-Spark Streaming：Checkpoint机制详解（Driver高可靠方案详解） 第105讲-Spark Streaming：部署、升级和监控实时应用程序 第106讲-Spark Streaming：容错机制以及事务语义详解 第107讲-Spark Streaming：架构原理深度剖析 第108讲-Spark Streaming：StreamingContext初始化与Receiver启动原理剖析与源码分析 第109讲-Spark Streaming：数据接收原理剖析与源码分析 第110讲-Spark Streaming：数据处理原理剖析与源码分析（block与batch关系透彻解析） 第111讲-Spark Streaming：性能调优详解 第112讲-课程总结（学到了什么？达到了什么水平？） Spark开发进阶(升级内容！) 一、Scala编程进阶： 第113讲-Scala编程进阶：Scaladoc的使用 第114讲-Scala编程进阶：跳出循环语句的3种方法 第115讲-Scala编程进阶：多维数组、Java数组与Scala数组的隐式转换 第116讲-Scala编程进阶：Tuple拉链操作、Java Map与Scala Map的隐式转换 第117讲-Scala编程进阶：扩大内部类作用域的2种方法、内部类获取外部类引用 第118讲-Scala编程进阶：package与import实战详解 第119讲-Scala编程进阶：重写field的提前定义、Scala继承层级、对象相等性 第120讲-Scala编程进阶：文件操作实战详解 第121讲-Scala编程进阶：偏函数实战详解 第122讲-Scala编程进阶：执行外部命令 第123讲-Scala编程进阶：正则表达式支持 第124讲-Scala编程进阶：提取器实战详解 第125讲-Scala编程进阶：样例类的提取器实战详解 第126讲-Scala编程进阶：只有一个参数的提取器 第127讲-Scala编程进阶：注解实战详解 第128讲-Scala编程进阶：常用注解介绍 第129讲-Scala编程进阶：XML基础操作实战详解 第130讲-Scala编程进阶：XML中嵌入scala代码 第131讲-Scala编程进阶：XML修改元素实战详解 第132讲-Scala编程进阶：XML加载和写入外部文档 第133讲-Scala编程进阶：集合元素操作 第134讲-Scala编程进阶：集合的常用操作方法 第135讲-Scala编程进阶：map、flatMap、collect、foreach实战详解 第136讲-Scala编程进阶：reduce和fold实战详解 二、Spark核心编程进阶： 第137讲-环境搭建-CentOS 6.4虚拟机安装 第138讲-环境搭建-Hadoop 2.5伪分布式集群搭建 第139讲-环境搭建-Spark 1.5伪分布式集群搭建 第140讲-第一次课程升级大纲介绍以及要点说明 第141讲-Spark核心编程进阶-Spark集群架构概览 第142讲-Spark核心编程进阶-Spark集群架构的几点特别说明 第143讲-Spark核心编程进阶-Spark的核心术语讲解 第144讲-Spark核心编程进阶-Spark Standalone集群架构 第145讲-Spark核心编程进阶-单独启动master和worker脚本详解 第146讲-Spark核心编程进阶-实验：单独启动master和worker进程以及启动日志查看 第147讲-Spark核心编程进阶-worker节点配置以及spark-evn.sh参数详解 第148讲-Spark核心编程进阶-实验：local模式提交spark作业 第149讲-Spark核心编程进阶-实验：standalone client模式提交spark作业 第150讲-Spark核心编程进阶-实验：standalone cluster模式提交spark作业 第151讲-Spark核心编程进阶-standalone模式下的多作业资源调度 第152讲-Spark核心编程进阶-standalone模式下的作业监控与日志记录 第153讲-Spark核心编程进阶-实验：运行中作业监控以及手工打印日志 第154讲-Spark核心编程进阶-yarn-client模式原理讲解 第155讲-Spark核心编程进阶-yarn-cluster模式原理讲解 第156讲-Spark核心编程进阶-实验：yarn-client模式提交spark作业 第157讲-Spark核心编程进阶-yarn模式下日志查看详解 第158讲-Spark核心编程进阶-yarn模式相关参数详解 第159讲-Spark核心编程进阶-spark工程打包以及spark-submit详解 第160讲-Spark核心编程进阶-spark-submit示例以及基础参数讲解 第161讲-Spark核心编程进阶-实验：spark-submit简单版本提交spark作业 第162讲-Spark核心编程进阶-实验：spark-submit给main类传递参数 第163讲-Spark核心编程进阶-spark-submit多个示例以及常用参数详解 第164讲-Spark核心编程进阶-SparkConf、spark-submit以及spark-defaults.conf 第165讲-Spark核心编程进阶-spark-submit配置第三方依赖 第166讲-Spark核心编程进阶-spark算子的闭包原理详解 第167讲-Spark核心编程进阶-实验：对闭包变量进行累加操作的无效现象 第168讲-Spark核心编程进阶-实验：在算子内打印数据的无法看到现象 第169讲-Spark核心编程进阶-mapPartitions以及学生成绩查询案例 第170讲-Spark核心编程进阶-mapPartitionsWithIndex以开学分班案例 第171讲-Spark核心编程进阶-sample以及公司年会抽奖案例 第172讲-Spark核心编程进阶-union以及公司部门合并案例 第173讲-Spark核心编程进阶-intersection以及公司跨多项目人员查询案例 第174讲-Spark核心编程进阶-distinct以及网站uv统计案例 第175讲-Spark核心编程进阶-aggregateByKey以及单词计数案例 第176讲-Spark核心编程进阶-cartesian以及服装搭配案例 第177讲-Spark核心编程进阶-coalesce以及公司部门整合案例 第178讲-Spark核心编程进阶-repartition以及公司新增部门案例 第179讲-Spark核心编程进阶-takeSampled以及公司年会抽奖案例 第180讲-Spark核心编程进阶-shuffle操作原理详解 第181讲-Spark核心编程进阶-shuffle操作过程中进行数据排序 第182讲-Spark核心编程进阶-会触发shuffle操作的算子 第183讲-Spark核心编程进阶-shuffle操作对性能消耗的原理详解 第184讲-Spark核心编程进阶-shuffle操作所有相关参数详解以及性能调优 第185讲-Spark核心编程进阶-综合案例1：移动端app访问流量日志分析 第186讲-Spark核心编程进阶-综合案例1：日志文件格式分析 第187讲-Spark核心编程进阶-综合案例1：读取日志文件并创建RDD 第188讲-Spark核心编程进阶-综合案例1：创建自定义的可序列化类 第189讲-Spark核心编程进阶-综合案例1：将RDD映射为key-value格式 第190讲-Spark核心编程进阶-综合案例1：基于deviceID进行聚合操作 第191讲-Spark核心编程进阶-综合案例1：自定义二次排序key类 第192讲-Spark核心编程进阶-综合案例1：将二次排序key映射为RDD的key 第193讲-Spark核心编程进阶-综合案例1：执行二次排序以及获取top10数据 第194讲-Spark核心编程进阶-综合案例1：程序运行测试以及代码调试 第195讲-Spark核心编程进阶-部署第二台CentOS机器 第196讲-Spark核心编程进阶-部署第二个Hadoop节点 第197讲-Spark核心编程进阶-将第二个Hadoop节点动态加入集群 第198讲-Spark核心编程进阶-使用yarn-client和yarn-cluster提交spark作业 三、Spark内核原理进阶： 第199讲-Spark内核原理进阶-union算子内部实现原理剖析 第200讲-Spark内核原理进阶-groupByKey算子内部实现原理剖析 第201讲-Spark内核原理进阶-reduceByKey算子内部实现原理剖析 第202讲-Spark内核原理进阶-distinct算子内部实现原理剖析 第203讲-Spark内核原理进阶-cogroup算子内部实现原理剖析 第204讲-Spark内核原理进阶-intersection算子内部实现原理剖析 第205讲-Spark内核原理进阶-join算子内部实现原理剖析 第206讲-Spark内核原理进阶-sortByKey算子内部实现原理剖析 第207讲-Spark内核原理进阶-cartesian算子内部实现原理剖析 第208讲-Spark内核原理进阶-coalesce算子内部实现原理剖析 第209讲-Spark内核原理进阶-repartition算子内部实现原理剖析 四、Spark SQL实战开发进阶： 第210讲-Spark SQL实战开发进阶-Hive 0.13安装与测试 第211讲-Spark SQL实战开发进阶-Thrift JDBC、ODBC Server 第212讲-Spark SQL实战开发进阶-CLI命令行使用 第213讲-Spark SQL实战开发进阶-综合案例2：新闻网站关键指标离线统计 第214讲-Spark SQL实战开发进阶-综合案例2：页面pv统计以及排序和企业级项目开发流程说明 第215讲-Spark SQL实战开发进阶-综合案例2：页面uv统计以及排序和count(distinct) bug说明 第216讲-Spark SQL实战开发进阶-综合案例2：新用户注册比例统计 第217讲-Spark SQL实战开发进阶-综合案例2：用户跳出率统计 第218讲-Spark SQL实战开发进阶-综合案例2：版块热度排行榜统计 第219讲-Spark SQL实战开发进阶-综合案例2：测试与调试 五、Spark Streaming实战开发进阶： 第220讲-Spark Streaming实战开发进阶-flume安装 第221讲-Spark Streaming实战开发进阶-接收flume实时数据流-flume风格的基于push的方式 第222讲-Spark Streaming实战开发进阶-接收flume实时数据流-自定义sink的基于poll的方式 第223讲-Spark Streaming实战开发进阶-高阶技术之自定义Receiver 第224讲-Spark Streaming实战开发进阶-kafka安装 第225讲-Spark Streaming实战开发进阶-综合案例3：新闻网站关键指标实时统计 第226讲-Spark Streaming实战开发进阶-综合案例3：页面pv实时统计 第227讲-Spark Streaming实战开发进阶-综合案例3：页面uv实时统计 第228讲-Spark Streaming实战开发进阶-综合案例3：注册用户数实时统计 第229讲-Spark Streaming实战开发进阶-综合案例3：用户跳出量实时统计 第230讲-Spark Streaming实战开发进阶-综合案例3：版块pv实时统计