2米资源网

VIP
新一代大数据计算引擎  Flink从入门到实战

【7705】-新一代大数据计算引擎 Flink从入门到实战

  • 本站均为资源介绍,仅限用于学习和研究,不得将上述内容用于商业或者非法用途,
  • 否则一切后果请用户自负。您必须在下载后的24个小时之内,从您的电脑中彻底删除
  • 如果喜欢该资源请支持正版。如发现本站有侵权违法内容,请联系后查实将立刻删除。
  • 资源简介:新一代大数据计算引擎 Flink从入门到实战
  • 详细描述

    新一代大数据计算引擎  Flink从入门到实战


    第1章 初识Flink
     
    了解Flink是什么,Flink应用程序运行的多样化,对比业界常用的流处理框架,Flink的发展趋势,Flink生态圈,Flink应用场景及Flink如何进行高效的Flink学习。
     
     1-1 课程导学 
     1-2 ***学前必读***(助你平稳踩坑,畅学无忧,课程学习与解决问题指南)
     1-3 课程目录
     1-4 Flink概述 
     1-5 Flink Layered API
     1-6 Flink运行多样化
     1-7 业界流处理框架对比
     1-8 Flink Use Cases
     1-9 Flink发展趋势
     1-10 如何以正确的姿势来学习Flink
    第2章 快速上手开发第一个Flink应用程序
     
    动手搭建Flink的开发环境,快速使用Java和Scala语言开发第一个基于Flink的批处理和流式处理的应用程序。
     
     2-1 课程目录
     2-2 开发环境准备之JDK安装
     2-3 开发环境准备之Maven安装
     2-4 开发环境准备之IDEA安装
     2-5 Flink批处理应用开发之需求描述
     2-6 Flink批处理应用Java开发之环境准备
     2-7 Flink批处理应用开发之八股文编程
     2-8 Flink批处理应用Java开发之功能实现 
     2-9 Flink批处理应用Scala开发之环境准备
     2-10 Flink批处理应用Scala开发之功能实现
     2-11 使用Java和Scala开发Flink应用程序对比
     2-12 Flink实时处理应用Java开发之功能实现
     2-13 Flink实时处理应用Java开发之代码重构
     2-14 Flink实时处理应用Scala开发之代码重构
     2-15 开发过程中依赖的注意事项
    第3章 编程模型及核心概念
     
    掌握Flink的核心概念及编程模型,如何在编程中执行key及转换函数,Flink支持的数据类型。
     
     3-1 课程目录
     3-2 核心概念概述
     3-3 DataSet和DataStream
     3-4 Flink编程模型
     3-5 延迟执行
     3-6 指定key之Tuple
     3-7 指定key之字段表达式
     3-8 指定key之key选择器函数
     3-9 指定转换函数
     3-10 Flink支持的数据类型
    第4章 DataSet API编程
     
    掌握Flink批处理开发的DataSet API的编程,包括数据源、转换函数、Sink、计数器以及分布式缓存的编程。
     
     4-1 课程目录
     4-2 DataSet API开发概述
     4-3 Flink综合Java和Scala开发的项目构建creenflow
     4-4 Data Source宏观概述
     4-5 从集合创建DataSet之Scala实现
     4-6 从集合创建DataSet之Java实现
     4-7 从文件或者文件夹创建DataSet之Scala实现
     4-8 从文件或者文件夹创建DataSet之Java实现
     4-9 从csv文件创建Dataset之Scala实现
     4-10 从递归文件夹的内容创建DataSet之Scala实现
     4-11 从压缩文件中创建DataSet之Scala实现
     4-12 Transformation概述
     4-13 Transformation函数map之Scala实现
     4-14 Transformation函数map之Java实现
     4-15 Transformation函数filter之Scala实现
     4-16 Transformation函数filter之Java实现
     4-17 Transformation函数mapPartition之Scala实现
     4-18 Transformation函数mapPartition之Java实现
     4-19 Transformation函数first之Scala实现
     4-20 Transformation函数first之Java实现
     4-21 Transformation函数flatMap之Scala实现
     4-22 Transformation函数flatMap之Java实现
     4-23 Transformation函数distinct之Scala和Java实现
     4-24 Transformation函数join之Scala实现
     4-25 Transformation函数outerJoin之Scala实现
     4-26 Transformation函数join之Java实现
     4-27 Transformation函数outerJoin之Java实现
     4-28 Transformation函数cross之Scala实现
     4-29 Transformation函数cross之Java实现
     4-30 Transformation小结
     4-31 Sink函数Scala实现
     4-32 Sink函数Java实现
     4-33 通过案例引入Flink的计数器
     4-34 基于Flink编程的计时器之Scala实现
     4-35 基于Flink编程的计时器之Java实现
     4-36 基于Flink的分布式缓存功能的Scala实现
     4-37 基于Flink的分布式缓存功能的Java实现
     4-38 本章节小结及作业
    第5章 DataStream API编程
     
    掌握Flink流处理开发的DataStream API的编程,包括数据源、转换函数、Sink的用法,以及如何自定义数据源和自定义Sink的实现。
     
     5-1 DataStream API编程概述
     5-2 从Socket创建DataStream之Java实现
     5-3 从Socket创建DataStream之Scala实现
     5-4 自定义数据源方式SourceFunction之Scala实现
     5-5 自定义数据源方式ParallelSourceFunction之Scala实现
     5-6 自定义数据源方式RichParallelSourceFunction之Scala实现
     5-7 自定义数据源方式之Java实现
     5-8 Transformation函数map和filter之Scala实现
     5-9 Transformation函数map和filter之Java实现
     5-10 Transformation函数union之Scala和Java实现
     5-11 Transformation函数split和select之Scala实现
     5-12 Transformation函数split和select之Java实现
     5-13 自定义Sink之需求描述及表创建
     5-14 自定义Sink之功能测试
     5-15 DataStream API开发小结
    第6章 Flink Table API & SQL编程
     
    了解Flink中统一编程模式的编程Table API以及SQL API的开发及使用。
     
     6-1 课程目录
     6-2 什么是Flink关系型API
     6-3 Table API&SQL概述
     6-4 使用Scala完成Table API&SQL功能的开发
     6-5 使用Java完成Table API&SQL功能的开发
     6-6 Table API&SQL其他功能介绍
    第7章 Flink中的Time及Windows的使用
     
    掌握Flink中三种常用的Time处理方式,掌握Flink中滚动窗口以及滑动窗口的使用,了解Flink中的watermark。
     
     7-1 课程目录
     7-2 Processing Time详解
     7-3 Event Time详解
     7-4 Ingestion Time详解
     7-5 如何在Flink中指定Time的类型
     7-6 Windows概述
     7-7 Window Assigners详解
     7-8 基于Time和Count的Windows
     7-9 Tumbling Windows详解及Scala编程
     7-10 Tumbling Windows Java编程
     7-11 Sliding Windows详解及Scala编程
     7-12 Window Functions之ReduceFunction的Scala实现
     7-13 Window Functions之ReduceFunction的Java实现
     7-14 Window Functions之ProcessWindowFunction的Java实现
     7-15 作业--Window Functions之ProcessWindowFunction的Scala实现
     7-16 Flink watermark概述
    第8章 Flink Connectors
     
    了解Flink中常用的Connector有哪些,了解HDFS Connector的用户,掌握Flink和Kafka对接的Connnector用法。
     
     8-1 课程目录
     8-2 Connectors概述
     8-3 HDFS Connector的使用
     8-4 Kafka Connector概述
     8-5 OOTB环境的使用
     8-6 ZooKeeper部署
     8-7 Kafka部署及测试
     8-8 Flink对接Kafka作为Source使用
     8-9 Flink对接Kafka作为Sink使用
     8-10 作业
     8-11 Flink整合Kafka的offset管理及EXACTLY_ONCE语义
     8-12 Flink整合Kafka的checkpoint常用参数设置梳理
    第9章 Flink部署及作业提交
     
    掌握Flink的local、standalone、yarn模式的部署,如何提交Flink作业进行运行,熟悉Flink中常用的配置参数,掌握Flink cli的用法。
     
     9-1 课程目录
     9-2 Flink部署准备及源码编译
     9-3 单机模式部署及代码提交测试
     9-4 Flink Standalone模式部署及参数详解
     9-5 Hadoop集群快速搭建
     9-6 Flink on YARN两种方式
     9-7 Flink on YARN第一种模式实操
     9-8 Flink on YARN第二种模式实操
     9-9 Flink on YARN作业
     9-10 如何查找需要配置的Flink参数及UI对应关系介绍
     9-11 Flink Scala Shell的使用
     9-12 本章作业
    第10章 Flink监控及调优
     
    掌握Flink的常用监控方式以及调优策略。
     
     10-1 课程目录
     10-2 HistoryServer概述及配置
     10-3 HistoryServer的使用
     10-4 HistoryServer REST API使用
     10-5 Monitoring REST API
     10-6 Flink Metrics
     10-7 Flink常用优化策略
    第11章 基于Flink的互联网直播平台日志分析项目实战
     
    掌握基于Flink的大数据项目的开发流程、处理流程及架构分析,根据需求进行功能的实现,涉及到基于Flink的实时数据清洗、业务统计、可视化展示等流程。
     
     11-1 课程目录
     11-2 项目背景
     11-3 项目功能需求描述
     11-4 项目架构
     11-5 Mock数据之Kafka生产者代码主流程开发
     11-6 Mock数据之Kafka生产者代码日志生产开发
     11-7 使用Flink消费Kafka生产的数据
     11-8 使用Flink完成实时日志清洗功能开发
     11-9 数据清洗过程中添加业务逻辑条件的过滤
     11-10 Flink中Watermark的定义及使用
     11-11 WindowFunction业务逻辑的实现
     11-12 ES部署
     11-13 Kibana部署
     11-14 统计分析数据写入ES并通过Kibana展示出来
     11-15 通过Kibana图形化展示ES中存储的结果
     11-16 第一个功能作业
     11-17 功能二需求及数据准备
     11-18 自定义MySQL数据源读取
     11-19 完成两个流关联的数据清洗功能
     11-20 本章节总结

     
    新一代大数据计算引擎 Flink从入门到实战
    百度网盘分享地址: 链接: https://pan.baidu.com/s/1rbQ3W4ajcz-HGUcgsp99xw 提取码: m4pr
    2米资源网