flink笔记2（Flink 快速上手）

一、Flink 快速上手

1、环境准备

工欲善其事，必先利其器。在进行代码的编写之前，先将我们使用的开发环境和工具介绍一下：
⚫系统环境为 Windows 10。
⚫需提前安装 Java 8。
⚫集成开发环境（IDE）使用 IntelliJ IDEA，具体的安装流程参见 IntelliJ 官网。
⚫安装 IntelliJ IDEA 之后，还需要安装一些插件——Maven 和 Git。Maven 用来管理项目依赖；通过 Git 可以轻松获取我们的示例代码，并进行本地代码的版本控制。
以上运行环境的配置和部署如果有任何疑问，欢迎访问尚硅谷 IT 教育官网，获取全套视频资料。
另外需要特别说明的是：
⚫本书全部程序采用 Java 语言编写，要求读者具有一定的 Java 语言基础；
本书全部 Flink 程序全部基于截止图书编写期间的最新版本 Flink 1.13.0。

2、创建项目

• 在准备好所有的开发环境之后，我们就可以开始开发自己的第一个 Flink 程序了。首先我们要做的，就是在 IDEA 中搭建一个 Flink 项目的骨架。我们会使用 Java 项目中常见的 Maven 来进行依赖管理。

1. 创建工程
   （1）打开 IntelliJ IDEA，创建一个 Maven 工程，如图 2-1 所示。
   
   （2）将这个 Maven 工程命名为 FlinkTutorial，如图 2-2 所示。
   
   （3）选定这个 Maven 工程所在存储路径，并点击 Finish，如图 2-3 所示，Maven 工程即创建成功。
   
2. 添加项目依赖在项目的 pom 文件中，增加标签设置属性，然后增加标签引入需要的依赖。我们需要添加的依赖最重要的就是 Flink 的相关组件，包括 flink-java、 flink-streaming-java，以及 flink-clients（客户端，也可以省略）。另外，为了方便查看运行日志，我们引入 slf4j 和 log4j 进行日志管理。

<properties> 
    <flink.version>1.13.0</flink.version> 
    <java.version>1.8</java.version> 
    <scala.binary.version>2.12</scala.binary.version> 
    <slf4j.version>1.7.30</slf4j.version> 
</properties> 
 
<dependencies> 
<!-- 引入Flink相关依赖--> 
    <dependency> 
        <groupId>org.apache.flink</groupId> 
        <artifactId>flink-java</artifactId> 
        <version>${flink.version}</version> 
    </dependency> 
    <dependency> 
        <groupId>org.apache.flink</groupId>         <artifactId>flink-streaming-java_${scala.binary.version}</artifactId> 
        <version>${flink.version}</version> 
    </dependency> 
    <dependency> 
        <groupId>org.apache.flink</groupId> 
        <artifactId>flink-clients_${scala.binary.version}</artifactId> 
        <version>${flink.version}</version> 
</dependency> 
<!-- 引入日志管理相关依赖--> 
    <dependency> 
        <groupId>org.slf4j</groupId> 
        <artifactId>slf4j-api</artifactId> 
        <version>${slf4j.version}</version> 
    </dependency> 
    <dependency> 
        <groupId>org.slf4j</groupId> 
        <artifactId>slf4j-log4j12</artifactId> 
        <version>${slf4j.version}</version> 
    </dependency> 
    <dependency> 
        <groupId>org.apache.logging.log4j</groupId> 
        <artifactId>log4j-to-slf4j</artifactId> 
        <version>2.14.0</version> 
</dependency> 
</dependencies> 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40

这里做一点解释：
在属性中，我们定义了，这指代的是所依赖的 Scala 版本。这有一点奇怪：Flink 底层是 Java，而且我们也只用 Java API，为什么还会依赖 Scala 呢？这是因为 Flink 的架构中使用了 Akka 来实现底层的分布式通信，而 Akka 是用 Scala 开发的。我们本书中用到的 Scala 版本为 2.12。

• 配置日志管理
  在目录 src/main/resources 下添加文件:log4j.properties，内容配置如下：
  log4j.rootLogger=error, stdout log4j.appender.stdout=org.apache.log4j.ConsoleAppender log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
  log4j.appender.stdout.layout.ConversionPattern=%-4r [%t] %-5p %c %x - %m%n

3、编写代码

• 搭好项目框架，接下来就是我们的核心工作——往里面填充代码。我们会用一个最简单的示例来说明 Flink 代码怎样编写：统计一段文字中，每个单词出现的频次。这就是传说中的WordCount 程序——它是大数据领域非常经典的入门案例，地位等同于初学编程语言时的 Hello World。
  我们的源码位于 src/main/java 目录下。首先新建一个包，命名为 com.lyh.wc，在这个包下我们将编写 Flink 入门的 WordCount 程序。
• 我们已经知道，尽管 Flink 自身的定位是流式处理引擎，但它同样拥有批处理的能力。所以接下来，我们会针对不同的处理模式、不同的输入数据形式，分别讲述 WordCount 代码的实现。

（1）批处理

• 对于批处理而言，输入的应该是收集好的数据集。这里我们可以将要统计的文字，写入一个文本文档，然后读取这个文件处理数据就可以了。
  （1）在工程根目录下新建一个 input 文件夹，并在下面创建文本文件 words.txt
  （2）在 words.txt 中输入一些文字，例如：
  hello world
  hello flink
  hello java
  （3）在 com.lyh.chapter02 包下新建 Java 类 BatchWordCount，在静态 main 方法中编写测试代码。
  我们进行单词频次统计的基本思路是：先逐行读入文件数据，然后将每一行文字拆分成单词；接着按照单词分组，统计每组数据的个数，就是对应单词的频次。
  具体代码实现如下：

import org.apache.flink.api.common.typeinfo.Types; 
import org.apache.flink.api.java.ExecutionEnvironment; 
Import
org.apache.flink.api.java.operators.AggregateOperator; import org.apache.flink.api.java.operators.DataSource; import org.apache.flink.api.java.operators.FlatMapOperator; import org.apache.flink.api.java.operators.UnsortedGrouping; import org.apache.flink.api.java.tuple.Tuple2; import org.apache.flink.util.Collector; 
 public class BatchWordCount {     public static void main(String[] args) throws Exception { 
        // 1. 创建执行环境 
        ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
        // 2. 从文件读取数据  按行读取(存储的元素就是每行的文本) 
        DataSource<String> lineDS = env.readTextFile("input/words.txt"); 
        // 3. 转换数据格式 
        FlatMapOperator<String, Tuple2<String, Long>> wordAndOne = lineDS 
                .flatMap((String line, Collector<Tuple2<String, Long>> out) -> {                     String[] words = line.split(" ");                     for (String word : words) {                         out.collect(Tuple2.of(word, 1L)); 
                    } 
                }) 
                .returns(Types.TUPLE(Types.STRING, Types.LONG));  //当Lambda表达式
使用 Java 泛型的时候, 由于泛型擦除的存在, 需要显示的声明类型信息 
 
        // 4. 按照 word 进行分组 
        UnsortedGrouping<Tuple2<String, 	Long>> 	wordAndOneUG 	= wordAndOne.groupBy(0); 
        // 5. 分组内聚合统计 
        AggregateOperator<Tuple2<String, Long>> sum = wordAndOneUG.sum(1); 
 
        // 6. 打印结果         sum.print(); 
    } 
} 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

代码说明和注意事项：
①Flink 在执行应用程序前应该获取执行环境对象，也就是运行时上下文环境。
ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
②Flink 同时提供了 Java 和 Scala 两种语言的 API，有些类在两套 API 中名称是一样的。
所以在引入包时，如果有 Java 和 Scala 两种选择，要注意选用 Java 的包。
③直接调用执行环境的 readTextFile 方法，可以从文件中读取数据。
④我们的目标是将每个单词对应的个数统计出来，所以调用 flatmap 方法可以对一行文字进行分词转换。将文件中每一行文字拆分成单词后，要转换成(word,count)形式的二元组，初始 count 都为 1。returns 方法指定的返回数据类型 Tuple2，就是 Flink 自带的二元组数据类型。
⑤ 在分组时调用了 groupBy 方法，它不能使用分组选择器，只能采用位置索引或属性名称进行分组。

// 使用索引定位 
dataStream.groupBy(0) 
// 使用类属性名称 
dataStream.groupBy("id") 
1
2
3
4

在分组之后调用 sum 方法进行聚合，同样只能指定聚合字段的位置索引或属性名称。
（4） 运行程序，控制台会打印出结果：
(java,1)
(flink,1)
(world,1)
(hello,3)

• 可以看到，我们将文档中的所有单词的频次，全部统计出来，以二元组的形式在控制台打印输出了。
• 需要注意的是，这种代码的实现方式，是基于 DataSet API 的，也就是我们对数据的处理转换，是看作数据集来进行操作的。事实上Flink 本身是流批统一的处理架构，批量的数据集本质上也是流，没有必要用两套不同的 API 来实现。所以从Flink 1.12开始，官方推荐的做法是直接使用 DataStream API，在提交任务时通过将执行模式设为 BATCH 来进行批处理：

$ bin/flink run -Dexecution.runtime-mode=BATCH BatchWordCount.jar 
1

• 这样，DataSet API 就已经处于“软弃用”（soft deprecated）的状态，在实际应用中我们只要维护一套 DataStream API 就可以了。这里只是为了方便大家理解，我们依然用 DataSet API 做了批处理的实现。

（2）流处理

1. 读取文件
   我们同样试图读取文档 words.txt 中的数据，并统计每个单词出现的频次。这是一个“有界流”的处理，整体思路与之前的批处理非常类似，代码模式也基本一致。
   （1）在 com.lyh.wc 包下新建 Java 类 BoundedStreamWordCount，在静态 main 方法中编写测试代码。具体代码实现如下：

import org.apache.flink.api.common.typeinfo.Types; import org.apache.flink.api.java.tuple.Tuple2; import org.apache.flink.streaming.api.datastream.DataStreamSource; import org.apache.flink.streaming.api.datastream.KeyedStream; import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator; import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment; import org.apache.flink.util.Collector; 
 import java.util.Arrays; 
 public class BoundedStreamWordCount {     public static void main(String[] args) throws Exception { 
        // 1. 创建流式执行环境 
        StreamExecutionEnvironment 	env 	=
StreamExecutionEnvironment.getExecutionEnvironment(); 
        // 2. 读取文件 
        DataStreamSource<String> lineDSS = env.readTextFile("input/words.txt");
        // 3. 转换数据格式 
        SingleOutputStreamOperator<Tuple2<String, Long>> wordAndOne = lineDSS 
                .flatMap((String line, Collector<String> words) -> { 
                    Arrays.stream(line.split(" ")).forEach(words::collect);                 }) 
                .returns(Types.STRING) 
                .map(word -> Tuple2.of(word, 1L)) 
                .returns(Types.TUPLE(Types.STRING, Types.LONG)); 
        // 4. 分组 
        KeyedStream<Tuple2<String, Long>, String> wordAndOneKS = wordAndOne 
                .keyBy(t -> t.f0); 
        // 5. 求和 
        SingleOutputStreamOperator<Tuple2<String, Long>> result = wordAndOneKS 
                .sum(1);         // 6. 打印         result.print();         // 7. 执行         env.execute(); 
    } 
} 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

主要观察与批处理程序 BatchWordCount 的不同：
⚫创建执行环境的不同，流处理程序使用的是 StreamExecutionEnvironment。
⚫每一步处理转换之后，得到的数据对象类型不同。
⚫分组操作调用的是 keyBy 方法，可以传入一个匿名函数作为键选择器
（KeySelector），指定当前分组的 key 是什么。
⚫代码末尾需要调用 env 的 execute 方法，开始执行任务。
（2）运行程序，控制台输出结果如下：
3> (world,1)
2> (hello,1)
4> (flink,1)
2> (hello,2)
2> (hello,3)
1> (java,1)

• 我们可以看到，这与批处理的结果是完全不同的。批处理针对每个单词，只会输出一个最终的统计个数；而在流处理的打印结果中，“hello”这个单词每出现一次，都会有一个频次统计数据输出。这就是流处理的特点，数据逐个处理，每来一条数据就会处理输出一次。我们通过打印结果，可以清晰地看到单词“hello”数量增长的过程。

• 看到这里大家可能又会有新的疑惑：我们读取文件，第一行应该是“hello
  flink”，怎么这里输出的第一个单词是“world”呢？每个输出的结果二元组，前面都有一个数字，这又是什么呢？

• 我们可以先做个简单的解释。Flink 是一个分布式处理引擎，所以我们的程序应该也是分布式运行的。在开发环境里，会通过多线程来模拟
  Flink 集群运行。所以这里结果前的数字，其实就指示了本地执行的不同线程，对应着 Flink
  运行时不同的并行资源。这样第一个乱序的问题也就解决了：既然是并行执行，不同线程的输出结果，自然也就无法保持输入的顺序了。

• 另外需要说明，这里显示的编号为 1~4，是由于运行电脑的 CPU 是 4 核，所以默认模拟的并行线程有 4
  个。这段代码不同的运行环境，得到的结果会是不同的。关于 Flink
  程序并行执行的数量，可以通过设定“并行度”（Parallelism）来进行配置，我们会在后续章节详细讲解这些内容。

• 读取文本流

• 在实际的生产环境中，真正的数据流其实是无界的，有开始却没有结束，这就要求我们需要保持一个监听事件的状态，持续地处理捕获的数据。

• 为了模拟这种场景，我们就不再通过读取文件来获取数据了，而是监听数据发送端主机的指定端口，统计发送来的文本数据中出现过的单词的个数。具体实现上，我们只要对
  BoundedStreamWordCount 代码中读取数据的步骤稍做修改，就可以实现对真正无界流的处理。

（1）新建一个 Java 类 StreamWordCount，将 BoundedStreamWordCount 代码中读取文件数据的 readTextFile 方法，替换成读取 socket 文本流的方法 socketTextStream。具体代码实现如下：

import org.apache.flink.api.common.typeinfo.Types; import org.apache.flink.api.java.tuple.Tuple2; import org.apache.flink.streaming.api.datastream.DataStreamSource; import org.apache.flink.streaming.api.datastream.KeyedStream; import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator; import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment; import org.apache.flink.util.Collector; 
 import java.util.Arrays; 
 public class StreamWordCount {     public static void main(String[] args) throws Exception { 
        // 1. 创建流式执行环境 
        StreamExecutionEnvironment 	env 	=
StreamExecutionEnvironment.getExecutionEnvironment(); 
        // 2. 读取文本流 
        DataStreamSource<String> lineDSS = env.socketTextStream("hadoop102", 
7777); 
        // 3. 转换数据格式 
        SingleOutputStreamOperator<Tuple2<String, Long>> wordAndOne = lineDSS 
                .flatMap((String line, Collector<String> words) -> { 
                    Arrays.stream(line.split(" ")).forEach(words::collect);                 }) 
                .returns(Types.STRING) 
                .map(word -> Tuple2.of(word, 1L)) 
                .returns(Types.TUPLE(Types.STRING, Types.LONG)); 
        // 4. 分组 
        KeyedStream<Tuple2<String, Long>, String> wordAndOneKS = wordAndOne 
                .keyBy(t -> t.f0); 
        // 5. 求和 
        SingleOutputStreamOperator<Tuple2<String, Long>> result = wordAndOneKS 
                .sum(1);         // 6. 打印         result.print();         // 7. 执行         env.execute(); 
    } 
} 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

代码说明和注意事项：
⚫socket 文本流的读取需要配置两个参数：发送端主机名和端口号。这里代码中指定了主机“hadoop102”的 7777 端口作为发送数据的 socket 端口，读者可以根据测试环境自行配置。
⚫在实际项目应用中，主机名和端口号这类信息往往可以通过配置文件，或者传入程序运行参数的方式来指定。
⚫socket文本流数据的发送，可以通过Linux系统自带的netcat工具进行模拟。
（2）在 Linux 环境的主机 hadoop102 上，执行下列命令，发送数据进行测试：

[lyh@hadoop102 ~]$ nc -lk 7777 
1

（3）启动 StreamWordCount 程序
我们会发现程序启动之后没有任何输出、也不会退出。这是正常的——因为 Flink 的流处理是事件驱动的，当前程序会一直处于监听状态，只有接收到数据才会执行任务、输出统计结果。
（4）从 hadoop102 发送数据：
hello flink
hello world
hello java
可以看到控制台输出结果如下：
4> (flink,1)
2> (hello,1)
3> (world,1)
2> (hello,2)
2> (hello,3)
1> (java,1)

• 我们会发现，输出的结果与之前读取文件的流处理非常相似。而且可以非常明显地看到，每输入一条数据，就有一次对应的输出。具体对应关系是：输入“hello flink”，就会输出两条统计结果（flink，1）和（hello，1）；之后再输入“hello world”，同样会将 hello 和 world 的个数统计输出，hello 的个数会对应增长为 2。