您的位置:首页 > 编程语言 > Java开发

Flink快速上手之Java API使用

2017-12-16 22:30 531 查看


要求

  编写你的Flink Java程序唯一的要求是需要安装Maven 3.0.4(或者更高)和Java 7.x(或者更高)


创建Flink Java工程

使用下面其中一个命令来创建Flink Java工程

1、使用Maven archetypes:

2、运行quickstart脚本

上面两个命令(使用Maven创建的时候需要输入artifactId、groupId等相关信息)运行完之后都会产生类似于以下的目录结构:


检查工程

  您的工作目录中会出现一个新的目录。如果你使用了curl命令来创建Flink Java工程,这个目录的名称是 quickstart。否则,就是你输入的artifactId名字。

  这个工程是一个Maven工程, 包含三个类。 
Job
是一个基本的框架程序,
SocketTextStreamWordCount
WordCount
是一个简单的单词次数计算示例。需要注意的是,这三个类的main
方法都允许你在开发/测试模式下启动Flink。

  我们推荐将这个工程导入到你的IDE中,并进行开发和测试。 如果你用的是Eclipse, 可以使用m2e插件来导入 Maven 工程。有些Eclipse发行版 默认嵌入了这个插件,其他的需要你手动去安装。IntelliJ IDE内置就提供了对Maven 工程的支持。

  给Mac OS X用户的建议:默认的JVM堆内存对Flink来说太小了,你必须手动增加内存。这里以Eclipse 为例,依次选择 
Run Configurations
-> Arguments
, 然后在
VM Arguments
里写入:
-Xmx800m


编译工程

  如果你想要编译你的工程, 进入到工程所在目录,并输入 
mvn clean install -Pbuild-jar
 命令。 你将会找到
target/your-artifact-id-1.0-SNAPSHOT.jar
文件,它可以在任意的Flink集群上运行。
还有一个fat-jar,名为
target/your-artifact-id-1.0-SNAPSHOT-flink-fat-jar.jar
,包含了所有添加到
Maven 工程的依赖。


下一步

  开始编写我们自己的程序

  Quickstart 工程包含了一个 WordCount 的实现,也就是大数据处理系统的 Hello World。WordCount 的目标是计算文本中单词出现的频率。比如: 单词 “the” 或者 “house” 在所有的Wikipedia文本中出现了多少次。

样本输入

样本输出

下面的代码就是 Quickstart 工程的 WordCount 实现,它使用两种操作( FlatMap 和 Reduce )处理了一些文本,并且在标准输出中打印了单词的计数结果。

这些操作是在专门的类中定义的,下面是 
LineSplitter 
类。

完整代码参见https://github.com/apache/flink/blob/master//flink-examples/flink-examples-batch/src/main/java/org/apache/flink/examples/java/wordcount/WordCount.java
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: