更详细解释:
https://blog.csdn.net/Zsigner/article/details/107787344
查看所有参数
执行下面命令,可以查看所有参数:
flink run -help
常用参数解释
flink run
参数:
-c,–class Flink应用程序的入口。jar包中没有配置 Main-Class,启动时需指定主启动类
-p,–parallelism 执行并行度
session cluster模式的参数
需要先启动 flink集群
例子:执行 自带的 WordCount 程序
jar包中配置 Main-Class,启动时不需指定主启动类
flink run /program/flink-1.12.5/examples/batch/WordCount.jar --input hdfs://hadoop1:8020/test/data.txt --output hdfs://hadoop1:8020/result3
解释:
--input:读取文件路径--output:输出文件路径
例子:执行自己编写的 jar 包
打包时,没有指定主启动类,需要加上 -c 指定
/program/flink-1.12.5/bin/flink run -c top.malaoshi.TestDataStream2_lambda2_hdfs /program/test_flink.jar --output hdfs://hadoop1:8020/test_result/1
per-job cluster模式 的参数
常用参数:
-m yarn-cluster 指定提交到哪台主机上,yarn-cluster 表示提交到 yarn 集群上
-yjm,–yarnjobManagerMemory jobmanager的内存(单位M)
-ytm,–yarntaskManagerMemory 每个taskmanager的内存
-yqu,--yarnqueue <arg> 指定YARN queue
-m:指定提交到哪台主机上yarn-cluster:表示提交到yarn集群上
其他参数:
-d,–detached 是否使用分离模式
-yat,–yarnapplicationType 设置yarn应用的类型
-yD <property=value> 使用给定属性的值
-yd,–yarndetached 使用yarn分离模式
-yh,–yarnhelp yarn session的帮助
-yid,–yarnapplicationId 挂到正在运行的yarnsession上
-yj,–yarnjar Flink jar文件的路径
-ynl,–yarnnodeLabel 指定 YARN 应用程序 YARN 节点标签
-ynm,–yarnname 自定义yarn应用名称
-yq,–yarnquery 显示yarn的可用资源
-ys,–yarnslots 指定每个taskmanager的slots数
-yt,–yarnship 在指定目录中传输文件
-yz,–yarnzookeeperNamespace 用来创建ha的zk子路径的命名空间
-z,–zookeeperNamespace 用来创建ha的zk子路径的命名空间
例子
执行自带的 WordCount jar包:
./bin/flink run -m yarn-cluster -p 2 ./examples/batch/WordCount.jar \
--input hdfs://hadoop1:8020/user/wupq/words.txt \
--output hdfs://hadoop1:8020/user/wupq/output2/2020122301
指定内存大小
./bin/flink run -m yarn-cluster -yjm 1024 -ytm 1024 -c top.malaoshi.TestDataStream2_lambda2_hdfs /program/test_flink.jar --output hdfs://hadoop1:8020/test_result/1
例子:指定yarn队列
flink run -yqu root.default -m yarn-cluster -yjm 1000 -ytm 1000 /program/flink-1.12.5/examples/batch/WordCount.jar --input hdfs://hadoop1:8020/test2/data.txt --output hdfs://hadoop1:8020/flink_result12291419
设置批处理模式
默认是 流处理模式,通过参数可以设置批处理模式,如下:
flink run -Dexecution.runtime-mode = BATCH