初學Tips - 為啥Flink的Java模組需要Scala的版本字尾

語言: CN / TW / HK

“From 開發者:“ flink關於java和scala開發,總是搞不清maven依賴什麼情況,能不能講下?知道flink是在java上面包裹了一層scala,但是新增maven依賴的時候,總是很迷惑... ”

01  Java 開發者

暫時拋開網友的問題,我們先黑盒子方式啟程一下Java開發者構建一個簡單示例。初學者我們還是模版走...

我們以mvn命令方式切入,如下命令:

mvn archetype:generate \
    -DarchetypeGroupId=org.apache.flink \
    -DarchetypeArtifactId=flink-walkthrough-datastream-java \
    -DarchetypeVersion=1.13.0 \
    -DgroupId=khkw \
    -DartifactId=helloJava \
    -Dversion=0.1 \
    -Dpackage=khkw \
    -DinteractiveMode=false

上面命令最終看到如下成功資訊:

接下來,我們看看生成的pom依賴和示例的import情況,我使用Idea檢視,所以到hellojava目錄下執行 mvn idea:idea  之後用IDE開啟。

在properties裡面也聲明瞭scala的版本2.11,也及時在dependency依賴裡面也 使用了 scala的版本資訊,這一點是網友很困惑的點,我稍後解釋。我們在看看Java開發DataStream最核心的依賴是什麼?

我們發現最核心的依賴是 flink-streaming-java_2.11,這裡雖然是java開發,但是也的確攜帶了scala的版本字尾。為啥會這樣呢?後面說flink整體scala/java設計部分解釋,這裡只是宣告一個依賴是一次性工作,如果引入依賴之後後面的開發沒有import的誤區那麼可以暫時忍受一下。我們重點看到開發過程是否有讓人困惑的地方?我們開啟FraudDetectionJob作業主類,如下:

和業務相關的import是開發者自己非常清楚的,不必多說,和flink框架相關的引入只有DataStream & StreamExecutionEnvironment ,那麼我們在自動import時候是否有import錯誤的可能呢?這個是Flink java開發者的省心的地方,如下:

這裡我們發現,Java使用者沒有機會犯錯,都只有唯一的一個。但對於Scala使用者來說就沒有那麼容易了,我們繼續往下看...

02  Scala 開發者

我們同樣也是以mvan命令的方式來建立示例工程,如下:

mvn archetype:generate \
    -DarchetypeGroupId=org.apache.flink \
    -DarchetypeArtifactId=flink-walkthrough-datastream-scala \
    -DarchetypeVersion=1.13.0 \
    -DgroupId=khkw \
    -DartifactId=helloScala \
    -Dversion=0.1 \
    -Dpackage=khkw \
    -DinteractiveMode=false

成功建立之後,我們同樣開啟pom檔案檢視依賴關係,如下:

這個對於scala使用者來說是非常正常的依賴了,不論是artifacId名字還是攜帶scala版本都是很合理的設計。我們再來看看開發過程類的import情況是否一樣明瞭?

看到上面情況,初學者應該會有點蒙圈了:( ,我需要的類有這麼多,怎麼選擇?

對於Scala開發者看到和類同名的Object其實很容易理解,那麼Scala裡面也有一個同名的Java實現,對於初學者可能就會稍微猶豫一下,但是既然我們用Scala開發,java和scala並存的時候優先選擇Scala實現。

那麼為啥有2個同名的實現,我們看看依賴樹就感覺是那麼回事了,如下:

Flink Runtime是Java開發的,Scala API是建立在Java API基礎之上的,所以對於Scala使用者來說理論上永遠有2個選擇,雖然選擇是很明確的。

03  為什麼Java模組需要Scala版本字尾?

我們還是網友所問的作為切入點:“像java-datastream_2.11這種,都寫著java了。後面又分2.11”,問題很好,為什麼 flink-streaming-java 模組的artifactId要攜帶2.11,這個 flink-streaming-java _2.11 讓人費解,我們先看現狀,依賴關係,如下:

[INFO] org.apache.flink:flink-streaming-java_2.11:jar:1.14-SNAPSHOT
[INFO] +- org.apache.flink:flink-core:jar:1.14-SNAPSHOT:compile
[INFO] |  +- org.apache.flink:flink-annotations:jar:1.14-SNAPSHOT:compile
[INFO] |  +- org.apache.flink:flink-metrics-core:jar:1.14-SNAPSHOT:compile
[INFO] |  +- org.apache.flink:flink-shaded-asm-7:jar:7.1-13.0:compile
[INFO] |  +- org.apache.commons:commons-lang3:jar:3.3.2:compile
[INFO] |  +- com.esotericsoftware.kryo:kryo:jar:2.24.0:compile
[INFO] |  |  \- com.esotericsoftware.minlog:minlog:jar:1.2:compile
[INFO] |  +- commons-collections:commons-collections:jar:3.2.2:compile
[INFO] |  \- org.apache.commons:commons-compress:jar:1.20:compile
[INFO] +- org.apache.flink:flink-file-sink-common:jar:1.14-SNAPSHOT:compile
[INFO] +- org.apache.flink:flink-runtime_2.11:jar:1.14-SNAPSHOT:compile
[INFO] |  +- org.apache.flink:flink-queryable-state-client-java:jar:1.14-SNAPSHOT:compile
[INFO] |  +- org.apache.flink:flink-hadoop-fs:jar:1.14-SNAPSHOT:compile
[INFO] |  +- commons-io:commons-io:jar:2.8.0:compile
[INFO] |  +- org.apache.flink:flink-shaded-netty:jar:4.1.49.Final-13.0:compile
[INFO] |  +- org.apache.flink:flink-shaded-jackson:jar:2.12.1-13.0:compile
[INFO] |  +- org.apache.flink:flink-shaded-zookeeper-3:jar:3.4.14-13.0:compile
[INFO] |  +- commons-cli:commons-cli:jar:1.3.1:compile
[INFO] |  +- org.javassist:javassist:jar:3.24.0-GA:compile
[INFO] |  +- org.scala-lang:scala-library:jar:2.11.12:compile
[INFO] |  +- com.typesafe.akka:akka-actor_2.11:jar:2.5.21:compile
[INFO] |  |  +- com.typesafe:config:jar:1.3.0:compile
[INFO] |  |  \- org.scala-lang.modules:scala-java8-compat_2.11:jar:0.7.0:compile
[INFO] |  +- com.typesafe.akka:akka-stream_2.11:jar:2.5.21:compile
[INFO] |  |  +- org.reactivestreams:reactive-streams:jar:1.0.2:compile
[INFO] |  |  \- com.typesafe:ssl-config-core_2.11:jar:0.3.7:compile
[INFO] |  |     \- org.scala-lang.modules:scala-parser-combinators_2.11:jar:1.1.1:compile
[INFO] |  +- com.typesafe.akka:akka-protobuf_2.11:jar:2.5.21:compile
[INFO] |  +- com.typesafe.akka:akka-slf4j_2.11:jar:2.5.21:compile
[INFO] |  +- org.clapper:grizzled-slf4j_2.11:jar:1.3.2:compile
[INFO] |  +- com.github.scopt:scopt_2.11:jar:3.5.0:compile
[INFO] |  +- org.xerial.snappy:snappy-java:jar:1.1.8.3:compile
[INFO] |  \- org.lz4:lz4-java:jar:1.6.0:compile
[INFO] +- org.apache.flink:flink-java:jar:1.14-SNAPSHOT:compile
[INFO] +- org.apache.flink:flink-shaded-guava:jar:18.0-13.0:compile
[INFO] +- org.apache.commons:commons-math3:jar:3.5:compile
[INFO] +- org.apache.flink:flink-core:test-jar:tests:1.14-SNAPSHOT:test
[INFO] +- org.apache.flink:flink-test-utils-junit:jar:1.14-SNAPSHOT:test
[INFO] +- org.apache.flink:flink-runtime_2.11:test-jar:tests:1.14-SNAPSHOT:test
[INFO] +- org.apache.flink:flink-shaded-force-shading:jar:13.0:compile
[INFO] +- org.slf4j:slf4j-api:jar:1.7.15:compile
[INFO] +- com.google.code.findbugs:jsr305:jar:1.3.9:compile
[INFO] +- junit:junit:jar:4.13.2:test
[INFO] |  \- org.hamcrest:hamcrest-core:jar:1.3:test
[INFO] +- org.mockito:mockito-core:jar:2.21.0:test
[INFO] |  +- net.bytebuddy:byte-buddy:jar:1.8.15:test
[INFO] |  +- net.bytebuddy:byte-buddy-agent:jar:1.8.15:test
[INFO] |  \- org.objenesis:objenesis:jar:2.1:compile
[INFO] +- org.powermock:powermock-module-junit4:jar:2.0.4:test
[INFO] |  \- org.powermock:powermock-module-junit4-common:jar:2.0.4:test
[INFO] |     +- org.powermock:powermock-reflect:jar:2.0.4:test
[INFO] |     \- org.powermock:powermock-core:jar:2.0.4:test
[INFO] +- org.powermock:powermock-api-mockito2:jar:2.0.4:test
[INFO] |  \- org.powermock:powermock-api-support:jar:2.0.4:test
[INFO] +- org.hamcrest:hamcrest-all:jar:1.3:test
[INFO] +- org.apache.logging.log4j:log4j-slf4j-impl:jar:2.14.1:test
[INFO] +- org.apache.logging.log4j:log4j-api:jar:2.14.1:test
[INFO] +- org.apache.logging.log4j:log4j-core:jar:2.14.1:test
[INFO] \- org.apache.logging.log4j:log4j-1.2-api:jar:2.14.1:test
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time:  42.595 s
[INFO] Finished at: 2021-06-26T08:57:22+08:00
[INFO] ------------------------------------------------------------------------

我們發現 flink-streaming-java ,依賴了flink-runtime_2.11也是有scala版本字尾的,一樣的困惑,為啥純java寫的flink runtime要一攜帶scala的版本號,繼續追,發現flink-runtime也是依賴了akka-actor/stream/protobuf_2.11,也就是flink依賴的三方庫雖然是純java的但是同樣攜帶了scala版本。按照這種鑽取方式我們就要去挖 akka-stream 為啥攜帶scala版本字尾了, 那這個問題就到 了,akka是50+的程式碼都是用scala寫的,檢視 https://github.com/akka/akka 。 

04  未來會怎樣?

使用者的眼光都是雪亮的,問題都是一針見血的,這問題也的的確確是Flink社群需要解決的,也發起了去掉Scala依賴的討論。

詳情:

https://lists.apache.org/thread.html/rd7bf0dabe2d75adb9f97a1879638711d04cfce0774d31b033acae0b8%40%3Cdev.flink.apache.org%3E

05  Flink從那一層主動使用Scala?

那麼上面Java模組需要scala字尾是被動的,那麼Flink從哪個層面是主動引入Scala的呢?這個主要是從Flink開發者受眾角度思考的,Flink雖然核心是Java寫的,但是更加期望更多的非Java的開發者可以在不切換開發語言的前提下便捷的使用Flink。

對於Scala使用者天然能用Java的API但是Scala相對於Java來說從語言API上面有很多的優勢,所以Flink社群為了不改變Scala使用者的開發習慣,為Scala使用者提供了Scala的API,所以Flink主動引入Scala是從API層面切入的。Flink社群致力於Scala API包括所有的Java API功能,同時前面版本也在Scala API封裝了一些易用的、符合Scala程式設計習慣的API封裝。

從Flink所有的Module看,只有 flink-scala/flink-stream-scala/flink-table模組涉及到了scala的依賴,flink-scala是基礎封裝,包括 type,codegen,metric等基礎部分,而 flink-stream-scala 是純面向Scala使用者的DataStream API部分,flink-talbe是裡面有scala部分的SQL層面封裝。多說一句,不僅僅是Java/Scala的使用者受眾,Flink更期望對多語言有很好的支援,PyFlink就邁出了Flink 多語言支援的第一步~~ :)

06  勿以善小而不為

行善之人,如春園小草,不見其長,日有所增,作惡之人,若磨刀礪石,不見其損,日有所虧, 可謂,人為善,福雖未至,禍已遠離;人為惡,禍雖未至,福已遠離!

作者介紹

孫金城,51CTO社群編輯,Apache Flink PMC 成員,Apache Beam Committer,Apache IoTDB PMC 成員,ALC Beijing 成員,Apache ShenYu 導師,Apache 軟體基金會成員。關注技術領域流計算和時序資料儲存。