Есть ли способ получить текущее количество разделов DataFrame? Я проверил DataFrame javadoc (искра 1.6) и не нашел для этого метода, или я просто пропустил его? (В случае JavaRDD есть getNumPartitions метод().)Получить текущее количество разделов DataFrame
22
A
ответ
43
Вы должны вызвать getNumPartitions()
на основной RDD в DataFrame в, например, df.rdd.getNumPartitions()
.
3
преобразовать в РДУ затем получить длину перегородки
DF.rdd.partitions.length
1
val df = Seq(
("A", 1), ("B", 2), ("A", 3), ("C", 1)
).toDF("k", "v")
df.rdd.getNumPartitions
+0
Пожалуйста, прочитайте это [как к ответу] (http://stackoverflow.com/help/ как-ответ) для обеспечения качественного ответа. – thewaywewere
ооо да .. :) спасибо – kecso