2017-01-12 2 views
-2

Я хочу вставить список столбцов из datframe в список [column], чтобы я мог выполнить запрос на выбор. это означает, что хотите получить список колонки и вставить его автоматически в список [столбец] любая помощь Спасибоимя столбца отображения в список [столбец] scala

object PCA extends App{ 
    val spark = SparkSession.builder.master("local").appName("my-spark-app").getOrCreate() 
    val strPath="C:/Users/mhattabi/Desktop/testBis2.txt" 
    val intial_Data=spark.read.option("header",true).csv(strPath) 
    //array string contains names of column 
    val arrayList=intial_Data.columns 
    var colsList = List[Column]() 
    //wanna insert name of column into the listColum 
    arrayList.foreach(p=>colsList.) 

    //i want to have something like 
    //val colsList = List(col("col1"),col("col2")) 
    //intial_Data.select(colsList:_*).show 
} 

ответ

0

Вы можете использовать Col функцию следующим образом:

var colsList = List[Column]() 
arrayList.columns.foreach { c => colsList:+=col(c)} 

Не забудьте импортировать функции SQL использовать седловины:

import org.apache.spark.sql.functions._ 
0

Я предпочел бы использовать неизменяемый список, чем переменная список путем преобразования, как показано ниже.

val arrayList = initial_Data.columns 
val colsList = arrayList.map(col) 

 Смежные вопросы

  • Нет связанных вопросов^_^