2017-02-09 4 views
1

Есть ли удобный механизм для блокировки шагов в конвейере scikit-learn, чтобы предотвратить их установку на pipe.fit()? Например:Блокировка шагов (предотвращение переоборудования) в трубе scikit-learn

import numpy as np 
from sklearn.feature_extraction.text import CountVectorizer 
from sklearn.svm import LinearSVC 
from sklearn.pipeline import Pipeline 
from sklearn.datasets import fetch_20newsgroups 

data = fetch_20newsgroups(subset='train') 
firsttwoclasses = data.target<=1 
y = data.target[firsttwoclasses] 
X = np.array(data.data)[firsttwoclasses] 

pipeline = Pipeline([ 
    ("vectorizer", CountVectorizer()), 
    ("estimator", LinearSVC()) 
]) 

# fit intial step on subset of data, perhaps an entirely different subset 
# this particular example would not be very useful in practice 
pipeline.named_steps["vectorizer"].fit(X[:400]) 
X2 = pipeline.named_steps["vectorizer"].transform(X) 

# fit estimator on all data without refitting vectorizer 
pipeline.named_steps["estimator"].fit(X2, y) 
print(len(pipeline.named_steps["vectorizer"].vocabulary_)) 

# fitting entire pipeline refits vectorizer 
# is there a convenient way to lock the vectorizer without doing the above? 
pipeline.fit(X, y) 
print(len(pipeline.named_steps["vectorizer"].vocabulary_)) 

Единственный способ, которым я мог думать, делать это без промежуточных преобразований будет определять пользовательский класс оценивания (как видно here) которого подходит метод не делает ничего, и чей метод преобразования является преобразование предварительно - трансформатор. Это единственный способ?

ответ

1

Просматривая код, в объекте Pipeline нет ничего функционального: вызов .fit() в конвейере приводит к .fit() на каждом этапе.

Лучший быстрый и грязный решение, которое я мог придумать, чтобы обезьяны повязкой прочь фитинга функциональность стадии в:

pipeline.named_steps["vectorizer"].fit(X[:400]) 
# disable .fit() on the vectorizer step 
pipeline.named_steps["vectorizer"].fit = lambda self, X, y=None: self 
pipeline.named_steps["vectorizer"].fit_transform = model.named_steps["vectorizer"].transform 

pipeline.fit(X, y)