Я пытаюсь выполнить поиск гиперпареметра с помощью scikit-learn GridSearchCV на XGBoost. Во время gridsearch я хотел бы, чтобы он был на ранней стадии, поскольку он значительно сокращает время поиска и (ожидает) имеет лучшие результаты в моей задаче предсказания/регрессии. Я использую XGBoost через свой Scikit-Learn API.
model = xgb.XGBRegressor()
GridSearchCV(model, paramGrid, verbose=verbose ,fit_params={'early_stopping_rounds':42}, cv=TimeSeriesSplit(n_splits=cv).get_n_splits([trainX, trainY]), n_jobs=n_jobs, iid=iid).fit(trainX,trainY)
Я попытался дать ранние параметры остановки с помощью fit_params, но затем он выдает эту ошибку, которая в основном из-за отсутствия набора проверки, который требуется для ранней остановки:
/opt/anaconda/anaconda3/lib/python3.5/site-packages/xgboost/callback.py in callback(env=XGBoostCallbackEnv(model=<xgboost.core.Booster o...teration=4000, rank=0, evaluation_result_list=[]))
187 else:
188 assert env.cvfolds is not None
189
190 def callback(env):
191 """internal function"""
--> 192 score = env.evaluation_result_list[-1][1]
score = undefined
env.evaluation_result_list = []
193 if len(state) == 0:
194 init(env)
195 best_score = state['best_score']
196 best_iteration = state['best_iteration']
Как я могу применить GridSearch на XGBoost с помощью early_stopping_rounds?
note: модель работает без gridsearch, также GridSearch работает без 'fit_params = {' early_stopping_rounds ': 42}