Параллельное вычисление множественного вменения с использованием пакета мышей R

Я хочу запустить 150 множественных вменений, используя mice в R. Однако, чтобы сэкономить некоторое вычислительное время, я хотел бы разделить процесс в параллельных потоках (как предложил Стив ван Буурен в "Гибкое вменение для пропущенных данных" ).

Мой вопрос: как это сделать?

Я могу представить 2 варианта:

opt.1:

imp1<-mice(data, m=1, pred=quicktry, maxit=15, seed=1)
imp2<-mice(data, m=1, pred=quicktry, maxit=15, seed=1)
imp...<-mice(data, m=1, pred=quicktry, maxit=15, seed=1)
imp150<-mice(data, m=1, pred=quicktry, maxit=15, seed=1)

а затем объединить вменения вместе, используя complete и as.mids впоследствии

opt.2:

imp1<-mice(data, m=1, pred=quicktry, maxit=15, seed=VAL_1to150)
imp2<-mice(data, m=1, pred=quicktry, maxit=15, seed=VAL_1to150)
imp...<-mice(data, m=1, pred=quicktry, maxit=15, seed=VAL_1to150)
imp150<-mice(data, m=1, pred=quicktry, maxit=15, seed=VAL_1to150)

добавив VAL_1to150, в противном случае мне кажется (я могу ошибаться), что если все они будут работать с одним и тем же набором данных и одним и тем же семенем, у вас будет 150 раз тот же результат.

Есть ли другие варианты?

Спасибо

Ответ 1

Таким образом, основная проблема заключается в объединении вменений, и, как я вижу, есть три варианта, используя ibind, complete, как описано или пытается сохранить структуру mids. Я настоятельно рекомендую решение ibind. Остальные остаются в ответе тем, кому это интересно.

Получить параллельные результаты

Прежде чем делать что-либо, нам нужно получить параллельные импланты. Параллельная часть довольно проста, все, что нам нужно сделать, это использовать параллельный пакет и убедиться, что мы устанавливаем семя с помощью clusterSetRNGStream:

library(parallel)
# Using all cores can slow down the computer
# significantly, I therefore try to leave one
# core alone in order to be able to do something 
# else during the time the code runs
cores_2_use <- detectCores() - 1

cl <- makeCluster(cores_2_use)
clusterSetRNGStream(cl, 9956)
clusterExport(cl, "nhanes")
clusterEvalQ(cl, library(mice))
imp_pars <- 
  parLapply(cl = cl, X = 1:cores_2_use, fun = function(no){
    mice(nhanes, m = 30, printFlag = FALSE)
  })
stopCluster(cl)

Приведенное выше даст cores_2_use * 30 вмененные наборы данных.

Использование ibind

Как предложил @AleksanderBlekh, mice::ibind, вероятно, лучшее, самое простое решение:

imp_merged <- imp_pars[[1]]
for (n in 2:length(imp_pars)){
  imp_merged <- 
    ibind(imp_merged,
          imp_pars[[n]])
}

Используя foreach с ibind

Возможно, самой простой альтернативой является использование foreach:

library(foreach)
library(doParallel)
cl <- makeCluster(cores_2_use)
clusterSetRNGStream(cl, 9956)
registerDoParallel(cl)

library(mice)
imp_merged <-
  foreach(no = 1:cores_2_use, 
          .combine = ibind, 
          .export = "nhanes",
          .packages = "mice") %dopar%
{
  mice(nhanes, m = 30, printFlag = FALSE)
}
stopCluster(cl)

Использование complete

Извлечение полных наборов данных с помощью complete(..., action="long"), rbind -используя эти, а затем используя as.mids другие объекты mice могут работать хорошо, но он генерирует более тонкий объект, чем то, что другие два подхода:

merged_df <- nhanes
merged_df <- 
  cbind(data.frame(.imp = 0,
                   .id = 1:nrow(nhanes)),
        merged_df)
for (n in 1:length(imp_pars)){
  tmp <- complete(imp_pars[[n]], action = "long")
  tmp$.imp <- as.numeric(tmp$.imp) + max(merged_df$.imp)
  merged_df <- 
    rbind(merged_df,
          tmp)
}

imp_merged <- 
  as.mids(merged_df)

# Compare the most important the est and se for easier comparison
cbind(summary(pool(with(data=imp_merged,
                        exp=lm(bmi~age+hyp+chl))))[,c("est", "se")],
      summary(pool(with(data=mice(nhanes, 
                                  m = 60, 
                                  printFlag = FALSE),
                        exp=lm(bmi~age+hyp+chl))))[,c("est", "se")])

Выдает вывод:

                    est         se         est         se
(Intercept) 20.41921496 3.85943925 20.33952967 3.79002725
age         -3.56928102 1.35801557 -3.65568620 1.27603817
hyp          1.63952970 2.05618895  1.60216683 2.17650536
chl          0.05396451 0.02278867  0.05525561 0.02087995

Сохранение правильного объекта mids

Мой альтернативный подход ниже показывает, как объединить объекты вменения и сохранить полную функциональность позади объекта mids. Поскольку решение ibind я оставил это для всех, кто интересуется исследованием того, как объединить сложные списки.

Я просмотрел mids-объект mice, и вам нужно сделать несколько шагов, чтобы получить хотя бы аналогичный объект mids после параллельной работы. Если мы рассмотрим объект mids и сравним два объекта с двумя разными настройками, получим:

library(mice)
imp <- list()
imp <- c(imp,
         list(mice(nhanes, m = 40)))
imp <- c(imp,
         list(mice(nhanes, m = 20)))

sapply(names(imp[[1]]),
       function(n)
         try(all(useful::compare.list(imp[[1]][[n]], 
                                      imp[[2]][[n]]))))

Если вы видите, что вызов, m, imp, chainMean и chainVar различаются между двумя запусками. Из них имп, без сомнения, является самым важным, но кажется, что это мудрый вариант обновления и других компонентов. Поэтому мы начнем с создания функции слияния мышей:

mergeMice <- function (imp) {
  merged_imp <- NULL
  for (i in 1:length(imp)){
    if (is.null(merged_imp)){
      merged_imp <- imp[[n]]
    }else{
      counter <- merged_imp$m
      # Update counter
      merged_imp$m <- 
        merged_imp$m + imp[[n]]$m
      # Rename chains
      dimnames(imp[[n]]$chainMean)[[3]] <-
        sprintf("Chain %d", (counter + 1):merged_imp$m)
      dimnames(imp[[n]]$chainVar)[[3]] <-
        sprintf("Chain %d", (counter + 1):merged_imp$m)
      # Merge chains
      merged_imp$chainMean <- 
        abind::abind(merged_imp$chainMean, 
                     imp[[n]]$chainMean)
      merged_imp$chainVar <- 
        abind::abind(merged_imp$chainVar, 
                     imp[[n]]$chainVar)
      for (nn in names(merged_imp$imp)){
        # Non-imputed variables are not in the
        # data.frame format but are null
        if (!is.null(imp[[n]]$imp[[nn]])){
          colnames(imp[[n]]$imp[[nn]]) <- 
            (counter + 1):merged_imp$m
          merged_imp$imp[[nn]] <- 
            cbind(merged_imp$imp[[nn]],
                  imp[[n]]$imp[[nn]])
        }
      }
    }
  }
  # TODO: The function should update the $call parameter
  return(merged_imp)
}

Теперь мы можем просто объединить два выше сгенерированных вменения через:

merged_imp <- mergeMice(imp)
merged_imp_pars <- mergeMice(imp_pars)

Теперь кажется, что мы получаем правильный вывод:

# Compare the three alternatives
cbind(
  summary(pool(with(data=merged_imp,
                    exp=lm(bmi~age+hyp+chl))))[,c("est", "se")],
 summary(pool(with(data=merged_imp_pars,
                    exp=lm(bmi~age+hyp+chl))))[,c("est", "se")],
 summary(pool(with(data=mice(nhanes, 
                             m = merged_imp$m, 
                             printFlag = FALSE),
                   exp=lm(bmi~age+hyp+chl))))[,c("est", "se")])

дает:

                    est         se         est        se
(Intercept) 20.16057550 3.74819873 20.31814393 3.7346252
age         -3.67906629 1.19873118 -3.64395716 1.1476377
hyp          1.72637216 2.01171565  1.71063127 1.9936347
chl          0.05590999 0.02350609  0.05476829 0.0213819
                    est         se
(Intercept) 20.14271905 3.60702992
age         -3.78345532 1.21550474
hyp          1.77361005 2.11415290
chl          0.05648672 0.02046868

Хорошо, это. Получайте удовольствие.