Я пытался использовать RNN (в частности, LSTM) для прогнозирования последовательности. Тем не менее, я столкнулся с проблемой с переменной длиной последовательности. Например,
sent_1 = "I am flying to Dubain"
sent_2 = "I was traveling from US to Dubai"
Я пытаюсь предсказать следующее слово после текущего с помощью простого RNN на основе этого теста для построения модели PTB LSTM.
Однако параметр num_steps
(используемый для развертывания до предыдущих скрытых состояний) должен оставаться неизменным в каждой эпохе Tensorflow. По сути, пакетное предложение невозможно, так как предложения различаются по длине.
# inputs = [tf.squeeze(input_, [1])
# for input_ in tf.split(1, num_steps, inputs)]
# outputs, states = rnn.rnn(cell, inputs, initial_state=self._initial_state)
Здесь, num_steps
необходимо изменить в моем случае для каждого предложения. Я пробовал несколько взломов, но ничего не работает.