Можно ли использовать tf.contrib.quantize.create_training_graph для количественного определения модели с уже обученной моделью Keras?
Как я понимаю, я могу импортировать tf.Graph из модели tf.Graph, но могу ли я настроить его после модификации с помощью tf.contrib.quantize.create_training_graph?
Я смог вызвать tf.contrib.quantize.create_training_graph(input_graph=K.get_session().graph, quant_delay=int(0)) после определения модели и загрузки модели, но получил:
2019-02-22 14:56:24.216742: W tensorflow/c/c_api.cc:686] Operation '{name:'global_average_pooling2d_1_1/Mean' id:3777 op device:{} def:{global_average_pooling2d_1_1/Mean = Mean[T=DT_FLOAT, Tidx=DT_INT32, keep_dims=false](conv2d_15_1/act_quant/FakeQuantWithMinMaxVars:0, global_average_pooling2d_1_1/Mean/reduction_indices)}}' was changed by updating input tensor after it was run by a session. This mutation will have no effect, and will trigger an error in the future. Either don't modify nodes after running them or create a new session.
По крайней мере, мне удалось сохранить модель с весами uint8 при преобразовании в keras-> tenorflow-> tflite, так как я понимаю, что ввод в модель и вывод по-прежнему fp32.
converter = tf.contrib.lite.TFLiteConverter.from_frozen_graph(
graph_def_file='tf_model.pb',
input_arrays=input_node_names,
output_arrays=output_node_names)
converter.post_training_quantize = True
tflite_model = converter.convert()