我已经冻结了模型并获得了.pb文件。然后,我在Linux上使用tocoConverter量化了我的模型,因为Windows不支持它。我有quantized_model.tflite。我可以加载它并在Linux上获得预测,但是根据我的项目的要求,在Windows上安装它存在一些问题。
我尝试使用tf.contrib.lite.Interpreter使用以下代码加载它:
import numpy as np
import tensorflow as tf
# Load TFLite model and allocate tensors.
interpreter=tf.contrib.lite.Interpreter(model_path="quantized_model.tflite")
interpreter.allocate_tensors()
# Get input and output tensors.
input_details = interpreter.get_input_details()
output_details = interpreter.get_output_details()
# Test model on random input data.
input_shape = input_details[0]['shape']
# change the following line to feed into your own data.
input_data = np.array(np.random.random_sample(input_shape), dtype=np.float32)
interpreter.set_tensor(input_details[0]['index'],input_data)
interpreter.invoke()
output_data = interpreter.get_tensor(output_details[0]['index'])
print(output_data)
*ImportError: No module named 'tensorflow.contrib.lite.python.Interpreter*
但是它失败,并出现“没有名为'tensorflow.contrib.lite.python.interpreter的模块”错误。当尝试使用tf.contrib.lite中的某些内容时,在Windows上总是会出现此错误。也许有一种方法可以在Windows上加载它?还是可以建议其他选择来量化Windows上的模型?
最佳答案
Windows build for cmake当前不支持toco。这就是我记得在某处阅读的内容。