搜文章
推荐 原创 视频 Java开发 iOS开发 前端开发 JavaScript开发 Android开发 PHP开发 数据库 开发工具 Python开发 Kotlin开发 Ruby开发 .NET开发 服务器运维 开放平台 架构师 大数据 云计算 人工智能 开发语言 其它开发
Lambda在线 > Charlotte数据挖掘 > 框架如何迁移? | X2Paddle 小工具教你玩转模型迁移

框架如何迁移? | X2Paddle 小工具教你玩转模型迁移

Charlotte数据挖掘 2020-04-15

关注&置顶“Charlotte数据挖掘

每日9:00,干货速递!

By    Charlotte77


前言:如果需要从一个框架迁移到另一个框架,是直接重新写代码呢?还是直接转换整个模型文件即可呢?迁移后如何保证精度的损失在可接受的范围内?本篇文章将教大家如何实现框架间的迁移和模型的转换~

            


关键词:模型迁移 框架转换 X2Paddle tensorflow2fluid




    不知道大家有没有做过数据迁移,从一个机房迁移到另一个机房,既耗时又耗精力,但是没有办法。如果现在让你去迁移一个模型,譬如从caffe迁移到tensorflow,或者从tensorflow迁移到pytorch,那大多数人肯定傻眼了。这怎么迁移啊?不同框架的API都不一样,实现方式和搭建网络结构也不尽相同,怎么能保证迁移后的模型效果不发生变化呢?大家会考虑很多问题,而问题再多,归纳一下,无外乎以下几点:

1.API差异:模型的实现方式如何迁移,不同框架之间的API有没有差异?如何避免这些差异带来的模型效果的差异?

2.模型文件差异:训练好的模型文件如何迁移?转换框架后如何保证精度的损失在可接受的范围内?

3.预测方式差异:转换后的模型如何预测?预测的效果与转换前的模型差异如何?

        


    PaddlePaddle开发了一个新的功能块,叫X2Paddle(github见参考1),可以支持主流深度学习框架模型转换至PaddlePaddle,包括caffe、tensorflow、onnx等模型直接转换为PaddlePaddle fluid可加载预测模型,并且还提供了这三大主流框架间的API差异比较,方便我们在自己直接复现模型时对比API之间的差异,深入理解API的实现方式从而降低模型迁移带来的损失。下面以Tensorflow转换层PaddlePaddle Fluid模型为例,详细讲讲如何实现模型的迁移。


Tensorflow-Fluid  的API差异 

    在深度学习入门过程中,大家常见的就是手写数字识别这个demo,下面是一份最简单的实现手写数字识别的代码:


from tensorflow.examples.tutorials.mnist import input_data
import tensorflow as tf


mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)

x = tf.placeholder(tf.float32, [None784])  

W = tf.Variable(tf.zeros([78410]))
b = tf.Variable(tf.zeros([10]))

y = tf.nn.softmax(tf.matmul(x, W) + b)

y_ = tf.placeholder("float", [None10])
cross_entropy = tf.reduce_sum(tf.nn.softmax_cross_entropy_with_logits(logits = y,labels = y_))


train_step = tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)

init = tf.global_variables_initializer()

sess = tf.Session()
sess.run(init)

for i in range(11000):
    batch_xs, batch_ys = mnist.train.next_batch(100)
    sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys})

correct_prediction = tf.equal(tf.argmax(y, 1), tf.argmax(y_, 1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction, 'float'))
print(sess.run(accuracy, feed_dict={x: mnist.test.images, y_: mnist.test.labels}))


    大家看这段代码里,第一步是导入mnist数据集,然后设置了一个占位符x来表示输入的图片数据,再设置两个变量w和b,分别表示权重和偏置来计算,最后通过softmax计算得到输出的y值,而我们真实的label则是变量y_ 。 前向传播完成后,就可以计算预测值y与label y_之间的交叉熵。再选择合适的优化函数,此处为梯度下降,最后启动一个Session,把数据按batch灌进去,计算acc即可得到准确率。

    这是一段非常简单的代码,如果我们想把这段代码变成Paddle的代码,有人可能会认为非常麻烦,每一个实现的API还要一一去找对应的实现方式,但是这里,我可以告诉大家,不!用!这!么!麻!烦!因为在【X2Paddle】里有一份常用的Tensorflow对应Fluid的API表,(https://github.com/PaddlePaddle/X2Paddle/tree/master/tensorflow2fluid/doc),如下所示:

    

     对于常用的Tensorflow的API,都有相应的PaddlePaddle接口,如果两者的功能没有差异,则会标注功能一致,如果实现方式或者支持的功能、参数等有差异,及会标注‘差异对比’,并详细注明。

    譬如,在上文这份非常简单的代码里,出现了这些Tensorflow的API:

框架如何迁移? | X2Paddle 小工具教你玩转模型迁移

      在出现的这些api里,大部分的功能都是一致的,只有两个功能不同,分别是tf.placeholdertf.nn.softmax_cross_entropy_with_logits ,分别对应 fluid.layers.datafluid.layers.softmax_with_cross_entropy . 我们来看看具体差异:

tf.placeholder V.S fluid.layers.data

       常用Tensorflow的同学对palceholder应该不陌生,中文翻译为占位符,什么意思呢?在Tensoflow2.0以前,还是静态图的设计思想,整个设计理念是计算流图,在编写程序时,首先构筑整个系统的graph,代码并不会直接生效,这一点和python的其他数值计算库(如Numpy等)不同,graph为静态的,在实际的运行时,启动一个session,程序才会真正的运行。这样做的好处就是:避免反复地切换底层程序实际运行的上下文,tensorflow帮你优化整个系统的代码。我们知道,很多python程序的底层为C语言或者其他语言,执行一行脚本,就要切换一次,是有成本的,tensorflow通过计算流图的方式,可以帮你优化整个session需要执行的代码。

        在代码层面,每一个tensor值在graph上都是一个op,当我们将train数据分成一个个minibatch然后传入网络进行训练时,每一个minibatch都将是一个op,这样的话,一副graph上的op未免太多,也会产生巨大的开销;于是就有了tf.placeholder,我们每次可以将 一个minibatch传入到x = tf.placeholder(tf.float32,[None,32])上,下一次传入的x都替换掉上一次传入的x,这样就对于所有传入的minibatch x就只会产生一个op,不会产生其他多余的op,进而减少了graph的开销。

  • 参数对比

    tf.placeholder

  •  tf.placeholder(
          dtype,
          shape=None,
          name=None
      )

    paddle.fluid.layers.data

  •  paddle.fluid.layers.data(
          name, 
          shape, 
          append_batch_size=True
          dtype='float32'
          lod_level=0
          type=VarType.LOD_TENSOR, 
          stop_gradient=True)


    从图中可以看到,paddle的api参数更多,具体差异如下:

  • Batch维度处理

    TensorFlow: 对于shape中的batch维度,需要用户使用None指定;

    PaddlePaddle: 将第1维设置为-1表示batch维度;如若第1维为正数,则会默认在最前面插入batch维度,如若要避免batch维,可将参数append_batch_size设为False

  • 梯度是否回传

    tensorflow和pytorch都支持对输入求梯度,在paddle中直接设置stop_gradient = False即可。如果在某一层使用stop_gradient=True,那么这一层之前的层都会自动的stop_gradient=True,梯度不会参与回传,可以对某些不需要参与loss计算的信息设置为stop_gradient=True。对于含有BatchNormalization层的CNN网络,也可以对输入求梯度,如

  layers.data(
        name="data",
        shape=[323224224],
        dtype="int64",
        append_batch_size=False,
        stop_gradient=False)


tf.nn.softmax_cross_entropy_with_logits V.S fluid.layers.softmax_with_cross_entropy

  • 参数对比

    tf.nn.rnn_cell.MultiRNNCell

tf.nn.softmax_cross_entropy_with_logits(
    _sentinel=None,
    labels=None,
    logits=None,
    dim=-1,
    name=None
)

    paddle.fluid.layers.softmax_with_cross_entropy

paddle.fluid.layers.softmax_with_cross_entropy(
    logits, 
    label, 
    soft_label=False
    ignore_index=-100
    numeric_stable_mode=False
    return_softmax=False
)


  • 功能差异

        标签类型

        TensorFlow:labels只能使用软标签,其shape[batch, num_classes],表示样本在各个类别上的概率分布;

        PaddlePaddle:通过设置soft_label,可以选择软标签或者硬标签。当使用硬标签时,labelshape[batch, 1]dtypeint64;当使用软标签时,其shape[batch, num_classes]dtypeint64

       返回值

        TensorFlow:返回batch中各个样本的log loss;

        PaddlePaddle:当return_softmaxFalse时,返回batch中各个样本的log loss;当return_softmaxTrue时,再额外返回logtis的归一化值。

  • 疑问点?

    • 硬标签,即 one-hot label, 每个样本仅可分到一个类别

框架如何迁移? | X2Paddle 小工具教你玩转模型迁移

    • 软标签,每个样本可能被分配至多个类别中


    • numeric_stable_mode:这个参数是什么呢?标志位,指明是否使用一个具有更佳数学稳定性的算法。仅在 soft_label 为 False的GPU模式下生效. 若 soft_label 为 True 或者执行场所为CPU, 算法一直具有数学稳定性。 注意使用稳定算法时速度可能会变慢。默认为 True。

    • return_softmax: 指明是否额外返回一个softmax值, 同时返回交叉熵计算结果。默认为False。

      • 如果 return_softmax 为 False, 则返回交叉熵损失

      • 如果 return_softmax 为 True,则返回元组 (loss, softmax) ,其中交叉熵损失为形为[N x 1]的二维张量,softmax为[N x K]的二维张量

      • 代码示例

data = fluid.layers.data(name='data', shape=[128], dtype='float32')
label = fluid.layers.data(name='label', shape=[1], dtype='int64')
fc = fluid.layers.fc(input=data, size=100)
out = fluid.layers.softmax_with_cross_entropy(
logits=fc, label=label)


        所以通过API对应表,我们可以直接转换把Tensorflow代码转换成PaddlePaddle Fluid代码。但是如果现在项目已经上线了,代码几千行甚至上万行,或者已经训练出可预测的模型了,如果想要直接转换API是一件非常耗时耗精力的事情,有没有一种方法可以直接把训练好的可预测模型直接转换成另一种框架写的,只要转换后的损失精度在可接受的范围内,就可以直接替换。下面就讲讲训练好的模型如何迁移。


模型迁移

    VGG_16是CV领域的一个经典模型,我以tensorflow/models下的VGG_16为例,给大家展示如何将TensorFlow训练好的模型转换为PaddlePaddle模型。

下载预训练模型


import urllib
import sys
def schedule(a, b, c):
    per = 100.0 * a * b / c
    per = int(per)
    sys.stderr.write("\rDownload percentage %.2f%%" % per)
    sys.stderr.flush()

url = "http://download.tensorflow.org/models/vgg_16_2016_08_28.tar.gz"
fetch = urllib.urlretrieve(url, "./vgg_16.tar.gz", schedule)

解压下载的压缩文件


import tarfile
with tarfile.open("./vgg_16.tar.gz""r:gz"as f:
    file_names = f.getnames()
    for file_name in file_names:
        f.extract(file_name, "./")

保存模型为checkpoint格式

    tensorflow2fluid目前支持checkpoint格式的模型或者是将网络结构和参数序列化的pb格式模型,上面下载的vgg_16.ckpt仅仅存储了模型参数,因此我们需要重新加载参数,并将网络结构和参数一起保存为checkpoint模型

import tensorflow.contrib.slim as slim
from tensorflow.contrib.slim.nets import vgg
import tensorflow as tf
import numpy

with tf.Session() as sess:
    inputs = tf.placeholder(dtype=tf.float32, shape=[None2242243], name="inputs")
    logits, endpoint = vgg.vgg_16(inputs, num_classes=1000, is_training=False)
    load_model = slim.assign_from_checkpoint_fn("vgg_16.ckpt", slim.get_model_variables("vgg_16"))
    load_model(sess)

    numpy.random.seed(13)
    data = numpy.random.rand(52242243)
    input_tensor = sess.graph.get_tensor_by_name("inputs:0")
    output_tensor = sess.graph.get_tensor_by_name("vgg_16/fc8/squeezed:0")
    result = sess.run([output_tensor], {input_tensor:data})
    numpy.save("tensorflow.npy", numpy.array(result))

    saver = tf.train.Saver()
    saver.save(sess, "./checkpoint/model")


将模型转换为PaddlePaddle模型

    注意:部分OP在转换时,需要将参数写入文件;或者是运行tensorflow模型进行infer,获取tensor值。两种情况下均会消耗一定的时间用于IO或计算,对于后一种情况,建议转换模型时将use_cuda参数设为True,加快infer速度
    也可以通过下面的模型转换python脚本在代码中设置参数,在python脚本中进行模型转换。或者一般可以通过如下的命令行方式进行转换,如下所示:

# 通过命令行也可进行模型转换
python tf2fluid/convert.py --meta_file checkpoint/model.meta --ckpt_dir checkpoint \
                           --in_nodes inputs --input_shape None,224,224,3 \
                           --output_nodes vgg_16/fc8/squeezed --use_cuda True \
                           --input_format NHWC --save_dir paddle_model


模型转换python脚本



import tf2fluid.convert as convert
import argparse
parser = convert._get_parser()
parser.meta_file = "checkpoint/model.meta"
parser.ckpt_dir = "checkpoint"
parser.in_nodes = ["inputs"]
parser.input_shape = ["None,224,224,3"]
parser.output_nodes = ["vgg_16/fc8/squeezed"]
parser.use_cuda = "True"
parser.input_format = "NHWC"
parser.save_dir = "paddle_model"

convert.run(parser)

打印输出log信息(截取部分)

INFO:root:Loading tensorflow model...
INFO:tensorflow:Restoring parameters from checkpoint/model
INFO:tensorflow:Restoring parameters from checkpoint/model
INFO:root:Tensorflow model loaded!
INFO:root:TotalNum:86,TraslatedNum:1,CurrentNode:inputs
INFO:root:TotalNum:86,TraslatedNum:2,CurrentNode:vgg_16/conv1/conv1_1/weights
INFO:root:TotalNum:86,TraslatedNum:3,CurrentNode:vgg_16/conv1/conv1_1/biases
INFO:root:TotalNum:86,TraslatedNum:4,CurrentNode:vgg_16/conv1/conv1_2/weights
INFO:root:TotalNum:86,TraslatedNum:5,CurrentNode:vgg_16/conv1/conv1_2/biases
...
INFO:root:TotalNum:86,TraslatedNum:10,CurrentNode:vgg_16/conv3/conv3_1/weights
INFO:root:TotalNum:86,TraslatedNum:11,CurrentNode:vgg_16/conv3/conv3_1/biases
INFO:root:TotalNum:86,TraslatedNum:12,CurrentNode:vgg_16/conv3/conv3_2/weights
INFO:root:TotalNum:86,TraslatedNum:13,CurrentNode:vgg_16/conv3/conv3_2/biases

INFO:root:TotalNum:86,TraslatedNum:85,CurrentNode:vgg_16/fc8/BiasAdd
INFO:root:TotalNum:86,TraslatedNum:86,CurrentNode:vgg_16/fc8/squeezed
INFO:root:Model translated!

    到这一步,我们已经把tensorflow/models下的vgg16模型转换成了PaddlePaddleFluid 模型,转换后的模型与原模型的精度有损失吗?如何预测呢?来看下面。

 预测结果差异

加载转换后的PaddlePaddle模型,并进行预测


    上一步转换后的模型文件命名为“paddle_model”,在这里我们通过ml.ModelLoader把模型文件加载进来,注意转换后的模型文件的输出格式由NHWC转换为NCHW,所以我们需要对输入数据做一个转置。处理好数据后,即可通过model.inference来进行预测了。具体代码如下:

import numpy
import tf2fluid.model_loader as ml

model = ml.ModelLoader("paddle_model", use_cuda=False)

numpy.random.seed(13)
data = numpy.random.rand(52242243).astype("float32")
# NHWC -> NCHW
data = numpy.transpose(data, (0312))

results = model.inference(feed_dict={model.inputs[0]:data})

numpy.save("paddle.npy", numpy.array(results))


对比模型损失

    转换模型有一个问题始终避免不了,就是损失,从tesorflow的模型转换为paddlepaddle fluid模型,如果模型的精度损失过大,那么转换模型实际上是没有意义的,只有损失的精度在我们可接受的范围内,模型转换才能被实际应用。在这里可以通过把两个模型文件加载进来后,通过numpy.fabs来求两个模型结果的差异。


import numpy
paddle_result = numpy.load("paddle.npy")
tensorflow_result = numpy.load("tensorflow.npy")
diff = numpy.fabs(paddle_result - tensorflow_result)
print(numpy.max(diff))


打印输出

6.67572e-06

从结果中可以看到,两个模型文件的差异很小,为6.67572e-06 ,几乎可以忽略不计,所以这次转换的模型是可以直接应用的。

需要注意的点

1.转换后的模型需要注意输入格式,PaddlePaddle中输入格式需为NCHW格式。
此例中不涉及到输入中间层,如卷积层的输出,需要了解的是PaddlePaddle中的卷积层输出,卷积核的shape与Tensorflow有差异。
2.模型转换完后,检查转换前后模型的diff,需要测试得到的最大diff是否满足转换需求。


总结

    模型迁移可能大家不会怎么去深入研究,但是在PaddlePaddle Fluid中提供了一个非常方便的转换方式让大家可以直接将训练好的模型转换成PaddlePaddle Fluid版本。如果不嫌麻烦的话,也可以直接通过API对照表来重新实现代码。模型迁移有什么好处呢?试想一下,如果某一个框架在搭建模型时很好用,但是对于数据的加载或者模型的上线/serving做的不好,那么在实际生产过程中的应用是很麻烦的,除非自己再用别的方式实现,或者进行二次开发。如果有新的框架在生产上线这块做的好,但是你并没有接触过,可以先尝试把模型转换过来,迅速试错,体验一下效果和后续的优势,这样试错成本低,可以迅速迭代出结果,何乐而不为呢~除了本文提到的tensoflow2fluid,PaddlePaddle Fluid还支持caffe2fluid、onnx2fluid,大家可以根据自身的需求体验一下~有问题可以随时在下面留言~


参考资料:

  1. X2Paddle Github:https://github.com/PaddlePaddle/X2Paddle

  2. tensorflow2fluid: https://github.com/PaddlePaddle/X2Paddle/tree/master/tensorflow2fluid






-点击右下角 告诉大家你“在看”-


版权声明:本站内容全部来自于腾讯微信公众号,属第三方自助推荐收录。《框架如何迁移? | X2Paddle 小工具教你玩转模型迁移》的版权归原作者「Charlotte数据挖掘」所有,文章言论观点不代表Lambda在线的观点, Lambda在线不承担任何法律责任。如需删除可联系QQ:516101458

文章来源: 阅读原文

相关阅读

关注Charlotte数据挖掘微信公众号

Charlotte数据挖掘微信公众号:CharlotteDataMining

Charlotte数据挖掘

手机扫描上方二维码即可关注Charlotte数据挖掘微信公众号

Charlotte数据挖掘最新文章

精品公众号随机推荐