Tensorboard教程：显示计算图中节点信息

Tensorboard显示计算图节点信息

觉得有用的话,欢迎一起讨论相互学习~

参考文献
强烈推荐Tensorflow实战Google深度学习框架
实验平台:
Tensorflow1.4.0
python3.5.0

TensorFlow不仅可以展示计算图的结构,还可以展示TensorFlow 计算图上每个节点的基本信息以及运行时消耗的时间和空间。这可以帮助更加有针对性地优化TensorFlow 程序，使得整个程序的运行速度更快。使用TensorBoard 可以非常直观地展现所有TensorFlow 计算节点在某一次运行时所消耗的时间和内存。

with tf.Session() as sess:
    tf.global_variables_initializer().run()
    for i in range(TRAINING_STEPS):
        xs, ys = mnist.train.next_batch(BATCH_SIZE)

        if i%1000 == 0:
            # 配置运行时需要记录的信息。
            run_options = tf.RunOptions(trace_level=tf.RunOptions.FULL_TRACE)
            # 运行时记录运行信息的proto。
            run_metadata = tf.RunMetadata()
            # 将配置信息和记录运行信息的proto传入运行的过程，从而记录运行时每一个节点的时间空间开销信息
            _, loss_value, step = sess.run(
                [train_op, loss, global_step], feed_dict={x: xs, y_: ys},
                options=run_options, run_metadata=run_metadata)
            writer.add_run_metadata(run_metadata=run_metadata, tag=("tag%d"%i), global_step=i)
            print("After %d training step(s), loss on training batch is %g."%(step, loss_value))
        else:
            _, loss_value, step = sess.run([train_op, loss, global_step], feed_dict={x: xs, y_: ys})