【2-2】神经网络简单例

 

import tensorflow as tf
import numpy as np

#placeholder
#要给节点输入数据时用placeholder，在TensorFlow中用placeholder来描述等待输入的节点，只需要指定类型即可;
#然后在执行节点的时候用一个字典来“喂”这些节点。相当于先把变量hold住，然后每次从外部传入data;
#注意placeholder和feed_dict是绑定用的。
#给feed提供数据，作为run()调用的参数;
#feed只在调用它的方法内有效,方法结束,feed就会消失。

#添加层
def add_layer(inputs,in_size,out_size,activation_function=None): #输入及输入节点和输出节点的个数，激活函数
    #add one more layer and return the output of this layer
    Weights = tf.Variable(tf.random_normal([in_size,out_size]))  #如果不加[]会报错，里边表示shape
    biases = tf.Variable(tf.zeros([1,out_size]) + 0.1)           #同样zeros([1,out_size])
    Wx_plus_b = tf.matmul(inputs,Weights) + biases
    if activation_function is None:
        outputs = Wx_plus_b
    else:
        outputs = activation_function(Wx_plus_b)
    return outputs

#1.训练的数据
x_data = np.linspace(-1,1,300)[:,np.newaxis]     
noise = np.random.normal(0,0.05,x_data.shape)    
y_data = np.square(x_data) - 0.5 + noise

#2.定义节点准备接受数据
xs = tf.placeholder(tf.float32,[None,1])         #shape=[None,1]
ys = tf.placeholder(tf.float32,[None,1])

#3.定义神经层：隐藏层和输出层
#输入值为xs,隐藏层有10个神经元
l1 = add_layer(xs,1,10,activation_function=tf.nn.relu)
#输入值是隐藏层l1,预测层输出1个值
prediction = add_layer(l1,10,1,activation_function=None)

#4.定义loss表达式
#the error between prediction and data
loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),
                      reduction_indices=[1]))

#5.让loss值最小，学习率为0.1
train_step = tf.train.GradientDescentOptimizer(0.1).minimize(loss)

init = tf.initialize_all_variables()

with tf.Session() as sess:
    sess.run(init)
    for i in range(1000):
        sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
        if i % 50 ==0:
            print(sess.run(loss,feed_dict={xs:x_data,ys:y_data}))
>>>
2.13953
0.0208985
0.00737973
0.00562527
0.00518565
0.00500644
0.00489249
0.00478653
0.00469118
0.00460924
0.00453592
0.00447866
0.00443341
0.00438404
0.00430098
0.0042153
0.00414793
0.00409648
0.00405469
0.00401441

在用python使用TensorFlow的时候：
tf.reduce_sum函数中reduction_indices参数表示函数的处理维度。
reduction_indices参数的值默认的时候为None,默认把所有的数据求和，即结果是一维的。
reduction_indices参数的值为0的时候，是第0维对应位置相加。
reduction_indices参数的值为1的时候，是第1维对应位置相加。

 https://blog.csdn.net/u014772246/article/details/84973358

a = np.array([[1,2,3],[4,5,6]])
b = tf.reduce_sum(a,reduction_indices=[0])
c = tf.reduce_sum(a,reduction_indices=[1])
d = tf.reduce_sum(a)

with tf.Session() as sess:
    b_result,c_result,d_result = sess.run([b,c,d])
    print(a)
    print("a的形状：",a.shape)
    print("reduction_indices值为0时：")
    print(b_result)
    print("reduction_indices值为1时：")
    print(c_result)
    print("reduction_indices值为默认None时：")
    print(d_result)
>>>
[[1 2 3]
 [4 5 6]]
a的形状： (2, 3)
reduction_indices值为0时：
[5 7 9]
reduction_indices值为1时：
[ 6 15]
reduction_indices值为默认None时：
21

 2019-05-30 14:23:58