深度摸鱼入门
import numpy as np
a=np.array([1,2,3,4])
print(a)
[1 2 3 4]
import time
# this code is to compare the vectorization and for-loops
a=np.random.rand(1000000)
b=np.random.rand(1000000)
tic=time.time()
c=np.dot(a,b) # dian cheng in Chinese
toc=time.time()
print(c)
print("Vectorized version:"+str(1000*(toc-tic))+"ms")
c=0
tic=time.time()
for i in range(1000000):
c+=a[i]*b[i]
toc=time.time()
print(c)
print("For loop:"+str(1000*(toc-tic))+"ms")
# and we know how fast the vectorization can be than the for-loops
249857.1312811841
Vectorized version:1.0018348693847656ms
249857.13128117658
For loop:375.45204162597656ms
由此开始深度学习之路：
这是我的第一个jupyter note,是在用过matlab的mlx之后才开始用这个超级方便的工具，在开始之前，我希望读者可以先做到这几步：
第一步用jupyter notebook,先配好自动补全的环境：Jupyter Notebook 代码自动补全功能设置 - 知乎 (zhihu.com)
第二步学会写公式，在线LaTeX公式编辑器-编辑器 (latexlive.com)
第三步学会用英文表达变量名，百度翻译-200种语言互译、沟通全世界！ (baidu.com)
好，我们下面接着向量化与for-loops的比较:
\[ u=A\cdot v\\u_i=\sum_jA_{ij}v_{j}\\
\]
如果写成for-loops
u=np.zeros(rows,colomns)
for i in range(rows):
for j in range(colomns):
u[i]+=A[i][j]*v[j]
但如果写成vectorization，这样就可以了
u=np.dot(A,v)
又比如这个
\[v=\begin{bmatrix}
v_1\\\vdots\\
v_n
\end{bmatrix}
\]
你想得到，
\[u=\begin{bmatrix}
e^{v_1}\\\vdots\\
e^{v_n}
\end{bmatrix}
\]
如果你想用for-loops的话就只能这样，但我们可以直接用numpy的内置函数
u=np.zeros((n,1))
for i in range(n):
u[i]=math.exp(v[i])
这样显然更快：
import numpy as np
u=np.exp(v)
这些向量化的函数都会大大加快我们计算的速度，注意下面的v是vector的意思：
| np.log(v) | np.abs(v) | np.maximun(v,0) | v**x | 1/v |
|---|---|---|---|---|
| lnx | 绝对值 | 同零相比最大的绝对值 | v^2 | 倒数 |
\[ z^{(i)}=w^{T}x^{(i)}+b^{(i)}\\
在这里x^{(i)}代表的是第i列的数据，
\\在这里我们通常喜欢定义X为一个n\times m的矩阵,\\则Z也定义成一个n\times m的矩阵，而w是一个n\times 1的向量,\\而w^T就是一个1\times n的向量,b是一个1\times m的向量\\则我们可以这样理解这个句子\\
Z=w^TX+b\\
\begin{align}
\Rightarrow
\begin{bmatrix}
z^{(1)}& z^{(2)} &\cdots &z^{(m)}
\end{bmatrix}&=w^TX+
\begin{bmatrix}
b^{(1)}& b^{(2)} &\cdots &b^{(m)}
\end{bmatrix}\\
&=\begin{bmatrix}
w^Tx^{(1)}+b^{(1)}&w^Tx^{(2)}+b^{(2)} &\cdots &w^Tx^{(m)}+b^{(m)}
\end{bmatrix}
\end{align}
\\\begin{pmatrix}
但需要注意到的是其实在python中输入时b是一个常数\\而在计算时会被拓展成1\times m的向量，这在python中叫broadcasting
\end{pmatrix}
\\则上面这个本来应该用for-loops去赋值的语句我们可以写成:
\]
z=np.dot(w.T,X)+b
# 这里的numpy库中的点乘意思，w.T相当于np.transpose(w)即矩阵转置，b是一个常数
Broadcasting example
import numpy as np
A=np.array([[56.0,0.0,4.4,68.0],
[1.2,104.0,52.0,8.0],
[1.8,135.0,99.0,0.9]])
print(A)
[[ 56. 0. 4.4 68. ]
[ 1.2 104. 52. 8. ]
[ 1.8 135. 99. 0.9]]
cal=A.sum(axis=0)# means you want to sum vertically,else axis=1 is horizontally
print(cal)
[ 59. 239. 155.4 76.9]
percentage=100*A/cal.reshape(1,4) #如果不知道矩阵类型这是个好办法去保证
print(percentage)
[[94.91525424 0. 2.83140283 88.42652796]
[ 2.03389831 43.51464435 33.46203346 10.40312094]
[ 3.05084746 56.48535565 63.70656371 1.17035111]]
