摘要:
1.分类问题 二分类 $f:x\rightarrow p(y=1|x)$ $p(y=1|x)$ 解释成给定x,求y=1的概率,如果概率>0.5,预测为1,否则预测为0 minimize MSE 多分类 $f:x\rightarrow p(y|x)$ $[p(y=0|x),p(y=1|x),...,p 阅读全文
摘要:
1.感知机 单层感知机: 1 x=torch.randn(1,10) 2 w=torch.randn(1,10,requires_grad=True) 3 4 o=torch.sigmoid(x@w.t()) #o=tensor([[0.9997]], grad_fn=<SigmoidBackwar 阅读全文
摘要:
1.激活函数 1 #激活函数 2 z1=torch.linspace(-100,100,10) 3 print(z1) #tensor([-100.0000, -77.7778, -55.5556, -33.3333, -11.1111, 11.1111, 33.3333, 55.5556, 77. 阅读全文
摘要:
构建一个模型,输入的是文字(比如“Let’s go see the baseball game tonight!”),输出的是表情(⚾️)。如果使用词向量,会发现即使训练集只明确地将几个单词与特定的表情符号相关联,模型也能够将测试集中的单词归纳、总结到同一个表情符号,甚至有些单词没有出现在你的训练集 阅读全文
摘要:
1.余弦相似度 加载需要的包和词向量(选择加载训练好的词嵌入数据) 1 import numpy as np 2 from w2v_utils import * 3 4 #words:单词集合 5 #word_to_vec:字典类型,{word:该word的50维度的嵌入向量} 6 words, w 阅读全文
摘要:
加载库 1 from keras.models import load_model, Model 2 from keras.layers import Dense, Activation, Dropout, Input, LSTM, Reshape, Lambda, RepeatVector 3 f 阅读全文
摘要:
1.Broadcasting Broadcasting能够实现Tensor自动维度增加(unsqueeze)与维度扩展(expand),以使两个Tensor的shape一致,从而完成某些操作,主要按照如下步骤进行: 从最后面的维度开始匹配(一般后面理解为小维度); 在前面插入若干维度,进行unsqu 阅读全文
摘要:
任务:构建字符级语言模型来生成新的名称 1.数据集与预处理 读取恐龙名称的数据集,创建一个唯一字符列表(a-z和\n),\n充当EOS名称结束的作用。 1 import numpy as np 2 import random 3 import time 4 import cllm_utils 5 6 阅读全文
摘要:
1.循环神经网络的前向传播 1.1RNN单元 向量化m个样本,x<t>的维度为(nx,m),a<t>的维度为(na,m) 1 import numpy as np 2 from rnn_utils import * 3 4 #单步前向传播 5 def rnn_cell_forward(xt, a_p 阅读全文
摘要:
1.数据类型 如何表示string? One-hot [0,1,0,0,...] Embedding Word2vec,glove 类型推断 1 #type check 2 a=torch.randn(2,3) 3 print(a.type()) #torch.FloatTensor 4 print 阅读全文