摘要：
一、为什么图像是波？ 我们知道，图像由像素组成。下图是一张 400 x 400 的图片，一共包含了 16 万个像素点。 每个像素的颜色，可以用红、绿、蓝、透明度四个值描述，大小范围都是0 ～ 255，比如黑色是[0, 0, 0, 255]，白色是[255, 255, 255, 255]。通过 Can 阅读全文
摘要：
假设个体(individual)用$h_i$表示,该个体的适应度(fitness)为$Fitness(h_i)$，被选择的概率为$P(h_i)$。 另外假设种群(population)的个体总数为$N$。 I. Fitness Selection 该方法也叫 "Roulette Wheel Sele 阅读全文
摘要：
论文: " Multi Fidelity Automatic Hyper Parameter Tuning via Transfer Series Expansion " 我们都知道实现AutoML的基本思路是不断选取不同的超参数组成一个网络结构，然后使用这个网络结构在整个数据集上进行评估 (假设评 阅读全文
摘要：
以下笔记参考自Boyd老师的教材【Convex Optimization】。 I. Mathematical Optimization 1.1 定义 数学优化问题(Mathematical Optimization) 有如下定义: $$ \begin{align} &minimize \, f_0( 阅读全文
摘要：
参考: " bash: ./my_script: /bin/bash^M: bad interpreter: No such file or directory [duplicate]" 有的时候运行.sh文件会莫名其妙报错，报错信息如下: 解决办法：运行如下命令 之后再次运行sh文件即可 阅读全文
摘要：
很多时候在运行python代码的时候我们需要从外部定义参数，从而避免每次都需要改动代码。所以一般我们都会使用 这个库。其实TensorFlow也提供了这个功能，那就是 。 使用方法很简单 上面给出的是定义一个bool变量，第一个参数是指参数名，第二个是默认值，第三个是对该变量的描述，如果不想描述可以 阅读全文
摘要：
I optimizer.minimize(loss, var_list) 我们都知道，TensorFlow为我们提供了丰富的优化函数，例如GradientDescentOptimizer。这个方法会自动根据loss计算对应variable的导数。示例如下： 首先我们看一下 的源代码(为方便说明，部分 阅读全文
摘要：
以下这些函数可以用于解决梯度消失或梯度爆炸问题上。 1. tf.clip_by_value Returns: 输入一个张量t，把t中的每一个元素的值都压缩在clip_value_min和clip_value_max之间。小于min的让它等于min，大于max的元素的值等于max。 例子： 2. tf 阅读全文
摘要：
I. Linear Algebra 1. 基础概念回顾 scalar : 标量 vector : 矢量，an array of numbers. matrix : 矩阵, 2 D array of numbers. tensor : 张量, 更高维的一组数据集合。 identity Matricx 阅读全文
摘要：
首先介绍数据读取问题，现在TensorFlow官方推荐的数据读取方法是使用tf.data.Dataset，具体的细节不在这里赘述，看官方文档更清楚，这里主要记录一下官方文档没有提到的坑，以示"后人"。因为是记录踩过的坑，所以行文混乱，见谅。 I 问题背景 不感兴趣的可跳过此节。 最近在研究 "ENA 阅读全文