04 2024 档案
5. bn和ln
摘要:batchnormalization和layernormalization,主要区别在于 normalization的方向不同。 normalization Normalization:规范化或标准化,就是把输入数据X,在输送给神经元之前先对其进行平移和伸缩变换,将X的分布规范化成在固定区间范围的标
3. dataset、dataloader
摘要:dataset 数据集 dataloader 数据加载器 1. AI训练时的需求 有一个数据集文件来,里面有100w的样本和标签 训练时,通常希望,一次在100w中随机抓取batch个样本,拿去训练 如果全部抓取完毕,则重新打乱后,再来一次 2. dataset,数据集 作用:储存数据集的信息sel
2. 脚本、模块、包
摘要:在python眼中,程序是如何被划分的 1.脚本(script) 被运行的python代码,称之为脚本,run xxx.py,xxx.py就会被视为脚本 2.模块(module),为何需要提出模块的概念 对应的就是xxx.py 模块化你的程序 上图这样管理更加清晰有条理 module 的概念是相对的