交流_QQ_2240410488

2019年7月27日

摘要：对于规模更大、运行时间更长的数据分析应用程序，你可能会希望测试一下各个部分或函数调用或语句的执行时间。你可能会希望了解某个复杂计算过程中到底是哪些函数占用的时间最多。幸运的是，在开发和测试代码的过程中，IPython能够让你轻松得到这些信息。使用内置的time模块及其time.clock和time. 阅读全文

posted @ 2019-07-27 10:34 交流_QQ_2240410488 阅读(1949) 评论(0) 推荐(0) 编辑

对装饰器@wraps的解释（一看就懂）-- 并对装饰器详解

摘要： 1. 先看一段代码 def is_login(func): def foo(*args,**kwargs): return func(*args,**kwargs) return foo def test(): print('我是：',test.__name__) @is_login def tes 阅读全文

posted @ 2019-07-27 09:47 交流_QQ_2240410488 阅读(4501) 评论(0) 推荐(0) 编辑

2019年7月26日

Bert源码阅读

摘要：前言对Google开源出来的bert代码，来阅读下。不纠结于代码组织形式，而只是梳理下其训练集的生成，训练的self-attention和multi-head的具体实现。训练集的生成主要实现在create_pretraining_data.py和tokenization.py两个脚本里。输入文阅读全文

posted @ 2019-07-26 15:49 交流_QQ_2240410488 阅读(465) 评论(0) 推荐(0) 编辑

BERT大火却不懂Transformer？读这一篇就够了原版可视化机器学习可视化神经网络可视化深度学习

摘要： https://jalammar.github.io/illustrated-transformer/ The Illustrated Transformer Discussions: Hacker News (65 points, 4 comments), Reddit r/MachineLear 阅读全文

posted @ 2019-07-26 14:05 交流_QQ_2240410488 阅读(1492) 评论(0) 推荐(1) 编辑

BERT大火却不懂Transformer？读这一篇就够了

摘要： https://zhuanlan.zhihu.com/p/54356280 大数据文摘与百度NLP联合出品编译：张驰、毅航、Conrad、龙心尘来源：https://jalammar.github.io/illustrated-transformer/ 编者按：前一段时间谷歌推出的BERT模型在阅读全文

posted @ 2019-07-26 13:51 交流_QQ_2240410488 阅读(199) 评论(0) 推荐(0) 编辑

Python isinstance() 函数

摘要：描述 isinstance() 函数来判断一个对象是否是一个已知的类型，类似 type()。 isinstance() 与 type() 区别： type() 不会认为子类是一种父类类型，不考虑继承关系。 isinstance() 会认为子类是一种父类类型，考虑继承关系。如果要判断两个类型是否相同阅读全文

posted @ 2019-07-26 09:51 交流_QQ_2240410488 阅读(256) 评论(0) 推荐(0) 编辑

2019年7月25日

Bert系列（三）——源码解读之Pre-train

摘要： https://www.jianshu.com/p/22e462f01d8c pre-train是迁移学习的基础，虽然Google已经发布了各种预训练好的模型，而且因为资源消耗巨大，自己再预训练也不现实（在Google Cloud TPU v2 上训练BERT-Base要花费近500刀，耗时达到两周阅读全文

posted @ 2019-07-25 16:11 交流_QQ_2240410488 阅读(1245) 评论(0) 推荐(0) 编辑

BERT-Pytorch demo初探

摘要： https://zhuanlan.zhihu.com/p/50773178 概述本文基于 pytorch-pretrained-BERT(huggingface)版本的复现，探究如下几个问题： pytorch-pretrained-BERT的基本框架和使用如何利用BERT将句子转为词向量如何使阅读全文

posted @ 2019-07-25 15:39 交流_QQ_2240410488 阅读(771) 评论(0) 推荐(0) 编辑

一起读Bert文本分类代码 (pytorch篇五）

摘要： https://zhuanlan.zhihu.com/c_153732961 阅读全文

posted @ 2019-07-25 15:16 交流_QQ_2240410488 阅读(550) 评论(0) 推荐(0) 编辑

Pytorch实现MNIST（附SGD、Adam、AdaBound不同优化器下的训练比较） adabound实现

摘要：学习工具最快的方法就是在使用的过程中学习，也就是在工作中（解决实际问题中）学习。文章结尾处附完整代码。一、数据准备在Pytorch中提供了MNIST的数据，因此我们只需要使用Pytorch提供的数据即可。 from torchvision import datasets, transforms# 阅读全文

posted @ 2019-07-25 14:47 交流_QQ_2240410488 阅读(1464) 评论(0) 推荐(0) 编辑

劲风的味道

公告