摘要: 中国制造影响力越来越大的分析 所有关于廉价劳动力的答案都没有抓住问题的重点。因为大多数第三世界国家的劳动力更便宜。来自非洲、南美、印度等大部分地区……廉价劳动力已经被指出。这里还有一些: 规模庞大(有市场支撑)、体系完善(政策稳定,积极引导)、配套齐全(供应链上下游,外部基础设施);质量、时间和成本 阅读全文
posted @ 2020-03-31 16:49 Christbao 阅读(215) 评论(0) 推荐(0) 编辑
摘要: 神经网络激活函数 激活函数 激活函数在神经元中非常重要的。为了增强网络的表示能力和学习能 力,激活函数需要具备以下几点性质: 1. 连续并可导(允许少数点上不可导)的非线性函数。可导的激活函数可以 直接利用数值优化的方法来学习网络参数。 2. 激活函数及其导函数要尽可能的简单,有利于提高网络计算效率 阅读全文
posted @ 2020-03-26 11:19 Christbao 阅读(669) 评论(0) 推荐(0) 编辑
摘要: 互联网信息过载,用户疲于应对纷繁复杂的信息,新时期的矛盾从用户获取信息和信息不足的矛盾转变为,用户获取高价值的信息和获取高价值信息成本高的矛盾,基于用户需求和兴趣进行信息匹配,是当前和未来推荐系统发展的趋势。 现代推荐系统简介 从百万量及样本通过粗排序模型(召回模型)生成百千级的候选集;通过精排生成 阅读全文
posted @ 2020-03-24 11:02 Christbao 阅读(1437) 评论(0) 推荐(0) 编辑
摘要: SQL脚本 思路:计算经纬度之间球面距离,返回单位:米 6378137*2*ASIN(SQRT(POWER(SIN((destination_lat-endpoint_lat)*ACOS(-1)/360),2) +COS(destination_lat*ACOS(-1)/180)*COS(endpo 阅读全文
posted @ 2020-03-06 18:17 Christbao 阅读(408) 评论(0) 推荐(0) 编辑
摘要: 目录: 1、Elmo与transformer的简单回顾 2、DAE与Masked Language Model 3、Bert模型详解与不同训练方法 4、如何把bert模型应用到实际项目中 5、如何对bert减肥(优化) 6、bert存在的问题 1、Elmo与transformer的简单回顾 一词多义 阅读全文
posted @ 2020-02-25 20:52 Christbao 阅读(663) 评论(0) 推荐(0) 编辑
摘要: bert作为开创性的模型,可以用于大部分的场景,但也存在一些问题,不能用于生成,训练数据和测试数据的不一致(Discrepancy)。XLnet是比bert更强大的预训练模型,基于permutation实现了真正的双向学习,使用双流自注意力机制,结合transformers-XL的相对位置编码,效果 阅读全文
posted @ 2020-02-22 22:00 Christbao 阅读(407) 评论(0) 推荐(0) 编辑
摘要: 自然语言难在哪? 自然语言特点: 1、创新性,新词旧词;2、递归性;递归性为语言带来精确表达的能力;3、多义性,自然语言包含多粒度语言单位:字、词、短语、句子、语篇。自然语言理解的关键目标是自动消歧;4、主观性,与个体的社会阅历相关;5、社会性,社会结构影响人类语言 二、自然语言的未来 1、深度学习 阅读全文
posted @ 2020-02-20 22:05 Christbao 阅读(279) 评论(0) 推荐(0) 编辑
摘要: ALbert第一作者蓝振忠解说: ALBERT的提出就是为了给BERT瘦身,让模型更大的BERT有算力能跑起来。作者通过权值共享和矩阵分解减少参数。降低了空间复杂度,但计算量并没有减少,所以在模型进行下游任务和预测的时候并不会更快。所以作者说现在优化BERT的方法也是往时间复杂度的方向优化。 ALB 阅读全文
posted @ 2020-02-20 20:42 Christbao 阅读(385) 评论(0) 推荐(0) 编辑
摘要: 目录: 基础部分回顾(词向量、语言模型) NLP的核心:学习不同语境下的语义表示 基于LSTM的词向量学习 深度学习中的层次表示以及Deep BI-LSTM ELMo模型 总结 1. 基础部分回顾(词向量、语言模型) 1.1 独热编码-词的表示 1.2 词向量-词的表示 我们为什么需要词向量?(On 阅读全文
posted @ 2020-02-19 20:24 Christbao 阅读(586) 评论(0) 推荐(0) 编辑
摘要: 高德API调取具体POI存在几个问题:调取次数限制、每次获取的数据量限制900。 推荐:在调取城市POI具体数据的基础上,先将城市区域切分网格,然后可以获取城市POI数据; 一个git解决全部问题:POI获取 运行app.py, 修改参数 :1、app.py内部切分城市区域网格颗粒度pology_s 阅读全文
posted @ 2020-02-10 17:55 Christbao 阅读(5605) 评论(0) 推荐(0) 编辑