15375357604

摘要： bert中n(seq_len)默认是512,通过padding，head_size = 64 hidden_size = 768 默认计算方式是hidden_size / heads(12) = 64,输入为seq_len(句子长度)*batch(句子个数)*embedingsize (44条消息) 阅读全文

摘要： 使用Docker搭建python环境 - CCX330 - 博客园 (cnblogs.com) 使用Docker搭建python环境 一、实现思路 学院管理系统主要用于学习做接口测试项目的 该项目来源于“公众号：测试奇谭”，大家可以自行去公众号回复【接口测试项目】 备注：这个学院管理系统，主要是公众 阅读全文

摘要： 1.git配置 git配置自己的秘钥 ssh-keygen -t rsa -C "xxx.com" -f ~/.ssh/qiaoqifa_id_rsa 2.创建Python虚拟环境 conda create -n alpaca python=3.9 conda activate alpaca cd 阅读全文

摘要： 标准query库的构建，如何才能打造一个高质量的标准query库 前面说了，query改写模块主要是为了让高频query的错体、变体归一，所以query库中就必须包含头部pv部分的query。 其次有些运营类的query，比如白名单的query，或者商业策略规定的买词等query也需要加入。 还有一 阅读全文

摘要： import os import tensorflow as tf from functools import lru_cache from tensorflow.python.framework import importer from tensorflow.python.framework.co 阅读全文

摘要： 梯度更新：随机梯度，minbath梯度，全量梯度 动量法：引入一阶动量，动量法是为了解决传统的梯度下降算法收敛很慢的问题。相当于每次在进行参数更新的时候，都会将之前的速度考虑进来，加权梯度 AdaGrad：随机梯度优化算法依赖学习率参数，所以为了解决传统梯度的梯度下降算法对参数敏感的问题，因此我们需 阅读全文

摘要： 31.从1到n的整数中1出现的个数比如，1-13中，1出现6次，分别是1，10，11，12，13。class Solution: def NumberOf1Between1AndN_Solution(self, n): count = 0 for i in range(1,n+1): j = i w 阅读全文

摘要： 模型开发及训练小技巧：（1）不管什么模型，先在一个较小的训练集上train和test，看看它能不能过拟合。如果不能过拟合，可能是学习率太大，或者代码写错了。先调小学习率试一下，如果还不行就去检查代码，先看dataloader输出的数据对不对，再看模型每一步的size是否符合自己期待。 （2）看tra 阅读全文

摘要： 数组：【1,2,2,2,3,4,5,6】 二分查找市返回2的位置， 左侧边界和右侧边界的写法： int binary_search(int[] nums, int target) { int left = 0, right = nums.length - 1; while(left <= right 阅读全文

摘要： import numpy as np def gelu(x): return 0.5 * x * (1 + np.tanh(np.sqrt(2 / np.pi) * (x + 0.044715 * x**3))) def softmax(x): exp_x = np.exp(x - np.max(x 阅读全文