04 2019 档案

摘要:前言 最近一年使用 Elasticsearch 完成亿级别日志搜索平台「ELK」,亿级别的分布式跟踪系统。在设计这些系统的过程中,底层都是采用 Elasticsearch 来做数据的存储,并且数据量都超过亿级别,甚至达到百亿级别。 所以趁着有空,就花点时间整理一下具体怎么做 Elasticsearc 阅读全文
posted @ 2019-04-30 22:22 星朝 阅读(2059) 评论(0) 推荐(0) 编辑
摘要:笔者想说:觉得英文与中文分词有很大的区别,毕竟中文的表达方式跟英语有很大区别,而且语言组合形式丰富,如果把国外的内容强行搬过来用,不一样是最好的。所以这边看到有几家大牛都在中文分词以及NLP上越走越远。哈工大以及北大的张华平教授(NLPIR)的研究成果非常棒! 但是商业应用的过程中存在的以下的问题: 阅读全文
posted @ 2019-04-30 17:51 星朝 阅读(3158) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 财务平台进行分录分表以后,随着数据量的日渐递增,业务人员对账务数据的实时分析响应时间越来越长,体验性慢慢下降,之前我们基于mysql的性能优化做了一遍,可以说基于mysql该做的优化已经基本上都做了,本次是基于elasticsearch对其做进一步的性能优化 阅读全文
posted @ 2019-04-30 17:39 星朝 阅读(644) 评论(0) 推荐(0) 编辑
摘要:作为京东商家不需要读懂搜索规则的数据处理,2019年算法的变革将继续加大力度,毕竟搜索的流量依旧是京东商家主要的流量获取入口,今天的文章着重解密京东搜索技术,帮助商家更好理解。助教:鹿鸣  |  作者:搜索书生今天是搜索书生陪伴您的第1124天    阅读全文
posted @ 2019-04-30 17:37 星朝 阅读(1164) 评论(0) 推荐(0) 编辑
摘要:笔记内容:搭建ELK日志分析平台(上)—— ELK介绍及搭建 Elasticsearch 分布式集群笔记日期:2018 03 02 27.1 ELK介绍 27.2 ELK安装准备工作 27.3 安装es 27.4 配置es 27.5 curl查看es集群情况 ELK介绍 需求背景: 业务发展越来越庞 阅读全文
posted @ 2019-04-30 15:25 星朝 阅读(916) 评论(0) 推荐(0) 编辑
摘要:为什么用到ELK: 一般我们需要进行日志分析场景:直接在日志文件中 grep、awk 就可以获得自己想要的信息。但在规模较大的场景中,此方法效率低下,面临问题包括日志量太大如何归档、文本搜索太慢怎么办、如何多维度查询。需要集中化的日志管理,所有服务器上的日志收集汇总。常见解决思路是建立集中式日志收集 阅读全文
posted @ 2019-04-30 15:23 星朝 阅读(239) 评论(0) 推荐(0) 编辑
摘要:OLTP与OLAP的介绍     数据处理大致可以分成两大类:联机事务处理OLTP(on line transaction processing)、联机分析处理OLAP(On Line Analytical Processing)。OLTP是传统的关系型数据库的主要应用,主要是基 阅读全文
posted @ 2019-04-30 15:03 星朝 阅读(442) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 简介 es在对文档进行倒排索引的需要用分析器(Analyzer)对文档进行分析、建立索引。从文档中提取词元(Token)的算法称为分词器(Tokenizer),在分词前预处理的算法称为字符过滤器(Character Filter),进一步处理词元的算法称为词 阅读全文
posted @ 2019-04-30 14:43 星朝 阅读(775) 评论(0) 推荐(0) 编辑
摘要:监控非常有用,不仅能及时预警发现故障,事后还能提供详实的数据用于追查定位问题。监控也非常重要,从产品的角度来看,没有监控意味着产品是不可靠不安全的。从技术的角度来看,没有监控意味着分析bug就如同盲人摸象,不知下次故障何时发生,出现故障后毫无头绪,无法解决。说到监控大家首先想到的是运维监控,不过监控 阅读全文
posted @ 2019-04-30 11:20 星朝 阅读(297) 评论(0) 推荐(0) 编辑
摘要:1、boost方式 简单粗暴,最常用。 需求:查询出title和content中包含java spark的document 方式1: GET /forum/article/_search { "query": { "bool": { "should": [ { "match": { "title": 阅读全文
posted @ 2019-04-30 10:05 星朝 阅读(831) 评论(0) 推荐(0) 编辑
摘要:前言之前《lucene的相关度评分TF&IDF算法以及向量空间模型算法》,已经很了解整个es的相关度评分的算法了,算法思想,TF/IDF,vector model,boolean model; 实际的公式,query norm,query coordination,boost。自定义相关度分 阅读全文
posted @ 2019-04-30 10:04 星朝 阅读(485) 评论(0) 推荐(0) 编辑
摘要:ES信息:Centos7.2,ES6.2.2 , MASTER:16核/128G物理 3 ,DATA:16核/128G/12块HDD6T组成RAID0 40, JVM开了30G,  目前只有一个索引,每天10T(算上副本),分片160,副本1,保留7天】  故障描述:某一个节点( 阅读全文
posted @ 2019-04-30 09:32 星朝 阅读(1417) 评论(0) 推荐(0) 编辑
摘要:最近在搞一个shell脚本启动jar文件个关闭jar文件的东东。搞得我都蛋疼了。今天晚上终于弄好了 话说,小弟的linux只是刚入门,经过各方查资料终于搞定了。话不多说,下面开始上小弟写的shell脚本 1 !/bin/bash 2 description: 启动重启server服务 3 端口号,根 阅读全文
posted @ 2019-04-30 08:52 星朝 阅读(18995) 评论(0) 推荐(0) 编辑
摘要:原文地址:https://www.cnblogs.com/shoufeng/p/9887327.html 目录 1 Elasticsearch概述 1.1 Elasticsearch是什么 1.2 Elasticsearch的优点 1.3 Elasticsearch的相关产品 1.4 Elastic 阅读全文
posted @ 2019-04-29 23:41 星朝 阅读(1000) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 本文主要从概念以及架构层面对Elasticsearch做一个简单的介绍,在介绍ES之前,会先对ES的“发动机”Lucene做一个简单的介绍 1. Lucene介绍 为了更深入地理解ElasticSearch的工作原理,特别是索引和查询这两个过程,理解Luce 阅读全文
posted @ 2019-04-29 23:39 星朝 阅读(1272) 评论(0) 推荐(0) 编辑
摘要:  Elasticsearch5.X,下列的是Elasticsearch2.X系类配置,其实很多配置都是相互兼容的 1. 配置文件 config/elasticsearch.yml 主配置文件 config/jvm.options jvm参数配置文件cofnig/log4j2.proper 阅读全文
posted @ 2019-04-29 23:37 星朝 阅读(834) 评论(0) 推荐(0) 编辑
摘要:在微服务开发中,往往要同时启动多个服务,这时候使用Run控制台难免会出错,并且不方便管理,这里推荐一个功能Run Dashboard idea中打开Run Dashboard的方法如下 view > Tool Windows > Run Dashboard 如果上述列表找不到Run Da 阅读全文
posted @ 2019-04-29 14:30 星朝 阅读(956) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 Telegraf+InfluxDB+Grafana搭建服务器监控平台 tags:网站 个人网站:https://wanghualong.cn/ 效果展示 本站服务器状态监控:https://status.wanghualong.cn 前言 要搭建服务器监控平 阅读全文
posted @ 2019-04-29 13:18 星朝 阅读(940) 评论(0) 推荐(0) 编辑
摘要:Typora是一款超简洁的markdown编辑器,具有如下特点:完全免费,目前已支持中文跨平台,支持windows,mac,linux支持数学公式输入,图片插入极其简洁,无多余功能界面所见即所得区域元素YAML FONT Matters在文章最上方输入 ,按换行键产生,输入内容即可菜单输入[toc] 阅读全文
posted @ 2019-04-29 11:21 星朝 阅读(810) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 财务平台进行分录分表以后,随着数据量的日渐递增,业务人员对账务数据的实时分析响应时间越来越长,体验性慢慢下降,之前我们基于mysql的性能优化做了一遍,可以说基于mysql该做的优化已经基本上都做了,本次是基于elasticsearch对其做进一步的性能优化 阅读全文
posted @ 2019-04-29 11:19 星朝 阅读(1262) 评论(0) 推荐(0) 编辑
摘要:Elasticsearch 是一个分布式的 RESTful 风格的搜索和数据分析引擎。 查询 : Elasticsearch 允许执行和合并多种类型的搜索 — 结构化、非结构化、地理位置、度量指标 — 搜索方式随心而变。 分析 : 找到与查询最匹配的十个文档是一回事。但是如果面对的是十亿行日志,又该 阅读全文
posted @ 2019-04-29 11:16 星朝 阅读(233) 评论(0) 推荐(0) 编辑
摘要:一、背景 我们在开发的过程中使用分页是不可避免的,通常情况下我们的做法是使用limit加偏移量:select from table where column=xxx order by xxx limit 1,20。当数据量比较小时(100万以内),无论你翻到哪一页,性能都是很快的。如果查询慢,只要在 阅读全文
posted @ 2019-04-29 10:44 星朝 阅读(499) 评论(0) 推荐(0) 编辑
摘要:一、FeignClient接口,不能使用@GettingMapping 之类的组合注解 代码示例: @FeignClient("microservice provider user") public interface UserFeignClient { @RequestMapping(value 阅读全文
posted @ 2019-04-28 22:25 星朝 阅读(1737) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 多模块项目Module “ ” must not contain source root . The root already belongs to module “ ”. 有时候新建了maven工程,然后删了里面的src目录让它成为空的父项目,但是会报下面 阅读全文
posted @ 2019-04-28 17:07 星朝 阅读(1157) 评论(0) 推荐(0) 编辑
摘要:达达是全国领先的最后三公里物流配送平台。 达达的业务模式与滴滴以及Uber很相似,以众包的方式利用社会闲散人力资源,解决O2O最后三公里即时性配送难题(目前达达已经与京东到家合并)。 达达业务主要包含两部分:商家发单,配送员接单配送,如下图所示。 达达的业务规模增长极大,在1年左右的时间从零增长到每 阅读全文
posted @ 2019-04-28 15:14 星朝 阅读(716) 评论(0) 推荐(0) 编辑
摘要:最简单的计算方式就是根据服务器带宽与页面的大小 1.假设机房带宽为10Mbs,页面的大小为20KB(包含所有的js、css、图片)     同时并发量的理论值: 10 1024/(8 20)  = 64个请求/秒       理论上1秒钟同 阅读全文
posted @ 2019-04-28 15:08 星朝 阅读(2852) 评论(0) 推荐(0) 编辑
摘要:并发访问量是10分钟100人在线?还是每秒100个并发请求?  如果是前者,以在10分钟内,100人每人平均访问10个pv,那么每秒请求数就是100 10/10/60=1.66,对服务器压力几乎就没有啦,用个单路双核的服务器轻松搞定。  如果是后者,至少就得一个四核处理器,2G内 阅读全文
posted @ 2019-04-28 15:07 星朝 阅读(7649) 评论(0) 推荐(0) 编辑
摘要:每秒查询率QPS:对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准,即每秒请求数,即最大谈吐能力。并发数:并发数和QPS是不同的概念,一般说QPS会说多少并发用户下QPS,当QPS相同时,并发用户数越大,网站并发处理能力越好。当并发用户数过大时,会造成进程(线程)频繁切换,反正真正用于处理 阅读全文
posted @ 2019-04-28 15:06 星朝 阅读(2808) 评论(0) 推荐(0) 编辑
摘要:两个类分别如下: <pre name="code" class="java">package Demo2; import java.util. ;class Demo2 { private static ArrayList<String> a = new ArrayList& 阅读全文
posted @ 2019-04-28 14:59 星朝 阅读(674) 评论(0) 推荐(0) 编辑
摘要:  随着互联网的蓬勃发展,越来越多的互联网企业面临着用户量膨胀而带来的并发安全问题。本文着重介绍了在java并发中常见的几种锁机制。     1.偏向锁 偏向锁是JDK1.6提出来的一种锁优化的机制。其核心的思想是,如果程序没有竞争,则取消之前已经取得锁的线程同步操作。 阅读全文
posted @ 2019-04-28 14:47 星朝 阅读(519) 评论(0) 推荐(0) 编辑
摘要: 锁作为并发共享数据,保证一致性的工具,         在JAVA平台有多种实现(如 synchronized 和 ReentrantLock等等 ) 。这些已经写好提供的锁为我们开发提供了便利,但是锁的具体性质以及类型却很少被提及。 下面将分析J 阅读全文
posted @ 2019-04-28 14:43 星朝 阅读(1816) 评论(0) 推荐(0) 编辑
摘要:在传统的同步开发模式下,当我们调用一个函数时,通过这个函数的参数将数据传入,并通过这个函数的返回值来返回最终的计算结果。但在多线程的异步开发模式下,数据的传递和返回和同步开发模式有很大的区别。由于线程的运行和结束是不可预料的,因此,在传递和返回数据时就无法象函数一样通过函数参数和return语句来返 阅读全文
posted @ 2019-04-28 14:36 星朝 阅读(30148) 评论(0) 推荐(4) 编辑
摘要:TPS、并发用户数、吞吐量关系   摘要 主要描述了在性能测试中,关于TPS、并发用户数、吞吐量之间的关系和一些计算方法。 loadrunner TPS   目录[ ] 一.系统吞度量要素: 二.系统吞吐量评估: 软件性能测试的基本概念和计算公式 一、软件性能的关注点 二、软件性 阅读全文
posted @ 2019-04-28 10:53 星朝 阅读(695) 评论(0) 推荐(0) 编辑
摘要:作者:cnJun 博客专栏: https://www.cnblogs.com/cnJun/ pom.xml <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring 阅读全文
posted @ 2019-04-28 10:17 星朝 阅读(323) 评论(0) 推荐(0) 编辑
摘要:http://blog.csdn.net/sxdtzhaoxinguo/article/details/51481430 摘要:MySQL数据库实现分页查询的SQL语句写法!   一:分页需求: 客户端通过传递start(页码),limit(每页显示的条数)两个参数去分页查询数据库表中的数 阅读全文
posted @ 2019-04-28 10:09 星朝 阅读(14439) 评论(0) 推荐(1) 编辑
摘要:前因:项目一直使用的是PageHelper实现分页功能,项目前期数据量较少一直没有什么问题。随着业务扩增,数据库扩增PageHelper出现了明显的性能问题。几十万甚至上百万的单表数据查询性能缓慢,需要几秒乃至十几秒的查询时间。故此特地研究了一下PageHelper源码,查找PageHelper分页 阅读全文
posted @ 2019-04-28 10:08 星朝 阅读(7072) 评论(2) 推荐(2) 编辑
摘要:对JVM运行参数进行修改是JVM性能调优的重要手段,下面介绍在应用程序开发过程中JVM参数设置的几种方式。 方式一 java程序运行时指定 Dproperty=value         该参数通常用于设置系统级全局变量值,如配置 阅读全文
posted @ 2019-04-28 09:39 星朝 阅读(4993) 评论(0) 推荐(0) 编辑
摘要:今晚,在定义一个new int[19001][13001]的数组时候内存不够;特转了一下方法:   Exception in thread "main" java.lang.OutOfMemoryError: Java heap space解决方法 问题描述 Exception in th 阅读全文
posted @ 2019-04-28 09:32 星朝 阅读(61698) 评论(0) 推荐(1) 编辑
摘要:一、遇到的问题 与大多数分布式系统一样,Elasticsearch按照一定的Hash规则把用户数据切分成多个分片,然后打散到不同机器进行存储,从而实现大规模数据的分布式存储。 cluster.png 然而在一些复杂的应用场景中使用Elasticsearch,经常会遇到分片过多引发的一系列问题。起初我 阅读全文
posted @ 2019-04-26 17:33 星朝 阅读(441) 评论(0) 推荐(0) 编辑
摘要:原文地址:https://qbox.io/blog/optimizing elasticsearch how many shards per index大多数ElasticSearch用户在创建索引时通用会问的一个重要问题是:我需要创建多少个分片?在本文中, 我将介绍在分片分配时的一些权衡以及不同设 阅读全文
posted @ 2019-04-26 17:09 星朝 阅读(369) 评论(0) 推荐(0) 编辑
摘要:从我们在elasticsearch复合框输入搜索语句到结果显示,展现给我们的是一个按score得分从高到底排好序的结果集。下面就来学习下elasticsearch怎样计算得分。 Lucene(或 Elasticsearch)使用 布尔模型(Boolean model) 查找匹配文档, 并用一个名为 阅读全文
posted @ 2019-04-26 17:08 星朝 阅读(3629) 评论(0) 推荐(0) 编辑
摘要:序言 后面有大量类似于mysql的sum, group by查询 elk === elk总体架构 https://www.elastic.co/cn/products Beat 基于go语言写的轻量型数据采集器,读取数据,迅速发送到Logstash进行解析,亦或直接发送到Elasticsearch进 阅读全文
posted @ 2019-04-26 16:41 星朝 阅读(578) 评论(0) 推荐(0) 编辑
摘要:MySQL 默认有个root用户,但是这个用户权限太大,一般只在管理数据库时候才用。如果在项目中要连接 MySQL 数据库,则建议新建一个权限较小的用户来连接。 在 MySQL 命令行模式下输入如下命令可以为 MySQL 创建一个新用户: ?1CREATE USER username IDENTIF 阅读全文
posted @ 2019-04-26 16:28 星朝 阅读(628) 评论(0) 推荐(0) 编辑
摘要:本文主要向大家介绍了MySQL数据库权限体系,通过具体的内容向大家展现,希望对大家学习MySQL数据库有所帮助。一、权限体系简介:MySQL的权限体系在实现上比较简单,相关权限信息主要存储在mysql.User、mysql.db、mysql.Host、mysql_table_priv和mysql.c 阅读全文
posted @ 2019-04-26 16:25 星朝 阅读(1360) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 本文主要内容: 1、路由一个文档到一个分片 2、新建、索引和删除请求 3、取回单个文档 4、局部单个文档 5、多文档模式 6、理解一下ES深度分页(from size)的劣势 路由一个文档到一个分片 当索引一个文档的时候,文档会被存储到一个主分片中。 Ela 阅读全文
posted @ 2019-04-26 16:06 星朝 阅读(1957) 评论(0) 推荐(0) 编辑
摘要:Exception 【一个故障引发的话题】 最近,项目中的短信模块收到一个故障日志,要求我协助调查一下: 2010 05 07 09:22:07,221 [?:?] INFO  httpclient.HttpMethodDirector Retrying request :org.apac 阅读全文
posted @ 2019-04-26 14:38 星朝 阅读(3828) 评论(0) 推荐(0) 编辑
摘要:Jmeter测试报告生成 本文使用的 Jmeter 版本为 apache jmeter 3.2 1. 命令行模式将 jtl 文件转成测试图表 注意: 这种方式只适用于jmeter3.0以后的版本 1.1 在测试的过程中将 jtl 转换成测试报告 可以执行如下命令: jmeter n t test_r 阅读全文
posted @ 2019-04-26 14:25 星朝 阅读(784) 评论(0) 推荐(0) 编辑
摘要:官网地址查阅:http://jmeter.apache.org/usermanual/generating dashboard.html 最近在压测过程中使用 Generating Report Dashboard生成测试报告,快捷又方便。 第一章节:我来演示如何使用。 1、首先根据官网的 阅读全文
posted @ 2019-04-26 14:24 星朝 阅读(1292) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 MySQL备份工具之mysqldump使用说明 一、备份分类 根据能否停用数据库,将备份类型分为: 1. 冷备:数据库服务停止后备份 2. 温备:只能对数据库进行读操作,不能进行写操作 3. 热备:在线备份,可以对数据库进行读写操作 根据是直接备份数据库文件 阅读全文
posted @ 2019-04-26 14:14 星朝 阅读(1142) 评论(0) 推荐(0) 编辑
摘要:1.navicat 方式一:选中表,右键转储;(含有表结构和数据)   方式二:选择右上角工具,点击数据传输,在这个页面右侧选择数据库,左侧选择文件。  点击下一步,选择导出的表名和各种函数什么的,然后点击开始,ok。(含有表结构和数据)   方式三:写下导出表的sql 阅读全文
posted @ 2019-04-26 14:04 星朝 阅读(4400) 评论(0) 推荐(0) 编辑
摘要:下面收集了两种解决办法,一种是把数据库分文件导出然后再导入,另一种是修改my.ini配置文件。 导入1G的数据,但是在怎么都导入不了,用命令行就可以轻松搞定了。用mysql source命令可以导入比较大的文件。  代码如下 复制代码 mysql>use dbtest; mysql& 阅读全文
posted @ 2019-04-26 14:01 星朝 阅读(6111) 评论(0) 推荐(0) 编辑
摘要:XX市邮政微商城的项目数据库,300多M,约220万条数据,source命令导入花了20个小时左右,太不可思议。 速度慢原因:220多万条数据,就 insert into 了220多万次,下图: 这是用 navicat 导出来的数据结构。 后面用 mysqldump 工具导出,唯一区别是insert 阅读全文
posted @ 2019-04-26 13:54 星朝 阅读(2607) 评论(0) 推荐(0) 编辑
摘要:相对于Loadrunner,Jmeter其实也是可以有测试报告产出的,虽然一般都不用(没有Loadrunner的报告那么强大是一方面),还是顺手写一下吧,其实方法在用命令运行jmeter的时候就已经说明了: 1、准备脚本文件   2、cmd中运行一下命令 ——jmeter  n& 阅读全文
posted @ 2019-04-26 13:48 星朝 阅读(342) 评论(0) 推荐(0) 编辑
摘要:现场在实施过程中,基于安全考虑(用户名和密码之前暴露给其他公司了),需要对用户密码进行修改。 修改过程很简单(alter user [username] identified by [password];),但是在修改之后出现该用户被锁定的问题。 原因:数据库参数文件中设置了输错密码的次数,登录时当 阅读全文
posted @ 2019-04-26 12:52 星朝 阅读(7675) 评论(0) 推荐(1) 编辑
摘要:最近做百万次通讯测试,在做并发测试时发现eclipse的控制台输出超过10万条信息时开始有报错内容Address already in use : connect  这种错误多了后紧接着eclipse不断弹出有          阅读全文
posted @ 2019-04-26 11:53 星朝 阅读(6295) 评论(0) 推荐(0) 编辑
摘要:Ramp up Period(in seconds) 【1】决定多长时间启动所有线程。如果使用10个线程,ramp up period是100秒,那么JMeter用100秒使所有10个线程启动并运行。每个线程会在上一个线程启动后10秒(100/10)启动。Ramp up需要要充足长以避免在启动测试时 阅读全文
posted @ 2019-04-26 11:49 星朝 阅读(908) 评论(0) 推荐(0) 编辑
摘要:最近在实现接口压力测试的时候遇到这样的一个问题 当线程数持续上升到一个点的时候,运行脚本的时候有很多报错,如图: java.net.BindException: Address already in use: connect 开始以为是单机运行脚本运行不过来,所以另加了一台负载机同时运行脚本 分布式 阅读全文
posted @ 2019-04-26 11:36 星朝 阅读(620) 评论(0) 推荐(0) 编辑
摘要:最近在学习spring cloud,由于学习资料具有普遍性,部分应个人原因导致的小细节问题,往往很难找到解决的办法。这特别记录一下自己遇到的一些问题。 一、eureka server加入security做基础访问控制报错Batch update failure with HTTP status co 阅读全文
posted @ 2019-04-26 11:32 星朝 阅读(895) 评论(0) 推荐(0) 编辑
摘要:配置: 1、新建一个线程组: 然后设置线程数、运行时间、重复次数。 2、新建Http请求: 设置服务器域名,路径,方法,编码格式,数据内容。 可以在函数助手中,编辑所需要的变量,比如本例中的随机生成电话号码。 3、添加HTTP信息头管理器 然后信息头添加一条名称为 Content Type,值为 a 阅读全文
posted @ 2019-04-26 11:26 星朝 阅读(2644) 评论(0) 推荐(1) 编辑
摘要: ◆版权声明:本文出自胖喵~的博客,转载必须注明出处。  转载请注明出处:http://www.cnblogs.com/by dream/p/5611555.html      我知道我迟早是要踏上了后台测试之路的,只是没想到来的这么突然。新接手了一 阅读全文
posted @ 2019-04-26 11:15 星朝 阅读(4355) 评论(0) 推荐(0) 编辑
摘要:问题: 最近在做性能测试,造数据,发现insert好慢,只有几十条每秒,很奇怪,最后再网上找到了原因。 网文如下: MY SQL insert 速度过慢 最近在用MySQL做存储,测试中发现插入数据太慢了,插入速度只有20 30 条/秒,后来查资料后,将MySQL的1个参数:innodb_flush 阅读全文
posted @ 2019-04-26 10:43 星朝 阅读(5241) 评论(0) 推荐(0) 编辑
摘要:innodb_flush_log_at_trx_commit=0,在提交事务时,InnoDB不会立即触发将缓存日志写到磁盘文件的操作,而是每秒触发一次缓存日志回写磁盘操作,并调用操作系统fsync刷新IO缓存。 innodb_flush_log_at_trx_commit=1,在每个事务提交时,In 阅读全文
posted @ 2019-04-26 10:42 星朝 阅读(13261) 评论(0) 推荐(3) 编辑
摘要:一、参数解释 0:log buffer将每秒一次地写入log file中,并且log file的flush(刷到磁盘)操作同时进行。该模式下在事务提交的时候,不会主动触发写入磁盘的操作。 1:每次事务提交时MySQL都会把log buffer的数据写入log file,并且flush(刷到磁盘)中去 阅读全文
posted @ 2019-04-26 10:41 星朝 阅读(397) 评论(0) 推荐(0) 编辑
摘要:Jquery中文网 >  数据库  >  mysql  >  正文 MySQL mysqldump与source导入慢的解决方法 MySQL mysqldump与source导入慢的解决方法 发布时间:2017 02 26 阅读全文
posted @ 2019-04-26 10:37 星朝 阅读(3209) 评论(0) 推荐(0) 编辑
摘要:1.导出整个数据库mysqldump u 用户名 p 数据库名 > 导出的文件名mysqldump u dbuser p dbname > dbname.sql2.导出一个表mysqldump u 用户名 p 数据库名 表名> 导出的文件名mysqldump u dbuser p 阅读全文
posted @ 2019-04-26 10:33 星朝 阅读(7963) 评论(0) 推荐(0) 编辑
摘要:数据库操作中如何批量执行多个sql文件?1.应用场景:在历史数据导入过程中,会发现有很多个表形成的.sql文件,要是一个一个文件去手动执行,实在是费时间,所以采取以下方法。2.将文件放在一定位置,执行代码获取sql文件名,代码下载地址:https://download.csdn.net/downlo 阅读全文
posted @ 2019-04-26 09:44 星朝 阅读(4606) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 方法1 若有SQL脚本a.sql, b.sql, 其目录在f盘根目录下, 则可再写一个SQL脚本c.sql(假设其目录也在f盘根目录下, 也可以在其他路径下)如下: source f:/a.sql; source f:/b.sql; 然后执行source f 阅读全文
posted @ 2019-04-26 09:37 星朝 阅读(8151) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 公司一直在使用ES作为分布式的搜索引擎,由于数据量的不断升高,ES出现了性能瓶颈。公司决定进一步的优化ES配置,所以最近几天在研究ES,最近会更新一系列ES的教程,希望大家持续关注。不多说了,Action。 前言 这篇博文我们亲自搭建一个简单的Elastic 阅读全文
posted @ 2019-04-25 17:19 星朝 阅读(332) 评论(0) 推荐(0) 编辑
摘要:版本spring boot: 2.0.1.RELEASEspring cloud: Finchley.M9错误通过zuul调用eureka注册的服务,错误内容如下Caused by: com.netflix.client.ClientException: Load balancer does not 阅读全文
posted @ 2019-04-25 16:00 星朝 阅读(10916) 评论(0) 推荐(1) 编辑
摘要:java项目开发中,最终生成的jar,大概可分为二类,一类是一些通用的工具类(不包含main入口方法),另一类是可直接运行的jar包(有main入口方法),下面主要讲的是后者,要让一个jar文件可直接运行,通常有几下三种方式: 动工之前,先搭一个项目架子便于后面分析: 项目结构图:  这是 阅读全文
posted @ 2019-04-25 15:48 星朝 阅读(3770) 评论(0) 推荐(0) 编辑
摘要:我们在用maven构建java项目时,最常用的打包命令有mvn package、mvn install、deploy,这三个命令都可完成打jar包或war(当然也可以是其它形式的包)的功能,但这三个命令还是有区别的。下面通过分别执行这三个命令的输出结果,来分析各自所执行的maven的生命周期。 mv 阅读全文
posted @ 2019-04-25 15:22 星朝 阅读(602) 评论(0) 推荐(0) 编辑
摘要:例如有如下接口: @RequestMapping(value = "/api/user/validate", method = RequestMethod.POST) UserInfo validate(@RequestBody JwtAuthenticationRequest authentica 阅读全文
posted @ 2019-04-25 14:23 星朝 阅读(7444) 评论(1) 推荐(1) 编辑
摘要:一、@RequestParamGET和POST请求传的参数会自动转换赋值到@RequestParam 所注解的变量上1. @RequestParam(org.springframework.web.bind.annotation.RequestParam)用于将指定的请求参数赋值给方法中的形参。例: 阅读全文
posted @ 2019-04-25 14:22 星朝 阅读(420) 评论(0) 推荐(0) 编辑
摘要:我是使用微软自带的拼音输入法,右下角图标 右键 设置 按键,拉到最下面 快捷键(简体繁体切换),取消勾选 即可 阅读全文
posted @ 2019-04-25 14:16 星朝 阅读(6693) 评论(1) 推荐(4) 编辑
摘要:创建一个实体:里面包含需要接受的多种类型的参数。如实体、list集合、单个参数。(因为springMVC无法同时接受这几种参数,需要创建一个实体包含它们来接受) 如接收User(bean里面包含List)集合参数: 1、User实体类: 1.public class User { 2. privat 阅读全文
posted @ 2019-04-25 14:13 星朝 阅读(1539) 评论(0) 推荐(0) 编辑
摘要:spring学习之@ModelAttribute运用详解 @ModelAttribute使用详解 1.@ModelAttribute注释方法  例子(1),(2),(3)类似,被@ModelAttribute注释的方法会在此controller每个方法执行前被执行,因此对于一个contro 阅读全文
posted @ 2019-04-25 14:09 星朝 阅读(1840) 评论(0) 推荐(0) 编辑
摘要:@Configuration public class PropertySourcePlaceholderConfig { @Bean public PropertySourcesPlaceholderConfigurer propertySourcesPlaceholderConfigurer() 阅读全文
posted @ 2019-04-25 10:28 星朝 阅读(2099) 评论(0) 推荐(0) 编辑
摘要:前言 本文没有详细介绍 FeignClient 的知识点,网上有很多优秀的文章介绍了 FeignCient 的知识点,在这里本人就不重复了,只是专注在这个问题点上。 查询参数丢失场景 业务描述: 业务系统需要更新用户系统中的A资源,由于只想更新A资源的一个字段信息为B,所以没有选择通过 entity 阅读全文
posted @ 2019-04-25 09:07 星朝 阅读(4132) 评论(0) 推荐(0) 编辑
摘要:启动 Spring Boot 失败,但是没有出现多余的异常信息: 检查之后发现是依赖的问题(之前依赖的是 spring boot starter),修改即可:   方法二: pom.xml加上下面两个依赖 <dependency> <groupId>org.spri 阅读全文
posted @ 2019-04-24 23:07 星朝 阅读(150609) 评论(0) 推荐(10) 编辑
摘要:Feign是Webservice服务的客户端,创建接口+注解就可完成,实现简单 客户端通过@EnableFeignClients开启Feign的支持功能 @SpringBootApplication@EnableEurekaClient@EnableFeignClients@RestControll 阅读全文
posted @ 2019-04-24 16:41 星朝 阅读(7688) 评论(0) 推荐(0) 编辑
摘要:Feign受Retrofix、JAXRS 2.0和WebSocket影响,采用了声明式API接口的风格,将Java Http客户端绑定到他的内部。Feign的首要目标是将Java Http客户端调用过程变得简单。 源码地址:https://github.com/OpenFeign/feign 本章案 阅读全文
posted @ 2019-04-24 16:17 星朝 阅读(500) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 最近在实践Spring Boot 2+Spring Cloud(Finchley.M9),在用到Feign的时候发现@EnableFeignClients注解开不了,独立使用Feign是可以的,但就是开启不了Spring对Feign的支持.经过一番摸索终于把 阅读全文
posted @ 2019-04-24 16:14 星朝 阅读(4271) 评论(0) 推荐(0) 编辑
摘要:spring cloud调用服务有两种方式,一种是Ribbon+RestTemplate, 另外一种是Feign。Ribbon是一个基于HTTP和TCP客户端的负载均衡器,其实feign也使用了ribbon, 只要使用@FeignClient时,ribbon就会自动使用。 一、Ribbon 阅读全文
posted @ 2019-04-24 14:59 星朝 阅读(11833) 评论(0) 推荐(0) 编辑
摘要:缘由: 在查询Mysql中的数据库,或者修改比较大的表的时候就会出现这种情况;google之:方案1.在mysql配置文件[myslqd]下面添加一行设置skip name resolve.需要重启mysql服务. 方案2.在hosts文件内添加: ip与主机名的映射关系,如: 127.0 阅读全文
posted @ 2019-04-24 14:19 星朝 阅读(8329) 评论(0) 推荐(0) 编辑
摘要:写入MySQL报错超出 max_allowed_packet 的问题。MySQL会根据配置文件会限制server接受的数据包的大小。如果写入大数据时,因为默认的配置太小,插入和更新操作会因为 max_allowed_packet 参数限制,而导致失败。查看当前配置:mysql> show va 阅读全文
posted @ 2019-04-24 14:18 星朝 阅读(1481) 评论(0) 推荐(0) 编辑
摘要:        Navicat导出百万级数据时,报错:2013 Lost connection to MySQL server during query    网上一番搜索,修改mysql如下几处配置 阅读全文
posted @ 2019-04-24 14:16 星朝 阅读(572) 评论(0) 推荐(0) 编辑
摘要:昨天使用Navicat for MySQL导入MySQL数据库的时候,出现了一个严重的错误,Lost connection to MySQL server during query,字面意思就是在查询过程中丢失连接到MySQL服务器。 [Msg] Decompressing... [Msg] Tab 阅读全文
posted @ 2019-04-24 14:09 星朝 阅读(18597) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 为什么写此篇 自从CSDN的博客有了Markdown后,慢慢的了解并学会了用Markdown语法写博客。但CSDN博客是在浏览器中使用,于是一直寻找离线的Markdown编辑器。 网上先是找到了MarkdownPad2编辑器,使用了一段时间,发现UI并不好看 阅读全文
posted @ 2019-04-24 11:31 星朝 阅读(1232) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 Elasticsearch天生就支持分布式部署,通过集群部署可以提高系统的可用性。本文重点谈一谈Elasticsearch的集群节点相关问题,搞清楚这些是进行Elasticsearch集群部署和拓扑结构设计的前提。关于如何配置集群的配置文件不会在本文中提及。 阅读全文
posted @ 2019-04-24 11:28 星朝 阅读(692) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 前言 之前了解了Elasticsearch的基本概念。将spring boot + ElasticSearch + head插件 搞通之后。紧接着对es进行下一步的探索:集群。查阅资料的过程中,找到了一篇超鸡详细的博客~~转载以方便日后查阅。亲自实践能更快理 阅读全文
posted @ 2019-04-24 11:26 星朝 阅读(1377) 评论(0) 推荐(0) 编辑
摘要:版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/sinat_26279177/article/details/70807173 1       简介 最近项目中需要做一个Windows系统服 阅读全文
posted @ 2019-04-24 11:25 星朝 阅读(519) 评论(0) 推荐(0) 编辑
摘要:Java Service Wrapper简介与使用    在实际开发过程中很多模块需要独立运行,他们并不会以web形式发布,传统的做法是将其压缩为jar包独立运行,这种形式简单易行也比较利于维护,但是 一旦服务器重启或出现异常时,程序往往无法自行修复或重启。解决服务器重启的传统做 阅读全文
posted @ 2019-04-24 11:23 星朝 阅读(378) 评论(0) 推荐(0) 编辑
摘要:注意:如果是在局域网中运行elasticsearch集群也是很简单的,只要cluster.name设置一致,并且机器在同一网段下,启动的es会自动发现对方,组成集群。   2.elasticsearch servicewrapper 1)安装 到github,https://github. 阅读全文
posted @ 2019-04-24 11:21 星朝 阅读(530) 评论(0) 推荐(0) 编辑
摘要:1、待执行的sql文件为1.sql、2.sql、3.sql、4.sql等 2、写一个batch.sql文件: source 1.sql; source 2.sql; source 3.sql; source 4.sql; 3、在mysql下执行source batch.sql; 注意路径问题。 方法 阅读全文
posted @ 2019-04-24 10:59 星朝 阅读(15965) 评论(0) 推荐(1) 编辑
摘要:Sqlcmd实用工具,可以输入 TRANSACT SQL 语句、 系统过程和脚本文件,通过各种可用模式: 通过命令提示符。 在中查询编辑器在 SQLCMD 模式下。 在 Windows 脚本文件。 在 SQL Server 代理作业的操作系统 (Cmd.exe) 作业步骤。 该实用工具使用 ODBC 阅读全文
posted @ 2019-04-24 10:55 星朝 阅读(32530) 评论(1) 推荐(0) 编辑
摘要:摘要:很多时候我们在做系统升级时需要将大量的.sql文件挨个执行,十分不方便。而且考虑到执行顺序和客服的操作方便性,能不能找到一种简单的方法来批量执行这些sql文件呢? 主要内容: 准备工作 利用osql/ocmd命令批量执行sql文件 使用master..xp_cmdshell存储过程调用osql 阅读全文
posted @ 2019-04-24 10:53 星朝 阅读(820) 评论(0) 推荐(0) 编辑
摘要:<! flowchart 箭头图标 勿删 SpringCloud微服务系列博客: SpringCloud微服务之快速搭建EurekaServer:https://blog.csdn.net/egg1996911/article/details/78787540 SpringCloud微服务之注册服务 阅读全文
posted @ 2019-04-24 10:27 星朝 阅读(10308) 评论(0) 推荐(0) 编辑
摘要:开发中,如果前端和后端,在没有统一返回数据格式,我们来看一下会发生什么: 后台开发人员A,在接口返回时,习惯返回一个返回码code=0000,然后返回数据; 后台开发人员B,在接口返回时,习惯直接返回一个boolean类型的success=true,然后返回数据; 后台开发人员C,在接口返回时,习惯 阅读全文
posted @ 2019-04-23 16:49 星朝 阅读(8518) 评论(0) 推荐(1) 编辑
摘要:1. elasticsearch安装 官方下载地址:https://www.elastic.co/downloads/elasticsearch 解压文件 elasticsearch 2.4.0.zip 修改配置文件 ?1234elasticsearch 2.4.0 cat config/ 阅读全文
posted @ 2019-04-23 16:37 星朝 阅读(1160) 评论(0) 推荐(0) 编辑
摘要:@GetMapping(value = "/user") 和  @GetMapping(value = "user") 的区别 1、带上 “/” 是绝对路径,不带  “/” 是相对路径。 2、这个"/" 其实起到连接作用, 如果只是单纯的一个地址,写不写 “/ 阅读全文
posted @ 2019-04-23 16:09 星朝 阅读(2598) 评论(0) 推荐(1) 编辑
摘要:原文出处: hollischuang(@Hollis_Chuang) 如何检查一个数组(无序)是否包含一个特定的值?这是一个在Java中经常用到的并且非常有用的操作。同时,这个问题在Stack Overflow中也是一个非常热门的问题。在投票比较高的几个答案中给出了几种不同的方法,但是他们的时间复杂 阅读全文
posted @ 2019-04-23 16:02 星朝 阅读(79296) 评论(0) 推荐(3) 编辑
摘要:1、索引样例数据 下载样例数据集链接 下载后解压到ES的bin目录,然后加载到elasticsearch集群   curl XPOST 127.0.0.1:9200/bank/account/_bulk?pretty data binary @accounts.json 如果ac 阅读全文
posted @ 2019-04-22 17:59 星朝 阅读(1516) 评论(0) 推荐(0) 编辑
摘要:到elasticsearch网站下载最新版本的elasticsearch 6.2.1 ?1https://www.elastic.co/downloads/elasticsearch 中文文档请参考 ?1https://www.elastic.co/guide/cn/elasticsearch/gu 阅读全文
posted @ 2019-04-22 15:49 星朝 阅读(783) 评论(0) 推荐(0) 编辑
摘要:本文转载自:“Java团长”公众号 1.面向对象和面向过程的区别 面向过程优点:性能比面向对象高,因为类调用时需要实例化,开销比较大,比较消耗资源;比如单片机、嵌入式开发、Linux/Unix等一般采用面向过程开发,性能是最重要的因素。缺点:没有面向对象易维护、易复用、易扩展面向对象优点:易维护、易 阅读全文
posted @ 2019-04-22 09:07 星朝 阅读(386) 评论(0) 推荐(0) 编辑
摘要:HTTP与HTTPS的区别 <! Baidu Button BEGIN 收藏到: document.getElementById("bdshell_js").src = "http://bdimg.share.baidu.com/static/js/shell_v2.js?cdnversion=" 阅读全文
posted @ 2019-04-21 15:46 星朝 阅读(174) 评论(0) 推荐(0) 编辑
摘要:通过@Configuration使用MyBatis配置类的资料比较少,大部分都是通过XML的形式。找了好久,最终还是通过官方的文档找到了解决方法:http://www.mybatis.org/spring boot starter/mybatis spring boot autoconfigure/ 阅读全文
posted @ 2019-04-18 17:53 星朝 阅读(5579) 评论(0) 推荐(0) 编辑
摘要:服务器开发 对外接口返回数据 封装模板 <! 作者区域 天马行空LQ <! 关注用户按钮 关注 <! 文章数据信息 <! 简书钻 1.3 <! 如果文章更新时间大于发布时间,那么使用 tooltip 显示更新时间 2018.12.15 15:21 字数 491 阅读 345评论 0喜欢 17赞赏 1 阅读全文
posted @ 2019-04-17 16:22 星朝 阅读(1197) 评论(0) 推荐(0) 编辑
摘要:idea 插件的使用 进阶篇(个人收集使用中的) 恭喜你,如果你已经看到这篇文章,证明在idear使用上已经初有小成!那么就要向着大神进发了! 下边就是大神之路! 插件的设置 在 IntelliJ IDEA 的安装讲解中我们其实已经知道,IntelliJ ID 阅读全文
posted @ 2019-04-17 09:26 星朝 阅读(1411) 评论(0) 推荐(0) 编辑
摘要:转自:http://www.cnblogs.com/haippy/archive/2011/12/04/2276064.html LevelDb日知录之一:LevelDb 101 说起LevelDb也许您不清楚,但是如果作为IT工程师,不知道下面两位大神级别的工程师,那您的领导估计会Hold不住了: 阅读全文
posted @ 2019-04-17 09:04 星朝 阅读(227) 评论(0) 推荐(0) 编辑
摘要:在 2006 年的 OSDI 上,Google 发布了名为 Bigtable: A Distributed Storage System for Structured Data 的论文,其中描述了一个用于管理结构化数据的分布式存储系统 Bigtable 的数据模型、接口以及实现等 阅读全文
posted @ 2019-04-17 09:03 星朝 阅读(536) 评论(0) 推荐(0) 编辑
摘要:最近学习主题模型pLSA、LDA,就想拿来试试中文。首先就是找文本进行切词、去停用词等预处理,这里我找了开源工具IKAnalyzer2012,下载地址:(:(注意:这里尽量下载最新版本,我这里用的IKAnalyzer2012.zip 这本版本后来测试时发现bug,这里建议IKAnalyzer2012 阅读全文
posted @ 2019-04-15 17:27 星朝 阅读(895) 评论(0) 推荐(0) 编辑
摘要:    它在哪里呢?   非常重要! [hadoop@HadoopMaster custom]$ pwd/home/hadoop/app/elasticsearch 2.4.3/plugins/ik/config/custom[hadoop@HadoopMaster c 阅读全文
posted @ 2019-04-15 17:25 星朝 阅读(1241) 评论(0) 推荐(0) 编辑
摘要:Java高级别REST客户端(The Java High Level REST Client)以后简称高级客户端,内部仍然是基于低级客户端。它提供了更多的API,接受请求对象作为参数并返回响应对象,由客户端自己处理编码和解码。 每个API都可以同步或异步调用。 同步方法返回一个响应对象,而异步方法的 阅读全文
posted @ 2019-04-15 14:30 星朝 阅读(1088) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示