精准测试之过程与实践

作者：京东工业宛煜昕

一、怎样的技术

•百度百科：

精准测试是一套计算机测试辅助分析系统。

精准测试的核心组件包含的软件测试示波器、用例和代码的双向追溯、智能回归测试用例选取、覆盖率分析、缺陷定位、测试用例聚类分析、测试用例自动生成系统，这些功能完整的构成了精准测试技术体系。

•其他定义

精准测试是中国自己有知识产权的完全的理论体系，它同时关注功能点和代码相关逻辑这样一个方法论，是一种灰盒的测试模式。

最开始在2014年的国际软件测试大会上发布精准测试的时候，它叫穿线测试，英文名字叫Threading Test，表达了精准测试的本质，Threading这个英文单词本身有两个含义，一个是穿线一个是线程，建立用例和代码的关系，相当于把黑盒和白盒关联起来，做黑盒测试也能看到白盒数据，同时把开发和测试能够关联起来，测试一做完，开发的逻辑马上就能自动生成。另一个层面，精准测试最本质就是线程测试，因为精准测试基于覆盖率白盒理论产生，它跟白盒最大的区别是它的覆盖率是线程级的，也就是说要追溯到用例这个级别。

二、技术发展

•历史发展

•成熟度模型的五级划分

三、知识与技能

这里介绍两款，分别为JAVA和C/C++相关，

第一，开发的基础和核心（编程）知识及所需要用到的版本管理工具（GIT）等。

第二，领域特定的知识、技术需要具备如下：

JAVA：Javassist（官网- https://www.javassist.org/ ），

ASM3.0（官网- https://asm.ow2.io/ ），

JaCoCo（官网- https://www.eclemma.org/jacoco/）。

C/C++：汇编、反汇编，PE，逆向工程（IDA）。

要用C/C++实现，通用与效率等方面没得说，但各协议的插桩，代码信息的收集，复杂程度和工作量都不是一般人所能承受，要做好心里建设。

直接使用JaCoCo需要注意覆盖率的误差，一些语句行，分支层级，其误差会被指数级放大。其更适用于偏向辅助个人开发者和小型项目组对项目覆盖率进行非常基础的评估。

•误差产生的具体成因：

1.复杂系统通常由大量子模块组成，JaCoCo无法实现对于内部被调用的子模块进行插装，因此对于子模块覆盖率的评估会产生显著的误差。

2.如果某个子模块没有被调用，那么对于JaCoCo来说，该模块内的方法等同于不存在。JaCoCo需要调用该子模块，才能将该子模块内的代码计入覆盖率计算的“分母”。

3.除了几种既定的逻辑意外事件，JaCoCo无法正确处理例外情况（Exception），如果在控制流程中遇到Exception，JaCoCo会把这种情况直接标记为未覆盖，这种判定方式直接的影响到了对程序逻辑关系的把控，造成对于覆盖率无法准确评估。

•误差引发的后果：

1.伪瓶颈的产生，以及对测试质量的错误高估。第一种情况，测试人员投入大量工作之后，却无法进一步提升覆盖率，造成对资源和实践的浪费；第二种情况，会让用户误将未达标的系统判定为达标，有可能引发严重的生产事故。

2.无法实现缺陷定位，大量的算法和应用依托覆盖率的输入，而缺陷定位更是其中最主要的实践。

3.回归测试的精准度，受到了严重的影响。

•无损插桩技术（推荐）

精准测试推出的SABI和SASI是中国自己的技术

SABI，SouceCode Analyzer ByteCode Intrumentation，就是说源码分析，字节码查看，观测和分析是在源码，插桩是在字节码。

SASI，SouceCode Analyzer SouceCode Intrumentation，这是传统商用白盒最基础的技术，有时候对源码进行分析，直接在源码插装。源码插装以后，代码经过高级语言、高级编译器的编译，直接生成最后发布包。这种是完全无损的标准技术，插装代码经过编译器编译后执行可靠性更高。

四、总结与介绍

大纲

1、测试范围，代码分析

2、差异化

3、调用关系

4、度量与分析

5、质量评估

6、知识库兼优化

7、用例预分析

8、自动化测试与精准测试

五、平台

>设计思路

从产品的需求、功能模块，开发的代码到测试的用例，从正向到逆向的覆盖，追溯和可视。

>大纲

>调用链与代码覆盖

使用的是插桩，有点类似C++中的Hook技术，获取所需数据信息。

协议，HTTP，MySql，Dubbo，Redis等，需要先进行分析，找到关键插桩位置，然后结合使用设计模式进行收集（所需）信息。

设计模式推荐两个，1、反射+适配器，2、动态代理。

需要注意，代码膨胀问题。

>影响范围

假如有个应用系统开发出A版本提测，通过前端功能发起HTTP接口，平台的实时快照收到HTTP接口信息，将该次的接口相关信息（类、方法、执行代码行数）保存为系统快照；当A版本开发后变为A_01版本，使用平台对两次版本（Jar包或War包）进行比对，通过系统快照中信息会分析出变更项与影响项，如：类、方法、接口。