接口自动化测试的 “能” 与 “不能”
本文为资深测试技术专家多则惑少则明对接口测试实战的总结与思考,供大家探讨(欢迎在评论区留言)。
一、接口自动化测试的 “能 “
接口自动化的目标
• 用于项目的 API 层的 HTTP 接口的功能逻辑验证• 减少手工测试的工作(回归验证;跨模块的验证)•
实现手工验证不能做的验证(如接口涉及大量数据的排序比较)• 手工很难充分验证的功能逻辑(如接口的功能验证涉及大量的数据)
P.S. 实际项目中,接口自动化的根本目的是什么?
个人认为是定时跑时,能监控接口,当接口功能失常时,可以及时发现,即发现 Bug。因此,可以使用代码覆盖率来评估接口自动化的完整性,但
更重要的是发现问题 。
接口自动化 Case 用例设计原则
切记:
• 不要为了做自动化而做自动化,做的首要目标是问题出现时,能第一时间发现;• 自动化中的代码覆盖率统计可以作为参考,但不能一开始就为了提高覆盖率,陷入
Case 设计之中;
注意:好的接口自动化 Case 设计,依赖于 Case 设计者的功能理解程度(手工测试的功力)+ 功能覆盖点
原则:
1. 将手工测试点转换为自动化用例。Case 设计注意:验证用例通过的标准---
参考一个功能点容易出问题的地方。或者说,一个用例的通过说明此功能点一定没问题;反之,一定有问题。
2. 覆盖手工测试不易检查/太浪费时间的检查
比如:
• 一个 HTTP 接口设计大量的数据比较的时候;• 接口的 json 返回不能直接检查功能点是否正确(需要调用另一个接口的 json 来间接验证时);•
一个接口的 json 返回需要和其他模块的接口联合” 互相验证 “(需要调用其他模块的接口的 json,两个 json 相互来验证彼此的正确性)
**3. **”边缘性“的功能检查 这里主要指的是回归验证。如果系统涉及边缘性的功能验证,把此类功能设计层自动化用例
4. 接口验证的程度 接口的验证:即判断一个接口是否正常的标准。注意:接口参数”合理地“组合;
5. DB 数据更新检查
(如果有必要)注意从接口的角度检查 DB 数据的更新:
• 其他系统的数据更新到待测系统 DB 中的数据;• 每天待测系统由于用户操作更新到 DB 中的数据;
**6. **接口自动化的数据准备
关于是否需要为接口自动化,特意在 DB
中准备需要的数据,适需要程度而定。原则:除非必须,否则不用准备。如果不准备数据,无法完成对接口的验证,则自己准备数据即可。
注意:一旦自己准备数据,评估对其他功能验证的影响。确保 DB 中数据量和真实性(模拟的数据需要充足,并且不能和真实数据差异性过大)。
接口自动化用例定时跑
自动化一般会选择每天定时跑。这里需要注意的一点就是定时跑的时间选择。时间选择上注意几点:
1)在线上跑时,注意对线上接口的影响(一般要求:线上的回归验证可以随时跑);
2)如果要检查 DB 数据更新的有关逻辑,注意数据的稳定性 (如用户量少的时候);
3)在测试时(非生产环境),接口涉及读,写 DB,考虑是否需要定时跑;
二、接口自动化测试的”不能“
首先,接口自动化不是万能的,总有覆盖不到的时候。知道自动化的”不能“之处,才能更好配合手工测试出问题。
自动化的” 不能 “之处如下:
1)HTTP 接口突然出现压力问题(前期的压测);
2)Web 层面的手动测试 (新功能上线后,对原有功能回归时,仍需要接口自动化验证接口,手工测试 Web 页面功能);
3)异常情况(如需要第三方 API 挂掉/超时的场景);
接口自动化之难点:
1)实现变动 vs 维护的工作量 vs 检查的详细程度;
检查详细程度:自己和自己比;自己和同类接口同一指标比较(因为口径不一致,或者内部实现变化,需要后续维护);
经验:自己和自己比,扩展和兼容性比较好(动态参数 + 完成功能检查);而自己和别的接口比 看需求而定(接口提测前后 数据准确性检查比较参考);
P.S. 小的点,执行时间和执行频率;
用途:发现功能失常,功能不可用;
2)接口监控 —— 执行时间和执行频率
• 检查详细程度 vs 执行时间和执行频率 (只能和自己);• 检查详细程度 vs 经常频繁报警(一个接口怎样算是正常的,返回非200+功能正常)
3)数据报表;
数据的正确性:统计口径(业务方的口径+多个接口/模块口径的差异后导致业务方不一致)。
接口自动化之痛点
痛点当然源自难点:
•当接口本身实现频繁变动、对接口的检查太过详细、开发修复缓慢时,那么不停的报警将会来了。•不合理的自动化设计及维护方案,造成自动化成本大于自动化收益时,接口自动化就变得无足轻重了。实际项目中的体会是:
为了自动化而自动化 。特别测试场景过于复杂时,当自动化实现成本远大于手工测试成本时,就没有必要非去自动化测试了。
P.S. 欢迎在评论区留言你对接口测试自动化的实践心得和看法。
** _
来霍格沃兹测试开发学社,学习更多软件测试与测试开发的进阶技术,知识点涵盖web自动化测试 app自动化测试、接口自动化测试、测试框架、性能测试、安全测试、持续集成/持续交付/DevOps,测试左移、测试右移、精准测试、测试平台开发、测试管理等内容,课程技术涵盖bash、pytest、junit、selenium、appium、postman、requests、httprunner、jmeter、jenkins、docker、k8s、elk、sonarqube、jacoco、jvm-sandbox等相关技术,全面提升测试开发工程师的技术实力