AiApe问答机器人-测试报告

压力测试

使用Siege进行压力测试,压力环境分别为30并发、10轮和300并发、10轮。测试结果如下:


场景测试

典型用户(截取自AIApe问答机器人功能规格说明书

名字 小轩
用户身份 某校计算机学院学生,进阶用户
年龄 21岁
典型场景 小轩能解决绝大多数简单的编程问题,但是在配置环境和一些复杂的编程场景下,它需要借助网络上的资料来解决问题。(复杂编程环境包括完成复杂工程项目,构建神经网络等)
主要使用环境 教室,宿舍,图书馆,实验室。
生活工作情况 为了完成各种大作业和DDL而经常晚睡早起。Debug和在网上学习相关概念和知识是他的常态。
相关知识能力 具备较熟练的编程技能和相应计算机领域的知识。
用户的动机 小轩能解决绝大多数简单的编程问题,但是在配置环境和一些复杂的编程场景下,他需要借助网络上的资料来解决问题。
用户的偏好 希望搜索到的问题与自己的问题相符,回答能够专业并且详细。
名字 老邓
用户身份 某校计算机学院学生,公认大佬,神
年龄 21岁
典型场景 大佬喜欢编程,对知识掌握深刻。他频繁地穿梭于Stack Overflow、知乎这类问答网站社区中,并且热衷于将自己的知识分享给他人!
主要使用环境 教室,宿舍,图书馆,实验室。
生活工作情况 大佬的生活很充实,除了每天超份额完成作业之外,还会和周围的同学分享自己的经历和知识。他经常因为实验室的项目或助教工作忙到很晚。
相关知识能力 拥有较强的编程能力,深入理解计算机知识并且知道怎样快速搜索问题,简洁明了地回答问题。
用户的动机 回答问题会有一定的回报;回答别人的问题可以帮助自己加深对于知识的理解。
用户的偏好 大佬喜欢在摸鱼或者休息的时候逛一逛网站,顺便寻找一些自己想要回答的问题。

要说明的是,这里只举了两个比较典型的案例。

场景1

小轩想要问一下C语言IDE:VS Code的安装方法。

  1. 小轩打开了网站,在右侧注册了账号,并登录。
  2. 小轩发现机器人为自己提问提供了引导,他选择了“环境”
  3. 接下来,他发现机器人还会继续引导自己。正如他意,机器人提供了VS Code的安装指导链接
  4. 小轩进入链接后完成了相关的安装

场景2

老邓很喜欢为同学们解答问题,于是他打开了网站:

  1. 注册登录之后,他发现了非常多别人解答过的问题
  2. 点开一个问题后,他发现别人的回答并不理想
  3. 他开始编辑自己的回答,并且将其发表
  4. 后来,老邓发现自己的回答有误,他去到了个人中心,删除了原来的回答

后端bug记录

负责后端的dxy和lmx同学将发现的Bug进行了适当的记录和汇总:AiApe问答机器人项目Alpha阶段后端Bug汇总

最后对后端代码进行单元测试,测试结果为:

测试issue记录

lhx同学在进行场景测试时,总结了Bugs和一些交互修改意见,汇总到了Bugs & Suggestions

测试矩阵

表格中,“成功”表示功能可以正常运行,“失败”则表示功能无法正常运行。

设备或环境: 浏览器类型 进入网站 注册 登录 回答问题 修改回答 删除问题 机器人交互
Windows10: Chrome 成功 成功 成功 成功 成功 成功 成功
Windows10: IE 失败 失败 失败 失败 失败 失败 失败
Windows10: Edge 成功 成功 成功 成功 成功 成功 成功
iPhone8 plus: Quark 成功 失败 失败 失败 失败 失败 失败
iPhone8 plus: Safri 成功 成功 成功 页面太小 页面太小 页面太小 页面太小
ipad pro 2020 safari 成功 成功 成功 回答问题后,登陆失效,再次登陆时发现回答成功 不知道怎么修改 不知道怎么删除 机器人的回答长度过长的时候,不会自动换行,会超出区域并被遮挡,需要用手拖动才可以展示出来(并且鼠标无法拖动)。并且在机器人的引导下添加问题后,会清空聊天框,并登陆失效。
Huawei P20 Via浏览器 成功 成功 成功 同上 同上 同上 完全看不到机器人发送的消息,从服务器日志来看,发送了message请求,也回应了,但是前端没有显示。
Huawei P20 华为浏览器 成功 成功 成功 同上 同上 同上 黑暗模式下,看不到聊天框的气泡,只有字。同样没有来自服务器的机器人的消息。

出口条件

  • 通过主要场景测试(PC端)
  • 通过较为小规模的压力测试
  • 用户体验尚可(还需改进)
posted @ 2021-05-12 20:14  DQSJ  阅读(318)  评论(2编辑  收藏  举报