作为一个移动端开发者,你一定对测试机再熟悉不过,或多或少,你总接触过十几、几十台测试机,但对
于在测试机上找BUG的你,或走马观花,或苦苦寻找,是否真的了解你究竟在测些什么?有哪些东西需要测?测多少台手机才够?甚至……花这些钱买测试机和精力来做测试是不是必要?有这些个时间,是不是跟团队里的兄弟撸个串巩固下友谊来的更实在?!
需求源于用户的痛点,我们以移动游戏为例,看看用户对于兼容性问题的吐槽:
图片1 用户吐槽
图2 花屏
闪退、无法兼容、无响应,收取骂声一片……这些问题确乎存在,尤其集中在安卓平台。
安卓应用开发成本小,获取用户也相对容易。但安卓平台有一个最大的缺点,那就是碎片化:设备繁多,品牌众多,版本各异,分辨率不统一等等。无法一一考虑兼容性,保证应用、游戏对于所有手机的适配兼容,用户的吐槽之声就无法熄灭。
(Android 碎片化细分维度——数据来自腾讯IEG适配测试中心)
数据上可以明显看出,android 碎片化主要体现在机型上,细分下去还关乎系统版本、手机品牌(定制rom)、分辨率等好几个维度,总而言之,千奇百怪,数量繁多。
因为切实意识到了Android的碎片化带来的问题和造成的损失,一些移动开发者测试开始由了专业化适配测试的概念,并逐渐开始重视这个问题。
适配不够,数量来凑
为了解决机型碎片化,平时发布一个手游或迭代一个大版本前,都需要做一个比较全面的适配测试。
为了体现适配测试的全面性,一些土豪开发者团队开始一掷千金,购买测试机,
今天出了小米4?买!
昨天出了魅族note2?买!
锤子坚果?买!
……
买买买是否能够奏效?很可惜的是,答案对于土豪来说是残酷的,即使是集齐了市面上覆盖率TOP100也只是覆盖了市面上30%的使用者,要继续购齐TOP300和TOP500的机型?那买买买可有尽头?为了购置大批测试机,采购、维护也是一系列的成本,让开发者头疼。
(Android TOP机型的覆盖率——数据来自腾讯IEG适配中心)
退一步说,即使购置了大量机器,随之带来的人力压力开始越来越大,你买完了市面上TOP100的机器,但你的测试人员测的过来全部100台机器吗?
面临种种专业性和成本问题,大小移动开发者团队将解决方案的寻求投向了外部市场。
在目前市场上还真有好几家兼容性测试服务提供商,这些服务商购置大批手机,然后在云端为用户完成游戏、应用的适配测试。
这种服务对于移动测试者来说省心省力,但具体看看对方的产品方案:“三千元Top300机型兼容测试”,“四千元TOP600机型兼容测试”。
机型数量奇高,价格也奇高,那么问题就来了,花费如此之高的价格测试这么多机型是否真的需要呢?
我们腾讯游戏已积淀十年有余,是中国游戏当之无愧的老大,但在面对安卓市场的碎片化问题上,也曾走过一段曲折的路程。我们一开始尝试增加测试机型,作为土豪的腾讯游戏的直接支持部门,豪掷几百台测试机当然不成问题,但随着手机越来越多,测试战线越拉越长,发现的BUG越来越多,我们却开始疑惑:
我是否真的需要测这么多的手机?
花很多钱买来的测试机是否覆盖了核心用户的测试机型?是否覆盖了最重要的测试机型?
许多重复问题在不同手机上再三出现,花费大量的时间测试出来这些重复的问题,浪费的时间浪费资源要如何规避?
在用户测试反复迭代的过程中,许多的机型已经相当老旧,但仍出现在测试机库中,这些机器还要测吗?测出来的BUG还要修吗?
测试的结果真的都是我所需要的吗?
“最需要修复的Bug80%都集中在了20%的机器上”,80/20原则在适配兼容测试过程中也同样适用。大量的测试机器中必然充斥着众多边缘机型,这些机型所测出的适配兼容性问题,不仅难修,而且修复后产生的作用也并不显著,开发拿到了一堆测试提交的冷僻机型上的BUG,不免有鸡肋之感:修之无味,弃之可惜。
随着腾讯游戏业务的迅猛发展,我们要支持的游戏项目组越来越多,我们开始出现了适配兼容测试人力投入严重,众多新项目都无法支持过来的情况,同时,测试出来的大量bug大量挂起不被修复,这件事情让腾讯游戏测试部门开始重新思考兼容性测试的优化和规范。
痛定思痛,我们采取了几项措施:
1、我们决定花更多的时间在最主流机型的主要BUG上,对于所有腾讯游戏项目,均只测TOP100的机型。
2、比起机型的数量,我们更重视机型的市场覆盖率,尤其是游戏机型的市场覆盖率,因此我们紧跟市场趋势,根据游戏用户机型占比,每月进行机型采购,保持机型库中的TOP100机型全都是当下的最热机型。
3、适配兼容性测试中包含了大量的重复操作,经过腾讯游戏多年技术积累,普通项目的普通的遍历测试,我们用自动化测试取代部分人工劳动,减轻人力成本,我们的自动探索云自动化测试技术对于游戏场景的覆盖率,目前属于业内第一。
市面上所有的腾讯手游,包括《全民突击》、《节奏大师》、《天天酷跑》、《天天爱消除》等等,均采用了这套测试标准与方案,专注TOP100手机的测试方案历经了市场和玩家的检验,是我们探索至今投入产出比达到最优的兼容性测试解决方案。
关于最佳的测试方案
目前腾讯游戏的兼容性测试已对外开放,而且因我们处于限时免费期间,这项服务暂时还是免费的。
简单的来说,登录WeTest网站,使用WeTest适配兼容测试(http://wetest.qq.com),就可以以腾讯游戏的测试标准和服务来测试您的产品。
兼容性测试方案,从测试深度,到测试广度,从来都没有一个最优解,但我们也在不断探索寻找对于广大开发者来说性价比最优、最实在的解决方案。
欢迎您在内测阶段率先使用,并不吝赐言。