黑盒测试,它是通过测试来检测每个功能是否都能正常使用。在测试中,把
程序看作一个不能打开的黑盒子,在完全不考虑程序内部结构和内部特性的情况下,在
程序接口进行测试,它只检查程序功能是否按照
需求规格说明书的规定正常使用,程序是否能适当地接收输入数据而产生正确的输出信息。黑盒测试着眼于
程序外部结构,不考虑内部
逻辑结构,主要针对
软件界面和软件功能进行测试。
简介
黑盒测试又叫功能测试、数据驱动测试或基于需求规格说明书的功能测试。该类测试注重于测试软件的功能性需求。
采用这种测试方法,
测试工程师把测试对象看作一个黑盒子,完全不考虑程序内部的逻辑结构和内部特性,只依据程序的《需求规格说明书》,检查程序的功能是否符合它的功能说明。测试工程师无需了解程序代码的内部构造,完全模拟软件产品的最终用户使用该软件,检查软件产品是否达到了用户的需求。黑盒测试方法能更好、更真实地从用户角度来考察被测系统的功能性需求实现情况。在软件测试的各个阶段,如
单元测试、
集成测试、
系统测试及
验收测试等阶段中,黑盒测试都发挥着重要作用,尤其在系统测试和确认测试中,其作用是其他测试方法无法取代的。
作用
黑盒测试方法着重测试软件的功能需求,是在程序接口上进行的测试,主要是为了发现以下错误。
(1)是否有功能错误,是否有功能遗漏。
(2)是否能够正确地接收输入数据并产生正确的输出结果。
(3)是否有数据结构错误或外部信息访问错误。
(4)是否有程序初始化和终止方面的错误。
主要内容
(1)接受性测试。
黑盒测试是从软件的接口接受测试输出结果,具有接受性测试的特点。
(2)α/β测试。
测试是项目组内的成员对被测软件进行的测试,α/β测试是由项目组外的人员参加的测试。α/β测试也适合于黑盒测试。也就是说,当测试发现错误后在开发人员修改的同时,项目经理也会对产品计划做出相应的调整,产品特征不断地被修改。
(3)菜单/帮助测试。
在软件测试过程中,开发人员将修复测试人员发现的错误,而且对软件的有些功能进行修改,同时项目经理也将根据情况调整软件的特性,因而在软件开发和测试的过程中,所有的功能都可以进行调整。因此,在软件产品开发的最后阶段,文档里发现的问题往往最多。
(4)发行测试。
在正式发行前,产品要经过非常仔细的测试。除了专门的测试人员外,还需要几千个甚至几十万其他用户与合作者通过使用来对产品进行测试。然后将错误信息反馈到技术部门到了发行测试时,如果出现非改不可的错误,就必须推迟软件的发行,在推迟时间内需要重新对软件产品进行全面的测试,将耗费大量的时间、人力和物力。
(5)回归测试。
在此阶段,首先要检查以前找到的错误是否已经更正了。回归测试可使已更正的错误不再重现,并且不会产生新的错误。
(6)RTM测试。
RTM测试是指在产品发行阶段所进行的测试。在这一测试阶段,每一个错误都需要经过高端人员同意才能更正。因为这时候修改软件非常容易产生其他的错误,所以只有那种非修复不可的错误才将允许进行修改。如果在发行阶段软件还有许多严重错误的话,就不能按时发布。
测试方法
从理论上讲,黑盒测试只有采用穷举输入测试,把所有可能的输入都作为测试情况考虑,才能查出
程序中所有的错误。实际上测试情况有无穷多个,人们不仅要测试所有合法的输入,而且还要对那些不合法但可能的输入进行测试。这样看来,完全测试是不可能的,所以我们要进行有针对性的测试,通过制定测试案例指导测试的实施,保证
软件测试有组织、按步骤,以及有计划地进行。黑盒测试行为必须能够加以量化,才能真正保证
软件质量,而
测试用例就是将测试行为具体量化的方法之一。具体的黑盒
测试用例设计方法包括等价类划分法、
边界值分析法、
错误推测法、
因果图法、判定
表驱动法、正交试验设计法、功能图法、
场景法等。
等价类划分的办法是把
程序的输入域划分成若干部分(子集),然后从每个部分中选取少数代表性数据作为测试
用例。每一类的代表性数据在测试中的作用等价于这一类中的其他值。该方法是一种重要的,常用的黑盒
测试用例设计方法。
划分等价类
等价类是指某个输入域的子集合。在该子集合中,各个输入数据对于揭露
程序中的错误都是等效的,并合理地假定:测试某等价类的代表值就等于对这一类其它值的测试。因此,可以把全部输入数据合理划分为若干等价类,在每一个等价类中取一个数据作为测试的输入条件,就可以用少量代表性的测试数据.取得较好的测试结果.等价类划分可有两种不同的情况:有效等价类和无效等价类。
有效等价类:是指对于
程序的规格说明来说是合理的,有意义的输入数据构成的集合.利用有效等价类可检验程序是否实现了规格说明中所规定的功能和性能。
设计
测试用例时,要同时考虑这两种等价类.因为,软件不仅要能接收合理的数据,也要能经受意外的考验.这样的测试才能确保软件具有更高的可靠性。
划分等价类的方法:下面给出六条确定等价类的原则。
①在输入条件规定了取值范围或值的个数的情况下,则可以确立一个有效等价类和两个无效等价类。
②在输入条件规定了输入值的集合或者规定了“必须如何”的条件的情况下,可确立一个有效等价类和一个
无效等价类。
③在输入条件是一个
布尔量的情况下,可确定一个有效等价类和一个无效等价类。
④在规定了输入数据的一组值(假定n个),并且
程序要对每一个输入值分别处理的情况下,可确立n个有效等价类和一个无效等价类。
⑤在规定了输入数据必须遵守的规则的情况下,可确立一个有效等价类(符合规则)和若干个
无效等价类(从不同角度违反规则)。
⑥在确知已划分的等价类中各元素在
程序处理中的方式不同的情况下,则应再将该等价类进一步的划分为更小的等价类。
边界值分析法
边界值分析是通过选择等价类边界的
测试用例。边界值分析法不仅重视输入条件边界,而且也必须考虑输出域边界。它是对等价类划分方法的补充。
(1)边界值分析方法的考虑:
长期的测试工作经验告诉我们,大量的错误是发生在输入或输出范围的边界上,而不是发生在输入输出范围的内部.因此针对各种边界情况设计
测试用例,可以查出更多的错误。
使用边界值分析方法设计
测试用例,首先应确定边界情况.通常输入和输出等价类的边界,就是应着重测试的边界情况.应当选取正好等于,刚刚大于或刚刚小于边界的值作为测试数据,而不是选取等价类中的典型值或任意值作为测试数据。
1)如果输入条件规定了值的范围,则应取刚达到这个范围的边界的值,以及刚刚超越这个范围边界的值作为测试输入数据。
2)如果输入条件规定了值的个数,则用最大个数,最小个数,比最小个数少一,比最大个数多一的数作为测试数据。
3)根据规格说明的每个输出条件,使用前面的原则1)。
4)根据规格说明的每个输出条件,应用前面的原则2)。
5)如果
程序的规格说明给出的输入域或输出域是有序集合,则应选取集合的第一个元素和最后一个元素作为
测试用例。
6)如果
程序中使用了一个内部
数据结构,则应当选择这个内部数据结构的边界上的值作为
测试用例。
7)分析规格说明,找出其它可能的边界条件。
错误推测法
错误推测法是基于经验和直觉推测
程序中所有可能存在的各种错误,从而有针对性的设计
测试用例的方法。
错误推测方法的基本思想: 列举出
程序中所有可能有的错误和容易发生错误的特殊情况,根据他们选择
测试用例。 例如,在
单元测试时曾列出的许多在模块中常见的错误。以前产品测试中曾经发现的错误等,这些就是经验的总结。还有,输入数据和输出数据为0的情况。 输入表格为空格或输入表格只有一行. 这些都是容易发生错误的情况。可选择这些情况下的例子作为测试用例。
因果图法
前面介绍的等价类划分方法和边界值分析方法,都是着重考虑输入条件,但未考虑输入条件之间的联系,相互组合等。 考虑输入条件之间的相互组合,可能会产生一些新的情况。但要检查输入条件的组合不是一件容易的事情,即使把所有输入条件划分成等价类,他们之间的组合情况也相当多。因此必须考虑采用一种适合于描述对于多种条件的组合,相应产生多个动作的形式来考虑设计
测试用例,这就需要利用
因果图(逻辑模型)。
因果图方法最终生成的就是判定表。它适合于检查
程序输入条件的各种组合情况。
生成测试用例:
(1) 分析软件规格说明描述中,哪些是原因(即输入条件或输入条件的等价类),哪些是结果(即输出条件),并给每个原因和结果赋予一个标识符。
(2) 分析软件规格说明描述中的语义。找出原因与结果之间,原因与原因之间对应的关系. 根据这些关系,画出
因果图。
(3) 由于语法或环境限制,有些原因与原因之间,原因与结果之间的组合情况不可能出现. 为表明这些特殊情况,在
因果图上用一些记号标明约束或限制条件。
(5) 把
判定表的每一列拿出来作为依据,设计
测试用例。
从
因果图生成的
测试用例(局部,组合关系下的)包括了所有输入数据的取TRUE与取FALSE的情况,构成的测试用例数目达到最少,且测试用例数目随输入数据数目的增加而线性地增加。
前面
因果图方法中已经用到了
判定表。判定表(Decision Table)是分析和表达多逻辑条件下执行不同操作的情况下的工具.在程序设计发展的初期,判定表就已被当作编写程序的
辅助工具了.由于它可以把复杂的逻辑关系和多种条件组合的情况表达得既具体又明确。
判定表组成法
条件桩(Condition Stub):列出了问题的所有条件.通常认为列出的条件的次序无关紧要。
动作桩(Action Stub):列出了问题规定可能采取的操作.这些操作的排列顺序没有约束。
条件项(Condition Entry):列出针对它左列条件的取值.在所有可能情况下的真假值。
动作项(Action Entry):列出在条件项的各种取值情况下应该采取的动作。
规则:任何一个条件组合的特定取值及其相应要执行的操作.在
判定表中贯穿条件项和动作项的一列就是一条规则.显然,判定表中列出多少组条件取值,也就有多少条规则,既条件项和动作项有多少列。
判定表的建立步骤:
①确定规则的个数。假如有n个条件.每个条件有两个取值(0,1),故有2n种规则。
②列出所有的条件桩和动作桩。
③填入条件项。
④填入动作项.等到初始判定表。
⑤简化.合并相似规则(相同动作)。
B. Beizer 指出了适合使用
判定表设计
测试用例的条件:
①规格说明以
判定表形式给出,或很容易转换成判定表。
②条件的排列顺序不会也不影响执行哪些操作。
③规则的排列顺序不会也不影响执行哪些操作。
④每当某一规则的条件已经满足,并确定要执行的操作后,不必检验别的规则。
⑤如果某一规则得到满足要执行多个操作,这些操作的执行顺序无关紧要。
正交试验设计
就是使用已经造好了的正交
表格来安排试验并进行数据分析的一种方法,目的是用最少的
测试用例达到最高的测试覆盖率。
场景法
软件几乎都是用事件触发来控制流程的,事件触发的情景便形成了场景,而同一事件不同的触发顺序和处理结果就形成事件流。这种在软件设计方面的思想也可以引入到软件测试中,可以比较生动地描绘出事件触发时的情景,有利于测试设计者设计测试用例,同时使测试用例更容易理解和执行。
基本流和备选流:如图1所示,图1中经过用例的每条路径都用基本流和备选流来表示,直黑线表示基本流,是经过用例的最简单的路径。备选流用不同的色彩表示,一个备选流可能从基本流开始,在某个特定条件下执行,然后重新加入基本流中(如备选流1和3);也可能起源于另一个备选流(如备选流2),或者终止用例而不再重新加入到某个流(如备选流2和4)。
流程
测试计划
首先,根据用户需求报告中关于功能要求和性能指标的规格说明书,定义相应的测试需求报告,即制订黑盒测试的最高标准,以后所有的测试工作都将围绕着测试需求来进行,符合测试需求的
应用程序即是合格的,反之即是不合格的;同时,还要适当选择测试内容,合理安排测试人员、测试时间及测试资源等。
测试设计
将
测试计划阶段制订的测试需求分解、细化为若干个可执行的
测试过程,并为每个测试过程选择适当的
测试用例(测试用例选择的好坏将直接影响到测试结果的有效性)。
测试开发
测试执行
执行测试开发阶段建立的自动
测试过程,并对所发现的
缺陷进行
跟踪管理。测试执行一般由
单元测试、组合测试、
集成测试、系统联调及
回归测试等步骤组成,测试人员应本着科学负责的态度,
一步一个脚印地进行测试。
测试评估
结合量化的
测试覆盖域及
缺陷跟踪报告,对于
应用软件的质量和开发团队的工作进度及工作效率进行综合评价。
优缺点
(1)黑盒测试的优点:适用于功能测试、可用性测试及可接受性测试;对照说明书测试程序功能;可测试长的、复杂的程序的工作逻辑,易被理解。
(2)黑盒测试的缺点:不可能进行完全的、毫无遗漏的输入测试,有一些软件Bug或人为设置的故障通过黑盒测试是无法检测出来的。正是因为黑盒测试的测试数据来自规格说明书,这一方法的主要缺点是它依赖于规格说明书的正确性。实际上,人们并不能保证规格说明书完全正确。如在规格说明书中规定了多余的功能,或是漏掉了某些功能,这对于黑盒测试来说是完全无能为力的。