Coverage Metrics for Saturation-based and Search-based Testing of Concurrent Software

Coverage Metrics for Saturation-based and Search-based Testing of Concurrent Software

journal article - other

Czech

Metriky pokrytí hrají klíčovou úlohy při testování programů. Umožňují měřit, jak dobře byl program testován, a řídit proces testování. Několik metrik pro testování vícevláknových programů již existuje, ale většina z nich plně nereflektuje chování vícevláknových programů nebo jsou příliš náročné. V tomto článku navrhujeme několik nových metrik, které jsou vhodné pro saturační testování a testování založené na prohledávání prostoru. Od předchozích metrik se liší zejména tím, že jsou odvozeny od různých dynamických algoritmů pro detekci chyb v synchronizaci. Způsob odvození metrik je obecný a lze tak vytvořit další metriky z jiných algoritmů pro detekci chyb. Naší motivací byl fakt, že do vývoje detekčních technik bylo vloženo značné úsilí, a současné techniky tak velmi přesně identifikují místa a operace klíčové pro popis chování vícevláknových aplikací. Odvozené metriky byly dále zpřesněny pomocí abstraktních identifikátorů objektů a vláken. Naše metriky byly empiricky porovnány s vybranými již existujícími metrikami.

Coverage metrics play a crucial role in testing.They allow one to estimate how well a~program has been tested and/or to controlthe testing process. Several concurrency-related coverage metrics have beenproposed, but most of them do not reflect concurrent behaviour accurately enough.In this paper, we propose several new metrics that are suitable primarily forsaturation-based or search-based testing of concurrent software. Theirdistinguishing feature is that they are derived from various dynamic analysesdesigned for detecting synchronisation errors in concurrent software. In fact,the way these metrics are obtained is generic, and further metrics can beobtained in a similar way from other analyses. The underlying motivation isthat, within such analyses, behavioural aspects crucial for occurrence ofvarious bugs are identified, and hence it makes sense to track how well theoccurrence of such phenomena is covered by testing. Next, coverage tasks of theproposed as well as some existing metrics are combined with an abstractidentification of the threads participating in generation of the phenomenacaptured in the concerned tasks. This way, further, more precise metrics areobtained. Finally, an empirical evaluation of the proposed metrics, whichconfirms that several of them are indeed more suitable for saturation-based andsearch-based testing than the previously known metrics, ispresented.

Java, concurrency, testing, coverage, search-based testing, saturation-based testing

LETKO, Z.; VOJNAR, T.; KŘENA, B.

2012

27. 3. 2012

0302-9743

Lecture Notes in Computer Science

2012

7186

Federal Republic of Germany

177

192

15

http://www.springerlink.com/content/084w5489p9556775/

lncs_approve.pdf