~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to doc/developers/testing.txt

  • Committer: Vincent Ladeuil
  • Date: 2010-02-10 16:41:09 UTC
  • mto: (5029.2.1 integration2)
  • mto: This revision was merged to the branch mainline in revision 5031.
  • Revision ID: v.ladeuil+lp@free.fr-20100210164109-q5wluu91am3vsf6d
Use a set() for conflicts_related to stay O(1).

Show diffs side-by-side

added added

removed removed

Lines of Context:
144
144
-------------
145
145
 
146
146
Bazaar can optionally produce output in the machine-readable subunit_
147
 
format, so that test output can be post-processed by various tools. To
148
 
generate a subunit test stream::
149
 
 
150
 
 $ ./bzr selftest --subunit
151
 
 
152
 
Processing such a stream can be done using a variety of tools including:
153
 
 
154
 
* The builtin ``subunit2pyunit``, ``subunit-filter``, ``subunit-ls``,
155
 
  ``subunit2junitxml`` from the subunit project.
156
 
 
157
 
* tribunal_, a GUI for showing test results.
158
 
 
159
 
* testrepository_, a tool for gathering and managing test runs.
 
147
format, so that test output can be post-processed by various tools.
160
148
 
161
149
.. _subunit: https://launchpad.net/subunit/
162
 
.. _tribunal: https://launchpad.net/tribunal/
163
 
 
164
 
 
165
 
Using testrepository
166
 
--------------------
167
 
 
168
 
Bazaar ships with a config file for testrepository_. This can be very
169
 
useful for keeping track of failing tests and doing general workflow
170
 
support. To run tests using testrepository::
171
 
 
172
 
  $ testr run
173
 
 
174
 
To run only failing tests::
175
 
 
176
 
  $ testr run --failing
177
 
 
178
 
To run only some tests, without plugins::
179
 
 
180
 
  $ test run test_selftest -- --no-plugins
181
 
 
182
 
See the testrepository documentation for more details.
183
 
 
184
 
.. _testrepository: https://launchpad.net/testrepository
 
150
 
 
151
 
185
152
 
186
153
Writing Tests
187
154
=============
401
368
        ''')
402
369
 
403
370
 
404
 
Import tariff tests
405
 
-------------------
406
 
 
407
 
`bzrlib.tests.test_import_tariff` has some tests that measure how many
408
 
Python modules are loaded to run some representative commands.
409
 
 
410
 
We want to avoid loading code unnecessarily, for reasons including:
411
 
 
412
 
* Python modules are interpreted when they're loaded, either to define
413
 
  classes or modules or perhaps to initialize some structures.
414
 
 
415
 
* With a cold cache we may incur blocking real disk IO for each module.
416
 
 
417
 
* Some modules depend on many others.
418
 
 
419
 
* Some optional modules such as `testtools` are meant to be soft
420
 
  dependencies and only needed for particular cases.  If they're loaded in
421
 
  other cases then bzr may break for people who don't have those modules.
422
 
  
423
 
`test_import_tarrif` allows us to check that removal of imports doesn't
424
 
regress.
425
 
 
426
 
This is done by running the command in a subprocess with
427
 
``--profile-imports``.  Starting a whole Python interpreter is pretty
428
 
slow, so we don't want exhaustive testing here, but just enough to guard
429
 
against distinct fixed problems.
430
 
 
431
 
Assertions about precisely what is loaded tend to be brittle so we instead
432
 
make assertions that particular things aren't loaded.
433
 
 
434
 
Unless selftest is run with ``--no-plugins``, modules will be loaded in
435
 
the usual way and checks made on what they cause to be loaded.  This is
436
 
probably worth checking into, because many bzr users have at least some
437
 
plugins installed (and they're included in binary installers).
438
 
 
439
 
In theory, plugins might have a good reason to load almost anything:
440
 
someone might write a plugin that opens a network connection or pops up a
441
 
gui window every time you run 'bzr status'.  However, it's more likely
442
 
that the code to do these things is just being loaded accidentally.  We
443
 
might eventually need to have a way to make exceptions for particular
444
 
plugins.
445
 
 
446
 
Some things to check:
447
 
 
448
 
* non-GUI commands shouldn't load GUI libraries
449
 
 
450
 
* operations on bzr native formats sholudn't load foreign branch libraries
451
 
 
452
 
* network code shouldn't be loaded for purely local operations
453
 
 
454
 
* particularly expensive Python built-in modules shouldn't be loaded
455
 
  unless there is a good reason
456
 
 
457
 
 
458
 
Testing locking behaviour
459
 
-------------------------
460
 
 
461
 
In order to test the locking behaviour of commands, it is possible to install
462
 
a hook that is called when a write lock is: acquired, released or broken.
463
 
(Read locks also exist, they cannot be discovered in this way.)
464
 
 
465
 
A hook can be installed by calling bzrlib.lock.Lock.hooks.install_named_hook.
466
 
The three valid hooks are: `lock_acquired`, `lock_released` and `lock_broken`.
467
 
 
468
 
Example::
469
 
 
470
 
    locks_acquired = []
471
 
    locks_released = []
472
 
 
473
 
    lock.Lock.hooks.install_named_hook('lock_acquired',
474
 
        locks_acquired.append, None)
475
 
    lock.Lock.hooks.install_named_hook('lock_released',
476
 
        locks_released.append, None)
477
 
 
478
 
`locks_acquired` will now receive a LockResult instance for all locks acquired
479
 
since the time the hook is installed.
480
 
 
481
 
The last part of the `lock_url` allows you to identify the type of object that is locked.
482
 
 
483
 
- BzrDir: `/branch-lock`
484
 
- Working tree: `/checkout/lock`
485
 
- Branch: `/branch/lock`
486
 
- Repository: `/repository/lock`
487
 
 
488
 
To test if a lock is a write lock on a working tree, one can do the following::
489
 
 
490
 
    self.assertEndsWith(locks_acquired[0].lock_url, "/checkout/lock")
491
 
 
492
 
See bzrlib/tests/commands/test_revert.py for an example of how to use this for
493
 
testing locks.
 
371
 
 
372
.. Effort tests
 
373
.. ~~~~~~~~~~~~
 
374
 
494
375
 
495
376
 
496
377
Skipping tests
614
495
 - UnicodeFilenameFeature
615
496
 - FTPServerFeature
616
497
 - CaseInsensitiveFilesystemFeature.
617
 
 - chown_feature: The test can rely on OS being POSIX and python
618
 
   supporting os.chown.
619
 
 - posix_permissions_feature: The test can use POSIX-style
620
 
   user/group/other permission bits.
621
498
 
622
499
 
623
500
Defining a new feature that tests can require