~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to doc/developers/testing.txt

  • Committer: John Arbash Meinel
  • Date: 2011-05-11 11:35:28 UTC
  • mto: This revision was merged to the branch mainline in revision 5851.
  • Revision ID: john@arbash-meinel.com-20110511113528-qepibuwxicjrbb2h
Break compatibility with python <2.6.

This includes auditing the code for places where we were doing
explicit 'sys.version' checks and removing them as appropriate.

Show diffs side-by-side

added added

removed removed

Lines of Context:
329
329
We make selective use of doctests__.  In general they should provide
330
330
*examples* within the API documentation which can incidentally be tested.  We
331
331
don't try to test every important case using doctests |--| regular Python
332
 
tests are generally a better solution.  That is, we just use doctests to
333
 
make our documentation testable, rather than as a way to make tests.
 
332
tests are generally a better solution.  That is, we just use doctests to make
 
333
our documentation testable, rather than as a way to make tests. Be aware that
 
334
doctests are not as well isolated as the unit tests, if you need more
 
335
isolation, you're likely want to write unit tests anyway if only to get a
 
336
better control of the test environment.
334
337
 
335
338
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
336
339
 
337
340
  __ http://docs.python.org/lib/module-doctest.html
338
341
 
 
342
There is an `assertDoctestExampleMatches` method in
 
343
`bzrlib.tests.TestCase` that allows you to match against doctest-style
 
344
string templates (including ``...`` to skip sections) from regular Python
 
345
tests.
 
346
 
339
347
 
340
348
Shell-like tests
341
349
----------------
342
350
 
343
 
``bzrlib/tests/script.py`` allows users to write tests in a syntax very close to a shell session,
344
 
using a restricted and limited set of commands that should be enough to mimic
345
 
most of the behaviours.
 
351
``bzrlib/tests/script.py`` allows users to write tests in a syntax very
 
352
close to a shell session, using a restricted and limited set of commands
 
353
that should be enough to mimic most of the behaviours.
346
354
 
347
355
A script is a set of commands, each command is composed of:
348
356
 
367
375
The execution stops as soon as an expected output or an expected error is not
368
376
matched.
369
377
 
370
 
When no output is specified, any ouput from the command is accepted
371
 
and execution continue.
 
378
If output occurs and no output is expected, the execution stops and the
 
379
test fails.  If unexpected output occurs on the standard error, then
 
380
execution stops and the test fails.
372
381
 
373
382
If an error occurs and no expected error is specified, the execution stops.
374
383
 
388
397
If you want the command to succeed for any output, just use::
389
398
 
390
399
  $ bzr add file
 
400
  ...
 
401
  2>...
 
402
 
 
403
or use the ``--quiet`` option::
 
404
 
 
405
  $ bzr add -q file
391
406
 
392
407
The following will stop with an error::
393
408
 
427
442
 
428
443
  $ cat file
429
444
 
 
445
You can run files containing shell-like scripts with::
 
446
 
 
447
  $ bzr test-script <script>
 
448
 
 
449
where ``<script>`` is the path to the file containing the shell-like script.
 
450
 
430
451
The actual use of ScriptRunner within a TestCase looks something like
431
452
this::
432
453
 
435
456
    def test_unshelve_keep(self):
436
457
        # some setup here
437
458
        script.run_script(self, '''
438
 
            $ bzr add file
439
 
            $ bzr shelve --all -m Foo
 
459
            $ bzr add -q file
 
460
            $ bzr shelve -q --all -m Foo
440
461
            $ bzr shelve --list
441
462
            1: Foo
442
 
            $ bzr unshelve --keep
 
463
            $ bzr unshelve -q --keep
443
464
            $ bzr shelve --list
444
465
            1: Foo
445
466
            $ cat file
446
467
            contents of file
447
468
            ''')
448
469
 
 
470
You can also test commands that read user interaction::
 
471
 
 
472
    def test_confirm_action(self):
 
473
        """You can write tests that demonstrate user confirmation"""
 
474
        commands.builtin_command_registry.register(cmd_test_confirm)
 
475
        self.addCleanup(commands.builtin_command_registry.remove, 'test-confirm')
 
476
        self.run_script("""
 
477
            $ bzr test-confirm
 
478
            2>Really do it? [y/n]: 
 
479
            <yes
 
480
            yes
 
481
            """)
 
482
 
 
483
To avoid having to specify "-q" for all commands whose output is
 
484
irrelevant, the run_script() method may be passed the keyword argument
 
485
``null_output_matches_anything=True``.  For example::
 
486
 
 
487
    def test_ignoring_null_output(self):
 
488
        self.run_script("""
 
489
            $ bzr init
 
490
            $ bzr ci -m 'first revision' --unchanged
 
491
            $ bzr log --line
 
492
            1: ...
 
493
            """, null_output_matches_anything=True)
 
494
           
449
495
 
450
496
Import tariff tests
451
497
-------------------
699
745
        _test_needs_features = [features.apport]
700
746
 
701
747
 
 
748
Testing deprecated code
 
749
-----------------------
 
750
 
 
751
When code is deprecated, it is still supported for some length of time,
 
752
usually until the next major version. The ``applyDeprecated`` helper
 
753
wraps calls to deprecated code to verify that it is correctly issuing the
 
754
deprecation warning, and also prevents the warnings from being printed
 
755
during test runs.
 
756
 
 
757
Typically patches that apply the ``@deprecated_function`` decorator should
 
758
update the accompanying tests to use the ``applyDeprecated`` wrapper.
 
759
 
 
760
``applyDeprecated`` is defined in ``bzrlib.tests.TestCase``. See the API
 
761
docs for more details.
 
762
 
 
763
 
702
764
Testing exceptions and errors
703
765
-----------------------------
704
766
 
777
839
whether a test should be added for that particular implementation,
778
840
or for all implementations of the interface.
779
841
 
780
 
The multiplication of tests for different implementations is normally
781
 
accomplished by overriding the ``load_tests`` function used to load tests
782
 
from a module.  This function typically loads all the tests, then applies
783
 
a TestProviderAdapter to them, which generates a longer suite containing
784
 
all the test variations.
785
 
 
786
842
See also `Per-implementation tests`_ (above).
787
843
 
788
844
 
789
 
Test scenarios
790
 
--------------
 
845
Test scenarios and variations
 
846
-----------------------------
791
847
 
792
848
Some utilities are provided for generating variations of tests.  This can
793
849
be used for per-implementation tests, or other cases where the same test
798
854
values to which the test should be applied.  The test suite should then
799
855
also provide a list of scenarios in which to run the tests.
800
856
 
801
 
Typically ``multiply_tests_from_modules`` should be called from the test
802
 
module's ``load_tests`` function.
 
857
A single *scenario* is defined by a `(name, parameter_dict)` tuple.  The
 
858
short string name is combined with the name of the test method to form the
 
859
test instance name.  The parameter dict is merged into the instance's
 
860
attributes.
 
861
 
 
862
For example::
 
863
 
 
864
    load_tests = load_tests_apply_scenarios
 
865
 
 
866
    class TestCheckout(TestCase):
 
867
 
 
868
        scenarios = multiply_scenarios(
 
869
            VaryByRepositoryFormat(), 
 
870
            VaryByTreeFormat(),
 
871
            )
 
872
 
 
873
The `load_tests` declaration or definition should be near the top of the
 
874
file so its effect can be seen.
803
875
 
804
876
 
805
877
Test support
904
976
 
905
977
Please see bzrlib.treebuilder for more details.
906
978
 
 
979
PreviewTree
 
980
~~~~~~~~~~~
 
981
 
 
982
PreviewTrees are based on TreeTransforms.  This means they can represent
 
983
virtually any state that a WorkingTree can have, including unversioned files.
 
984
They can be used to test the output of anything that produces TreeTransforms,
 
985
such as merge algorithms and revert.  They can also be used to test anything
 
986
that takes arbitrary Trees as its input.
 
987
 
 
988
::
 
989
 
 
990
  # Get an empty tree to base the transform on.
 
991
  b = self.make_branch('.')
 
992
  empty_tree = b.repository.revision_tree(_mod_revision.NULL_REVISION)
 
993
  tt = TransformPreview(empty_tree)
 
994
  self.addCleanup(tt.finalize)
 
995
  # Empty trees don't have a root, so add it first.
 
996
  root = tt.new_directory('', ROOT_PARENT, 'tree-root')
 
997
  # Set the contents of a file.
 
998
  tt.new_file('new-file', root, 'contents', 'file-id')
 
999
  preview = tt.get_preview_tree()
 
1000
  # Test the contents.
 
1001
  self.assertEqual('contents', preview.get_file_text('file-id'))
 
1002
 
 
1003
PreviewTrees can stack, with each tree falling back to the previous::
 
1004
 
 
1005
  tt2 = TransformPreview(preview)
 
1006
  self.addCleanup(tt2.finalize)
 
1007
  tt2.new_file('new-file2', tt2.root, 'contents2', 'file-id2')
 
1008
  preview2 = tt2.get_preview_tree()
 
1009
  self.assertEqual('contents', preview2.get_file_text('file-id'))
 
1010
  self.assertEqual('contents2', preview2.get_file_text('file-id2'))
 
1011
 
907
1012
 
908
1013
Temporarily changing state
909
1014
~~~~~~~~~~~~~~~~~~~~~~~~~~
913
1018
 
914
1019
    self.overrideAttr(osutils, '_cached_user_encoding', 'latin-1')
915
1020
 
 
1021
Temporarily changing environment variables
 
1022
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
 
1023
 
 
1024
If yout test needs to temporarily change some environment variable value
 
1025
(which generally means you want it restored at the end), you can use::
 
1026
 
 
1027
    self.overrideEnv('BZR_ENV_VAR', 'new_value')
 
1028
 
 
1029
If you want to remove a variable from the environment, you should use the
 
1030
special ``None`` value::
 
1031
 
 
1032
    self.overrideEnv('PATH', None)
 
1033
 
 
1034
If you add a new feature which depends on a new environment variable, make
 
1035
sure it behaves properly when this variable is not defined (if applicable) and
 
1036
if you need to enforce a specific default value, check the
 
1037
``TestCase._cleanEnvironment`` in ``bzrlib.tests.__init__.py`` which defines a
 
1038
proper set of values for all tests.
 
1039
 
916
1040
Cleaning up
917
1041
~~~~~~~~~~~
918
1042