~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to doc/developers/testing.txt

  • Committer: Vincent Ladeuil
  • Date: 2010-10-07 06:08:01 UTC
  • mto: This revision was merged to the branch mainline in revision 5491.
  • Revision ID: v.ladeuil+lp@free.fr-20101007060801-wfdhizfhfmctl8qa
Fix some typos and propose a release planning.

Show diffs side-by-side

added added

removed removed

Lines of Context:
329
329
We make selective use of doctests__.  In general they should provide
330
330
*examples* within the API documentation which can incidentally be tested.  We
331
331
don't try to test every important case using doctests |--| regular Python
332
 
tests are generally a better solution.  That is, we just use doctests to make
333
 
our documentation testable, rather than as a way to make tests. Be aware that
334
 
doctests are not as well isolated as the unit tests, if you need more
335
 
isolation, you're likely want to write unit tests anyway if only to get a
336
 
better control of the test environment.
 
332
tests are generally a better solution.  That is, we just use doctests to
 
333
make our documentation testable, rather than as a way to make tests.
337
334
 
338
335
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
339
336
 
340
337
  __ http://docs.python.org/lib/module-doctest.html
341
338
 
342
 
There is an `assertDoctestExampleMatches` method in
343
 
`bzrlib.tests.TestCase` that allows you to match against doctest-style
344
 
string templates (including ``...`` to skip sections) from regular Python
345
 
tests.
346
 
 
347
339
 
348
340
Shell-like tests
349
341
----------------
350
342
 
351
 
``bzrlib/tests/script.py`` allows users to write tests in a syntax very
352
 
close to a shell session, using a restricted and limited set of commands
353
 
that should be enough to mimic most of the behaviours.
 
343
``bzrlib/tests/script.py`` allows users to write tests in a syntax very close to a shell session,
 
344
using a restricted and limited set of commands that should be enough to mimic
 
345
most of the behaviours.
354
346
 
355
347
A script is a set of commands, each command is composed of:
356
348
 
375
367
The execution stops as soon as an expected output or an expected error is not
376
368
matched.
377
369
 
378
 
If output occurs and no output is expected, the execution stops and the
379
 
test fails.  If unexpected output occurs on the standard error, then
380
 
execution stops and the test fails.
 
370
When no output is specified, any ouput from the command is accepted
 
371
and execution continue.
381
372
 
382
373
If an error occurs and no expected error is specified, the execution stops.
383
374
 
397
388
If you want the command to succeed for any output, just use::
398
389
 
399
390
  $ bzr add file
400
 
  ...
401
 
  2>...
402
 
 
403
 
or use the ``--quiet`` option::
404
 
 
405
 
  $ bzr add -q file
406
391
 
407
392
The following will stop with an error::
408
393
 
442
427
 
443
428
  $ cat file
444
429
 
445
 
You can run files containing shell-like scripts with::
446
 
 
447
 
  $ bzr test-script <script>
448
 
 
449
 
where ``<script>`` is the path to the file containing the shell-like script.
450
 
 
451
430
The actual use of ScriptRunner within a TestCase looks something like
452
431
this::
453
432
 
456
435
    def test_unshelve_keep(self):
457
436
        # some setup here
458
437
        script.run_script(self, '''
459
 
            $ bzr add -q file
460
 
            $ bzr shelve -q --all -m Foo
 
438
            $ bzr add file
 
439
            $ bzr shelve --all -m Foo
461
440
            $ bzr shelve --list
462
441
            1: Foo
463
 
            $ bzr unshelve -q --keep
 
442
            $ bzr unshelve --keep
464
443
            $ bzr shelve --list
465
444
            1: Foo
466
445
            $ cat file
480
459
            yes
481
460
            """)
482
461
 
483
 
To avoid having to specify "-q" for all commands whose output is
484
 
irrelevant, the run_script() method may be passed the keyword argument
485
 
``null_output_matches_anything=True``.  For example::
486
 
 
487
 
    def test_ignoring_null_output(self):
488
 
        self.run_script("""
489
 
            $ bzr init
490
 
            $ bzr ci -m 'first revision' --unchanged
491
 
            $ bzr log --line
492
 
            1: ...
493
 
            """, null_output_matches_anything=True)
494
 
           
495
 
 
496
462
Import tariff tests
497
463
-------------------
498
464
 
516
482
regress.
517
483
 
518
484
This is done by running the command in a subprocess with
519
 
``PYTHON_VERBOSE=1``.  Starting a whole Python interpreter is pretty slow,
520
 
so we don't want exhaustive testing here, but just enough to guard against
521
 
distinct fixed problems.
 
485
``--profile-imports``.  Starting a whole Python interpreter is pretty
 
486
slow, so we don't want exhaustive testing here, but just enough to guard
 
487
against distinct fixed problems.
522
488
 
523
489
Assertions about precisely what is loaded tend to be brittle so we instead
524
490
make assertions that particular things aren't loaded.
745
711
        _test_needs_features = [features.apport]
746
712
 
747
713
 
748
 
Testing translations
749
 
-----------------------
750
 
 
751
 
Translations are disabled by default in tests.  If you want to test
752
 
that code is translated you can use the ``ZzzTranslations`` class from
753
 
``test_i18n``::
754
 
 
755
 
    self.overrideAttr(i18n, '_translations', ZzzTranslations())
756
 
 
757
 
And check the output strings look like ``u"zz\xe5{{output}}"``.
758
 
 
759
 
To test the gettext setup and usage you override i18n.installed back
760
 
to self.i18nInstalled and _translations to None, see
761
 
test_i18n.TestInstall.
762
 
 
763
 
 
764
714
Testing deprecated code
765
715
-----------------------
766
716
 
855
805
whether a test should be added for that particular implementation,
856
806
or for all implementations of the interface.
857
807
 
 
808
The multiplication of tests for different implementations is normally
 
809
accomplished by overriding the ``load_tests`` function used to load tests
 
810
from a module.  This function typically loads all the tests, then applies
 
811
a TestProviderAdapter to them, which generates a longer suite containing
 
812
all the test variations.
 
813
 
858
814
See also `Per-implementation tests`_ (above).
859
815
 
860
816
 
861
 
Test scenarios and variations
862
 
-----------------------------
 
817
Test scenarios
 
818
--------------
863
819
 
864
820
Some utilities are provided for generating variations of tests.  This can
865
821
be used for per-implementation tests, or other cases where the same test
870
826
values to which the test should be applied.  The test suite should then
871
827
also provide a list of scenarios in which to run the tests.
872
828
 
873
 
A single *scenario* is defined by a `(name, parameter_dict)` tuple.  The
874
 
short string name is combined with the name of the test method to form the
875
 
test instance name.  The parameter dict is merged into the instance's
876
 
attributes.
877
 
 
878
 
For example::
879
 
 
880
 
    load_tests = load_tests_apply_scenarios
881
 
 
882
 
    class TestCheckout(TestCase):
883
 
 
884
 
        scenarios = multiply_scenarios(
885
 
            VaryByRepositoryFormat(), 
886
 
            VaryByTreeFormat(),
887
 
            )
888
 
 
889
 
The `load_tests` declaration or definition should be near the top of the
890
 
file so its effect can be seen.
 
829
Typically ``multiply_tests_from_modules`` should be called from the test
 
830
module's ``load_tests`` function.
891
831
 
892
832
 
893
833
Test support
992
932
 
993
933
Please see bzrlib.treebuilder for more details.
994
934
 
995
 
PreviewTree
996
 
~~~~~~~~~~~
997
 
 
998
 
PreviewTrees are based on TreeTransforms.  This means they can represent
999
 
virtually any state that a WorkingTree can have, including unversioned files.
1000
 
They can be used to test the output of anything that produces TreeTransforms,
1001
 
such as merge algorithms and revert.  They can also be used to test anything
1002
 
that takes arbitrary Trees as its input.
1003
 
 
1004
 
::
1005
 
 
1006
 
  # Get an empty tree to base the transform on.
1007
 
  b = self.make_branch('.')
1008
 
  empty_tree = b.repository.revision_tree(_mod_revision.NULL_REVISION)
1009
 
  tt = TransformPreview(empty_tree)
1010
 
  self.addCleanup(tt.finalize)
1011
 
  # Empty trees don't have a root, so add it first.
1012
 
  root = tt.new_directory('', ROOT_PARENT, 'tree-root')
1013
 
  # Set the contents of a file.
1014
 
  tt.new_file('new-file', root, 'contents', 'file-id')
1015
 
  preview = tt.get_preview_tree()
1016
 
  # Test the contents.
1017
 
  self.assertEqual('contents', preview.get_file_text('file-id'))
1018
 
 
1019
 
PreviewTrees can stack, with each tree falling back to the previous::
1020
 
 
1021
 
  tt2 = TransformPreview(preview)
1022
 
  self.addCleanup(tt2.finalize)
1023
 
  tt2.new_file('new-file2', tt2.root, 'contents2', 'file-id2')
1024
 
  preview2 = tt2.get_preview_tree()
1025
 
  self.assertEqual('contents', preview2.get_file_text('file-id'))
1026
 
  self.assertEqual('contents2', preview2.get_file_text('file-id2'))
1027
 
 
1028
935
 
1029
936
Temporarily changing state
1030
937
~~~~~~~~~~~~~~~~~~~~~~~~~~
1034
941
 
1035
942
    self.overrideAttr(osutils, '_cached_user_encoding', 'latin-1')
1036
943
 
1037
 
This should be used with discretion; sometimes it's better to make the
1038
 
underlying code more testable so that you don't need to rely on monkey
1039
 
patching.
1040
 
 
1041
 
 
1042
 
Observing calls to a function
1043
 
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
1044
 
 
1045
 
Sometimes it's useful to observe how a function is called, typically when
1046
 
calling it has side effects but the side effects are not easy to observe
1047
 
from a test case.  For instance the function may be expensive and we want
1048
 
to assert it is not called too many times, or it has effects on the
1049
 
machine that are safe to run during a test but not easy to measure.  In
1050
 
these cases, you can use `recordCalls` which will monkey-patch in a
1051
 
wrapper that records when the function is called.
1052
 
 
1053
 
 
1054
 
Temporarily changing environment variables
1055
 
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
1056
 
 
1057
 
If yout test needs to temporarily change some environment variable value
1058
 
(which generally means you want it restored at the end), you can use::
1059
 
 
1060
 
    self.overrideEnv('BZR_ENV_VAR', 'new_value')
1061
 
 
1062
 
If you want to remove a variable from the environment, you should use the
1063
 
special ``None`` value::
1064
 
 
1065
 
    self.overrideEnv('PATH', None)
1066
 
 
1067
 
If you add a new feature which depends on a new environment variable, make
1068
 
sure it behaves properly when this variable is not defined (if applicable) and
1069
 
if you need to enforce a specific default value, check the
1070
 
``TestCase._cleanEnvironment`` in ``bzrlib.tests.__init__.py`` which defines a
1071
 
proper set of values for all tests.
1072
 
 
1073
944
Cleaning up
1074
945
~~~~~~~~~~~
1075
946
 
1105
976
 
1106
977
    tc qdisc add dev lo root handle 1: prio
1107
978
    tc qdisc add dev lo parent 1:3 handle 30: netem delay 500ms 
1108
 
    tc filter add dev lo protocol ip parent 1:0 prio 3 u32 match ip dport 4155 0xffff flowid 1:3 
1109
 
    tc filter add dev lo protocol ip parent 1:0 prio 3 u32 match ip sport 4155 0xffff flowid 1:3 
 
979
    tc qdisc add dev lo parent 30:1 handle 40: prio
 
980
    tc filter add dev lo protocol ip parent 1:0 prio 3 u32 match ip dport 4155 0xffff flowid 1:3 handle 800::800
 
981
    tc filter add dev lo protocol ip parent 1:0 prio 3 u32 match ip sport 4155 0xffff flowid 1:3 handle 800::801
1110
982
 
1111
983
and to remove this::
1112
984