~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Jelmer Vernooij
  • Date: 2011-08-19 22:34:02 UTC
  • mto: This revision was merged to the branch mainline in revision 6089.
  • Revision ID: jelmer@samba.org-20110819223402-wjywqb0fa1xxx522
Use get_transport_from_{url,path} in more places.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 Canonical Ltd
 
1
# Copyright (C) 2005-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
 
 
17
 
 
18
 
# TODO: Perhaps there should be an API to find out if bzr running under the
19
 
# test suite -- some plugins might want to avoid making intrusive changes if
20
 
# this is the case.  However, we want behaviour under to test to diverge as
21
 
# little as possible, so this should be used rarely if it's added at all.
22
 
# (Suggestion from j-a-meinel, 2005-11-24)
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
"""Testing framework extensions"""
23
18
 
24
19
# NOTE: Some classes in here use camelCaseNaming() rather than
25
20
# underscore_naming().  That's for consistency with unittest; it's not the
26
21
# general style of bzrlib.  Please continue that consistency when adding e.g.
27
22
# new assertFoo() methods.
28
23
 
 
24
import atexit
29
25
import codecs
 
26
import copy
30
27
from cStringIO import StringIO
31
28
import difflib
32
29
import doctest
33
30
import errno
 
31
import itertools
34
32
import logging
35
33
import os
 
34
import platform
 
35
import pprint
 
36
import random
36
37
import re
37
38
import shlex
38
39
import stat
39
 
from subprocess import Popen, PIPE
 
40
import subprocess
40
41
import sys
41
42
import tempfile
 
43
import threading
 
44
import time
 
45
import traceback
42
46
import unittest
43
 
import time
44
 
 
45
 
 
 
47
import warnings
 
48
 
 
49
import testtools
 
50
# nb: check this before importing anything else from within it
 
51
_testtools_version = getattr(testtools, '__version__', ())
 
52
if _testtools_version < (0, 9, 5):
 
53
    raise ImportError("need at least testtools 0.9.5: %s is %r"
 
54
        % (testtools.__file__, _testtools_version))
 
55
from testtools import content
 
56
 
 
57
import bzrlib
46
58
from bzrlib import (
 
59
    branchbuilder,
47
60
    bzrdir,
 
61
    chk_map,
 
62
    commands as _mod_commands,
 
63
    config,
48
64
    debug,
49
65
    errors,
 
66
    hooks,
 
67
    lock as _mod_lock,
 
68
    lockdir,
50
69
    memorytree,
51
70
    osutils,
52
 
    progress,
 
71
    plugin as _mod_plugin,
 
72
    pyutils,
 
73
    ui,
53
74
    urlutils,
 
75
    registry,
 
76
    symbol_versioning,
 
77
    trace,
 
78
    transport as _mod_transport,
 
79
    workingtree,
54
80
    )
55
 
import bzrlib.branch
56
 
import bzrlib.commands
57
 
import bzrlib.bundle.serializer
58
 
import bzrlib.export
59
 
import bzrlib.inventory
60
 
import bzrlib.iterablefile
61
 
import bzrlib.lockdir
62
81
try:
63
82
    import bzrlib.lsprof
64
83
except ImportError:
65
84
    # lsprof not available
66
85
    pass
67
 
from bzrlib.merge import merge_inner
68
 
import bzrlib.merge3
69
 
import bzrlib.osutils
70
 
import bzrlib.plugin
71
 
from bzrlib.revision import common_ancestor
72
 
import bzrlib.store
73
 
from bzrlib import symbol_versioning
74
 
import bzrlib.trace
75
 
from bzrlib.transport import get_transport
76
 
import bzrlib.transport
77
 
from bzrlib.transport.local import LocalURLServer
78
 
from bzrlib.transport.memory import MemoryServer
79
 
from bzrlib.transport.readonly import ReadonlyServer
80
 
from bzrlib.trace import mutter, note
81
 
from bzrlib.tests import TestUtil
82
 
from bzrlib.tests.HttpServer import HttpServer
83
 
from bzrlib.tests.TestUtil import (
84
 
                          TestSuite,
85
 
                          TestLoader,
86
 
                          )
87
 
from bzrlib.tests.treeshape import build_tree_contents
88
 
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
89
 
 
90
 
default_transport = LocalURLServer
91
 
 
92
 
MODULES_TO_TEST = []
93
 
MODULES_TO_DOCTEST = [
94
 
                      bzrlib.bundle.serializer,
95
 
                      bzrlib.errors,
96
 
                      bzrlib.export,
97
 
                      bzrlib.inventory,
98
 
                      bzrlib.iterablefile,
99
 
                      bzrlib.lockdir,
100
 
                      bzrlib.merge3,
101
 
                      bzrlib.option,
102
 
                      bzrlib.store,
103
 
                      ]
104
 
 
105
 
 
106
 
def packages_to_test():
107
 
    """Return a list of packages to test.
108
 
 
109
 
    The packages are not globally imported so that import failures are
110
 
    triggered when running selftest, not when importing the command.
111
 
    """
112
 
    import bzrlib.doc
113
 
    import bzrlib.tests.blackbox
114
 
    import bzrlib.tests.branch_implementations
115
 
    import bzrlib.tests.bzrdir_implementations
116
 
    import bzrlib.tests.interrepository_implementations
117
 
    import bzrlib.tests.interversionedfile_implementations
118
 
    import bzrlib.tests.intertree_implementations
119
 
    import bzrlib.tests.repository_implementations
120
 
    import bzrlib.tests.revisionstore_implementations
121
 
    import bzrlib.tests.tree_implementations
122
 
    import bzrlib.tests.workingtree_implementations
123
 
    return [
124
 
            bzrlib.doc,
125
 
            bzrlib.tests.blackbox,
126
 
            bzrlib.tests.branch_implementations,
127
 
            bzrlib.tests.bzrdir_implementations,
128
 
            bzrlib.tests.interrepository_implementations,
129
 
            bzrlib.tests.interversionedfile_implementations,
130
 
            bzrlib.tests.intertree_implementations,
131
 
            bzrlib.tests.repository_implementations,
132
 
            bzrlib.tests.revisionstore_implementations,
133
 
            bzrlib.tests.tree_implementations,
134
 
            bzrlib.tests.workingtree_implementations,
135
 
            ]
136
 
 
137
 
 
138
 
class ExtendedTestResult(unittest._TextTestResult):
 
86
from bzrlib.smart import client, request
 
87
from bzrlib.transport import (
 
88
    memory,
 
89
    pathfilter,
 
90
    )
 
91
from bzrlib.symbol_versioning import (
 
92
    deprecated_function,
 
93
    deprecated_in,
 
94
    )
 
95
from bzrlib.tests import (
 
96
    test_server,
 
97
    TestUtil,
 
98
    treeshape,
 
99
    )
 
100
from bzrlib.ui import NullProgressView
 
101
from bzrlib.ui.text import TextUIFactory
 
102
 
 
103
# Mark this python module as being part of the implementation
 
104
# of unittest: this gives us better tracebacks where the last
 
105
# shown frame is the test code, not our assertXYZ.
 
106
__unittest = 1
 
107
 
 
108
default_transport = test_server.LocalURLServer
 
109
 
 
110
 
 
111
_unitialized_attr = object()
 
112
"""A sentinel needed to act as a default value in a method signature."""
 
113
 
 
114
 
 
115
# Subunit result codes, defined here to prevent a hard dependency on subunit.
 
116
SUBUNIT_SEEK_SET = 0
 
117
SUBUNIT_SEEK_CUR = 1
 
118
 
 
119
# These are intentionally brought into this namespace. That way plugins, etc
 
120
# can just "from bzrlib.tests import TestCase, TestLoader, etc"
 
121
TestSuite = TestUtil.TestSuite
 
122
TestLoader = TestUtil.TestLoader
 
123
 
 
124
# Tests should run in a clean and clearly defined environment. The goal is to
 
125
# keep them isolated from the running environment as mush as possible. The test
 
126
# framework ensures the variables defined below are set (or deleted if the
 
127
# value is None) before a test is run and reset to their original value after
 
128
# the test is run. Generally if some code depends on an environment variable,
 
129
# the tests should start without this variable in the environment. There are a
 
130
# few exceptions but you shouldn't violate this rule lightly.
 
131
isolated_environ = {
 
132
    'BZR_HOME': None,
 
133
    'HOME': None,
 
134
    # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
 
135
    # tests do check our impls match APPDATA
 
136
    'BZR_EDITOR': None, # test_msgeditor manipulates this variable
 
137
    'VISUAL': None,
 
138
    'EDITOR': None,
 
139
    'BZR_EMAIL': None,
 
140
    'BZREMAIL': None, # may still be present in the environment
 
141
    'EMAIL': 'jrandom@example.com', # set EMAIL as bzr does not guess
 
142
    'BZR_PROGRESS_BAR': None,
 
143
    # This should trap leaks to ~/.bzr.log. This occurs when tests use TestCase
 
144
    # as a base class instead of TestCaseInTempDir. Tests inheriting from
 
145
    # TestCase should not use disk resources, BZR_LOG is one.
 
146
    'BZR_LOG': '/you-should-use-TestCaseInTempDir-if-you-need-a-log-file',
 
147
    'BZR_PLUGIN_PATH': None,
 
148
    'BZR_DISABLE_PLUGINS': None,
 
149
    'BZR_PLUGINS_AT': None,
 
150
    'BZR_CONCURRENCY': None,
 
151
    # Make sure that any text ui tests are consistent regardless of
 
152
    # the environment the test case is run in; you may want tests that
 
153
    # test other combinations.  'dumb' is a reasonable guess for tests
 
154
    # going to a pipe or a StringIO.
 
155
    'TERM': 'dumb',
 
156
    'LINES': '25',
 
157
    'COLUMNS': '80',
 
158
    'BZR_COLUMNS': '80',
 
159
    # Disable SSH Agent
 
160
    'SSH_AUTH_SOCK': None,
 
161
    # Proxies
 
162
    'http_proxy': None,
 
163
    'HTTP_PROXY': None,
 
164
    'https_proxy': None,
 
165
    'HTTPS_PROXY': None,
 
166
    'no_proxy': None,
 
167
    'NO_PROXY': None,
 
168
    'all_proxy': None,
 
169
    'ALL_PROXY': None,
 
170
    # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
 
171
    # least. If you do (care), please update this comment
 
172
    # -- vila 20080401
 
173
    'ftp_proxy': None,
 
174
    'FTP_PROXY': None,
 
175
    'BZR_REMOTE_PATH': None,
 
176
    # Generally speaking, we don't want apport reporting on crashes in
 
177
    # the test envirnoment unless we're specifically testing apport,
 
178
    # so that it doesn't leak into the real system environment.  We
 
179
    # use an env var so it propagates to subprocesses.
 
180
    'APPORT_DISABLE': '1',
 
181
    }
 
182
 
 
183
 
 
184
def override_os_environ(test, env=None):
 
185
    """Modify os.environ keeping a copy.
 
186
    
 
187
    :param test: A test instance
 
188
 
 
189
    :param env: A dict containing variable definitions to be installed
 
190
    """
 
191
    if env is None:
 
192
        env = isolated_environ
 
193
    test._original_os_environ = dict([(var, value)
 
194
                                      for var, value in os.environ.iteritems()])
 
195
    for var, value in env.iteritems():
 
196
        osutils.set_or_unset_env(var, value)
 
197
        if var not in test._original_os_environ:
 
198
            # The var is new, add it with a value of None, so
 
199
            # restore_os_environ will delete it
 
200
            test._original_os_environ[var] = None
 
201
 
 
202
 
 
203
def restore_os_environ(test):
 
204
    """Restore os.environ to its original state.
 
205
 
 
206
    :param test: A test instance previously passed to override_os_environ.
 
207
    """
 
208
    for var, value in test._original_os_environ.iteritems():
 
209
        # Restore the original value (or delete it if the value has been set to
 
210
        # None in override_os_environ).
 
211
        osutils.set_or_unset_env(var, value)
 
212
 
 
213
 
 
214
class ExtendedTestResult(testtools.TextTestResult):
139
215
    """Accepts, reports and accumulates the results of running tests.
140
216
 
141
 
    Compared to this unittest version this class adds support for profiling,
142
 
    benchmarking, stopping as soon as a test fails,  and skipping tests.
143
 
    There are further-specialized subclasses for different types of display.
 
217
    Compared to the unittest version this class adds support for
 
218
    profiling, benchmarking, stopping as soon as a test fails,  and
 
219
    skipping tests.  There are further-specialized subclasses for
 
220
    different types of display.
 
221
 
 
222
    When a test finishes, in whatever way, it calls one of the addSuccess,
 
223
    addFailure or addError classes.  These in turn may redirect to a more
 
224
    specific case for the special test results supported by our extended
 
225
    tests.
 
226
 
 
227
    Note that just one of these objects is fed the results from many tests.
144
228
    """
145
229
 
146
230
    stop_early = False
147
 
    
 
231
 
148
232
    def __init__(self, stream, descriptions, verbosity,
149
233
                 bench_history=None,
150
 
                 num_tests=None,
 
234
                 strict=False,
151
235
                 ):
152
236
        """Construct new TestResult.
153
237
 
154
238
        :param bench_history: Optionally, a writable file object to accumulate
155
239
            benchmark results.
156
240
        """
157
 
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
 
241
        testtools.TextTestResult.__init__(self, stream)
158
242
        if bench_history is not None:
159
243
            from bzrlib.version import _get_bzr_source_tree
160
244
            src_tree = _get_bzr_source_tree()
170
254
                revision_id = ''
171
255
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
172
256
        self._bench_history = bench_history
173
 
        self.ui = bzrlib.ui.ui_factory
174
 
        self.num_tests = num_tests
 
257
        self.ui = ui.ui_factory
 
258
        self.num_tests = 0
175
259
        self.error_count = 0
176
260
        self.failure_count = 0
 
261
        self.known_failure_count = 0
177
262
        self.skip_count = 0
 
263
        self.not_applicable_count = 0
 
264
        self.unsupported = {}
178
265
        self.count = 0
179
266
        self._overall_start_time = time.time()
180
 
    
181
 
    def extractBenchmarkTime(self, testCase):
 
267
        self._strict = strict
 
268
        self._first_thread_leaker_id = None
 
269
        self._tests_leaking_threads_count = 0
 
270
        self._traceback_from_test = None
 
271
 
 
272
    def stopTestRun(self):
 
273
        run = self.testsRun
 
274
        actionTaken = "Ran"
 
275
        stopTime = time.time()
 
276
        timeTaken = stopTime - self.startTime
 
277
        # GZ 2010-07-19: Seems testtools has no printErrors method, and though
 
278
        #                the parent class method is similar have to duplicate
 
279
        self._show_list('ERROR', self.errors)
 
280
        self._show_list('FAIL', self.failures)
 
281
        self.stream.write(self.sep2)
 
282
        self.stream.write("%s %d test%s in %.3fs\n\n" % (actionTaken,
 
283
                            run, run != 1 and "s" or "", timeTaken))
 
284
        if not self.wasSuccessful():
 
285
            self.stream.write("FAILED (")
 
286
            failed, errored = map(len, (self.failures, self.errors))
 
287
            if failed:
 
288
                self.stream.write("failures=%d" % failed)
 
289
            if errored:
 
290
                if failed: self.stream.write(", ")
 
291
                self.stream.write("errors=%d" % errored)
 
292
            if self.known_failure_count:
 
293
                if failed or errored: self.stream.write(", ")
 
294
                self.stream.write("known_failure_count=%d" %
 
295
                    self.known_failure_count)
 
296
            self.stream.write(")\n")
 
297
        else:
 
298
            if self.known_failure_count:
 
299
                self.stream.write("OK (known_failures=%d)\n" %
 
300
                    self.known_failure_count)
 
301
            else:
 
302
                self.stream.write("OK\n")
 
303
        if self.skip_count > 0:
 
304
            skipped = self.skip_count
 
305
            self.stream.write('%d test%s skipped\n' %
 
306
                                (skipped, skipped != 1 and "s" or ""))
 
307
        if self.unsupported:
 
308
            for feature, count in sorted(self.unsupported.items()):
 
309
                self.stream.write("Missing feature '%s' skipped %d tests.\n" %
 
310
                    (feature, count))
 
311
        if self._strict:
 
312
            ok = self.wasStrictlySuccessful()
 
313
        else:
 
314
            ok = self.wasSuccessful()
 
315
        if self._first_thread_leaker_id:
 
316
            self.stream.write(
 
317
                '%s is leaking threads among %d leaking tests.\n' % (
 
318
                self._first_thread_leaker_id,
 
319
                self._tests_leaking_threads_count))
 
320
            # We don't report the main thread as an active one.
 
321
            self.stream.write(
 
322
                '%d non-main threads were left active in the end.\n'
 
323
                % (len(self._active_threads) - 1))
 
324
 
 
325
    def getDescription(self, test):
 
326
        return test.id()
 
327
 
 
328
    def _extractBenchmarkTime(self, testCase, details=None):
182
329
        """Add a benchmark time for the current test case."""
183
 
        self._benchmarkTime = getattr(testCase, "_benchtime", None)
184
 
    
 
330
        if details and 'benchtime' in details:
 
331
            return float(''.join(details['benchtime'].iter_bytes()))
 
332
        return getattr(testCase, "_benchtime", None)
 
333
 
185
334
    def _elapsedTestTimeString(self):
186
335
        """Return a time string for the overall time the current test has taken."""
187
 
        return self._formatTime(time.time() - self._start_time)
 
336
        return self._formatTime(self._delta_to_float(
 
337
            self._now() - self._start_datetime))
188
338
 
189
 
    def _testTimeString(self):
190
 
        if self._benchmarkTime is not None:
191
 
            return "%s/%s" % (
192
 
                self._formatTime(self._benchmarkTime),
193
 
                self._elapsedTestTimeString())
 
339
    def _testTimeString(self, testCase):
 
340
        benchmark_time = self._extractBenchmarkTime(testCase)
 
341
        if benchmark_time is not None:
 
342
            return self._formatTime(benchmark_time) + "*"
194
343
        else:
195
 
            return "           %s" % self._elapsedTestTimeString()
 
344
            return self._elapsedTestTimeString()
196
345
 
197
346
    def _formatTime(self, seconds):
198
347
        """Format seconds as milliseconds with leading spaces."""
202
351
 
203
352
    def _shortened_test_description(self, test):
204
353
        what = test.id()
205
 
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
354
        what = re.sub(r'^bzrlib\.tests\.', '', what)
206
355
        return what
207
356
 
 
357
    # GZ 2010-10-04: Cloned tests may end up harmlessly calling this method
 
358
    #                multiple times in a row, because the handler is added for
 
359
    #                each test but the container list is shared between cases.
 
360
    #                See lp:498869 lp:625574 and lp:637725 for background.
 
361
    def _record_traceback_from_test(self, exc_info):
 
362
        """Store the traceback from passed exc_info tuple till"""
 
363
        self._traceback_from_test = exc_info[2]
 
364
 
208
365
    def startTest(self, test):
209
 
        unittest.TestResult.startTest(self, test)
 
366
        super(ExtendedTestResult, self).startTest(test)
 
367
        if self.count == 0:
 
368
            self.startTests()
 
369
        self.count += 1
210
370
        self.report_test_start(test)
 
371
        test.number = self.count
211
372
        self._recordTestStartTime()
 
373
        # Make testtools cases give us the real traceback on failure
 
374
        addOnException = getattr(test, "addOnException", None)
 
375
        if addOnException is not None:
 
376
            addOnException(self._record_traceback_from_test)
 
377
        # Only check for thread leaks on bzrlib derived test cases
 
378
        if isinstance(test, TestCase):
 
379
            test.addCleanup(self._check_leaked_threads, test)
 
380
 
 
381
    def stopTest(self, test):
 
382
        super(ExtendedTestResult, self).stopTest(test)
 
383
        # Manually break cycles, means touching various private things but hey
 
384
        getDetails = getattr(test, "getDetails", None)
 
385
        if getDetails is not None:
 
386
            getDetails().clear()
 
387
        # Clear _type_equality_funcs to try to stop TestCase instances
 
388
        # from wasting memory. 'clear' is not available in all Python
 
389
        # versions (bug 809048)
 
390
        type_equality_funcs = getattr(test, "_type_equality_funcs", None)
 
391
        if type_equality_funcs is not None:
 
392
            tef_clear = getattr(type_equality_funcs, "clear", None)
 
393
            if tef_clear is None:
 
394
                tef_instance_dict = getattr(type_equality_funcs, "__dict__", None)
 
395
                if tef_instance_dict is not None:
 
396
                    tef_clear = tef_instance_dict.clear
 
397
            if tef_clear is not None:
 
398
                tef_clear()
 
399
        self._traceback_from_test = None
 
400
 
 
401
    def startTests(self):
 
402
        self.report_tests_starting()
 
403
        self._active_threads = threading.enumerate()
 
404
 
 
405
    def _check_leaked_threads(self, test):
 
406
        """See if any threads have leaked since last call
 
407
 
 
408
        A sample of live threads is stored in the _active_threads attribute,
 
409
        when this method runs it compares the current live threads and any not
 
410
        in the previous sample are treated as having leaked.
 
411
        """
 
412
        now_active_threads = set(threading.enumerate())
 
413
        threads_leaked = now_active_threads.difference(self._active_threads)
 
414
        if threads_leaked:
 
415
            self._report_thread_leak(test, threads_leaked, now_active_threads)
 
416
            self._tests_leaking_threads_count += 1
 
417
            if self._first_thread_leaker_id is None:
 
418
                self._first_thread_leaker_id = test.id()
 
419
            self._active_threads = now_active_threads
212
420
 
213
421
    def _recordTestStartTime(self):
214
422
        """Record that a test has started."""
215
 
        self._start_time = time.time()
 
423
        self._start_datetime = self._now()
216
424
 
217
425
    def addError(self, test, err):
218
 
        if isinstance(err[1], TestSkipped):
219
 
            return self.addSkipped(test, err)    
220
 
        unittest.TestResult.addError(self, test, err)
221
 
        # We can only do this if we have one of our TestCases, not if
222
 
        # we have a doctest.
223
 
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
224
 
        if setKeepLogfile is not None:
225
 
            setKeepLogfile()
226
 
        self.extractBenchmarkTime(test)
 
426
        """Tell result that test finished with an error.
 
427
 
 
428
        Called from the TestCase run() method when the test
 
429
        fails with an unexpected error.
 
430
        """
 
431
        self._post_mortem(self._traceback_from_test)
 
432
        super(ExtendedTestResult, self).addError(test, err)
 
433
        self.error_count += 1
227
434
        self.report_error(test, err)
228
435
        if self.stop_early:
229
436
            self.stop()
230
437
 
231
438
    def addFailure(self, test, err):
232
 
        unittest.TestResult.addFailure(self, test, err)
233
 
        # We can only do this if we have one of our TestCases, not if
234
 
        # we have a doctest.
235
 
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
236
 
        if setKeepLogfile is not None:
237
 
            setKeepLogfile()
238
 
        self.extractBenchmarkTime(test)
 
439
        """Tell result that test failed.
 
440
 
 
441
        Called from the TestCase run() method when the test
 
442
        fails because e.g. an assert() method failed.
 
443
        """
 
444
        self._post_mortem(self._traceback_from_test)
 
445
        super(ExtendedTestResult, self).addFailure(test, err)
 
446
        self.failure_count += 1
239
447
        self.report_failure(test, err)
240
448
        if self.stop_early:
241
449
            self.stop()
242
450
 
243
 
    def addSuccess(self, test):
244
 
        self.extractBenchmarkTime(test)
 
451
    def addSuccess(self, test, details=None):
 
452
        """Tell result that test completed successfully.
 
453
 
 
454
        Called from the TestCase run()
 
455
        """
245
456
        if self._bench_history is not None:
246
 
            if self._benchmarkTime is not None:
 
457
            benchmark_time = self._extractBenchmarkTime(test, details)
 
458
            if benchmark_time is not None:
247
459
                self._bench_history.write("%s %s\n" % (
248
 
                    self._formatTime(self._benchmarkTime),
 
460
                    self._formatTime(benchmark_time),
249
461
                    test.id()))
250
462
        self.report_success(test)
251
 
        unittest.TestResult.addSuccess(self, test)
252
 
 
253
 
    def addSkipped(self, test, skip_excinfo):
254
 
        self.extractBenchmarkTime(test)
255
 
        self.report_skip(test, skip_excinfo)
256
 
        # seems best to treat this as success from point-of-view of unittest
257
 
        # -- it actually does nothing so it barely matters :)
258
 
        try:
259
 
            test.tearDown()
260
 
        except KeyboardInterrupt:
261
 
            raise
262
 
        except:
263
 
            self.addError(test, test.__exc_info())
264
 
        else:
265
 
            unittest.TestResult.addSuccess(self, test)
266
 
 
267
 
    def printErrorList(self, flavour, errors):
268
 
        for test, err in errors:
269
 
            self.stream.writeln(self.separator1)
270
 
            self.stream.writeln("%s: %s" % (flavour, self.getDescription(test)))
271
 
            if getattr(test, '_get_log', None) is not None:
272
 
                print >>self.stream
273
 
                print >>self.stream, \
274
 
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-')
275
 
                print >>self.stream, test._get_log()
276
 
                print >>self.stream, \
277
 
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-')
278
 
            self.stream.writeln(self.separator2)
279
 
            self.stream.writeln("%s" % err)
280
 
 
281
 
    def finished(self):
282
 
        pass
283
 
 
284
 
    def report_cleaning_up(self):
285
 
        pass
 
463
        super(ExtendedTestResult, self).addSuccess(test)
 
464
        test._log_contents = ''
 
465
 
 
466
    def addExpectedFailure(self, test, err):
 
467
        self.known_failure_count += 1
 
468
        self.report_known_failure(test, err)
 
469
 
 
470
    def addUnexpectedSuccess(self, test, details=None):
 
471
        """Tell result the test unexpectedly passed, counting as a failure
 
472
 
 
473
        When the minimum version of testtools required becomes 0.9.8 this
 
474
        can be updated to use the new handling there.
 
475
        """
 
476
        super(ExtendedTestResult, self).addFailure(test, details=details)
 
477
        self.failure_count += 1
 
478
        self.report_unexpected_success(test,
 
479
            "".join(details["reason"].iter_text()))
 
480
        if self.stop_early:
 
481
            self.stop()
 
482
 
 
483
    def addNotSupported(self, test, feature):
 
484
        """The test will not be run because of a missing feature.
 
485
        """
 
486
        # this can be called in two different ways: it may be that the
 
487
        # test started running, and then raised (through requireFeature)
 
488
        # UnavailableFeature.  Alternatively this method can be called
 
489
        # while probing for features before running the test code proper; in
 
490
        # that case we will see startTest and stopTest, but the test will
 
491
        # never actually run.
 
492
        self.unsupported.setdefault(str(feature), 0)
 
493
        self.unsupported[str(feature)] += 1
 
494
        self.report_unsupported(test, feature)
 
495
 
 
496
    def addSkip(self, test, reason):
 
497
        """A test has not run for 'reason'."""
 
498
        self.skip_count += 1
 
499
        self.report_skip(test, reason)
 
500
 
 
501
    def addNotApplicable(self, test, reason):
 
502
        self.not_applicable_count += 1
 
503
        self.report_not_applicable(test, reason)
 
504
 
 
505
    def _post_mortem(self, tb=None):
 
506
        """Start a PDB post mortem session."""
 
507
        if os.environ.get('BZR_TEST_PDB', None):
 
508
            import pdb
 
509
            pdb.post_mortem(tb)
 
510
 
 
511
    def progress(self, offset, whence):
 
512
        """The test is adjusting the count of tests to run."""
 
513
        if whence == SUBUNIT_SEEK_SET:
 
514
            self.num_tests = offset
 
515
        elif whence == SUBUNIT_SEEK_CUR:
 
516
            self.num_tests += offset
 
517
        else:
 
518
            raise errors.BzrError("Unknown whence %r" % whence)
 
519
 
 
520
    def report_tests_starting(self):
 
521
        """Display information before the test run begins"""
 
522
        if getattr(sys, 'frozen', None) is None:
 
523
            bzr_path = osutils.realpath(sys.argv[0])
 
524
        else:
 
525
            bzr_path = sys.executable
 
526
        self.stream.write(
 
527
            'bzr selftest: %s\n' % (bzr_path,))
 
528
        self.stream.write(
 
529
            '   %s\n' % (
 
530
                    bzrlib.__path__[0],))
 
531
        self.stream.write(
 
532
            '   bzr-%s python-%s %s\n' % (
 
533
                    bzrlib.version_string,
 
534
                    bzrlib._format_version_tuple(sys.version_info),
 
535
                    platform.platform(aliased=1),
 
536
                    ))
 
537
        self.stream.write('\n')
 
538
 
 
539
    def report_test_start(self, test):
 
540
        """Display information on the test just about to be run"""
 
541
 
 
542
    def _report_thread_leak(self, test, leaked_threads, active_threads):
 
543
        """Display information on a test that leaked one or more threads"""
 
544
        # GZ 2010-09-09: A leak summary reported separately from the general
 
545
        #                thread debugging would be nice. Tests under subunit
 
546
        #                need something not using stream, perhaps adding a
 
547
        #                testtools details object would be fitting.
 
548
        if 'threads' in selftest_debug_flags:
 
549
            self.stream.write('%s is leaking, active is now %d\n' %
 
550
                (test.id(), len(active_threads)))
 
551
 
 
552
    def startTestRun(self):
 
553
        self.startTime = time.time()
286
554
 
287
555
    def report_success(self, test):
288
556
        pass
289
557
 
 
558
    def wasStrictlySuccessful(self):
 
559
        if self.unsupported or self.known_failure_count:
 
560
            return False
 
561
        return self.wasSuccessful()
 
562
 
290
563
 
291
564
class TextTestResult(ExtendedTestResult):
292
565
    """Displays progress and results of tests in text form"""
293
566
 
294
 
    def __init__(self, *args, **kw):
295
 
        ExtendedTestResult.__init__(self, *args, **kw)
 
567
    def __init__(self, stream, descriptions, verbosity,
 
568
                 bench_history=None,
 
569
                 pb=None,
 
570
                 strict=None,
 
571
                 ):
 
572
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
 
573
            bench_history, strict)
 
574
        # We no longer pass them around, but just rely on the UIFactory stack
 
575
        # for state
 
576
        if pb is not None:
 
577
            warnings.warn("Passing pb to TextTestResult is deprecated")
296
578
        self.pb = self.ui.nested_progress_bar()
297
579
        self.pb.show_pct = False
298
580
        self.pb.show_spinner = False
299
 
        self.pb.show_eta = False, 
 
581
        self.pb.show_eta = False,
300
582
        self.pb.show_count = False
301
583
        self.pb.show_bar = False
302
 
 
303
 
    def report_starting(self):
304
 
        self.pb.update('[test 0/%d] starting...' % (self.num_tests))
 
584
        self.pb.update_latency = 0
 
585
        self.pb.show_transport_activity = False
 
586
 
 
587
    def stopTestRun(self):
 
588
        # called when the tests that are going to run have run
 
589
        self.pb.clear()
 
590
        self.pb.finished()
 
591
        super(TextTestResult, self).stopTestRun()
 
592
 
 
593
    def report_tests_starting(self):
 
594
        super(TextTestResult, self).report_tests_starting()
 
595
        self.pb.update('[test 0/%d] Starting' % (self.num_tests))
305
596
 
306
597
    def _progress_prefix_text(self):
307
 
        a = '[%d' % self.count
308
 
        if self.num_tests is not None:
 
598
        # the longer this text, the less space we have to show the test
 
599
        # name...
 
600
        a = '[%d' % self.count              # total that have been run
 
601
        # tests skipped as known not to be relevant are not important enough
 
602
        # to show here
 
603
        ## if self.skip_count:
 
604
        ##     a += ', %d skip' % self.skip_count
 
605
        ## if self.known_failure_count:
 
606
        ##     a += '+%dX' % self.known_failure_count
 
607
        if self.num_tests:
309
608
            a +='/%d' % self.num_tests
310
 
        a += ' in %ds' % (time.time() - self._overall_start_time)
311
 
        if self.error_count:
312
 
            a += ', %d errors' % self.error_count
313
 
        if self.failure_count:
314
 
            a += ', %d failed' % self.failure_count
315
 
        if self.skip_count:
316
 
            a += ', %d skipped' % self.skip_count
 
609
        a += ' in '
 
610
        runtime = time.time() - self._overall_start_time
 
611
        if runtime >= 60:
 
612
            a += '%dm%ds' % (runtime / 60, runtime % 60)
 
613
        else:
 
614
            a += '%ds' % runtime
 
615
        total_fail_count = self.error_count + self.failure_count
 
616
        if total_fail_count:
 
617
            a += ', %d failed' % total_fail_count
 
618
        # if self.unsupported:
 
619
        #     a += ', %d missing' % len(self.unsupported)
317
620
        a += ']'
318
621
        return a
319
622
 
320
623
    def report_test_start(self, test):
321
 
        self.count += 1
322
624
        self.pb.update(
323
625
                self._progress_prefix_text()
324
 
                + ' ' 
 
626
                + ' '
325
627
                + self._shortened_test_description(test))
326
628
 
 
629
    def _test_description(self, test):
 
630
        return self._shortened_test_description(test)
 
631
 
327
632
    def report_error(self, test, err):
328
 
        self.error_count += 1
329
 
        self.pb.note('ERROR: %s\n    %s\n', 
330
 
            self._shortened_test_description(test),
 
633
        self.stream.write('ERROR: %s\n    %s\n' % (
 
634
            self._test_description(test),
331
635
            err[1],
332
 
            )
 
636
            ))
333
637
 
334
638
    def report_failure(self, test, err):
335
 
        self.failure_count += 1
336
 
        self.pb.note('FAIL: %s\n    %s\n', 
337
 
            self._shortened_test_description(test),
 
639
        self.stream.write('FAIL: %s\n    %s\n' % (
 
640
            self._test_description(test),
338
641
            err[1],
339
 
            )
340
 
 
341
 
    def report_skip(self, test, skip_excinfo):
342
 
        self.skip_count += 1
343
 
        if False:
344
 
            # at the moment these are mostly not things we can fix
345
 
            # and so they just produce stipple; use the verbose reporter
346
 
            # to see them.
347
 
            if False:
348
 
                # show test and reason for skip
349
 
                self.pb.note('SKIP: %s\n    %s\n', 
350
 
                    self._shortened_test_description(test),
351
 
                    skip_excinfo[1])
352
 
            else:
353
 
                # since the class name was left behind in the still-visible
354
 
                # progress bar...
355
 
                self.pb.note('SKIP: %s', skip_excinfo[1])
356
 
 
357
 
    def report_cleaning_up(self):
358
 
        self.pb.update('cleaning up...')
359
 
 
360
 
    def finished(self):
361
 
        self.pb.finished()
 
642
            ))
 
643
 
 
644
    def report_known_failure(self, test, err):
 
645
        pass
 
646
 
 
647
    def report_unexpected_success(self, test, reason):
 
648
        self.stream.write('FAIL: %s\n    %s: %s\n' % (
 
649
            self._test_description(test),
 
650
            "Unexpected success. Should have failed",
 
651
            reason,
 
652
            ))
 
653
 
 
654
    def report_skip(self, test, reason):
 
655
        pass
 
656
 
 
657
    def report_not_applicable(self, test, reason):
 
658
        pass
 
659
 
 
660
    def report_unsupported(self, test, feature):
 
661
        """test cannot be run because feature is missing."""
362
662
 
363
663
 
364
664
class VerboseTestResult(ExtendedTestResult):
372
672
            result = a_string
373
673
        return result.ljust(final_width)
374
674
 
375
 
    def report_starting(self):
 
675
    def report_tests_starting(self):
376
676
        self.stream.write('running %d tests...\n' % self.num_tests)
 
677
        super(VerboseTestResult, self).report_tests_starting()
377
678
 
378
679
    def report_test_start(self, test):
379
 
        self.count += 1
380
680
        name = self._shortened_test_description(test)
381
 
        # width needs space for 6 char status, plus 1 for slash, plus 2 10-char
382
 
        # numbers, plus a trailing blank
383
 
        self.stream.write(self._ellipsize_to_right(name,
384
 
                            osutils.terminal_width()-30))
 
681
        width = osutils.terminal_width()
 
682
        if width is not None:
 
683
            # width needs space for 6 char status, plus 1 for slash, plus an
 
684
            # 11-char time string, plus a trailing blank
 
685
            # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on
 
686
            # space
 
687
            self.stream.write(self._ellipsize_to_right(name, width-18))
 
688
        else:
 
689
            self.stream.write(name)
385
690
        self.stream.flush()
386
691
 
 
692
    def _error_summary(self, err):
 
693
        indent = ' ' * 4
 
694
        return '%s%s' % (indent, err[1])
 
695
 
387
696
    def report_error(self, test, err):
388
 
        self.error_count += 1
389
 
        self.stream.writeln('ERROR %s\n    %s' 
390
 
                % (self._testTimeString(), err[1]))
 
697
        self.stream.write('ERROR %s\n%s\n'
 
698
                % (self._testTimeString(test),
 
699
                   self._error_summary(err)))
391
700
 
392
701
    def report_failure(self, test, err):
393
 
        self.failure_count += 1
394
 
        self.stream.writeln(' FAIL %s\n    %s'
395
 
                % (self._testTimeString(), err[1]))
 
702
        self.stream.write(' FAIL %s\n%s\n'
 
703
                % (self._testTimeString(test),
 
704
                   self._error_summary(err)))
 
705
 
 
706
    def report_known_failure(self, test, err):
 
707
        self.stream.write('XFAIL %s\n%s\n'
 
708
                % (self._testTimeString(test),
 
709
                   self._error_summary(err)))
 
710
 
 
711
    def report_unexpected_success(self, test, reason):
 
712
        self.stream.write(' FAIL %s\n%s: %s\n'
 
713
                % (self._testTimeString(test),
 
714
                   "Unexpected success. Should have failed",
 
715
                   reason))
396
716
 
397
717
    def report_success(self, test):
398
 
        self.stream.writeln('   OK %s' % self._testTimeString())
 
718
        self.stream.write('   OK %s\n' % self._testTimeString(test))
399
719
        for bench_called, stats in getattr(test, '_benchcalls', []):
400
 
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
720
            self.stream.write('LSProf output for %s(%s, %s)\n' % bench_called)
401
721
            stats.pprint(file=self.stream)
 
722
        # flush the stream so that we get smooth output. This verbose mode is
 
723
        # used to show the output in PQM.
402
724
        self.stream.flush()
403
725
 
404
 
    def report_skip(self, test, skip_excinfo):
405
 
        print >>self.stream, ' SKIP %s' % self._testTimeString()
406
 
        print >>self.stream, '     %s' % skip_excinfo[1]
 
726
    def report_skip(self, test, reason):
 
727
        self.stream.write(' SKIP %s\n%s\n'
 
728
                % (self._testTimeString(test), reason))
 
729
 
 
730
    def report_not_applicable(self, test, reason):
 
731
        self.stream.write('  N/A %s\n    %s\n'
 
732
                % (self._testTimeString(test), reason))
 
733
 
 
734
    def report_unsupported(self, test, feature):
 
735
        """test cannot be run because feature is missing."""
 
736
        self.stream.write("NODEP %s\n    The feature '%s' is not available.\n"
 
737
                %(self._testTimeString(test), feature))
407
738
 
408
739
 
409
740
class TextTestRunner(object):
413
744
                 stream=sys.stderr,
414
745
                 descriptions=0,
415
746
                 verbosity=1,
416
 
                 keep_output=False,
417
 
                 bench_history=None):
418
 
        self.stream = unittest._WritelnDecorator(stream)
 
747
                 bench_history=None,
 
748
                 strict=False,
 
749
                 result_decorators=None,
 
750
                 ):
 
751
        """Create a TextTestRunner.
 
752
 
 
753
        :param result_decorators: An optional list of decorators to apply
 
754
            to the result object being used by the runner. Decorators are
 
755
            applied left to right - the first element in the list is the 
 
756
            innermost decorator.
 
757
        """
 
758
        # stream may know claim to know to write unicode strings, but in older
 
759
        # pythons this goes sufficiently wrong that it is a bad idea. (
 
760
        # specifically a built in file with encoding 'UTF-8' will still try
 
761
        # to encode using ascii.
 
762
        new_encoding = osutils.get_terminal_encoding()
 
763
        codec = codecs.lookup(new_encoding)
 
764
        if type(codec) is tuple:
 
765
            # Python 2.4
 
766
            encode = codec[0]
 
767
        else:
 
768
            encode = codec.encode
 
769
        # GZ 2010-09-08: Really we don't want to be writing arbitrary bytes,
 
770
        #                so should swap to the plain codecs.StreamWriter
 
771
        stream = osutils.UnicodeOrBytesToBytesWriter(encode, stream,
 
772
            "backslashreplace")
 
773
        stream.encoding = new_encoding
 
774
        self.stream = stream
419
775
        self.descriptions = descriptions
420
776
        self.verbosity = verbosity
421
 
        self.keep_output = keep_output
422
777
        self._bench_history = bench_history
 
778
        self._strict = strict
 
779
        self._result_decorators = result_decorators or []
423
780
 
424
781
    def run(self, test):
425
782
        "Run the given test case or test suite."
426
 
        startTime = time.time()
427
783
        if self.verbosity == 1:
428
784
            result_class = TextTestResult
429
785
        elif self.verbosity >= 2:
430
786
            result_class = VerboseTestResult
431
 
        result = result_class(self.stream,
 
787
        original_result = result_class(self.stream,
432
788
                              self.descriptions,
433
789
                              self.verbosity,
434
790
                              bench_history=self._bench_history,
435
 
                              num_tests=test.countTestCases(),
 
791
                              strict=self._strict,
436
792
                              )
437
 
        result.stop_early = self.stop_on_failure
438
 
        result.report_starting()
439
 
        test.run(result)
440
 
        stopTime = time.time()
441
 
        timeTaken = stopTime - startTime
442
 
        result.printErrors()
443
 
        self.stream.writeln(result.separator2)
444
 
        run = result.testsRun
445
 
        self.stream.writeln("Ran %d test%s in %.3fs" %
446
 
                            (run, run != 1 and "s" or "", timeTaken))
447
 
        self.stream.writeln()
448
 
        if not result.wasSuccessful():
449
 
            self.stream.write("FAILED (")
450
 
            failed, errored = map(len, (result.failures, result.errors))
451
 
            if failed:
452
 
                self.stream.write("failures=%d" % failed)
453
 
            if errored:
454
 
                if failed: self.stream.write(", ")
455
 
                self.stream.write("errors=%d" % errored)
456
 
            self.stream.writeln(")")
457
 
        else:
458
 
            self.stream.writeln("OK")
459
 
        result.report_cleaning_up()
460
 
        # This is still a little bogus, 
461
 
        # but only a little. Folk not using our testrunner will
462
 
        # have to delete their temp directories themselves.
463
 
        test_root = TestCaseWithMemoryTransport.TEST_ROOT
464
 
        if result.wasSuccessful() or not self.keep_output:
465
 
            if test_root is not None:
466
 
                # If LANG=C we probably have created some bogus paths
467
 
                # which rmtree(unicode) will fail to delete
468
 
                # so make sure we are using rmtree(str) to delete everything
469
 
                # except on win32, where rmtree(str) will fail
470
 
                # since it doesn't have the property of byte-stream paths
471
 
                # (they are either ascii or mbcs)
472
 
                if sys.platform == 'win32':
473
 
                    # make sure we are using the unicode win32 api
474
 
                    test_root = unicode(test_root)
475
 
                else:
476
 
                    test_root = test_root.encode(
477
 
                        sys.getfilesystemencoding())
478
 
                osutils.rmtree(test_root)
479
 
        else:
480
 
            note("Failed tests working directories are in '%s'\n", test_root)
481
 
        TestCaseWithMemoryTransport.TEST_ROOT = None
482
 
        result.finished()
483
 
        return result
 
793
        # Signal to result objects that look at stop early policy to stop,
 
794
        original_result.stop_early = self.stop_on_failure
 
795
        result = original_result
 
796
        for decorator in self._result_decorators:
 
797
            result = decorator(result)
 
798
            result.stop_early = self.stop_on_failure
 
799
        result.startTestRun()
 
800
        try:
 
801
            test.run(result)
 
802
        finally:
 
803
            result.stopTestRun()
 
804
        # higher level code uses our extended protocol to determine
 
805
        # what exit code to give.
 
806
        return original_result
484
807
 
485
808
 
486
809
def iter_suite_tests(suite):
487
810
    """Return all tests in a suite, recursing through nested suites"""
488
 
    for item in suite._tests:
489
 
        if isinstance(item, unittest.TestCase):
490
 
            yield item
491
 
        elif isinstance(item, unittest.TestSuite):
 
811
    if isinstance(suite, unittest.TestCase):
 
812
        yield suite
 
813
    elif isinstance(suite, unittest.TestSuite):
 
814
        for item in suite:
492
815
            for r in iter_suite_tests(item):
493
816
                yield r
494
 
        else:
495
 
            raise Exception('unknown object %r inside test suite %r'
496
 
                            % (item, suite))
497
 
 
498
 
 
499
 
class TestSkipped(Exception):
500
 
    """Indicates that a test was intentionally skipped, rather than failing."""
501
 
 
502
 
 
503
 
class CommandFailed(Exception):
504
 
    pass
 
817
    else:
 
818
        raise Exception('unknown type %r for object %r'
 
819
                        % (type(suite), suite))
 
820
 
 
821
 
 
822
TestSkipped = testtools.testcase.TestSkipped
 
823
 
 
824
 
 
825
class TestNotApplicable(TestSkipped):
 
826
    """A test is not applicable to the situation where it was run.
 
827
 
 
828
    This is only normally raised by parameterized tests, if they find that
 
829
    the instance they're constructed upon does not support one aspect
 
830
    of its interface.
 
831
    """
 
832
 
 
833
 
 
834
# traceback._some_str fails to format exceptions that have the default
 
835
# __str__ which does an implicit ascii conversion. However, repr() on those
 
836
# objects works, for all that its not quite what the doctor may have ordered.
 
837
def _clever_some_str(value):
 
838
    try:
 
839
        return str(value)
 
840
    except:
 
841
        try:
 
842
            return repr(value).replace('\\n', '\n')
 
843
        except:
 
844
            return '<unprintable %s object>' % type(value).__name__
 
845
 
 
846
traceback._some_str = _clever_some_str
 
847
 
 
848
 
 
849
# deprecated - use self.knownFailure(), or self.expectFailure.
 
850
KnownFailure = testtools.testcase._ExpectedFailure
 
851
 
 
852
 
 
853
class UnavailableFeature(Exception):
 
854
    """A feature required for this test was not available.
 
855
 
 
856
    This can be considered a specialised form of SkippedTest.
 
857
 
 
858
    The feature should be used to construct the exception.
 
859
    """
505
860
 
506
861
 
507
862
class StringIOWrapper(object):
508
863
    """A wrapper around cStringIO which just adds an encoding attribute.
509
 
    
 
864
 
510
865
    Internally we can check sys.stdout to see what the output encoding
511
866
    should be. However, cStringIO has no encoding attribute that we can
512
867
    set. So we wrap it instead.
530
885
            return setattr(self._cstring, name, val)
531
886
 
532
887
 
533
 
class TestCase(unittest.TestCase):
 
888
class TestUIFactory(TextUIFactory):
 
889
    """A UI Factory for testing.
 
890
 
 
891
    Hide the progress bar but emit note()s.
 
892
    Redirect stdin.
 
893
    Allows get_password to be tested without real tty attached.
 
894
 
 
895
    See also CannedInputUIFactory which lets you provide programmatic input in
 
896
    a structured way.
 
897
    """
 
898
    # TODO: Capture progress events at the model level and allow them to be
 
899
    # observed by tests that care.
 
900
    #
 
901
    # XXX: Should probably unify more with CannedInputUIFactory or a
 
902
    # particular configuration of TextUIFactory, or otherwise have a clearer
 
903
    # idea of how they're supposed to be different.
 
904
    # See https://bugs.launchpad.net/bzr/+bug/408213
 
905
 
 
906
    def __init__(self, stdout=None, stderr=None, stdin=None):
 
907
        if stdin is not None:
 
908
            # We use a StringIOWrapper to be able to test various
 
909
            # encodings, but the user is still responsible to
 
910
            # encode the string and to set the encoding attribute
 
911
            # of StringIOWrapper.
 
912
            stdin = StringIOWrapper(stdin)
 
913
        super(TestUIFactory, self).__init__(stdin, stdout, stderr)
 
914
 
 
915
    def get_non_echoed_password(self):
 
916
        """Get password from stdin without trying to handle the echo mode"""
 
917
        password = self.stdin.readline()
 
918
        if not password:
 
919
            raise EOFError
 
920
        if password[-1] == '\n':
 
921
            password = password[:-1]
 
922
        return password
 
923
 
 
924
    def make_progress_view(self):
 
925
        return NullProgressView()
 
926
 
 
927
 
 
928
def isolated_doctest_setUp(test):
 
929
    override_os_environ(test)
 
930
 
 
931
 
 
932
def isolated_doctest_tearDown(test):
 
933
    restore_os_environ(test)
 
934
 
 
935
 
 
936
def IsolatedDocTestSuite(*args, **kwargs):
 
937
    """Overrides doctest.DocTestSuite to handle isolation.
 
938
 
 
939
    The method is really a factory and users are expected to use it as such.
 
940
    """
 
941
 
 
942
    kwargs['setUp'] = isolated_doctest_setUp
 
943
    kwargs['tearDown'] = isolated_doctest_tearDown
 
944
    return doctest.DocTestSuite(*args, **kwargs)
 
945
 
 
946
 
 
947
class TestCase(testtools.TestCase):
534
948
    """Base class for bzr unit tests.
535
 
    
536
 
    Tests that need access to disk resources should subclass 
 
949
 
 
950
    Tests that need access to disk resources should subclass
537
951
    TestCaseInTempDir not TestCase.
538
952
 
539
953
    Error and debug log messages are redirected from their usual
541
955
    retrieved by _get_log().  We use a real OS file, not an in-memory object,
542
956
    so that it can also capture file IO.  When the test completes this file
543
957
    is read into memory and removed from disk.
544
 
       
 
958
 
545
959
    There are also convenience functions to invoke bzr's command-line
546
960
    routine, and to build and check bzr trees.
547
 
   
 
961
 
548
962
    In addition to the usual method of overriding tearDown(), this class also
549
 
    allows subclasses to register functions into the _cleanups list, which is
 
963
    allows subclasses to register cleanup functions via addCleanup, which are
550
964
    run in order as the object is torn down.  It's less likely this will be
551
965
    accidentally overlooked.
552
966
    """
553
967
 
554
 
    _log_file_name = None
555
 
    _log_contents = ''
556
 
    _keep_log_file = False
 
968
    _log_file = None
557
969
    # record lsprof data when performing benchmark calls.
558
970
    _gather_lsprof_in_benchmarks = False
559
971
 
560
972
    def __init__(self, methodName='testMethod'):
561
973
        super(TestCase, self).__init__(methodName)
562
 
        self._cleanups = []
 
974
        self._directory_isolation = True
 
975
        self.exception_handlers.insert(0,
 
976
            (UnavailableFeature, self._do_unsupported_or_skip))
 
977
        self.exception_handlers.insert(0,
 
978
            (TestNotApplicable, self._do_not_applicable))
563
979
 
564
980
    def setUp(self):
565
 
        unittest.TestCase.setUp(self)
 
981
        super(TestCase, self).setUp()
 
982
        for feature in getattr(self, '_test_needs_features', []):
 
983
            self.requireFeature(feature)
566
984
        self._cleanEnvironment()
567
 
        bzrlib.trace.disable_default_logging()
568
985
        self._silenceUI()
569
986
        self._startLogFile()
570
987
        self._benchcalls = []
571
988
        self._benchtime = None
 
989
        self._clear_hooks()
 
990
        self._track_transports()
 
991
        self._track_locks()
 
992
        self._clear_debug_flags()
 
993
        # Isolate global verbosity level, to make sure it's reproducible
 
994
        # between tests.  We should get rid of this altogether: bug 656694. --
 
995
        # mbp 20101008
 
996
        self.overrideAttr(bzrlib.trace, '_verbosity_level', 0)
 
997
        # Isolate config option expansion until its default value for bzrlib is
 
998
        # settled on or a the FIXME associated with _get_expand_default_value
 
999
        # is addressed -- vila 20110219
 
1000
        self.overrideAttr(config, '_expand_default_value', None)
 
1001
        self._log_files = set()
 
1002
        # Each key in the ``_counters`` dict holds a value for a different
 
1003
        # counter. When the test ends, addDetail() should be used to output the
 
1004
        # counter values. This happens in install_counter_hook().
 
1005
        self._counters = {}
 
1006
        if 'config_stats' in selftest_debug_flags:
 
1007
            self._install_config_stats_hooks()
 
1008
 
 
1009
    def debug(self):
 
1010
        # debug a frame up.
 
1011
        import pdb
 
1012
        pdb.Pdb().set_trace(sys._getframe().f_back)
 
1013
 
 
1014
    def discardDetail(self, name):
 
1015
        """Extend the addDetail, getDetails api so we can remove a detail.
 
1016
 
 
1017
        eg. bzr always adds the 'log' detail at startup, but we don't want to
 
1018
        include it for skipped, xfail, etc tests.
 
1019
 
 
1020
        It is safe to call this for a detail that doesn't exist, in case this
 
1021
        gets called multiple times.
 
1022
        """
 
1023
        # We cheat. details is stored in __details which means we shouldn't
 
1024
        # touch it. but getDetails() returns the dict directly, so we can
 
1025
        # mutate it.
 
1026
        details = self.getDetails()
 
1027
        if name in details:
 
1028
            del details[name]
 
1029
 
 
1030
    def install_counter_hook(self, hooks, name, counter_name=None):
 
1031
        """Install a counting hook.
 
1032
 
 
1033
        Any hook can be counted as long as it doesn't need to return a value.
 
1034
 
 
1035
        :param hooks: Where the hook should be installed.
 
1036
 
 
1037
        :param name: The hook name that will be counted.
 
1038
 
 
1039
        :param counter_name: The counter identifier in ``_counters``, defaults
 
1040
            to ``name``.
 
1041
        """
 
1042
        _counters = self._counters # Avoid closing over self
 
1043
        if counter_name is None:
 
1044
            counter_name = name
 
1045
        if _counters.has_key(counter_name):
 
1046
            raise AssertionError('%s is already used as a counter name'
 
1047
                                  % (counter_name,))
 
1048
        _counters[counter_name] = 0
 
1049
        self.addDetail(counter_name, content.Content(content.UTF8_TEXT,
 
1050
            lambda: ['%d' % (_counters[counter_name],)]))
 
1051
        def increment_counter(*args, **kwargs):
 
1052
            _counters[counter_name] += 1
 
1053
        label = 'count %s calls' % (counter_name,)
 
1054
        hooks.install_named_hook(name, increment_counter, label)
 
1055
        self.addCleanup(hooks.uninstall_named_hook, name, label)
 
1056
 
 
1057
    def _install_config_stats_hooks(self):
 
1058
        """Install config hooks to count hook calls.
 
1059
 
 
1060
        """
 
1061
        for hook_name in ('get', 'set', 'remove', 'load', 'save'):
 
1062
            self.install_counter_hook(config.ConfigHooks, hook_name,
 
1063
                                       'config.%s' % (hook_name,))
 
1064
 
 
1065
        # The OldConfigHooks are private and need special handling to protect
 
1066
        # against recursive tests (tests that run other tests), so we just do
 
1067
        # manually what registering them into _builtin_known_hooks will provide
 
1068
        # us.
 
1069
        self.overrideAttr(config, 'OldConfigHooks', config._OldConfigHooks())
 
1070
        for hook_name in ('get', 'set', 'remove', 'load', 'save'):
 
1071
            self.install_counter_hook(config.OldConfigHooks, hook_name,
 
1072
                                      'old_config.%s' % (hook_name,))
 
1073
 
 
1074
    def _clear_debug_flags(self):
 
1075
        """Prevent externally set debug flags affecting tests.
 
1076
 
 
1077
        Tests that want to use debug flags can just set them in the
 
1078
        debug_flags set during setup/teardown.
 
1079
        """
 
1080
        # Start with a copy of the current debug flags we can safely modify.
 
1081
        self.overrideAttr(debug, 'debug_flags', set(debug.debug_flags))
 
1082
        if 'allow_debug' not in selftest_debug_flags:
 
1083
            debug.debug_flags.clear()
 
1084
        if 'disable_lock_checks' not in selftest_debug_flags:
 
1085
            debug.debug_flags.add('strict_locks')
 
1086
 
 
1087
    def _clear_hooks(self):
572
1088
        # prevent hooks affecting tests
573
 
        self._preserved_hooks = bzrlib.branch.Branch.hooks
 
1089
        known_hooks = hooks.known_hooks
 
1090
        self._preserved_hooks = {}
 
1091
        for key, (parent, name) in known_hooks.iter_parent_objects():
 
1092
            current_hooks = getattr(parent, name)
 
1093
            self._preserved_hooks[parent] = (name, current_hooks)
 
1094
        self._preserved_lazy_hooks = hooks._lazy_hooks
 
1095
        hooks._lazy_hooks = {}
574
1096
        self.addCleanup(self._restoreHooks)
575
 
        # this list of hooks must be kept in sync with the defaults
576
 
        # in branch.py
577
 
        bzrlib.branch.Branch.hooks = bzrlib.branch.BranchHooks()
 
1097
        for key, (parent, name) in known_hooks.iter_parent_objects():
 
1098
            factory = known_hooks.get(key)
 
1099
            setattr(parent, name, factory())
 
1100
        # this hook should always be installed
 
1101
        request._install_hook()
 
1102
 
 
1103
    def disable_directory_isolation(self):
 
1104
        """Turn off directory isolation checks."""
 
1105
        self._directory_isolation = False
 
1106
 
 
1107
    def enable_directory_isolation(self):
 
1108
        """Enable directory isolation checks."""
 
1109
        self._directory_isolation = True
578
1110
 
579
1111
    def _silenceUI(self):
580
1112
        """Turn off UI for duration of test"""
581
1113
        # by default the UI is off; tests can turn it on if they want it.
582
 
        saved = bzrlib.ui.ui_factory
583
 
        def _restore():
584
 
            bzrlib.ui.ui_factory = saved
585
 
        bzrlib.ui.ui_factory = bzrlib.ui.SilentUIFactory()
586
 
        self.addCleanup(_restore)
 
1114
        self.overrideAttr(ui, 'ui_factory', ui.SilentUIFactory())
 
1115
 
 
1116
    def _check_locks(self):
 
1117
        """Check that all lock take/release actions have been paired."""
 
1118
        # We always check for mismatched locks. If a mismatch is found, we
 
1119
        # fail unless -Edisable_lock_checks is supplied to selftest, in which
 
1120
        # case we just print a warning.
 
1121
        # unhook:
 
1122
        acquired_locks = [lock for action, lock in self._lock_actions
 
1123
                          if action == 'acquired']
 
1124
        released_locks = [lock for action, lock in self._lock_actions
 
1125
                          if action == 'released']
 
1126
        broken_locks = [lock for action, lock in self._lock_actions
 
1127
                        if action == 'broken']
 
1128
        # trivially, given the tests for lock acquistion and release, if we
 
1129
        # have as many in each list, it should be ok. Some lock tests also
 
1130
        # break some locks on purpose and should be taken into account by
 
1131
        # considering that breaking a lock is just a dirty way of releasing it.
 
1132
        if len(acquired_locks) != (len(released_locks) + len(broken_locks)):
 
1133
            message = (
 
1134
                'Different number of acquired and '
 
1135
                'released or broken locks.\n'
 
1136
                'acquired=%s\n'
 
1137
                'released=%s\n'
 
1138
                'broken=%s\n' %
 
1139
                (acquired_locks, released_locks, broken_locks))
 
1140
            if not self._lock_check_thorough:
 
1141
                # Rather than fail, just warn
 
1142
                print "Broken test %s: %s" % (self, message)
 
1143
                return
 
1144
            self.fail(message)
 
1145
 
 
1146
    def _track_locks(self):
 
1147
        """Track lock activity during tests."""
 
1148
        self._lock_actions = []
 
1149
        if 'disable_lock_checks' in selftest_debug_flags:
 
1150
            self._lock_check_thorough = False
 
1151
        else:
 
1152
            self._lock_check_thorough = True
 
1153
 
 
1154
        self.addCleanup(self._check_locks)
 
1155
        _mod_lock.Lock.hooks.install_named_hook('lock_acquired',
 
1156
                                                self._lock_acquired, None)
 
1157
        _mod_lock.Lock.hooks.install_named_hook('lock_released',
 
1158
                                                self._lock_released, None)
 
1159
        _mod_lock.Lock.hooks.install_named_hook('lock_broken',
 
1160
                                                self._lock_broken, None)
 
1161
 
 
1162
    def _lock_acquired(self, result):
 
1163
        self._lock_actions.append(('acquired', result))
 
1164
 
 
1165
    def _lock_released(self, result):
 
1166
        self._lock_actions.append(('released', result))
 
1167
 
 
1168
    def _lock_broken(self, result):
 
1169
        self._lock_actions.append(('broken', result))
 
1170
 
 
1171
    def permit_dir(self, name):
 
1172
        """Permit a directory to be used by this test. See permit_url."""
 
1173
        name_transport = _mod_transport.get_transport_from_path(name)
 
1174
        self.permit_url(name)
 
1175
        self.permit_url(name_transport.base)
 
1176
 
 
1177
    def permit_url(self, url):
 
1178
        """Declare that url is an ok url to use in this test.
 
1179
        
 
1180
        Do this for memory transports, temporary test directory etc.
 
1181
        
 
1182
        Do not do this for the current working directory, /tmp, or any other
 
1183
        preexisting non isolated url.
 
1184
        """
 
1185
        if not url.endswith('/'):
 
1186
            url += '/'
 
1187
        self._bzr_selftest_roots.append(url)
 
1188
 
 
1189
    def permit_source_tree_branch_repo(self):
 
1190
        """Permit the source tree bzr is running from to be opened.
 
1191
 
 
1192
        Some code such as bzrlib.version attempts to read from the bzr branch
 
1193
        that bzr is executing from (if any). This method permits that directory
 
1194
        to be used in the test suite.
 
1195
        """
 
1196
        path = self.get_source_path()
 
1197
        self.record_directory_isolation()
 
1198
        try:
 
1199
            try:
 
1200
                workingtree.WorkingTree.open(path)
 
1201
            except (errors.NotBranchError, errors.NoWorkingTree):
 
1202
                raise TestSkipped('Needs a working tree of bzr sources')
 
1203
        finally:
 
1204
            self.enable_directory_isolation()
 
1205
 
 
1206
    def _preopen_isolate_transport(self, transport):
 
1207
        """Check that all transport openings are done in the test work area."""
 
1208
        while isinstance(transport, pathfilter.PathFilteringTransport):
 
1209
            # Unwrap pathfiltered transports
 
1210
            transport = transport.server.backing_transport.clone(
 
1211
                transport._filter('.'))
 
1212
        url = transport.base
 
1213
        # ReadonlySmartTCPServer_for_testing decorates the backing transport
 
1214
        # urls it is given by prepending readonly+. This is appropriate as the
 
1215
        # client shouldn't know that the server is readonly (or not readonly).
 
1216
        # We could register all servers twice, with readonly+ prepending, but
 
1217
        # that makes for a long list; this is about the same but easier to
 
1218
        # read.
 
1219
        if url.startswith('readonly+'):
 
1220
            url = url[len('readonly+'):]
 
1221
        self._preopen_isolate_url(url)
 
1222
 
 
1223
    def _preopen_isolate_url(self, url):
 
1224
        if not self._directory_isolation:
 
1225
            return
 
1226
        if self._directory_isolation == 'record':
 
1227
            self._bzr_selftest_roots.append(url)
 
1228
            return
 
1229
        # This prevents all transports, including e.g. sftp ones backed on disk
 
1230
        # from working unless they are explicitly granted permission. We then
 
1231
        # depend on the code that sets up test transports to check that they are
 
1232
        # appropriately isolated and enable their use by calling
 
1233
        # self.permit_transport()
 
1234
        if not osutils.is_inside_any(self._bzr_selftest_roots, url):
 
1235
            raise errors.BzrError("Attempt to escape test isolation: %r %r"
 
1236
                % (url, self._bzr_selftest_roots))
 
1237
 
 
1238
    def record_directory_isolation(self):
 
1239
        """Gather accessed directories to permit later access.
 
1240
        
 
1241
        This is used for tests that access the branch bzr is running from.
 
1242
        """
 
1243
        self._directory_isolation = "record"
 
1244
 
 
1245
    def start_server(self, transport_server, backing_server=None):
 
1246
        """Start transport_server for this test.
 
1247
 
 
1248
        This starts the server, registers a cleanup for it and permits the
 
1249
        server's urls to be used.
 
1250
        """
 
1251
        if backing_server is None:
 
1252
            transport_server.start_server()
 
1253
        else:
 
1254
            transport_server.start_server(backing_server)
 
1255
        self.addCleanup(transport_server.stop_server)
 
1256
        # Obtain a real transport because if the server supplies a password, it
 
1257
        # will be hidden from the base on the client side.
 
1258
        t = _mod_transport.get_transport_from_url(transport_server.get_url())
 
1259
        # Some transport servers effectively chroot the backing transport;
 
1260
        # others like SFTPServer don't - users of the transport can walk up the
 
1261
        # transport to read the entire backing transport. This wouldn't matter
 
1262
        # except that the workdir tests are given - and that they expect the
 
1263
        # server's url to point at - is one directory under the safety net. So
 
1264
        # Branch operations into the transport will attempt to walk up one
 
1265
        # directory. Chrooting all servers would avoid this but also mean that
 
1266
        # we wouldn't be testing directly against non-root urls. Alternatively
 
1267
        # getting the test framework to start the server with a backing server
 
1268
        # at the actual safety net directory would work too, but this then
 
1269
        # means that the self.get_url/self.get_transport methods would need
 
1270
        # to transform all their results. On balance its cleaner to handle it
 
1271
        # here, and permit a higher url when we have one of these transports.
 
1272
        if t.base.endswith('/work/'):
 
1273
            # we have safety net/test root/work
 
1274
            t = t.clone('../..')
 
1275
        elif isinstance(transport_server,
 
1276
                        test_server.SmartTCPServer_for_testing):
 
1277
            # The smart server adds a path similar to work, which is traversed
 
1278
            # up from by the client. But the server is chrooted - the actual
 
1279
            # backing transport is not escaped from, and VFS requests to the
 
1280
            # root will error (because they try to escape the chroot).
 
1281
            t2 = t.clone('..')
 
1282
            while t2.base != t.base:
 
1283
                t = t2
 
1284
                t2 = t.clone('..')
 
1285
        self.permit_url(t.base)
 
1286
 
 
1287
    def _track_transports(self):
 
1288
        """Install checks for transport usage."""
 
1289
        # TestCase has no safe place it can write to.
 
1290
        self._bzr_selftest_roots = []
 
1291
        # Currently the easiest way to be sure that nothing is going on is to
 
1292
        # hook into bzr dir opening. This leaves a small window of error for
 
1293
        # transport tests, but they are well known, and we can improve on this
 
1294
        # step.
 
1295
        bzrdir.BzrDir.hooks.install_named_hook("pre_open",
 
1296
            self._preopen_isolate_transport, "Check bzr directories are safe.")
587
1297
 
588
1298
    def _ndiff_strings(self, a, b):
589
1299
        """Return ndiff between two strings containing lines.
590
 
        
 
1300
 
591
1301
        A trailing newline is added if missing to make the strings
592
1302
        print properly."""
593
1303
        if b and b[-1] != '\n':
600
1310
                                  charjunk=lambda x: False)
601
1311
        return ''.join(difflines)
602
1312
 
 
1313
    def assertEqual(self, a, b, message=''):
 
1314
        try:
 
1315
            if a == b:
 
1316
                return
 
1317
        except UnicodeError, e:
 
1318
            # If we can't compare without getting a UnicodeError, then
 
1319
            # obviously they are different
 
1320
            trace.mutter('UnicodeError: %s', e)
 
1321
        if message:
 
1322
            message += '\n'
 
1323
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
 
1324
            % (message,
 
1325
               pprint.pformat(a), pprint.pformat(b)))
 
1326
 
 
1327
    assertEquals = assertEqual
 
1328
 
603
1329
    def assertEqualDiff(self, a, b, message=None):
604
1330
        """Assert two texts are equal, if not raise an exception.
605
 
        
606
 
        This is intended for use with multi-line strings where it can 
 
1331
 
 
1332
        This is intended for use with multi-line strings where it can
607
1333
        be hard to find the differences by eye.
608
1334
        """
609
1335
        # TODO: perhaps override assertEquals to call this for strings?
611
1337
            return
612
1338
        if message is None:
613
1339
            message = "texts not equal:\n"
614
 
        raise AssertionError(message + 
615
 
                             self._ndiff_strings(a, b))      
616
 
        
 
1340
        if a + '\n' == b:
 
1341
            message = 'first string is missing a final newline.\n'
 
1342
        if a == b + '\n':
 
1343
            message = 'second string is missing a final newline.\n'
 
1344
        raise AssertionError(message +
 
1345
                             self._ndiff_strings(a, b))
 
1346
 
617
1347
    def assertEqualMode(self, mode, mode_test):
618
1348
        self.assertEqual(mode, mode_test,
619
1349
                         'mode mismatch %o != %o' % (mode, mode_test))
620
1350
 
 
1351
    def assertEqualStat(self, expected, actual):
 
1352
        """assert that expected and actual are the same stat result.
 
1353
 
 
1354
        :param expected: A stat result.
 
1355
        :param actual: A stat result.
 
1356
        :raises AssertionError: If the expected and actual stat values differ
 
1357
            other than by atime.
 
1358
        """
 
1359
        self.assertEqual(expected.st_size, actual.st_size,
 
1360
                         'st_size did not match')
 
1361
        self.assertEqual(expected.st_mtime, actual.st_mtime,
 
1362
                         'st_mtime did not match')
 
1363
        self.assertEqual(expected.st_ctime, actual.st_ctime,
 
1364
                         'st_ctime did not match')
 
1365
        if sys.platform == 'win32':
 
1366
            # On Win32 both 'dev' and 'ino' cannot be trusted. In python2.4 it
 
1367
            # is 'dev' that varies, in python 2.5 (6?) it is st_ino that is
 
1368
            # odd. We just force it to always be 0 to avoid any problems.
 
1369
            self.assertEqual(0, expected.st_dev)
 
1370
            self.assertEqual(0, actual.st_dev)
 
1371
            self.assertEqual(0, expected.st_ino)
 
1372
            self.assertEqual(0, actual.st_ino)
 
1373
        else:
 
1374
            self.assertEqual(expected.st_dev, actual.st_dev,
 
1375
                             'st_dev did not match')
 
1376
            self.assertEqual(expected.st_ino, actual.st_ino,
 
1377
                             'st_ino did not match')
 
1378
        self.assertEqual(expected.st_mode, actual.st_mode,
 
1379
                         'st_mode did not match')
 
1380
 
 
1381
    def assertLength(self, length, obj_with_len):
 
1382
        """Assert that obj_with_len is of length length."""
 
1383
        if len(obj_with_len) != length:
 
1384
            self.fail("Incorrect length: wanted %d, got %d for %r" % (
 
1385
                length, len(obj_with_len), obj_with_len))
 
1386
 
 
1387
    def assertLogsError(self, exception_class, func, *args, **kwargs):
 
1388
        """Assert that `func(*args, **kwargs)` quietly logs a specific error.
 
1389
        """
 
1390
        captured = []
 
1391
        orig_log_exception_quietly = trace.log_exception_quietly
 
1392
        try:
 
1393
            def capture():
 
1394
                orig_log_exception_quietly()
 
1395
                captured.append(sys.exc_info()[1])
 
1396
            trace.log_exception_quietly = capture
 
1397
            func(*args, **kwargs)
 
1398
        finally:
 
1399
            trace.log_exception_quietly = orig_log_exception_quietly
 
1400
        self.assertLength(1, captured)
 
1401
        err = captured[0]
 
1402
        self.assertIsInstance(err, exception_class)
 
1403
        return err
 
1404
 
 
1405
    def assertPositive(self, val):
 
1406
        """Assert that val is greater than 0."""
 
1407
        self.assertTrue(val > 0, 'expected a positive value, but got %s' % val)
 
1408
 
 
1409
    def assertNegative(self, val):
 
1410
        """Assert that val is less than 0."""
 
1411
        self.assertTrue(val < 0, 'expected a negative value, but got %s' % val)
 
1412
 
621
1413
    def assertStartsWith(self, s, prefix):
622
1414
        if not s.startswith(prefix):
623
1415
            raise AssertionError('string %r does not start with %r' % (s, prefix))
627
1419
        if not s.endswith(suffix):
628
1420
            raise AssertionError('string %r does not end with %r' % (s, suffix))
629
1421
 
630
 
    def assertContainsRe(self, haystack, needle_re):
 
1422
    def assertContainsRe(self, haystack, needle_re, flags=0):
631
1423
        """Assert that a contains something matching a regular expression."""
632
 
        if not re.search(needle_re, haystack):
633
 
            raise AssertionError('pattern "%r" not found in "%r"'
634
 
                    % (needle_re, haystack))
 
1424
        if not re.search(needle_re, haystack, flags):
 
1425
            if '\n' in haystack or len(haystack) > 60:
 
1426
                # a long string, format it in a more readable way
 
1427
                raise AssertionError(
 
1428
                        'pattern "%s" not found in\n"""\\\n%s"""\n'
 
1429
                        % (needle_re, haystack))
 
1430
            else:
 
1431
                raise AssertionError('pattern "%s" not found in "%s"'
 
1432
                        % (needle_re, haystack))
635
1433
 
636
 
    def assertNotContainsRe(self, haystack, needle_re):
 
1434
    def assertNotContainsRe(self, haystack, needle_re, flags=0):
637
1435
        """Assert that a does not match a regular expression"""
638
 
        if re.search(needle_re, haystack):
 
1436
        if re.search(needle_re, haystack, flags):
639
1437
            raise AssertionError('pattern "%s" found in "%s"'
640
1438
                    % (needle_re, haystack))
641
1439
 
 
1440
    def assertContainsString(self, haystack, needle):
 
1441
        if haystack.find(needle) == -1:
 
1442
            self.fail("string %r not found in '''%s'''" % (needle, haystack))
 
1443
 
 
1444
    def assertNotContainsString(self, haystack, needle):
 
1445
        if haystack.find(needle) != -1:
 
1446
            self.fail("string %r found in '''%s'''" % (needle, haystack))
 
1447
 
642
1448
    def assertSubset(self, sublist, superlist):
643
1449
        """Assert that every entry in sublist is present in superlist."""
644
 
        missing = []
645
 
        for entry in sublist:
646
 
            if entry not in superlist:
647
 
                missing.append(entry)
 
1450
        missing = set(sublist) - set(superlist)
648
1451
        if len(missing) > 0:
649
 
            raise AssertionError("value(s) %r not present in container %r" % 
 
1452
            raise AssertionError("value(s) %r not present in container %r" %
650
1453
                                 (missing, superlist))
651
1454
 
652
1455
    def assertListRaises(self, excClass, func, *args, **kwargs):
653
1456
        """Fail unless excClass is raised when the iterator from func is used.
654
 
        
 
1457
 
655
1458
        Many functions can return generators this makes sure
656
1459
        to wrap them in a list() call to make sure the whole generator
657
1460
        is run, and that the proper exception is raised.
658
1461
        """
659
1462
        try:
660
1463
            list(func(*args, **kwargs))
661
 
        except excClass:
662
 
            return
663
 
        else:
664
 
            if getattr(excClass,'__name__', None) is not None:
665
 
                excName = excClass.__name__
666
 
            else:
 
1464
        except excClass, e:
 
1465
            return e
 
1466
        else:
 
1467
            if getattr(excClass,'__name__', None) is not None:
 
1468
                excName = excClass.__name__
 
1469
            else:
 
1470
                excName = str(excClass)
 
1471
            raise self.failureException, "%s not raised" % excName
 
1472
 
 
1473
    def assertRaises(self, excClass, callableObj, *args, **kwargs):
 
1474
        """Assert that a callable raises a particular exception.
 
1475
 
 
1476
        :param excClass: As for the except statement, this may be either an
 
1477
            exception class, or a tuple of classes.
 
1478
        :param callableObj: A callable, will be passed ``*args`` and
 
1479
            ``**kwargs``.
 
1480
 
 
1481
        Returns the exception so that you can examine it.
 
1482
        """
 
1483
        try:
 
1484
            callableObj(*args, **kwargs)
 
1485
        except excClass, e:
 
1486
            return e
 
1487
        else:
 
1488
            if getattr(excClass,'__name__', None) is not None:
 
1489
                excName = excClass.__name__
 
1490
            else:
 
1491
                # probably a tuple
667
1492
                excName = str(excClass)
668
1493
            raise self.failureException, "%s not raised" % excName
669
1494
 
682
1507
                raise AssertionError("%r is %r." % (left, right))
683
1508
 
684
1509
    def assertTransportMode(self, transport, path, mode):
685
 
        """Fail if a path does not have mode mode.
686
 
        
 
1510
        """Fail if a path does not have mode "mode".
 
1511
 
687
1512
        If modes are not supported on this transport, the assertion is ignored.
688
1513
        """
689
1514
        if not transport._can_roundtrip_unix_modebits():
691
1516
        path_stat = transport.stat(path)
692
1517
        actual_mode = stat.S_IMODE(path_stat.st_mode)
693
1518
        self.assertEqual(mode, actual_mode,
694
 
            'mode of %r incorrect (%o != %o)' % (path, mode, actual_mode))
695
 
 
696
 
    def assertIsInstance(self, obj, kls):
697
 
        """Fail if obj is not an instance of kls"""
 
1519
                         'mode of %r incorrect (%s != %s)'
 
1520
                         % (path, oct(mode), oct(actual_mode)))
 
1521
 
 
1522
    def assertIsSameRealPath(self, path1, path2):
 
1523
        """Fail if path1 and path2 points to different files"""
 
1524
        self.assertEqual(osutils.realpath(path1),
 
1525
                         osutils.realpath(path2),
 
1526
                         "apparent paths:\na = %s\nb = %s\n," % (path1, path2))
 
1527
 
 
1528
    def assertIsInstance(self, obj, kls, msg=None):
 
1529
        """Fail if obj is not an instance of kls
 
1530
        
 
1531
        :param msg: Supplementary message to show if the assertion fails.
 
1532
        """
698
1533
        if not isinstance(obj, kls):
699
 
            self.fail("%r is an instance of %s rather than %s" % (
700
 
                obj, obj.__class__, kls))
701
 
 
702
 
    def _capture_warnings(self, a_callable, *args, **kwargs):
 
1534
            m = "%r is an instance of %s rather than %s" % (
 
1535
                obj, obj.__class__, kls)
 
1536
            if msg:
 
1537
                m += ": " + msg
 
1538
            self.fail(m)
 
1539
 
 
1540
    def assertFileEqual(self, content, path):
 
1541
        """Fail if path does not contain 'content'."""
 
1542
        self.assertPathExists(path)
 
1543
        f = file(path, 'rb')
 
1544
        try:
 
1545
            s = f.read()
 
1546
        finally:
 
1547
            f.close()
 
1548
        self.assertEqualDiff(content, s)
 
1549
 
 
1550
    def assertDocstring(self, expected_docstring, obj):
 
1551
        """Fail if obj does not have expected_docstring"""
 
1552
        if __doc__ is None:
 
1553
            # With -OO the docstring should be None instead
 
1554
            self.assertIs(obj.__doc__, None)
 
1555
        else:
 
1556
            self.assertEqual(expected_docstring, obj.__doc__)
 
1557
 
 
1558
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4)))
 
1559
    def failUnlessExists(self, path):
 
1560
        return self.assertPathExists(path)
 
1561
 
 
1562
    def assertPathExists(self, path):
 
1563
        """Fail unless path or paths, which may be abs or relative, exist."""
 
1564
        if not isinstance(path, basestring):
 
1565
            for p in path:
 
1566
                self.assertPathExists(p)
 
1567
        else:
 
1568
            self.assertTrue(osutils.lexists(path),
 
1569
                path + " does not exist")
 
1570
 
 
1571
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4)))
 
1572
    def failIfExists(self, path):
 
1573
        return self.assertPathDoesNotExist(path)
 
1574
 
 
1575
    def assertPathDoesNotExist(self, path):
 
1576
        """Fail if path or paths, which may be abs or relative, exist."""
 
1577
        if not isinstance(path, basestring):
 
1578
            for p in path:
 
1579
                self.assertPathDoesNotExist(p)
 
1580
        else:
 
1581
            self.assertFalse(osutils.lexists(path),
 
1582
                path + " exists")
 
1583
 
 
1584
    def _capture_deprecation_warnings(self, a_callable, *args, **kwargs):
703
1585
        """A helper for callDeprecated and applyDeprecated.
704
1586
 
705
1587
        :param a_callable: A callable to call.
706
1588
        :param args: The positional arguments for the callable
707
1589
        :param kwargs: The keyword arguments for the callable
708
1590
        :return: A tuple (warnings, result). result is the result of calling
709
 
            a_callable(*args, **kwargs).
 
1591
            a_callable(``*args``, ``**kwargs``).
710
1592
        """
711
1593
        local_warnings = []
712
1594
        def capture_warnings(msg, cls=None, stacklevel=None):
725
1607
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
726
1608
        """Call a deprecated callable without warning the user.
727
1609
 
 
1610
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1611
        not other callers that go direct to the warning module.
 
1612
 
 
1613
        To test that a deprecated method raises an error, do something like
 
1614
        this (remember that both assertRaises and applyDeprecated delays *args
 
1615
        and **kwargs passing)::
 
1616
 
 
1617
            self.assertRaises(errors.ReservedId,
 
1618
                self.applyDeprecated,
 
1619
                deprecated_in((1, 5, 0)),
 
1620
                br.append_revision,
 
1621
                'current:')
 
1622
 
728
1623
        :param deprecation_format: The deprecation format that the callable
729
 
            should have been deprecated with. This is the same type as the 
730
 
            parameter to deprecated_method/deprecated_function. If the 
 
1624
            should have been deprecated with. This is the same type as the
 
1625
            parameter to deprecated_method/deprecated_function. If the
731
1626
            callable is not deprecated with this format, an assertion error
732
1627
            will be raised.
733
1628
        :param a_callable: A callable to call. This may be a bound method or
734
 
            a regular function. It will be called with *args and **kwargs.
 
1629
            a regular function. It will be called with ``*args`` and
 
1630
            ``**kwargs``.
735
1631
        :param args: The positional arguments for the callable
736
1632
        :param kwargs: The keyword arguments for the callable
737
 
        :return: The result of a_callable(*args, **kwargs)
 
1633
        :return: The result of a_callable(``*args``, ``**kwargs``)
738
1634
        """
739
 
        call_warnings, result = self._capture_warnings(a_callable,
 
1635
        call_warnings, result = self._capture_deprecation_warnings(a_callable,
740
1636
            *args, **kwargs)
741
1637
        expected_first_warning = symbol_versioning.deprecation_string(
742
1638
            a_callable, deprecation_format)
743
1639
        if len(call_warnings) == 0:
744
 
            self.fail("No assertion generated by call to %s" %
 
1640
            self.fail("No deprecation warning generated by call to %s" %
745
1641
                a_callable)
746
1642
        self.assertEqual(expected_first_warning, call_warnings[0])
747
1643
        return result
748
1644
 
 
1645
    def callCatchWarnings(self, fn, *args, **kw):
 
1646
        """Call a callable that raises python warnings.
 
1647
 
 
1648
        The caller's responsible for examining the returned warnings.
 
1649
 
 
1650
        If the callable raises an exception, the exception is not
 
1651
        caught and propagates up to the caller.  In that case, the list
 
1652
        of warnings is not available.
 
1653
 
 
1654
        :returns: ([warning_object, ...], fn_result)
 
1655
        """
 
1656
        # XXX: This is not perfect, because it completely overrides the
 
1657
        # warnings filters, and some code may depend on suppressing particular
 
1658
        # warnings.  It's the easiest way to insulate ourselves from -Werror,
 
1659
        # though.  -- Andrew, 20071062
 
1660
        wlist = []
 
1661
        def _catcher(message, category, filename, lineno, file=None, line=None):
 
1662
            # despite the name, 'message' is normally(?) a Warning subclass
 
1663
            # instance
 
1664
            wlist.append(message)
 
1665
        saved_showwarning = warnings.showwarning
 
1666
        saved_filters = warnings.filters
 
1667
        try:
 
1668
            warnings.showwarning = _catcher
 
1669
            warnings.filters = []
 
1670
            result = fn(*args, **kw)
 
1671
        finally:
 
1672
            warnings.showwarning = saved_showwarning
 
1673
            warnings.filters = saved_filters
 
1674
        return wlist, result
 
1675
 
749
1676
    def callDeprecated(self, expected, callable, *args, **kwargs):
750
1677
        """Assert that a callable is deprecated in a particular way.
751
1678
 
752
 
        This is a very precise test for unusual requirements. The 
 
1679
        This is a very precise test for unusual requirements. The
753
1680
        applyDeprecated helper function is probably more suited for most tests
754
1681
        as it allows you to simply specify the deprecation format being used
755
1682
        and will ensure that that is issued for the function being called.
756
1683
 
 
1684
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1685
        not other callers that go direct to the warning module.  To catch
 
1686
        general warnings, use callCatchWarnings.
 
1687
 
757
1688
        :param expected: a list of the deprecation warnings expected, in order
758
1689
        :param callable: The callable to call
759
1690
        :param args: The positional arguments for the callable
760
1691
        :param kwargs: The keyword arguments for the callable
761
1692
        """
762
 
        call_warnings, result = self._capture_warnings(callable,
 
1693
        call_warnings, result = self._capture_deprecation_warnings(callable,
763
1694
            *args, **kwargs)
764
1695
        self.assertEqual(expected, call_warnings)
765
1696
        return result
769
1700
 
770
1701
        The file is removed as the test is torn down.
771
1702
        """
772
 
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
773
 
        self._log_file = os.fdopen(fileno, 'w+')
774
 
        self._log_nonce = bzrlib.trace.enable_test_log(self._log_file)
775
 
        self._log_file_name = name
 
1703
        pseudo_log_file = StringIO()
 
1704
        def _get_log_contents_for_weird_testtools_api():
 
1705
            return [pseudo_log_file.getvalue().decode(
 
1706
                "utf-8", "replace").encode("utf-8")]
 
1707
        self.addDetail("log", content.Content(content.ContentType("text",
 
1708
            "plain", {"charset": "utf8"}),
 
1709
            _get_log_contents_for_weird_testtools_api))
 
1710
        self._log_file = pseudo_log_file
 
1711
        self._log_memento = trace.push_log_file(self._log_file)
776
1712
        self.addCleanup(self._finishLogFile)
777
1713
 
778
1714
    def _finishLogFile(self):
779
1715
        """Finished with the log file.
780
1716
 
781
 
        Close the file and delete it, unless setKeepLogfile was called.
782
 
        """
783
 
        if self._log_file is None:
784
 
            return
785
 
        bzrlib.trace.disable_test_log(self._log_nonce)
786
 
        self._log_file.close()
787
 
        self._log_file = None
788
 
        if not self._keep_log_file:
789
 
            os.remove(self._log_file_name)
790
 
            self._log_file_name = None
791
 
 
792
 
    def setKeepLogfile(self):
793
 
        """Make the logfile not be deleted when _finishLogFile is called."""
794
 
        self._keep_log_file = True
795
 
 
796
 
    def addCleanup(self, callable):
797
 
        """Arrange to run a callable when this case is torn down.
798
 
 
799
 
        Callables are run in the reverse of the order they are registered, 
800
 
        ie last-in first-out.
801
 
        """
802
 
        if callable in self._cleanups:
803
 
            raise ValueError("cleanup function %r already registered on %s" 
804
 
                    % (callable, self))
805
 
        self._cleanups.append(callable)
 
1717
        Close the file and delete it.
 
1718
        """
 
1719
        if trace._trace_file:
 
1720
            # flush the log file, to get all content
 
1721
            trace._trace_file.flush()
 
1722
        trace.pop_log_file(self._log_memento)
 
1723
 
 
1724
    def thisFailsStrictLockCheck(self):
 
1725
        """It is known that this test would fail with -Dstrict_locks.
 
1726
 
 
1727
        By default, all tests are run with strict lock checking unless
 
1728
        -Edisable_lock_checks is supplied. However there are some tests which
 
1729
        we know fail strict locks at this point that have not been fixed.
 
1730
        They should call this function to disable the strict checking.
 
1731
 
 
1732
        This should be used sparingly, it is much better to fix the locking
 
1733
        issues rather than papering over the problem by calling this function.
 
1734
        """
 
1735
        debug.debug_flags.discard('strict_locks')
 
1736
 
 
1737
    def overrideAttr(self, obj, attr_name, new=_unitialized_attr):
 
1738
        """Overrides an object attribute restoring it after the test.
 
1739
 
 
1740
        :note: This should be used with discretion; you should think about
 
1741
        whether it's better to make the code testable without monkey-patching.
 
1742
 
 
1743
        :param obj: The object that will be mutated.
 
1744
 
 
1745
        :param attr_name: The attribute name we want to preserve/override in
 
1746
            the object.
 
1747
 
 
1748
        :param new: The optional value we want to set the attribute to.
 
1749
 
 
1750
        :returns: The actual attr value.
 
1751
        """
 
1752
        value = getattr(obj, attr_name)
 
1753
        # The actual value is captured by the call below
 
1754
        self.addCleanup(setattr, obj, attr_name, value)
 
1755
        if new is not _unitialized_attr:
 
1756
            setattr(obj, attr_name, new)
 
1757
        return value
 
1758
 
 
1759
    def overrideEnv(self, name, new):
 
1760
        """Set an environment variable, and reset it after the test.
 
1761
 
 
1762
        :param name: The environment variable name.
 
1763
 
 
1764
        :param new: The value to set the variable to. If None, the 
 
1765
            variable is deleted from the environment.
 
1766
 
 
1767
        :returns: The actual variable value.
 
1768
        """
 
1769
        value = osutils.set_or_unset_env(name, new)
 
1770
        self.addCleanup(osutils.set_or_unset_env, name, value)
 
1771
        return value
 
1772
 
 
1773
    def recordCalls(self, obj, attr_name):
 
1774
        """Monkeypatch in a wrapper that will record calls.
 
1775
 
 
1776
        The monkeypatch is automatically removed when the test concludes.
 
1777
 
 
1778
        :param obj: The namespace holding the reference to be replaced;
 
1779
            typically a module, class, or object.
 
1780
        :param attr_name: A string for the name of the attribute to 
 
1781
            patch.
 
1782
        :returns: A list that will be extended with one item every time the
 
1783
            function is called, with a tuple of (args, kwargs).
 
1784
        """
 
1785
        calls = []
 
1786
 
 
1787
        def decorator(*args, **kwargs):
 
1788
            calls.append((args, kwargs))
 
1789
            return orig(*args, **kwargs)
 
1790
        orig = self.overrideAttr(obj, attr_name, decorator)
 
1791
        return calls
806
1792
 
807
1793
    def _cleanEnvironment(self):
808
 
        new_env = {
809
 
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
810
 
            'HOME': os.getcwd(),
811
 
            'APPDATA': os.getcwd(),
812
 
            'BZR_EMAIL': None,
813
 
            'BZREMAIL': None, # may still be present in the environment
814
 
            'EMAIL': None,
815
 
            'BZR_PROGRESS_BAR': None,
816
 
            # Proxies
817
 
            'http_proxy': None,
818
 
            'HTTP_PROXY': None,
819
 
            'https_proxy': None,
820
 
            'HTTPS_PROXY': None,
821
 
            'no_proxy': None,
822
 
            'NO_PROXY': None,
823
 
            'all_proxy': None,
824
 
            'ALL_PROXY': None,
825
 
            # Nobody cares about these ones AFAIK. So far at
826
 
            # least. If you do (care), please update this comment
827
 
            # -- vila 20061212
828
 
            'ftp_proxy': None,
829
 
            'FTP_PROXY': None,
830
 
        }
831
 
        self.__old_env = {}
832
 
        self.addCleanup(self._restoreEnvironment)
833
 
        for name, value in new_env.iteritems():
834
 
            self._captureVar(name, value)
835
 
 
836
 
    def _captureVar(self, name, newvalue):
837
 
        """Set an environment variable, and reset it when finished."""
838
 
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
839
 
 
840
 
    def _restoreEnvironment(self):
841
 
        for name, value in self.__old_env.iteritems():
842
 
            osutils.set_or_unset_env(name, value)
 
1794
        for name, value in isolated_environ.iteritems():
 
1795
            self.overrideEnv(name, value)
843
1796
 
844
1797
    def _restoreHooks(self):
845
 
        bzrlib.branch.Branch.hooks = self._preserved_hooks
846
 
 
847
 
    def tearDown(self):
848
 
        self._runCleanups()
849
 
        unittest.TestCase.tearDown(self)
 
1798
        for klass, (name, hooks) in self._preserved_hooks.items():
 
1799
            setattr(klass, name, hooks)
 
1800
        self._preserved_hooks.clear()
 
1801
        bzrlib.hooks._lazy_hooks = self._preserved_lazy_hooks
 
1802
        self._preserved_lazy_hooks.clear()
 
1803
 
 
1804
    def knownFailure(self, reason):
 
1805
        """Declare that this test fails for a known reason
 
1806
 
 
1807
        Tests that are known to fail should generally be using expectedFailure
 
1808
        with an appropriate reverse assertion if a change could cause the test
 
1809
        to start passing. Conversely if the test has no immediate prospect of
 
1810
        succeeding then using skip is more suitable.
 
1811
 
 
1812
        When this method is called while an exception is being handled, that
 
1813
        traceback will be used, otherwise a new exception will be thrown to
 
1814
        provide one but won't be reported.
 
1815
        """
 
1816
        self._add_reason(reason)
 
1817
        try:
 
1818
            exc_info = sys.exc_info()
 
1819
            if exc_info != (None, None, None):
 
1820
                self._report_traceback(exc_info)
 
1821
            else:
 
1822
                try:
 
1823
                    raise self.failureException(reason)
 
1824
                except self.failureException:
 
1825
                    exc_info = sys.exc_info()
 
1826
            # GZ 02-08-2011: Maybe cleanup this err.exc_info attribute too?
 
1827
            raise testtools.testcase._ExpectedFailure(exc_info)
 
1828
        finally:
 
1829
            del exc_info
 
1830
 
 
1831
    def _suppress_log(self):
 
1832
        """Remove the log info from details."""
 
1833
        self.discardDetail('log')
 
1834
 
 
1835
    def _do_skip(self, result, reason):
 
1836
        self._suppress_log()
 
1837
        addSkip = getattr(result, 'addSkip', None)
 
1838
        if not callable(addSkip):
 
1839
            result.addSuccess(result)
 
1840
        else:
 
1841
            addSkip(self, reason)
 
1842
 
 
1843
    @staticmethod
 
1844
    def _do_known_failure(self, result, e):
 
1845
        self._suppress_log()
 
1846
        err = sys.exc_info()
 
1847
        addExpectedFailure = getattr(result, 'addExpectedFailure', None)
 
1848
        if addExpectedFailure is not None:
 
1849
            addExpectedFailure(self, err)
 
1850
        else:
 
1851
            result.addSuccess(self)
 
1852
 
 
1853
    @staticmethod
 
1854
    def _do_not_applicable(self, result, e):
 
1855
        if not e.args:
 
1856
            reason = 'No reason given'
 
1857
        else:
 
1858
            reason = e.args[0]
 
1859
        self._suppress_log ()
 
1860
        addNotApplicable = getattr(result, 'addNotApplicable', None)
 
1861
        if addNotApplicable is not None:
 
1862
            result.addNotApplicable(self, reason)
 
1863
        else:
 
1864
            self._do_skip(result, reason)
 
1865
 
 
1866
    @staticmethod
 
1867
    def _report_skip(self, result, err):
 
1868
        """Override the default _report_skip.
 
1869
 
 
1870
        We want to strip the 'log' detail. If we waint until _do_skip, it has
 
1871
        already been formatted into the 'reason' string, and we can't pull it
 
1872
        out again.
 
1873
        """
 
1874
        self._suppress_log()
 
1875
        super(TestCase, self)._report_skip(self, result, err)
 
1876
 
 
1877
    @staticmethod
 
1878
    def _report_expected_failure(self, result, err):
 
1879
        """Strip the log.
 
1880
 
 
1881
        See _report_skip for motivation.
 
1882
        """
 
1883
        self._suppress_log()
 
1884
        super(TestCase, self)._report_expected_failure(self, result, err)
 
1885
 
 
1886
    @staticmethod
 
1887
    def _do_unsupported_or_skip(self, result, e):
 
1888
        reason = e.args[0]
 
1889
        self._suppress_log()
 
1890
        addNotSupported = getattr(result, 'addNotSupported', None)
 
1891
        if addNotSupported is not None:
 
1892
            result.addNotSupported(self, reason)
 
1893
        else:
 
1894
            self._do_skip(result, reason)
850
1895
 
851
1896
    def time(self, callable, *args, **kwargs):
852
1897
        """Run callable and accrue the time it takes to the benchmark time.
853
 
        
 
1898
 
854
1899
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
855
1900
        this will cause lsprofile statistics to be gathered and stored in
856
1901
        self._benchcalls.
857
1902
        """
858
1903
        if self._benchtime is None:
 
1904
            self.addDetail('benchtime', content.Content(content.ContentType(
 
1905
                "text", "plain"), lambda:[str(self._benchtime)]))
859
1906
            self._benchtime = 0
860
1907
        start = time.time()
861
1908
        try:
870
1917
        finally:
871
1918
            self._benchtime += time.time() - start
872
1919
 
873
 
    def _runCleanups(self):
874
 
        """Run registered cleanup functions. 
875
 
 
876
 
        This should only be called from TestCase.tearDown.
877
 
        """
878
 
        # TODO: Perhaps this should keep running cleanups even if 
879
 
        # one of them fails?
880
 
        for cleanup_fn in reversed(self._cleanups):
881
 
            cleanup_fn()
882
 
 
883
1920
    def log(self, *args):
884
 
        mutter(*args)
885
 
 
886
 
    def _get_log(self, keep_log_file=False):
887
 
        """Return as a string the log for this test. If the file is still
888
 
        on disk and keep_log_file=False, delete the log file and store the
889
 
        content in self._log_contents."""
890
 
        # flush the log file, to get all content
891
 
        import bzrlib.trace
892
 
        bzrlib.trace._trace_file.flush()
893
 
        if self._log_contents:
894
 
            return self._log_contents
895
 
        if self._log_file_name is not None:
896
 
            logfile = open(self._log_file_name)
897
 
            try:
898
 
                log_contents = logfile.read()
899
 
            finally:
900
 
                logfile.close()
901
 
            if not keep_log_file:
902
 
                self._log_contents = log_contents
903
 
                os.remove(self._log_file_name)
904
 
            return log_contents
905
 
        else:
906
 
            return "DELETED log file to reduce memory footprint"
907
 
 
908
 
    def capture(self, cmd, retcode=0):
909
 
        """Shortcut that splits cmd into words, runs, and returns stdout"""
910
 
        return self.run_bzr_captured(cmd.split(), retcode=retcode)[0]
911
 
 
912
 
    def run_bzr_captured(self, argv, retcode=0, encoding=None, stdin=None,
913
 
                         working_dir=None):
914
 
        """Invoke bzr and return (stdout, stderr).
915
 
 
916
 
        Useful for code that wants to check the contents of the
917
 
        output, the way error messages are presented, etc.
918
 
 
919
 
        This should be the main method for tests that want to exercise the
920
 
        overall behavior of the bzr application (rather than a unit test
921
 
        or a functional test of the library.)
922
 
 
923
 
        Much of the old code runs bzr by forking a new copy of Python, but
924
 
        that is slower, harder to debug, and generally not necessary.
925
 
 
926
 
        This runs bzr through the interface that catches and reports
927
 
        errors, and with logging set to something approximating the
928
 
        default, so that error reporting can be checked.
929
 
 
930
 
        :param argv: arguments to invoke bzr
931
 
        :param retcode: expected return code, or None for don't-care.
932
 
        :param encoding: encoding for sys.stdout and sys.stderr
933
 
        :param stdin: A string to be used as stdin for the command.
934
 
        :param working_dir: Change to this directory before running
935
 
        """
 
1921
        trace.mutter(*args)
 
1922
 
 
1923
    def get_log(self):
 
1924
        """Get a unicode string containing the log from bzrlib.trace.
 
1925
 
 
1926
        Undecodable characters are replaced.
 
1927
        """
 
1928
        return u"".join(self.getDetails()['log'].iter_text())
 
1929
 
 
1930
    def requireFeature(self, feature):
 
1931
        """This test requires a specific feature is available.
 
1932
 
 
1933
        :raises UnavailableFeature: When feature is not available.
 
1934
        """
 
1935
        if not feature.available():
 
1936
            raise UnavailableFeature(feature)
 
1937
 
 
1938
    def _run_bzr_autosplit(self, args, retcode, encoding, stdin,
 
1939
            working_dir):
 
1940
        """Run bazaar command line, splitting up a string command line."""
 
1941
        if isinstance(args, basestring):
 
1942
            # shlex don't understand unicode strings,
 
1943
            # so args should be plain string (bialix 20070906)
 
1944
            args = list(shlex.split(str(args)))
 
1945
        return self._run_bzr_core(args, retcode=retcode,
 
1946
                encoding=encoding, stdin=stdin, working_dir=working_dir,
 
1947
                )
 
1948
 
 
1949
    def _run_bzr_core(self, args, retcode, encoding, stdin,
 
1950
            working_dir):
 
1951
        # Clear chk_map page cache, because the contents are likely to mask
 
1952
        # locking errors.
 
1953
        chk_map.clear_cache()
936
1954
        if encoding is None:
937
 
            encoding = bzrlib.user_encoding
938
 
        if stdin is not None:
939
 
            stdin = StringIO(stdin)
 
1955
            encoding = osutils.get_user_encoding()
940
1956
        stdout = StringIOWrapper()
941
1957
        stderr = StringIOWrapper()
942
1958
        stdout.encoding = encoding
943
1959
        stderr.encoding = encoding
944
1960
 
945
 
        self.log('run bzr: %r', argv)
 
1961
        self.log('run bzr: %r', args)
946
1962
        # FIXME: don't call into logging here
947
1963
        handler = logging.StreamHandler(stderr)
948
1964
        handler.setLevel(logging.INFO)
949
1965
        logger = logging.getLogger('')
950
1966
        logger.addHandler(handler)
951
 
        old_ui_factory = bzrlib.ui.ui_factory
952
 
        bzrlib.ui.ui_factory = bzrlib.tests.blackbox.TestUIFactory(
953
 
            stdout=stdout,
954
 
            stderr=stderr)
955
 
        bzrlib.ui.ui_factory.stdin = stdin
 
1967
        old_ui_factory = ui.ui_factory
 
1968
        ui.ui_factory = TestUIFactory(stdin=stdin, stdout=stdout, stderr=stderr)
956
1969
 
957
1970
        cwd = None
958
1971
        if working_dir is not None:
960
1973
            os.chdir(working_dir)
961
1974
 
962
1975
        try:
963
 
            saved_debug_flags = frozenset(debug.debug_flags)
964
 
            debug.debug_flags.clear()
965
1976
            try:
966
 
                result = self.apply_redirected(stdin, stdout, stderr,
967
 
                                               bzrlib.commands.run_bzr_catch_errors,
968
 
                                               argv)
969
 
            finally:
970
 
                debug.debug_flags.update(saved_debug_flags)
 
1977
                result = self.apply_redirected(
 
1978
                    ui.ui_factory.stdin,
 
1979
                    stdout, stderr,
 
1980
                    _mod_commands.run_bzr_catch_user_errors,
 
1981
                    args)
 
1982
            except KeyboardInterrupt:
 
1983
                # Reraise KeyboardInterrupt with contents of redirected stdout
 
1984
                # and stderr as arguments, for tests which are interested in
 
1985
                # stdout and stderr and are expecting the exception.
 
1986
                out = stdout.getvalue()
 
1987
                err = stderr.getvalue()
 
1988
                if out:
 
1989
                    self.log('output:\n%r', out)
 
1990
                if err:
 
1991
                    self.log('errors:\n%r', err)
 
1992
                raise KeyboardInterrupt(out, err)
971
1993
        finally:
972
1994
            logger.removeHandler(handler)
973
 
            bzrlib.ui.ui_factory = old_ui_factory
 
1995
            ui.ui_factory = old_ui_factory
974
1996
            if cwd is not None:
975
1997
                os.chdir(cwd)
976
1998
 
981
2003
        if err:
982
2004
            self.log('errors:\n%r', err)
983
2005
        if retcode is not None:
984
 
            self.assertEquals(retcode, result)
985
 
        return out, err
 
2006
            self.assertEquals(retcode, result,
 
2007
                              message='Unexpected return code')
 
2008
        return result, out, err
986
2009
 
987
 
    def run_bzr(self, *args, **kwargs):
 
2010
    def run_bzr(self, args, retcode=0, encoding=None, stdin=None,
 
2011
                working_dir=None, error_regexes=[], output_encoding=None):
988
2012
        """Invoke bzr, as if it were run from the command line.
989
2013
 
 
2014
        The argument list should not include the bzr program name - the
 
2015
        first argument is normally the bzr command.  Arguments may be
 
2016
        passed in three ways:
 
2017
 
 
2018
        1- A list of strings, eg ["commit", "a"].  This is recommended
 
2019
        when the command contains whitespace or metacharacters, or
 
2020
        is built up at run time.
 
2021
 
 
2022
        2- A single string, eg "add a".  This is the most convenient
 
2023
        for hardcoded commands.
 
2024
 
 
2025
        This runs bzr through the interface that catches and reports
 
2026
        errors, and with logging set to something approximating the
 
2027
        default, so that error reporting can be checked.
 
2028
 
990
2029
        This should be the main method for tests that want to exercise the
991
2030
        overall behavior of the bzr application (rather than a unit test
992
2031
        or a functional test of the library.)
994
2033
        This sends the stdout/stderr results into the test's log,
995
2034
        where it may be useful for debugging.  See also run_captured.
996
2035
 
997
 
        :param stdin: A string to be used as stdin for the command.
 
2036
        :keyword stdin: A string to be used as stdin for the command.
 
2037
        :keyword retcode: The status code the command should return;
 
2038
            default 0.
 
2039
        :keyword working_dir: The directory to run the command in
 
2040
        :keyword error_regexes: A list of expected error messages.  If
 
2041
            specified they must be seen in the error output of the command.
998
2042
        """
999
 
        retcode = kwargs.pop('retcode', 0)
1000
 
        encoding = kwargs.pop('encoding', None)
1001
 
        stdin = kwargs.pop('stdin', None)
1002
 
        working_dir = kwargs.pop('working_dir', None)
1003
 
        return self.run_bzr_captured(args, retcode=retcode, encoding=encoding,
1004
 
                                     stdin=stdin, working_dir=working_dir)
1005
 
 
1006
 
    def run_bzr_decode(self, *args, **kwargs):
1007
 
        if 'encoding' in kwargs:
1008
 
            encoding = kwargs['encoding']
1009
 
        else:
1010
 
            encoding = bzrlib.user_encoding
1011
 
        return self.run_bzr(*args, **kwargs)[0].decode(encoding)
 
2043
        retcode, out, err = self._run_bzr_autosplit(
 
2044
            args=args,
 
2045
            retcode=retcode,
 
2046
            encoding=encoding,
 
2047
            stdin=stdin,
 
2048
            working_dir=working_dir,
 
2049
            )
 
2050
        self.assertIsInstance(error_regexes, (list, tuple))
 
2051
        for regex in error_regexes:
 
2052
            self.assertContainsRe(err, regex)
 
2053
        return out, err
1012
2054
 
1013
2055
    def run_bzr_error(self, error_regexes, *args, **kwargs):
1014
2056
        """Run bzr, and check that stderr contains the supplied regexes
1015
 
        
1016
 
        :param error_regexes: Sequence of regular expressions which 
 
2057
 
 
2058
        :param error_regexes: Sequence of regular expressions which
1017
2059
            must each be found in the error output. The relative ordering
1018
2060
            is not enforced.
1019
2061
        :param args: command-line arguments for bzr
1020
2062
        :param kwargs: Keyword arguments which are interpreted by run_bzr
1021
2063
            This function changes the default value of retcode to be 3,
1022
2064
            since in most cases this is run when you expect bzr to fail.
1023
 
        :return: (out, err) The actual output of running the command (in case you
1024
 
                 want to do more inspection)
1025
 
 
1026
 
        Examples of use:
 
2065
 
 
2066
        :return: (out, err) The actual output of running the command (in case
 
2067
            you want to do more inspection)
 
2068
 
 
2069
        Examples of use::
 
2070
 
1027
2071
            # Make sure that commit is failing because there is nothing to do
1028
2072
            self.run_bzr_error(['no changes to commit'],
1029
 
                               'commit', '-m', 'my commit comment')
 
2073
                               ['commit', '-m', 'my commit comment'])
1030
2074
            # Make sure --strict is handling an unknown file, rather than
1031
2075
            # giving us the 'nothing to do' error
1032
2076
            self.build_tree(['unknown'])
1033
2077
            self.run_bzr_error(['Commit refused because there are unknown files'],
1034
 
                               'commit', '--strict', '-m', 'my commit comment')
 
2078
                               ['commit', --strict', '-m', 'my commit comment'])
1035
2079
        """
1036
2080
        kwargs.setdefault('retcode', 3)
 
2081
        kwargs['error_regexes'] = error_regexes
1037
2082
        out, err = self.run_bzr(*args, **kwargs)
1038
 
        for regex in error_regexes:
1039
 
            self.assertContainsRe(err, regex)
1040
2083
        return out, err
1041
2084
 
1042
2085
    def run_bzr_subprocess(self, *args, **kwargs):
1043
2086
        """Run bzr in a subprocess for testing.
1044
2087
 
1045
 
        This starts a new Python interpreter and runs bzr in there. 
 
2088
        This starts a new Python interpreter and runs bzr in there.
1046
2089
        This should only be used for tests that have a justifiable need for
1047
2090
        this isolation: e.g. they are testing startup time, or signal
1048
 
        handling, or early startup code, etc.  Subprocess code can't be 
 
2091
        handling, or early startup code, etc.  Subprocess code can't be
1049
2092
        profiled or debugged so easily.
1050
2093
 
1051
 
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
2094
        :keyword retcode: The status code that is expected.  Defaults to 0.  If
1052
2095
            None is supplied, the status code is not checked.
1053
 
        :param env_changes: A dictionary which lists changes to environment
 
2096
        :keyword env_changes: A dictionary which lists changes to environment
1054
2097
            variables. A value of None will unset the env variable.
1055
2098
            The values must be strings. The change will only occur in the
1056
2099
            child, so you don't need to fix the environment after running.
1057
 
        :param universal_newlines: Convert CRLF => LF
1058
 
        :param allow_plugins: By default the subprocess is run with
 
2100
        :keyword universal_newlines: Convert CRLF => LF
 
2101
        :keyword allow_plugins: By default the subprocess is run with
1059
2102
            --no-plugins to ensure test reproducibility. Also, it is possible
1060
2103
            for system-wide plugins to create unexpected output on stderr,
1061
2104
            which can cause unnecessary test failures.
1063
2106
        env_changes = kwargs.get('env_changes', {})
1064
2107
        working_dir = kwargs.get('working_dir', None)
1065
2108
        allow_plugins = kwargs.get('allow_plugins', False)
 
2109
        if len(args) == 1:
 
2110
            if isinstance(args[0], list):
 
2111
                args = args[0]
 
2112
            elif isinstance(args[0], basestring):
 
2113
                args = list(shlex.split(args[0]))
 
2114
        else:
 
2115
            raise ValueError("passing varargs to run_bzr_subprocess")
1066
2116
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
1067
2117
                                            working_dir=working_dir,
1068
2118
                                            allow_plugins=allow_plugins)
1075
2125
    def start_bzr_subprocess(self, process_args, env_changes=None,
1076
2126
                             skip_if_plan_to_signal=False,
1077
2127
                             working_dir=None,
1078
 
                             allow_plugins=False):
 
2128
                             allow_plugins=False, stderr=subprocess.PIPE):
1079
2129
        """Start bzr in a subprocess for testing.
1080
2130
 
1081
2131
        This starts a new Python interpreter and runs bzr in there.
1085
2135
        profiled or debugged so easily.
1086
2136
 
1087
2137
        :param process_args: a list of arguments to pass to the bzr executable,
1088
 
            for example `['--version']`.
 
2138
            for example ``['--version']``.
1089
2139
        :param env_changes: A dictionary which lists changes to environment
1090
2140
            variables. A value of None will unset the env variable.
1091
2141
            The values must be strings. The change will only occur in the
1092
2142
            child, so you don't need to fix the environment after running.
1093
 
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
1094
 
            is not available.
 
2143
        :param skip_if_plan_to_signal: raise TestSkipped when true and system
 
2144
            doesn't support signalling subprocesses.
1095
2145
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
2146
        :param stderr: file to use for the subprocess's stderr.  Valid values
 
2147
            are those valid for the stderr argument of `subprocess.Popen`.
 
2148
            Default value is ``subprocess.PIPE``.
1096
2149
 
1097
2150
        :returns: Popen object for the started process.
1098
2151
        """
1099
2152
        if skip_if_plan_to_signal:
1100
 
            if not getattr(os, 'kill', None):
1101
 
                raise TestSkipped("os.kill not available.")
 
2153
            if os.name != "posix":
 
2154
                raise TestSkipped("Sending signals not supported")
1102
2155
 
1103
2156
        if env_changes is None:
1104
2157
            env_changes = {}
1124
2177
            # so we will avoid using it on all platforms, just to
1125
2178
            # make sure the code path is used, and we don't break on win32
1126
2179
            cleanup_environment()
1127
 
            command = [sys.executable, bzr_path]
 
2180
            # Include the subprocess's log file in the test details, in case
 
2181
            # the test fails due to an error in the subprocess.
 
2182
            self._add_subprocess_log(trace._get_bzr_log_filename())
 
2183
            command = [sys.executable]
 
2184
            # frozen executables don't need the path to bzr
 
2185
            if getattr(sys, "frozen", None) is None:
 
2186
                command.append(bzr_path)
1128
2187
            if not allow_plugins:
1129
2188
                command.append('--no-plugins')
1130
2189
            command.extend(process_args)
1131
 
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
2190
            process = self._popen(command, stdin=subprocess.PIPE,
 
2191
                                  stdout=subprocess.PIPE,
 
2192
                                  stderr=stderr)
1132
2193
        finally:
1133
2194
            restore_environment()
1134
2195
            if cwd is not None:
1136
2197
 
1137
2198
        return process
1138
2199
 
 
2200
    def _add_subprocess_log(self, log_file_path):
 
2201
        if len(self._log_files) == 0:
 
2202
            # Register an addCleanup func.  We do this on the first call to
 
2203
            # _add_subprocess_log rather than in TestCase.setUp so that this
 
2204
            # addCleanup is registered after any cleanups for tempdirs that
 
2205
            # subclasses might create, which will probably remove the log file
 
2206
            # we want to read.
 
2207
            self.addCleanup(self._subprocess_log_cleanup)
 
2208
        # self._log_files is a set, so if a log file is reused we won't grab it
 
2209
        # twice.
 
2210
        self._log_files.add(log_file_path)
 
2211
 
 
2212
    def _subprocess_log_cleanup(self):
 
2213
        for count, log_file_path in enumerate(self._log_files):
 
2214
            # We use buffer_now=True to avoid holding the file open beyond
 
2215
            # the life of this function, which might interfere with e.g.
 
2216
            # cleaning tempdirs on Windows.
 
2217
            # XXX: Testtools 0.9.5 doesn't have the content_from_file helper
 
2218
            #detail_content = content.content_from_file(
 
2219
            #    log_file_path, buffer_now=True)
 
2220
            with open(log_file_path, 'rb') as log_file:
 
2221
                log_file_bytes = log_file.read()
 
2222
            detail_content = content.Content(content.ContentType("text",
 
2223
                "plain", {"charset": "utf8"}), lambda: [log_file_bytes])
 
2224
            self.addDetail("start_bzr_subprocess-log-%d" % (count,),
 
2225
                detail_content)
 
2226
 
1139
2227
    def _popen(self, *args, **kwargs):
1140
2228
        """Place a call to Popen.
1141
2229
 
1142
2230
        Allows tests to override this method to intercept the calls made to
1143
2231
        Popen for introspection.
1144
2232
        """
1145
 
        return Popen(*args, **kwargs)
 
2233
        return subprocess.Popen(*args, **kwargs)
 
2234
 
 
2235
    def get_source_path(self):
 
2236
        """Return the path of the directory containing bzrlib."""
 
2237
        return os.path.dirname(os.path.dirname(bzrlib.__file__))
1146
2238
 
1147
2239
    def get_bzr_path(self):
1148
2240
        """Return the path of the 'bzr' executable for this test suite."""
1149
 
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
2241
        bzr_path = os.path.join(self.get_source_path(), "bzr")
1150
2242
        if not os.path.isfile(bzr_path):
1151
2243
            # We are probably installed. Assume sys.argv is the right file
1152
2244
            bzr_path = sys.argv[0]
1174
2266
        if retcode is not None and retcode != process.returncode:
1175
2267
            if process_args is None:
1176
2268
                process_args = "(unknown args)"
1177
 
            mutter('Output of bzr %s:\n%s', process_args, out)
1178
 
            mutter('Error for bzr %s:\n%s', process_args, err)
 
2269
            trace.mutter('Output of bzr %s:\n%s', process_args, out)
 
2270
            trace.mutter('Error for bzr %s:\n%s', process_args, err)
1179
2271
            self.fail('Command bzr %s failed with retcode %s != %s'
1180
2272
                      % (process_args, retcode, process.returncode))
1181
2273
        return [out, err]
1182
2274
 
1183
 
    def check_inventory_shape(self, inv, shape):
1184
 
        """Compare an inventory to a list of expected names.
 
2275
    def check_tree_shape(self, tree, shape):
 
2276
        """Compare a tree to a list of expected names.
1185
2277
 
1186
2278
        Fail if they are not precisely equal.
1187
2279
        """
1188
2280
        extras = []
1189
2281
        shape = list(shape)             # copy
1190
 
        for path, ie in inv.entries():
 
2282
        for path, ie in tree.iter_entries_by_dir():
1191
2283
            name = path.replace('\\', '/')
1192
 
            if ie.kind == 'dir':
 
2284
            if ie.kind == 'directory':
1193
2285
                name = name + '/'
1194
 
            if name in shape:
 
2286
            if name == "/":
 
2287
                pass # ignore root entry
 
2288
            elif name in shape:
1195
2289
                shape.remove(name)
1196
2290
            else:
1197
2291
                extras.append(name)
1232
2326
            sys.stderr = real_stderr
1233
2327
            sys.stdin = real_stdin
1234
2328
 
1235
 
    @symbol_versioning.deprecated_method(symbol_versioning.zero_eleven)
1236
 
    def merge(self, branch_from, wt_to):
1237
 
        """A helper for tests to do a ui-less merge.
1238
 
 
1239
 
        This should move to the main library when someone has time to integrate
1240
 
        it in.
1241
 
        """
1242
 
        # minimal ui-less merge.
1243
 
        wt_to.branch.fetch(branch_from)
1244
 
        base_rev = common_ancestor(branch_from.last_revision(),
1245
 
                                   wt_to.branch.last_revision(),
1246
 
                                   wt_to.branch.repository)
1247
 
        merge_inner(wt_to.branch, branch_from.basis_tree(),
1248
 
                    wt_to.branch.repository.revision_tree(base_rev),
1249
 
                    this_tree=wt_to)
1250
 
        wt_to.add_parent_tree_id(branch_from.last_revision())
1251
 
 
1252
 
 
1253
 
BzrTestBase = TestCase
 
2329
    def reduceLockdirTimeout(self):
 
2330
        """Reduce the default lock timeout for the duration of the test, so that
 
2331
        if LockContention occurs during a test, it does so quickly.
 
2332
 
 
2333
        Tests that expect to provoke LockContention errors should call this.
 
2334
        """
 
2335
        self.overrideAttr(lockdir, '_DEFAULT_TIMEOUT_SECONDS', 0)
 
2336
 
 
2337
    def make_utf8_encoded_stringio(self, encoding_type=None):
 
2338
        """Return a StringIOWrapper instance, that will encode Unicode
 
2339
        input to UTF-8.
 
2340
        """
 
2341
        if encoding_type is None:
 
2342
            encoding_type = 'strict'
 
2343
        sio = StringIO()
 
2344
        output_encoding = 'utf-8'
 
2345
        sio = codecs.getwriter(output_encoding)(sio, errors=encoding_type)
 
2346
        sio.encoding = output_encoding
 
2347
        return sio
 
2348
 
 
2349
    def disable_verb(self, verb):
 
2350
        """Disable a smart server verb for one test."""
 
2351
        from bzrlib.smart import request
 
2352
        request_handlers = request.request_handlers
 
2353
        orig_method = request_handlers.get(verb)
 
2354
        request_handlers.remove(verb)
 
2355
        self.addCleanup(request_handlers.register, verb, orig_method)
 
2356
 
 
2357
 
 
2358
class CapturedCall(object):
 
2359
    """A helper for capturing smart server calls for easy debug analysis."""
 
2360
 
 
2361
    def __init__(self, params, prefix_length):
 
2362
        """Capture the call with params and skip prefix_length stack frames."""
 
2363
        self.call = params
 
2364
        import traceback
 
2365
        # The last 5 frames are the __init__, the hook frame, and 3 smart
 
2366
        # client frames. Beyond this we could get more clever, but this is good
 
2367
        # enough for now.
 
2368
        stack = traceback.extract_stack()[prefix_length:-5]
 
2369
        self.stack = ''.join(traceback.format_list(stack))
 
2370
 
 
2371
    def __str__(self):
 
2372
        return self.call.method
 
2373
 
 
2374
    def __repr__(self):
 
2375
        return self.call.method
 
2376
 
 
2377
    def stack(self):
 
2378
        return self.stack
1254
2379
 
1255
2380
 
1256
2381
class TestCaseWithMemoryTransport(TestCase):
1257
2382
    """Common test class for tests that do not need disk resources.
1258
2383
 
1259
 
    Tests that need disk resources should derive from TestCaseWithTransport.
 
2384
    Tests that need disk resources should derive from TestCaseInTempDir
 
2385
    orTestCaseWithTransport.
1260
2386
 
1261
2387
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
1262
2388
 
1263
 
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
2389
    For TestCaseWithMemoryTransport the ``test_home_dir`` is set to the name of
1264
2390
    a directory which does not exist. This serves to help ensure test isolation
1265
 
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
1266
 
    must exist. However, TestCaseWithMemoryTransport does not offer local
1267
 
    file defaults for the transport in tests, nor does it obey the command line
 
2391
    is preserved. ``test_dir`` is set to the TEST_ROOT, as is cwd, because they
 
2392
    must exist. However, TestCaseWithMemoryTransport does not offer local file
 
2393
    defaults for the transport in tests, nor does it obey the command line
1268
2394
    override, so tests that accidentally write to the common directory should
1269
2395
    be rare.
 
2396
 
 
2397
    :cvar TEST_ROOT: Directory containing all temporary directories, plus a
 
2398
        ``.bzr`` directory that stops us ascending higher into the filesystem.
1270
2399
    """
1271
2400
 
1272
2401
    TEST_ROOT = None
1273
2402
    _TEST_NAME = 'test'
1274
2403
 
1275
 
 
1276
2404
    def __init__(self, methodName='runTest'):
1277
 
        # allow test parameterisation after test construction and before test
1278
 
        # execution. Variables that the parameteriser sets need to be 
 
2405
        # allow test parameterization after test construction and before test
 
2406
        # execution. Variables that the parameterizer sets need to be
1279
2407
        # ones that are not set by setUp, or setUp will trash them.
1280
2408
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
1281
 
        self.transport_server = default_transport
 
2409
        self.vfs_transport_factory = default_transport
 
2410
        self.transport_server = None
1282
2411
        self.transport_readonly_server = None
1283
 
 
1284
 
    def get_transport(self):
1285
 
        """Return a writeable transport for the test scratch space"""
1286
 
        t = get_transport(self.get_url())
 
2412
        self.__vfs_server = None
 
2413
 
 
2414
    def get_transport(self, relpath=None):
 
2415
        """Return a writeable transport.
 
2416
 
 
2417
        This transport is for the test scratch space relative to
 
2418
        "self._test_root"
 
2419
 
 
2420
        :param relpath: a path relative to the base url.
 
2421
        """
 
2422
        t = _mod_transport.get_transport_from_url(self.get_url(relpath))
1287
2423
        self.assertFalse(t.is_readonly())
1288
2424
        return t
1289
2425
 
1290
 
    def get_readonly_transport(self):
 
2426
    def get_readonly_transport(self, relpath=None):
1291
2427
        """Return a readonly transport for the test scratch space
1292
 
        
 
2428
 
1293
2429
        This can be used to test that operations which should only need
1294
2430
        readonly access in fact do not try to write.
 
2431
 
 
2432
        :param relpath: a path relative to the base url.
1295
2433
        """
1296
 
        t = get_transport(self.get_readonly_url())
 
2434
        t = _mod_transport.get_transport_from_url(
 
2435
            self.get_readonly_url(relpath))
1297
2436
        self.assertTrue(t.is_readonly())
1298
2437
        return t
1299
2438
 
1312
2451
        if self.__readonly_server is None:
1313
2452
            if self.transport_readonly_server is None:
1314
2453
                # readonly decorator requested
1315
 
                # bring up the server
1316
 
                self.get_url()
1317
 
                self.__readonly_server = ReadonlyServer()
1318
 
                self.__readonly_server.setUp(self.__server)
 
2454
                self.__readonly_server = test_server.ReadonlyServer()
1319
2455
            else:
 
2456
                # explicit readonly transport.
1320
2457
                self.__readonly_server = self.create_transport_readonly_server()
1321
 
                self.__readonly_server.setUp()
1322
 
            self.addCleanup(self.__readonly_server.tearDown)
 
2458
            self.start_server(self.__readonly_server,
 
2459
                self.get_vfs_only_server())
1323
2460
        return self.__readonly_server
1324
2461
 
1325
2462
    def get_readonly_url(self, relpath=None):
1326
2463
        """Get a URL for the readonly transport.
1327
2464
 
1328
 
        This will either be backed by '.' or a decorator to the transport 
 
2465
        This will either be backed by '.' or a decorator to the transport
1329
2466
        used by self.get_url()
1330
2467
        relpath provides for clients to get a path relative to the base url.
1331
2468
        These should only be downwards relative, not upwards.
1332
2469
        """
1333
2470
        base = self.get_readonly_server().get_url()
1334
 
        if relpath is not None:
1335
 
            if not base.endswith('/'):
1336
 
                base = base + '/'
1337
 
            base = base + relpath
1338
 
        return base
 
2471
        return self._adjust_url(base, relpath)
1339
2472
 
1340
 
    def get_server(self):
1341
 
        """Get the read/write server instance.
 
2473
    def get_vfs_only_server(self):
 
2474
        """Get the vfs only read/write server instance.
1342
2475
 
1343
2476
        This is useful for some tests with specific servers that need
1344
2477
        diagnostics.
1346
2479
        For TestCaseWithMemoryTransport this is always a MemoryServer, and there
1347
2480
        is no means to override it.
1348
2481
        """
 
2482
        if self.__vfs_server is None:
 
2483
            self.__vfs_server = memory.MemoryServer()
 
2484
            self.start_server(self.__vfs_server)
 
2485
        return self.__vfs_server
 
2486
 
 
2487
    def get_server(self):
 
2488
        """Get the read/write server instance.
 
2489
 
 
2490
        This is useful for some tests with specific servers that need
 
2491
        diagnostics.
 
2492
 
 
2493
        This is built from the self.transport_server factory. If that is None,
 
2494
        then the self.get_vfs_server is returned.
 
2495
        """
1349
2496
        if self.__server is None:
1350
 
            self.__server = MemoryServer()
1351
 
            self.__server.setUp()
1352
 
            self.addCleanup(self.__server.tearDown)
 
2497
            if (self.transport_server is None or self.transport_server is
 
2498
                self.vfs_transport_factory):
 
2499
                self.__server = self.get_vfs_only_server()
 
2500
            else:
 
2501
                # bring up a decorated means of access to the vfs only server.
 
2502
                self.__server = self.transport_server()
 
2503
                self.start_server(self.__server, self.get_vfs_only_server())
1353
2504
        return self.__server
1354
2505
 
1355
 
    def get_url(self, relpath=None):
 
2506
    def _adjust_url(self, base, relpath):
1356
2507
        """Get a URL (or maybe a path) for the readwrite transport.
1357
2508
 
1358
2509
        This will either be backed by '.' or to an equivalent non-file based
1360
2511
        relpath provides for clients to get a path relative to the base url.
1361
2512
        These should only be downwards relative, not upwards.
1362
2513
        """
1363
 
        base = self.get_server().get_url()
1364
2514
        if relpath is not None and relpath != '.':
1365
2515
            if not base.endswith('/'):
1366
2516
                base = base + '/'
1374
2524
                base += urlutils.escape(relpath)
1375
2525
        return base
1376
2526
 
 
2527
    def get_url(self, relpath=None):
 
2528
        """Get a URL (or maybe a path) for the readwrite transport.
 
2529
 
 
2530
        This will either be backed by '.' or to an equivalent non-file based
 
2531
        facility.
 
2532
        relpath provides for clients to get a path relative to the base url.
 
2533
        These should only be downwards relative, not upwards.
 
2534
        """
 
2535
        base = self.get_server().get_url()
 
2536
        return self._adjust_url(base, relpath)
 
2537
 
 
2538
    def get_vfs_only_url(self, relpath=None):
 
2539
        """Get a URL (or maybe a path for the plain old vfs transport.
 
2540
 
 
2541
        This will never be a smart protocol.  It always has all the
 
2542
        capabilities of the local filesystem, but it might actually be a
 
2543
        MemoryTransport or some other similar virtual filesystem.
 
2544
 
 
2545
        This is the backing transport (if any) of the server returned by
 
2546
        get_url and get_readonly_url.
 
2547
 
 
2548
        :param relpath: provides for clients to get a path relative to the base
 
2549
            url.  These should only be downwards relative, not upwards.
 
2550
        :return: A URL
 
2551
        """
 
2552
        base = self.get_vfs_only_server().get_url()
 
2553
        return self._adjust_url(base, relpath)
 
2554
 
 
2555
    def _create_safety_net(self):
 
2556
        """Make a fake bzr directory.
 
2557
 
 
2558
        This prevents any tests propagating up onto the TEST_ROOT directory's
 
2559
        real branch.
 
2560
        """
 
2561
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
2562
        wt = bzrdir.BzrDir.create_standalone_workingtree(root)
 
2563
        # Hack for speed: remember the raw bytes of the dirstate file so that
 
2564
        # we don't need to re-open the wt to check it hasn't changed.
 
2565
        TestCaseWithMemoryTransport._SAFETY_NET_PRISTINE_DIRSTATE = (
 
2566
            wt.control_transport.get_bytes('dirstate'))
 
2567
 
 
2568
    def _check_safety_net(self):
 
2569
        """Check that the safety .bzr directory have not been touched.
 
2570
 
 
2571
        _make_test_root have created a .bzr directory to prevent tests from
 
2572
        propagating. This method ensures than a test did not leaked.
 
2573
        """
 
2574
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
2575
        t = _mod_transport.get_transport_from_path(root)
 
2576
        self.permit_url(t.base)
 
2577
        if (t.get_bytes('.bzr/checkout/dirstate') != 
 
2578
                TestCaseWithMemoryTransport._SAFETY_NET_PRISTINE_DIRSTATE):
 
2579
            # The current test have modified the /bzr directory, we need to
 
2580
            # recreate a new one or all the followng tests will fail.
 
2581
            # If you need to inspect its content uncomment the following line
 
2582
            # import pdb; pdb.set_trace()
 
2583
            _rmtree_temp_dir(root + '/.bzr', test_id=self.id())
 
2584
            self._create_safety_net()
 
2585
            raise AssertionError('%s/.bzr should not be modified' % root)
 
2586
 
1377
2587
    def _make_test_root(self):
1378
 
        if TestCaseWithMemoryTransport.TEST_ROOT is not None:
1379
 
            return
1380
 
        i = 0
1381
 
        while True:
1382
 
            root = u'test%04d.tmp' % i
1383
 
            try:
1384
 
                os.mkdir(root)
1385
 
            except OSError, e:
1386
 
                if e.errno == errno.EEXIST:
1387
 
                    i += 1
1388
 
                    continue
1389
 
                else:
1390
 
                    raise
1391
 
            # successfully created
1392
 
            TestCaseWithMemoryTransport.TEST_ROOT = osutils.abspath(root)
1393
 
            break
1394
 
        # make a fake bzr directory there to prevent any tests propagating
1395
 
        # up onto the source directory's real branch
1396
 
        bzrdir.BzrDir.create_standalone_workingtree(
1397
 
            TestCaseWithMemoryTransport.TEST_ROOT)
 
2588
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
 
2589
            # Watch out for tricky test dir (on OSX /tmp -> /private/tmp)
 
2590
            root = osutils.realpath(osutils.mkdtemp(prefix='testbzr-',
 
2591
                                                    suffix='.tmp'))
 
2592
            TestCaseWithMemoryTransport.TEST_ROOT = root
 
2593
 
 
2594
            self._create_safety_net()
 
2595
 
 
2596
            # The same directory is used by all tests, and we're not
 
2597
            # specifically told when all tests are finished.  This will do.
 
2598
            atexit.register(_rmtree_temp_dir, root)
 
2599
 
 
2600
        self.permit_dir(TestCaseWithMemoryTransport.TEST_ROOT)
 
2601
        self.addCleanup(self._check_safety_net)
1398
2602
 
1399
2603
    def makeAndChdirToTestDir(self):
1400
2604
        """Create a temporary directories for this one test.
1401
 
        
 
2605
 
1402
2606
        This must set self.test_home_dir and self.test_dir and chdir to
1403
2607
        self.test_dir.
1404
 
        
 
2608
 
1405
2609
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
1406
2610
        """
1407
2611
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
1408
2612
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
1409
2613
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
1410
 
        
 
2614
        self.permit_dir(self.test_dir)
 
2615
 
1411
2616
    def make_branch(self, relpath, format=None):
1412
2617
        """Create a branch on the transport at relpath."""
1413
2618
        repo = self.make_repository(relpath, format=format)
1418
2623
            # might be a relative or absolute path
1419
2624
            maybe_a_url = self.get_url(relpath)
1420
2625
            segments = maybe_a_url.rsplit('/', 1)
1421
 
            t = get_transport(maybe_a_url)
 
2626
            t = _mod_transport.get_transport(maybe_a_url)
1422
2627
            if len(segments) > 1 and segments[-1] not in ('', '.'):
1423
 
                try:
1424
 
                    t.mkdir('.')
1425
 
                except errors.FileExists:
1426
 
                    pass
 
2628
                t.ensure_base()
1427
2629
            if format is None:
1428
2630
                format = 'default'
1429
2631
            if isinstance(format, basestring):
1433
2635
            raise TestSkipped("Format %s is not initializable." % format)
1434
2636
 
1435
2637
    def make_repository(self, relpath, shared=False, format=None):
1436
 
        """Create a repository on our default transport at relpath."""
 
2638
        """Create a repository on our default transport at relpath.
 
2639
 
 
2640
        Note that relpath must be a relative path, not a full url.
 
2641
        """
 
2642
        # FIXME: If you create a remoterepository this returns the underlying
 
2643
        # real format, which is incorrect.  Actually we should make sure that
 
2644
        # RemoteBzrDir returns a RemoteRepository.
 
2645
        # maybe  mbp 20070410
1437
2646
        made_control = self.make_bzrdir(relpath, format=format)
1438
2647
        return made_control.create_repository(shared=shared)
1439
2648
 
 
2649
    def make_smart_server(self, path, backing_server=None):
 
2650
        if backing_server is None:
 
2651
            backing_server = self.get_server()
 
2652
        smart_server = test_server.SmartTCPServer_for_testing()
 
2653
        self.start_server(smart_server, backing_server)
 
2654
        remote_transport = _mod_transport.get_transport_from_url(smart_server.get_url()
 
2655
                                                   ).clone(path)
 
2656
        return remote_transport
 
2657
 
1440
2658
    def make_branch_and_memory_tree(self, relpath, format=None):
1441
2659
        """Create a branch on the default transport and a MemoryTree for it."""
1442
2660
        b = self.make_branch(relpath, format=format)
1443
2661
        return memorytree.MemoryTree.create_on_branch(b)
1444
2662
 
 
2663
    def make_branch_builder(self, relpath, format=None):
 
2664
        branch = self.make_branch(relpath, format=format)
 
2665
        return branchbuilder.BranchBuilder(branch=branch)
 
2666
 
1445
2667
    def overrideEnvironmentForTesting(self):
1446
 
        os.environ['HOME'] = self.test_home_dir
1447
 
        os.environ['APPDATA'] = self.test_home_dir
1448
 
        
 
2668
        test_home_dir = self.test_home_dir
 
2669
        if isinstance(test_home_dir, unicode):
 
2670
            test_home_dir = test_home_dir.encode(sys.getfilesystemencoding())
 
2671
        self.overrideEnv('HOME', test_home_dir)
 
2672
        self.overrideEnv('BZR_HOME', test_home_dir)
 
2673
 
1449
2674
    def setUp(self):
1450
2675
        super(TestCaseWithMemoryTransport, self).setUp()
 
2676
        # Ensure that ConnectedTransport doesn't leak sockets
 
2677
        def get_transport_from_url_with_cleanup(*args, **kwargs):
 
2678
            t = orig_get_transport_from_url(*args, **kwargs)
 
2679
            if isinstance(t, _mod_transport.ConnectedTransport):
 
2680
                self.addCleanup(t.disconnect)
 
2681
            return t
 
2682
 
 
2683
        orig_get_transport_from_url = self.overrideAttr(
 
2684
            _mod_transport, 'get_transport_from_url',
 
2685
            get_transport_from_url_with_cleanup)
1451
2686
        self._make_test_root()
1452
 
        _currentdir = os.getcwdu()
1453
 
        def _leaveDirectory():
1454
 
            os.chdir(_currentdir)
1455
 
        self.addCleanup(_leaveDirectory)
 
2687
        self.addCleanup(os.chdir, os.getcwdu())
1456
2688
        self.makeAndChdirToTestDir()
1457
2689
        self.overrideEnvironmentForTesting()
1458
2690
        self.__readonly_server = None
1459
2691
        self.__server = None
1460
 
 
1461
 
     
 
2692
        self.reduceLockdirTimeout()
 
2693
 
 
2694
    def setup_smart_server_with_call_log(self):
 
2695
        """Sets up a smart server as the transport server with a call log."""
 
2696
        self.transport_server = test_server.SmartTCPServer_for_testing
 
2697
        self.hpss_calls = []
 
2698
        import traceback
 
2699
        # Skip the current stack down to the caller of
 
2700
        # setup_smart_server_with_call_log
 
2701
        prefix_length = len(traceback.extract_stack()) - 2
 
2702
        def capture_hpss_call(params):
 
2703
            self.hpss_calls.append(
 
2704
                CapturedCall(params, prefix_length))
 
2705
        client._SmartClient.hooks.install_named_hook(
 
2706
            'call', capture_hpss_call, None)
 
2707
 
 
2708
    def reset_smart_call_log(self):
 
2709
        self.hpss_calls = []
 
2710
 
 
2711
 
1462
2712
class TestCaseInTempDir(TestCaseWithMemoryTransport):
1463
2713
    """Derived class that runs a test within a temporary directory.
1464
2714
 
1469
2719
    All test cases create their own directory within that.  If the
1470
2720
    tests complete successfully, the directory is removed.
1471
2721
 
1472
 
    InTempDir is an old alias for FunctionalTestCase.
 
2722
    :ivar test_base_dir: The path of the top-level directory for this
 
2723
    test, which contains a home directory and a work directory.
 
2724
 
 
2725
    :ivar test_home_dir: An initially empty directory under test_base_dir
 
2726
    which is used as $HOME for this test.
 
2727
 
 
2728
    :ivar test_dir: A directory under test_base_dir used as the current
 
2729
    directory when the test proper is run.
1473
2730
    """
1474
2731
 
1475
2732
    OVERRIDE_PYTHON = 'python'
1476
2733
 
 
2734
    def setUp(self):
 
2735
        super(TestCaseInTempDir, self).setUp()
 
2736
        # Remove the protection set in isolated_environ, we have a proper
 
2737
        # access to disk resources now.
 
2738
        self.overrideEnv('BZR_LOG', None)
 
2739
 
1477
2740
    def check_file_contents(self, filename, expect):
1478
2741
        self.log("check contents of file %s" % filename)
1479
 
        contents = file(filename, 'r').read()
 
2742
        f = file(filename)
 
2743
        try:
 
2744
            contents = f.read()
 
2745
        finally:
 
2746
            f.close()
1480
2747
        if contents != expect:
1481
2748
            self.log("expected: %r" % expect)
1482
2749
            self.log("actually: %r" % contents)
1483
2750
            self.fail("contents of %s not as expected" % filename)
1484
2751
 
 
2752
    def _getTestDirPrefix(self):
 
2753
        # create a directory within the top level test directory
 
2754
        if sys.platform in ('win32', 'cygwin'):
 
2755
            name_prefix = re.sub('[<>*=+",:;_/\\-]', '_', self.id())
 
2756
            # windows is likely to have path-length limits so use a short name
 
2757
            name_prefix = name_prefix[-30:]
 
2758
        else:
 
2759
            name_prefix = re.sub('[/]', '_', self.id())
 
2760
        return name_prefix
 
2761
 
1485
2762
    def makeAndChdirToTestDir(self):
1486
2763
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
1487
 
        
 
2764
 
1488
2765
        For TestCaseInTempDir we create a temporary directory based on the test
1489
2766
        name and then create two subdirs - test and home under it.
1490
2767
        """
1491
 
        # shorten the name, to avoid test failures due to path length
1492
 
        short_id = self.id().replace('bzrlib.tests.', '') \
1493
 
                   .replace('__main__.', '')[-100:]
1494
 
        # it's possible the same test class is run several times for
1495
 
        # parameterized tests, so make sure the names don't collide.  
1496
 
        i = 0
1497
 
        while True:
1498
 
            if i > 0:
1499
 
                candidate_dir = '%s/%s.%d' % (self.TEST_ROOT, short_id, i)
1500
 
            else:
1501
 
                candidate_dir = '%s/%s' % (self.TEST_ROOT, short_id)
1502
 
            if os.path.exists(candidate_dir):
1503
 
                i = i + 1
1504
 
                continue
1505
 
            else:
1506
 
                os.mkdir(candidate_dir)
1507
 
                self.test_home_dir = candidate_dir + '/home'
1508
 
                os.mkdir(self.test_home_dir)
1509
 
                self.test_dir = candidate_dir + '/work'
1510
 
                os.mkdir(self.test_dir)
1511
 
                os.chdir(self.test_dir)
 
2768
        name_prefix = osutils.pathjoin(TestCaseWithMemoryTransport.TEST_ROOT,
 
2769
            self._getTestDirPrefix())
 
2770
        name = name_prefix
 
2771
        for i in range(100):
 
2772
            if os.path.exists(name):
 
2773
                name = name_prefix + '_' + str(i)
 
2774
            else:
 
2775
                # now create test and home directories within this dir
 
2776
                self.test_base_dir = name
 
2777
                self.addCleanup(self.deleteTestDir)
 
2778
                os.mkdir(self.test_base_dir)
1512
2779
                break
 
2780
        self.permit_dir(self.test_base_dir)
 
2781
        # 'sprouting' and 'init' of a branch both walk up the tree to find
 
2782
        # stacking policy to honour; create a bzr dir with an unshared
 
2783
        # repository (but not a branch - our code would be trying to escape
 
2784
        # then!) to stop them, and permit it to be read.
 
2785
        # control = bzrdir.BzrDir.create(self.test_base_dir)
 
2786
        # control.create_repository()
 
2787
        self.test_home_dir = self.test_base_dir + '/home'
 
2788
        os.mkdir(self.test_home_dir)
 
2789
        self.test_dir = self.test_base_dir + '/work'
 
2790
        os.mkdir(self.test_dir)
 
2791
        os.chdir(self.test_dir)
 
2792
        # put name of test inside
 
2793
        f = file(self.test_base_dir + '/name', 'w')
 
2794
        try:
 
2795
            f.write(self.id())
 
2796
        finally:
 
2797
            f.close()
 
2798
 
 
2799
    def deleteTestDir(self):
 
2800
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
2801
        _rmtree_temp_dir(self.test_base_dir, test_id=self.id())
1513
2802
 
1514
2803
    def build_tree(self, shape, line_endings='binary', transport=None):
1515
2804
        """Build a test tree according to a pattern.
1520
2809
        This assumes that all the elements in the tree being built are new.
1521
2810
 
1522
2811
        This doesn't add anything to a branch.
 
2812
 
 
2813
        :type shape:    list or tuple.
1523
2814
        :param line_endings: Either 'binary' or 'native'
1524
 
                             in binary mode, exact contents are written
1525
 
                             in native mode, the line endings match the
1526
 
                             default platform endings.
1527
 
 
1528
 
        :param transport: A transport to write to, for building trees on 
1529
 
                          VFS's. If the transport is readonly or None,
1530
 
                          "." is opened automatically.
 
2815
            in binary mode, exact contents are written in native mode, the
 
2816
            line endings match the default platform endings.
 
2817
        :param transport: A transport to write to, for building trees on VFS's.
 
2818
            If the transport is readonly or None, "." is opened automatically.
 
2819
        :return: None
1531
2820
        """
 
2821
        if type(shape) not in (list, tuple):
 
2822
            raise AssertionError("Parameter 'shape' should be "
 
2823
                "a list or a tuple. Got %r instead" % (shape,))
1532
2824
        # It's OK to just create them using forward slashes on windows.
1533
2825
        if transport is None or transport.is_readonly():
1534
 
            transport = get_transport(".")
 
2826
            transport = _mod_transport.get_transport_from_path(".")
1535
2827
        for name in shape:
1536
 
            self.assert_(isinstance(name, basestring))
 
2828
            self.assertIsInstance(name, basestring)
1537
2829
            if name[-1] == '/':
1538
2830
                transport.mkdir(urlutils.escape(name[:-1]))
1539
2831
            else:
1547
2839
                content = "contents of %s%s" % (name.encode('utf-8'), end)
1548
2840
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
1549
2841
 
1550
 
    def build_tree_contents(self, shape):
1551
 
        build_tree_contents(shape)
1552
 
 
1553
 
    def assertFileEqual(self, content, path):
1554
 
        """Fail if path does not contain 'content'."""
1555
 
        self.failUnlessExists(path)
1556
 
        # TODO: jam 20060427 Shouldn't this be 'rb'?
1557
 
        self.assertEqualDiff(content, open(path, 'r').read())
1558
 
 
1559
 
    def failUnlessExists(self, path):
1560
 
        """Fail unless path, which may be abs or relative, exists."""
1561
 
        self.failUnless(osutils.lexists(path),path+" does not exist")
1562
 
 
1563
 
    def failIfExists(self, path):
1564
 
        """Fail if path, which may be abs or relative, exists."""
1565
 
        self.failIf(osutils.lexists(path),path+" exists")
 
2842
    build_tree_contents = staticmethod(treeshape.build_tree_contents)
 
2843
 
 
2844
    def assertInWorkingTree(self, path, root_path='.', tree=None):
 
2845
        """Assert whether path or paths are in the WorkingTree"""
 
2846
        if tree is None:
 
2847
            tree = workingtree.WorkingTree.open(root_path)
 
2848
        if not isinstance(path, basestring):
 
2849
            for p in path:
 
2850
                self.assertInWorkingTree(p, tree=tree)
 
2851
        else:
 
2852
            self.assertIsNot(tree.path2id(path), None,
 
2853
                path+' not in working tree.')
 
2854
 
 
2855
    def assertNotInWorkingTree(self, path, root_path='.', tree=None):
 
2856
        """Assert whether path or paths are not in the WorkingTree"""
 
2857
        if tree is None:
 
2858
            tree = workingtree.WorkingTree.open(root_path)
 
2859
        if not isinstance(path, basestring):
 
2860
            for p in path:
 
2861
                self.assertNotInWorkingTree(p,tree=tree)
 
2862
        else:
 
2863
            self.assertIs(tree.path2id(path), None, path+' in working tree.')
1566
2864
 
1567
2865
 
1568
2866
class TestCaseWithTransport(TestCaseInTempDir):
1575
2873
    ReadonlyTransportDecorator is used instead which allows the use of non disk
1576
2874
    based read write transports.
1577
2875
 
1578
 
    If an explicit class is provided for readonly access, that server and the 
 
2876
    If an explicit class is provided for readonly access, that server and the
1579
2877
    readwrite one must both define get_url() as resolving to os.getcwd().
1580
2878
    """
1581
2879
 
1582
 
    def create_transport_server(self):
1583
 
        """Create a transport server from class defined at init.
1584
 
 
1585
 
        This is mostly a hook for daughter classes.
1586
 
        """
1587
 
        return self.transport_server()
1588
 
 
1589
 
    def get_server(self):
 
2880
    def get_vfs_only_server(self):
1590
2881
        """See TestCaseWithMemoryTransport.
1591
2882
 
1592
2883
        This is useful for some tests with specific servers that need
1593
2884
        diagnostics.
1594
2885
        """
1595
 
        if self.__server is None:
1596
 
            self.__server = self.create_transport_server()
1597
 
            self.__server.setUp()
1598
 
            self.addCleanup(self.__server.tearDown)
1599
 
        return self.__server
 
2886
        if self.__vfs_server is None:
 
2887
            self.__vfs_server = self.vfs_transport_factory()
 
2888
            self.start_server(self.__vfs_server)
 
2889
        return self.__vfs_server
1600
2890
 
1601
2891
    def make_branch_and_tree(self, relpath, format=None):
1602
2892
        """Create a branch on the transport and a tree locally.
1603
2893
 
1604
2894
        If the transport is not a LocalTransport, the Tree can't be created on
1605
 
        the transport.  In that case the working tree is created in the local
1606
 
        directory, and the returned tree's branch and repository will also be
1607
 
        accessed locally.
 
2895
        the transport.  In that case if the vfs_transport_factory is
 
2896
        LocalURLServer the working tree is created in the local
 
2897
        directory backing the transport, and the returned tree's branch and
 
2898
        repository will also be accessed locally. Otherwise a lightweight
 
2899
        checkout is created and returned.
1608
2900
 
1609
 
        This will fail if the original default transport for this test
1610
 
        case wasn't backed by the working directory, as the branch won't
1611
 
        be on disk for us to open it.  
 
2901
        We do this because we can't physically create a tree in the local
 
2902
        path, with a branch reference to the transport_factory url, and
 
2903
        a branch + repository in the vfs_transport, unless the vfs_transport
 
2904
        namespace is distinct from the local disk - the two branch objects
 
2905
        would collide. While we could construct a tree with its branch object
 
2906
        pointing at the transport_factory transport in memory, reopening it
 
2907
        would behaving unexpectedly, and has in the past caused testing bugs
 
2908
        when we tried to do it that way.
1612
2909
 
1613
2910
        :param format: The BzrDirFormat.
1614
2911
        :returns: the WorkingTree.
1622
2919
            return b.bzrdir.create_workingtree()
1623
2920
        except errors.NotLocalUrl:
1624
2921
            # We can only make working trees locally at the moment.  If the
1625
 
            # transport can't support them, then reopen the branch on a local
1626
 
            # transport, and create the working tree there.  
1627
 
            #
1628
 
            # Possibly we should instead keep
1629
 
            # the non-disk-backed branch and create a local checkout?
1630
 
            bd = bzrdir.BzrDir.open(relpath)
1631
 
            return bd.create_workingtree()
 
2922
            # transport can't support them, then we keep the non-disk-backed
 
2923
            # branch and create a local checkout.
 
2924
            if self.vfs_transport_factory is test_server.LocalURLServer:
 
2925
                # the branch is colocated on disk, we cannot create a checkout.
 
2926
                # hopefully callers will expect this.
 
2927
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
 
2928
                wt = local_controldir.create_workingtree()
 
2929
                if wt.branch._format != b._format:
 
2930
                    wt._branch = b
 
2931
                    # Make sure that assigning to wt._branch fixes wt.branch,
 
2932
                    # in case the implementation details of workingtree objects
 
2933
                    # change.
 
2934
                    self.assertIs(b, wt.branch)
 
2935
                return wt
 
2936
            else:
 
2937
                return b.create_checkout(relpath, lightweight=True)
1632
2938
 
1633
2939
    def assertIsDirectory(self, relpath, transport):
1634
2940
        """Assert that relpath within transport is a directory.
1656
2962
 
1657
2963
    def setUp(self):
1658
2964
        super(TestCaseWithTransport, self).setUp()
1659
 
        self.__server = None
 
2965
        self.__vfs_server = None
 
2966
 
 
2967
    def disable_missing_extensions_warning(self):
 
2968
        """Some tests expect a precise stderr content.
 
2969
 
 
2970
        There is no point in forcing them to duplicate the extension related
 
2971
        warning.
 
2972
        """
 
2973
        config.GlobalConfig().set_user_option('ignore_missing_extensions', True)
1660
2974
 
1661
2975
 
1662
2976
class ChrootedTestCase(TestCaseWithTransport):
1667
2981
    for readonly urls.
1668
2982
 
1669
2983
    TODO RBC 20060127: make this an option to TestCaseWithTransport so it can
1670
 
                       be used without needed to redo it when a different 
 
2984
                       be used without needed to redo it when a different
1671
2985
                       subclass is in use ?
1672
2986
    """
1673
2987
 
1674
2988
    def setUp(self):
 
2989
        from bzrlib.tests import http_server
1675
2990
        super(ChrootedTestCase, self).setUp()
1676
 
        if not self.transport_server == MemoryServer:
1677
 
            self.transport_readonly_server = HttpServer
 
2991
        if not self.vfs_transport_factory == memory.MemoryServer:
 
2992
            self.transport_readonly_server = http_server.HttpServer
 
2993
 
 
2994
 
 
2995
def condition_id_re(pattern):
 
2996
    """Create a condition filter which performs a re check on a test's id.
 
2997
 
 
2998
    :param pattern: A regular expression string.
 
2999
    :return: A callable that returns True if the re matches.
 
3000
    """
 
3001
    filter_re = re.compile(pattern, 0)
 
3002
    def condition(test):
 
3003
        test_id = test.id()
 
3004
        return filter_re.search(test_id)
 
3005
    return condition
 
3006
 
 
3007
 
 
3008
def condition_isinstance(klass_or_klass_list):
 
3009
    """Create a condition filter which returns isinstance(param, klass).
 
3010
 
 
3011
    :return: A callable which when called with one parameter obj return the
 
3012
        result of isinstance(obj, klass_or_klass_list).
 
3013
    """
 
3014
    def condition(obj):
 
3015
        return isinstance(obj, klass_or_klass_list)
 
3016
    return condition
 
3017
 
 
3018
 
 
3019
def condition_id_in_list(id_list):
 
3020
    """Create a condition filter which verify that test's id in a list.
 
3021
 
 
3022
    :param id_list: A TestIdList object.
 
3023
    :return: A callable that returns True if the test's id appears in the list.
 
3024
    """
 
3025
    def condition(test):
 
3026
        return id_list.includes(test.id())
 
3027
    return condition
 
3028
 
 
3029
 
 
3030
def condition_id_startswith(starts):
 
3031
    """Create a condition filter verifying that test's id starts with a string.
 
3032
 
 
3033
    :param starts: A list of string.
 
3034
    :return: A callable that returns True if the test's id starts with one of
 
3035
        the given strings.
 
3036
    """
 
3037
    def condition(test):
 
3038
        for start in starts:
 
3039
            if test.id().startswith(start):
 
3040
                return True
 
3041
        return False
 
3042
    return condition
 
3043
 
 
3044
 
 
3045
def exclude_tests_by_condition(suite, condition):
 
3046
    """Create a test suite which excludes some tests from suite.
 
3047
 
 
3048
    :param suite: The suite to get tests from.
 
3049
    :param condition: A callable whose result evaluates True when called with a
 
3050
        test case which should be excluded from the result.
 
3051
    :return: A suite which contains the tests found in suite that fail
 
3052
        condition.
 
3053
    """
 
3054
    result = []
 
3055
    for test in iter_suite_tests(suite):
 
3056
        if not condition(test):
 
3057
            result.append(test)
 
3058
    return TestUtil.TestSuite(result)
 
3059
 
 
3060
 
 
3061
def filter_suite_by_condition(suite, condition):
 
3062
    """Create a test suite by filtering another one.
 
3063
 
 
3064
    :param suite: The source suite.
 
3065
    :param condition: A callable whose result evaluates True when called with a
 
3066
        test case which should be included in the result.
 
3067
    :return: A suite which contains the tests found in suite that pass
 
3068
        condition.
 
3069
    """
 
3070
    result = []
 
3071
    for test in iter_suite_tests(suite):
 
3072
        if condition(test):
 
3073
            result.append(test)
 
3074
    return TestUtil.TestSuite(result)
1678
3075
 
1679
3076
 
1680
3077
def filter_suite_by_re(suite, pattern):
1681
 
    result = TestUtil.TestSuite()
1682
 
    filter_re = re.compile(pattern)
1683
 
    for test in iter_suite_tests(suite):
1684
 
        if filter_re.search(test.id()):
1685
 
            result.addTest(test)
1686
 
    return result
1687
 
 
1688
 
 
1689
 
def sort_suite_by_re(suite, pattern):
1690
 
    first = []
1691
 
    second = []
1692
 
    filter_re = re.compile(pattern)
1693
 
    for test in iter_suite_tests(suite):
1694
 
        if filter_re.search(test.id()):
1695
 
            first.append(test)
 
3078
    """Create a test suite by filtering another one.
 
3079
 
 
3080
    :param suite:           the source suite
 
3081
    :param pattern:         pattern that names must match
 
3082
    :returns: the newly created suite
 
3083
    """
 
3084
    condition = condition_id_re(pattern)
 
3085
    result_suite = filter_suite_by_condition(suite, condition)
 
3086
    return result_suite
 
3087
 
 
3088
 
 
3089
def filter_suite_by_id_list(suite, test_id_list):
 
3090
    """Create a test suite by filtering another one.
 
3091
 
 
3092
    :param suite: The source suite.
 
3093
    :param test_id_list: A list of the test ids to keep as strings.
 
3094
    :returns: the newly created suite
 
3095
    """
 
3096
    condition = condition_id_in_list(test_id_list)
 
3097
    result_suite = filter_suite_by_condition(suite, condition)
 
3098
    return result_suite
 
3099
 
 
3100
 
 
3101
def filter_suite_by_id_startswith(suite, start):
 
3102
    """Create a test suite by filtering another one.
 
3103
 
 
3104
    :param suite: The source suite.
 
3105
    :param start: A list of string the test id must start with one of.
 
3106
    :returns: the newly created suite
 
3107
    """
 
3108
    condition = condition_id_startswith(start)
 
3109
    result_suite = filter_suite_by_condition(suite, condition)
 
3110
    return result_suite
 
3111
 
 
3112
 
 
3113
def exclude_tests_by_re(suite, pattern):
 
3114
    """Create a test suite which excludes some tests from suite.
 
3115
 
 
3116
    :param suite: The suite to get tests from.
 
3117
    :param pattern: A regular expression string. Test ids that match this
 
3118
        pattern will be excluded from the result.
 
3119
    :return: A TestSuite that contains all the tests from suite without the
 
3120
        tests that matched pattern. The order of tests is the same as it was in
 
3121
        suite.
 
3122
    """
 
3123
    return exclude_tests_by_condition(suite, condition_id_re(pattern))
 
3124
 
 
3125
 
 
3126
def preserve_input(something):
 
3127
    """A helper for performing test suite transformation chains.
 
3128
 
 
3129
    :param something: Anything you want to preserve.
 
3130
    :return: Something.
 
3131
    """
 
3132
    return something
 
3133
 
 
3134
 
 
3135
def randomize_suite(suite):
 
3136
    """Return a new TestSuite with suite's tests in random order.
 
3137
 
 
3138
    The tests in the input suite are flattened into a single suite in order to
 
3139
    accomplish this. Any nested TestSuites are removed to provide global
 
3140
    randomness.
 
3141
    """
 
3142
    tests = list(iter_suite_tests(suite))
 
3143
    random.shuffle(tests)
 
3144
    return TestUtil.TestSuite(tests)
 
3145
 
 
3146
 
 
3147
def split_suite_by_condition(suite, condition):
 
3148
    """Split a test suite into two by a condition.
 
3149
 
 
3150
    :param suite: The suite to split.
 
3151
    :param condition: The condition to match on. Tests that match this
 
3152
        condition are returned in the first test suite, ones that do not match
 
3153
        are in the second suite.
 
3154
    :return: A tuple of two test suites, where the first contains tests from
 
3155
        suite matching the condition, and the second contains the remainder
 
3156
        from suite. The order within each output suite is the same as it was in
 
3157
        suite.
 
3158
    """
 
3159
    matched = []
 
3160
    did_not_match = []
 
3161
    for test in iter_suite_tests(suite):
 
3162
        if condition(test):
 
3163
            matched.append(test)
1696
3164
        else:
1697
 
            second.append(test)
1698
 
    return TestUtil.TestSuite(first + second)
 
3165
            did_not_match.append(test)
 
3166
    return TestUtil.TestSuite(matched), TestUtil.TestSuite(did_not_match)
 
3167
 
 
3168
 
 
3169
def split_suite_by_re(suite, pattern):
 
3170
    """Split a test suite into two by a regular expression.
 
3171
 
 
3172
    :param suite: The suite to split.
 
3173
    :param pattern: A regular expression string. Test ids that match this
 
3174
        pattern will be in the first test suite returned, and the others in the
 
3175
        second test suite returned.
 
3176
    :return: A tuple of two test suites, where the first contains tests from
 
3177
        suite matching pattern, and the second contains the remainder from
 
3178
        suite. The order within each output suite is the same as it was in
 
3179
        suite.
 
3180
    """
 
3181
    return split_suite_by_condition(suite, condition_id_re(pattern))
1699
3182
 
1700
3183
 
1701
3184
def run_suite(suite, name='test', verbose=False, pattern=".*",
1702
 
              stop_on_failure=False, keep_output=False,
 
3185
              stop_on_failure=False,
1703
3186
              transport=None, lsprof_timed=None, bench_history=None,
1704
 
              matching_tests_first=None):
 
3187
              matching_tests_first=None,
 
3188
              list_only=False,
 
3189
              random_seed=None,
 
3190
              exclude_pattern=None,
 
3191
              strict=False,
 
3192
              runner_class=None,
 
3193
              suite_decorators=None,
 
3194
              stream=None,
 
3195
              result_decorators=None,
 
3196
              ):
 
3197
    """Run a test suite for bzr selftest.
 
3198
 
 
3199
    :param runner_class: The class of runner to use. Must support the
 
3200
        constructor arguments passed by run_suite which are more than standard
 
3201
        python uses.
 
3202
    :return: A boolean indicating success.
 
3203
    """
1705
3204
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
1706
3205
    if verbose:
1707
3206
        verbosity = 2
1708
3207
    else:
1709
3208
        verbosity = 1
1710
 
    runner = TextTestRunner(stream=sys.stdout,
 
3209
    if runner_class is None:
 
3210
        runner_class = TextTestRunner
 
3211
    if stream is None:
 
3212
        stream = sys.stdout
 
3213
    runner = runner_class(stream=stream,
1711
3214
                            descriptions=0,
1712
3215
                            verbosity=verbosity,
1713
 
                            keep_output=keep_output,
1714
 
                            bench_history=bench_history)
 
3216
                            bench_history=bench_history,
 
3217
                            strict=strict,
 
3218
                            result_decorators=result_decorators,
 
3219
                            )
1715
3220
    runner.stop_on_failure=stop_on_failure
1716
 
    if pattern != '.*':
1717
 
        if matching_tests_first:
1718
 
            suite = sort_suite_by_re(suite, pattern)
1719
 
        else:
1720
 
            suite = filter_suite_by_re(suite, pattern)
 
3221
    # built in decorator factories:
 
3222
    decorators = [
 
3223
        random_order(random_seed, runner),
 
3224
        exclude_tests(exclude_pattern),
 
3225
        ]
 
3226
    if matching_tests_first:
 
3227
        decorators.append(tests_first(pattern))
 
3228
    else:
 
3229
        decorators.append(filter_tests(pattern))
 
3230
    if suite_decorators:
 
3231
        decorators.extend(suite_decorators)
 
3232
    # tell the result object how many tests will be running: (except if
 
3233
    # --parallel=fork is being used. Robert said he will provide a better
 
3234
    # progress design later -- vila 20090817)
 
3235
    if fork_decorator not in decorators:
 
3236
        decorators.append(CountingDecorator)
 
3237
    for decorator in decorators:
 
3238
        suite = decorator(suite)
 
3239
    if list_only:
 
3240
        # Done after test suite decoration to allow randomisation etc
 
3241
        # to take effect, though that is of marginal benefit.
 
3242
        if verbosity >= 2:
 
3243
            stream.write("Listing tests only ...\n")
 
3244
        for t in iter_suite_tests(suite):
 
3245
            stream.write("%s\n" % (t.id()))
 
3246
        return True
1721
3247
    result = runner.run(suite)
1722
 
    return result.wasSuccessful()
 
3248
    if strict:
 
3249
        return result.wasStrictlySuccessful()
 
3250
    else:
 
3251
        return result.wasSuccessful()
 
3252
 
 
3253
 
 
3254
# A registry where get() returns a suite decorator.
 
3255
parallel_registry = registry.Registry()
 
3256
 
 
3257
 
 
3258
def fork_decorator(suite):
 
3259
    if getattr(os, "fork", None) is None:
 
3260
        raise errors.BzrCommandError("platform does not support fork,"
 
3261
            " try --parallel=subprocess instead.")
 
3262
    concurrency = osutils.local_concurrency()
 
3263
    if concurrency == 1:
 
3264
        return suite
 
3265
    from testtools import ConcurrentTestSuite
 
3266
    return ConcurrentTestSuite(suite, fork_for_tests)
 
3267
parallel_registry.register('fork', fork_decorator)
 
3268
 
 
3269
 
 
3270
def subprocess_decorator(suite):
 
3271
    concurrency = osutils.local_concurrency()
 
3272
    if concurrency == 1:
 
3273
        return suite
 
3274
    from testtools import ConcurrentTestSuite
 
3275
    return ConcurrentTestSuite(suite, reinvoke_for_tests)
 
3276
parallel_registry.register('subprocess', subprocess_decorator)
 
3277
 
 
3278
 
 
3279
def exclude_tests(exclude_pattern):
 
3280
    """Return a test suite decorator that excludes tests."""
 
3281
    if exclude_pattern is None:
 
3282
        return identity_decorator
 
3283
    def decorator(suite):
 
3284
        return ExcludeDecorator(suite, exclude_pattern)
 
3285
    return decorator
 
3286
 
 
3287
 
 
3288
def filter_tests(pattern):
 
3289
    if pattern == '.*':
 
3290
        return identity_decorator
 
3291
    def decorator(suite):
 
3292
        return FilterTestsDecorator(suite, pattern)
 
3293
    return decorator
 
3294
 
 
3295
 
 
3296
def random_order(random_seed, runner):
 
3297
    """Return a test suite decorator factory for randomising tests order.
 
3298
    
 
3299
    :param random_seed: now, a string which casts to a long, or a long.
 
3300
    :param runner: A test runner with a stream attribute to report on.
 
3301
    """
 
3302
    if random_seed is None:
 
3303
        return identity_decorator
 
3304
    def decorator(suite):
 
3305
        return RandomDecorator(suite, random_seed, runner.stream)
 
3306
    return decorator
 
3307
 
 
3308
 
 
3309
def tests_first(pattern):
 
3310
    if pattern == '.*':
 
3311
        return identity_decorator
 
3312
    def decorator(suite):
 
3313
        return TestFirstDecorator(suite, pattern)
 
3314
    return decorator
 
3315
 
 
3316
 
 
3317
def identity_decorator(suite):
 
3318
    """Return suite."""
 
3319
    return suite
 
3320
 
 
3321
 
 
3322
class TestDecorator(TestUtil.TestSuite):
 
3323
    """A decorator for TestCase/TestSuite objects.
 
3324
    
 
3325
    Usually, subclasses should override __iter__(used when flattening test
 
3326
    suites), which we do to filter, reorder, parallelise and so on, run() and
 
3327
    debug().
 
3328
    """
 
3329
 
 
3330
    def __init__(self, suite):
 
3331
        TestUtil.TestSuite.__init__(self)
 
3332
        self.addTest(suite)
 
3333
 
 
3334
    def countTestCases(self):
 
3335
        cases = 0
 
3336
        for test in self:
 
3337
            cases += test.countTestCases()
 
3338
        return cases
 
3339
 
 
3340
    def debug(self):
 
3341
        for test in self:
 
3342
            test.debug()
 
3343
 
 
3344
    def run(self, result):
 
3345
        # Use iteration on self, not self._tests, to allow subclasses to hook
 
3346
        # into __iter__.
 
3347
        for test in self:
 
3348
            if result.shouldStop:
 
3349
                break
 
3350
            test.run(result)
 
3351
        return result
 
3352
 
 
3353
 
 
3354
class CountingDecorator(TestDecorator):
 
3355
    """A decorator which calls result.progress(self.countTestCases)."""
 
3356
 
 
3357
    def run(self, result):
 
3358
        progress_method = getattr(result, 'progress', None)
 
3359
        if callable(progress_method):
 
3360
            progress_method(self.countTestCases(), SUBUNIT_SEEK_SET)
 
3361
        return super(CountingDecorator, self).run(result)
 
3362
 
 
3363
 
 
3364
class ExcludeDecorator(TestDecorator):
 
3365
    """A decorator which excludes test matching an exclude pattern."""
 
3366
 
 
3367
    def __init__(self, suite, exclude_pattern):
 
3368
        TestDecorator.__init__(self, suite)
 
3369
        self.exclude_pattern = exclude_pattern
 
3370
        self.excluded = False
 
3371
 
 
3372
    def __iter__(self):
 
3373
        if self.excluded:
 
3374
            return iter(self._tests)
 
3375
        self.excluded = True
 
3376
        suite = exclude_tests_by_re(self, self.exclude_pattern)
 
3377
        del self._tests[:]
 
3378
        self.addTests(suite)
 
3379
        return iter(self._tests)
 
3380
 
 
3381
 
 
3382
class FilterTestsDecorator(TestDecorator):
 
3383
    """A decorator which filters tests to those matching a pattern."""
 
3384
 
 
3385
    def __init__(self, suite, pattern):
 
3386
        TestDecorator.__init__(self, suite)
 
3387
        self.pattern = pattern
 
3388
        self.filtered = False
 
3389
 
 
3390
    def __iter__(self):
 
3391
        if self.filtered:
 
3392
            return iter(self._tests)
 
3393
        self.filtered = True
 
3394
        suite = filter_suite_by_re(self, self.pattern)
 
3395
        del self._tests[:]
 
3396
        self.addTests(suite)
 
3397
        return iter(self._tests)
 
3398
 
 
3399
 
 
3400
class RandomDecorator(TestDecorator):
 
3401
    """A decorator which randomises the order of its tests."""
 
3402
 
 
3403
    def __init__(self, suite, random_seed, stream):
 
3404
        TestDecorator.__init__(self, suite)
 
3405
        self.random_seed = random_seed
 
3406
        self.randomised = False
 
3407
        self.stream = stream
 
3408
 
 
3409
    def __iter__(self):
 
3410
        if self.randomised:
 
3411
            return iter(self._tests)
 
3412
        self.randomised = True
 
3413
        self.stream.write("Randomizing test order using seed %s\n\n" %
 
3414
            (self.actual_seed()))
 
3415
        # Initialise the random number generator.
 
3416
        random.seed(self.actual_seed())
 
3417
        suite = randomize_suite(self)
 
3418
        del self._tests[:]
 
3419
        self.addTests(suite)
 
3420
        return iter(self._tests)
 
3421
 
 
3422
    def actual_seed(self):
 
3423
        if self.random_seed == "now":
 
3424
            # We convert the seed to a long to make it reuseable across
 
3425
            # invocations (because the user can reenter it).
 
3426
            self.random_seed = long(time.time())
 
3427
        else:
 
3428
            # Convert the seed to a long if we can
 
3429
            try:
 
3430
                self.random_seed = long(self.random_seed)
 
3431
            except:
 
3432
                pass
 
3433
        return self.random_seed
 
3434
 
 
3435
 
 
3436
class TestFirstDecorator(TestDecorator):
 
3437
    """A decorator which moves named tests to the front."""
 
3438
 
 
3439
    def __init__(self, suite, pattern):
 
3440
        TestDecorator.__init__(self, suite)
 
3441
        self.pattern = pattern
 
3442
        self.filtered = False
 
3443
 
 
3444
    def __iter__(self):
 
3445
        if self.filtered:
 
3446
            return iter(self._tests)
 
3447
        self.filtered = True
 
3448
        suites = split_suite_by_re(self, self.pattern)
 
3449
        del self._tests[:]
 
3450
        self.addTests(suites)
 
3451
        return iter(self._tests)
 
3452
 
 
3453
 
 
3454
def partition_tests(suite, count):
 
3455
    """Partition suite into count lists of tests."""
 
3456
    # This just assigns tests in a round-robin fashion.  On one hand this
 
3457
    # splits up blocks of related tests that might run faster if they shared
 
3458
    # resources, but on the other it avoids assigning blocks of slow tests to
 
3459
    # just one partition.  So the slowest partition shouldn't be much slower
 
3460
    # than the fastest.
 
3461
    partitions = [list() for i in range(count)]
 
3462
    tests = iter_suite_tests(suite)
 
3463
    for partition, test in itertools.izip(itertools.cycle(partitions), tests):
 
3464
        partition.append(test)
 
3465
    return partitions
 
3466
 
 
3467
 
 
3468
def workaround_zealous_crypto_random():
 
3469
    """Crypto.Random want to help us being secure, but we don't care here.
 
3470
 
 
3471
    This workaround some test failure related to the sftp server. Once paramiko
 
3472
    stop using the controversial API in Crypto.Random, we may get rid of it.
 
3473
    """
 
3474
    try:
 
3475
        from Crypto.Random import atfork
 
3476
        atfork()
 
3477
    except ImportError:
 
3478
        pass
 
3479
 
 
3480
 
 
3481
def fork_for_tests(suite):
 
3482
    """Take suite and start up one runner per CPU by forking()
 
3483
 
 
3484
    :return: An iterable of TestCase-like objects which can each have
 
3485
        run(result) called on them to feed tests to result.
 
3486
    """
 
3487
    concurrency = osutils.local_concurrency()
 
3488
    result = []
 
3489
    from subunit import TestProtocolClient, ProtocolTestCase
 
3490
    from subunit.test_results import AutoTimingTestResultDecorator
 
3491
    class TestInOtherProcess(ProtocolTestCase):
 
3492
        # Should be in subunit, I think. RBC.
 
3493
        def __init__(self, stream, pid):
 
3494
            ProtocolTestCase.__init__(self, stream)
 
3495
            self.pid = pid
 
3496
 
 
3497
        def run(self, result):
 
3498
            try:
 
3499
                ProtocolTestCase.run(self, result)
 
3500
            finally:
 
3501
                os.waitpid(self.pid, 0)
 
3502
 
 
3503
    test_blocks = partition_tests(suite, concurrency)
 
3504
    for process_tests in test_blocks:
 
3505
        process_suite = TestUtil.TestSuite()
 
3506
        process_suite.addTests(process_tests)
 
3507
        c2pread, c2pwrite = os.pipe()
 
3508
        pid = os.fork()
 
3509
        if pid == 0:
 
3510
            workaround_zealous_crypto_random()
 
3511
            try:
 
3512
                os.close(c2pread)
 
3513
                # Leave stderr and stdout open so we can see test noise
 
3514
                # Close stdin so that the child goes away if it decides to
 
3515
                # read from stdin (otherwise its a roulette to see what
 
3516
                # child actually gets keystrokes for pdb etc).
 
3517
                sys.stdin.close()
 
3518
                sys.stdin = None
 
3519
                stream = os.fdopen(c2pwrite, 'wb', 1)
 
3520
                subunit_result = AutoTimingTestResultDecorator(
 
3521
                    TestProtocolClient(stream))
 
3522
                process_suite.run(subunit_result)
 
3523
            finally:
 
3524
                os._exit(0)
 
3525
        else:
 
3526
            os.close(c2pwrite)
 
3527
            stream = os.fdopen(c2pread, 'rb', 1)
 
3528
            test = TestInOtherProcess(stream, pid)
 
3529
            result.append(test)
 
3530
    return result
 
3531
 
 
3532
 
 
3533
def reinvoke_for_tests(suite):
 
3534
    """Take suite and start up one runner per CPU using subprocess().
 
3535
 
 
3536
    :return: An iterable of TestCase-like objects which can each have
 
3537
        run(result) called on them to feed tests to result.
 
3538
    """
 
3539
    concurrency = osutils.local_concurrency()
 
3540
    result = []
 
3541
    from subunit import ProtocolTestCase
 
3542
    class TestInSubprocess(ProtocolTestCase):
 
3543
        def __init__(self, process, name):
 
3544
            ProtocolTestCase.__init__(self, process.stdout)
 
3545
            self.process = process
 
3546
            self.process.stdin.close()
 
3547
            self.name = name
 
3548
 
 
3549
        def run(self, result):
 
3550
            try:
 
3551
                ProtocolTestCase.run(self, result)
 
3552
            finally:
 
3553
                self.process.wait()
 
3554
                os.unlink(self.name)
 
3555
            # print "pid %d finished" % finished_process
 
3556
    test_blocks = partition_tests(suite, concurrency)
 
3557
    for process_tests in test_blocks:
 
3558
        # ugly; currently reimplement rather than reuses TestCase methods.
 
3559
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
3560
        if not os.path.isfile(bzr_path):
 
3561
            # We are probably installed. Assume sys.argv is the right file
 
3562
            bzr_path = sys.argv[0]
 
3563
        bzr_path = [bzr_path]
 
3564
        if sys.platform == "win32":
 
3565
            # if we're on windows, we can't execute the bzr script directly
 
3566
            bzr_path = [sys.executable] + bzr_path
 
3567
        fd, test_list_file_name = tempfile.mkstemp()
 
3568
        test_list_file = os.fdopen(fd, 'wb', 1)
 
3569
        for test in process_tests:
 
3570
            test_list_file.write(test.id() + '\n')
 
3571
        test_list_file.close()
 
3572
        try:
 
3573
            argv = bzr_path + ['selftest', '--load-list', test_list_file_name,
 
3574
                '--subunit']
 
3575
            if '--no-plugins' in sys.argv:
 
3576
                argv.append('--no-plugins')
 
3577
            # stderr=subprocess.STDOUT would be ideal, but until we prevent
 
3578
            # noise on stderr it can interrupt the subunit protocol.
 
3579
            process = subprocess.Popen(argv, stdin=subprocess.PIPE,
 
3580
                                      stdout=subprocess.PIPE,
 
3581
                                      stderr=subprocess.PIPE,
 
3582
                                      bufsize=1)
 
3583
            test = TestInSubprocess(process, test_list_file_name)
 
3584
            result.append(test)
 
3585
        except:
 
3586
            os.unlink(test_list_file_name)
 
3587
            raise
 
3588
    return result
 
3589
 
 
3590
 
 
3591
class ProfileResult(testtools.ExtendedToOriginalDecorator):
 
3592
    """Generate profiling data for all activity between start and success.
 
3593
    
 
3594
    The profile data is appended to the test's _benchcalls attribute and can
 
3595
    be accessed by the forwarded-to TestResult.
 
3596
 
 
3597
    While it might be cleaner do accumulate this in stopTest, addSuccess is
 
3598
    where our existing output support for lsprof is, and this class aims to
 
3599
    fit in with that: while it could be moved it's not necessary to accomplish
 
3600
    test profiling, nor would it be dramatically cleaner.
 
3601
    """
 
3602
 
 
3603
    def startTest(self, test):
 
3604
        self.profiler = bzrlib.lsprof.BzrProfiler()
 
3605
        # Prevent deadlocks in tests that use lsprof: those tests will
 
3606
        # unavoidably fail.
 
3607
        bzrlib.lsprof.BzrProfiler.profiler_block = 0
 
3608
        self.profiler.start()
 
3609
        testtools.ExtendedToOriginalDecorator.startTest(self, test)
 
3610
 
 
3611
    def addSuccess(self, test):
 
3612
        stats = self.profiler.stop()
 
3613
        try:
 
3614
            calls = test._benchcalls
 
3615
        except AttributeError:
 
3616
            test._benchcalls = []
 
3617
            calls = test._benchcalls
 
3618
        calls.append(((test.id(), "", ""), stats))
 
3619
        testtools.ExtendedToOriginalDecorator.addSuccess(self, test)
 
3620
 
 
3621
    def stopTest(self, test):
 
3622
        testtools.ExtendedToOriginalDecorator.stopTest(self, test)
 
3623
        self.profiler = None
 
3624
 
 
3625
 
 
3626
# Controlled by "bzr selftest -E=..." option
 
3627
# Currently supported:
 
3628
#   -Eallow_debug           Will no longer clear debug.debug_flags() so it
 
3629
#                           preserves any flags supplied at the command line.
 
3630
#   -Edisable_lock_checks   Turns errors in mismatched locks into simple prints
 
3631
#                           rather than failing tests. And no longer raise
 
3632
#                           LockContention when fctnl locks are not being used
 
3633
#                           with proper exclusion rules.
 
3634
#   -Ethreads               Will display thread ident at creation/join time to
 
3635
#                           help track thread leaks
 
3636
 
 
3637
#   -Econfig_stats          Will collect statistics using addDetail
 
3638
selftest_debug_flags = set()
1723
3639
 
1724
3640
 
1725
3641
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
1726
 
             keep_output=False,
1727
3642
             transport=None,
1728
3643
             test_suite_factory=None,
1729
3644
             lsprof_timed=None,
1730
3645
             bench_history=None,
1731
 
             matching_tests_first=None):
 
3646
             matching_tests_first=None,
 
3647
             list_only=False,
 
3648
             random_seed=None,
 
3649
             exclude_pattern=None,
 
3650
             strict=False,
 
3651
             load_list=None,
 
3652
             debug_flags=None,
 
3653
             starting_with=None,
 
3654
             runner_class=None,
 
3655
             suite_decorators=None,
 
3656
             stream=None,
 
3657
             lsprof_tests=False,
 
3658
             ):
1732
3659
    """Run the whole test suite under the enhanced runner"""
1733
3660
    # XXX: Very ugly way to do this...
1734
3661
    # Disable warning about old formats because we don't want it to disturb
1741
3668
        transport = default_transport
1742
3669
    old_transport = default_transport
1743
3670
    default_transport = transport
 
3671
    global selftest_debug_flags
 
3672
    old_debug_flags = selftest_debug_flags
 
3673
    if debug_flags is not None:
 
3674
        selftest_debug_flags = set(debug_flags)
1744
3675
    try:
 
3676
        if load_list is None:
 
3677
            keep_only = None
 
3678
        else:
 
3679
            keep_only = load_test_id_list(load_list)
 
3680
        if starting_with:
 
3681
            starting_with = [test_prefix_alias_registry.resolve_alias(start)
 
3682
                             for start in starting_with]
1745
3683
        if test_suite_factory is None:
1746
 
            suite = test_suite()
 
3684
            # Reduce loading time by loading modules based on the starting_with
 
3685
            # patterns.
 
3686
            suite = test_suite(keep_only, starting_with)
1747
3687
        else:
1748
3688
            suite = test_suite_factory()
 
3689
        if starting_with:
 
3690
            # But always filter as requested.
 
3691
            suite = filter_suite_by_id_startswith(suite, starting_with)
 
3692
        result_decorators = []
 
3693
        if lsprof_tests:
 
3694
            result_decorators.append(ProfileResult)
1749
3695
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
1750
 
                     stop_on_failure=stop_on_failure, keep_output=keep_output,
 
3696
                     stop_on_failure=stop_on_failure,
1751
3697
                     transport=transport,
1752
3698
                     lsprof_timed=lsprof_timed,
1753
3699
                     bench_history=bench_history,
1754
 
                     matching_tests_first=matching_tests_first)
 
3700
                     matching_tests_first=matching_tests_first,
 
3701
                     list_only=list_only,
 
3702
                     random_seed=random_seed,
 
3703
                     exclude_pattern=exclude_pattern,
 
3704
                     strict=strict,
 
3705
                     runner_class=runner_class,
 
3706
                     suite_decorators=suite_decorators,
 
3707
                     stream=stream,
 
3708
                     result_decorators=result_decorators,
 
3709
                     )
1755
3710
    finally:
1756
3711
        default_transport = old_transport
1757
 
 
1758
 
 
1759
 
def test_suite():
 
3712
        selftest_debug_flags = old_debug_flags
 
3713
 
 
3714
 
 
3715
def load_test_id_list(file_name):
 
3716
    """Load a test id list from a text file.
 
3717
 
 
3718
    The format is one test id by line.  No special care is taken to impose
 
3719
    strict rules, these test ids are used to filter the test suite so a test id
 
3720
    that do not match an existing test will do no harm. This allows user to add
 
3721
    comments, leave blank lines, etc.
 
3722
    """
 
3723
    test_list = []
 
3724
    try:
 
3725
        ftest = open(file_name, 'rt')
 
3726
    except IOError, e:
 
3727
        if e.errno != errno.ENOENT:
 
3728
            raise
 
3729
        else:
 
3730
            raise errors.NoSuchFile(file_name)
 
3731
 
 
3732
    for test_name in ftest.readlines():
 
3733
        test_list.append(test_name.strip())
 
3734
    ftest.close()
 
3735
    return test_list
 
3736
 
 
3737
 
 
3738
def suite_matches_id_list(test_suite, id_list):
 
3739
    """Warns about tests not appearing or appearing more than once.
 
3740
 
 
3741
    :param test_suite: A TestSuite object.
 
3742
    :param test_id_list: The list of test ids that should be found in
 
3743
         test_suite.
 
3744
 
 
3745
    :return: (absents, duplicates) absents is a list containing the test found
 
3746
        in id_list but not in test_suite, duplicates is a list containing the
 
3747
        test found multiple times in test_suite.
 
3748
 
 
3749
    When using a prefined test id list, it may occurs that some tests do not
 
3750
    exist anymore or that some tests use the same id. This function warns the
 
3751
    tester about potential problems in his workflow (test lists are volatile)
 
3752
    or in the test suite itself (using the same id for several tests does not
 
3753
    help to localize defects).
 
3754
    """
 
3755
    # Build a dict counting id occurrences
 
3756
    tests = dict()
 
3757
    for test in iter_suite_tests(test_suite):
 
3758
        id = test.id()
 
3759
        tests[id] = tests.get(id, 0) + 1
 
3760
 
 
3761
    not_found = []
 
3762
    duplicates = []
 
3763
    for id in id_list:
 
3764
        occurs = tests.get(id, 0)
 
3765
        if not occurs:
 
3766
            not_found.append(id)
 
3767
        elif occurs > 1:
 
3768
            duplicates.append(id)
 
3769
 
 
3770
    return not_found, duplicates
 
3771
 
 
3772
 
 
3773
class TestIdList(object):
 
3774
    """Test id list to filter a test suite.
 
3775
 
 
3776
    Relying on the assumption that test ids are built as:
 
3777
    <module>[.<class>.<method>][(<param>+)], <module> being in python dotted
 
3778
    notation, this class offers methods to :
 
3779
    - avoid building a test suite for modules not refered to in the test list,
 
3780
    - keep only the tests listed from the module test suite.
 
3781
    """
 
3782
 
 
3783
    def __init__(self, test_id_list):
 
3784
        # When a test suite needs to be filtered against us we compare test ids
 
3785
        # for equality, so a simple dict offers a quick and simple solution.
 
3786
        self.tests = dict().fromkeys(test_id_list, True)
 
3787
 
 
3788
        # While unittest.TestCase have ids like:
 
3789
        # <module>.<class>.<method>[(<param+)],
 
3790
        # doctest.DocTestCase can have ids like:
 
3791
        # <module>
 
3792
        # <module>.<class>
 
3793
        # <module>.<function>
 
3794
        # <module>.<class>.<method>
 
3795
 
 
3796
        # Since we can't predict a test class from its name only, we settle on
 
3797
        # a simple constraint: a test id always begins with its module name.
 
3798
 
 
3799
        modules = {}
 
3800
        for test_id in test_id_list:
 
3801
            parts = test_id.split('.')
 
3802
            mod_name = parts.pop(0)
 
3803
            modules[mod_name] = True
 
3804
            for part in parts:
 
3805
                mod_name += '.' + part
 
3806
                modules[mod_name] = True
 
3807
        self.modules = modules
 
3808
 
 
3809
    def refers_to(self, module_name):
 
3810
        """Is there tests for the module or one of its sub modules."""
 
3811
        return self.modules.has_key(module_name)
 
3812
 
 
3813
    def includes(self, test_id):
 
3814
        return self.tests.has_key(test_id)
 
3815
 
 
3816
 
 
3817
class TestPrefixAliasRegistry(registry.Registry):
 
3818
    """A registry for test prefix aliases.
 
3819
 
 
3820
    This helps implement shorcuts for the --starting-with selftest
 
3821
    option. Overriding existing prefixes is not allowed but not fatal (a
 
3822
    warning will be emitted).
 
3823
    """
 
3824
 
 
3825
    def register(self, key, obj, help=None, info=None,
 
3826
                 override_existing=False):
 
3827
        """See Registry.register.
 
3828
 
 
3829
        Trying to override an existing alias causes a warning to be emitted,
 
3830
        not a fatal execption.
 
3831
        """
 
3832
        try:
 
3833
            super(TestPrefixAliasRegistry, self).register(
 
3834
                key, obj, help=help, info=info, override_existing=False)
 
3835
        except KeyError:
 
3836
            actual = self.get(key)
 
3837
            trace.note(
 
3838
                'Test prefix alias %s is already used for %s, ignoring %s'
 
3839
                % (key, actual, obj))
 
3840
 
 
3841
    def resolve_alias(self, id_start):
 
3842
        """Replace the alias by the prefix in the given string.
 
3843
 
 
3844
        Using an unknown prefix is an error to help catching typos.
 
3845
        """
 
3846
        parts = id_start.split('.')
 
3847
        try:
 
3848
            parts[0] = self.get(parts[0])
 
3849
        except KeyError:
 
3850
            raise errors.BzrCommandError(
 
3851
                '%s is not a known test prefix alias' % parts[0])
 
3852
        return '.'.join(parts)
 
3853
 
 
3854
 
 
3855
test_prefix_alias_registry = TestPrefixAliasRegistry()
 
3856
"""Registry of test prefix aliases."""
 
3857
 
 
3858
 
 
3859
# This alias allows to detect typos ('bzrlin.') by making all valid test ids
 
3860
# appear prefixed ('bzrlib.' is "replaced" by 'bzrlib.').
 
3861
test_prefix_alias_registry.register('bzrlib', 'bzrlib')
 
3862
 
 
3863
# Obvious highest levels prefixes, feel free to add your own via a plugin
 
3864
test_prefix_alias_registry.register('bd', 'bzrlib.doc')
 
3865
test_prefix_alias_registry.register('bu', 'bzrlib.utils')
 
3866
test_prefix_alias_registry.register('bt', 'bzrlib.tests')
 
3867
test_prefix_alias_registry.register('bb', 'bzrlib.tests.blackbox')
 
3868
test_prefix_alias_registry.register('bp', 'bzrlib.plugins')
 
3869
 
 
3870
 
 
3871
def _test_suite_testmod_names():
 
3872
    """Return the standard list of test module names to test."""
 
3873
    return [
 
3874
        'bzrlib.doc',
 
3875
        'bzrlib.tests.blackbox',
 
3876
        'bzrlib.tests.commands',
 
3877
        'bzrlib.tests.doc_generate',
 
3878
        'bzrlib.tests.per_branch',
 
3879
        'bzrlib.tests.per_bzrdir',
 
3880
        'bzrlib.tests.per_controldir',
 
3881
        'bzrlib.tests.per_controldir_colo',
 
3882
        'bzrlib.tests.per_foreign_vcs',
 
3883
        'bzrlib.tests.per_interrepository',
 
3884
        'bzrlib.tests.per_intertree',
 
3885
        'bzrlib.tests.per_inventory',
 
3886
        'bzrlib.tests.per_interbranch',
 
3887
        'bzrlib.tests.per_lock',
 
3888
        'bzrlib.tests.per_merger',
 
3889
        'bzrlib.tests.per_transport',
 
3890
        'bzrlib.tests.per_tree',
 
3891
        'bzrlib.tests.per_pack_repository',
 
3892
        'bzrlib.tests.per_repository',
 
3893
        'bzrlib.tests.per_repository_chk',
 
3894
        'bzrlib.tests.per_repository_reference',
 
3895
        'bzrlib.tests.per_repository_vf',
 
3896
        'bzrlib.tests.per_uifactory',
 
3897
        'bzrlib.tests.per_versionedfile',
 
3898
        'bzrlib.tests.per_workingtree',
 
3899
        'bzrlib.tests.test__annotator',
 
3900
        'bzrlib.tests.test__bencode',
 
3901
        'bzrlib.tests.test__btree_serializer',
 
3902
        'bzrlib.tests.test__chk_map',
 
3903
        'bzrlib.tests.test__dirstate_helpers',
 
3904
        'bzrlib.tests.test__groupcompress',
 
3905
        'bzrlib.tests.test__known_graph',
 
3906
        'bzrlib.tests.test__rio',
 
3907
        'bzrlib.tests.test__simple_set',
 
3908
        'bzrlib.tests.test__static_tuple',
 
3909
        'bzrlib.tests.test__walkdirs_win32',
 
3910
        'bzrlib.tests.test_ancestry',
 
3911
        'bzrlib.tests.test_annotate',
 
3912
        'bzrlib.tests.test_api',
 
3913
        'bzrlib.tests.test_atomicfile',
 
3914
        'bzrlib.tests.test_bad_files',
 
3915
        'bzrlib.tests.test_bisect_multi',
 
3916
        'bzrlib.tests.test_branch',
 
3917
        'bzrlib.tests.test_branchbuilder',
 
3918
        'bzrlib.tests.test_btree_index',
 
3919
        'bzrlib.tests.test_bugtracker',
 
3920
        'bzrlib.tests.test_bundle',
 
3921
        'bzrlib.tests.test_bzrdir',
 
3922
        'bzrlib.tests.test__chunks_to_lines',
 
3923
        'bzrlib.tests.test_cache_utf8',
 
3924
        'bzrlib.tests.test_chk_map',
 
3925
        'bzrlib.tests.test_chk_serializer',
 
3926
        'bzrlib.tests.test_chunk_writer',
 
3927
        'bzrlib.tests.test_clean_tree',
 
3928
        'bzrlib.tests.test_cleanup',
 
3929
        'bzrlib.tests.test_cmdline',
 
3930
        'bzrlib.tests.test_commands',
 
3931
        'bzrlib.tests.test_commit',
 
3932
        'bzrlib.tests.test_commit_merge',
 
3933
        'bzrlib.tests.test_config',
 
3934
        'bzrlib.tests.test_conflicts',
 
3935
        'bzrlib.tests.test_controldir',
 
3936
        'bzrlib.tests.test_counted_lock',
 
3937
        'bzrlib.tests.test_crash',
 
3938
        'bzrlib.tests.test_decorators',
 
3939
        'bzrlib.tests.test_delta',
 
3940
        'bzrlib.tests.test_debug',
 
3941
        'bzrlib.tests.test_diff',
 
3942
        'bzrlib.tests.test_directory_service',
 
3943
        'bzrlib.tests.test_dirstate',
 
3944
        'bzrlib.tests.test_email_message',
 
3945
        'bzrlib.tests.test_eol_filters',
 
3946
        'bzrlib.tests.test_errors',
 
3947
        'bzrlib.tests.test_export',
 
3948
        'bzrlib.tests.test_export_pot',
 
3949
        'bzrlib.tests.test_extract',
 
3950
        'bzrlib.tests.test_features',
 
3951
        'bzrlib.tests.test_fetch',
 
3952
        'bzrlib.tests.test_fixtures',
 
3953
        'bzrlib.tests.test_fifo_cache',
 
3954
        'bzrlib.tests.test_filters',
 
3955
        'bzrlib.tests.test_filter_tree',
 
3956
        'bzrlib.tests.test_ftp_transport',
 
3957
        'bzrlib.tests.test_foreign',
 
3958
        'bzrlib.tests.test_generate_docs',
 
3959
        'bzrlib.tests.test_generate_ids',
 
3960
        'bzrlib.tests.test_globbing',
 
3961
        'bzrlib.tests.test_gpg',
 
3962
        'bzrlib.tests.test_graph',
 
3963
        'bzrlib.tests.test_groupcompress',
 
3964
        'bzrlib.tests.test_hashcache',
 
3965
        'bzrlib.tests.test_help',
 
3966
        'bzrlib.tests.test_hooks',
 
3967
        'bzrlib.tests.test_http',
 
3968
        'bzrlib.tests.test_http_response',
 
3969
        'bzrlib.tests.test_https_ca_bundle',
 
3970
        'bzrlib.tests.test_i18n',
 
3971
        'bzrlib.tests.test_identitymap',
 
3972
        'bzrlib.tests.test_ignores',
 
3973
        'bzrlib.tests.test_index',
 
3974
        'bzrlib.tests.test_import_tariff',
 
3975
        'bzrlib.tests.test_info',
 
3976
        'bzrlib.tests.test_inv',
 
3977
        'bzrlib.tests.test_inventory_delta',
 
3978
        'bzrlib.tests.test_knit',
 
3979
        'bzrlib.tests.test_lazy_import',
 
3980
        'bzrlib.tests.test_lazy_regex',
 
3981
        'bzrlib.tests.test_library_state',
 
3982
        'bzrlib.tests.test_lock',
 
3983
        'bzrlib.tests.test_lockable_files',
 
3984
        'bzrlib.tests.test_lockdir',
 
3985
        'bzrlib.tests.test_log',
 
3986
        'bzrlib.tests.test_lru_cache',
 
3987
        'bzrlib.tests.test_lsprof',
 
3988
        'bzrlib.tests.test_mail_client',
 
3989
        'bzrlib.tests.test_matchers',
 
3990
        'bzrlib.tests.test_memorytree',
 
3991
        'bzrlib.tests.test_merge',
 
3992
        'bzrlib.tests.test_merge3',
 
3993
        'bzrlib.tests.test_merge_core',
 
3994
        'bzrlib.tests.test_merge_directive',
 
3995
        'bzrlib.tests.test_mergetools',
 
3996
        'bzrlib.tests.test_missing',
 
3997
        'bzrlib.tests.test_msgeditor',
 
3998
        'bzrlib.tests.test_multiparent',
 
3999
        'bzrlib.tests.test_mutabletree',
 
4000
        'bzrlib.tests.test_nonascii',
 
4001
        'bzrlib.tests.test_options',
 
4002
        'bzrlib.tests.test_osutils',
 
4003
        'bzrlib.tests.test_osutils_encodings',
 
4004
        'bzrlib.tests.test_pack',
 
4005
        'bzrlib.tests.test_patch',
 
4006
        'bzrlib.tests.test_patches',
 
4007
        'bzrlib.tests.test_permissions',
 
4008
        'bzrlib.tests.test_plugins',
 
4009
        'bzrlib.tests.test_progress',
 
4010
        'bzrlib.tests.test_pyutils',
 
4011
        'bzrlib.tests.test_read_bundle',
 
4012
        'bzrlib.tests.test_reconcile',
 
4013
        'bzrlib.tests.test_reconfigure',
 
4014
        'bzrlib.tests.test_registry',
 
4015
        'bzrlib.tests.test_remote',
 
4016
        'bzrlib.tests.test_rename_map',
 
4017
        'bzrlib.tests.test_repository',
 
4018
        'bzrlib.tests.test_revert',
 
4019
        'bzrlib.tests.test_revision',
 
4020
        'bzrlib.tests.test_revisionspec',
 
4021
        'bzrlib.tests.test_revisiontree',
 
4022
        'bzrlib.tests.test_rio',
 
4023
        'bzrlib.tests.test_rules',
 
4024
        'bzrlib.tests.test_sampler',
 
4025
        'bzrlib.tests.test_scenarios',
 
4026
        'bzrlib.tests.test_script',
 
4027
        'bzrlib.tests.test_selftest',
 
4028
        'bzrlib.tests.test_serializer',
 
4029
        'bzrlib.tests.test_setup',
 
4030
        'bzrlib.tests.test_sftp_transport',
 
4031
        'bzrlib.tests.test_shelf',
 
4032
        'bzrlib.tests.test_shelf_ui',
 
4033
        'bzrlib.tests.test_smart',
 
4034
        'bzrlib.tests.test_smart_add',
 
4035
        'bzrlib.tests.test_smart_request',
 
4036
        'bzrlib.tests.test_smart_transport',
 
4037
        'bzrlib.tests.test_smtp_connection',
 
4038
        'bzrlib.tests.test_source',
 
4039
        'bzrlib.tests.test_ssh_transport',
 
4040
        'bzrlib.tests.test_status',
 
4041
        'bzrlib.tests.test_store',
 
4042
        'bzrlib.tests.test_strace',
 
4043
        'bzrlib.tests.test_subsume',
 
4044
        'bzrlib.tests.test_switch',
 
4045
        'bzrlib.tests.test_symbol_versioning',
 
4046
        'bzrlib.tests.test_tag',
 
4047
        'bzrlib.tests.test_test_server',
 
4048
        'bzrlib.tests.test_testament',
 
4049
        'bzrlib.tests.test_textfile',
 
4050
        'bzrlib.tests.test_textmerge',
 
4051
        'bzrlib.tests.test_cethread',
 
4052
        'bzrlib.tests.test_timestamp',
 
4053
        'bzrlib.tests.test_trace',
 
4054
        'bzrlib.tests.test_transactions',
 
4055
        'bzrlib.tests.test_transform',
 
4056
        'bzrlib.tests.test_transport',
 
4057
        'bzrlib.tests.test_transport_log',
 
4058
        'bzrlib.tests.test_tree',
 
4059
        'bzrlib.tests.test_treebuilder',
 
4060
        'bzrlib.tests.test_treeshape',
 
4061
        'bzrlib.tests.test_tsort',
 
4062
        'bzrlib.tests.test_tuned_gzip',
 
4063
        'bzrlib.tests.test_ui',
 
4064
        'bzrlib.tests.test_uncommit',
 
4065
        'bzrlib.tests.test_upgrade',
 
4066
        'bzrlib.tests.test_upgrade_stacked',
 
4067
        'bzrlib.tests.test_urlutils',
 
4068
        'bzrlib.tests.test_utextwrap',
 
4069
        'bzrlib.tests.test_version',
 
4070
        'bzrlib.tests.test_version_info',
 
4071
        'bzrlib.tests.test_versionedfile',
 
4072
        'bzrlib.tests.test_weave',
 
4073
        'bzrlib.tests.test_whitebox',
 
4074
        'bzrlib.tests.test_win32utils',
 
4075
        'bzrlib.tests.test_workingtree',
 
4076
        'bzrlib.tests.test_workingtree_4',
 
4077
        'bzrlib.tests.test_wsgi',
 
4078
        'bzrlib.tests.test_xml',
 
4079
        ]
 
4080
 
 
4081
 
 
4082
def _test_suite_modules_to_doctest():
 
4083
    """Return the list of modules to doctest."""
 
4084
    if __doc__ is None:
 
4085
        # GZ 2009-03-31: No docstrings with -OO so there's nothing to doctest
 
4086
        return []
 
4087
    return [
 
4088
        'bzrlib',
 
4089
        'bzrlib.branchbuilder',
 
4090
        'bzrlib.decorators',
 
4091
        'bzrlib.inventory',
 
4092
        'bzrlib.iterablefile',
 
4093
        'bzrlib.lockdir',
 
4094
        'bzrlib.merge3',
 
4095
        'bzrlib.option',
 
4096
        'bzrlib.pyutils',
 
4097
        'bzrlib.symbol_versioning',
 
4098
        'bzrlib.tests',
 
4099
        'bzrlib.tests.fixtures',
 
4100
        'bzrlib.timestamp',
 
4101
        'bzrlib.transport.http',
 
4102
        'bzrlib.version_info_formats.format_custom',
 
4103
        ]
 
4104
 
 
4105
 
 
4106
def test_suite(keep_only=None, starting_with=None):
1760
4107
    """Build and return TestSuite for the whole of bzrlib.
1761
 
    
 
4108
 
 
4109
    :param keep_only: A list of test ids limiting the suite returned.
 
4110
 
 
4111
    :param starting_with: An id limiting the suite returned to the tests
 
4112
         starting with it.
 
4113
 
1762
4114
    This function can be replaced if you need to change the default test
1763
4115
    suite on a global basis, but it is not encouraged.
1764
4116
    """
1765
 
    testmod_names = [
1766
 
                   'bzrlib.tests.test_ancestry',
1767
 
                   'bzrlib.tests.test_annotate',
1768
 
                   'bzrlib.tests.test_api',
1769
 
                   'bzrlib.tests.test_atomicfile',
1770
 
                   'bzrlib.tests.test_bad_files',
1771
 
                   'bzrlib.tests.test_branch',
1772
 
                   'bzrlib.tests.test_bundle',
1773
 
                   'bzrlib.tests.test_bzrdir',
1774
 
                   'bzrlib.tests.test_cache_utf8',
1775
 
                   'bzrlib.tests.test_commands',
1776
 
                   'bzrlib.tests.test_commit',
1777
 
                   'bzrlib.tests.test_commit_merge',
1778
 
                   'bzrlib.tests.test_config',
1779
 
                   'bzrlib.tests.test_conflicts',
1780
 
                   'bzrlib.tests.test_decorators',
1781
 
                   'bzrlib.tests.test_delta',
1782
 
                   'bzrlib.tests.test_diff',
1783
 
                   'bzrlib.tests.test_dirstate',
1784
 
                   'bzrlib.tests.test_doc_generate',
1785
 
                   'bzrlib.tests.test_errors',
1786
 
                   'bzrlib.tests.test_escaped_store',
1787
 
                   'bzrlib.tests.test_fetch',
1788
 
                   'bzrlib.tests.test_ftp_transport',
1789
 
                   'bzrlib.tests.test_generate_docs',
1790
 
                   'bzrlib.tests.test_generate_ids',
1791
 
                   'bzrlib.tests.test_globbing',
1792
 
                   'bzrlib.tests.test_gpg',
1793
 
                   'bzrlib.tests.test_graph',
1794
 
                   'bzrlib.tests.test_hashcache',
1795
 
                   'bzrlib.tests.test_http',
1796
 
                   'bzrlib.tests.test_http_response',
1797
 
                   'bzrlib.tests.test_identitymap',
1798
 
                   'bzrlib.tests.test_ignores',
1799
 
                   'bzrlib.tests.test_inv',
1800
 
                   'bzrlib.tests.test_knit',
1801
 
                   'bzrlib.tests.test_lazy_import',
1802
 
                   'bzrlib.tests.test_lazy_regex',
1803
 
                   'bzrlib.tests.test_lockdir',
1804
 
                   'bzrlib.tests.test_lockable_files',
1805
 
                   'bzrlib.tests.test_log',
1806
 
                   'bzrlib.tests.test_memorytree',
1807
 
                   'bzrlib.tests.test_merge',
1808
 
                   'bzrlib.tests.test_merge3',
1809
 
                   'bzrlib.tests.test_merge_core',
1810
 
                   'bzrlib.tests.test_missing',
1811
 
                   'bzrlib.tests.test_msgeditor',
1812
 
                   'bzrlib.tests.test_nonascii',
1813
 
                   'bzrlib.tests.test_options',
1814
 
                   'bzrlib.tests.test_osutils',
1815
 
                   'bzrlib.tests.test_osutils_encodings',
1816
 
                   'bzrlib.tests.test_patch',
1817
 
                   'bzrlib.tests.test_patches',
1818
 
                   'bzrlib.tests.test_permissions',
1819
 
                   'bzrlib.tests.test_plugins',
1820
 
                   'bzrlib.tests.test_progress',
1821
 
                   'bzrlib.tests.test_reconcile',
1822
 
                   'bzrlib.tests.test_registry',
1823
 
                   'bzrlib.tests.test_repository',
1824
 
                   'bzrlib.tests.test_revert',
1825
 
                   'bzrlib.tests.test_revision',
1826
 
                   'bzrlib.tests.test_revisionnamespaces',
1827
 
                   'bzrlib.tests.test_revisiontree',
1828
 
                   'bzrlib.tests.test_rio',
1829
 
                   'bzrlib.tests.test_sampler',
1830
 
                   'bzrlib.tests.test_selftest',
1831
 
                   'bzrlib.tests.test_setup',
1832
 
                   'bzrlib.tests.test_sftp_transport',
1833
 
                   'bzrlib.tests.test_smart_add',
1834
 
                   'bzrlib.tests.test_smart_transport',
1835
 
                   'bzrlib.tests.test_source',
1836
 
                   'bzrlib.tests.test_status',
1837
 
                   'bzrlib.tests.test_store',
1838
 
                   'bzrlib.tests.test_symbol_versioning',
1839
 
                   'bzrlib.tests.test_testament',
1840
 
                   'bzrlib.tests.test_textfile',
1841
 
                   'bzrlib.tests.test_textmerge',
1842
 
                   'bzrlib.tests.test_trace',
1843
 
                   'bzrlib.tests.test_transactions',
1844
 
                   'bzrlib.tests.test_transform',
1845
 
                   'bzrlib.tests.test_transport',
1846
 
                   'bzrlib.tests.test_tree',
1847
 
                   'bzrlib.tests.test_treebuilder',
1848
 
                   'bzrlib.tests.test_tsort',
1849
 
                   'bzrlib.tests.test_tuned_gzip',
1850
 
                   'bzrlib.tests.test_ui',
1851
 
                   'bzrlib.tests.test_upgrade',
1852
 
                   'bzrlib.tests.test_urlutils',
1853
 
                   'bzrlib.tests.test_versionedfile',
1854
 
                   'bzrlib.tests.test_version',
1855
 
                   'bzrlib.tests.test_version_info',
1856
 
                   'bzrlib.tests.test_weave',
1857
 
                   'bzrlib.tests.test_whitebox',
1858
 
                   'bzrlib.tests.test_workingtree',
1859
 
                   'bzrlib.tests.test_wsgi',
1860
 
                   'bzrlib.tests.test_xml',
1861
 
                   ]
1862
 
    test_transport_implementations = [
1863
 
        'bzrlib.tests.test_transport_implementations',
1864
 
        'bzrlib.tests.test_read_bundle',
1865
 
        ]
1866
 
    suite = TestUtil.TestSuite()
 
4117
 
1867
4118
    loader = TestUtil.TestLoader()
1868
 
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
1869
 
    from bzrlib.transport import TransportTestProviderAdapter
1870
 
    adapter = TransportTestProviderAdapter()
1871
 
    adapt_modules(test_transport_implementations, adapter, loader, suite)
1872
 
    for package in packages_to_test():
1873
 
        suite.addTest(package.test_suite())
1874
 
    for m in MODULES_TO_TEST:
1875
 
        suite.addTest(loader.loadTestsFromModule(m))
1876
 
    for m in MODULES_TO_DOCTEST:
 
4119
 
 
4120
    if keep_only is not None:
 
4121
        id_filter = TestIdList(keep_only)
 
4122
    if starting_with:
 
4123
        # We take precedence over keep_only because *at loading time* using
 
4124
        # both options means we will load less tests for the same final result.
 
4125
        def interesting_module(name):
 
4126
            for start in starting_with:
 
4127
                if (
 
4128
                    # Either the module name starts with the specified string
 
4129
                    name.startswith(start)
 
4130
                    # or it may contain tests starting with the specified string
 
4131
                    or start.startswith(name)
 
4132
                    ):
 
4133
                    return True
 
4134
            return False
 
4135
        loader = TestUtil.FilteredByModuleTestLoader(interesting_module)
 
4136
 
 
4137
    elif keep_only is not None:
 
4138
        loader = TestUtil.FilteredByModuleTestLoader(id_filter.refers_to)
 
4139
        def interesting_module(name):
 
4140
            return id_filter.refers_to(name)
 
4141
 
 
4142
    else:
 
4143
        loader = TestUtil.TestLoader()
 
4144
        def interesting_module(name):
 
4145
            # No filtering, all modules are interesting
 
4146
            return True
 
4147
 
 
4148
    suite = loader.suiteClass()
 
4149
 
 
4150
    # modules building their suite with loadTestsFromModuleNames
 
4151
    suite.addTest(loader.loadTestsFromModuleNames(_test_suite_testmod_names()))
 
4152
 
 
4153
    for mod in _test_suite_modules_to_doctest():
 
4154
        if not interesting_module(mod):
 
4155
            # No tests to keep here, move along
 
4156
            continue
1877
4157
        try:
1878
 
            suite.addTest(doctest.DocTestSuite(m))
 
4158
            # note that this really does mean "report only" -- doctest
 
4159
            # still runs the rest of the examples
 
4160
            doc_suite = IsolatedDocTestSuite(
 
4161
                mod, optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
1879
4162
        except ValueError, e:
1880
 
            print '**failed to get doctest for: %s\n%s' %(m,e)
 
4163
            print '**failed to get doctest for: %s\n%s' % (mod, e)
1881
4164
            raise
1882
 
    for name, plugin in bzrlib.plugin.all_plugins().items():
1883
 
        if getattr(plugin, 'test_suite', None) is not None:
1884
 
            default_encoding = sys.getdefaultencoding()
1885
 
            try:
1886
 
                plugin_suite = plugin.test_suite()
1887
 
            except ImportError, e:
1888
 
                bzrlib.trace.warning(
1889
 
                    'Unable to test plugin "%s": %s', name, e)
1890
 
            else:
1891
 
                suite.addTest(plugin_suite)
1892
 
            if default_encoding != sys.getdefaultencoding():
1893
 
                bzrlib.trace.warning(
1894
 
                    'Plugin "%s" tried to reset default encoding to: %s', name,
1895
 
                    sys.getdefaultencoding())
1896
 
                reload(sys)
1897
 
                sys.setdefaultencoding(default_encoding)
 
4165
        if len(doc_suite._tests) == 0:
 
4166
            raise errors.BzrError("no doctests found in %s" % (mod,))
 
4167
        suite.addTest(doc_suite)
 
4168
 
 
4169
    default_encoding = sys.getdefaultencoding()
 
4170
    for name, plugin in _mod_plugin.plugins().items():
 
4171
        if not interesting_module(plugin.module.__name__):
 
4172
            continue
 
4173
        plugin_suite = plugin.test_suite()
 
4174
        # We used to catch ImportError here and turn it into just a warning,
 
4175
        # but really if you don't have --no-plugins this should be a failure.
 
4176
        # mbp 20080213 - see http://bugs.launchpad.net/bugs/189771
 
4177
        if plugin_suite is None:
 
4178
            plugin_suite = plugin.load_plugin_tests(loader)
 
4179
        if plugin_suite is not None:
 
4180
            suite.addTest(plugin_suite)
 
4181
        if default_encoding != sys.getdefaultencoding():
 
4182
            trace.warning(
 
4183
                'Plugin "%s" tried to reset default encoding to: %s', name,
 
4184
                sys.getdefaultencoding())
 
4185
            reload(sys)
 
4186
            sys.setdefaultencoding(default_encoding)
 
4187
 
 
4188
    if keep_only is not None:
 
4189
        # Now that the referred modules have loaded their tests, keep only the
 
4190
        # requested ones.
 
4191
        suite = filter_suite_by_id_list(suite, id_filter)
 
4192
        # Do some sanity checks on the id_list filtering
 
4193
        not_found, duplicates = suite_matches_id_list(suite, keep_only)
 
4194
        if starting_with:
 
4195
            # The tester has used both keep_only and starting_with, so he is
 
4196
            # already aware that some tests are excluded from the list, there
 
4197
            # is no need to tell him which.
 
4198
            pass
 
4199
        else:
 
4200
            # Some tests mentioned in the list are not in the test suite. The
 
4201
            # list may be out of date, report to the tester.
 
4202
            for id in not_found:
 
4203
                trace.warning('"%s" not found in the test suite', id)
 
4204
        for id in duplicates:
 
4205
            trace.warning('"%s" is used as an id by several tests', id)
 
4206
 
1898
4207
    return suite
1899
4208
 
1900
4209
 
1901
 
def adapt_modules(mods_list, adapter, loader, suite):
1902
 
    """Adapt the modules in mods_list using adapter and add to suite."""
1903
 
    for test in iter_suite_tests(loader.loadTestsFromModuleNames(mods_list)):
1904
 
        suite.addTests(adapter.adapt(test))
1905
 
 
1906
 
 
1907
 
def clean_selftest_output(root=None, quiet=False):
1908
 
    """Remove all selftest output directories from root directory.
1909
 
 
1910
 
    :param  root:   root directory for clean
1911
 
                    (if ommitted or None then clean current directory).
1912
 
    :param  quiet:  suppress report about deleting directories
1913
 
    """
1914
 
    import re
1915
 
    import shutil
1916
 
 
1917
 
    re_dir = re.compile(r'''test\d\d\d\d\.tmp''')
1918
 
    if root is None:
1919
 
        root = u'.'
1920
 
    for i in os.listdir(root):
1921
 
        if os.path.isdir(i) and re_dir.match(i):
1922
 
            if not quiet:
1923
 
                print 'delete directory:', i
1924
 
            shutil.rmtree(i)
 
4210
def multiply_scenarios(*scenarios):
 
4211
    """Multiply two or more iterables of scenarios.
 
4212
 
 
4213
    It is safe to pass scenario generators or iterators.
 
4214
 
 
4215
    :returns: A list of compound scenarios: the cross-product of all 
 
4216
        scenarios, with the names concatenated and the parameters
 
4217
        merged together.
 
4218
    """
 
4219
    return reduce(_multiply_two_scenarios, map(list, scenarios))
 
4220
 
 
4221
 
 
4222
def _multiply_two_scenarios(scenarios_left, scenarios_right):
 
4223
    """Multiply two sets of scenarios.
 
4224
 
 
4225
    :returns: the cartesian product of the two sets of scenarios, that is
 
4226
        a scenario for every possible combination of a left scenario and a
 
4227
        right scenario.
 
4228
    """
 
4229
    return [
 
4230
        ('%s,%s' % (left_name, right_name),
 
4231
         dict(left_dict.items() + right_dict.items()))
 
4232
        for left_name, left_dict in scenarios_left
 
4233
        for right_name, right_dict in scenarios_right]
 
4234
 
 
4235
 
 
4236
def multiply_tests(tests, scenarios, result):
 
4237
    """Multiply tests_list by scenarios into result.
 
4238
 
 
4239
    This is the core workhorse for test parameterisation.
 
4240
 
 
4241
    Typically the load_tests() method for a per-implementation test suite will
 
4242
    call multiply_tests and return the result.
 
4243
 
 
4244
    :param tests: The tests to parameterise.
 
4245
    :param scenarios: The scenarios to apply: pairs of (scenario_name,
 
4246
        scenario_param_dict).
 
4247
    :param result: A TestSuite to add created tests to.
 
4248
 
 
4249
    This returns the passed in result TestSuite with the cross product of all
 
4250
    the tests repeated once for each scenario.  Each test is adapted by adding
 
4251
    the scenario name at the end of its id(), and updating the test object's
 
4252
    __dict__ with the scenario_param_dict.
 
4253
 
 
4254
    >>> import bzrlib.tests.test_sampler
 
4255
    >>> r = multiply_tests(
 
4256
    ...     bzrlib.tests.test_sampler.DemoTest('test_nothing'),
 
4257
    ...     [('one', dict(param=1)),
 
4258
    ...      ('two', dict(param=2))],
 
4259
    ...     TestUtil.TestSuite())
 
4260
    >>> tests = list(iter_suite_tests(r))
 
4261
    >>> len(tests)
 
4262
    2
 
4263
    >>> tests[0].id()
 
4264
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
 
4265
    >>> tests[0].param
 
4266
    1
 
4267
    >>> tests[1].param
 
4268
    2
 
4269
    """
 
4270
    for test in iter_suite_tests(tests):
 
4271
        apply_scenarios(test, scenarios, result)
 
4272
    return result
 
4273
 
 
4274
 
 
4275
def apply_scenarios(test, scenarios, result):
 
4276
    """Apply the scenarios in scenarios to test and add to result.
 
4277
 
 
4278
    :param test: The test to apply scenarios to.
 
4279
    :param scenarios: An iterable of scenarios to apply to test.
 
4280
    :return: result
 
4281
    :seealso: apply_scenario
 
4282
    """
 
4283
    for scenario in scenarios:
 
4284
        result.addTest(apply_scenario(test, scenario))
 
4285
    return result
 
4286
 
 
4287
 
 
4288
def apply_scenario(test, scenario):
 
4289
    """Copy test and apply scenario to it.
 
4290
 
 
4291
    :param test: A test to adapt.
 
4292
    :param scenario: A tuple describing the scenarion.
 
4293
        The first element of the tuple is the new test id.
 
4294
        The second element is a dict containing attributes to set on the
 
4295
        test.
 
4296
    :return: The adapted test.
 
4297
    """
 
4298
    new_id = "%s(%s)" % (test.id(), scenario[0])
 
4299
    new_test = clone_test(test, new_id)
 
4300
    for name, value in scenario[1].items():
 
4301
        setattr(new_test, name, value)
 
4302
    return new_test
 
4303
 
 
4304
 
 
4305
def clone_test(test, new_id):
 
4306
    """Clone a test giving it a new id.
 
4307
 
 
4308
    :param test: The test to clone.
 
4309
    :param new_id: The id to assign to it.
 
4310
    :return: The new test.
 
4311
    """
 
4312
    new_test = copy.copy(test)
 
4313
    new_test.id = lambda: new_id
 
4314
    # XXX: Workaround <https://bugs.launchpad.net/testtools/+bug/637725>, which
 
4315
    # causes cloned tests to share the 'details' dict.  This makes it hard to
 
4316
    # read the test output for parameterized tests, because tracebacks will be
 
4317
    # associated with irrelevant tests.
 
4318
    try:
 
4319
        details = new_test._TestCase__details
 
4320
    except AttributeError:
 
4321
        # must be a different version of testtools than expected.  Do nothing.
 
4322
        pass
 
4323
    else:
 
4324
        # Reset the '__details' dict.
 
4325
        new_test._TestCase__details = {}
 
4326
    return new_test
 
4327
 
 
4328
 
 
4329
def permute_tests_for_extension(standard_tests, loader, py_module_name,
 
4330
                                ext_module_name):
 
4331
    """Helper for permutating tests against an extension module.
 
4332
 
 
4333
    This is meant to be used inside a modules 'load_tests()' function. It will
 
4334
    create 2 scenarios, and cause all tests in the 'standard_tests' to be run
 
4335
    against both implementations. Setting 'test.module' to the appropriate
 
4336
    module. See bzrlib.tests.test__chk_map.load_tests as an example.
 
4337
 
 
4338
    :param standard_tests: A test suite to permute
 
4339
    :param loader: A TestLoader
 
4340
    :param py_module_name: The python path to a python module that can always
 
4341
        be loaded, and will be considered the 'python' implementation. (eg
 
4342
        'bzrlib._chk_map_py')
 
4343
    :param ext_module_name: The python path to an extension module. If the
 
4344
        module cannot be loaded, a single test will be added, which notes that
 
4345
        the module is not available. If it can be loaded, all standard_tests
 
4346
        will be run against that module.
 
4347
    :return: (suite, feature) suite is a test-suite that has all the permuted
 
4348
        tests. feature is the Feature object that can be used to determine if
 
4349
        the module is available.
 
4350
    """
 
4351
 
 
4352
    from bzrlib.tests.features import ModuleAvailableFeature
 
4353
    py_module = pyutils.get_named_object(py_module_name)
 
4354
    scenarios = [
 
4355
        ('python', {'module': py_module}),
 
4356
    ]
 
4357
    suite = loader.suiteClass()
 
4358
    feature = ModuleAvailableFeature(ext_module_name)
 
4359
    if feature.available():
 
4360
        scenarios.append(('C', {'module': feature.module}))
 
4361
    else:
 
4362
        # the compiled module isn't available, so we add a failing test
 
4363
        class FailWithoutFeature(TestCase):
 
4364
            def test_fail(self):
 
4365
                self.requireFeature(feature)
 
4366
        suite.addTest(loader.loadTestsFromTestCase(FailWithoutFeature))
 
4367
    result = multiply_tests(standard_tests, scenarios, suite)
 
4368
    return result, feature
 
4369
 
 
4370
 
 
4371
def _rmtree_temp_dir(dirname, test_id=None):
 
4372
    # If LANG=C we probably have created some bogus paths
 
4373
    # which rmtree(unicode) will fail to delete
 
4374
    # so make sure we are using rmtree(str) to delete everything
 
4375
    # except on win32, where rmtree(str) will fail
 
4376
    # since it doesn't have the property of byte-stream paths
 
4377
    # (they are either ascii or mbcs)
 
4378
    if sys.platform == 'win32':
 
4379
        # make sure we are using the unicode win32 api
 
4380
        dirname = unicode(dirname)
 
4381
    else:
 
4382
        dirname = dirname.encode(sys.getfilesystemencoding())
 
4383
    try:
 
4384
        osutils.rmtree(dirname)
 
4385
    except OSError, e:
 
4386
        # We don't want to fail here because some useful display will be lost
 
4387
        # otherwise. Polluting the tmp dir is bad, but not giving all the
 
4388
        # possible info to the test runner is even worse.
 
4389
        if test_id != None:
 
4390
            ui.ui_factory.clear_term()
 
4391
            sys.stderr.write('\nWhile running: %s\n' % (test_id,))
 
4392
        # Ugly, but the last thing we want here is fail, so bear with it.
 
4393
        printable_e = str(e).decode(osutils.get_user_encoding(), 'replace'
 
4394
                                    ).encode('ascii', 'replace')
 
4395
        sys.stderr.write('Unable to remove testing dir %s\n%s'
 
4396
                         % (os.path.basename(dirname), printable_e))
 
4397
 
 
4398
 
 
4399
def probe_unicode_in_user_encoding():
 
4400
    """Try to encode several unicode strings to use in unicode-aware tests.
 
4401
    Return first successfull match.
 
4402
 
 
4403
    :return:  (unicode value, encoded plain string value) or (None, None)
 
4404
    """
 
4405
    possible_vals = [u'm\xb5', u'\xe1', u'\u0410']
 
4406
    for uni_val in possible_vals:
 
4407
        try:
 
4408
            str_val = uni_val.encode(osutils.get_user_encoding())
 
4409
        except UnicodeEncodeError:
 
4410
            # Try a different character
 
4411
            pass
 
4412
        else:
 
4413
            return uni_val, str_val
 
4414
    return None, None
 
4415
 
 
4416
 
 
4417
def probe_bad_non_ascii(encoding):
 
4418
    """Try to find [bad] character with code [128..255]
 
4419
    that cannot be decoded to unicode in some encoding.
 
4420
    Return None if all non-ascii characters is valid
 
4421
    for given encoding.
 
4422
    """
 
4423
    for i in xrange(128, 256):
 
4424
        char = chr(i)
 
4425
        try:
 
4426
            char.decode(encoding)
 
4427
        except UnicodeDecodeError:
 
4428
            return char
 
4429
    return None
 
4430
 
 
4431
 
 
4432
# Only define SubUnitBzrRunner if subunit is available.
 
4433
try:
 
4434
    from subunit import TestProtocolClient
 
4435
    from subunit.test_results import AutoTimingTestResultDecorator
 
4436
    class SubUnitBzrProtocolClient(TestProtocolClient):
 
4437
 
 
4438
        def addSuccess(self, test, details=None):
 
4439
            # The subunit client always includes the details in the subunit
 
4440
            # stream, but we don't want to include it in ours.
 
4441
            if details is not None and 'log' in details:
 
4442
                del details['log']
 
4443
            return super(SubUnitBzrProtocolClient, self).addSuccess(
 
4444
                test, details)
 
4445
 
 
4446
    class SubUnitBzrRunner(TextTestRunner):
 
4447
        def run(self, test):
 
4448
            result = AutoTimingTestResultDecorator(
 
4449
                SubUnitBzrProtocolClient(self.stream))
 
4450
            test.run(result)
 
4451
            return result
 
4452
except ImportError:
 
4453
    pass
 
4454
 
 
4455
 
 
4456
@deprecated_function(deprecated_in((2, 5, 0)))
 
4457
def ModuleAvailableFeature(name):
 
4458
    from bzrlib.tests import features
 
4459
    return features.ModuleAvailableFeature(name)
 
4460