~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: John Arbash Meinel
  • Date: 2013-06-24 12:03:12 UTC
  • mfrom: (6437.77.2 2.5)
  • mto: This revision was merged to the branch mainline in revision 6579.
  • Revision ID: john@arbash-meinel.com-20130624120312-pmvck24x052csigx
Merge lp:bzr/2.5 r6515 to get the fix for bug #855155 (Dirstate.update_basis_by_delta)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 by Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005-2011 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
 
 
17
 
 
18
 
from testsweet import TestBase, run_suite, InTempDir
19
 
 
20
 
MODULES_TO_TEST = []
21
 
MODULES_TO_DOCTEST = []
22
 
 
23
 
def selftest():
24
 
    from unittest import TestLoader, TestSuite
25
 
    import bzrlib, bzrlib.store, bzrlib.inventory, bzrlib.branch
26
 
    import bzrlib.osutils, bzrlib.commands, bzrlib.merge3, bzrlib.plugin
27
 
    global MODULES_TO_TEST, MODULES_TO_DOCTEST
28
 
 
29
 
    import bzrlib.selftest.whitebox
30
 
    import bzrlib.selftest.blackbox
31
 
    import bzrlib.selftest.versioning
32
 
    import bzrlib.selftest.testmerge3
33
 
    import bzrlib.selftest.testhashcache
34
 
    import bzrlib.selftest.testrevisionnamespaces
35
 
    import bzrlib.selftest.testbranch
36
 
    import bzrlib.selftest.teststatus
37
 
    import bzrlib.merge_core
38
 
    from doctest import DocTestSuite
39
 
    import os
40
 
    import shutil
41
 
    import time
42
 
    import sys
43
 
    import unittest
44
 
 
45
 
    for m in (bzrlib.store, bzrlib.inventory, bzrlib.branch,
46
 
              bzrlib.osutils, bzrlib.commands, bzrlib.merge3):
47
 
        if m not in MODULES_TO_DOCTEST:
48
 
            MODULES_TO_DOCTEST.append(m)
49
 
            
50
 
    for m in (bzrlib.selftest.whitebox,
51
 
              bzrlib.selftest.versioning,
52
 
              bzrlib.selftest.testmerge3,
53
 
              bzrlib.selftest.testhashcache,
54
 
              bzrlib.selftest.teststatus,
55
 
              bzrlib.selftest.blackbox,
56
 
              bzrlib.selftest.testhashcache,
57
 
              bzrlib.selftest.testrevisionnamespaces,
58
 
              bzrlib.selftest.testbranch,
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
"""Testing framework extensions"""
 
18
 
 
19
from __future__ import absolute_import
 
20
 
 
21
# NOTE: Some classes in here use camelCaseNaming() rather than
 
22
# underscore_naming().  That's for consistency with unittest; it's not the
 
23
# general style of bzrlib.  Please continue that consistency when adding e.g.
 
24
# new assertFoo() methods.
 
25
 
 
26
import atexit
 
27
import codecs
 
28
import copy
 
29
from cStringIO import StringIO
 
30
import difflib
 
31
import doctest
 
32
import errno
 
33
import itertools
 
34
import logging
 
35
import os
 
36
import platform
 
37
import pprint
 
38
import random
 
39
import re
 
40
import shlex
 
41
import site
 
42
import stat
 
43
import subprocess
 
44
import sys
 
45
import tempfile
 
46
import threading
 
47
import time
 
48
import traceback
 
49
import unittest
 
50
import warnings
 
51
 
 
52
import testtools
 
53
# nb: check this before importing anything else from within it
 
54
_testtools_version = getattr(testtools, '__version__', ())
 
55
if _testtools_version < (0, 9, 5):
 
56
    raise ImportError("need at least testtools 0.9.5: %s is %r"
 
57
        % (testtools.__file__, _testtools_version))
 
58
from testtools import content
 
59
 
 
60
import bzrlib
 
61
from bzrlib import (
 
62
    branchbuilder,
 
63
    controldir,
 
64
    chk_map,
 
65
    commands as _mod_commands,
 
66
    config,
 
67
    i18n,
 
68
    debug,
 
69
    errors,
 
70
    hooks,
 
71
    lock as _mod_lock,
 
72
    lockdir,
 
73
    memorytree,
 
74
    osutils,
 
75
    plugin as _mod_plugin,
 
76
    pyutils,
 
77
    ui,
 
78
    urlutils,
 
79
    registry,
 
80
    symbol_versioning,
 
81
    trace,
 
82
    transport as _mod_transport,
 
83
    workingtree,
 
84
    )
 
85
try:
 
86
    import bzrlib.lsprof
 
87
except ImportError:
 
88
    # lsprof not available
 
89
    pass
 
90
from bzrlib.smart import client, request
 
91
from bzrlib.transport import (
 
92
    memory,
 
93
    pathfilter,
 
94
    )
 
95
from bzrlib.symbol_versioning import (
 
96
    deprecated_function,
 
97
    deprecated_in,
 
98
    )
 
99
from bzrlib.tests import (
 
100
    fixtures,
 
101
    test_server,
 
102
    TestUtil,
 
103
    treeshape,
 
104
    )
 
105
from bzrlib.ui import NullProgressView
 
106
from bzrlib.ui.text import TextUIFactory
 
107
from bzrlib.tests.features import _CompatabilityThunkFeature
 
108
 
 
109
# Mark this python module as being part of the implementation
 
110
# of unittest: this gives us better tracebacks where the last
 
111
# shown frame is the test code, not our assertXYZ.
 
112
__unittest = 1
 
113
 
 
114
default_transport = test_server.LocalURLServer
 
115
 
 
116
 
 
117
_unitialized_attr = object()
 
118
"""A sentinel needed to act as a default value in a method signature."""
 
119
 
 
120
 
 
121
# Subunit result codes, defined here to prevent a hard dependency on subunit.
 
122
SUBUNIT_SEEK_SET = 0
 
123
SUBUNIT_SEEK_CUR = 1
 
124
 
 
125
# These are intentionally brought into this namespace. That way plugins, etc
 
126
# can just "from bzrlib.tests import TestCase, TestLoader, etc"
 
127
TestSuite = TestUtil.TestSuite
 
128
TestLoader = TestUtil.TestLoader
 
129
 
 
130
# Tests should run in a clean and clearly defined environment. The goal is to
 
131
# keep them isolated from the running environment as mush as possible. The test
 
132
# framework ensures the variables defined below are set (or deleted if the
 
133
# value is None) before a test is run and reset to their original value after
 
134
# the test is run. Generally if some code depends on an environment variable,
 
135
# the tests should start without this variable in the environment. There are a
 
136
# few exceptions but you shouldn't violate this rule lightly.
 
137
isolated_environ = {
 
138
    'BZR_HOME': None,
 
139
    'HOME': None,
 
140
    'XDG_CONFIG_HOME': None,
 
141
    # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
 
142
    # tests do check our impls match APPDATA
 
143
    'BZR_EDITOR': None, # test_msgeditor manipulates this variable
 
144
    'VISUAL': None,
 
145
    'EDITOR': None,
 
146
    'BZR_EMAIL': None,
 
147
    'BZREMAIL': None, # may still be present in the environment
 
148
    'EMAIL': 'jrandom@example.com', # set EMAIL as bzr does not guess
 
149
    'BZR_PROGRESS_BAR': None,
 
150
    # This should trap leaks to ~/.bzr.log. This occurs when tests use TestCase
 
151
    # as a base class instead of TestCaseInTempDir. Tests inheriting from
 
152
    # TestCase should not use disk resources, BZR_LOG is one.
 
153
    'BZR_LOG': '/you-should-use-TestCaseInTempDir-if-you-need-a-log-file',
 
154
    'BZR_PLUGIN_PATH': None,
 
155
    'BZR_DISABLE_PLUGINS': None,
 
156
    'BZR_PLUGINS_AT': None,
 
157
    'BZR_CONCURRENCY': None,
 
158
    # Make sure that any text ui tests are consistent regardless of
 
159
    # the environment the test case is run in; you may want tests that
 
160
    # test other combinations.  'dumb' is a reasonable guess for tests
 
161
    # going to a pipe or a StringIO.
 
162
    'TERM': 'dumb',
 
163
    'LINES': '25',
 
164
    'COLUMNS': '80',
 
165
    'BZR_COLUMNS': '80',
 
166
    # Disable SSH Agent
 
167
    'SSH_AUTH_SOCK': None,
 
168
    # Proxies
 
169
    'http_proxy': None,
 
170
    'HTTP_PROXY': None,
 
171
    'https_proxy': None,
 
172
    'HTTPS_PROXY': None,
 
173
    'no_proxy': None,
 
174
    'NO_PROXY': None,
 
175
    'all_proxy': None,
 
176
    'ALL_PROXY': None,
 
177
    # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
 
178
    # least. If you do (care), please update this comment
 
179
    # -- vila 20080401
 
180
    'ftp_proxy': None,
 
181
    'FTP_PROXY': None,
 
182
    'BZR_REMOTE_PATH': None,
 
183
    # Generally speaking, we don't want apport reporting on crashes in
 
184
    # the test envirnoment unless we're specifically testing apport,
 
185
    # so that it doesn't leak into the real system environment.  We
 
186
    # use an env var so it propagates to subprocesses.
 
187
    'APPORT_DISABLE': '1',
 
188
    }
 
189
 
 
190
 
 
191
def override_os_environ(test, env=None):
 
192
    """Modify os.environ keeping a copy.
 
193
    
 
194
    :param test: A test instance
 
195
 
 
196
    :param env: A dict containing variable definitions to be installed
 
197
    """
 
198
    if env is None:
 
199
        env = isolated_environ
 
200
    test._original_os_environ = dict([(var, value)
 
201
                                      for var, value in os.environ.iteritems()])
 
202
    for var, value in env.iteritems():
 
203
        osutils.set_or_unset_env(var, value)
 
204
        if var not in test._original_os_environ:
 
205
            # The var is new, add it with a value of None, so
 
206
            # restore_os_environ will delete it
 
207
            test._original_os_environ[var] = None
 
208
 
 
209
 
 
210
def restore_os_environ(test):
 
211
    """Restore os.environ to its original state.
 
212
 
 
213
    :param test: A test instance previously passed to override_os_environ.
 
214
    """
 
215
    for var, value in test._original_os_environ.iteritems():
 
216
        # Restore the original value (or delete it if the value has been set to
 
217
        # None in override_os_environ).
 
218
        osutils.set_or_unset_env(var, value)
 
219
 
 
220
 
 
221
def _clear__type_equality_funcs(test):
 
222
    """Cleanup bound methods stored on TestCase instances
 
223
 
 
224
    Clear the dict breaking a few (mostly) harmless cycles in the affected
 
225
    unittests released with Python 2.6 and initial Python 2.7 versions.
 
226
 
 
227
    For a few revisions between Python 2.7.1 and Python 2.7.2 that annoyingly
 
228
    shipped in Oneiric, an object with no clear method was used, hence the
 
229
    extra complications, see bug 809048 for details.
 
230
    """
 
231
    type_equality_funcs = getattr(test, "_type_equality_funcs", None)
 
232
    if type_equality_funcs is not None:
 
233
        tef_clear = getattr(type_equality_funcs, "clear", None)
 
234
        if tef_clear is None:
 
235
            tef_instance_dict = getattr(type_equality_funcs, "__dict__", None)
 
236
            if tef_instance_dict is not None:
 
237
                tef_clear = tef_instance_dict.clear
 
238
        if tef_clear is not None:
 
239
            tef_clear()
 
240
 
 
241
 
 
242
class ExtendedTestResult(testtools.TextTestResult):
 
243
    """Accepts, reports and accumulates the results of running tests.
 
244
 
 
245
    Compared to the unittest version this class adds support for
 
246
    profiling, benchmarking, stopping as soon as a test fails,  and
 
247
    skipping tests.  There are further-specialized subclasses for
 
248
    different types of display.
 
249
 
 
250
    When a test finishes, in whatever way, it calls one of the addSuccess,
 
251
    addFailure or addError methods.  These in turn may redirect to a more
 
252
    specific case for the special test results supported by our extended
 
253
    tests.
 
254
 
 
255
    Note that just one of these objects is fed the results from many tests.
 
256
    """
 
257
 
 
258
    stop_early = False
 
259
 
 
260
    def __init__(self, stream, descriptions, verbosity,
 
261
                 bench_history=None,
 
262
                 strict=False,
 
263
                 ):
 
264
        """Construct new TestResult.
 
265
 
 
266
        :param bench_history: Optionally, a writable file object to accumulate
 
267
            benchmark results.
 
268
        """
 
269
        testtools.TextTestResult.__init__(self, stream)
 
270
        if bench_history is not None:
 
271
            from bzrlib.version import _get_bzr_source_tree
 
272
            src_tree = _get_bzr_source_tree()
 
273
            if src_tree:
 
274
                try:
 
275
                    revision_id = src_tree.get_parent_ids()[0]
 
276
                except IndexError:
 
277
                    # XXX: if this is a brand new tree, do the same as if there
 
278
                    # is no branch.
 
279
                    revision_id = ''
 
280
            else:
 
281
                # XXX: If there's no branch, what should we do?
 
282
                revision_id = ''
 
283
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
 
284
        self._bench_history = bench_history
 
285
        self.ui = ui.ui_factory
 
286
        self.num_tests = 0
 
287
        self.error_count = 0
 
288
        self.failure_count = 0
 
289
        self.known_failure_count = 0
 
290
        self.skip_count = 0
 
291
        self.not_applicable_count = 0
 
292
        self.unsupported = {}
 
293
        self.count = 0
 
294
        self._overall_start_time = time.time()
 
295
        self._strict = strict
 
296
        self._first_thread_leaker_id = None
 
297
        self._tests_leaking_threads_count = 0
 
298
        self._traceback_from_test = None
 
299
 
 
300
    def stopTestRun(self):
 
301
        run = self.testsRun
 
302
        actionTaken = "Ran"
 
303
        stopTime = time.time()
 
304
        timeTaken = stopTime - self.startTime
 
305
        # GZ 2010-07-19: Seems testtools has no printErrors method, and though
 
306
        #                the parent class method is similar have to duplicate
 
307
        self._show_list('ERROR', self.errors)
 
308
        self._show_list('FAIL', self.failures)
 
309
        self.stream.write(self.sep2)
 
310
        self.stream.write("%s %d test%s in %.3fs\n\n" % (actionTaken,
 
311
                            run, run != 1 and "s" or "", timeTaken))
 
312
        if not self.wasSuccessful():
 
313
            self.stream.write("FAILED (")
 
314
            failed, errored = map(len, (self.failures, self.errors))
 
315
            if failed:
 
316
                self.stream.write("failures=%d" % failed)
 
317
            if errored:
 
318
                if failed: self.stream.write(", ")
 
319
                self.stream.write("errors=%d" % errored)
 
320
            if self.known_failure_count:
 
321
                if failed or errored: self.stream.write(", ")
 
322
                self.stream.write("known_failure_count=%d" %
 
323
                    self.known_failure_count)
 
324
            self.stream.write(")\n")
 
325
        else:
 
326
            if self.known_failure_count:
 
327
                self.stream.write("OK (known_failures=%d)\n" %
 
328
                    self.known_failure_count)
 
329
            else:
 
330
                self.stream.write("OK\n")
 
331
        if self.skip_count > 0:
 
332
            skipped = self.skip_count
 
333
            self.stream.write('%d test%s skipped\n' %
 
334
                                (skipped, skipped != 1 and "s" or ""))
 
335
        if self.unsupported:
 
336
            for feature, count in sorted(self.unsupported.items()):
 
337
                self.stream.write("Missing feature '%s' skipped %d tests.\n" %
 
338
                    (feature, count))
 
339
        if self._strict:
 
340
            ok = self.wasStrictlySuccessful()
 
341
        else:
 
342
            ok = self.wasSuccessful()
 
343
        if self._first_thread_leaker_id:
 
344
            self.stream.write(
 
345
                '%s is leaking threads among %d leaking tests.\n' % (
 
346
                self._first_thread_leaker_id,
 
347
                self._tests_leaking_threads_count))
 
348
            # We don't report the main thread as an active one.
 
349
            self.stream.write(
 
350
                '%d non-main threads were left active in the end.\n'
 
351
                % (len(self._active_threads) - 1))
 
352
 
 
353
    def getDescription(self, test):
 
354
        return test.id()
 
355
 
 
356
    def _extractBenchmarkTime(self, testCase, details=None):
 
357
        """Add a benchmark time for the current test case."""
 
358
        if details and 'benchtime' in details:
 
359
            return float(''.join(details['benchtime'].iter_bytes()))
 
360
        return getattr(testCase, "_benchtime", None)
 
361
 
 
362
    def _elapsedTestTimeString(self):
 
363
        """Return a time string for the overall time the current test has taken."""
 
364
        return self._formatTime(self._delta_to_float(
 
365
            self._now() - self._start_datetime))
 
366
 
 
367
    def _testTimeString(self, testCase):
 
368
        benchmark_time = self._extractBenchmarkTime(testCase)
 
369
        if benchmark_time is not None:
 
370
            return self._formatTime(benchmark_time) + "*"
 
371
        else:
 
372
            return self._elapsedTestTimeString()
 
373
 
 
374
    def _formatTime(self, seconds):
 
375
        """Format seconds as milliseconds with leading spaces."""
 
376
        # some benchmarks can take thousands of seconds to run, so we need 8
 
377
        # places
 
378
        return "%8dms" % (1000 * seconds)
 
379
 
 
380
    def _shortened_test_description(self, test):
 
381
        what = test.id()
 
382
        what = re.sub(r'^bzrlib\.tests\.', '', what)
 
383
        return what
 
384
 
 
385
    # GZ 2010-10-04: Cloned tests may end up harmlessly calling this method
 
386
    #                multiple times in a row, because the handler is added for
 
387
    #                each test but the container list is shared between cases.
 
388
    #                See lp:498869 lp:625574 and lp:637725 for background.
 
389
    def _record_traceback_from_test(self, exc_info):
 
390
        """Store the traceback from passed exc_info tuple till"""
 
391
        self._traceback_from_test = exc_info[2]
 
392
 
 
393
    def startTest(self, test):
 
394
        super(ExtendedTestResult, self).startTest(test)
 
395
        if self.count == 0:
 
396
            self.startTests()
 
397
        self.count += 1
 
398
        self.report_test_start(test)
 
399
        test.number = self.count
 
400
        self._recordTestStartTime()
 
401
        # Make testtools cases give us the real traceback on failure
 
402
        addOnException = getattr(test, "addOnException", None)
 
403
        if addOnException is not None:
 
404
            addOnException(self._record_traceback_from_test)
 
405
        # Only check for thread leaks on bzrlib derived test cases
 
406
        if isinstance(test, TestCase):
 
407
            test.addCleanup(self._check_leaked_threads, test)
 
408
 
 
409
    def stopTest(self, test):
 
410
        super(ExtendedTestResult, self).stopTest(test)
 
411
        # Manually break cycles, means touching various private things but hey
 
412
        getDetails = getattr(test, "getDetails", None)
 
413
        if getDetails is not None:
 
414
            getDetails().clear()
 
415
        _clear__type_equality_funcs(test)
 
416
        self._traceback_from_test = None
 
417
 
 
418
    def startTests(self):
 
419
        self.report_tests_starting()
 
420
        self._active_threads = threading.enumerate()
 
421
 
 
422
    def _check_leaked_threads(self, test):
 
423
        """See if any threads have leaked since last call
 
424
 
 
425
        A sample of live threads is stored in the _active_threads attribute,
 
426
        when this method runs it compares the current live threads and any not
 
427
        in the previous sample are treated as having leaked.
 
428
        """
 
429
        now_active_threads = set(threading.enumerate())
 
430
        threads_leaked = now_active_threads.difference(self._active_threads)
 
431
        if threads_leaked:
 
432
            self._report_thread_leak(test, threads_leaked, now_active_threads)
 
433
            self._tests_leaking_threads_count += 1
 
434
            if self._first_thread_leaker_id is None:
 
435
                self._first_thread_leaker_id = test.id()
 
436
            self._active_threads = now_active_threads
 
437
 
 
438
    def _recordTestStartTime(self):
 
439
        """Record that a test has started."""
 
440
        self._start_datetime = self._now()
 
441
 
 
442
    def addError(self, test, err):
 
443
        """Tell result that test finished with an error.
 
444
 
 
445
        Called from the TestCase run() method when the test
 
446
        fails with an unexpected error.
 
447
        """
 
448
        self._post_mortem(self._traceback_from_test)
 
449
        super(ExtendedTestResult, self).addError(test, err)
 
450
        self.error_count += 1
 
451
        self.report_error(test, err)
 
452
        if self.stop_early:
 
453
            self.stop()
 
454
 
 
455
    def addFailure(self, test, err):
 
456
        """Tell result that test failed.
 
457
 
 
458
        Called from the TestCase run() method when the test
 
459
        fails because e.g. an assert() method failed.
 
460
        """
 
461
        self._post_mortem(self._traceback_from_test)
 
462
        super(ExtendedTestResult, self).addFailure(test, err)
 
463
        self.failure_count += 1
 
464
        self.report_failure(test, err)
 
465
        if self.stop_early:
 
466
            self.stop()
 
467
 
 
468
    def addSuccess(self, test, details=None):
 
469
        """Tell result that test completed successfully.
 
470
 
 
471
        Called from the TestCase run()
 
472
        """
 
473
        if self._bench_history is not None:
 
474
            benchmark_time = self._extractBenchmarkTime(test, details)
 
475
            if benchmark_time is not None:
 
476
                self._bench_history.write("%s %s\n" % (
 
477
                    self._formatTime(benchmark_time),
 
478
                    test.id()))
 
479
        self.report_success(test)
 
480
        super(ExtendedTestResult, self).addSuccess(test)
 
481
        test._log_contents = ''
 
482
 
 
483
    def addExpectedFailure(self, test, err):
 
484
        self.known_failure_count += 1
 
485
        self.report_known_failure(test, err)
 
486
 
 
487
    def addUnexpectedSuccess(self, test, details=None):
 
488
        """Tell result the test unexpectedly passed, counting as a failure
 
489
 
 
490
        When the minimum version of testtools required becomes 0.9.8 this
 
491
        can be updated to use the new handling there.
 
492
        """
 
493
        super(ExtendedTestResult, self).addFailure(test, details=details)
 
494
        self.failure_count += 1
 
495
        self.report_unexpected_success(test,
 
496
            "".join(details["reason"].iter_text()))
 
497
        if self.stop_early:
 
498
            self.stop()
 
499
 
 
500
    def addNotSupported(self, test, feature):
 
501
        """The test will not be run because of a missing feature.
 
502
        """
 
503
        # this can be called in two different ways: it may be that the
 
504
        # test started running, and then raised (through requireFeature)
 
505
        # UnavailableFeature.  Alternatively this method can be called
 
506
        # while probing for features before running the test code proper; in
 
507
        # that case we will see startTest and stopTest, but the test will
 
508
        # never actually run.
 
509
        self.unsupported.setdefault(str(feature), 0)
 
510
        self.unsupported[str(feature)] += 1
 
511
        self.report_unsupported(test, feature)
 
512
 
 
513
    def addSkip(self, test, reason):
 
514
        """A test has not run for 'reason'."""
 
515
        self.skip_count += 1
 
516
        self.report_skip(test, reason)
 
517
 
 
518
    def addNotApplicable(self, test, reason):
 
519
        self.not_applicable_count += 1
 
520
        self.report_not_applicable(test, reason)
 
521
 
 
522
    def _count_stored_tests(self):
 
523
        """Count of tests instances kept alive due to not succeeding"""
 
524
        return self.error_count + self.failure_count + self.known_failure_count
 
525
 
 
526
    def _post_mortem(self, tb=None):
 
527
        """Start a PDB post mortem session."""
 
528
        if os.environ.get('BZR_TEST_PDB', None):
 
529
            import pdb
 
530
            pdb.post_mortem(tb)
 
531
 
 
532
    def progress(self, offset, whence):
 
533
        """The test is adjusting the count of tests to run."""
 
534
        if whence == SUBUNIT_SEEK_SET:
 
535
            self.num_tests = offset
 
536
        elif whence == SUBUNIT_SEEK_CUR:
 
537
            self.num_tests += offset
 
538
        else:
 
539
            raise errors.BzrError("Unknown whence %r" % whence)
 
540
 
 
541
    def report_tests_starting(self):
 
542
        """Display information before the test run begins"""
 
543
        if getattr(sys, 'frozen', None) is None:
 
544
            bzr_path = osutils.realpath(sys.argv[0])
 
545
        else:
 
546
            bzr_path = sys.executable
 
547
        self.stream.write(
 
548
            'bzr selftest: %s\n' % (bzr_path,))
 
549
        self.stream.write(
 
550
            '   %s\n' % (
 
551
                    bzrlib.__path__[0],))
 
552
        self.stream.write(
 
553
            '   bzr-%s python-%s %s\n' % (
 
554
                    bzrlib.version_string,
 
555
                    bzrlib._format_version_tuple(sys.version_info),
 
556
                    platform.platform(aliased=1),
 
557
                    ))
 
558
        self.stream.write('\n')
 
559
 
 
560
    def report_test_start(self, test):
 
561
        """Display information on the test just about to be run"""
 
562
 
 
563
    def _report_thread_leak(self, test, leaked_threads, active_threads):
 
564
        """Display information on a test that leaked one or more threads"""
 
565
        # GZ 2010-09-09: A leak summary reported separately from the general
 
566
        #                thread debugging would be nice. Tests under subunit
 
567
        #                need something not using stream, perhaps adding a
 
568
        #                testtools details object would be fitting.
 
569
        if 'threads' in selftest_debug_flags:
 
570
            self.stream.write('%s is leaking, active is now %d\n' %
 
571
                (test.id(), len(active_threads)))
 
572
 
 
573
    def startTestRun(self):
 
574
        self.startTime = time.time()
 
575
 
 
576
    def report_success(self, test):
 
577
        pass
 
578
 
 
579
    def wasStrictlySuccessful(self):
 
580
        if self.unsupported or self.known_failure_count:
 
581
            return False
 
582
        return self.wasSuccessful()
 
583
 
 
584
 
 
585
class TextTestResult(ExtendedTestResult):
 
586
    """Displays progress and results of tests in text form"""
 
587
 
 
588
    def __init__(self, stream, descriptions, verbosity,
 
589
                 bench_history=None,
 
590
                 pb=None,
 
591
                 strict=None,
 
592
                 ):
 
593
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
 
594
            bench_history, strict)
 
595
        # We no longer pass them around, but just rely on the UIFactory stack
 
596
        # for state
 
597
        if pb is not None:
 
598
            warnings.warn("Passing pb to TextTestResult is deprecated")
 
599
        self.pb = self.ui.nested_progress_bar()
 
600
        self.pb.show_pct = False
 
601
        self.pb.show_spinner = False
 
602
        self.pb.show_eta = False,
 
603
        self.pb.show_count = False
 
604
        self.pb.show_bar = False
 
605
        self.pb.update_latency = 0
 
606
        self.pb.show_transport_activity = False
 
607
 
 
608
    def stopTestRun(self):
 
609
        # called when the tests that are going to run have run
 
610
        self.pb.clear()
 
611
        self.pb.finished()
 
612
        super(TextTestResult, self).stopTestRun()
 
613
 
 
614
    def report_tests_starting(self):
 
615
        super(TextTestResult, self).report_tests_starting()
 
616
        self.pb.update('[test 0/%d] Starting' % (self.num_tests))
 
617
 
 
618
    def _progress_prefix_text(self):
 
619
        # the longer this text, the less space we have to show the test
 
620
        # name...
 
621
        a = '[%d' % self.count              # total that have been run
 
622
        # tests skipped as known not to be relevant are not important enough
 
623
        # to show here
 
624
        ## if self.skip_count:
 
625
        ##     a += ', %d skip' % self.skip_count
 
626
        ## if self.known_failure_count:
 
627
        ##     a += '+%dX' % self.known_failure_count
 
628
        if self.num_tests:
 
629
            a +='/%d' % self.num_tests
 
630
        a += ' in '
 
631
        runtime = time.time() - self._overall_start_time
 
632
        if runtime >= 60:
 
633
            a += '%dm%ds' % (runtime / 60, runtime % 60)
 
634
        else:
 
635
            a += '%ds' % runtime
 
636
        total_fail_count = self.error_count + self.failure_count
 
637
        if total_fail_count:
 
638
            a += ', %d failed' % total_fail_count
 
639
        # if self.unsupported:
 
640
        #     a += ', %d missing' % len(self.unsupported)
 
641
        a += ']'
 
642
        return a
 
643
 
 
644
    def report_test_start(self, test):
 
645
        self.pb.update(
 
646
                self._progress_prefix_text()
 
647
                + ' '
 
648
                + self._shortened_test_description(test))
 
649
 
 
650
    def _test_description(self, test):
 
651
        return self._shortened_test_description(test)
 
652
 
 
653
    def report_error(self, test, err):
 
654
        self.stream.write('ERROR: %s\n    %s\n' % (
 
655
            self._test_description(test),
 
656
            err[1],
 
657
            ))
 
658
 
 
659
    def report_failure(self, test, err):
 
660
        self.stream.write('FAIL: %s\n    %s\n' % (
 
661
            self._test_description(test),
 
662
            err[1],
 
663
            ))
 
664
 
 
665
    def report_known_failure(self, test, err):
 
666
        pass
 
667
 
 
668
    def report_unexpected_success(self, test, reason):
 
669
        self.stream.write('FAIL: %s\n    %s: %s\n' % (
 
670
            self._test_description(test),
 
671
            "Unexpected success. Should have failed",
 
672
            reason,
 
673
            ))
 
674
 
 
675
    def report_skip(self, test, reason):
 
676
        pass
 
677
 
 
678
    def report_not_applicable(self, test, reason):
 
679
        pass
 
680
 
 
681
    def report_unsupported(self, test, feature):
 
682
        """test cannot be run because feature is missing."""
 
683
 
 
684
 
 
685
class VerboseTestResult(ExtendedTestResult):
 
686
    """Produce long output, with one line per test run plus times"""
 
687
 
 
688
    def _ellipsize_to_right(self, a_string, final_width):
 
689
        """Truncate and pad a string, keeping the right hand side"""
 
690
        if len(a_string) > final_width:
 
691
            result = '...' + a_string[3-final_width:]
 
692
        else:
 
693
            result = a_string
 
694
        return result.ljust(final_width)
 
695
 
 
696
    def report_tests_starting(self):
 
697
        self.stream.write('running %d tests...\n' % self.num_tests)
 
698
        super(VerboseTestResult, self).report_tests_starting()
 
699
 
 
700
    def report_test_start(self, test):
 
701
        name = self._shortened_test_description(test)
 
702
        width = osutils.terminal_width()
 
703
        if width is not None:
 
704
            # width needs space for 6 char status, plus 1 for slash, plus an
 
705
            # 11-char time string, plus a trailing blank
 
706
            # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on
 
707
            # space
 
708
            self.stream.write(self._ellipsize_to_right(name, width-18))
 
709
        else:
 
710
            self.stream.write(name)
 
711
        self.stream.flush()
 
712
 
 
713
    def _error_summary(self, err):
 
714
        indent = ' ' * 4
 
715
        return '%s%s' % (indent, err[1])
 
716
 
 
717
    def report_error(self, test, err):
 
718
        self.stream.write('ERROR %s\n%s\n'
 
719
                % (self._testTimeString(test),
 
720
                   self._error_summary(err)))
 
721
 
 
722
    def report_failure(self, test, err):
 
723
        self.stream.write(' FAIL %s\n%s\n'
 
724
                % (self._testTimeString(test),
 
725
                   self._error_summary(err)))
 
726
 
 
727
    def report_known_failure(self, test, err):
 
728
        self.stream.write('XFAIL %s\n%s\n'
 
729
                % (self._testTimeString(test),
 
730
                   self._error_summary(err)))
 
731
 
 
732
    def report_unexpected_success(self, test, reason):
 
733
        self.stream.write(' FAIL %s\n%s: %s\n'
 
734
                % (self._testTimeString(test),
 
735
                   "Unexpected success. Should have failed",
 
736
                   reason))
 
737
 
 
738
    def report_success(self, test):
 
739
        self.stream.write('   OK %s\n' % self._testTimeString(test))
 
740
        for bench_called, stats in getattr(test, '_benchcalls', []):
 
741
            self.stream.write('LSProf output for %s(%s, %s)\n' % bench_called)
 
742
            stats.pprint(file=self.stream)
 
743
        # flush the stream so that we get smooth output. This verbose mode is
 
744
        # used to show the output in PQM.
 
745
        self.stream.flush()
 
746
 
 
747
    def report_skip(self, test, reason):
 
748
        self.stream.write(' SKIP %s\n%s\n'
 
749
                % (self._testTimeString(test), reason))
 
750
 
 
751
    def report_not_applicable(self, test, reason):
 
752
        self.stream.write('  N/A %s\n    %s\n'
 
753
                % (self._testTimeString(test), reason))
 
754
 
 
755
    def report_unsupported(self, test, feature):
 
756
        """test cannot be run because feature is missing."""
 
757
        self.stream.write("NODEP %s\n    The feature '%s' is not available.\n"
 
758
                %(self._testTimeString(test), feature))
 
759
 
 
760
 
 
761
class TextTestRunner(object):
 
762
    stop_on_failure = False
 
763
 
 
764
    def __init__(self,
 
765
                 stream=sys.stderr,
 
766
                 descriptions=0,
 
767
                 verbosity=1,
 
768
                 bench_history=None,
 
769
                 strict=False,
 
770
                 result_decorators=None,
 
771
                 ):
 
772
        """Create a TextTestRunner.
 
773
 
 
774
        :param result_decorators: An optional list of decorators to apply
 
775
            to the result object being used by the runner. Decorators are
 
776
            applied left to right - the first element in the list is the 
 
777
            innermost decorator.
 
778
        """
 
779
        # stream may know claim to know to write unicode strings, but in older
 
780
        # pythons this goes sufficiently wrong that it is a bad idea. (
 
781
        # specifically a built in file with encoding 'UTF-8' will still try
 
782
        # to encode using ascii.
 
783
        new_encoding = osutils.get_terminal_encoding()
 
784
        codec = codecs.lookup(new_encoding)
 
785
        if type(codec) is tuple:
 
786
            # Python 2.4
 
787
            encode = codec[0]
 
788
        else:
 
789
            encode = codec.encode
 
790
        # GZ 2010-09-08: Really we don't want to be writing arbitrary bytes,
 
791
        #                so should swap to the plain codecs.StreamWriter
 
792
        stream = osutils.UnicodeOrBytesToBytesWriter(encode, stream,
 
793
            "backslashreplace")
 
794
        stream.encoding = new_encoding
 
795
        self.stream = stream
 
796
        self.descriptions = descriptions
 
797
        self.verbosity = verbosity
 
798
        self._bench_history = bench_history
 
799
        self._strict = strict
 
800
        self._result_decorators = result_decorators or []
 
801
 
 
802
    def run(self, test):
 
803
        "Run the given test case or test suite."
 
804
        if self.verbosity == 1:
 
805
            result_class = TextTestResult
 
806
        elif self.verbosity >= 2:
 
807
            result_class = VerboseTestResult
 
808
        original_result = result_class(self.stream,
 
809
                              self.descriptions,
 
810
                              self.verbosity,
 
811
                              bench_history=self._bench_history,
 
812
                              strict=self._strict,
 
813
                              )
 
814
        # Signal to result objects that look at stop early policy to stop,
 
815
        original_result.stop_early = self.stop_on_failure
 
816
        result = original_result
 
817
        for decorator in self._result_decorators:
 
818
            result = decorator(result)
 
819
            result.stop_early = self.stop_on_failure
 
820
        result.startTestRun()
 
821
        try:
 
822
            test.run(result)
 
823
        finally:
 
824
            result.stopTestRun()
 
825
        # higher level code uses our extended protocol to determine
 
826
        # what exit code to give.
 
827
        return original_result
 
828
 
 
829
 
 
830
def iter_suite_tests(suite):
 
831
    """Return all tests in a suite, recursing through nested suites"""
 
832
    if isinstance(suite, unittest.TestCase):
 
833
        yield suite
 
834
    elif isinstance(suite, unittest.TestSuite):
 
835
        for item in suite:
 
836
            for r in iter_suite_tests(item):
 
837
                yield r
 
838
    else:
 
839
        raise Exception('unknown type %r for object %r'
 
840
                        % (type(suite), suite))
 
841
 
 
842
 
 
843
TestSkipped = testtools.testcase.TestSkipped
 
844
 
 
845
 
 
846
class TestNotApplicable(TestSkipped):
 
847
    """A test is not applicable to the situation where it was run.
 
848
 
 
849
    This is only normally raised by parameterized tests, if they find that
 
850
    the instance they're constructed upon does not support one aspect
 
851
    of its interface.
 
852
    """
 
853
 
 
854
 
 
855
# traceback._some_str fails to format exceptions that have the default
 
856
# __str__ which does an implicit ascii conversion. However, repr() on those
 
857
# objects works, for all that its not quite what the doctor may have ordered.
 
858
def _clever_some_str(value):
 
859
    try:
 
860
        return str(value)
 
861
    except:
 
862
        try:
 
863
            return repr(value).replace('\\n', '\n')
 
864
        except:
 
865
            return '<unprintable %s object>' % type(value).__name__
 
866
 
 
867
traceback._some_str = _clever_some_str
 
868
 
 
869
 
 
870
# deprecated - use self.knownFailure(), or self.expectFailure.
 
871
KnownFailure = testtools.testcase._ExpectedFailure
 
872
 
 
873
 
 
874
class UnavailableFeature(Exception):
 
875
    """A feature required for this test was not available.
 
876
 
 
877
    This can be considered a specialised form of SkippedTest.
 
878
 
 
879
    The feature should be used to construct the exception.
 
880
    """
 
881
 
 
882
 
 
883
class StringIOWrapper(object):
 
884
    """A wrapper around cStringIO which just adds an encoding attribute.
 
885
 
 
886
    Internally we can check sys.stdout to see what the output encoding
 
887
    should be. However, cStringIO has no encoding attribute that we can
 
888
    set. So we wrap it instead.
 
889
    """
 
890
    encoding='ascii'
 
891
    _cstring = None
 
892
 
 
893
    def __init__(self, s=None):
 
894
        if s is not None:
 
895
            self.__dict__['_cstring'] = StringIO(s)
 
896
        else:
 
897
            self.__dict__['_cstring'] = StringIO()
 
898
 
 
899
    def __getattr__(self, name, getattr=getattr):
 
900
        return getattr(self.__dict__['_cstring'], name)
 
901
 
 
902
    def __setattr__(self, name, val):
 
903
        if name == 'encoding':
 
904
            self.__dict__['encoding'] = val
 
905
        else:
 
906
            return setattr(self._cstring, name, val)
 
907
 
 
908
 
 
909
class TestUIFactory(TextUIFactory):
 
910
    """A UI Factory for testing.
 
911
 
 
912
    Hide the progress bar but emit note()s.
 
913
    Redirect stdin.
 
914
    Allows get_password to be tested without real tty attached.
 
915
 
 
916
    See also CannedInputUIFactory which lets you provide programmatic input in
 
917
    a structured way.
 
918
    """
 
919
    # TODO: Capture progress events at the model level and allow them to be
 
920
    # observed by tests that care.
 
921
    #
 
922
    # XXX: Should probably unify more with CannedInputUIFactory or a
 
923
    # particular configuration of TextUIFactory, or otherwise have a clearer
 
924
    # idea of how they're supposed to be different.
 
925
    # See https://bugs.launchpad.net/bzr/+bug/408213
 
926
 
 
927
    def __init__(self, stdout=None, stderr=None, stdin=None):
 
928
        if stdin is not None:
 
929
            # We use a StringIOWrapper to be able to test various
 
930
            # encodings, but the user is still responsible to
 
931
            # encode the string and to set the encoding attribute
 
932
            # of StringIOWrapper.
 
933
            stdin = StringIOWrapper(stdin)
 
934
        super(TestUIFactory, self).__init__(stdin, stdout, stderr)
 
935
 
 
936
    def get_non_echoed_password(self):
 
937
        """Get password from stdin without trying to handle the echo mode"""
 
938
        password = self.stdin.readline()
 
939
        if not password:
 
940
            raise EOFError
 
941
        if password[-1] == '\n':
 
942
            password = password[:-1]
 
943
        return password
 
944
 
 
945
    def make_progress_view(self):
 
946
        return NullProgressView()
 
947
 
 
948
 
 
949
def isolated_doctest_setUp(test):
 
950
    override_os_environ(test)
 
951
 
 
952
 
 
953
def isolated_doctest_tearDown(test):
 
954
    restore_os_environ(test)
 
955
 
 
956
 
 
957
def IsolatedDocTestSuite(*args, **kwargs):
 
958
    """Overrides doctest.DocTestSuite to handle isolation.
 
959
 
 
960
    The method is really a factory and users are expected to use it as such.
 
961
    """
 
962
 
 
963
    kwargs['setUp'] = isolated_doctest_setUp
 
964
    kwargs['tearDown'] = isolated_doctest_tearDown
 
965
    return doctest.DocTestSuite(*args, **kwargs)
 
966
 
 
967
 
 
968
class TestCase(testtools.TestCase):
 
969
    """Base class for bzr unit tests.
 
970
 
 
971
    Tests that need access to disk resources should subclass
 
972
    TestCaseInTempDir not TestCase.
 
973
 
 
974
    Error and debug log messages are redirected from their usual
 
975
    location into a temporary file, the contents of which can be
 
976
    retrieved by _get_log().  We use a real OS file, not an in-memory object,
 
977
    so that it can also capture file IO.  When the test completes this file
 
978
    is read into memory and removed from disk.
 
979
 
 
980
    There are also convenience functions to invoke bzr's command-line
 
981
    routine, and to build and check bzr trees.
 
982
 
 
983
    In addition to the usual method of overriding tearDown(), this class also
 
984
    allows subclasses to register cleanup functions via addCleanup, which are
 
985
    run in order as the object is torn down.  It's less likely this will be
 
986
    accidentally overlooked.
 
987
    """
 
988
 
 
989
    _log_file = None
 
990
    # record lsprof data when performing benchmark calls.
 
991
    _gather_lsprof_in_benchmarks = False
 
992
 
 
993
    def __init__(self, methodName='testMethod'):
 
994
        super(TestCase, self).__init__(methodName)
 
995
        self._directory_isolation = True
 
996
        self.exception_handlers.insert(0,
 
997
            (UnavailableFeature, self._do_unsupported_or_skip))
 
998
        self.exception_handlers.insert(0,
 
999
            (TestNotApplicable, self._do_not_applicable))
 
1000
 
 
1001
    def setUp(self):
 
1002
        super(TestCase, self).setUp()
 
1003
 
 
1004
        # At this point we're still accessing the config files in $BZR_HOME (as
 
1005
        # set by the user running selftest).
 
1006
        timeout = config.GlobalStack().get('selftest.timeout')
 
1007
        if timeout:
 
1008
            timeout_fixture = fixtures.TimeoutFixture(timeout)
 
1009
            timeout_fixture.setUp()
 
1010
            self.addCleanup(timeout_fixture.cleanUp)
 
1011
 
 
1012
        for feature in getattr(self, '_test_needs_features', []):
 
1013
            self.requireFeature(feature)
 
1014
        self._cleanEnvironment()
 
1015
 
 
1016
        if bzrlib.global_state is not None:
 
1017
            self.overrideAttr(bzrlib.global_state, 'cmdline_overrides',
 
1018
                              config.CommandLineStore())
 
1019
 
 
1020
        self._silenceUI()
 
1021
        self._startLogFile()
 
1022
        self._benchcalls = []
 
1023
        self._benchtime = None
 
1024
        self._clear_hooks()
 
1025
        self._track_transports()
 
1026
        self._track_locks()
 
1027
        self._clear_debug_flags()
 
1028
        # Isolate global verbosity level, to make sure it's reproducible
 
1029
        # between tests.  We should get rid of this altogether: bug 656694. --
 
1030
        # mbp 20101008
 
1031
        self.overrideAttr(bzrlib.trace, '_verbosity_level', 0)
 
1032
        self._log_files = set()
 
1033
        # Each key in the ``_counters`` dict holds a value for a different
 
1034
        # counter. When the test ends, addDetail() should be used to output the
 
1035
        # counter values. This happens in install_counter_hook().
 
1036
        self._counters = {}
 
1037
        if 'config_stats' in selftest_debug_flags:
 
1038
            self._install_config_stats_hooks()
 
1039
        # Do not use i18n for tests (unless the test reverses this)
 
1040
        i18n.disable_i18n()
 
1041
 
 
1042
    def debug(self):
 
1043
        # debug a frame up.
 
1044
        import pdb
 
1045
        # The sys preserved stdin/stdout should allow blackbox tests debugging
 
1046
        pdb.Pdb(stdin=sys.__stdin__, stdout=sys.__stdout__
 
1047
                ).set_trace(sys._getframe().f_back)
 
1048
 
 
1049
    def discardDetail(self, name):
 
1050
        """Extend the addDetail, getDetails api so we can remove a detail.
 
1051
 
 
1052
        eg. bzr always adds the 'log' detail at startup, but we don't want to
 
1053
        include it for skipped, xfail, etc tests.
 
1054
 
 
1055
        It is safe to call this for a detail that doesn't exist, in case this
 
1056
        gets called multiple times.
 
1057
        """
 
1058
        # We cheat. details is stored in __details which means we shouldn't
 
1059
        # touch it. but getDetails() returns the dict directly, so we can
 
1060
        # mutate it.
 
1061
        details = self.getDetails()
 
1062
        if name in details:
 
1063
            del details[name]
 
1064
 
 
1065
    def install_counter_hook(self, hooks, name, counter_name=None):
 
1066
        """Install a counting hook.
 
1067
 
 
1068
        Any hook can be counted as long as it doesn't need to return a value.
 
1069
 
 
1070
        :param hooks: Where the hook should be installed.
 
1071
 
 
1072
        :param name: The hook name that will be counted.
 
1073
 
 
1074
        :param counter_name: The counter identifier in ``_counters``, defaults
 
1075
            to ``name``.
 
1076
        """
 
1077
        _counters = self._counters # Avoid closing over self
 
1078
        if counter_name is None:
 
1079
            counter_name = name
 
1080
        if _counters.has_key(counter_name):
 
1081
            raise AssertionError('%s is already used as a counter name'
 
1082
                                  % (counter_name,))
 
1083
        _counters[counter_name] = 0
 
1084
        self.addDetail(counter_name, content.Content(content.UTF8_TEXT,
 
1085
            lambda: ['%d' % (_counters[counter_name],)]))
 
1086
        def increment_counter(*args, **kwargs):
 
1087
            _counters[counter_name] += 1
 
1088
        label = 'count %s calls' % (counter_name,)
 
1089
        hooks.install_named_hook(name, increment_counter, label)
 
1090
        self.addCleanup(hooks.uninstall_named_hook, name, label)
 
1091
 
 
1092
    def _install_config_stats_hooks(self):
 
1093
        """Install config hooks to count hook calls.
 
1094
 
 
1095
        """
 
1096
        for hook_name in ('get', 'set', 'remove', 'load', 'save'):
 
1097
            self.install_counter_hook(config.ConfigHooks, hook_name,
 
1098
                                       'config.%s' % (hook_name,))
 
1099
 
 
1100
        # The OldConfigHooks are private and need special handling to protect
 
1101
        # against recursive tests (tests that run other tests), so we just do
 
1102
        # manually what registering them into _builtin_known_hooks will provide
 
1103
        # us.
 
1104
        self.overrideAttr(config, 'OldConfigHooks', config._OldConfigHooks())
 
1105
        for hook_name in ('get', 'set', 'remove', 'load', 'save'):
 
1106
            self.install_counter_hook(config.OldConfigHooks, hook_name,
 
1107
                                      'old_config.%s' % (hook_name,))
 
1108
 
 
1109
    def _clear_debug_flags(self):
 
1110
        """Prevent externally set debug flags affecting tests.
 
1111
 
 
1112
        Tests that want to use debug flags can just set them in the
 
1113
        debug_flags set during setup/teardown.
 
1114
        """
 
1115
        # Start with a copy of the current debug flags we can safely modify.
 
1116
        self.overrideAttr(debug, 'debug_flags', set(debug.debug_flags))
 
1117
        if 'allow_debug' not in selftest_debug_flags:
 
1118
            debug.debug_flags.clear()
 
1119
        if 'disable_lock_checks' not in selftest_debug_flags:
 
1120
            debug.debug_flags.add('strict_locks')
 
1121
 
 
1122
    def _clear_hooks(self):
 
1123
        # prevent hooks affecting tests
 
1124
        known_hooks = hooks.known_hooks
 
1125
        self._preserved_hooks = {}
 
1126
        for key, (parent, name) in known_hooks.iter_parent_objects():
 
1127
            current_hooks = getattr(parent, name)
 
1128
            self._preserved_hooks[parent] = (name, current_hooks)
 
1129
        self._preserved_lazy_hooks = hooks._lazy_hooks
 
1130
        hooks._lazy_hooks = {}
 
1131
        self.addCleanup(self._restoreHooks)
 
1132
        for key, (parent, name) in known_hooks.iter_parent_objects():
 
1133
            factory = known_hooks.get(key)
 
1134
            setattr(parent, name, factory())
 
1135
        # this hook should always be installed
 
1136
        request._install_hook()
 
1137
 
 
1138
    def disable_directory_isolation(self):
 
1139
        """Turn off directory isolation checks."""
 
1140
        self._directory_isolation = False
 
1141
 
 
1142
    def enable_directory_isolation(self):
 
1143
        """Enable directory isolation checks."""
 
1144
        self._directory_isolation = True
 
1145
 
 
1146
    def _silenceUI(self):
 
1147
        """Turn off UI for duration of test"""
 
1148
        # by default the UI is off; tests can turn it on if they want it.
 
1149
        self.overrideAttr(ui, 'ui_factory', ui.SilentUIFactory())
 
1150
 
 
1151
    def _check_locks(self):
 
1152
        """Check that all lock take/release actions have been paired."""
 
1153
        # We always check for mismatched locks. If a mismatch is found, we
 
1154
        # fail unless -Edisable_lock_checks is supplied to selftest, in which
 
1155
        # case we just print a warning.
 
1156
        # unhook:
 
1157
        acquired_locks = [lock for action, lock in self._lock_actions
 
1158
                          if action == 'acquired']
 
1159
        released_locks = [lock for action, lock in self._lock_actions
 
1160
                          if action == 'released']
 
1161
        broken_locks = [lock for action, lock in self._lock_actions
 
1162
                        if action == 'broken']
 
1163
        # trivially, given the tests for lock acquistion and release, if we
 
1164
        # have as many in each list, it should be ok. Some lock tests also
 
1165
        # break some locks on purpose and should be taken into account by
 
1166
        # considering that breaking a lock is just a dirty way of releasing it.
 
1167
        if len(acquired_locks) != (len(released_locks) + len(broken_locks)):
 
1168
            message = (
 
1169
                'Different number of acquired and '
 
1170
                'released or broken locks.\n'
 
1171
                'acquired=%s\n'
 
1172
                'released=%s\n'
 
1173
                'broken=%s\n' %
 
1174
                (acquired_locks, released_locks, broken_locks))
 
1175
            if not self._lock_check_thorough:
 
1176
                # Rather than fail, just warn
 
1177
                print "Broken test %s: %s" % (self, message)
 
1178
                return
 
1179
            self.fail(message)
 
1180
 
 
1181
    def _track_locks(self):
 
1182
        """Track lock activity during tests."""
 
1183
        self._lock_actions = []
 
1184
        if 'disable_lock_checks' in selftest_debug_flags:
 
1185
            self._lock_check_thorough = False
 
1186
        else:
 
1187
            self._lock_check_thorough = True
 
1188
 
 
1189
        self.addCleanup(self._check_locks)
 
1190
        _mod_lock.Lock.hooks.install_named_hook('lock_acquired',
 
1191
                                                self._lock_acquired, None)
 
1192
        _mod_lock.Lock.hooks.install_named_hook('lock_released',
 
1193
                                                self._lock_released, None)
 
1194
        _mod_lock.Lock.hooks.install_named_hook('lock_broken',
 
1195
                                                self._lock_broken, None)
 
1196
 
 
1197
    def _lock_acquired(self, result):
 
1198
        self._lock_actions.append(('acquired', result))
 
1199
 
 
1200
    def _lock_released(self, result):
 
1201
        self._lock_actions.append(('released', result))
 
1202
 
 
1203
    def _lock_broken(self, result):
 
1204
        self._lock_actions.append(('broken', result))
 
1205
 
 
1206
    def permit_dir(self, name):
 
1207
        """Permit a directory to be used by this test. See permit_url."""
 
1208
        name_transport = _mod_transport.get_transport_from_path(name)
 
1209
        self.permit_url(name)
 
1210
        self.permit_url(name_transport.base)
 
1211
 
 
1212
    def permit_url(self, url):
 
1213
        """Declare that url is an ok url to use in this test.
 
1214
        
 
1215
        Do this for memory transports, temporary test directory etc.
 
1216
        
 
1217
        Do not do this for the current working directory, /tmp, or any other
 
1218
        preexisting non isolated url.
 
1219
        """
 
1220
        if not url.endswith('/'):
 
1221
            url += '/'
 
1222
        self._bzr_selftest_roots.append(url)
 
1223
 
 
1224
    def permit_source_tree_branch_repo(self):
 
1225
        """Permit the source tree bzr is running from to be opened.
 
1226
 
 
1227
        Some code such as bzrlib.version attempts to read from the bzr branch
 
1228
        that bzr is executing from (if any). This method permits that directory
 
1229
        to be used in the test suite.
 
1230
        """
 
1231
        path = self.get_source_path()
 
1232
        self.record_directory_isolation()
 
1233
        try:
 
1234
            try:
 
1235
                workingtree.WorkingTree.open(path)
 
1236
            except (errors.NotBranchError, errors.NoWorkingTree):
 
1237
                raise TestSkipped('Needs a working tree of bzr sources')
 
1238
        finally:
 
1239
            self.enable_directory_isolation()
 
1240
 
 
1241
    def _preopen_isolate_transport(self, transport):
 
1242
        """Check that all transport openings are done in the test work area."""
 
1243
        while isinstance(transport, pathfilter.PathFilteringTransport):
 
1244
            # Unwrap pathfiltered transports
 
1245
            transport = transport.server.backing_transport.clone(
 
1246
                transport._filter('.'))
 
1247
        url = transport.base
 
1248
        # ReadonlySmartTCPServer_for_testing decorates the backing transport
 
1249
        # urls it is given by prepending readonly+. This is appropriate as the
 
1250
        # client shouldn't know that the server is readonly (or not readonly).
 
1251
        # We could register all servers twice, with readonly+ prepending, but
 
1252
        # that makes for a long list; this is about the same but easier to
 
1253
        # read.
 
1254
        if url.startswith('readonly+'):
 
1255
            url = url[len('readonly+'):]
 
1256
        self._preopen_isolate_url(url)
 
1257
 
 
1258
    def _preopen_isolate_url(self, url):
 
1259
        if not self._directory_isolation:
 
1260
            return
 
1261
        if self._directory_isolation == 'record':
 
1262
            self._bzr_selftest_roots.append(url)
 
1263
            return
 
1264
        # This prevents all transports, including e.g. sftp ones backed on disk
 
1265
        # from working unless they are explicitly granted permission. We then
 
1266
        # depend on the code that sets up test transports to check that they are
 
1267
        # appropriately isolated and enable their use by calling
 
1268
        # self.permit_transport()
 
1269
        if not osutils.is_inside_any(self._bzr_selftest_roots, url):
 
1270
            raise errors.BzrError("Attempt to escape test isolation: %r %r"
 
1271
                % (url, self._bzr_selftest_roots))
 
1272
 
 
1273
    def record_directory_isolation(self):
 
1274
        """Gather accessed directories to permit later access.
 
1275
        
 
1276
        This is used for tests that access the branch bzr is running from.
 
1277
        """
 
1278
        self._directory_isolation = "record"
 
1279
 
 
1280
    def start_server(self, transport_server, backing_server=None):
 
1281
        """Start transport_server for this test.
 
1282
 
 
1283
        This starts the server, registers a cleanup for it and permits the
 
1284
        server's urls to be used.
 
1285
        """
 
1286
        if backing_server is None:
 
1287
            transport_server.start_server()
 
1288
        else:
 
1289
            transport_server.start_server(backing_server)
 
1290
        self.addCleanup(transport_server.stop_server)
 
1291
        # Obtain a real transport because if the server supplies a password, it
 
1292
        # will be hidden from the base on the client side.
 
1293
        t = _mod_transport.get_transport_from_url(transport_server.get_url())
 
1294
        # Some transport servers effectively chroot the backing transport;
 
1295
        # others like SFTPServer don't - users of the transport can walk up the
 
1296
        # transport to read the entire backing transport. This wouldn't matter
 
1297
        # except that the workdir tests are given - and that they expect the
 
1298
        # server's url to point at - is one directory under the safety net. So
 
1299
        # Branch operations into the transport will attempt to walk up one
 
1300
        # directory. Chrooting all servers would avoid this but also mean that
 
1301
        # we wouldn't be testing directly against non-root urls. Alternatively
 
1302
        # getting the test framework to start the server with a backing server
 
1303
        # at the actual safety net directory would work too, but this then
 
1304
        # means that the self.get_url/self.get_transport methods would need
 
1305
        # to transform all their results. On balance its cleaner to handle it
 
1306
        # here, and permit a higher url when we have one of these transports.
 
1307
        if t.base.endswith('/work/'):
 
1308
            # we have safety net/test root/work
 
1309
            t = t.clone('../..')
 
1310
        elif isinstance(transport_server,
 
1311
                        test_server.SmartTCPServer_for_testing):
 
1312
            # The smart server adds a path similar to work, which is traversed
 
1313
            # up from by the client. But the server is chrooted - the actual
 
1314
            # backing transport is not escaped from, and VFS requests to the
 
1315
            # root will error (because they try to escape the chroot).
 
1316
            t2 = t.clone('..')
 
1317
            while t2.base != t.base:
 
1318
                t = t2
 
1319
                t2 = t.clone('..')
 
1320
        self.permit_url(t.base)
 
1321
 
 
1322
    def _track_transports(self):
 
1323
        """Install checks for transport usage."""
 
1324
        # TestCase has no safe place it can write to.
 
1325
        self._bzr_selftest_roots = []
 
1326
        # Currently the easiest way to be sure that nothing is going on is to
 
1327
        # hook into bzr dir opening. This leaves a small window of error for
 
1328
        # transport tests, but they are well known, and we can improve on this
 
1329
        # step.
 
1330
        controldir.ControlDir.hooks.install_named_hook("pre_open",
 
1331
            self._preopen_isolate_transport, "Check bzr directories are safe.")
 
1332
 
 
1333
    def _ndiff_strings(self, a, b):
 
1334
        """Return ndiff between two strings containing lines.
 
1335
 
 
1336
        A trailing newline is added if missing to make the strings
 
1337
        print properly."""
 
1338
        if b and b[-1] != '\n':
 
1339
            b += '\n'
 
1340
        if a and a[-1] != '\n':
 
1341
            a += '\n'
 
1342
        difflines = difflib.ndiff(a.splitlines(True),
 
1343
                                  b.splitlines(True),
 
1344
                                  linejunk=lambda x: False,
 
1345
                                  charjunk=lambda x: False)
 
1346
        return ''.join(difflines)
 
1347
 
 
1348
    def assertEqual(self, a, b, message=''):
 
1349
        try:
 
1350
            if a == b:
 
1351
                return
 
1352
        except UnicodeError, e:
 
1353
            # If we can't compare without getting a UnicodeError, then
 
1354
            # obviously they are different
 
1355
            trace.mutter('UnicodeError: %s', e)
 
1356
        if message:
 
1357
            message += '\n'
 
1358
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
 
1359
            % (message,
 
1360
               pprint.pformat(a), pprint.pformat(b)))
 
1361
 
 
1362
    assertEquals = assertEqual
 
1363
 
 
1364
    def assertEqualDiff(self, a, b, message=None):
 
1365
        """Assert two texts are equal, if not raise an exception.
 
1366
 
 
1367
        This is intended for use with multi-line strings where it can
 
1368
        be hard to find the differences by eye.
 
1369
        """
 
1370
        # TODO: perhaps override assertEquals to call this for strings?
 
1371
        if a == b:
 
1372
            return
 
1373
        if message is None:
 
1374
            message = "texts not equal:\n"
 
1375
        if a + '\n' == b:
 
1376
            message = 'first string is missing a final newline.\n'
 
1377
        if a == b + '\n':
 
1378
            message = 'second string is missing a final newline.\n'
 
1379
        raise AssertionError(message +
 
1380
                             self._ndiff_strings(a, b))
 
1381
 
 
1382
    def assertEqualMode(self, mode, mode_test):
 
1383
        self.assertEqual(mode, mode_test,
 
1384
                         'mode mismatch %o != %o' % (mode, mode_test))
 
1385
 
 
1386
    def assertEqualStat(self, expected, actual):
 
1387
        """assert that expected and actual are the same stat result.
 
1388
 
 
1389
        :param expected: A stat result.
 
1390
        :param actual: A stat result.
 
1391
        :raises AssertionError: If the expected and actual stat values differ
 
1392
            other than by atime.
 
1393
        """
 
1394
        self.assertEqual(expected.st_size, actual.st_size,
 
1395
                         'st_size did not match')
 
1396
        self.assertEqual(expected.st_mtime, actual.st_mtime,
 
1397
                         'st_mtime did not match')
 
1398
        self.assertEqual(expected.st_ctime, actual.st_ctime,
 
1399
                         'st_ctime did not match')
 
1400
        if sys.platform == 'win32':
 
1401
            # On Win32 both 'dev' and 'ino' cannot be trusted. In python2.4 it
 
1402
            # is 'dev' that varies, in python 2.5 (6?) it is st_ino that is
 
1403
            # odd. We just force it to always be 0 to avoid any problems.
 
1404
            self.assertEqual(0, expected.st_dev)
 
1405
            self.assertEqual(0, actual.st_dev)
 
1406
            self.assertEqual(0, expected.st_ino)
 
1407
            self.assertEqual(0, actual.st_ino)
 
1408
        else:
 
1409
            self.assertEqual(expected.st_dev, actual.st_dev,
 
1410
                             'st_dev did not match')
 
1411
            self.assertEqual(expected.st_ino, actual.st_ino,
 
1412
                             'st_ino did not match')
 
1413
        self.assertEqual(expected.st_mode, actual.st_mode,
 
1414
                         'st_mode did not match')
 
1415
 
 
1416
    def assertLength(self, length, obj_with_len):
 
1417
        """Assert that obj_with_len is of length length."""
 
1418
        if len(obj_with_len) != length:
 
1419
            self.fail("Incorrect length: wanted %d, got %d for %r" % (
 
1420
                length, len(obj_with_len), obj_with_len))
 
1421
 
 
1422
    def assertLogsError(self, exception_class, func, *args, **kwargs):
 
1423
        """Assert that `func(*args, **kwargs)` quietly logs a specific error.
 
1424
        """
 
1425
        captured = []
 
1426
        orig_log_exception_quietly = trace.log_exception_quietly
 
1427
        try:
 
1428
            def capture():
 
1429
                orig_log_exception_quietly()
 
1430
                captured.append(sys.exc_info()[1])
 
1431
            trace.log_exception_quietly = capture
 
1432
            func(*args, **kwargs)
 
1433
        finally:
 
1434
            trace.log_exception_quietly = orig_log_exception_quietly
 
1435
        self.assertLength(1, captured)
 
1436
        err = captured[0]
 
1437
        self.assertIsInstance(err, exception_class)
 
1438
        return err
 
1439
 
 
1440
    def assertPositive(self, val):
 
1441
        """Assert that val is greater than 0."""
 
1442
        self.assertTrue(val > 0, 'expected a positive value, but got %s' % val)
 
1443
 
 
1444
    def assertNegative(self, val):
 
1445
        """Assert that val is less than 0."""
 
1446
        self.assertTrue(val < 0, 'expected a negative value, but got %s' % val)
 
1447
 
 
1448
    def assertStartsWith(self, s, prefix):
 
1449
        if not s.startswith(prefix):
 
1450
            raise AssertionError('string %r does not start with %r' % (s, prefix))
 
1451
 
 
1452
    def assertEndsWith(self, s, suffix):
 
1453
        """Asserts that s ends with suffix."""
 
1454
        if not s.endswith(suffix):
 
1455
            raise AssertionError('string %r does not end with %r' % (s, suffix))
 
1456
 
 
1457
    def assertContainsRe(self, haystack, needle_re, flags=0):
 
1458
        """Assert that a contains something matching a regular expression."""
 
1459
        if not re.search(needle_re, haystack, flags):
 
1460
            if '\n' in haystack or len(haystack) > 60:
 
1461
                # a long string, format it in a more readable way
 
1462
                raise AssertionError(
 
1463
                        'pattern "%s" not found in\n"""\\\n%s"""\n'
 
1464
                        % (needle_re, haystack))
 
1465
            else:
 
1466
                raise AssertionError('pattern "%s" not found in "%s"'
 
1467
                        % (needle_re, haystack))
 
1468
 
 
1469
    def assertNotContainsRe(self, haystack, needle_re, flags=0):
 
1470
        """Assert that a does not match a regular expression"""
 
1471
        if re.search(needle_re, haystack, flags):
 
1472
            raise AssertionError('pattern "%s" found in "%s"'
 
1473
                    % (needle_re, haystack))
 
1474
 
 
1475
    def assertContainsString(self, haystack, needle):
 
1476
        if haystack.find(needle) == -1:
 
1477
            self.fail("string %r not found in '''%s'''" % (needle, haystack))
 
1478
 
 
1479
    def assertNotContainsString(self, haystack, needle):
 
1480
        if haystack.find(needle) != -1:
 
1481
            self.fail("string %r found in '''%s'''" % (needle, haystack))
 
1482
 
 
1483
    def assertSubset(self, sublist, superlist):
 
1484
        """Assert that every entry in sublist is present in superlist."""
 
1485
        missing = set(sublist) - set(superlist)
 
1486
        if len(missing) > 0:
 
1487
            raise AssertionError("value(s) %r not present in container %r" %
 
1488
                                 (missing, superlist))
 
1489
 
 
1490
    def assertListRaises(self, excClass, func, *args, **kwargs):
 
1491
        """Fail unless excClass is raised when the iterator from func is used.
 
1492
 
 
1493
        Many functions can return generators this makes sure
 
1494
        to wrap them in a list() call to make sure the whole generator
 
1495
        is run, and that the proper exception is raised.
 
1496
        """
 
1497
        try:
 
1498
            list(func(*args, **kwargs))
 
1499
        except excClass, e:
 
1500
            return e
 
1501
        else:
 
1502
            if getattr(excClass,'__name__', None) is not None:
 
1503
                excName = excClass.__name__
 
1504
            else:
 
1505
                excName = str(excClass)
 
1506
            raise self.failureException, "%s not raised" % excName
 
1507
 
 
1508
    def assertRaises(self, excClass, callableObj, *args, **kwargs):
 
1509
        """Assert that a callable raises a particular exception.
 
1510
 
 
1511
        :param excClass: As for the except statement, this may be either an
 
1512
            exception class, or a tuple of classes.
 
1513
        :param callableObj: A callable, will be passed ``*args`` and
 
1514
            ``**kwargs``.
 
1515
 
 
1516
        Returns the exception so that you can examine it.
 
1517
        """
 
1518
        try:
 
1519
            callableObj(*args, **kwargs)
 
1520
        except excClass, e:
 
1521
            return e
 
1522
        else:
 
1523
            if getattr(excClass,'__name__', None) is not None:
 
1524
                excName = excClass.__name__
 
1525
            else:
 
1526
                # probably a tuple
 
1527
                excName = str(excClass)
 
1528
            raise self.failureException, "%s not raised" % excName
 
1529
 
 
1530
    def assertIs(self, left, right, message=None):
 
1531
        if not (left is right):
 
1532
            if message is not None:
 
1533
                raise AssertionError(message)
 
1534
            else:
 
1535
                raise AssertionError("%r is not %r." % (left, right))
 
1536
 
 
1537
    def assertIsNot(self, left, right, message=None):
 
1538
        if (left is right):
 
1539
            if message is not None:
 
1540
                raise AssertionError(message)
 
1541
            else:
 
1542
                raise AssertionError("%r is %r." % (left, right))
 
1543
 
 
1544
    def assertTransportMode(self, transport, path, mode):
 
1545
        """Fail if a path does not have mode "mode".
 
1546
 
 
1547
        If modes are not supported on this transport, the assertion is ignored.
 
1548
        """
 
1549
        if not transport._can_roundtrip_unix_modebits():
 
1550
            return
 
1551
        path_stat = transport.stat(path)
 
1552
        actual_mode = stat.S_IMODE(path_stat.st_mode)
 
1553
        self.assertEqual(mode, actual_mode,
 
1554
                         'mode of %r incorrect (%s != %s)'
 
1555
                         % (path, oct(mode), oct(actual_mode)))
 
1556
 
 
1557
    def assertIsSameRealPath(self, path1, path2):
 
1558
        """Fail if path1 and path2 points to different files"""
 
1559
        self.assertEqual(osutils.realpath(path1),
 
1560
                         osutils.realpath(path2),
 
1561
                         "apparent paths:\na = %s\nb = %s\n," % (path1, path2))
 
1562
 
 
1563
    def assertIsInstance(self, obj, kls, msg=None):
 
1564
        """Fail if obj is not an instance of kls
 
1565
        
 
1566
        :param msg: Supplementary message to show if the assertion fails.
 
1567
        """
 
1568
        if not isinstance(obj, kls):
 
1569
            m = "%r is an instance of %s rather than %s" % (
 
1570
                obj, obj.__class__, kls)
 
1571
            if msg:
 
1572
                m += ": " + msg
 
1573
            self.fail(m)
 
1574
 
 
1575
    def assertFileEqual(self, content, path):
 
1576
        """Fail if path does not contain 'content'."""
 
1577
        self.assertPathExists(path)
 
1578
        f = file(path, 'rb')
 
1579
        try:
 
1580
            s = f.read()
 
1581
        finally:
 
1582
            f.close()
 
1583
        self.assertEqualDiff(content, s)
 
1584
 
 
1585
    def assertDocstring(self, expected_docstring, obj):
 
1586
        """Fail if obj does not have expected_docstring"""
 
1587
        if __doc__ is None:
 
1588
            # With -OO the docstring should be None instead
 
1589
            self.assertIs(obj.__doc__, None)
 
1590
        else:
 
1591
            self.assertEqual(expected_docstring, obj.__doc__)
 
1592
 
 
1593
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4)))
 
1594
    def failUnlessExists(self, path):
 
1595
        return self.assertPathExists(path)
 
1596
 
 
1597
    def assertPathExists(self, path):
 
1598
        """Fail unless path or paths, which may be abs or relative, exist."""
 
1599
        if not isinstance(path, basestring):
 
1600
            for p in path:
 
1601
                self.assertPathExists(p)
 
1602
        else:
 
1603
            self.assertTrue(osutils.lexists(path),
 
1604
                path + " does not exist")
 
1605
 
 
1606
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4)))
 
1607
    def failIfExists(self, path):
 
1608
        return self.assertPathDoesNotExist(path)
 
1609
 
 
1610
    def assertPathDoesNotExist(self, path):
 
1611
        """Fail if path or paths, which may be abs or relative, exist."""
 
1612
        if not isinstance(path, basestring):
 
1613
            for p in path:
 
1614
                self.assertPathDoesNotExist(p)
 
1615
        else:
 
1616
            self.assertFalse(osutils.lexists(path),
 
1617
                path + " exists")
 
1618
 
 
1619
    def _capture_deprecation_warnings(self, a_callable, *args, **kwargs):
 
1620
        """A helper for callDeprecated and applyDeprecated.
 
1621
 
 
1622
        :param a_callable: A callable to call.
 
1623
        :param args: The positional arguments for the callable
 
1624
        :param kwargs: The keyword arguments for the callable
 
1625
        :return: A tuple (warnings, result). result is the result of calling
 
1626
            a_callable(``*args``, ``**kwargs``).
 
1627
        """
 
1628
        local_warnings = []
 
1629
        def capture_warnings(msg, cls=None, stacklevel=None):
 
1630
            # we've hooked into a deprecation specific callpath,
 
1631
            # only deprecations should getting sent via it.
 
1632
            self.assertEqual(cls, DeprecationWarning)
 
1633
            local_warnings.append(msg)
 
1634
        original_warning_method = symbol_versioning.warn
 
1635
        symbol_versioning.set_warning_method(capture_warnings)
 
1636
        try:
 
1637
            result = a_callable(*args, **kwargs)
 
1638
        finally:
 
1639
            symbol_versioning.set_warning_method(original_warning_method)
 
1640
        return (local_warnings, result)
 
1641
 
 
1642
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
 
1643
        """Call a deprecated callable without warning the user.
 
1644
 
 
1645
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1646
        not other callers that go direct to the warning module.
 
1647
 
 
1648
        To test that a deprecated method raises an error, do something like
 
1649
        this (remember that both assertRaises and applyDeprecated delays *args
 
1650
        and **kwargs passing)::
 
1651
 
 
1652
            self.assertRaises(errors.ReservedId,
 
1653
                self.applyDeprecated,
 
1654
                deprecated_in((1, 5, 0)),
 
1655
                br.append_revision,
 
1656
                'current:')
 
1657
 
 
1658
        :param deprecation_format: The deprecation format that the callable
 
1659
            should have been deprecated with. This is the same type as the
 
1660
            parameter to deprecated_method/deprecated_function. If the
 
1661
            callable is not deprecated with this format, an assertion error
 
1662
            will be raised.
 
1663
        :param a_callable: A callable to call. This may be a bound method or
 
1664
            a regular function. It will be called with ``*args`` and
 
1665
            ``**kwargs``.
 
1666
        :param args: The positional arguments for the callable
 
1667
        :param kwargs: The keyword arguments for the callable
 
1668
        :return: The result of a_callable(``*args``, ``**kwargs``)
 
1669
        """
 
1670
        call_warnings, result = self._capture_deprecation_warnings(a_callable,
 
1671
            *args, **kwargs)
 
1672
        expected_first_warning = symbol_versioning.deprecation_string(
 
1673
            a_callable, deprecation_format)
 
1674
        if len(call_warnings) == 0:
 
1675
            self.fail("No deprecation warning generated by call to %s" %
 
1676
                a_callable)
 
1677
        self.assertEqual(expected_first_warning, call_warnings[0])
 
1678
        return result
 
1679
 
 
1680
    def callCatchWarnings(self, fn, *args, **kw):
 
1681
        """Call a callable that raises python warnings.
 
1682
 
 
1683
        The caller's responsible for examining the returned warnings.
 
1684
 
 
1685
        If the callable raises an exception, the exception is not
 
1686
        caught and propagates up to the caller.  In that case, the list
 
1687
        of warnings is not available.
 
1688
 
 
1689
        :returns: ([warning_object, ...], fn_result)
 
1690
        """
 
1691
        # XXX: This is not perfect, because it completely overrides the
 
1692
        # warnings filters, and some code may depend on suppressing particular
 
1693
        # warnings.  It's the easiest way to insulate ourselves from -Werror,
 
1694
        # though.  -- Andrew, 20071062
 
1695
        wlist = []
 
1696
        def _catcher(message, category, filename, lineno, file=None, line=None):
 
1697
            # despite the name, 'message' is normally(?) a Warning subclass
 
1698
            # instance
 
1699
            wlist.append(message)
 
1700
        saved_showwarning = warnings.showwarning
 
1701
        saved_filters = warnings.filters
 
1702
        try:
 
1703
            warnings.showwarning = _catcher
 
1704
            warnings.filters = []
 
1705
            result = fn(*args, **kw)
 
1706
        finally:
 
1707
            warnings.showwarning = saved_showwarning
 
1708
            warnings.filters = saved_filters
 
1709
        return wlist, result
 
1710
 
 
1711
    def callDeprecated(self, expected, callable, *args, **kwargs):
 
1712
        """Assert that a callable is deprecated in a particular way.
 
1713
 
 
1714
        This is a very precise test for unusual requirements. The
 
1715
        applyDeprecated helper function is probably more suited for most tests
 
1716
        as it allows you to simply specify the deprecation format being used
 
1717
        and will ensure that that is issued for the function being called.
 
1718
 
 
1719
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1720
        not other callers that go direct to the warning module.  To catch
 
1721
        general warnings, use callCatchWarnings.
 
1722
 
 
1723
        :param expected: a list of the deprecation warnings expected, in order
 
1724
        :param callable: The callable to call
 
1725
        :param args: The positional arguments for the callable
 
1726
        :param kwargs: The keyword arguments for the callable
 
1727
        """
 
1728
        call_warnings, result = self._capture_deprecation_warnings(callable,
 
1729
            *args, **kwargs)
 
1730
        self.assertEqual(expected, call_warnings)
 
1731
        return result
 
1732
 
 
1733
    def _startLogFile(self):
 
1734
        """Setup a in-memory target for bzr and testcase log messages"""
 
1735
        pseudo_log_file = StringIO()
 
1736
        def _get_log_contents_for_weird_testtools_api():
 
1737
            return [pseudo_log_file.getvalue().decode(
 
1738
                "utf-8", "replace").encode("utf-8")]
 
1739
        self.addDetail("log", content.Content(content.ContentType("text",
 
1740
            "plain", {"charset": "utf8"}),
 
1741
            _get_log_contents_for_weird_testtools_api))
 
1742
        self._log_file = pseudo_log_file
 
1743
        self._log_memento = trace.push_log_file(self._log_file)
 
1744
        self.addCleanup(self._finishLogFile)
 
1745
 
 
1746
    def _finishLogFile(self):
 
1747
        """Flush and dereference the in-memory log for this testcase"""
 
1748
        if trace._trace_file:
 
1749
            # flush the log file, to get all content
 
1750
            trace._trace_file.flush()
 
1751
        trace.pop_log_file(self._log_memento)
 
1752
        # The logging module now tracks references for cleanup so discard ours
 
1753
        del self._log_memento
 
1754
 
 
1755
    def thisFailsStrictLockCheck(self):
 
1756
        """It is known that this test would fail with -Dstrict_locks.
 
1757
 
 
1758
        By default, all tests are run with strict lock checking unless
 
1759
        -Edisable_lock_checks is supplied. However there are some tests which
 
1760
        we know fail strict locks at this point that have not been fixed.
 
1761
        They should call this function to disable the strict checking.
 
1762
 
 
1763
        This should be used sparingly, it is much better to fix the locking
 
1764
        issues rather than papering over the problem by calling this function.
 
1765
        """
 
1766
        debug.debug_flags.discard('strict_locks')
 
1767
 
 
1768
    def overrideAttr(self, obj, attr_name, new=_unitialized_attr):
 
1769
        """Overrides an object attribute restoring it after the test.
 
1770
 
 
1771
        :note: This should be used with discretion; you should think about
 
1772
        whether it's better to make the code testable without monkey-patching.
 
1773
 
 
1774
        :param obj: The object that will be mutated.
 
1775
 
 
1776
        :param attr_name: The attribute name we want to preserve/override in
 
1777
            the object.
 
1778
 
 
1779
        :param new: The optional value we want to set the attribute to.
 
1780
 
 
1781
        :returns: The actual attr value.
 
1782
        """
 
1783
        # The actual value is captured by the call below
 
1784
        value = getattr(obj, attr_name, _unitialized_attr)
 
1785
        if value is _unitialized_attr:
 
1786
            # When the test completes, the attribute should not exist, but if
 
1787
            # we aren't setting a value, we don't need to do anything.
 
1788
            if new is not _unitialized_attr:
 
1789
                self.addCleanup(delattr, obj, attr_name)
 
1790
        else:
 
1791
            self.addCleanup(setattr, obj, attr_name, value)
 
1792
        if new is not _unitialized_attr:
 
1793
            setattr(obj, attr_name, new)
 
1794
        return value
 
1795
 
 
1796
    def overrideEnv(self, name, new):
 
1797
        """Set an environment variable, and reset it after the test.
 
1798
 
 
1799
        :param name: The environment variable name.
 
1800
 
 
1801
        :param new: The value to set the variable to. If None, the 
 
1802
            variable is deleted from the environment.
 
1803
 
 
1804
        :returns: The actual variable value.
 
1805
        """
 
1806
        value = osutils.set_or_unset_env(name, new)
 
1807
        self.addCleanup(osutils.set_or_unset_env, name, value)
 
1808
        return value
 
1809
 
 
1810
    def recordCalls(self, obj, attr_name):
 
1811
        """Monkeypatch in a wrapper that will record calls.
 
1812
 
 
1813
        The monkeypatch is automatically removed when the test concludes.
 
1814
 
 
1815
        :param obj: The namespace holding the reference to be replaced;
 
1816
            typically a module, class, or object.
 
1817
        :param attr_name: A string for the name of the attribute to 
 
1818
            patch.
 
1819
        :returns: A list that will be extended with one item every time the
 
1820
            function is called, with a tuple of (args, kwargs).
 
1821
        """
 
1822
        calls = []
 
1823
 
 
1824
        def decorator(*args, **kwargs):
 
1825
            calls.append((args, kwargs))
 
1826
            return orig(*args, **kwargs)
 
1827
        orig = self.overrideAttr(obj, attr_name, decorator)
 
1828
        return calls
 
1829
 
 
1830
    def _cleanEnvironment(self):
 
1831
        for name, value in isolated_environ.iteritems():
 
1832
            self.overrideEnv(name, value)
 
1833
 
 
1834
    def _restoreHooks(self):
 
1835
        for klass, (name, hooks) in self._preserved_hooks.items():
 
1836
            setattr(klass, name, hooks)
 
1837
        self._preserved_hooks.clear()
 
1838
        bzrlib.hooks._lazy_hooks = self._preserved_lazy_hooks
 
1839
        self._preserved_lazy_hooks.clear()
 
1840
 
 
1841
    def knownFailure(self, reason):
 
1842
        """Declare that this test fails for a known reason
 
1843
 
 
1844
        Tests that are known to fail should generally be using expectedFailure
 
1845
        with an appropriate reverse assertion if a change could cause the test
 
1846
        to start passing. Conversely if the test has no immediate prospect of
 
1847
        succeeding then using skip is more suitable.
 
1848
 
 
1849
        When this method is called while an exception is being handled, that
 
1850
        traceback will be used, otherwise a new exception will be thrown to
 
1851
        provide one but won't be reported.
 
1852
        """
 
1853
        self._add_reason(reason)
 
1854
        try:
 
1855
            exc_info = sys.exc_info()
 
1856
            if exc_info != (None, None, None):
 
1857
                self._report_traceback(exc_info)
 
1858
            else:
 
1859
                try:
 
1860
                    raise self.failureException(reason)
 
1861
                except self.failureException:
 
1862
                    exc_info = sys.exc_info()
 
1863
            # GZ 02-08-2011: Maybe cleanup this err.exc_info attribute too?
 
1864
            raise testtools.testcase._ExpectedFailure(exc_info)
 
1865
        finally:
 
1866
            del exc_info
 
1867
 
 
1868
    def _suppress_log(self):
 
1869
        """Remove the log info from details."""
 
1870
        self.discardDetail('log')
 
1871
 
 
1872
    def _do_skip(self, result, reason):
 
1873
        self._suppress_log()
 
1874
        addSkip = getattr(result, 'addSkip', None)
 
1875
        if not callable(addSkip):
 
1876
            result.addSuccess(result)
 
1877
        else:
 
1878
            addSkip(self, reason)
 
1879
 
 
1880
    @staticmethod
 
1881
    def _do_known_failure(self, result, e):
 
1882
        self._suppress_log()
 
1883
        err = sys.exc_info()
 
1884
        addExpectedFailure = getattr(result, 'addExpectedFailure', None)
 
1885
        if addExpectedFailure is not None:
 
1886
            addExpectedFailure(self, err)
 
1887
        else:
 
1888
            result.addSuccess(self)
 
1889
 
 
1890
    @staticmethod
 
1891
    def _do_not_applicable(self, result, e):
 
1892
        if not e.args:
 
1893
            reason = 'No reason given'
 
1894
        else:
 
1895
            reason = e.args[0]
 
1896
        self._suppress_log ()
 
1897
        addNotApplicable = getattr(result, 'addNotApplicable', None)
 
1898
        if addNotApplicable is not None:
 
1899
            result.addNotApplicable(self, reason)
 
1900
        else:
 
1901
            self._do_skip(result, reason)
 
1902
 
 
1903
    @staticmethod
 
1904
    def _report_skip(self, result, err):
 
1905
        """Override the default _report_skip.
 
1906
 
 
1907
        We want to strip the 'log' detail. If we waint until _do_skip, it has
 
1908
        already been formatted into the 'reason' string, and we can't pull it
 
1909
        out again.
 
1910
        """
 
1911
        self._suppress_log()
 
1912
        super(TestCase, self)._report_skip(self, result, err)
 
1913
 
 
1914
    @staticmethod
 
1915
    def _report_expected_failure(self, result, err):
 
1916
        """Strip the log.
 
1917
 
 
1918
        See _report_skip for motivation.
 
1919
        """
 
1920
        self._suppress_log()
 
1921
        super(TestCase, self)._report_expected_failure(self, result, err)
 
1922
 
 
1923
    @staticmethod
 
1924
    def _do_unsupported_or_skip(self, result, e):
 
1925
        reason = e.args[0]
 
1926
        self._suppress_log()
 
1927
        addNotSupported = getattr(result, 'addNotSupported', None)
 
1928
        if addNotSupported is not None:
 
1929
            result.addNotSupported(self, reason)
 
1930
        else:
 
1931
            self._do_skip(result, reason)
 
1932
 
 
1933
    def time(self, callable, *args, **kwargs):
 
1934
        """Run callable and accrue the time it takes to the benchmark time.
 
1935
 
 
1936
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
 
1937
        this will cause lsprofile statistics to be gathered and stored in
 
1938
        self._benchcalls.
 
1939
        """
 
1940
        if self._benchtime is None:
 
1941
            self.addDetail('benchtime', content.Content(content.ContentType(
 
1942
                "text", "plain"), lambda:[str(self._benchtime)]))
 
1943
            self._benchtime = 0
 
1944
        start = time.time()
 
1945
        try:
 
1946
            if not self._gather_lsprof_in_benchmarks:
 
1947
                return callable(*args, **kwargs)
 
1948
            else:
 
1949
                # record this benchmark
 
1950
                ret, stats = bzrlib.lsprof.profile(callable, *args, **kwargs)
 
1951
                stats.sort()
 
1952
                self._benchcalls.append(((callable, args, kwargs), stats))
 
1953
                return ret
 
1954
        finally:
 
1955
            self._benchtime += time.time() - start
 
1956
 
 
1957
    def log(self, *args):
 
1958
        trace.mutter(*args)
 
1959
 
 
1960
    def get_log(self):
 
1961
        """Get a unicode string containing the log from bzrlib.trace.
 
1962
 
 
1963
        Undecodable characters are replaced.
 
1964
        """
 
1965
        return u"".join(self.getDetails()['log'].iter_text())
 
1966
 
 
1967
    def requireFeature(self, feature):
 
1968
        """This test requires a specific feature is available.
 
1969
 
 
1970
        :raises UnavailableFeature: When feature is not available.
 
1971
        """
 
1972
        if not feature.available():
 
1973
            raise UnavailableFeature(feature)
 
1974
 
 
1975
    def _run_bzr_autosplit(self, args, retcode, encoding, stdin,
 
1976
            working_dir):
 
1977
        """Run bazaar command line, splitting up a string command line."""
 
1978
        if isinstance(args, basestring):
 
1979
            # shlex don't understand unicode strings,
 
1980
            # so args should be plain string (bialix 20070906)
 
1981
            args = list(shlex.split(str(args)))
 
1982
        return self._run_bzr_core(args, retcode=retcode,
 
1983
                encoding=encoding, stdin=stdin, working_dir=working_dir,
 
1984
                )
 
1985
 
 
1986
    def _run_bzr_core(self, args, retcode, encoding, stdin,
 
1987
            working_dir):
 
1988
        # Clear chk_map page cache, because the contents are likely to mask
 
1989
        # locking errors.
 
1990
        chk_map.clear_cache()
 
1991
        if encoding is None:
 
1992
            encoding = osutils.get_user_encoding()
 
1993
        stdout = StringIOWrapper()
 
1994
        stderr = StringIOWrapper()
 
1995
        stdout.encoding = encoding
 
1996
        stderr.encoding = encoding
 
1997
 
 
1998
        self.log('run bzr: %r', args)
 
1999
        # FIXME: don't call into logging here
 
2000
        handler = trace.EncodedStreamHandler(stderr, errors="replace",
 
2001
            level=logging.INFO)
 
2002
        logger = logging.getLogger('')
 
2003
        logger.addHandler(handler)
 
2004
        old_ui_factory = ui.ui_factory
 
2005
        ui.ui_factory = TestUIFactory(stdin=stdin, stdout=stdout, stderr=stderr)
 
2006
 
 
2007
        cwd = None
 
2008
        if working_dir is not None:
 
2009
            cwd = osutils.getcwd()
 
2010
            os.chdir(working_dir)
 
2011
 
 
2012
        try:
 
2013
            try:
 
2014
                result = self.apply_redirected(
 
2015
                    ui.ui_factory.stdin,
 
2016
                    stdout, stderr,
 
2017
                    _mod_commands.run_bzr_catch_user_errors,
 
2018
                    args)
 
2019
            except KeyboardInterrupt:
 
2020
                # Reraise KeyboardInterrupt with contents of redirected stdout
 
2021
                # and stderr as arguments, for tests which are interested in
 
2022
                # stdout and stderr and are expecting the exception.
 
2023
                out = stdout.getvalue()
 
2024
                err = stderr.getvalue()
 
2025
                if out:
 
2026
                    self.log('output:\n%r', out)
 
2027
                if err:
 
2028
                    self.log('errors:\n%r', err)
 
2029
                raise KeyboardInterrupt(out, err)
 
2030
        finally:
 
2031
            logger.removeHandler(handler)
 
2032
            ui.ui_factory = old_ui_factory
 
2033
            if cwd is not None:
 
2034
                os.chdir(cwd)
 
2035
 
 
2036
        out = stdout.getvalue()
 
2037
        err = stderr.getvalue()
 
2038
        if out:
 
2039
            self.log('output:\n%r', out)
 
2040
        if err:
 
2041
            self.log('errors:\n%r', err)
 
2042
        if retcode is not None:
 
2043
            self.assertEquals(retcode, result,
 
2044
                              message='Unexpected return code')
 
2045
        return result, out, err
 
2046
 
 
2047
    def run_bzr(self, args, retcode=0, encoding=None, stdin=None,
 
2048
                working_dir=None, error_regexes=[], output_encoding=None):
 
2049
        """Invoke bzr, as if it were run from the command line.
 
2050
 
 
2051
        The argument list should not include the bzr program name - the
 
2052
        first argument is normally the bzr command.  Arguments may be
 
2053
        passed in three ways:
 
2054
 
 
2055
        1- A list of strings, eg ["commit", "a"].  This is recommended
 
2056
        when the command contains whitespace or metacharacters, or
 
2057
        is built up at run time.
 
2058
 
 
2059
        2- A single string, eg "add a".  This is the most convenient
 
2060
        for hardcoded commands.
 
2061
 
 
2062
        This runs bzr through the interface that catches and reports
 
2063
        errors, and with logging set to something approximating the
 
2064
        default, so that error reporting can be checked.
 
2065
 
 
2066
        This should be the main method for tests that want to exercise the
 
2067
        overall behavior of the bzr application (rather than a unit test
 
2068
        or a functional test of the library.)
 
2069
 
 
2070
        This sends the stdout/stderr results into the test's log,
 
2071
        where it may be useful for debugging.  See also run_captured.
 
2072
 
 
2073
        :keyword stdin: A string to be used as stdin for the command.
 
2074
        :keyword retcode: The status code the command should return;
 
2075
            default 0.
 
2076
        :keyword working_dir: The directory to run the command in
 
2077
        :keyword error_regexes: A list of expected error messages.  If
 
2078
            specified they must be seen in the error output of the command.
 
2079
        """
 
2080
        retcode, out, err = self._run_bzr_autosplit(
 
2081
            args=args,
 
2082
            retcode=retcode,
 
2083
            encoding=encoding,
 
2084
            stdin=stdin,
 
2085
            working_dir=working_dir,
 
2086
            )
 
2087
        self.assertIsInstance(error_regexes, (list, tuple))
 
2088
        for regex in error_regexes:
 
2089
            self.assertContainsRe(err, regex)
 
2090
        return out, err
 
2091
 
 
2092
    def run_bzr_error(self, error_regexes, *args, **kwargs):
 
2093
        """Run bzr, and check that stderr contains the supplied regexes
 
2094
 
 
2095
        :param error_regexes: Sequence of regular expressions which
 
2096
            must each be found in the error output. The relative ordering
 
2097
            is not enforced.
 
2098
        :param args: command-line arguments for bzr
 
2099
        :param kwargs: Keyword arguments which are interpreted by run_bzr
 
2100
            This function changes the default value of retcode to be 3,
 
2101
            since in most cases this is run when you expect bzr to fail.
 
2102
 
 
2103
        :return: (out, err) The actual output of running the command (in case
 
2104
            you want to do more inspection)
 
2105
 
 
2106
        Examples of use::
 
2107
 
 
2108
            # Make sure that commit is failing because there is nothing to do
 
2109
            self.run_bzr_error(['no changes to commit'],
 
2110
                               ['commit', '-m', 'my commit comment'])
 
2111
            # Make sure --strict is handling an unknown file, rather than
 
2112
            # giving us the 'nothing to do' error
 
2113
            self.build_tree(['unknown'])
 
2114
            self.run_bzr_error(['Commit refused because there are unknown files'],
 
2115
                               ['commit', --strict', '-m', 'my commit comment'])
 
2116
        """
 
2117
        kwargs.setdefault('retcode', 3)
 
2118
        kwargs['error_regexes'] = error_regexes
 
2119
        out, err = self.run_bzr(*args, **kwargs)
 
2120
        return out, err
 
2121
 
 
2122
    def run_bzr_subprocess(self, *args, **kwargs):
 
2123
        """Run bzr in a subprocess for testing.
 
2124
 
 
2125
        This starts a new Python interpreter and runs bzr in there.
 
2126
        This should only be used for tests that have a justifiable need for
 
2127
        this isolation: e.g. they are testing startup time, or signal
 
2128
        handling, or early startup code, etc.  Subprocess code can't be
 
2129
        profiled or debugged so easily.
 
2130
 
 
2131
        :keyword retcode: The status code that is expected.  Defaults to 0.  If
 
2132
            None is supplied, the status code is not checked.
 
2133
        :keyword env_changes: A dictionary which lists changes to environment
 
2134
            variables. A value of None will unset the env variable.
 
2135
            The values must be strings. The change will only occur in the
 
2136
            child, so you don't need to fix the environment after running.
 
2137
        :keyword universal_newlines: Convert CRLF => LF
 
2138
        :keyword allow_plugins: By default the subprocess is run with
 
2139
            --no-plugins to ensure test reproducibility. Also, it is possible
 
2140
            for system-wide plugins to create unexpected output on stderr,
 
2141
            which can cause unnecessary test failures.
 
2142
        """
 
2143
        env_changes = kwargs.get('env_changes', {})
 
2144
        working_dir = kwargs.get('working_dir', None)
 
2145
        allow_plugins = kwargs.get('allow_plugins', False)
 
2146
        if len(args) == 1:
 
2147
            if isinstance(args[0], list):
 
2148
                args = args[0]
 
2149
            elif isinstance(args[0], basestring):
 
2150
                args = list(shlex.split(args[0]))
 
2151
        else:
 
2152
            raise ValueError("passing varargs to run_bzr_subprocess")
 
2153
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
 
2154
                                            working_dir=working_dir,
 
2155
                                            allow_plugins=allow_plugins)
 
2156
        # We distinguish between retcode=None and retcode not passed.
 
2157
        supplied_retcode = kwargs.get('retcode', 0)
 
2158
        return self.finish_bzr_subprocess(process, retcode=supplied_retcode,
 
2159
            universal_newlines=kwargs.get('universal_newlines', False),
 
2160
            process_args=args)
 
2161
 
 
2162
    def start_bzr_subprocess(self, process_args, env_changes=None,
 
2163
                             skip_if_plan_to_signal=False,
 
2164
                             working_dir=None,
 
2165
                             allow_plugins=False, stderr=subprocess.PIPE):
 
2166
        """Start bzr in a subprocess for testing.
 
2167
 
 
2168
        This starts a new Python interpreter and runs bzr in there.
 
2169
        This should only be used for tests that have a justifiable need for
 
2170
        this isolation: e.g. they are testing startup time, or signal
 
2171
        handling, or early startup code, etc.  Subprocess code can't be
 
2172
        profiled or debugged so easily.
 
2173
 
 
2174
        :param process_args: a list of arguments to pass to the bzr executable,
 
2175
            for example ``['--version']``.
 
2176
        :param env_changes: A dictionary which lists changes to environment
 
2177
            variables. A value of None will unset the env variable.
 
2178
            The values must be strings. The change will only occur in the
 
2179
            child, so you don't need to fix the environment after running.
 
2180
        :param skip_if_plan_to_signal: raise TestSkipped when true and system
 
2181
            doesn't support signalling subprocesses.
 
2182
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
2183
        :param stderr: file to use for the subprocess's stderr.  Valid values
 
2184
            are those valid for the stderr argument of `subprocess.Popen`.
 
2185
            Default value is ``subprocess.PIPE``.
 
2186
 
 
2187
        :returns: Popen object for the started process.
 
2188
        """
 
2189
        if skip_if_plan_to_signal:
 
2190
            if os.name != "posix":
 
2191
                raise TestSkipped("Sending signals not supported")
 
2192
 
 
2193
        if env_changes is None:
 
2194
            env_changes = {}
 
2195
        # Because $HOME is set to a tempdir for the context of a test, modules
 
2196
        # installed in the user dir will not be found unless $PYTHONUSERBASE
 
2197
        # gets set to the computed directory of this parent process.
 
2198
        if site.USER_BASE is not None:
 
2199
            env_changes["PYTHONUSERBASE"] = site.USER_BASE
 
2200
        old_env = {}
 
2201
 
 
2202
        def cleanup_environment():
 
2203
            for env_var, value in env_changes.iteritems():
 
2204
                old_env[env_var] = osutils.set_or_unset_env(env_var, value)
 
2205
 
 
2206
        def restore_environment():
 
2207
            for env_var, value in old_env.iteritems():
 
2208
                osutils.set_or_unset_env(env_var, value)
 
2209
 
 
2210
        bzr_path = self.get_bzr_path()
 
2211
 
 
2212
        cwd = None
 
2213
        if working_dir is not None:
 
2214
            cwd = osutils.getcwd()
 
2215
            os.chdir(working_dir)
 
2216
 
 
2217
        try:
 
2218
            # win32 subprocess doesn't support preexec_fn
 
2219
            # so we will avoid using it on all platforms, just to
 
2220
            # make sure the code path is used, and we don't break on win32
 
2221
            cleanup_environment()
 
2222
            # Include the subprocess's log file in the test details, in case
 
2223
            # the test fails due to an error in the subprocess.
 
2224
            self._add_subprocess_log(trace._get_bzr_log_filename())
 
2225
            command = [sys.executable]
 
2226
            # frozen executables don't need the path to bzr
 
2227
            if getattr(sys, "frozen", None) is None:
 
2228
                command.append(bzr_path)
 
2229
            if not allow_plugins:
 
2230
                command.append('--no-plugins')
 
2231
            command.extend(process_args)
 
2232
            process = self._popen(command, stdin=subprocess.PIPE,
 
2233
                                  stdout=subprocess.PIPE,
 
2234
                                  stderr=stderr)
 
2235
        finally:
 
2236
            restore_environment()
 
2237
            if cwd is not None:
 
2238
                os.chdir(cwd)
 
2239
 
 
2240
        return process
 
2241
 
 
2242
    def _add_subprocess_log(self, log_file_path):
 
2243
        if len(self._log_files) == 0:
 
2244
            # Register an addCleanup func.  We do this on the first call to
 
2245
            # _add_subprocess_log rather than in TestCase.setUp so that this
 
2246
            # addCleanup is registered after any cleanups for tempdirs that
 
2247
            # subclasses might create, which will probably remove the log file
 
2248
            # we want to read.
 
2249
            self.addCleanup(self._subprocess_log_cleanup)
 
2250
        # self._log_files is a set, so if a log file is reused we won't grab it
 
2251
        # twice.
 
2252
        self._log_files.add(log_file_path)
 
2253
 
 
2254
    def _subprocess_log_cleanup(self):
 
2255
        for count, log_file_path in enumerate(self._log_files):
 
2256
            # We use buffer_now=True to avoid holding the file open beyond
 
2257
            # the life of this function, which might interfere with e.g.
 
2258
            # cleaning tempdirs on Windows.
 
2259
            # XXX: Testtools 0.9.5 doesn't have the content_from_file helper
 
2260
            #detail_content = content.content_from_file(
 
2261
            #    log_file_path, buffer_now=True)
 
2262
            with open(log_file_path, 'rb') as log_file:
 
2263
                log_file_bytes = log_file.read()
 
2264
            detail_content = content.Content(content.ContentType("text",
 
2265
                "plain", {"charset": "utf8"}), lambda: [log_file_bytes])
 
2266
            self.addDetail("start_bzr_subprocess-log-%d" % (count,),
 
2267
                detail_content)
 
2268
 
 
2269
    def _popen(self, *args, **kwargs):
 
2270
        """Place a call to Popen.
 
2271
 
 
2272
        Allows tests to override this method to intercept the calls made to
 
2273
        Popen for introspection.
 
2274
        """
 
2275
        return subprocess.Popen(*args, **kwargs)
 
2276
 
 
2277
    def get_source_path(self):
 
2278
        """Return the path of the directory containing bzrlib."""
 
2279
        return os.path.dirname(os.path.dirname(bzrlib.__file__))
 
2280
 
 
2281
    def get_bzr_path(self):
 
2282
        """Return the path of the 'bzr' executable for this test suite."""
 
2283
        bzr_path = os.path.join(self.get_source_path(), "bzr")
 
2284
        if not os.path.isfile(bzr_path):
 
2285
            # We are probably installed. Assume sys.argv is the right file
 
2286
            bzr_path = sys.argv[0]
 
2287
        return bzr_path
 
2288
 
 
2289
    def finish_bzr_subprocess(self, process, retcode=0, send_signal=None,
 
2290
                              universal_newlines=False, process_args=None):
 
2291
        """Finish the execution of process.
 
2292
 
 
2293
        :param process: the Popen object returned from start_bzr_subprocess.
 
2294
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
2295
            None is supplied, the status code is not checked.
 
2296
        :param send_signal: an optional signal to send to the process.
 
2297
        :param universal_newlines: Convert CRLF => LF
 
2298
        :returns: (stdout, stderr)
 
2299
        """
 
2300
        if send_signal is not None:
 
2301
            os.kill(process.pid, send_signal)
 
2302
        out, err = process.communicate()
 
2303
 
 
2304
        if universal_newlines:
 
2305
            out = out.replace('\r\n', '\n')
 
2306
            err = err.replace('\r\n', '\n')
 
2307
 
 
2308
        if retcode is not None and retcode != process.returncode:
 
2309
            if process_args is None:
 
2310
                process_args = "(unknown args)"
 
2311
            trace.mutter('Output of bzr %s:\n%s', process_args, out)
 
2312
            trace.mutter('Error for bzr %s:\n%s', process_args, err)
 
2313
            self.fail('Command bzr %s failed with retcode %s != %s'
 
2314
                      % (process_args, retcode, process.returncode))
 
2315
        return [out, err]
 
2316
 
 
2317
    def check_tree_shape(self, tree, shape):
 
2318
        """Compare a tree to a list of expected names.
 
2319
 
 
2320
        Fail if they are not precisely equal.
 
2321
        """
 
2322
        extras = []
 
2323
        shape = list(shape)             # copy
 
2324
        for path, ie in tree.iter_entries_by_dir():
 
2325
            name = path.replace('\\', '/')
 
2326
            if ie.kind == 'directory':
 
2327
                name = name + '/'
 
2328
            if name == "/":
 
2329
                pass # ignore root entry
 
2330
            elif name in shape:
 
2331
                shape.remove(name)
 
2332
            else:
 
2333
                extras.append(name)
 
2334
        if shape:
 
2335
            self.fail("expected paths not found in inventory: %r" % shape)
 
2336
        if extras:
 
2337
            self.fail("unexpected paths found in inventory: %r" % extras)
 
2338
 
 
2339
    def apply_redirected(self, stdin=None, stdout=None, stderr=None,
 
2340
                         a_callable=None, *args, **kwargs):
 
2341
        """Call callable with redirected std io pipes.
 
2342
 
 
2343
        Returns the return code."""
 
2344
        if not callable(a_callable):
 
2345
            raise ValueError("a_callable must be callable.")
 
2346
        if stdin is None:
 
2347
            stdin = StringIO("")
 
2348
        if stdout is None:
 
2349
            if getattr(self, "_log_file", None) is not None:
 
2350
                stdout = self._log_file
 
2351
            else:
 
2352
                stdout = StringIO()
 
2353
        if stderr is None:
 
2354
            if getattr(self, "_log_file", None is not None):
 
2355
                stderr = self._log_file
 
2356
            else:
 
2357
                stderr = StringIO()
 
2358
        real_stdin = sys.stdin
 
2359
        real_stdout = sys.stdout
 
2360
        real_stderr = sys.stderr
 
2361
        try:
 
2362
            sys.stdout = stdout
 
2363
            sys.stderr = stderr
 
2364
            sys.stdin = stdin
 
2365
            return a_callable(*args, **kwargs)
 
2366
        finally:
 
2367
            sys.stdout = real_stdout
 
2368
            sys.stderr = real_stderr
 
2369
            sys.stdin = real_stdin
 
2370
 
 
2371
    def reduceLockdirTimeout(self):
 
2372
        """Reduce the default lock timeout for the duration of the test, so that
 
2373
        if LockContention occurs during a test, it does so quickly.
 
2374
 
 
2375
        Tests that expect to provoke LockContention errors should call this.
 
2376
        """
 
2377
        self.overrideAttr(lockdir, '_DEFAULT_TIMEOUT_SECONDS', 0)
 
2378
 
 
2379
    def make_utf8_encoded_stringio(self, encoding_type=None):
 
2380
        """Return a StringIOWrapper instance, that will encode Unicode
 
2381
        input to UTF-8.
 
2382
        """
 
2383
        if encoding_type is None:
 
2384
            encoding_type = 'strict'
 
2385
        sio = StringIO()
 
2386
        output_encoding = 'utf-8'
 
2387
        sio = codecs.getwriter(output_encoding)(sio, errors=encoding_type)
 
2388
        sio.encoding = output_encoding
 
2389
        return sio
 
2390
 
 
2391
    def disable_verb(self, verb):
 
2392
        """Disable a smart server verb for one test."""
 
2393
        from bzrlib.smart import request
 
2394
        request_handlers = request.request_handlers
 
2395
        orig_method = request_handlers.get(verb)
 
2396
        orig_info = request_handlers.get_info(verb)
 
2397
        request_handlers.remove(verb)
 
2398
        self.addCleanup(request_handlers.register, verb, orig_method,
 
2399
            info=orig_info)
 
2400
 
 
2401
 
 
2402
class CapturedCall(object):
 
2403
    """A helper for capturing smart server calls for easy debug analysis."""
 
2404
 
 
2405
    def __init__(self, params, prefix_length):
 
2406
        """Capture the call with params and skip prefix_length stack frames."""
 
2407
        self.call = params
 
2408
        import traceback
 
2409
        # The last 5 frames are the __init__, the hook frame, and 3 smart
 
2410
        # client frames. Beyond this we could get more clever, but this is good
 
2411
        # enough for now.
 
2412
        stack = traceback.extract_stack()[prefix_length:-5]
 
2413
        self.stack = ''.join(traceback.format_list(stack))
 
2414
 
 
2415
    def __str__(self):
 
2416
        return self.call.method
 
2417
 
 
2418
    def __repr__(self):
 
2419
        return self.call.method
 
2420
 
 
2421
    def stack(self):
 
2422
        return self.stack
 
2423
 
 
2424
 
 
2425
class TestCaseWithMemoryTransport(TestCase):
 
2426
    """Common test class for tests that do not need disk resources.
 
2427
 
 
2428
    Tests that need disk resources should derive from TestCaseInTempDir
 
2429
    orTestCaseWithTransport.
 
2430
 
 
2431
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
 
2432
 
 
2433
    For TestCaseWithMemoryTransport the ``test_home_dir`` is set to the name of
 
2434
    a directory which does not exist. This serves to help ensure test isolation
 
2435
    is preserved. ``test_dir`` is set to the TEST_ROOT, as is cwd, because they
 
2436
    must exist. However, TestCaseWithMemoryTransport does not offer local file
 
2437
    defaults for the transport in tests, nor does it obey the command line
 
2438
    override, so tests that accidentally write to the common directory should
 
2439
    be rare.
 
2440
 
 
2441
    :cvar TEST_ROOT: Directory containing all temporary directories, plus a
 
2442
        ``.bzr`` directory that stops us ascending higher into the filesystem.
 
2443
    """
 
2444
 
 
2445
    TEST_ROOT = None
 
2446
    _TEST_NAME = 'test'
 
2447
 
 
2448
    def __init__(self, methodName='runTest'):
 
2449
        # allow test parameterization after test construction and before test
 
2450
        # execution. Variables that the parameterizer sets need to be
 
2451
        # ones that are not set by setUp, or setUp will trash them.
 
2452
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
 
2453
        self.vfs_transport_factory = default_transport
 
2454
        self.transport_server = None
 
2455
        self.transport_readonly_server = None
 
2456
        self.__vfs_server = None
 
2457
 
 
2458
    def setUp(self):
 
2459
        super(TestCaseWithMemoryTransport, self).setUp()
 
2460
 
 
2461
        def _add_disconnect_cleanup(transport):
 
2462
            """Schedule disconnection of given transport at test cleanup
 
2463
 
 
2464
            This needs to happen for all connected transports or leaks occur.
 
2465
 
 
2466
            Note reconnections may mean we call disconnect multiple times per
 
2467
            transport which is suboptimal but seems harmless.
 
2468
            """
 
2469
            self.addCleanup(transport.disconnect)
 
2470
 
 
2471
        _mod_transport.Transport.hooks.install_named_hook('post_connect',
 
2472
            _add_disconnect_cleanup, None)
 
2473
 
 
2474
        self._make_test_root()
 
2475
        self.addCleanup(os.chdir, os.getcwdu())
 
2476
        self.makeAndChdirToTestDir()
 
2477
        self.overrideEnvironmentForTesting()
 
2478
        self.__readonly_server = None
 
2479
        self.__server = None
 
2480
        self.reduceLockdirTimeout()
 
2481
        # Each test may use its own config files even if the local config files
 
2482
        # don't actually exist. They'll rightly fail if they try to create them
 
2483
        # though.
 
2484
        self.overrideAttr(config, '_shared_stores', {})
 
2485
 
 
2486
    def get_transport(self, relpath=None):
 
2487
        """Return a writeable transport.
 
2488
 
 
2489
        This transport is for the test scratch space relative to
 
2490
        "self._test_root"
 
2491
 
 
2492
        :param relpath: a path relative to the base url.
 
2493
        """
 
2494
        t = _mod_transport.get_transport_from_url(self.get_url(relpath))
 
2495
        self.assertFalse(t.is_readonly())
 
2496
        return t
 
2497
 
 
2498
    def get_readonly_transport(self, relpath=None):
 
2499
        """Return a readonly transport for the test scratch space
 
2500
 
 
2501
        This can be used to test that operations which should only need
 
2502
        readonly access in fact do not try to write.
 
2503
 
 
2504
        :param relpath: a path relative to the base url.
 
2505
        """
 
2506
        t = _mod_transport.get_transport_from_url(
 
2507
            self.get_readonly_url(relpath))
 
2508
        self.assertTrue(t.is_readonly())
 
2509
        return t
 
2510
 
 
2511
    def create_transport_readonly_server(self):
 
2512
        """Create a transport server from class defined at init.
 
2513
 
 
2514
        This is mostly a hook for daughter classes.
 
2515
        """
 
2516
        return self.transport_readonly_server()
 
2517
 
 
2518
    def get_readonly_server(self):
 
2519
        """Get the server instance for the readonly transport
 
2520
 
 
2521
        This is useful for some tests with specific servers to do diagnostics.
 
2522
        """
 
2523
        if self.__readonly_server is None:
 
2524
            if self.transport_readonly_server is None:
 
2525
                # readonly decorator requested
 
2526
                self.__readonly_server = test_server.ReadonlyServer()
 
2527
            else:
 
2528
                # explicit readonly transport.
 
2529
                self.__readonly_server = self.create_transport_readonly_server()
 
2530
            self.start_server(self.__readonly_server,
 
2531
                self.get_vfs_only_server())
 
2532
        return self.__readonly_server
 
2533
 
 
2534
    def get_readonly_url(self, relpath=None):
 
2535
        """Get a URL for the readonly transport.
 
2536
 
 
2537
        This will either be backed by '.' or a decorator to the transport
 
2538
        used by self.get_url()
 
2539
        relpath provides for clients to get a path relative to the base url.
 
2540
        These should only be downwards relative, not upwards.
 
2541
        """
 
2542
        base = self.get_readonly_server().get_url()
 
2543
        return self._adjust_url(base, relpath)
 
2544
 
 
2545
    def get_vfs_only_server(self):
 
2546
        """Get the vfs only read/write server instance.
 
2547
 
 
2548
        This is useful for some tests with specific servers that need
 
2549
        diagnostics.
 
2550
 
 
2551
        For TestCaseWithMemoryTransport this is always a MemoryServer, and there
 
2552
        is no means to override it.
 
2553
        """
 
2554
        if self.__vfs_server is None:
 
2555
            self.__vfs_server = memory.MemoryServer()
 
2556
            self.start_server(self.__vfs_server)
 
2557
        return self.__vfs_server
 
2558
 
 
2559
    def get_server(self):
 
2560
        """Get the read/write server instance.
 
2561
 
 
2562
        This is useful for some tests with specific servers that need
 
2563
        diagnostics.
 
2564
 
 
2565
        This is built from the self.transport_server factory. If that is None,
 
2566
        then the self.get_vfs_server is returned.
 
2567
        """
 
2568
        if self.__server is None:
 
2569
            if (self.transport_server is None or self.transport_server is
 
2570
                self.vfs_transport_factory):
 
2571
                self.__server = self.get_vfs_only_server()
 
2572
            else:
 
2573
                # bring up a decorated means of access to the vfs only server.
 
2574
                self.__server = self.transport_server()
 
2575
                self.start_server(self.__server, self.get_vfs_only_server())
 
2576
        return self.__server
 
2577
 
 
2578
    def _adjust_url(self, base, relpath):
 
2579
        """Get a URL (or maybe a path) for the readwrite transport.
 
2580
 
 
2581
        This will either be backed by '.' or to an equivalent non-file based
 
2582
        facility.
 
2583
        relpath provides for clients to get a path relative to the base url.
 
2584
        These should only be downwards relative, not upwards.
 
2585
        """
 
2586
        if relpath is not None and relpath != '.':
 
2587
            if not base.endswith('/'):
 
2588
                base = base + '/'
 
2589
            # XXX: Really base should be a url; we did after all call
 
2590
            # get_url()!  But sometimes it's just a path (from
 
2591
            # LocalAbspathServer), and it'd be wrong to append urlescaped data
 
2592
            # to a non-escaped local path.
 
2593
            if base.startswith('./') or base.startswith('/'):
 
2594
                base += relpath
 
2595
            else:
 
2596
                base += urlutils.escape(relpath)
 
2597
        return base
 
2598
 
 
2599
    def get_url(self, relpath=None):
 
2600
        """Get a URL (or maybe a path) for the readwrite transport.
 
2601
 
 
2602
        This will either be backed by '.' or to an equivalent non-file based
 
2603
        facility.
 
2604
        relpath provides for clients to get a path relative to the base url.
 
2605
        These should only be downwards relative, not upwards.
 
2606
        """
 
2607
        base = self.get_server().get_url()
 
2608
        return self._adjust_url(base, relpath)
 
2609
 
 
2610
    def get_vfs_only_url(self, relpath=None):
 
2611
        """Get a URL (or maybe a path for the plain old vfs transport.
 
2612
 
 
2613
        This will never be a smart protocol.  It always has all the
 
2614
        capabilities of the local filesystem, but it might actually be a
 
2615
        MemoryTransport or some other similar virtual filesystem.
 
2616
 
 
2617
        This is the backing transport (if any) of the server returned by
 
2618
        get_url and get_readonly_url.
 
2619
 
 
2620
        :param relpath: provides for clients to get a path relative to the base
 
2621
            url.  These should only be downwards relative, not upwards.
 
2622
        :return: A URL
 
2623
        """
 
2624
        base = self.get_vfs_only_server().get_url()
 
2625
        return self._adjust_url(base, relpath)
 
2626
 
 
2627
    def _create_safety_net(self):
 
2628
        """Make a fake bzr directory.
 
2629
 
 
2630
        This prevents any tests propagating up onto the TEST_ROOT directory's
 
2631
        real branch.
 
2632
        """
 
2633
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
2634
        try:
 
2635
            # Make sure we get a readable and accessible home for .bzr.log
 
2636
            # and/or config files, and not fallback to weird defaults (see
 
2637
            # http://pad.lv/825027).
 
2638
            self.assertIs(None, os.environ.get('BZR_HOME', None))
 
2639
            os.environ['BZR_HOME'] = root
 
2640
            wt = controldir.ControlDir.create_standalone_workingtree(root)
 
2641
            del os.environ['BZR_HOME']
 
2642
        except Exception, e:
 
2643
            self.fail("Fail to initialize the safety net: %r\n" % (e,))
 
2644
        # Hack for speed: remember the raw bytes of the dirstate file so that
 
2645
        # we don't need to re-open the wt to check it hasn't changed.
 
2646
        TestCaseWithMemoryTransport._SAFETY_NET_PRISTINE_DIRSTATE = (
 
2647
            wt.control_transport.get_bytes('dirstate'))
 
2648
 
 
2649
    def _check_safety_net(self):
 
2650
        """Check that the safety .bzr directory have not been touched.
 
2651
 
 
2652
        _make_test_root have created a .bzr directory to prevent tests from
 
2653
        propagating. This method ensures than a test did not leaked.
 
2654
        """
 
2655
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
2656
        t = _mod_transport.get_transport_from_path(root)
 
2657
        self.permit_url(t.base)
 
2658
        if (t.get_bytes('.bzr/checkout/dirstate') != 
 
2659
                TestCaseWithMemoryTransport._SAFETY_NET_PRISTINE_DIRSTATE):
 
2660
            # The current test have modified the /bzr directory, we need to
 
2661
            # recreate a new one or all the followng tests will fail.
 
2662
            # If you need to inspect its content uncomment the following line
 
2663
            # import pdb; pdb.set_trace()
 
2664
            _rmtree_temp_dir(root + '/.bzr', test_id=self.id())
 
2665
            self._create_safety_net()
 
2666
            raise AssertionError('%s/.bzr should not be modified' % root)
 
2667
 
 
2668
    def _make_test_root(self):
 
2669
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
 
2670
            # Watch out for tricky test dir (on OSX /tmp -> /private/tmp)
 
2671
            root = osutils.realpath(osutils.mkdtemp(prefix='testbzr-',
 
2672
                                                    suffix='.tmp'))
 
2673
            TestCaseWithMemoryTransport.TEST_ROOT = root
 
2674
 
 
2675
            self._create_safety_net()
 
2676
 
 
2677
            # The same directory is used by all tests, and we're not
 
2678
            # specifically told when all tests are finished.  This will do.
 
2679
            atexit.register(_rmtree_temp_dir, root)
 
2680
 
 
2681
        self.permit_dir(TestCaseWithMemoryTransport.TEST_ROOT)
 
2682
        self.addCleanup(self._check_safety_net)
 
2683
 
 
2684
    def makeAndChdirToTestDir(self):
 
2685
        """Create a temporary directories for this one test.
 
2686
 
 
2687
        This must set self.test_home_dir and self.test_dir and chdir to
 
2688
        self.test_dir.
 
2689
 
 
2690
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
 
2691
        """
 
2692
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
2693
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
 
2694
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
 
2695
        self.permit_dir(self.test_dir)
 
2696
 
 
2697
    def make_branch(self, relpath, format=None, name=None):
 
2698
        """Create a branch on the transport at relpath."""
 
2699
        repo = self.make_repository(relpath, format=format)
 
2700
        return repo.bzrdir.create_branch(append_revisions_only=False,
 
2701
                                         name=name)
 
2702
 
 
2703
    def get_default_format(self):
 
2704
        return 'default'
 
2705
 
 
2706
    def resolve_format(self, format):
 
2707
        """Resolve an object to a ControlDir format object.
 
2708
 
 
2709
        The initial format object can either already be
 
2710
        a ControlDirFormat, None (for the default format),
 
2711
        or a string with the name of the control dir format.
 
2712
 
 
2713
        :param format: Object to resolve
 
2714
        :return A ControlDirFormat instance
 
2715
        """
 
2716
        if format is None:
 
2717
            format = self.get_default_format()
 
2718
        if isinstance(format, basestring):
 
2719
            format = controldir.format_registry.make_bzrdir(format)
 
2720
        return format
 
2721
 
 
2722
    def make_bzrdir(self, relpath, format=None):
 
2723
        try:
 
2724
            # might be a relative or absolute path
 
2725
            maybe_a_url = self.get_url(relpath)
 
2726
            segments = maybe_a_url.rsplit('/', 1)
 
2727
            t = _mod_transport.get_transport(maybe_a_url)
 
2728
            if len(segments) > 1 and segments[-1] not in ('', '.'):
 
2729
                t.ensure_base()
 
2730
            format = self.resolve_format(format)
 
2731
            return format.initialize_on_transport(t)
 
2732
        except errors.UninitializableFormat:
 
2733
            raise TestSkipped("Format %s is not initializable." % format)
 
2734
 
 
2735
    def make_repository(self, relpath, shared=None, format=None):
 
2736
        """Create a repository on our default transport at relpath.
 
2737
 
 
2738
        Note that relpath must be a relative path, not a full url.
 
2739
        """
 
2740
        # FIXME: If you create a remoterepository this returns the underlying
 
2741
        # real format, which is incorrect.  Actually we should make sure that
 
2742
        # RemoteBzrDir returns a RemoteRepository.
 
2743
        # maybe  mbp 20070410
 
2744
        made_control = self.make_bzrdir(relpath, format=format)
 
2745
        return made_control.create_repository(shared=shared)
 
2746
 
 
2747
    def make_smart_server(self, path, backing_server=None):
 
2748
        if backing_server is None:
 
2749
            backing_server = self.get_server()
 
2750
        smart_server = test_server.SmartTCPServer_for_testing()
 
2751
        self.start_server(smart_server, backing_server)
 
2752
        remote_transport = _mod_transport.get_transport_from_url(smart_server.get_url()
 
2753
                                                   ).clone(path)
 
2754
        return remote_transport
 
2755
 
 
2756
    def make_branch_and_memory_tree(self, relpath, format=None):
 
2757
        """Create a branch on the default transport and a MemoryTree for it."""
 
2758
        b = self.make_branch(relpath, format=format)
 
2759
        return memorytree.MemoryTree.create_on_branch(b)
 
2760
 
 
2761
    def make_branch_builder(self, relpath, format=None):
 
2762
        branch = self.make_branch(relpath, format=format)
 
2763
        return branchbuilder.BranchBuilder(branch=branch)
 
2764
 
 
2765
    def overrideEnvironmentForTesting(self):
 
2766
        test_home_dir = self.test_home_dir
 
2767
        if isinstance(test_home_dir, unicode):
 
2768
            test_home_dir = test_home_dir.encode(sys.getfilesystemencoding())
 
2769
        self.overrideEnv('HOME', test_home_dir)
 
2770
        self.overrideEnv('BZR_HOME', test_home_dir)
 
2771
 
 
2772
    def setup_smart_server_with_call_log(self):
 
2773
        """Sets up a smart server as the transport server with a call log."""
 
2774
        self.transport_server = test_server.SmartTCPServer_for_testing
 
2775
        self.hpss_connections = []
 
2776
        self.hpss_calls = []
 
2777
        import traceback
 
2778
        # Skip the current stack down to the caller of
 
2779
        # setup_smart_server_with_call_log
 
2780
        prefix_length = len(traceback.extract_stack()) - 2
 
2781
        def capture_hpss_call(params):
 
2782
            self.hpss_calls.append(
 
2783
                CapturedCall(params, prefix_length))
 
2784
        def capture_connect(transport):
 
2785
            self.hpss_connections.append(transport)
 
2786
        client._SmartClient.hooks.install_named_hook(
 
2787
            'call', capture_hpss_call, None)
 
2788
        _mod_transport.Transport.hooks.install_named_hook(
 
2789
            'post_connect', capture_connect, None)
 
2790
 
 
2791
    def reset_smart_call_log(self):
 
2792
        self.hpss_calls = []
 
2793
        self.hpss_connections = []
 
2794
 
 
2795
 
 
2796
class TestCaseInTempDir(TestCaseWithMemoryTransport):
 
2797
    """Derived class that runs a test within a temporary directory.
 
2798
 
 
2799
    This is useful for tests that need to create a branch, etc.
 
2800
 
 
2801
    The directory is created in a slightly complex way: for each
 
2802
    Python invocation, a new temporary top-level directory is created.
 
2803
    All test cases create their own directory within that.  If the
 
2804
    tests complete successfully, the directory is removed.
 
2805
 
 
2806
    :ivar test_base_dir: The path of the top-level directory for this
 
2807
    test, which contains a home directory and a work directory.
 
2808
 
 
2809
    :ivar test_home_dir: An initially empty directory under test_base_dir
 
2810
    which is used as $HOME for this test.
 
2811
 
 
2812
    :ivar test_dir: A directory under test_base_dir used as the current
 
2813
    directory when the test proper is run.
 
2814
    """
 
2815
 
 
2816
    OVERRIDE_PYTHON = 'python'
 
2817
 
 
2818
    def setUp(self):
 
2819
        super(TestCaseInTempDir, self).setUp()
 
2820
        # Remove the protection set in isolated_environ, we have a proper
 
2821
        # access to disk resources now.
 
2822
        self.overrideEnv('BZR_LOG', None)
 
2823
 
 
2824
    def check_file_contents(self, filename, expect):
 
2825
        self.log("check contents of file %s" % filename)
 
2826
        f = file(filename)
 
2827
        try:
 
2828
            contents = f.read()
 
2829
        finally:
 
2830
            f.close()
 
2831
        if contents != expect:
 
2832
            self.log("expected: %r" % expect)
 
2833
            self.log("actually: %r" % contents)
 
2834
            self.fail("contents of %s not as expected" % filename)
 
2835
 
 
2836
    def _getTestDirPrefix(self):
 
2837
        # create a directory within the top level test directory
 
2838
        if sys.platform in ('win32', 'cygwin'):
 
2839
            name_prefix = re.sub('[<>*=+",:;_/\\-]', '_', self.id())
 
2840
            # windows is likely to have path-length limits so use a short name
 
2841
            name_prefix = name_prefix[-30:]
 
2842
        else:
 
2843
            name_prefix = re.sub('[/]', '_', self.id())
 
2844
        return name_prefix
 
2845
 
 
2846
    def makeAndChdirToTestDir(self):
 
2847
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
 
2848
 
 
2849
        For TestCaseInTempDir we create a temporary directory based on the test
 
2850
        name and then create two subdirs - test and home under it.
 
2851
        """
 
2852
        name_prefix = osutils.pathjoin(TestCaseWithMemoryTransport.TEST_ROOT,
 
2853
            self._getTestDirPrefix())
 
2854
        name = name_prefix
 
2855
        for i in range(100):
 
2856
            if os.path.exists(name):
 
2857
                name = name_prefix + '_' + str(i)
 
2858
            else:
 
2859
                # now create test and home directories within this dir
 
2860
                self.test_base_dir = name
 
2861
                self.addCleanup(self.deleteTestDir)
 
2862
                os.mkdir(self.test_base_dir)
 
2863
                break
 
2864
        self.permit_dir(self.test_base_dir)
 
2865
        # 'sprouting' and 'init' of a branch both walk up the tree to find
 
2866
        # stacking policy to honour; create a bzr dir with an unshared
 
2867
        # repository (but not a branch - our code would be trying to escape
 
2868
        # then!) to stop them, and permit it to be read.
 
2869
        # control = controldir.ControlDir.create(self.test_base_dir)
 
2870
        # control.create_repository()
 
2871
        self.test_home_dir = self.test_base_dir + '/home'
 
2872
        os.mkdir(self.test_home_dir)
 
2873
        self.test_dir = self.test_base_dir + '/work'
 
2874
        os.mkdir(self.test_dir)
 
2875
        os.chdir(self.test_dir)
 
2876
        # put name of test inside
 
2877
        f = file(self.test_base_dir + '/name', 'w')
 
2878
        try:
 
2879
            f.write(self.id())
 
2880
        finally:
 
2881
            f.close()
 
2882
 
 
2883
    def deleteTestDir(self):
 
2884
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
2885
        _rmtree_temp_dir(self.test_base_dir, test_id=self.id())
 
2886
 
 
2887
    def build_tree(self, shape, line_endings='binary', transport=None):
 
2888
        """Build a test tree according to a pattern.
 
2889
 
 
2890
        shape is a sequence of file specifications.  If the final
 
2891
        character is '/', a directory is created.
 
2892
 
 
2893
        This assumes that all the elements in the tree being built are new.
 
2894
 
 
2895
        This doesn't add anything to a branch.
 
2896
 
 
2897
        :type shape:    list or tuple.
 
2898
        :param line_endings: Either 'binary' or 'native'
 
2899
            in binary mode, exact contents are written in native mode, the
 
2900
            line endings match the default platform endings.
 
2901
        :param transport: A transport to write to, for building trees on VFS's.
 
2902
            If the transport is readonly or None, "." is opened automatically.
 
2903
        :return: None
 
2904
        """
 
2905
        if type(shape) not in (list, tuple):
 
2906
            raise AssertionError("Parameter 'shape' should be "
 
2907
                "a list or a tuple. Got %r instead" % (shape,))
 
2908
        # It's OK to just create them using forward slashes on windows.
 
2909
        if transport is None or transport.is_readonly():
 
2910
            transport = _mod_transport.get_transport_from_path(".")
 
2911
        for name in shape:
 
2912
            self.assertIsInstance(name, basestring)
 
2913
            if name[-1] == '/':
 
2914
                transport.mkdir(urlutils.escape(name[:-1]))
 
2915
            else:
 
2916
                if line_endings == 'binary':
 
2917
                    end = '\n'
 
2918
                elif line_endings == 'native':
 
2919
                    end = os.linesep
 
2920
                else:
 
2921
                    raise errors.BzrError(
 
2922
                        'Invalid line ending request %r' % line_endings)
 
2923
                content = "contents of %s%s" % (name.encode('utf-8'), end)
 
2924
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
 
2925
 
 
2926
    build_tree_contents = staticmethod(treeshape.build_tree_contents)
 
2927
 
 
2928
    def assertInWorkingTree(self, path, root_path='.', tree=None):
 
2929
        """Assert whether path or paths are in the WorkingTree"""
 
2930
        if tree is None:
 
2931
            tree = workingtree.WorkingTree.open(root_path)
 
2932
        if not isinstance(path, basestring):
 
2933
            for p in path:
 
2934
                self.assertInWorkingTree(p, tree=tree)
 
2935
        else:
 
2936
            self.assertIsNot(tree.path2id(path), None,
 
2937
                path+' not in working tree.')
 
2938
 
 
2939
    def assertNotInWorkingTree(self, path, root_path='.', tree=None):
 
2940
        """Assert whether path or paths are not in the WorkingTree"""
 
2941
        if tree is None:
 
2942
            tree = workingtree.WorkingTree.open(root_path)
 
2943
        if not isinstance(path, basestring):
 
2944
            for p in path:
 
2945
                self.assertNotInWorkingTree(p,tree=tree)
 
2946
        else:
 
2947
            self.assertIs(tree.path2id(path), None, path+' in working tree.')
 
2948
 
 
2949
 
 
2950
class TestCaseWithTransport(TestCaseInTempDir):
 
2951
    """A test case that provides get_url and get_readonly_url facilities.
 
2952
 
 
2953
    These back onto two transport servers, one for readonly access and one for
 
2954
    read write access.
 
2955
 
 
2956
    If no explicit class is provided for readonly access, a
 
2957
    ReadonlyTransportDecorator is used instead which allows the use of non disk
 
2958
    based read write transports.
 
2959
 
 
2960
    If an explicit class is provided for readonly access, that server and the
 
2961
    readwrite one must both define get_url() as resolving to os.getcwd().
 
2962
    """
 
2963
 
 
2964
    def setUp(self):
 
2965
        super(TestCaseWithTransport, self).setUp()
 
2966
        self.__vfs_server = None
 
2967
 
 
2968
    def get_vfs_only_server(self):
 
2969
        """See TestCaseWithMemoryTransport.
 
2970
 
 
2971
        This is useful for some tests with specific servers that need
 
2972
        diagnostics.
 
2973
        """
 
2974
        if self.__vfs_server is None:
 
2975
            self.__vfs_server = self.vfs_transport_factory()
 
2976
            self.start_server(self.__vfs_server)
 
2977
        return self.__vfs_server
 
2978
 
 
2979
    def make_branch_and_tree(self, relpath, format=None):
 
2980
        """Create a branch on the transport and a tree locally.
 
2981
 
 
2982
        If the transport is not a LocalTransport, the Tree can't be created on
 
2983
        the transport.  In that case if the vfs_transport_factory is
 
2984
        LocalURLServer the working tree is created in the local
 
2985
        directory backing the transport, and the returned tree's branch and
 
2986
        repository will also be accessed locally. Otherwise a lightweight
 
2987
        checkout is created and returned.
 
2988
 
 
2989
        We do this because we can't physically create a tree in the local
 
2990
        path, with a branch reference to the transport_factory url, and
 
2991
        a branch + repository in the vfs_transport, unless the vfs_transport
 
2992
        namespace is distinct from the local disk - the two branch objects
 
2993
        would collide. While we could construct a tree with its branch object
 
2994
        pointing at the transport_factory transport in memory, reopening it
 
2995
        would behaving unexpectedly, and has in the past caused testing bugs
 
2996
        when we tried to do it that way.
 
2997
 
 
2998
        :param format: The BzrDirFormat.
 
2999
        :returns: the WorkingTree.
 
3000
        """
 
3001
        # TODO: always use the local disk path for the working tree,
 
3002
        # this obviously requires a format that supports branch references
 
3003
        # so check for that by checking bzrdir.BzrDirFormat.get_default_format()
 
3004
        # RBC 20060208
 
3005
        format = self.resolve_format(format=format)
 
3006
        if not format.supports_workingtrees:
 
3007
            b = self.make_branch(relpath+'.branch', format=format)
 
3008
            return b.create_checkout(relpath, lightweight=True)
 
3009
        b = self.make_branch(relpath, format=format)
 
3010
        try:
 
3011
            return b.bzrdir.create_workingtree()
 
3012
        except errors.NotLocalUrl:
 
3013
            # We can only make working trees locally at the moment.  If the
 
3014
            # transport can't support them, then we keep the non-disk-backed
 
3015
            # branch and create a local checkout.
 
3016
            if self.vfs_transport_factory is test_server.LocalURLServer:
 
3017
                # the branch is colocated on disk, we cannot create a checkout.
 
3018
                # hopefully callers will expect this.
 
3019
                local_controldir = controldir.ControlDir.open(
 
3020
                    self.get_vfs_only_url(relpath))
 
3021
                wt = local_controldir.create_workingtree()
 
3022
                if wt.branch._format != b._format:
 
3023
                    wt._branch = b
 
3024
                    # Make sure that assigning to wt._branch fixes wt.branch,
 
3025
                    # in case the implementation details of workingtree objects
 
3026
                    # change.
 
3027
                    self.assertIs(b, wt.branch)
 
3028
                return wt
 
3029
            else:
 
3030
                return b.create_checkout(relpath, lightweight=True)
 
3031
 
 
3032
    def assertIsDirectory(self, relpath, transport):
 
3033
        """Assert that relpath within transport is a directory.
 
3034
 
 
3035
        This may not be possible on all transports; in that case it propagates
 
3036
        a TransportNotPossible.
 
3037
        """
 
3038
        try:
 
3039
            mode = transport.stat(relpath).st_mode
 
3040
        except errors.NoSuchFile:
 
3041
            self.fail("path %s is not a directory; no such file"
 
3042
                      % (relpath))
 
3043
        if not stat.S_ISDIR(mode):
 
3044
            self.fail("path %s is not a directory; has mode %#o"
 
3045
                      % (relpath, mode))
 
3046
 
 
3047
    def assertTreesEqual(self, left, right):
 
3048
        """Check that left and right have the same content and properties."""
 
3049
        # we use a tree delta to check for equality of the content, and we
 
3050
        # manually check for equality of other things such as the parents list.
 
3051
        self.assertEqual(left.get_parent_ids(), right.get_parent_ids())
 
3052
        differences = left.changes_from(right)
 
3053
        self.assertFalse(differences.has_changed(),
 
3054
            "Trees %r and %r are different: %r" % (left, right, differences))
 
3055
 
 
3056
    def disable_missing_extensions_warning(self):
 
3057
        """Some tests expect a precise stderr content.
 
3058
 
 
3059
        There is no point in forcing them to duplicate the extension related
 
3060
        warning.
 
3061
        """
 
3062
        config.GlobalStack().set('ignore_missing_extensions', True)
 
3063
 
 
3064
 
 
3065
class ChrootedTestCase(TestCaseWithTransport):
 
3066
    """A support class that provides readonly urls outside the local namespace.
 
3067
 
 
3068
    This is done by checking if self.transport_server is a MemoryServer. if it
 
3069
    is then we are chrooted already, if it is not then an HttpServer is used
 
3070
    for readonly urls.
 
3071
 
 
3072
    TODO RBC 20060127: make this an option to TestCaseWithTransport so it can
 
3073
                       be used without needed to redo it when a different
 
3074
                       subclass is in use ?
 
3075
    """
 
3076
 
 
3077
    def setUp(self):
 
3078
        from bzrlib.tests import http_server
 
3079
        super(ChrootedTestCase, self).setUp()
 
3080
        if not self.vfs_transport_factory == memory.MemoryServer:
 
3081
            self.transport_readonly_server = http_server.HttpServer
 
3082
 
 
3083
 
 
3084
def condition_id_re(pattern):
 
3085
    """Create a condition filter which performs a re check on a test's id.
 
3086
 
 
3087
    :param pattern: A regular expression string.
 
3088
    :return: A callable that returns True if the re matches.
 
3089
    """
 
3090
    filter_re = re.compile(pattern, 0)
 
3091
    def condition(test):
 
3092
        test_id = test.id()
 
3093
        return filter_re.search(test_id)
 
3094
    return condition
 
3095
 
 
3096
 
 
3097
def condition_isinstance(klass_or_klass_list):
 
3098
    """Create a condition filter which returns isinstance(param, klass).
 
3099
 
 
3100
    :return: A callable which when called with one parameter obj return the
 
3101
        result of isinstance(obj, klass_or_klass_list).
 
3102
    """
 
3103
    def condition(obj):
 
3104
        return isinstance(obj, klass_or_klass_list)
 
3105
    return condition
 
3106
 
 
3107
 
 
3108
def condition_id_in_list(id_list):
 
3109
    """Create a condition filter which verify that test's id in a list.
 
3110
 
 
3111
    :param id_list: A TestIdList object.
 
3112
    :return: A callable that returns True if the test's id appears in the list.
 
3113
    """
 
3114
    def condition(test):
 
3115
        return id_list.includes(test.id())
 
3116
    return condition
 
3117
 
 
3118
 
 
3119
def condition_id_startswith(starts):
 
3120
    """Create a condition filter verifying that test's id starts with a string.
 
3121
 
 
3122
    :param starts: A list of string.
 
3123
    :return: A callable that returns True if the test's id starts with one of
 
3124
        the given strings.
 
3125
    """
 
3126
    def condition(test):
 
3127
        for start in starts:
 
3128
            if test.id().startswith(start):
 
3129
                return True
 
3130
        return False
 
3131
    return condition
 
3132
 
 
3133
 
 
3134
def exclude_tests_by_condition(suite, condition):
 
3135
    """Create a test suite which excludes some tests from suite.
 
3136
 
 
3137
    :param suite: The suite to get tests from.
 
3138
    :param condition: A callable whose result evaluates True when called with a
 
3139
        test case which should be excluded from the result.
 
3140
    :return: A suite which contains the tests found in suite that fail
 
3141
        condition.
 
3142
    """
 
3143
    result = []
 
3144
    for test in iter_suite_tests(suite):
 
3145
        if not condition(test):
 
3146
            result.append(test)
 
3147
    return TestUtil.TestSuite(result)
 
3148
 
 
3149
 
 
3150
def filter_suite_by_condition(suite, condition):
 
3151
    """Create a test suite by filtering another one.
 
3152
 
 
3153
    :param suite: The source suite.
 
3154
    :param condition: A callable whose result evaluates True when called with a
 
3155
        test case which should be included in the result.
 
3156
    :return: A suite which contains the tests found in suite that pass
 
3157
        condition.
 
3158
    """
 
3159
    result = []
 
3160
    for test in iter_suite_tests(suite):
 
3161
        if condition(test):
 
3162
            result.append(test)
 
3163
    return TestUtil.TestSuite(result)
 
3164
 
 
3165
 
 
3166
def filter_suite_by_re(suite, pattern):
 
3167
    """Create a test suite by filtering another one.
 
3168
 
 
3169
    :param suite:           the source suite
 
3170
    :param pattern:         pattern that names must match
 
3171
    :returns: the newly created suite
 
3172
    """
 
3173
    condition = condition_id_re(pattern)
 
3174
    result_suite = filter_suite_by_condition(suite, condition)
 
3175
    return result_suite
 
3176
 
 
3177
 
 
3178
def filter_suite_by_id_list(suite, test_id_list):
 
3179
    """Create a test suite by filtering another one.
 
3180
 
 
3181
    :param suite: The source suite.
 
3182
    :param test_id_list: A list of the test ids to keep as strings.
 
3183
    :returns: the newly created suite
 
3184
    """
 
3185
    condition = condition_id_in_list(test_id_list)
 
3186
    result_suite = filter_suite_by_condition(suite, condition)
 
3187
    return result_suite
 
3188
 
 
3189
 
 
3190
def filter_suite_by_id_startswith(suite, start):
 
3191
    """Create a test suite by filtering another one.
 
3192
 
 
3193
    :param suite: The source suite.
 
3194
    :param start: A list of string the test id must start with one of.
 
3195
    :returns: the newly created suite
 
3196
    """
 
3197
    condition = condition_id_startswith(start)
 
3198
    result_suite = filter_suite_by_condition(suite, condition)
 
3199
    return result_suite
 
3200
 
 
3201
 
 
3202
def exclude_tests_by_re(suite, pattern):
 
3203
    """Create a test suite which excludes some tests from suite.
 
3204
 
 
3205
    :param suite: The suite to get tests from.
 
3206
    :param pattern: A regular expression string. Test ids that match this
 
3207
        pattern will be excluded from the result.
 
3208
    :return: A TestSuite that contains all the tests from suite without the
 
3209
        tests that matched pattern. The order of tests is the same as it was in
 
3210
        suite.
 
3211
    """
 
3212
    return exclude_tests_by_condition(suite, condition_id_re(pattern))
 
3213
 
 
3214
 
 
3215
def preserve_input(something):
 
3216
    """A helper for performing test suite transformation chains.
 
3217
 
 
3218
    :param something: Anything you want to preserve.
 
3219
    :return: Something.
 
3220
    """
 
3221
    return something
 
3222
 
 
3223
 
 
3224
def randomize_suite(suite):
 
3225
    """Return a new TestSuite with suite's tests in random order.
 
3226
 
 
3227
    The tests in the input suite are flattened into a single suite in order to
 
3228
    accomplish this. Any nested TestSuites are removed to provide global
 
3229
    randomness.
 
3230
    """
 
3231
    tests = list(iter_suite_tests(suite))
 
3232
    random.shuffle(tests)
 
3233
    return TestUtil.TestSuite(tests)
 
3234
 
 
3235
 
 
3236
def split_suite_by_condition(suite, condition):
 
3237
    """Split a test suite into two by a condition.
 
3238
 
 
3239
    :param suite: The suite to split.
 
3240
    :param condition: The condition to match on. Tests that match this
 
3241
        condition are returned in the first test suite, ones that do not match
 
3242
        are in the second suite.
 
3243
    :return: A tuple of two test suites, where the first contains tests from
 
3244
        suite matching the condition, and the second contains the remainder
 
3245
        from suite. The order within each output suite is the same as it was in
 
3246
        suite.
 
3247
    """
 
3248
    matched = []
 
3249
    did_not_match = []
 
3250
    for test in iter_suite_tests(suite):
 
3251
        if condition(test):
 
3252
            matched.append(test)
 
3253
        else:
 
3254
            did_not_match.append(test)
 
3255
    return TestUtil.TestSuite(matched), TestUtil.TestSuite(did_not_match)
 
3256
 
 
3257
 
 
3258
def split_suite_by_re(suite, pattern):
 
3259
    """Split a test suite into two by a regular expression.
 
3260
 
 
3261
    :param suite: The suite to split.
 
3262
    :param pattern: A regular expression string. Test ids that match this
 
3263
        pattern will be in the first test suite returned, and the others in the
 
3264
        second test suite returned.
 
3265
    :return: A tuple of two test suites, where the first contains tests from
 
3266
        suite matching pattern, and the second contains the remainder from
 
3267
        suite. The order within each output suite is the same as it was in
 
3268
        suite.
 
3269
    """
 
3270
    return split_suite_by_condition(suite, condition_id_re(pattern))
 
3271
 
 
3272
 
 
3273
def run_suite(suite, name='test', verbose=False, pattern=".*",
 
3274
              stop_on_failure=False,
 
3275
              transport=None, lsprof_timed=None, bench_history=None,
 
3276
              matching_tests_first=None,
 
3277
              list_only=False,
 
3278
              random_seed=None,
 
3279
              exclude_pattern=None,
 
3280
              strict=False,
 
3281
              runner_class=None,
 
3282
              suite_decorators=None,
 
3283
              stream=None,
 
3284
              result_decorators=None,
59
3285
              ):
60
 
        if m not in MODULES_TO_TEST:
61
 
            MODULES_TO_TEST.append(m)
62
 
 
63
 
 
64
 
    TestBase.BZRPATH = os.path.join(os.path.realpath(os.path.dirname(bzrlib.__path__[0])), 'bzr')
65
 
    print '%-30s %s' % ('bzr binary', TestBase.BZRPATH)
66
 
 
67
 
    print
68
 
 
69
 
    suite = TestSuite()
70
 
 
71
 
    # should also test bzrlib.merge_core, but they seem to be out of date with
72
 
    # the code.
73
 
 
74
 
 
75
 
    # XXX: python2.3's TestLoader() doesn't seem to find all the
76
 
    # tests; don't know why
77
 
    for m in MODULES_TO_TEST:
78
 
         suite.addTest(TestLoader().loadTestsFromModule(m))
79
 
 
80
 
    for m in (MODULES_TO_DOCTEST):
81
 
        suite.addTest(DocTestSuite(m))
82
 
 
83
 
    for p in bzrlib.plugin.all_plugins:
84
 
        if hasattr(p, 'test_suite'):
85
 
            suite.addTest(p.test_suite())
86
 
 
87
 
    suite.addTest(unittest.makeSuite(bzrlib.merge_core.MergeTest, 'test_'))
88
 
 
89
 
    return run_suite(suite, 'testbzr')
90
 
 
91
 
 
92
 
 
 
3286
    """Run a test suite for bzr selftest.
 
3287
 
 
3288
    :param runner_class: The class of runner to use. Must support the
 
3289
        constructor arguments passed by run_suite which are more than standard
 
3290
        python uses.
 
3291
    :return: A boolean indicating success.
 
3292
    """
 
3293
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
 
3294
    if verbose:
 
3295
        verbosity = 2
 
3296
    else:
 
3297
        verbosity = 1
 
3298
    if runner_class is None:
 
3299
        runner_class = TextTestRunner
 
3300
    if stream is None:
 
3301
        stream = sys.stdout
 
3302
    runner = runner_class(stream=stream,
 
3303
                            descriptions=0,
 
3304
                            verbosity=verbosity,
 
3305
                            bench_history=bench_history,
 
3306
                            strict=strict,
 
3307
                            result_decorators=result_decorators,
 
3308
                            )
 
3309
    runner.stop_on_failure=stop_on_failure
 
3310
    if isinstance(suite, unittest.TestSuite):
 
3311
        # Empty out _tests list of passed suite and populate new TestSuite
 
3312
        suite._tests[:], suite = [], TestSuite(suite)
 
3313
    # built in decorator factories:
 
3314
    decorators = [
 
3315
        random_order(random_seed, runner),
 
3316
        exclude_tests(exclude_pattern),
 
3317
        ]
 
3318
    if matching_tests_first:
 
3319
        decorators.append(tests_first(pattern))
 
3320
    else:
 
3321
        decorators.append(filter_tests(pattern))
 
3322
    if suite_decorators:
 
3323
        decorators.extend(suite_decorators)
 
3324
    # tell the result object how many tests will be running: (except if
 
3325
    # --parallel=fork is being used. Robert said he will provide a better
 
3326
    # progress design later -- vila 20090817)
 
3327
    if fork_decorator not in decorators:
 
3328
        decorators.append(CountingDecorator)
 
3329
    for decorator in decorators:
 
3330
        suite = decorator(suite)
 
3331
    if list_only:
 
3332
        # Done after test suite decoration to allow randomisation etc
 
3333
        # to take effect, though that is of marginal benefit.
 
3334
        if verbosity >= 2:
 
3335
            stream.write("Listing tests only ...\n")
 
3336
        for t in iter_suite_tests(suite):
 
3337
            stream.write("%s\n" % (t.id()))
 
3338
        return True
 
3339
    result = runner.run(suite)
 
3340
    if strict:
 
3341
        return result.wasStrictlySuccessful()
 
3342
    else:
 
3343
        return result.wasSuccessful()
 
3344
 
 
3345
 
 
3346
# A registry where get() returns a suite decorator.
 
3347
parallel_registry = registry.Registry()
 
3348
 
 
3349
 
 
3350
def fork_decorator(suite):
 
3351
    if getattr(os, "fork", None) is None:
 
3352
        raise errors.BzrCommandError("platform does not support fork,"
 
3353
            " try --parallel=subprocess instead.")
 
3354
    concurrency = osutils.local_concurrency()
 
3355
    if concurrency == 1:
 
3356
        return suite
 
3357
    from testtools import ConcurrentTestSuite
 
3358
    return ConcurrentTestSuite(suite, fork_for_tests)
 
3359
parallel_registry.register('fork', fork_decorator)
 
3360
 
 
3361
 
 
3362
def subprocess_decorator(suite):
 
3363
    concurrency = osutils.local_concurrency()
 
3364
    if concurrency == 1:
 
3365
        return suite
 
3366
    from testtools import ConcurrentTestSuite
 
3367
    return ConcurrentTestSuite(suite, reinvoke_for_tests)
 
3368
parallel_registry.register('subprocess', subprocess_decorator)
 
3369
 
 
3370
 
 
3371
def exclude_tests(exclude_pattern):
 
3372
    """Return a test suite decorator that excludes tests."""
 
3373
    if exclude_pattern is None:
 
3374
        return identity_decorator
 
3375
    def decorator(suite):
 
3376
        return ExcludeDecorator(suite, exclude_pattern)
 
3377
    return decorator
 
3378
 
 
3379
 
 
3380
def filter_tests(pattern):
 
3381
    if pattern == '.*':
 
3382
        return identity_decorator
 
3383
    def decorator(suite):
 
3384
        return FilterTestsDecorator(suite, pattern)
 
3385
    return decorator
 
3386
 
 
3387
 
 
3388
def random_order(random_seed, runner):
 
3389
    """Return a test suite decorator factory for randomising tests order.
 
3390
    
 
3391
    :param random_seed: now, a string which casts to a long, or a long.
 
3392
    :param runner: A test runner with a stream attribute to report on.
 
3393
    """
 
3394
    if random_seed is None:
 
3395
        return identity_decorator
 
3396
    def decorator(suite):
 
3397
        return RandomDecorator(suite, random_seed, runner.stream)
 
3398
    return decorator
 
3399
 
 
3400
 
 
3401
def tests_first(pattern):
 
3402
    if pattern == '.*':
 
3403
        return identity_decorator
 
3404
    def decorator(suite):
 
3405
        return TestFirstDecorator(suite, pattern)
 
3406
    return decorator
 
3407
 
 
3408
 
 
3409
def identity_decorator(suite):
 
3410
    """Return suite."""
 
3411
    return suite
 
3412
 
 
3413
 
 
3414
class TestDecorator(TestUtil.TestSuite):
 
3415
    """A decorator for TestCase/TestSuite objects.
 
3416
 
 
3417
    Contains rather than flattening suite passed on construction
 
3418
    """
 
3419
 
 
3420
    def __init__(self, suite=None):
 
3421
        super(TestDecorator, self).__init__()
 
3422
        if suite is not None:
 
3423
            self.addTest(suite)
 
3424
 
 
3425
    # Don't need subclass run method with suite emptying
 
3426
    run = unittest.TestSuite.run
 
3427
 
 
3428
 
 
3429
class CountingDecorator(TestDecorator):
 
3430
    """A decorator which calls result.progress(self.countTestCases)."""
 
3431
 
 
3432
    def run(self, result):
 
3433
        progress_method = getattr(result, 'progress', None)
 
3434
        if callable(progress_method):
 
3435
            progress_method(self.countTestCases(), SUBUNIT_SEEK_SET)
 
3436
        return super(CountingDecorator, self).run(result)
 
3437
 
 
3438
 
 
3439
class ExcludeDecorator(TestDecorator):
 
3440
    """A decorator which excludes test matching an exclude pattern."""
 
3441
 
 
3442
    def __init__(self, suite, exclude_pattern):
 
3443
        super(ExcludeDecorator, self).__init__(
 
3444
            exclude_tests_by_re(suite, exclude_pattern))
 
3445
 
 
3446
 
 
3447
class FilterTestsDecorator(TestDecorator):
 
3448
    """A decorator which filters tests to those matching a pattern."""
 
3449
 
 
3450
    def __init__(self, suite, pattern):
 
3451
        super(FilterTestsDecorator, self).__init__(
 
3452
            filter_suite_by_re(suite, pattern))
 
3453
 
 
3454
 
 
3455
class RandomDecorator(TestDecorator):
 
3456
    """A decorator which randomises the order of its tests."""
 
3457
 
 
3458
    def __init__(self, suite, random_seed, stream):
 
3459
        random_seed = self.actual_seed(random_seed)
 
3460
        stream.write("Randomizing test order using seed %s\n\n" %
 
3461
            (random_seed,))
 
3462
        # Initialise the random number generator.
 
3463
        random.seed(random_seed)
 
3464
        super(RandomDecorator, self).__init__(randomize_suite(suite))
 
3465
 
 
3466
    @staticmethod
 
3467
    def actual_seed(seed):
 
3468
        if seed == "now":
 
3469
            # We convert the seed to a long to make it reuseable across
 
3470
            # invocations (because the user can reenter it).
 
3471
            return long(time.time())
 
3472
        else:
 
3473
            # Convert the seed to a long if we can
 
3474
            try:
 
3475
                return long(seed)
 
3476
            except (TypeError, ValueError):
 
3477
                pass
 
3478
        return seed
 
3479
 
 
3480
 
 
3481
class TestFirstDecorator(TestDecorator):
 
3482
    """A decorator which moves named tests to the front."""
 
3483
 
 
3484
    def __init__(self, suite, pattern):
 
3485
        super(TestFirstDecorator, self).__init__()
 
3486
        self.addTests(split_suite_by_re(suite, pattern))
 
3487
 
 
3488
 
 
3489
def partition_tests(suite, count):
 
3490
    """Partition suite into count lists of tests."""
 
3491
    # This just assigns tests in a round-robin fashion.  On one hand this
 
3492
    # splits up blocks of related tests that might run faster if they shared
 
3493
    # resources, but on the other it avoids assigning blocks of slow tests to
 
3494
    # just one partition.  So the slowest partition shouldn't be much slower
 
3495
    # than the fastest.
 
3496
    partitions = [list() for i in range(count)]
 
3497
    tests = iter_suite_tests(suite)
 
3498
    for partition, test in itertools.izip(itertools.cycle(partitions), tests):
 
3499
        partition.append(test)
 
3500
    return partitions
 
3501
 
 
3502
 
 
3503
def workaround_zealous_crypto_random():
 
3504
    """Crypto.Random want to help us being secure, but we don't care here.
 
3505
 
 
3506
    This workaround some test failure related to the sftp server. Once paramiko
 
3507
    stop using the controversial API in Crypto.Random, we may get rid of it.
 
3508
    """
 
3509
    try:
 
3510
        from Crypto.Random import atfork
 
3511
        atfork()
 
3512
    except ImportError:
 
3513
        pass
 
3514
 
 
3515
 
 
3516
def fork_for_tests(suite):
 
3517
    """Take suite and start up one runner per CPU by forking()
 
3518
 
 
3519
    :return: An iterable of TestCase-like objects which can each have
 
3520
        run(result) called on them to feed tests to result.
 
3521
    """
 
3522
    concurrency = osutils.local_concurrency()
 
3523
    result = []
 
3524
    from subunit import ProtocolTestCase
 
3525
    from subunit.test_results import AutoTimingTestResultDecorator
 
3526
    class TestInOtherProcess(ProtocolTestCase):
 
3527
        # Should be in subunit, I think. RBC.
 
3528
        def __init__(self, stream, pid):
 
3529
            ProtocolTestCase.__init__(self, stream)
 
3530
            self.pid = pid
 
3531
 
 
3532
        def run(self, result):
 
3533
            try:
 
3534
                ProtocolTestCase.run(self, result)
 
3535
            finally:
 
3536
                pid, status = os.waitpid(self.pid, 0)
 
3537
            # GZ 2011-10-18: If status is nonzero, should report to the result
 
3538
            #                that something went wrong.
 
3539
 
 
3540
    test_blocks = partition_tests(suite, concurrency)
 
3541
    # Clear the tests from the original suite so it doesn't keep them alive
 
3542
    suite._tests[:] = []
 
3543
    for process_tests in test_blocks:
 
3544
        process_suite = TestUtil.TestSuite(process_tests)
 
3545
        # Also clear each split list so new suite has only reference
 
3546
        process_tests[:] = []
 
3547
        c2pread, c2pwrite = os.pipe()
 
3548
        pid = os.fork()
 
3549
        if pid == 0:
 
3550
            try:
 
3551
                stream = os.fdopen(c2pwrite, 'wb', 1)
 
3552
                workaround_zealous_crypto_random()
 
3553
                os.close(c2pread)
 
3554
                # Leave stderr and stdout open so we can see test noise
 
3555
                # Close stdin so that the child goes away if it decides to
 
3556
                # read from stdin (otherwise its a roulette to see what
 
3557
                # child actually gets keystrokes for pdb etc).
 
3558
                sys.stdin.close()
 
3559
                subunit_result = AutoTimingTestResultDecorator(
 
3560
                    SubUnitBzrProtocolClient(stream))
 
3561
                process_suite.run(subunit_result)
 
3562
            except:
 
3563
                # Try and report traceback on stream, but exit with error even
 
3564
                # if stream couldn't be created or something else goes wrong.
 
3565
                # The traceback is formatted to a string and written in one go
 
3566
                # to avoid interleaving lines from multiple failing children.
 
3567
                try:
 
3568
                    stream.write(traceback.format_exc())
 
3569
                finally:
 
3570
                    os._exit(1)
 
3571
            os._exit(0)
 
3572
        else:
 
3573
            os.close(c2pwrite)
 
3574
            stream = os.fdopen(c2pread, 'rb', 1)
 
3575
            test = TestInOtherProcess(stream, pid)
 
3576
            result.append(test)
 
3577
    return result
 
3578
 
 
3579
 
 
3580
def reinvoke_for_tests(suite):
 
3581
    """Take suite and start up one runner per CPU using subprocess().
 
3582
 
 
3583
    :return: An iterable of TestCase-like objects which can each have
 
3584
        run(result) called on them to feed tests to result.
 
3585
    """
 
3586
    concurrency = osutils.local_concurrency()
 
3587
    result = []
 
3588
    from subunit import ProtocolTestCase
 
3589
    class TestInSubprocess(ProtocolTestCase):
 
3590
        def __init__(self, process, name):
 
3591
            ProtocolTestCase.__init__(self, process.stdout)
 
3592
            self.process = process
 
3593
            self.process.stdin.close()
 
3594
            self.name = name
 
3595
 
 
3596
        def run(self, result):
 
3597
            try:
 
3598
                ProtocolTestCase.run(self, result)
 
3599
            finally:
 
3600
                self.process.wait()
 
3601
                os.unlink(self.name)
 
3602
            # print "pid %d finished" % finished_process
 
3603
    test_blocks = partition_tests(suite, concurrency)
 
3604
    for process_tests in test_blocks:
 
3605
        # ugly; currently reimplement rather than reuses TestCase methods.
 
3606
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
3607
        if not os.path.isfile(bzr_path):
 
3608
            # We are probably installed. Assume sys.argv is the right file
 
3609
            bzr_path = sys.argv[0]
 
3610
        bzr_path = [bzr_path]
 
3611
        if sys.platform == "win32":
 
3612
            # if we're on windows, we can't execute the bzr script directly
 
3613
            bzr_path = [sys.executable] + bzr_path
 
3614
        fd, test_list_file_name = tempfile.mkstemp()
 
3615
        test_list_file = os.fdopen(fd, 'wb', 1)
 
3616
        for test in process_tests:
 
3617
            test_list_file.write(test.id() + '\n')
 
3618
        test_list_file.close()
 
3619
        try:
 
3620
            argv = bzr_path + ['selftest', '--load-list', test_list_file_name,
 
3621
                '--subunit']
 
3622
            if '--no-plugins' in sys.argv:
 
3623
                argv.append('--no-plugins')
 
3624
            # stderr=subprocess.STDOUT would be ideal, but until we prevent
 
3625
            # noise on stderr it can interrupt the subunit protocol.
 
3626
            process = subprocess.Popen(argv, stdin=subprocess.PIPE,
 
3627
                                      stdout=subprocess.PIPE,
 
3628
                                      stderr=subprocess.PIPE,
 
3629
                                      bufsize=1)
 
3630
            test = TestInSubprocess(process, test_list_file_name)
 
3631
            result.append(test)
 
3632
        except:
 
3633
            os.unlink(test_list_file_name)
 
3634
            raise
 
3635
    return result
 
3636
 
 
3637
 
 
3638
class ProfileResult(testtools.ExtendedToOriginalDecorator):
 
3639
    """Generate profiling data for all activity between start and success.
 
3640
    
 
3641
    The profile data is appended to the test's _benchcalls attribute and can
 
3642
    be accessed by the forwarded-to TestResult.
 
3643
 
 
3644
    While it might be cleaner do accumulate this in stopTest, addSuccess is
 
3645
    where our existing output support for lsprof is, and this class aims to
 
3646
    fit in with that: while it could be moved it's not necessary to accomplish
 
3647
    test profiling, nor would it be dramatically cleaner.
 
3648
    """
 
3649
 
 
3650
    def startTest(self, test):
 
3651
        self.profiler = bzrlib.lsprof.BzrProfiler()
 
3652
        # Prevent deadlocks in tests that use lsprof: those tests will
 
3653
        # unavoidably fail.
 
3654
        bzrlib.lsprof.BzrProfiler.profiler_block = 0
 
3655
        self.profiler.start()
 
3656
        testtools.ExtendedToOriginalDecorator.startTest(self, test)
 
3657
 
 
3658
    def addSuccess(self, test):
 
3659
        stats = self.profiler.stop()
 
3660
        try:
 
3661
            calls = test._benchcalls
 
3662
        except AttributeError:
 
3663
            test._benchcalls = []
 
3664
            calls = test._benchcalls
 
3665
        calls.append(((test.id(), "", ""), stats))
 
3666
        testtools.ExtendedToOriginalDecorator.addSuccess(self, test)
 
3667
 
 
3668
    def stopTest(self, test):
 
3669
        testtools.ExtendedToOriginalDecorator.stopTest(self, test)
 
3670
        self.profiler = None
 
3671
 
 
3672
 
 
3673
# Controlled by "bzr selftest -E=..." option
 
3674
# Currently supported:
 
3675
#   -Eallow_debug           Will no longer clear debug.debug_flags() so it
 
3676
#                           preserves any flags supplied at the command line.
 
3677
#   -Edisable_lock_checks   Turns errors in mismatched locks into simple prints
 
3678
#                           rather than failing tests. And no longer raise
 
3679
#                           LockContention when fctnl locks are not being used
 
3680
#                           with proper exclusion rules.
 
3681
#   -Ethreads               Will display thread ident at creation/join time to
 
3682
#                           help track thread leaks
 
3683
#   -Euncollected_cases     Display the identity of any test cases that weren't
 
3684
#                           deallocated after being completed.
 
3685
#   -Econfig_stats          Will collect statistics using addDetail
 
3686
selftest_debug_flags = set()
 
3687
 
 
3688
 
 
3689
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
 
3690
             transport=None,
 
3691
             test_suite_factory=None,
 
3692
             lsprof_timed=None,
 
3693
             bench_history=None,
 
3694
             matching_tests_first=None,
 
3695
             list_only=False,
 
3696
             random_seed=None,
 
3697
             exclude_pattern=None,
 
3698
             strict=False,
 
3699
             load_list=None,
 
3700
             debug_flags=None,
 
3701
             starting_with=None,
 
3702
             runner_class=None,
 
3703
             suite_decorators=None,
 
3704
             stream=None,
 
3705
             lsprof_tests=False,
 
3706
             ):
 
3707
    """Run the whole test suite under the enhanced runner"""
 
3708
    # XXX: Very ugly way to do this...
 
3709
    # Disable warning about old formats because we don't want it to disturb
 
3710
    # any blackbox tests.
 
3711
    from bzrlib import repository
 
3712
    repository._deprecation_warning_done = True
 
3713
 
 
3714
    global default_transport
 
3715
    if transport is None:
 
3716
        transport = default_transport
 
3717
    old_transport = default_transport
 
3718
    default_transport = transport
 
3719
    global selftest_debug_flags
 
3720
    old_debug_flags = selftest_debug_flags
 
3721
    if debug_flags is not None:
 
3722
        selftest_debug_flags = set(debug_flags)
 
3723
    try:
 
3724
        if load_list is None:
 
3725
            keep_only = None
 
3726
        else:
 
3727
            keep_only = load_test_id_list(load_list)
 
3728
        if starting_with:
 
3729
            starting_with = [test_prefix_alias_registry.resolve_alias(start)
 
3730
                             for start in starting_with]
 
3731
        if test_suite_factory is None:
 
3732
            # Reduce loading time by loading modules based on the starting_with
 
3733
            # patterns.
 
3734
            suite = test_suite(keep_only, starting_with)
 
3735
        else:
 
3736
            suite = test_suite_factory()
 
3737
        if starting_with:
 
3738
            # But always filter as requested.
 
3739
            suite = filter_suite_by_id_startswith(suite, starting_with)
 
3740
        result_decorators = []
 
3741
        if lsprof_tests:
 
3742
            result_decorators.append(ProfileResult)
 
3743
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
 
3744
                     stop_on_failure=stop_on_failure,
 
3745
                     transport=transport,
 
3746
                     lsprof_timed=lsprof_timed,
 
3747
                     bench_history=bench_history,
 
3748
                     matching_tests_first=matching_tests_first,
 
3749
                     list_only=list_only,
 
3750
                     random_seed=random_seed,
 
3751
                     exclude_pattern=exclude_pattern,
 
3752
                     strict=strict,
 
3753
                     runner_class=runner_class,
 
3754
                     suite_decorators=suite_decorators,
 
3755
                     stream=stream,
 
3756
                     result_decorators=result_decorators,
 
3757
                     )
 
3758
    finally:
 
3759
        default_transport = old_transport
 
3760
        selftest_debug_flags = old_debug_flags
 
3761
 
 
3762
 
 
3763
def load_test_id_list(file_name):
 
3764
    """Load a test id list from a text file.
 
3765
 
 
3766
    The format is one test id by line.  No special care is taken to impose
 
3767
    strict rules, these test ids are used to filter the test suite so a test id
 
3768
    that do not match an existing test will do no harm. This allows user to add
 
3769
    comments, leave blank lines, etc.
 
3770
    """
 
3771
    test_list = []
 
3772
    try:
 
3773
        ftest = open(file_name, 'rt')
 
3774
    except IOError, e:
 
3775
        if e.errno != errno.ENOENT:
 
3776
            raise
 
3777
        else:
 
3778
            raise errors.NoSuchFile(file_name)
 
3779
 
 
3780
    for test_name in ftest.readlines():
 
3781
        test_list.append(test_name.strip())
 
3782
    ftest.close()
 
3783
    return test_list
 
3784
 
 
3785
 
 
3786
def suite_matches_id_list(test_suite, id_list):
 
3787
    """Warns about tests not appearing or appearing more than once.
 
3788
 
 
3789
    :param test_suite: A TestSuite object.
 
3790
    :param test_id_list: The list of test ids that should be found in
 
3791
         test_suite.
 
3792
 
 
3793
    :return: (absents, duplicates) absents is a list containing the test found
 
3794
        in id_list but not in test_suite, duplicates is a list containing the
 
3795
        test found multiple times in test_suite.
 
3796
 
 
3797
    When using a prefined test id list, it may occurs that some tests do not
 
3798
    exist anymore or that some tests use the same id. This function warns the
 
3799
    tester about potential problems in his workflow (test lists are volatile)
 
3800
    or in the test suite itself (using the same id for several tests does not
 
3801
    help to localize defects).
 
3802
    """
 
3803
    # Build a dict counting id occurrences
 
3804
    tests = dict()
 
3805
    for test in iter_suite_tests(test_suite):
 
3806
        id = test.id()
 
3807
        tests[id] = tests.get(id, 0) + 1
 
3808
 
 
3809
    not_found = []
 
3810
    duplicates = []
 
3811
    for id in id_list:
 
3812
        occurs = tests.get(id, 0)
 
3813
        if not occurs:
 
3814
            not_found.append(id)
 
3815
        elif occurs > 1:
 
3816
            duplicates.append(id)
 
3817
 
 
3818
    return not_found, duplicates
 
3819
 
 
3820
 
 
3821
class TestIdList(object):
 
3822
    """Test id list to filter a test suite.
 
3823
 
 
3824
    Relying on the assumption that test ids are built as:
 
3825
    <module>[.<class>.<method>][(<param>+)], <module> being in python dotted
 
3826
    notation, this class offers methods to :
 
3827
    - avoid building a test suite for modules not refered to in the test list,
 
3828
    - keep only the tests listed from the module test suite.
 
3829
    """
 
3830
 
 
3831
    def __init__(self, test_id_list):
 
3832
        # When a test suite needs to be filtered against us we compare test ids
 
3833
        # for equality, so a simple dict offers a quick and simple solution.
 
3834
        self.tests = dict().fromkeys(test_id_list, True)
 
3835
 
 
3836
        # While unittest.TestCase have ids like:
 
3837
        # <module>.<class>.<method>[(<param+)],
 
3838
        # doctest.DocTestCase can have ids like:
 
3839
        # <module>
 
3840
        # <module>.<class>
 
3841
        # <module>.<function>
 
3842
        # <module>.<class>.<method>
 
3843
 
 
3844
        # Since we can't predict a test class from its name only, we settle on
 
3845
        # a simple constraint: a test id always begins with its module name.
 
3846
 
 
3847
        modules = {}
 
3848
        for test_id in test_id_list:
 
3849
            parts = test_id.split('.')
 
3850
            mod_name = parts.pop(0)
 
3851
            modules[mod_name] = True
 
3852
            for part in parts:
 
3853
                mod_name += '.' + part
 
3854
                modules[mod_name] = True
 
3855
        self.modules = modules
 
3856
 
 
3857
    def refers_to(self, module_name):
 
3858
        """Is there tests for the module or one of its sub modules."""
 
3859
        return self.modules.has_key(module_name)
 
3860
 
 
3861
    def includes(self, test_id):
 
3862
        return self.tests.has_key(test_id)
 
3863
 
 
3864
 
 
3865
class TestPrefixAliasRegistry(registry.Registry):
 
3866
    """A registry for test prefix aliases.
 
3867
 
 
3868
    This helps implement shorcuts for the --starting-with selftest
 
3869
    option. Overriding existing prefixes is not allowed but not fatal (a
 
3870
    warning will be emitted).
 
3871
    """
 
3872
 
 
3873
    def register(self, key, obj, help=None, info=None,
 
3874
                 override_existing=False):
 
3875
        """See Registry.register.
 
3876
 
 
3877
        Trying to override an existing alias causes a warning to be emitted,
 
3878
        not a fatal execption.
 
3879
        """
 
3880
        try:
 
3881
            super(TestPrefixAliasRegistry, self).register(
 
3882
                key, obj, help=help, info=info, override_existing=False)
 
3883
        except KeyError:
 
3884
            actual = self.get(key)
 
3885
            trace.note(
 
3886
                'Test prefix alias %s is already used for %s, ignoring %s'
 
3887
                % (key, actual, obj))
 
3888
 
 
3889
    def resolve_alias(self, id_start):
 
3890
        """Replace the alias by the prefix in the given string.
 
3891
 
 
3892
        Using an unknown prefix is an error to help catching typos.
 
3893
        """
 
3894
        parts = id_start.split('.')
 
3895
        try:
 
3896
            parts[0] = self.get(parts[0])
 
3897
        except KeyError:
 
3898
            raise errors.BzrCommandError(
 
3899
                '%s is not a known test prefix alias' % parts[0])
 
3900
        return '.'.join(parts)
 
3901
 
 
3902
 
 
3903
test_prefix_alias_registry = TestPrefixAliasRegistry()
 
3904
"""Registry of test prefix aliases."""
 
3905
 
 
3906
 
 
3907
# This alias allows to detect typos ('bzrlin.') by making all valid test ids
 
3908
# appear prefixed ('bzrlib.' is "replaced" by 'bzrlib.').
 
3909
test_prefix_alias_registry.register('bzrlib', 'bzrlib')
 
3910
 
 
3911
# Obvious highest levels prefixes, feel free to add your own via a plugin
 
3912
test_prefix_alias_registry.register('bd', 'bzrlib.doc')
 
3913
test_prefix_alias_registry.register('bu', 'bzrlib.utils')
 
3914
test_prefix_alias_registry.register('bt', 'bzrlib.tests')
 
3915
test_prefix_alias_registry.register('bb', 'bzrlib.tests.blackbox')
 
3916
test_prefix_alias_registry.register('bp', 'bzrlib.plugins')
 
3917
 
 
3918
 
 
3919
def _test_suite_testmod_names():
 
3920
    """Return the standard list of test module names to test."""
 
3921
    return [
 
3922
        'bzrlib.doc',
 
3923
        'bzrlib.tests.blackbox',
 
3924
        'bzrlib.tests.commands',
 
3925
        'bzrlib.tests.per_branch',
 
3926
        'bzrlib.tests.per_bzrdir',
 
3927
        'bzrlib.tests.per_controldir',
 
3928
        'bzrlib.tests.per_controldir_colo',
 
3929
        'bzrlib.tests.per_foreign_vcs',
 
3930
        'bzrlib.tests.per_interrepository',
 
3931
        'bzrlib.tests.per_intertree',
 
3932
        'bzrlib.tests.per_inventory',
 
3933
        'bzrlib.tests.per_interbranch',
 
3934
        'bzrlib.tests.per_lock',
 
3935
        'bzrlib.tests.per_merger',
 
3936
        'bzrlib.tests.per_transport',
 
3937
        'bzrlib.tests.per_tree',
 
3938
        'bzrlib.tests.per_pack_repository',
 
3939
        'bzrlib.tests.per_repository',
 
3940
        'bzrlib.tests.per_repository_chk',
 
3941
        'bzrlib.tests.per_repository_reference',
 
3942
        'bzrlib.tests.per_repository_vf',
 
3943
        'bzrlib.tests.per_uifactory',
 
3944
        'bzrlib.tests.per_versionedfile',
 
3945
        'bzrlib.tests.per_workingtree',
 
3946
        'bzrlib.tests.test__annotator',
 
3947
        'bzrlib.tests.test__bencode',
 
3948
        'bzrlib.tests.test__btree_serializer',
 
3949
        'bzrlib.tests.test__chk_map',
 
3950
        'bzrlib.tests.test__dirstate_helpers',
 
3951
        'bzrlib.tests.test__groupcompress',
 
3952
        'bzrlib.tests.test__known_graph',
 
3953
        'bzrlib.tests.test__rio',
 
3954
        'bzrlib.tests.test__simple_set',
 
3955
        'bzrlib.tests.test__static_tuple',
 
3956
        'bzrlib.tests.test__walkdirs_win32',
 
3957
        'bzrlib.tests.test_ancestry',
 
3958
        'bzrlib.tests.test_annotate',
 
3959
        'bzrlib.tests.test_api',
 
3960
        'bzrlib.tests.test_atomicfile',
 
3961
        'bzrlib.tests.test_bad_files',
 
3962
        'bzrlib.tests.test_bisect_multi',
 
3963
        'bzrlib.tests.test_branch',
 
3964
        'bzrlib.tests.test_branchbuilder',
 
3965
        'bzrlib.tests.test_btree_index',
 
3966
        'bzrlib.tests.test_bugtracker',
 
3967
        'bzrlib.tests.test_bundle',
 
3968
        'bzrlib.tests.test_bzrdir',
 
3969
        'bzrlib.tests.test__chunks_to_lines',
 
3970
        'bzrlib.tests.test_cache_utf8',
 
3971
        'bzrlib.tests.test_chk_map',
 
3972
        'bzrlib.tests.test_chk_serializer',
 
3973
        'bzrlib.tests.test_chunk_writer',
 
3974
        'bzrlib.tests.test_clean_tree',
 
3975
        'bzrlib.tests.test_cleanup',
 
3976
        'bzrlib.tests.test_cmdline',
 
3977
        'bzrlib.tests.test_commands',
 
3978
        'bzrlib.tests.test_commit',
 
3979
        'bzrlib.tests.test_commit_merge',
 
3980
        'bzrlib.tests.test_config',
 
3981
        'bzrlib.tests.test_conflicts',
 
3982
        'bzrlib.tests.test_controldir',
 
3983
        'bzrlib.tests.test_counted_lock',
 
3984
        'bzrlib.tests.test_crash',
 
3985
        'bzrlib.tests.test_decorators',
 
3986
        'bzrlib.tests.test_delta',
 
3987
        'bzrlib.tests.test_debug',
 
3988
        'bzrlib.tests.test_diff',
 
3989
        'bzrlib.tests.test_directory_service',
 
3990
        'bzrlib.tests.test_dirstate',
 
3991
        'bzrlib.tests.test_email_message',
 
3992
        'bzrlib.tests.test_eol_filters',
 
3993
        'bzrlib.tests.test_errors',
 
3994
        'bzrlib.tests.test_estimate_compressed_size',
 
3995
        'bzrlib.tests.test_export',
 
3996
        'bzrlib.tests.test_export_pot',
 
3997
        'bzrlib.tests.test_extract',
 
3998
        'bzrlib.tests.test_features',
 
3999
        'bzrlib.tests.test_fetch',
 
4000
        'bzrlib.tests.test_fixtures',
 
4001
        'bzrlib.tests.test_fifo_cache',
 
4002
        'bzrlib.tests.test_filters',
 
4003
        'bzrlib.tests.test_filter_tree',
 
4004
        'bzrlib.tests.test_ftp_transport',
 
4005
        'bzrlib.tests.test_foreign',
 
4006
        'bzrlib.tests.test_generate_docs',
 
4007
        'bzrlib.tests.test_generate_ids',
 
4008
        'bzrlib.tests.test_globbing',
 
4009
        'bzrlib.tests.test_gpg',
 
4010
        'bzrlib.tests.test_graph',
 
4011
        'bzrlib.tests.test_groupcompress',
 
4012
        'bzrlib.tests.test_hashcache',
 
4013
        'bzrlib.tests.test_help',
 
4014
        'bzrlib.tests.test_hooks',
 
4015
        'bzrlib.tests.test_http',
 
4016
        'bzrlib.tests.test_http_response',
 
4017
        'bzrlib.tests.test_https_ca_bundle',
 
4018
        'bzrlib.tests.test_https_urllib',
 
4019
        'bzrlib.tests.test_i18n',
 
4020
        'bzrlib.tests.test_identitymap',
 
4021
        'bzrlib.tests.test_ignores',
 
4022
        'bzrlib.tests.test_index',
 
4023
        'bzrlib.tests.test_import_tariff',
 
4024
        'bzrlib.tests.test_info',
 
4025
        'bzrlib.tests.test_inv',
 
4026
        'bzrlib.tests.test_inventory_delta',
 
4027
        'bzrlib.tests.test_knit',
 
4028
        'bzrlib.tests.test_lazy_import',
 
4029
        'bzrlib.tests.test_lazy_regex',
 
4030
        'bzrlib.tests.test_library_state',
 
4031
        'bzrlib.tests.test_lock',
 
4032
        'bzrlib.tests.test_lockable_files',
 
4033
        'bzrlib.tests.test_lockdir',
 
4034
        'bzrlib.tests.test_log',
 
4035
        'bzrlib.tests.test_lru_cache',
 
4036
        'bzrlib.tests.test_lsprof',
 
4037
        'bzrlib.tests.test_mail_client',
 
4038
        'bzrlib.tests.test_matchers',
 
4039
        'bzrlib.tests.test_memorytree',
 
4040
        'bzrlib.tests.test_merge',
 
4041
        'bzrlib.tests.test_merge3',
 
4042
        'bzrlib.tests.test_merge_core',
 
4043
        'bzrlib.tests.test_merge_directive',
 
4044
        'bzrlib.tests.test_mergetools',
 
4045
        'bzrlib.tests.test_missing',
 
4046
        'bzrlib.tests.test_msgeditor',
 
4047
        'bzrlib.tests.test_multiparent',
 
4048
        'bzrlib.tests.test_mutabletree',
 
4049
        'bzrlib.tests.test_nonascii',
 
4050
        'bzrlib.tests.test_options',
 
4051
        'bzrlib.tests.test_osutils',
 
4052
        'bzrlib.tests.test_osutils_encodings',
 
4053
        'bzrlib.tests.test_pack',
 
4054
        'bzrlib.tests.test_patch',
 
4055
        'bzrlib.tests.test_patches',
 
4056
        'bzrlib.tests.test_permissions',
 
4057
        'bzrlib.tests.test_plugins',
 
4058
        'bzrlib.tests.test_progress',
 
4059
        'bzrlib.tests.test_pyutils',
 
4060
        'bzrlib.tests.test_read_bundle',
 
4061
        'bzrlib.tests.test_reconcile',
 
4062
        'bzrlib.tests.test_reconfigure',
 
4063
        'bzrlib.tests.test_registry',
 
4064
        'bzrlib.tests.test_remote',
 
4065
        'bzrlib.tests.test_rename_map',
 
4066
        'bzrlib.tests.test_repository',
 
4067
        'bzrlib.tests.test_revert',
 
4068
        'bzrlib.tests.test_revision',
 
4069
        'bzrlib.tests.test_revisionspec',
 
4070
        'bzrlib.tests.test_revisiontree',
 
4071
        'bzrlib.tests.test_rio',
 
4072
        'bzrlib.tests.test_rules',
 
4073
        'bzrlib.tests.test_url_policy_open',
 
4074
        'bzrlib.tests.test_sampler',
 
4075
        'bzrlib.tests.test_scenarios',
 
4076
        'bzrlib.tests.test_script',
 
4077
        'bzrlib.tests.test_selftest',
 
4078
        'bzrlib.tests.test_serializer',
 
4079
        'bzrlib.tests.test_setup',
 
4080
        'bzrlib.tests.test_sftp_transport',
 
4081
        'bzrlib.tests.test_shelf',
 
4082
        'bzrlib.tests.test_shelf_ui',
 
4083
        'bzrlib.tests.test_smart',
 
4084
        'bzrlib.tests.test_smart_add',
 
4085
        'bzrlib.tests.test_smart_request',
 
4086
        'bzrlib.tests.test_smart_signals',
 
4087
        'bzrlib.tests.test_smart_transport',
 
4088
        'bzrlib.tests.test_smtp_connection',
 
4089
        'bzrlib.tests.test_source',
 
4090
        'bzrlib.tests.test_ssh_transport',
 
4091
        'bzrlib.tests.test_status',
 
4092
        'bzrlib.tests.test_store',
 
4093
        'bzrlib.tests.test_strace',
 
4094
        'bzrlib.tests.test_subsume',
 
4095
        'bzrlib.tests.test_switch',
 
4096
        'bzrlib.tests.test_symbol_versioning',
 
4097
        'bzrlib.tests.test_tag',
 
4098
        'bzrlib.tests.test_test_server',
 
4099
        'bzrlib.tests.test_testament',
 
4100
        'bzrlib.tests.test_textfile',
 
4101
        'bzrlib.tests.test_textmerge',
 
4102
        'bzrlib.tests.test_cethread',
 
4103
        'bzrlib.tests.test_timestamp',
 
4104
        'bzrlib.tests.test_trace',
 
4105
        'bzrlib.tests.test_transactions',
 
4106
        'bzrlib.tests.test_transform',
 
4107
        'bzrlib.tests.test_transport',
 
4108
        'bzrlib.tests.test_transport_log',
 
4109
        'bzrlib.tests.test_tree',
 
4110
        'bzrlib.tests.test_treebuilder',
 
4111
        'bzrlib.tests.test_treeshape',
 
4112
        'bzrlib.tests.test_tsort',
 
4113
        'bzrlib.tests.test_tuned_gzip',
 
4114
        'bzrlib.tests.test_ui',
 
4115
        'bzrlib.tests.test_uncommit',
 
4116
        'bzrlib.tests.test_upgrade',
 
4117
        'bzrlib.tests.test_upgrade_stacked',
 
4118
        'bzrlib.tests.test_urlutils',
 
4119
        'bzrlib.tests.test_utextwrap',
 
4120
        'bzrlib.tests.test_version',
 
4121
        'bzrlib.tests.test_version_info',
 
4122
        'bzrlib.tests.test_versionedfile',
 
4123
        'bzrlib.tests.test_vf_search',
 
4124
        'bzrlib.tests.test_weave',
 
4125
        'bzrlib.tests.test_whitebox',
 
4126
        'bzrlib.tests.test_win32utils',
 
4127
        'bzrlib.tests.test_workingtree',
 
4128
        'bzrlib.tests.test_workingtree_4',
 
4129
        'bzrlib.tests.test_wsgi',
 
4130
        'bzrlib.tests.test_xml',
 
4131
        ]
 
4132
 
 
4133
 
 
4134
def _test_suite_modules_to_doctest():
 
4135
    """Return the list of modules to doctest."""
 
4136
    if __doc__ is None:
 
4137
        # GZ 2009-03-31: No docstrings with -OO so there's nothing to doctest
 
4138
        return []
 
4139
    return [
 
4140
        'bzrlib',
 
4141
        'bzrlib.branchbuilder',
 
4142
        'bzrlib.decorators',
 
4143
        'bzrlib.inventory',
 
4144
        'bzrlib.iterablefile',
 
4145
        'bzrlib.lockdir',
 
4146
        'bzrlib.merge3',
 
4147
        'bzrlib.option',
 
4148
        'bzrlib.pyutils',
 
4149
        'bzrlib.symbol_versioning',
 
4150
        'bzrlib.tests',
 
4151
        'bzrlib.tests.fixtures',
 
4152
        'bzrlib.timestamp',
 
4153
        'bzrlib.transport.http',
 
4154
        'bzrlib.version_info_formats.format_custom',
 
4155
        ]
 
4156
 
 
4157
 
 
4158
def test_suite(keep_only=None, starting_with=None):
 
4159
    """Build and return TestSuite for the whole of bzrlib.
 
4160
 
 
4161
    :param keep_only: A list of test ids limiting the suite returned.
 
4162
 
 
4163
    :param starting_with: An id limiting the suite returned to the tests
 
4164
         starting with it.
 
4165
 
 
4166
    This function can be replaced if you need to change the default test
 
4167
    suite on a global basis, but it is not encouraged.
 
4168
    """
 
4169
 
 
4170
    loader = TestUtil.TestLoader()
 
4171
 
 
4172
    if keep_only is not None:
 
4173
        id_filter = TestIdList(keep_only)
 
4174
    if starting_with:
 
4175
        # We take precedence over keep_only because *at loading time* using
 
4176
        # both options means we will load less tests for the same final result.
 
4177
        def interesting_module(name):
 
4178
            for start in starting_with:
 
4179
                if (
 
4180
                    # Either the module name starts with the specified string
 
4181
                    name.startswith(start)
 
4182
                    # or it may contain tests starting with the specified string
 
4183
                    or start.startswith(name)
 
4184
                    ):
 
4185
                    return True
 
4186
            return False
 
4187
        loader = TestUtil.FilteredByModuleTestLoader(interesting_module)
 
4188
 
 
4189
    elif keep_only is not None:
 
4190
        loader = TestUtil.FilteredByModuleTestLoader(id_filter.refers_to)
 
4191
        def interesting_module(name):
 
4192
            return id_filter.refers_to(name)
 
4193
 
 
4194
    else:
 
4195
        loader = TestUtil.TestLoader()
 
4196
        def interesting_module(name):
 
4197
            # No filtering, all modules are interesting
 
4198
            return True
 
4199
 
 
4200
    suite = loader.suiteClass()
 
4201
 
 
4202
    # modules building their suite with loadTestsFromModuleNames
 
4203
    suite.addTest(loader.loadTestsFromModuleNames(_test_suite_testmod_names()))
 
4204
 
 
4205
    for mod in _test_suite_modules_to_doctest():
 
4206
        if not interesting_module(mod):
 
4207
            # No tests to keep here, move along
 
4208
            continue
 
4209
        try:
 
4210
            # note that this really does mean "report only" -- doctest
 
4211
            # still runs the rest of the examples
 
4212
            doc_suite = IsolatedDocTestSuite(
 
4213
                mod, optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
 
4214
        except ValueError, e:
 
4215
            print '**failed to get doctest for: %s\n%s' % (mod, e)
 
4216
            raise
 
4217
        if len(doc_suite._tests) == 0:
 
4218
            raise errors.BzrError("no doctests found in %s" % (mod,))
 
4219
        suite.addTest(doc_suite)
 
4220
 
 
4221
    default_encoding = sys.getdefaultencoding()
 
4222
    for name, plugin in _mod_plugin.plugins().items():
 
4223
        if not interesting_module(plugin.module.__name__):
 
4224
            continue
 
4225
        plugin_suite = plugin.test_suite()
 
4226
        # We used to catch ImportError here and turn it into just a warning,
 
4227
        # but really if you don't have --no-plugins this should be a failure.
 
4228
        # mbp 20080213 - see http://bugs.launchpad.net/bugs/189771
 
4229
        if plugin_suite is None:
 
4230
            plugin_suite = plugin.load_plugin_tests(loader)
 
4231
        if plugin_suite is not None:
 
4232
            suite.addTest(plugin_suite)
 
4233
        if default_encoding != sys.getdefaultencoding():
 
4234
            trace.warning(
 
4235
                'Plugin "%s" tried to reset default encoding to: %s', name,
 
4236
                sys.getdefaultencoding())
 
4237
            reload(sys)
 
4238
            sys.setdefaultencoding(default_encoding)
 
4239
 
 
4240
    if keep_only is not None:
 
4241
        # Now that the referred modules have loaded their tests, keep only the
 
4242
        # requested ones.
 
4243
        suite = filter_suite_by_id_list(suite, id_filter)
 
4244
        # Do some sanity checks on the id_list filtering
 
4245
        not_found, duplicates = suite_matches_id_list(suite, keep_only)
 
4246
        if starting_with:
 
4247
            # The tester has used both keep_only and starting_with, so he is
 
4248
            # already aware that some tests are excluded from the list, there
 
4249
            # is no need to tell him which.
 
4250
            pass
 
4251
        else:
 
4252
            # Some tests mentioned in the list are not in the test suite. The
 
4253
            # list may be out of date, report to the tester.
 
4254
            for id in not_found:
 
4255
                trace.warning('"%s" not found in the test suite', id)
 
4256
        for id in duplicates:
 
4257
            trace.warning('"%s" is used as an id by several tests', id)
 
4258
 
 
4259
    return suite
 
4260
 
 
4261
 
 
4262
def multiply_scenarios(*scenarios):
 
4263
    """Multiply two or more iterables of scenarios.
 
4264
 
 
4265
    It is safe to pass scenario generators or iterators.
 
4266
 
 
4267
    :returns: A list of compound scenarios: the cross-product of all 
 
4268
        scenarios, with the names concatenated and the parameters
 
4269
        merged together.
 
4270
    """
 
4271
    return reduce(_multiply_two_scenarios, map(list, scenarios))
 
4272
 
 
4273
 
 
4274
def _multiply_two_scenarios(scenarios_left, scenarios_right):
 
4275
    """Multiply two sets of scenarios.
 
4276
 
 
4277
    :returns: the cartesian product of the two sets of scenarios, that is
 
4278
        a scenario for every possible combination of a left scenario and a
 
4279
        right scenario.
 
4280
    """
 
4281
    return [
 
4282
        ('%s,%s' % (left_name, right_name),
 
4283
         dict(left_dict.items() + right_dict.items()))
 
4284
        for left_name, left_dict in scenarios_left
 
4285
        for right_name, right_dict in scenarios_right]
 
4286
 
 
4287
 
 
4288
def multiply_tests(tests, scenarios, result):
 
4289
    """Multiply tests_list by scenarios into result.
 
4290
 
 
4291
    This is the core workhorse for test parameterisation.
 
4292
 
 
4293
    Typically the load_tests() method for a per-implementation test suite will
 
4294
    call multiply_tests and return the result.
 
4295
 
 
4296
    :param tests: The tests to parameterise.
 
4297
    :param scenarios: The scenarios to apply: pairs of (scenario_name,
 
4298
        scenario_param_dict).
 
4299
    :param result: A TestSuite to add created tests to.
 
4300
 
 
4301
    This returns the passed in result TestSuite with the cross product of all
 
4302
    the tests repeated once for each scenario.  Each test is adapted by adding
 
4303
    the scenario name at the end of its id(), and updating the test object's
 
4304
    __dict__ with the scenario_param_dict.
 
4305
 
 
4306
    >>> import bzrlib.tests.test_sampler
 
4307
    >>> r = multiply_tests(
 
4308
    ...     bzrlib.tests.test_sampler.DemoTest('test_nothing'),
 
4309
    ...     [('one', dict(param=1)),
 
4310
    ...      ('two', dict(param=2))],
 
4311
    ...     TestUtil.TestSuite())
 
4312
    >>> tests = list(iter_suite_tests(r))
 
4313
    >>> len(tests)
 
4314
    2
 
4315
    >>> tests[0].id()
 
4316
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
 
4317
    >>> tests[0].param
 
4318
    1
 
4319
    >>> tests[1].param
 
4320
    2
 
4321
    """
 
4322
    for test in iter_suite_tests(tests):
 
4323
        apply_scenarios(test, scenarios, result)
 
4324
    return result
 
4325
 
 
4326
 
 
4327
def apply_scenarios(test, scenarios, result):
 
4328
    """Apply the scenarios in scenarios to test and add to result.
 
4329
 
 
4330
    :param test: The test to apply scenarios to.
 
4331
    :param scenarios: An iterable of scenarios to apply to test.
 
4332
    :return: result
 
4333
    :seealso: apply_scenario
 
4334
    """
 
4335
    for scenario in scenarios:
 
4336
        result.addTest(apply_scenario(test, scenario))
 
4337
    return result
 
4338
 
 
4339
 
 
4340
def apply_scenario(test, scenario):
 
4341
    """Copy test and apply scenario to it.
 
4342
 
 
4343
    :param test: A test to adapt.
 
4344
    :param scenario: A tuple describing the scenarion.
 
4345
        The first element of the tuple is the new test id.
 
4346
        The second element is a dict containing attributes to set on the
 
4347
        test.
 
4348
    :return: The adapted test.
 
4349
    """
 
4350
    new_id = "%s(%s)" % (test.id(), scenario[0])
 
4351
    new_test = clone_test(test, new_id)
 
4352
    for name, value in scenario[1].items():
 
4353
        setattr(new_test, name, value)
 
4354
    return new_test
 
4355
 
 
4356
 
 
4357
def clone_test(test, new_id):
 
4358
    """Clone a test giving it a new id.
 
4359
 
 
4360
    :param test: The test to clone.
 
4361
    :param new_id: The id to assign to it.
 
4362
    :return: The new test.
 
4363
    """
 
4364
    new_test = copy.copy(test)
 
4365
    new_test.id = lambda: new_id
 
4366
    # XXX: Workaround <https://bugs.launchpad.net/testtools/+bug/637725>, which
 
4367
    # causes cloned tests to share the 'details' dict.  This makes it hard to
 
4368
    # read the test output for parameterized tests, because tracebacks will be
 
4369
    # associated with irrelevant tests.
 
4370
    try:
 
4371
        details = new_test._TestCase__details
 
4372
    except AttributeError:
 
4373
        # must be a different version of testtools than expected.  Do nothing.
 
4374
        pass
 
4375
    else:
 
4376
        # Reset the '__details' dict.
 
4377
        new_test._TestCase__details = {}
 
4378
    return new_test
 
4379
 
 
4380
 
 
4381
def permute_tests_for_extension(standard_tests, loader, py_module_name,
 
4382
                                ext_module_name):
 
4383
    """Helper for permutating tests against an extension module.
 
4384
 
 
4385
    This is meant to be used inside a modules 'load_tests()' function. It will
 
4386
    create 2 scenarios, and cause all tests in the 'standard_tests' to be run
 
4387
    against both implementations. Setting 'test.module' to the appropriate
 
4388
    module. See bzrlib.tests.test__chk_map.load_tests as an example.
 
4389
 
 
4390
    :param standard_tests: A test suite to permute
 
4391
    :param loader: A TestLoader
 
4392
    :param py_module_name: The python path to a python module that can always
 
4393
        be loaded, and will be considered the 'python' implementation. (eg
 
4394
        'bzrlib._chk_map_py')
 
4395
    :param ext_module_name: The python path to an extension module. If the
 
4396
        module cannot be loaded, a single test will be added, which notes that
 
4397
        the module is not available. If it can be loaded, all standard_tests
 
4398
        will be run against that module.
 
4399
    :return: (suite, feature) suite is a test-suite that has all the permuted
 
4400
        tests. feature is the Feature object that can be used to determine if
 
4401
        the module is available.
 
4402
    """
 
4403
 
 
4404
    from bzrlib.tests.features import ModuleAvailableFeature
 
4405
    py_module = pyutils.get_named_object(py_module_name)
 
4406
    scenarios = [
 
4407
        ('python', {'module': py_module}),
 
4408
    ]
 
4409
    suite = loader.suiteClass()
 
4410
    feature = ModuleAvailableFeature(ext_module_name)
 
4411
    if feature.available():
 
4412
        scenarios.append(('C', {'module': feature.module}))
 
4413
    else:
 
4414
        # the compiled module isn't available, so we add a failing test
 
4415
        class FailWithoutFeature(TestCase):
 
4416
            def test_fail(self):
 
4417
                self.requireFeature(feature)
 
4418
        suite.addTest(loader.loadTestsFromTestCase(FailWithoutFeature))
 
4419
    result = multiply_tests(standard_tests, scenarios, suite)
 
4420
    return result, feature
 
4421
 
 
4422
 
 
4423
def _rmtree_temp_dir(dirname, test_id=None):
 
4424
    # If LANG=C we probably have created some bogus paths
 
4425
    # which rmtree(unicode) will fail to delete
 
4426
    # so make sure we are using rmtree(str) to delete everything
 
4427
    # except on win32, where rmtree(str) will fail
 
4428
    # since it doesn't have the property of byte-stream paths
 
4429
    # (they are either ascii or mbcs)
 
4430
    if sys.platform == 'win32':
 
4431
        # make sure we are using the unicode win32 api
 
4432
        dirname = unicode(dirname)
 
4433
    else:
 
4434
        dirname = dirname.encode(sys.getfilesystemencoding())
 
4435
    try:
 
4436
        osutils.rmtree(dirname)
 
4437
    except OSError, e:
 
4438
        # We don't want to fail here because some useful display will be lost
 
4439
        # otherwise. Polluting the tmp dir is bad, but not giving all the
 
4440
        # possible info to the test runner is even worse.
 
4441
        if test_id != None:
 
4442
            ui.ui_factory.clear_term()
 
4443
            sys.stderr.write('\nWhile running: %s\n' % (test_id,))
 
4444
        # Ugly, but the last thing we want here is fail, so bear with it.
 
4445
        printable_e = str(e).decode(osutils.get_user_encoding(), 'replace'
 
4446
                                    ).encode('ascii', 'replace')
 
4447
        sys.stderr.write('Unable to remove testing dir %s\n%s'
 
4448
                         % (os.path.basename(dirname), printable_e))
 
4449
 
 
4450
 
 
4451
def probe_unicode_in_user_encoding():
 
4452
    """Try to encode several unicode strings to use in unicode-aware tests.
 
4453
    Return first successfull match.
 
4454
 
 
4455
    :return:  (unicode value, encoded plain string value) or (None, None)
 
4456
    """
 
4457
    possible_vals = [u'm\xb5', u'\xe1', u'\u0410']
 
4458
    for uni_val in possible_vals:
 
4459
        try:
 
4460
            str_val = uni_val.encode(osutils.get_user_encoding())
 
4461
        except UnicodeEncodeError:
 
4462
            # Try a different character
 
4463
            pass
 
4464
        else:
 
4465
            return uni_val, str_val
 
4466
    return None, None
 
4467
 
 
4468
 
 
4469
def probe_bad_non_ascii(encoding):
 
4470
    """Try to find [bad] character with code [128..255]
 
4471
    that cannot be decoded to unicode in some encoding.
 
4472
    Return None if all non-ascii characters is valid
 
4473
    for given encoding.
 
4474
    """
 
4475
    for i in xrange(128, 256):
 
4476
        char = chr(i)
 
4477
        try:
 
4478
            char.decode(encoding)
 
4479
        except UnicodeDecodeError:
 
4480
            return char
 
4481
    return None
 
4482
 
 
4483
 
 
4484
# Only define SubUnitBzrRunner if subunit is available.
 
4485
try:
 
4486
    from subunit import TestProtocolClient
 
4487
    from subunit.test_results import AutoTimingTestResultDecorator
 
4488
    class SubUnitBzrProtocolClient(TestProtocolClient):
 
4489
 
 
4490
        def stopTest(self, test):
 
4491
            super(SubUnitBzrProtocolClient, self).stopTest(test)
 
4492
            _clear__type_equality_funcs(test)
 
4493
 
 
4494
        def addSuccess(self, test, details=None):
 
4495
            # The subunit client always includes the details in the subunit
 
4496
            # stream, but we don't want to include it in ours.
 
4497
            if details is not None and 'log' in details:
 
4498
                del details['log']
 
4499
            return super(SubUnitBzrProtocolClient, self).addSuccess(
 
4500
                test, details)
 
4501
 
 
4502
    class SubUnitBzrRunner(TextTestRunner):
 
4503
        def run(self, test):
 
4504
            result = AutoTimingTestResultDecorator(
 
4505
                SubUnitBzrProtocolClient(self.stream))
 
4506
            test.run(result)
 
4507
            return result
 
4508
except ImportError:
 
4509
    pass
 
4510
 
 
4511
 
 
4512
# API compatibility for old plugins; see bug 892622.
 
4513
for name in [
 
4514
    'Feature',
 
4515
    'HTTPServerFeature', 
 
4516
    'ModuleAvailableFeature',
 
4517
    'HTTPSServerFeature', 'SymlinkFeature', 'HardlinkFeature',
 
4518
    'OsFifoFeature', 'UnicodeFilenameFeature',
 
4519
    'ByteStringNamedFilesystem', 'UTF8Filesystem',
 
4520
    'BreakinFeature', 'CaseInsCasePresFilenameFeature',
 
4521
    'CaseInsensitiveFilesystemFeature', 'case_sensitive_filesystem_feature',
 
4522
    'posix_permissions_feature',
 
4523
    ]:
 
4524
    globals()[name] = _CompatabilityThunkFeature(
 
4525
        symbol_versioning.deprecated_in((2, 5, 0)),
 
4526
        'bzrlib.tests', name,
 
4527
        name, 'bzrlib.tests.features')
 
4528
 
 
4529
 
 
4530
for (old_name, new_name) in [
 
4531
    ('UnicodeFilename', 'UnicodeFilenameFeature'),
 
4532
    ]:
 
4533
    globals()[name] = _CompatabilityThunkFeature(
 
4534
        symbol_versioning.deprecated_in((2, 5, 0)),
 
4535
        'bzrlib.tests', old_name,
 
4536
        new_name, 'bzrlib.tests.features')