~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

(gz) Fix bt.test_osutils and bt.test_config windows fallout from recent
 changes (Martin Packman)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006, 2007, 2008, 2009, 2010 Canonical Ltd
 
1
# Copyright (C) 2005-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
 
17
"""Testing framework extensions"""
17
18
 
18
 
# TODO: Perhaps there should be an API to find out if bzr running under the
19
 
# test suite -- some plugins might want to avoid making intrusive changes if
20
 
# this is the case.  However, we want behaviour under to test to diverge as
21
 
# little as possible, so this should be used rarely if it's added at all.
22
 
# (Suggestion from j-a-meinel, 2005-11-24)
 
19
from __future__ import absolute_import
23
20
 
24
21
# NOTE: Some classes in here use camelCaseNaming() rather than
25
22
# underscore_naming().  That's for consistency with unittest; it's not the
28
25
 
29
26
import atexit
30
27
import codecs
31
 
from copy import copy
 
28
import copy
32
29
from cStringIO import StringIO
33
30
import difflib
34
31
import doctest
35
32
import errno
 
33
import itertools
36
34
import logging
37
 
import math
38
35
import os
39
 
from pprint import pformat
 
36
import platform
 
37
import pprint
40
38
import random
41
39
import re
42
40
import shlex
 
41
import site
43
42
import stat
44
 
from subprocess import Popen, PIPE, STDOUT
 
43
import subprocess
45
44
import sys
46
45
import tempfile
47
46
import threading
53
52
import testtools
54
53
# nb: check this before importing anything else from within it
55
54
_testtools_version = getattr(testtools, '__version__', ())
56
 
if _testtools_version < (0, 9, 2):
57
 
    raise ImportError("need at least testtools 0.9.2: %s is %r"
 
55
if _testtools_version < (0, 9, 5):
 
56
    raise ImportError("need at least testtools 0.9.5: %s is %r"
58
57
        % (testtools.__file__, _testtools_version))
59
58
from testtools import content
60
59
 
 
60
import bzrlib
61
61
from bzrlib import (
62
62
    branchbuilder,
63
63
    bzrdir,
64
64
    chk_map,
 
65
    commands as _mod_commands,
65
66
    config,
 
67
    i18n,
66
68
    debug,
67
69
    errors,
68
70
    hooks,
69
71
    lock as _mod_lock,
 
72
    lockdir,
70
73
    memorytree,
71
74
    osutils,
72
 
    progress,
 
75
    plugin as _mod_plugin,
 
76
    pyutils,
73
77
    ui,
74
78
    urlutils,
75
79
    registry,
 
80
    symbol_versioning,
 
81
    trace,
 
82
    transport as _mod_transport,
76
83
    workingtree,
77
84
    )
78
 
import bzrlib.branch
79
 
import bzrlib.commands
80
 
import bzrlib.timestamp
81
 
import bzrlib.export
82
 
import bzrlib.inventory
83
 
import bzrlib.iterablefile
84
 
import bzrlib.lockdir
85
85
try:
86
86
    import bzrlib.lsprof
87
87
except ImportError:
88
88
    # lsprof not available
89
89
    pass
90
 
from bzrlib.merge import merge_inner
91
 
import bzrlib.merge3
92
 
import bzrlib.plugin
93
 
from bzrlib.smart import client, request, server
94
 
import bzrlib.store
95
 
from bzrlib import symbol_versioning
 
90
from bzrlib.smart import client, request
 
91
from bzrlib.transport import (
 
92
    memory,
 
93
    pathfilter,
 
94
    )
96
95
from bzrlib.symbol_versioning import (
97
 
    DEPRECATED_PARAMETER,
98
96
    deprecated_function,
99
97
    deprecated_in,
100
 
    deprecated_method,
101
 
    deprecated_passed,
102
 
    )
103
 
import bzrlib.trace
104
 
from bzrlib.transport import get_transport, pathfilter
105
 
import bzrlib.transport
106
 
from bzrlib.transport.local import LocalURLServer
107
 
from bzrlib.transport.memory import MemoryServer
108
 
from bzrlib.transport.readonly import ReadonlyServer
109
 
from bzrlib.trace import mutter, note
110
 
from bzrlib.tests import TestUtil
111
 
from bzrlib.tests.http_server import HttpServer
112
 
from bzrlib.tests.TestUtil import (
113
 
                          TestSuite,
114
 
                          TestLoader,
115
 
                          )
116
 
from bzrlib.tests.treeshape import build_tree_contents
 
98
    )
 
99
from bzrlib.tests import (
 
100
    fixtures,
 
101
    test_server,
 
102
    TestUtil,
 
103
    treeshape,
 
104
    )
117
105
from bzrlib.ui import NullProgressView
118
106
from bzrlib.ui.text import TextUIFactory
119
 
import bzrlib.version_info_formats.format_custom
120
 
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
 
107
from bzrlib.tests.features import _CompatabilityThunkFeature
121
108
 
122
109
# Mark this python module as being part of the implementation
123
110
# of unittest: this gives us better tracebacks where the last
124
111
# shown frame is the test code, not our assertXYZ.
125
112
__unittest = 1
126
113
 
127
 
default_transport = LocalURLServer
 
114
default_transport = test_server.LocalURLServer
128
115
 
129
116
 
130
117
_unitialized_attr = object()
135
122
SUBUNIT_SEEK_SET = 0
136
123
SUBUNIT_SEEK_CUR = 1
137
124
 
138
 
 
139
 
class ExtendedTestResult(unittest._TextTestResult):
 
125
# These are intentionally brought into this namespace. That way plugins, etc
 
126
# can just "from bzrlib.tests import TestCase, TestLoader, etc"
 
127
TestSuite = TestUtil.TestSuite
 
128
TestLoader = TestUtil.TestLoader
 
129
 
 
130
# Tests should run in a clean and clearly defined environment. The goal is to
 
131
# keep them isolated from the running environment as mush as possible. The test
 
132
# framework ensures the variables defined below are set (or deleted if the
 
133
# value is None) before a test is run and reset to their original value after
 
134
# the test is run. Generally if some code depends on an environment variable,
 
135
# the tests should start without this variable in the environment. There are a
 
136
# few exceptions but you shouldn't violate this rule lightly.
 
137
isolated_environ = {
 
138
    'BZR_HOME': None,
 
139
    'HOME': None,
 
140
    # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
 
141
    # tests do check our impls match APPDATA
 
142
    'BZR_EDITOR': None, # test_msgeditor manipulates this variable
 
143
    'VISUAL': None,
 
144
    'EDITOR': None,
 
145
    'BZR_EMAIL': None,
 
146
    'BZREMAIL': None, # may still be present in the environment
 
147
    'EMAIL': 'jrandom@example.com', # set EMAIL as bzr does not guess
 
148
    'BZR_PROGRESS_BAR': None,
 
149
    # This should trap leaks to ~/.bzr.log. This occurs when tests use TestCase
 
150
    # as a base class instead of TestCaseInTempDir. Tests inheriting from
 
151
    # TestCase should not use disk resources, BZR_LOG is one.
 
152
    'BZR_LOG': '/you-should-use-TestCaseInTempDir-if-you-need-a-log-file',
 
153
    'BZR_PLUGIN_PATH': None,
 
154
    'BZR_DISABLE_PLUGINS': None,
 
155
    'BZR_PLUGINS_AT': None,
 
156
    'BZR_CONCURRENCY': None,
 
157
    # Make sure that any text ui tests are consistent regardless of
 
158
    # the environment the test case is run in; you may want tests that
 
159
    # test other combinations.  'dumb' is a reasonable guess for tests
 
160
    # going to a pipe or a StringIO.
 
161
    'TERM': 'dumb',
 
162
    'LINES': '25',
 
163
    'COLUMNS': '80',
 
164
    'BZR_COLUMNS': '80',
 
165
    # Disable SSH Agent
 
166
    'SSH_AUTH_SOCK': None,
 
167
    # Proxies
 
168
    'http_proxy': None,
 
169
    'HTTP_PROXY': None,
 
170
    'https_proxy': None,
 
171
    'HTTPS_PROXY': None,
 
172
    'no_proxy': None,
 
173
    'NO_PROXY': None,
 
174
    'all_proxy': None,
 
175
    'ALL_PROXY': None,
 
176
    # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
 
177
    # least. If you do (care), please update this comment
 
178
    # -- vila 20080401
 
179
    'ftp_proxy': None,
 
180
    'FTP_PROXY': None,
 
181
    'BZR_REMOTE_PATH': None,
 
182
    # Generally speaking, we don't want apport reporting on crashes in
 
183
    # the test envirnoment unless we're specifically testing apport,
 
184
    # so that it doesn't leak into the real system environment.  We
 
185
    # use an env var so it propagates to subprocesses.
 
186
    'APPORT_DISABLE': '1',
 
187
    }
 
188
 
 
189
 
 
190
def override_os_environ(test, env=None):
 
191
    """Modify os.environ keeping a copy.
 
192
    
 
193
    :param test: A test instance
 
194
 
 
195
    :param env: A dict containing variable definitions to be installed
 
196
    """
 
197
    if env is None:
 
198
        env = isolated_environ
 
199
    test._original_os_environ = dict([(var, value)
 
200
                                      for var, value in os.environ.iteritems()])
 
201
    for var, value in env.iteritems():
 
202
        osutils.set_or_unset_env(var, value)
 
203
        if var not in test._original_os_environ:
 
204
            # The var is new, add it with a value of None, so
 
205
            # restore_os_environ will delete it
 
206
            test._original_os_environ[var] = None
 
207
 
 
208
 
 
209
def restore_os_environ(test):
 
210
    """Restore os.environ to its original state.
 
211
 
 
212
    :param test: A test instance previously passed to override_os_environ.
 
213
    """
 
214
    for var, value in test._original_os_environ.iteritems():
 
215
        # Restore the original value (or delete it if the value has been set to
 
216
        # None in override_os_environ).
 
217
        osutils.set_or_unset_env(var, value)
 
218
 
 
219
 
 
220
def _clear__type_equality_funcs(test):
 
221
    """Cleanup bound methods stored on TestCase instances
 
222
 
 
223
    Clear the dict breaking a few (mostly) harmless cycles in the affected
 
224
    unittests released with Python 2.6 and initial Python 2.7 versions.
 
225
 
 
226
    For a few revisions between Python 2.7.1 and Python 2.7.2 that annoyingly
 
227
    shipped in Oneiric, an object with no clear method was used, hence the
 
228
    extra complications, see bug 809048 for details.
 
229
    """
 
230
    type_equality_funcs = getattr(test, "_type_equality_funcs", None)
 
231
    if type_equality_funcs is not None:
 
232
        tef_clear = getattr(type_equality_funcs, "clear", None)
 
233
        if tef_clear is None:
 
234
            tef_instance_dict = getattr(type_equality_funcs, "__dict__", None)
 
235
            if tef_instance_dict is not None:
 
236
                tef_clear = tef_instance_dict.clear
 
237
        if tef_clear is not None:
 
238
            tef_clear()
 
239
 
 
240
 
 
241
class ExtendedTestResult(testtools.TextTestResult):
140
242
    """Accepts, reports and accumulates the results of running tests.
141
243
 
142
244
    Compared to the unittest version this class adds support for
163
265
        :param bench_history: Optionally, a writable file object to accumulate
164
266
            benchmark results.
165
267
        """
166
 
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
 
268
        testtools.TextTestResult.__init__(self, stream)
167
269
        if bench_history is not None:
168
270
            from bzrlib.version import _get_bzr_source_tree
169
271
            src_tree = _get_bzr_source_tree()
190
292
        self.count = 0
191
293
        self._overall_start_time = time.time()
192
294
        self._strict = strict
 
295
        self._first_thread_leaker_id = None
 
296
        self._tests_leaking_threads_count = 0
 
297
        self._traceback_from_test = None
193
298
 
194
299
    def stopTestRun(self):
195
300
        run = self.testsRun
196
301
        actionTaken = "Ran"
197
302
        stopTime = time.time()
198
303
        timeTaken = stopTime - self.startTime
199
 
        self.printErrors()
200
 
        self.stream.writeln(self.separator2)
201
 
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
 
304
        # GZ 2010-07-19: Seems testtools has no printErrors method, and though
 
305
        #                the parent class method is similar have to duplicate
 
306
        self._show_list('ERROR', self.errors)
 
307
        self._show_list('FAIL', self.failures)
 
308
        self.stream.write(self.sep2)
 
309
        self.stream.write("%s %d test%s in %.3fs\n\n" % (actionTaken,
202
310
                            run, run != 1 and "s" or "", timeTaken))
203
 
        self.stream.writeln()
204
311
        if not self.wasSuccessful():
205
312
            self.stream.write("FAILED (")
206
313
            failed, errored = map(len, (self.failures, self.errors))
213
320
                if failed or errored: self.stream.write(", ")
214
321
                self.stream.write("known_failure_count=%d" %
215
322
                    self.known_failure_count)
216
 
            self.stream.writeln(")")
 
323
            self.stream.write(")\n")
217
324
        else:
218
325
            if self.known_failure_count:
219
 
                self.stream.writeln("OK (known_failures=%d)" %
 
326
                self.stream.write("OK (known_failures=%d)\n" %
220
327
                    self.known_failure_count)
221
328
            else:
222
 
                self.stream.writeln("OK")
 
329
                self.stream.write("OK\n")
223
330
        if self.skip_count > 0:
224
331
            skipped = self.skip_count
225
 
            self.stream.writeln('%d test%s skipped' %
 
332
            self.stream.write('%d test%s skipped\n' %
226
333
                                (skipped, skipped != 1 and "s" or ""))
227
334
        if self.unsupported:
228
335
            for feature, count in sorted(self.unsupported.items()):
229
 
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
336
                self.stream.write("Missing feature '%s' skipped %d tests.\n" %
230
337
                    (feature, count))
231
338
        if self._strict:
232
339
            ok = self.wasStrictlySuccessful()
233
340
        else:
234
341
            ok = self.wasSuccessful()
235
 
        if TestCase._first_thread_leaker_id:
 
342
        if self._first_thread_leaker_id:
236
343
            self.stream.write(
237
344
                '%s is leaking threads among %d leaking tests.\n' % (
238
 
                TestCase._first_thread_leaker_id,
239
 
                TestCase._leaking_threads_tests))
 
345
                self._first_thread_leaker_id,
 
346
                self._tests_leaking_threads_count))
240
347
            # We don't report the main thread as an active one.
241
348
            self.stream.write(
242
349
                '%d non-main threads were left active in the end.\n'
243
 
                % (TestCase._active_threads - 1))
 
350
                % (len(self._active_threads) - 1))
244
351
 
245
352
    def getDescription(self, test):
246
353
        return test.id()
253
360
 
254
361
    def _elapsedTestTimeString(self):
255
362
        """Return a time string for the overall time the current test has taken."""
256
 
        return self._formatTime(time.time() - self._start_time)
 
363
        return self._formatTime(self._delta_to_float(
 
364
            self._now() - self._start_datetime))
257
365
 
258
366
    def _testTimeString(self, testCase):
259
367
        benchmark_time = self._extractBenchmarkTime(testCase)
270
378
 
271
379
    def _shortened_test_description(self, test):
272
380
        what = test.id()
273
 
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
381
        what = re.sub(r'^bzrlib\.tests\.', '', what)
274
382
        return what
275
383
 
 
384
    # GZ 2010-10-04: Cloned tests may end up harmlessly calling this method
 
385
    #                multiple times in a row, because the handler is added for
 
386
    #                each test but the container list is shared between cases.
 
387
    #                See lp:498869 lp:625574 and lp:637725 for background.
 
388
    def _record_traceback_from_test(self, exc_info):
 
389
        """Store the traceback from passed exc_info tuple till"""
 
390
        self._traceback_from_test = exc_info[2]
 
391
 
276
392
    def startTest(self, test):
277
 
        unittest.TestResult.startTest(self, test)
 
393
        super(ExtendedTestResult, self).startTest(test)
278
394
        if self.count == 0:
279
395
            self.startTests()
 
396
        self.count += 1
280
397
        self.report_test_start(test)
281
398
        test.number = self.count
282
399
        self._recordTestStartTime()
 
400
        # Make testtools cases give us the real traceback on failure
 
401
        addOnException = getattr(test, "addOnException", None)
 
402
        if addOnException is not None:
 
403
            addOnException(self._record_traceback_from_test)
 
404
        # Only check for thread leaks on bzrlib derived test cases
 
405
        if isinstance(test, TestCase):
 
406
            test.addCleanup(self._check_leaked_threads, test)
 
407
 
 
408
    def stopTest(self, test):
 
409
        super(ExtendedTestResult, self).stopTest(test)
 
410
        # Manually break cycles, means touching various private things but hey
 
411
        getDetails = getattr(test, "getDetails", None)
 
412
        if getDetails is not None:
 
413
            getDetails().clear()
 
414
        _clear__type_equality_funcs(test)
 
415
        self._traceback_from_test = None
283
416
 
284
417
    def startTests(self):
285
 
        import platform
286
 
        if getattr(sys, 'frozen', None) is None:
287
 
            bzr_path = osutils.realpath(sys.argv[0])
288
 
        else:
289
 
            bzr_path = sys.executable
290
 
        self.stream.write(
291
 
            'bzr selftest: %s\n' % (bzr_path,))
292
 
        self.stream.write(
293
 
            '   %s\n' % (
294
 
                    bzrlib.__path__[0],))
295
 
        self.stream.write(
296
 
            '   bzr-%s python-%s %s\n' % (
297
 
                    bzrlib.version_string,
298
 
                    bzrlib._format_version_tuple(sys.version_info),
299
 
                    platform.platform(aliased=1),
300
 
                    ))
301
 
        self.stream.write('\n')
 
418
        self.report_tests_starting()
 
419
        self._active_threads = threading.enumerate()
 
420
 
 
421
    def _check_leaked_threads(self, test):
 
422
        """See if any threads have leaked since last call
 
423
 
 
424
        A sample of live threads is stored in the _active_threads attribute,
 
425
        when this method runs it compares the current live threads and any not
 
426
        in the previous sample are treated as having leaked.
 
427
        """
 
428
        now_active_threads = set(threading.enumerate())
 
429
        threads_leaked = now_active_threads.difference(self._active_threads)
 
430
        if threads_leaked:
 
431
            self._report_thread_leak(test, threads_leaked, now_active_threads)
 
432
            self._tests_leaking_threads_count += 1
 
433
            if self._first_thread_leaker_id is None:
 
434
                self._first_thread_leaker_id = test.id()
 
435
            self._active_threads = now_active_threads
302
436
 
303
437
    def _recordTestStartTime(self):
304
438
        """Record that a test has started."""
305
 
        self._start_time = time.time()
306
 
 
307
 
    def _cleanupLogFile(self, test):
308
 
        # We can only do this if we have one of our TestCases, not if
309
 
        # we have a doctest.
310
 
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
311
 
        if setKeepLogfile is not None:
312
 
            setKeepLogfile()
 
439
        self._start_datetime = self._now()
313
440
 
314
441
    def addError(self, test, err):
315
442
        """Tell result that test finished with an error.
317
444
        Called from the TestCase run() method when the test
318
445
        fails with an unexpected error.
319
446
        """
320
 
        self._post_mortem()
321
 
        unittest.TestResult.addError(self, test, err)
 
447
        self._post_mortem(self._traceback_from_test)
 
448
        super(ExtendedTestResult, self).addError(test, err)
322
449
        self.error_count += 1
323
450
        self.report_error(test, err)
324
451
        if self.stop_early:
325
452
            self.stop()
326
 
        self._cleanupLogFile(test)
327
453
 
328
454
    def addFailure(self, test, err):
329
455
        """Tell result that test failed.
331
457
        Called from the TestCase run() method when the test
332
458
        fails because e.g. an assert() method failed.
333
459
        """
334
 
        self._post_mortem()
335
 
        unittest.TestResult.addFailure(self, test, err)
 
460
        self._post_mortem(self._traceback_from_test)
 
461
        super(ExtendedTestResult, self).addFailure(test, err)
336
462
        self.failure_count += 1
337
463
        self.report_failure(test, err)
338
464
        if self.stop_early:
339
465
            self.stop()
340
 
        self._cleanupLogFile(test)
341
466
 
342
467
    def addSuccess(self, test, details=None):
343
468
        """Tell result that test completed successfully.
351
476
                    self._formatTime(benchmark_time),
352
477
                    test.id()))
353
478
        self.report_success(test)
354
 
        self._cleanupLogFile(test)
355
 
        unittest.TestResult.addSuccess(self, test)
 
479
        super(ExtendedTestResult, self).addSuccess(test)
356
480
        test._log_contents = ''
357
481
 
358
482
    def addExpectedFailure(self, test, err):
359
483
        self.known_failure_count += 1
360
484
        self.report_known_failure(test, err)
361
485
 
 
486
    def addUnexpectedSuccess(self, test, details=None):
 
487
        """Tell result the test unexpectedly passed, counting as a failure
 
488
 
 
489
        When the minimum version of testtools required becomes 0.9.8 this
 
490
        can be updated to use the new handling there.
 
491
        """
 
492
        super(ExtendedTestResult, self).addFailure(test, details=details)
 
493
        self.failure_count += 1
 
494
        self.report_unexpected_success(test,
 
495
            "".join(details["reason"].iter_text()))
 
496
        if self.stop_early:
 
497
            self.stop()
 
498
 
362
499
    def addNotSupported(self, test, feature):
363
500
        """The test will not be run because of a missing feature.
364
501
        """
381
518
        self.not_applicable_count += 1
382
519
        self.report_not_applicable(test, reason)
383
520
 
384
 
    def _post_mortem(self):
 
521
    def _count_stored_tests(self):
 
522
        """Count of tests instances kept alive due to not succeeding"""
 
523
        return self.error_count + self.failure_count + self.known_failure_count
 
524
 
 
525
    def _post_mortem(self, tb=None):
385
526
        """Start a PDB post mortem session."""
386
527
        if os.environ.get('BZR_TEST_PDB', None):
387
 
            import pdb;pdb.post_mortem()
 
528
            import pdb
 
529
            pdb.post_mortem(tb)
388
530
 
389
531
    def progress(self, offset, whence):
390
532
        """The test is adjusting the count of tests to run."""
395
537
        else:
396
538
            raise errors.BzrError("Unknown whence %r" % whence)
397
539
 
398
 
    def report_cleaning_up(self):
399
 
        pass
 
540
    def report_tests_starting(self):
 
541
        """Display information before the test run begins"""
 
542
        if getattr(sys, 'frozen', None) is None:
 
543
            bzr_path = osutils.realpath(sys.argv[0])
 
544
        else:
 
545
            bzr_path = sys.executable
 
546
        self.stream.write(
 
547
            'bzr selftest: %s\n' % (bzr_path,))
 
548
        self.stream.write(
 
549
            '   %s\n' % (
 
550
                    bzrlib.__path__[0],))
 
551
        self.stream.write(
 
552
            '   bzr-%s python-%s %s\n' % (
 
553
                    bzrlib.version_string,
 
554
                    bzrlib._format_version_tuple(sys.version_info),
 
555
                    platform.platform(aliased=1),
 
556
                    ))
 
557
        self.stream.write('\n')
 
558
 
 
559
    def report_test_start(self, test):
 
560
        """Display information on the test just about to be run"""
 
561
 
 
562
    def _report_thread_leak(self, test, leaked_threads, active_threads):
 
563
        """Display information on a test that leaked one or more threads"""
 
564
        # GZ 2010-09-09: A leak summary reported separately from the general
 
565
        #                thread debugging would be nice. Tests under subunit
 
566
        #                need something not using stream, perhaps adding a
 
567
        #                testtools details object would be fitting.
 
568
        if 'threads' in selftest_debug_flags:
 
569
            self.stream.write('%s is leaking, active is now %d\n' %
 
570
                (test.id(), len(active_threads)))
400
571
 
401
572
    def startTestRun(self):
402
573
        self.startTime = time.time()
439
610
        self.pb.finished()
440
611
        super(TextTestResult, self).stopTestRun()
441
612
 
442
 
    def startTestRun(self):
443
 
        super(TextTestResult, self).startTestRun()
 
613
    def report_tests_starting(self):
 
614
        super(TextTestResult, self).report_tests_starting()
444
615
        self.pb.update('[test 0/%d] Starting' % (self.num_tests))
445
616
 
446
 
    def printErrors(self):
447
 
        # clear the pb to make room for the error listing
448
 
        self.pb.clear()
449
 
        super(TextTestResult, self).printErrors()
450
 
 
451
617
    def _progress_prefix_text(self):
452
618
        # the longer this text, the less space we have to show the test
453
619
        # name...
475
641
        return a
476
642
 
477
643
    def report_test_start(self, test):
478
 
        self.count += 1
479
644
        self.pb.update(
480
645
                self._progress_prefix_text()
481
646
                + ' '
485
650
        return self._shortened_test_description(test)
486
651
 
487
652
    def report_error(self, test, err):
488
 
        ui.ui_factory.note('ERROR: %s\n    %s\n' % (
 
653
        self.stream.write('ERROR: %s\n    %s\n' % (
489
654
            self._test_description(test),
490
655
            err[1],
491
656
            ))
492
657
 
493
658
    def report_failure(self, test, err):
494
 
        ui.ui_factory.note('FAIL: %s\n    %s\n' % (
 
659
        self.stream.write('FAIL: %s\n    %s\n' % (
495
660
            self._test_description(test),
496
661
            err[1],
497
662
            ))
499
664
    def report_known_failure(self, test, err):
500
665
        pass
501
666
 
 
667
    def report_unexpected_success(self, test, reason):
 
668
        self.stream.write('FAIL: %s\n    %s: %s\n' % (
 
669
            self._test_description(test),
 
670
            "Unexpected success. Should have failed",
 
671
            reason,
 
672
            ))
 
673
 
502
674
    def report_skip(self, test, reason):
503
675
        pass
504
676
 
508
680
    def report_unsupported(self, test, feature):
509
681
        """test cannot be run because feature is missing."""
510
682
 
511
 
    def report_cleaning_up(self):
512
 
        self.pb.update('Cleaning up')
513
 
 
514
683
 
515
684
class VerboseTestResult(ExtendedTestResult):
516
685
    """Produce long output, with one line per test run plus times"""
523
692
            result = a_string
524
693
        return result.ljust(final_width)
525
694
 
526
 
    def startTestRun(self):
527
 
        super(VerboseTestResult, self).startTestRun()
 
695
    def report_tests_starting(self):
528
696
        self.stream.write('running %d tests...\n' % self.num_tests)
 
697
        super(VerboseTestResult, self).report_tests_starting()
529
698
 
530
699
    def report_test_start(self, test):
531
 
        self.count += 1
532
700
        name = self._shortened_test_description(test)
533
701
        width = osutils.terminal_width()
534
702
        if width is not None:
546
714
        return '%s%s' % (indent, err[1])
547
715
 
548
716
    def report_error(self, test, err):
549
 
        self.stream.writeln('ERROR %s\n%s'
 
717
        self.stream.write('ERROR %s\n%s\n'
550
718
                % (self._testTimeString(test),
551
719
                   self._error_summary(err)))
552
720
 
553
721
    def report_failure(self, test, err):
554
 
        self.stream.writeln(' FAIL %s\n%s'
 
722
        self.stream.write(' FAIL %s\n%s\n'
555
723
                % (self._testTimeString(test),
556
724
                   self._error_summary(err)))
557
725
 
558
726
    def report_known_failure(self, test, err):
559
 
        self.stream.writeln('XFAIL %s\n%s'
 
727
        self.stream.write('XFAIL %s\n%s\n'
560
728
                % (self._testTimeString(test),
561
729
                   self._error_summary(err)))
562
730
 
 
731
    def report_unexpected_success(self, test, reason):
 
732
        self.stream.write(' FAIL %s\n%s: %s\n'
 
733
                % (self._testTimeString(test),
 
734
                   "Unexpected success. Should have failed",
 
735
                   reason))
 
736
 
563
737
    def report_success(self, test):
564
 
        self.stream.writeln('   OK %s' % self._testTimeString(test))
 
738
        self.stream.write('   OK %s\n' % self._testTimeString(test))
565
739
        for bench_called, stats in getattr(test, '_benchcalls', []):
566
 
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
740
            self.stream.write('LSProf output for %s(%s, %s)\n' % bench_called)
567
741
            stats.pprint(file=self.stream)
568
742
        # flush the stream so that we get smooth output. This verbose mode is
569
743
        # used to show the output in PQM.
570
744
        self.stream.flush()
571
745
 
572
746
    def report_skip(self, test, reason):
573
 
        self.stream.writeln(' SKIP %s\n%s'
 
747
        self.stream.write(' SKIP %s\n%s\n'
574
748
                % (self._testTimeString(test), reason))
575
749
 
576
750
    def report_not_applicable(self, test, reason):
577
 
        self.stream.writeln('  N/A %s\n    %s'
 
751
        self.stream.write('  N/A %s\n    %s\n'
578
752
                % (self._testTimeString(test), reason))
579
753
 
580
754
    def report_unsupported(self, test, feature):
581
755
        """test cannot be run because feature is missing."""
582
 
        self.stream.writeln("NODEP %s\n    The feature '%s' is not available."
 
756
        self.stream.write("NODEP %s\n    The feature '%s' is not available.\n"
583
757
                %(self._testTimeString(test), feature))
584
758
 
585
759
 
612
786
            encode = codec[0]
613
787
        else:
614
788
            encode = codec.encode
615
 
        stream = osutils.UnicodeOrBytesToBytesWriter(encode, stream)
 
789
        # GZ 2010-09-08: Really we don't want to be writing arbitrary bytes,
 
790
        #                so should swap to the plain codecs.StreamWriter
 
791
        stream = osutils.UnicodeOrBytesToBytesWriter(encode, stream,
 
792
            "backslashreplace")
616
793
        stream.encoding = new_encoding
617
 
        self.stream = unittest._WritelnDecorator(stream)
 
794
        self.stream = stream
618
795
        self.descriptions = descriptions
619
796
        self.verbosity = verbosity
620
797
        self._bench_history = bench_history
702
879
    """
703
880
 
704
881
 
705
 
class CommandFailed(Exception):
706
 
    pass
707
 
 
708
 
 
709
882
class StringIOWrapper(object):
710
883
    """A wrapper around cStringIO which just adds an encoding attribute.
711
884
 
748
921
    # XXX: Should probably unify more with CannedInputUIFactory or a
749
922
    # particular configuration of TextUIFactory, or otherwise have a clearer
750
923
    # idea of how they're supposed to be different.
751
 
    # See https://bugs.edge.launchpad.net/bzr/+bug/408213
 
924
    # See https://bugs.launchpad.net/bzr/+bug/408213
752
925
 
753
926
    def __init__(self, stdout=None, stderr=None, stdin=None):
754
927
        if stdin is not None:
772
945
        return NullProgressView()
773
946
 
774
947
 
 
948
def isolated_doctest_setUp(test):
 
949
    override_os_environ(test)
 
950
 
 
951
 
 
952
def isolated_doctest_tearDown(test):
 
953
    restore_os_environ(test)
 
954
 
 
955
 
 
956
def IsolatedDocTestSuite(*args, **kwargs):
 
957
    """Overrides doctest.DocTestSuite to handle isolation.
 
958
 
 
959
    The method is really a factory and users are expected to use it as such.
 
960
    """
 
961
 
 
962
    kwargs['setUp'] = isolated_doctest_setUp
 
963
    kwargs['tearDown'] = isolated_doctest_tearDown
 
964
    return doctest.DocTestSuite(*args, **kwargs)
 
965
 
 
966
 
775
967
class TestCase(testtools.TestCase):
776
968
    """Base class for bzr unit tests.
777
969
 
788
980
    routine, and to build and check bzr trees.
789
981
 
790
982
    In addition to the usual method of overriding tearDown(), this class also
791
 
    allows subclasses to register functions into the _cleanups list, which is
 
983
    allows subclasses to register cleanup functions via addCleanup, which are
792
984
    run in order as the object is torn down.  It's less likely this will be
793
985
    accidentally overlooked.
794
986
    """
795
987
 
796
 
    _active_threads = None
797
 
    _leaking_threads_tests = 0
798
 
    _first_thread_leaker_id = None
799
 
    _log_file_name = None
 
988
    _log_file = None
800
989
    # record lsprof data when performing benchmark calls.
801
990
    _gather_lsprof_in_benchmarks = False
802
991
 
803
992
    def __init__(self, methodName='testMethod'):
804
993
        super(TestCase, self).__init__(methodName)
805
 
        self._cleanups = []
806
994
        self._directory_isolation = True
807
995
        self.exception_handlers.insert(0,
808
996
            (UnavailableFeature, self._do_unsupported_or_skip))
811
999
 
812
1000
    def setUp(self):
813
1001
        super(TestCase, self).setUp()
 
1002
 
 
1003
        timeout = config.GlobalStack().get('selftest.timeout')
 
1004
        if timeout:
 
1005
            timeout_fixture = fixtures.TimeoutFixture(timeout)
 
1006
            timeout_fixture.setUp()
 
1007
            self.addCleanup(timeout_fixture.cleanUp)
 
1008
 
814
1009
        for feature in getattr(self, '_test_needs_features', []):
815
1010
            self.requireFeature(feature)
816
 
        self._log_contents = None
817
 
        self.addDetail("log", content.Content(content.ContentType("text",
818
 
            "plain", {"charset": "utf8"}),
819
 
            lambda:[self._get_log(keep_log_file=True)]))
820
1011
        self._cleanEnvironment()
 
1012
 
 
1013
        if bzrlib.global_state is not None:
 
1014
            self.overrideAttr(bzrlib.global_state, 'cmdline_overrides',
 
1015
                              config.CommandLineStore())
 
1016
 
821
1017
        self._silenceUI()
822
1018
        self._startLogFile()
823
1019
        self._benchcalls = []
826
1022
        self._track_transports()
827
1023
        self._track_locks()
828
1024
        self._clear_debug_flags()
829
 
        TestCase._active_threads = threading.activeCount()
830
 
        self.addCleanup(self._check_leaked_threads)
 
1025
        # Isolate global verbosity level, to make sure it's reproducible
 
1026
        # between tests.  We should get rid of this altogether: bug 656694. --
 
1027
        # mbp 20101008
 
1028
        self.overrideAttr(bzrlib.trace, '_verbosity_level', 0)
 
1029
        # Isolate config option expansion until its default value for bzrlib is
 
1030
        # settled on or a the FIXME associated with _get_expand_default_value
 
1031
        # is addressed -- vila 20110219
 
1032
        self.overrideAttr(config, '_expand_default_value', None)
 
1033
        self._log_files = set()
 
1034
        # Each key in the ``_counters`` dict holds a value for a different
 
1035
        # counter. When the test ends, addDetail() should be used to output the
 
1036
        # counter values. This happens in install_counter_hook().
 
1037
        self._counters = {}
 
1038
        if 'config_stats' in selftest_debug_flags:
 
1039
            self._install_config_stats_hooks()
 
1040
        # Do not use i18n for tests (unless the test reverses this)
 
1041
        i18n.disable_i18n()
831
1042
 
832
1043
    def debug(self):
833
1044
        # debug a frame up.
834
1045
        import pdb
835
 
        pdb.Pdb().set_trace(sys._getframe().f_back)
836
 
 
837
 
    def _check_leaked_threads(self):
838
 
        active = threading.activeCount()
839
 
        leaked_threads = active - TestCase._active_threads
840
 
        TestCase._active_threads = active
841
 
        # If some tests make the number of threads *decrease*, we'll consider
842
 
        # that they are just observing old threads dieing, not agressively kill
843
 
        # random threads. So we don't report these tests as leaking. The risk
844
 
        # is that we have false positives that way (the test see 2 threads
845
 
        # going away but leak one) but it seems less likely than the actual
846
 
        # false positives (the test see threads going away and does not leak).
847
 
        if leaked_threads > 0:
848
 
            TestCase._leaking_threads_tests += 1
849
 
            if TestCase._first_thread_leaker_id is None:
850
 
                TestCase._first_thread_leaker_id = self.id()
 
1046
        # The sys preserved stdin/stdout should allow blackbox tests debugging
 
1047
        pdb.Pdb(stdin=sys.__stdin__, stdout=sys.__stdout__
 
1048
                ).set_trace(sys._getframe().f_back)
 
1049
 
 
1050
    def discardDetail(self, name):
 
1051
        """Extend the addDetail, getDetails api so we can remove a detail.
 
1052
 
 
1053
        eg. bzr always adds the 'log' detail at startup, but we don't want to
 
1054
        include it for skipped, xfail, etc tests.
 
1055
 
 
1056
        It is safe to call this for a detail that doesn't exist, in case this
 
1057
        gets called multiple times.
 
1058
        """
 
1059
        # We cheat. details is stored in __details which means we shouldn't
 
1060
        # touch it. but getDetails() returns the dict directly, so we can
 
1061
        # mutate it.
 
1062
        details = self.getDetails()
 
1063
        if name in details:
 
1064
            del details[name]
 
1065
 
 
1066
    def install_counter_hook(self, hooks, name, counter_name=None):
 
1067
        """Install a counting hook.
 
1068
 
 
1069
        Any hook can be counted as long as it doesn't need to return a value.
 
1070
 
 
1071
        :param hooks: Where the hook should be installed.
 
1072
 
 
1073
        :param name: The hook name that will be counted.
 
1074
 
 
1075
        :param counter_name: The counter identifier in ``_counters``, defaults
 
1076
            to ``name``.
 
1077
        """
 
1078
        _counters = self._counters # Avoid closing over self
 
1079
        if counter_name is None:
 
1080
            counter_name = name
 
1081
        if _counters.has_key(counter_name):
 
1082
            raise AssertionError('%s is already used as a counter name'
 
1083
                                  % (counter_name,))
 
1084
        _counters[counter_name] = 0
 
1085
        self.addDetail(counter_name, content.Content(content.UTF8_TEXT,
 
1086
            lambda: ['%d' % (_counters[counter_name],)]))
 
1087
        def increment_counter(*args, **kwargs):
 
1088
            _counters[counter_name] += 1
 
1089
        label = 'count %s calls' % (counter_name,)
 
1090
        hooks.install_named_hook(name, increment_counter, label)
 
1091
        self.addCleanup(hooks.uninstall_named_hook, name, label)
 
1092
 
 
1093
    def _install_config_stats_hooks(self):
 
1094
        """Install config hooks to count hook calls.
 
1095
 
 
1096
        """
 
1097
        for hook_name in ('get', 'set', 'remove', 'load', 'save'):
 
1098
            self.install_counter_hook(config.ConfigHooks, hook_name,
 
1099
                                       'config.%s' % (hook_name,))
 
1100
 
 
1101
        # The OldConfigHooks are private and need special handling to protect
 
1102
        # against recursive tests (tests that run other tests), so we just do
 
1103
        # manually what registering them into _builtin_known_hooks will provide
 
1104
        # us.
 
1105
        self.overrideAttr(config, 'OldConfigHooks', config._OldConfigHooks())
 
1106
        for hook_name in ('get', 'set', 'remove', 'load', 'save'):
 
1107
            self.install_counter_hook(config.OldConfigHooks, hook_name,
 
1108
                                      'old_config.%s' % (hook_name,))
851
1109
 
852
1110
    def _clear_debug_flags(self):
853
1111
        """Prevent externally set debug flags affecting tests.
864
1122
 
865
1123
    def _clear_hooks(self):
866
1124
        # prevent hooks affecting tests
 
1125
        known_hooks = hooks.known_hooks
867
1126
        self._preserved_hooks = {}
868
 
        for key, factory in hooks.known_hooks.items():
869
 
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
870
 
            current_hooks = hooks.known_hooks_key_to_object(key)
 
1127
        for key, (parent, name) in known_hooks.iter_parent_objects():
 
1128
            current_hooks = getattr(parent, name)
871
1129
            self._preserved_hooks[parent] = (name, current_hooks)
 
1130
        self._preserved_lazy_hooks = hooks._lazy_hooks
 
1131
        hooks._lazy_hooks = {}
872
1132
        self.addCleanup(self._restoreHooks)
873
 
        for key, factory in hooks.known_hooks.items():
874
 
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
 
1133
        for key, (parent, name) in known_hooks.iter_parent_objects():
 
1134
            factory = known_hooks.get(key)
875
1135
            setattr(parent, name, factory())
876
1136
        # this hook should always be installed
877
1137
        request._install_hook()
906
1166
        # break some locks on purpose and should be taken into account by
907
1167
        # considering that breaking a lock is just a dirty way of releasing it.
908
1168
        if len(acquired_locks) != (len(released_locks) + len(broken_locks)):
909
 
            message = ('Different number of acquired and '
910
 
                       'released or broken locks. (%s, %s + %s)' %
911
 
                       (acquired_locks, released_locks, broken_locks))
 
1169
            message = (
 
1170
                'Different number of acquired and '
 
1171
                'released or broken locks.\n'
 
1172
                'acquired=%s\n'
 
1173
                'released=%s\n'
 
1174
                'broken=%s\n' %
 
1175
                (acquired_locks, released_locks, broken_locks))
912
1176
            if not self._lock_check_thorough:
913
1177
                # Rather than fail, just warn
914
1178
                print "Broken test %s: %s" % (self, message)
942
1206
 
943
1207
    def permit_dir(self, name):
944
1208
        """Permit a directory to be used by this test. See permit_url."""
945
 
        name_transport = get_transport(name)
 
1209
        name_transport = _mod_transport.get_transport_from_path(name)
946
1210
        self.permit_url(name)
947
1211
        self.permit_url(name_transport.base)
948
1212
 
971
1235
            try:
972
1236
                workingtree.WorkingTree.open(path)
973
1237
            except (errors.NotBranchError, errors.NoWorkingTree):
974
 
                return
 
1238
                raise TestSkipped('Needs a working tree of bzr sources')
975
1239
        finally:
976
1240
            self.enable_directory_isolation()
977
1241
 
1027
1291
        self.addCleanup(transport_server.stop_server)
1028
1292
        # Obtain a real transport because if the server supplies a password, it
1029
1293
        # will be hidden from the base on the client side.
1030
 
        t = get_transport(transport_server.get_url())
 
1294
        t = _mod_transport.get_transport_from_url(transport_server.get_url())
1031
1295
        # Some transport servers effectively chroot the backing transport;
1032
1296
        # others like SFTPServer don't - users of the transport can walk up the
1033
1297
        # transport to read the entire backing transport. This wouldn't matter
1044
1308
        if t.base.endswith('/work/'):
1045
1309
            # we have safety net/test root/work
1046
1310
            t = t.clone('../..')
1047
 
        elif isinstance(transport_server, server.SmartTCPServer_for_testing):
 
1311
        elif isinstance(transport_server,
 
1312
                        test_server.SmartTCPServer_for_testing):
1048
1313
            # The smart server adds a path similar to work, which is traversed
1049
1314
            # up from by the client. But the server is chrooted - the actual
1050
1315
            # backing transport is not escaped from, and VFS requests to the
1088
1353
        except UnicodeError, e:
1089
1354
            # If we can't compare without getting a UnicodeError, then
1090
1355
            # obviously they are different
1091
 
            mutter('UnicodeError: %s', e)
 
1356
            trace.mutter('UnicodeError: %s', e)
1092
1357
        if message:
1093
1358
            message += '\n'
1094
1359
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
1095
1360
            % (message,
1096
 
               pformat(a), pformat(b)))
 
1361
               pprint.pformat(a), pprint.pformat(b)))
1097
1362
 
1098
1363
    assertEquals = assertEqual
1099
1364
 
1133
1398
                         'st_mtime did not match')
1134
1399
        self.assertEqual(expected.st_ctime, actual.st_ctime,
1135
1400
                         'st_ctime did not match')
1136
 
        if sys.platform != 'win32':
 
1401
        if sys.platform == 'win32':
1137
1402
            # On Win32 both 'dev' and 'ino' cannot be trusted. In python2.4 it
1138
1403
            # is 'dev' that varies, in python 2.5 (6?) it is st_ino that is
1139
 
            # odd. Regardless we shouldn't actually try to assert anything
1140
 
            # about their values
 
1404
            # odd. We just force it to always be 0 to avoid any problems.
 
1405
            self.assertEqual(0, expected.st_dev)
 
1406
            self.assertEqual(0, actual.st_dev)
 
1407
            self.assertEqual(0, expected.st_ino)
 
1408
            self.assertEqual(0, actual.st_ino)
 
1409
        else:
1141
1410
            self.assertEqual(expected.st_dev, actual.st_dev,
1142
1411
                             'st_dev did not match')
1143
1412
            self.assertEqual(expected.st_ino, actual.st_ino,
1152
1421
                length, len(obj_with_len), obj_with_len))
1153
1422
 
1154
1423
    def assertLogsError(self, exception_class, func, *args, **kwargs):
1155
 
        """Assert that func(*args, **kwargs) quietly logs a specific exception.
 
1424
        """Assert that `func(*args, **kwargs)` quietly logs a specific error.
1156
1425
        """
1157
 
        from bzrlib import trace
1158
1426
        captured = []
1159
1427
        orig_log_exception_quietly = trace.log_exception_quietly
1160
1428
        try:
1161
1429
            def capture():
1162
1430
                orig_log_exception_quietly()
1163
 
                captured.append(sys.exc_info())
 
1431
                captured.append(sys.exc_info()[1])
1164
1432
            trace.log_exception_quietly = capture
1165
1433
            func(*args, **kwargs)
1166
1434
        finally:
1167
1435
            trace.log_exception_quietly = orig_log_exception_quietly
1168
1436
        self.assertLength(1, captured)
1169
 
        err = captured[0][1]
 
1437
        err = captured[0]
1170
1438
        self.assertIsInstance(err, exception_class)
1171
1439
        return err
1172
1440
 
1205
1473
            raise AssertionError('pattern "%s" found in "%s"'
1206
1474
                    % (needle_re, haystack))
1207
1475
 
 
1476
    def assertContainsString(self, haystack, needle):
 
1477
        if haystack.find(needle) == -1:
 
1478
            self.fail("string %r not found in '''%s'''" % (needle, haystack))
 
1479
 
 
1480
    def assertNotContainsString(self, haystack, needle):
 
1481
        if haystack.find(needle) != -1:
 
1482
            self.fail("string %r found in '''%s'''" % (needle, haystack))
 
1483
 
1208
1484
    def assertSubset(self, sublist, superlist):
1209
1485
        """Assert that every entry in sublist is present in superlist."""
1210
1486
        missing = set(sublist) - set(superlist)
1299
1575
 
1300
1576
    def assertFileEqual(self, content, path):
1301
1577
        """Fail if path does not contain 'content'."""
1302
 
        self.failUnlessExists(path)
 
1578
        self.assertPathExists(path)
1303
1579
        f = file(path, 'rb')
1304
1580
        try:
1305
1581
            s = f.read()
1307
1583
            f.close()
1308
1584
        self.assertEqualDiff(content, s)
1309
1585
 
 
1586
    def assertDocstring(self, expected_docstring, obj):
 
1587
        """Fail if obj does not have expected_docstring"""
 
1588
        if __doc__ is None:
 
1589
            # With -OO the docstring should be None instead
 
1590
            self.assertIs(obj.__doc__, None)
 
1591
        else:
 
1592
            self.assertEqual(expected_docstring, obj.__doc__)
 
1593
 
 
1594
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4)))
1310
1595
    def failUnlessExists(self, path):
 
1596
        return self.assertPathExists(path)
 
1597
 
 
1598
    def assertPathExists(self, path):
1311
1599
        """Fail unless path or paths, which may be abs or relative, exist."""
1312
1600
        if not isinstance(path, basestring):
1313
1601
            for p in path:
1314
 
                self.failUnlessExists(p)
 
1602
                self.assertPathExists(p)
1315
1603
        else:
1316
 
            self.failUnless(osutils.lexists(path),path+" does not exist")
 
1604
            self.assertTrue(osutils.lexists(path),
 
1605
                path + " does not exist")
1317
1606
 
 
1607
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4)))
1318
1608
    def failIfExists(self, path):
 
1609
        return self.assertPathDoesNotExist(path)
 
1610
 
 
1611
    def assertPathDoesNotExist(self, path):
1319
1612
        """Fail if path or paths, which may be abs or relative, exist."""
1320
1613
        if not isinstance(path, basestring):
1321
1614
            for p in path:
1322
 
                self.failIfExists(p)
 
1615
                self.assertPathDoesNotExist(p)
1323
1616
        else:
1324
 
            self.failIf(osutils.lexists(path),path+" exists")
 
1617
            self.assertFalse(osutils.lexists(path),
 
1618
                path + " exists")
1325
1619
 
1326
1620
    def _capture_deprecation_warnings(self, a_callable, *args, **kwargs):
1327
1621
        """A helper for callDeprecated and applyDeprecated.
1353
1647
        not other callers that go direct to the warning module.
1354
1648
 
1355
1649
        To test that a deprecated method raises an error, do something like
1356
 
        this::
 
1650
        this (remember that both assertRaises and applyDeprecated delays *args
 
1651
        and **kwargs passing)::
1357
1652
 
1358
1653
            self.assertRaises(errors.ReservedId,
1359
1654
                self.applyDeprecated,
1437
1732
        return result
1438
1733
 
1439
1734
    def _startLogFile(self):
1440
 
        """Send bzr and test log messages to a temporary file.
1441
 
 
1442
 
        The file is removed as the test is torn down.
1443
 
        """
1444
 
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
1445
 
        self._log_file = os.fdopen(fileno, 'w+')
1446
 
        self._log_memento = bzrlib.trace.push_log_file(self._log_file)
1447
 
        self._log_file_name = name
 
1735
        """Setup a in-memory target for bzr and testcase log messages"""
 
1736
        pseudo_log_file = StringIO()
 
1737
        def _get_log_contents_for_weird_testtools_api():
 
1738
            return [pseudo_log_file.getvalue().decode(
 
1739
                "utf-8", "replace").encode("utf-8")]
 
1740
        self.addDetail("log", content.Content(content.ContentType("text",
 
1741
            "plain", {"charset": "utf8"}),
 
1742
            _get_log_contents_for_weird_testtools_api))
 
1743
        self._log_file = pseudo_log_file
 
1744
        self._log_memento = trace.push_log_file(self._log_file)
1448
1745
        self.addCleanup(self._finishLogFile)
1449
1746
 
1450
1747
    def _finishLogFile(self):
1451
 
        """Finished with the log file.
1452
 
 
1453
 
        Close the file and delete it, unless setKeepLogfile was called.
1454
 
        """
1455
 
        if bzrlib.trace._trace_file:
 
1748
        """Flush and dereference the in-memory log for this testcase"""
 
1749
        if trace._trace_file:
1456
1750
            # flush the log file, to get all content
1457
 
            bzrlib.trace._trace_file.flush()
1458
 
        bzrlib.trace.pop_log_file(self._log_memento)
1459
 
        # Cache the log result and delete the file on disk
1460
 
        self._get_log(False)
 
1751
            trace._trace_file.flush()
 
1752
        trace.pop_log_file(self._log_memento)
 
1753
        # The logging module now tracks references for cleanup so discard ours
 
1754
        del self._log_memento
1461
1755
 
1462
1756
    def thisFailsStrictLockCheck(self):
1463
1757
        """It is known that this test would fail with -Dstrict_locks.
1472
1766
        """
1473
1767
        debug.debug_flags.discard('strict_locks')
1474
1768
 
1475
 
    def addCleanup(self, callable, *args, **kwargs):
1476
 
        """Arrange to run a callable when this case is torn down.
1477
 
 
1478
 
        Callables are run in the reverse of the order they are registered,
1479
 
        ie last-in first-out.
1480
 
        """
1481
 
        self._cleanups.append((callable, args, kwargs))
1482
 
 
1483
1769
    def overrideAttr(self, obj, attr_name, new=_unitialized_attr):
1484
1770
        """Overrides an object attribute restoring it after the test.
1485
1771
 
 
1772
        :note: This should be used with discretion; you should think about
 
1773
        whether it's better to make the code testable without monkey-patching.
 
1774
 
1486
1775
        :param obj: The object that will be mutated.
1487
1776
 
1488
1777
        :param attr_name: The attribute name we want to preserve/override in
1499
1788
            setattr(obj, attr_name, new)
1500
1789
        return value
1501
1790
 
 
1791
    def overrideEnv(self, name, new):
 
1792
        """Set an environment variable, and reset it after the test.
 
1793
 
 
1794
        :param name: The environment variable name.
 
1795
 
 
1796
        :param new: The value to set the variable to. If None, the 
 
1797
            variable is deleted from the environment.
 
1798
 
 
1799
        :returns: The actual variable value.
 
1800
        """
 
1801
        value = osutils.set_or_unset_env(name, new)
 
1802
        self.addCleanup(osutils.set_or_unset_env, name, value)
 
1803
        return value
 
1804
 
 
1805
    def recordCalls(self, obj, attr_name):
 
1806
        """Monkeypatch in a wrapper that will record calls.
 
1807
 
 
1808
        The monkeypatch is automatically removed when the test concludes.
 
1809
 
 
1810
        :param obj: The namespace holding the reference to be replaced;
 
1811
            typically a module, class, or object.
 
1812
        :param attr_name: A string for the name of the attribute to 
 
1813
            patch.
 
1814
        :returns: A list that will be extended with one item every time the
 
1815
            function is called, with a tuple of (args, kwargs).
 
1816
        """
 
1817
        calls = []
 
1818
 
 
1819
        def decorator(*args, **kwargs):
 
1820
            calls.append((args, kwargs))
 
1821
            return orig(*args, **kwargs)
 
1822
        orig = self.overrideAttr(obj, attr_name, decorator)
 
1823
        return calls
 
1824
 
1502
1825
    def _cleanEnvironment(self):
1503
 
        new_env = {
1504
 
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
1505
 
            'HOME': os.getcwd(),
1506
 
            # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
1507
 
            # tests do check our impls match APPDATA
1508
 
            'BZR_EDITOR': None, # test_msgeditor manipulates this variable
1509
 
            'VISUAL': None,
1510
 
            'EDITOR': None,
1511
 
            'BZR_EMAIL': None,
1512
 
            'BZREMAIL': None, # may still be present in the environment
1513
 
            'EMAIL': None,
1514
 
            'BZR_PROGRESS_BAR': None,
1515
 
            'BZR_LOG': None,
1516
 
            'BZR_PLUGIN_PATH': None,
1517
 
            'BZR_CONCURRENCY': None,
1518
 
            # Make sure that any text ui tests are consistent regardless of
1519
 
            # the environment the test case is run in; you may want tests that
1520
 
            # test other combinations.  'dumb' is a reasonable guess for tests
1521
 
            # going to a pipe or a StringIO.
1522
 
            'TERM': 'dumb',
1523
 
            'LINES': '25',
1524
 
            'COLUMNS': '80',
1525
 
            'BZR_COLUMNS': '80',
1526
 
            # SSH Agent
1527
 
            'SSH_AUTH_SOCK': None,
1528
 
            # Proxies
1529
 
            'http_proxy': None,
1530
 
            'HTTP_PROXY': None,
1531
 
            'https_proxy': None,
1532
 
            'HTTPS_PROXY': None,
1533
 
            'no_proxy': None,
1534
 
            'NO_PROXY': None,
1535
 
            'all_proxy': None,
1536
 
            'ALL_PROXY': None,
1537
 
            # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
1538
 
            # least. If you do (care), please update this comment
1539
 
            # -- vila 20080401
1540
 
            'ftp_proxy': None,
1541
 
            'FTP_PROXY': None,
1542
 
            'BZR_REMOTE_PATH': None,
1543
 
        }
1544
 
        self.__old_env = {}
1545
 
        self.addCleanup(self._restoreEnvironment)
1546
 
        for name, value in new_env.iteritems():
1547
 
            self._captureVar(name, value)
1548
 
 
1549
 
    def _captureVar(self, name, newvalue):
1550
 
        """Set an environment variable, and reset it when finished."""
1551
 
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
1552
 
 
1553
 
    def _restoreEnvironment(self):
1554
 
        for name, value in self.__old_env.iteritems():
1555
 
            osutils.set_or_unset_env(name, value)
 
1826
        for name, value in isolated_environ.iteritems():
 
1827
            self.overrideEnv(name, value)
1556
1828
 
1557
1829
    def _restoreHooks(self):
1558
1830
        for klass, (name, hooks) in self._preserved_hooks.items():
1559
1831
            setattr(klass, name, hooks)
 
1832
        self._preserved_hooks.clear()
 
1833
        bzrlib.hooks._lazy_hooks = self._preserved_lazy_hooks
 
1834
        self._preserved_lazy_hooks.clear()
1560
1835
 
1561
1836
    def knownFailure(self, reason):
1562
 
        """This test has failed for some known reason."""
1563
 
        raise KnownFailure(reason)
 
1837
        """Declare that this test fails for a known reason
 
1838
 
 
1839
        Tests that are known to fail should generally be using expectedFailure
 
1840
        with an appropriate reverse assertion if a change could cause the test
 
1841
        to start passing. Conversely if the test has no immediate prospect of
 
1842
        succeeding then using skip is more suitable.
 
1843
 
 
1844
        When this method is called while an exception is being handled, that
 
1845
        traceback will be used, otherwise a new exception will be thrown to
 
1846
        provide one but won't be reported.
 
1847
        """
 
1848
        self._add_reason(reason)
 
1849
        try:
 
1850
            exc_info = sys.exc_info()
 
1851
            if exc_info != (None, None, None):
 
1852
                self._report_traceback(exc_info)
 
1853
            else:
 
1854
                try:
 
1855
                    raise self.failureException(reason)
 
1856
                except self.failureException:
 
1857
                    exc_info = sys.exc_info()
 
1858
            # GZ 02-08-2011: Maybe cleanup this err.exc_info attribute too?
 
1859
            raise testtools.testcase._ExpectedFailure(exc_info)
 
1860
        finally:
 
1861
            del exc_info
 
1862
 
 
1863
    def _suppress_log(self):
 
1864
        """Remove the log info from details."""
 
1865
        self.discardDetail('log')
1564
1866
 
1565
1867
    def _do_skip(self, result, reason):
 
1868
        self._suppress_log()
1566
1869
        addSkip = getattr(result, 'addSkip', None)
1567
1870
        if not callable(addSkip):
1568
1871
            result.addSuccess(result)
1571
1874
 
1572
1875
    @staticmethod
1573
1876
    def _do_known_failure(self, result, e):
 
1877
        self._suppress_log()
1574
1878
        err = sys.exc_info()
1575
1879
        addExpectedFailure = getattr(result, 'addExpectedFailure', None)
1576
1880
        if addExpectedFailure is not None:
1584
1888
            reason = 'No reason given'
1585
1889
        else:
1586
1890
            reason = e.args[0]
 
1891
        self._suppress_log ()
1587
1892
        addNotApplicable = getattr(result, 'addNotApplicable', None)
1588
1893
        if addNotApplicable is not None:
1589
1894
            result.addNotApplicable(self, reason)
1591
1896
            self._do_skip(result, reason)
1592
1897
 
1593
1898
    @staticmethod
 
1899
    def _report_skip(self, result, err):
 
1900
        """Override the default _report_skip.
 
1901
 
 
1902
        We want to strip the 'log' detail. If we waint until _do_skip, it has
 
1903
        already been formatted into the 'reason' string, and we can't pull it
 
1904
        out again.
 
1905
        """
 
1906
        self._suppress_log()
 
1907
        super(TestCase, self)._report_skip(self, result, err)
 
1908
 
 
1909
    @staticmethod
 
1910
    def _report_expected_failure(self, result, err):
 
1911
        """Strip the log.
 
1912
 
 
1913
        See _report_skip for motivation.
 
1914
        """
 
1915
        self._suppress_log()
 
1916
        super(TestCase, self)._report_expected_failure(self, result, err)
 
1917
 
 
1918
    @staticmethod
1594
1919
    def _do_unsupported_or_skip(self, result, e):
1595
1920
        reason = e.args[0]
 
1921
        self._suppress_log()
1596
1922
        addNotSupported = getattr(result, 'addNotSupported', None)
1597
1923
        if addNotSupported is not None:
1598
1924
            result.addNotSupported(self, reason)
1624
1950
            self._benchtime += time.time() - start
1625
1951
 
1626
1952
    def log(self, *args):
1627
 
        mutter(*args)
1628
 
 
1629
 
    def _get_log(self, keep_log_file=False):
1630
 
        """Internal helper to get the log from bzrlib.trace for this test.
1631
 
 
1632
 
        Please use self.getDetails, or self.get_log to access this in test case
1633
 
        code.
1634
 
 
1635
 
        :param keep_log_file: When True, if the log is still a file on disk
1636
 
            leave it as a file on disk. When False, if the log is still a file
1637
 
            on disk, the log file is deleted and the log preserved as
1638
 
            self._log_contents.
1639
 
        :return: A string containing the log.
1640
 
        """
1641
 
        if self._log_contents is not None:
1642
 
            try:
1643
 
                self._log_contents.decode('utf8')
1644
 
            except UnicodeDecodeError:
1645
 
                unicodestr = self._log_contents.decode('utf8', 'replace')
1646
 
                self._log_contents = unicodestr.encode('utf8')
1647
 
            return self._log_contents
1648
 
        import bzrlib.trace
1649
 
        if bzrlib.trace._trace_file:
1650
 
            # flush the log file, to get all content
1651
 
            bzrlib.trace._trace_file.flush()
1652
 
        if self._log_file_name is not None:
1653
 
            logfile = open(self._log_file_name)
1654
 
            try:
1655
 
                log_contents = logfile.read()
1656
 
            finally:
1657
 
                logfile.close()
1658
 
            try:
1659
 
                log_contents.decode('utf8')
1660
 
            except UnicodeDecodeError:
1661
 
                unicodestr = log_contents.decode('utf8', 'replace')
1662
 
                log_contents = unicodestr.encode('utf8')
1663
 
            if not keep_log_file:
1664
 
                self._log_file.close()
1665
 
                self._log_file = None
1666
 
                # Permit multiple calls to get_log until we clean it up in
1667
 
                # finishLogFile
1668
 
                self._log_contents = log_contents
1669
 
                try:
1670
 
                    os.remove(self._log_file_name)
1671
 
                except OSError, e:
1672
 
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
1673
 
                        sys.stderr.write(('Unable to delete log file '
1674
 
                                             ' %r\n' % self._log_file_name))
1675
 
                    else:
1676
 
                        raise
1677
 
                self._log_file_name = None
1678
 
            return log_contents
1679
 
        else:
1680
 
            return "No log file content and no log file name."
 
1953
        trace.mutter(*args)
1681
1954
 
1682
1955
    def get_log(self):
1683
1956
        """Get a unicode string containing the log from bzrlib.trace.
1719
1992
 
1720
1993
        self.log('run bzr: %r', args)
1721
1994
        # FIXME: don't call into logging here
1722
 
        handler = logging.StreamHandler(stderr)
1723
 
        handler.setLevel(logging.INFO)
 
1995
        handler = trace.EncodedStreamHandler(stderr, errors="replace",
 
1996
            level=logging.INFO)
1724
1997
        logger = logging.getLogger('')
1725
1998
        logger.addHandler(handler)
1726
1999
        old_ui_factory = ui.ui_factory
1733
2006
 
1734
2007
        try:
1735
2008
            try:
1736
 
                result = self.apply_redirected(ui.ui_factory.stdin,
 
2009
                result = self.apply_redirected(
 
2010
                    ui.ui_factory.stdin,
1737
2011
                    stdout, stderr,
1738
 
                    bzrlib.commands.run_bzr_catch_user_errors,
 
2012
                    _mod_commands.run_bzr_catch_user_errors,
1739
2013
                    args)
1740
2014
            except KeyboardInterrupt:
1741
2015
                # Reraise KeyboardInterrupt with contents of redirected stdout
1883
2157
    def start_bzr_subprocess(self, process_args, env_changes=None,
1884
2158
                             skip_if_plan_to_signal=False,
1885
2159
                             working_dir=None,
1886
 
                             allow_plugins=False):
 
2160
                             allow_plugins=False, stderr=subprocess.PIPE):
1887
2161
        """Start bzr in a subprocess for testing.
1888
2162
 
1889
2163
        This starts a new Python interpreter and runs bzr in there.
1898
2172
            variables. A value of None will unset the env variable.
1899
2173
            The values must be strings. The change will only occur in the
1900
2174
            child, so you don't need to fix the environment after running.
1901
 
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
1902
 
            is not available.
 
2175
        :param skip_if_plan_to_signal: raise TestSkipped when true and system
 
2176
            doesn't support signalling subprocesses.
1903
2177
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
2178
        :param stderr: file to use for the subprocess's stderr.  Valid values
 
2179
            are those valid for the stderr argument of `subprocess.Popen`.
 
2180
            Default value is ``subprocess.PIPE``.
1904
2181
 
1905
2182
        :returns: Popen object for the started process.
1906
2183
        """
1907
2184
        if skip_if_plan_to_signal:
1908
 
            if not getattr(os, 'kill', None):
1909
 
                raise TestSkipped("os.kill not available.")
 
2185
            if os.name != "posix":
 
2186
                raise TestSkipped("Sending signals not supported")
1910
2187
 
1911
2188
        if env_changes is None:
1912
2189
            env_changes = {}
 
2190
        # Because $HOME is set to a tempdir for the context of a test, modules
 
2191
        # installed in the user dir will not be found unless $PYTHONUSERBASE
 
2192
        # gets set to the computed directory of this parent process.
 
2193
        if site.USER_BASE is not None:
 
2194
            env_changes["PYTHONUSERBASE"] = site.USER_BASE
1913
2195
        old_env = {}
1914
2196
 
1915
2197
        def cleanup_environment():
1932
2214
            # so we will avoid using it on all platforms, just to
1933
2215
            # make sure the code path is used, and we don't break on win32
1934
2216
            cleanup_environment()
 
2217
            # Include the subprocess's log file in the test details, in case
 
2218
            # the test fails due to an error in the subprocess.
 
2219
            self._add_subprocess_log(trace._get_bzr_log_filename())
1935
2220
            command = [sys.executable]
1936
2221
            # frozen executables don't need the path to bzr
1937
2222
            if getattr(sys, "frozen", None) is None:
1939
2224
            if not allow_plugins:
1940
2225
                command.append('--no-plugins')
1941
2226
            command.extend(process_args)
1942
 
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
2227
            process = self._popen(command, stdin=subprocess.PIPE,
 
2228
                                  stdout=subprocess.PIPE,
 
2229
                                  stderr=stderr)
1943
2230
        finally:
1944
2231
            restore_environment()
1945
2232
            if cwd is not None:
1947
2234
 
1948
2235
        return process
1949
2236
 
 
2237
    def _add_subprocess_log(self, log_file_path):
 
2238
        if len(self._log_files) == 0:
 
2239
            # Register an addCleanup func.  We do this on the first call to
 
2240
            # _add_subprocess_log rather than in TestCase.setUp so that this
 
2241
            # addCleanup is registered after any cleanups for tempdirs that
 
2242
            # subclasses might create, which will probably remove the log file
 
2243
            # we want to read.
 
2244
            self.addCleanup(self._subprocess_log_cleanup)
 
2245
        # self._log_files is a set, so if a log file is reused we won't grab it
 
2246
        # twice.
 
2247
        self._log_files.add(log_file_path)
 
2248
 
 
2249
    def _subprocess_log_cleanup(self):
 
2250
        for count, log_file_path in enumerate(self._log_files):
 
2251
            # We use buffer_now=True to avoid holding the file open beyond
 
2252
            # the life of this function, which might interfere with e.g.
 
2253
            # cleaning tempdirs on Windows.
 
2254
            # XXX: Testtools 0.9.5 doesn't have the content_from_file helper
 
2255
            #detail_content = content.content_from_file(
 
2256
            #    log_file_path, buffer_now=True)
 
2257
            with open(log_file_path, 'rb') as log_file:
 
2258
                log_file_bytes = log_file.read()
 
2259
            detail_content = content.Content(content.ContentType("text",
 
2260
                "plain", {"charset": "utf8"}), lambda: [log_file_bytes])
 
2261
            self.addDetail("start_bzr_subprocess-log-%d" % (count,),
 
2262
                detail_content)
 
2263
 
1950
2264
    def _popen(self, *args, **kwargs):
1951
2265
        """Place a call to Popen.
1952
2266
 
1953
2267
        Allows tests to override this method to intercept the calls made to
1954
2268
        Popen for introspection.
1955
2269
        """
1956
 
        return Popen(*args, **kwargs)
 
2270
        return subprocess.Popen(*args, **kwargs)
1957
2271
 
1958
2272
    def get_source_path(self):
1959
2273
        """Return the path of the directory containing bzrlib."""
1961
2275
 
1962
2276
    def get_bzr_path(self):
1963
2277
        """Return the path of the 'bzr' executable for this test suite."""
1964
 
        bzr_path = self.get_source_path()+'/bzr'
 
2278
        bzr_path = os.path.join(self.get_source_path(), "bzr")
1965
2279
        if not os.path.isfile(bzr_path):
1966
2280
            # We are probably installed. Assume sys.argv is the right file
1967
2281
            bzr_path = sys.argv[0]
1989
2303
        if retcode is not None and retcode != process.returncode:
1990
2304
            if process_args is None:
1991
2305
                process_args = "(unknown args)"
1992
 
            mutter('Output of bzr %s:\n%s', process_args, out)
1993
 
            mutter('Error for bzr %s:\n%s', process_args, err)
 
2306
            trace.mutter('Output of bzr %s:\n%s', process_args, out)
 
2307
            trace.mutter('Error for bzr %s:\n%s', process_args, err)
1994
2308
            self.fail('Command bzr %s failed with retcode %s != %s'
1995
2309
                      % (process_args, retcode, process.returncode))
1996
2310
        return [out, err]
1997
2311
 
1998
 
    def check_inventory_shape(self, inv, shape):
1999
 
        """Compare an inventory to a list of expected names.
 
2312
    def check_tree_shape(self, tree, shape):
 
2313
        """Compare a tree to a list of expected names.
2000
2314
 
2001
2315
        Fail if they are not precisely equal.
2002
2316
        """
2003
2317
        extras = []
2004
2318
        shape = list(shape)             # copy
2005
 
        for path, ie in inv.entries():
 
2319
        for path, ie in tree.iter_entries_by_dir():
2006
2320
            name = path.replace('\\', '/')
2007
2321
            if ie.kind == 'directory':
2008
2322
                name = name + '/'
2009
 
            if name in shape:
 
2323
            if name == "/":
 
2324
                pass # ignore root entry
 
2325
            elif name in shape:
2010
2326
                shape.remove(name)
2011
2327
            else:
2012
2328
                extras.append(name)
2053
2369
 
2054
2370
        Tests that expect to provoke LockContention errors should call this.
2055
2371
        """
2056
 
        self.overrideAttr(bzrlib.lockdir, '_DEFAULT_TIMEOUT_SECONDS', 0)
 
2372
        self.overrideAttr(lockdir, '_DEFAULT_TIMEOUT_SECONDS', 0)
2057
2373
 
2058
2374
    def make_utf8_encoded_stringio(self, encoding_type=None):
2059
2375
        """Return a StringIOWrapper instance, that will encode Unicode
2072
2388
        from bzrlib.smart import request
2073
2389
        request_handlers = request.request_handlers
2074
2390
        orig_method = request_handlers.get(verb)
 
2391
        orig_info = request_handlers.get_info(verb)
2075
2392
        request_handlers.remove(verb)
2076
 
        self.addCleanup(request_handlers.register, verb, orig_method)
 
2393
        self.addCleanup(request_handlers.register, verb, orig_method,
 
2394
            info=orig_info)
2077
2395
 
2078
2396
 
2079
2397
class CapturedCall(object):
2102
2420
class TestCaseWithMemoryTransport(TestCase):
2103
2421
    """Common test class for tests that do not need disk resources.
2104
2422
 
2105
 
    Tests that need disk resources should derive from TestCaseWithTransport.
 
2423
    Tests that need disk resources should derive from TestCaseInTempDir
 
2424
    orTestCaseWithTransport.
2106
2425
 
2107
2426
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
2108
2427
 
2109
 
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
2428
    For TestCaseWithMemoryTransport the ``test_home_dir`` is set to the name of
2110
2429
    a directory which does not exist. This serves to help ensure test isolation
2111
 
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
2112
 
    must exist. However, TestCaseWithMemoryTransport does not offer local
2113
 
    file defaults for the transport in tests, nor does it obey the command line
 
2430
    is preserved. ``test_dir`` is set to the TEST_ROOT, as is cwd, because they
 
2431
    must exist. However, TestCaseWithMemoryTransport does not offer local file
 
2432
    defaults for the transport in tests, nor does it obey the command line
2114
2433
    override, so tests that accidentally write to the common directory should
2115
2434
    be rare.
2116
2435
 
2117
 
    :cvar TEST_ROOT: Directory containing all temporary directories, plus
2118
 
    a .bzr directory that stops us ascending higher into the filesystem.
 
2436
    :cvar TEST_ROOT: Directory containing all temporary directories, plus a
 
2437
        ``.bzr`` directory that stops us ascending higher into the filesystem.
2119
2438
    """
2120
2439
 
2121
2440
    TEST_ROOT = None
2139
2458
 
2140
2459
        :param relpath: a path relative to the base url.
2141
2460
        """
2142
 
        t = get_transport(self.get_url(relpath))
 
2461
        t = _mod_transport.get_transport_from_url(self.get_url(relpath))
2143
2462
        self.assertFalse(t.is_readonly())
2144
2463
        return t
2145
2464
 
2151
2470
 
2152
2471
        :param relpath: a path relative to the base url.
2153
2472
        """
2154
 
        t = get_transport(self.get_readonly_url(relpath))
 
2473
        t = _mod_transport.get_transport_from_url(
 
2474
            self.get_readonly_url(relpath))
2155
2475
        self.assertTrue(t.is_readonly())
2156
2476
        return t
2157
2477
 
2170
2490
        if self.__readonly_server is None:
2171
2491
            if self.transport_readonly_server is None:
2172
2492
                # readonly decorator requested
2173
 
                self.__readonly_server = ReadonlyServer()
 
2493
                self.__readonly_server = test_server.ReadonlyServer()
2174
2494
            else:
2175
2495
                # explicit readonly transport.
2176
2496
                self.__readonly_server = self.create_transport_readonly_server()
2199
2519
        is no means to override it.
2200
2520
        """
2201
2521
        if self.__vfs_server is None:
2202
 
            self.__vfs_server = MemoryServer()
 
2522
            self.__vfs_server = memory.MemoryServer()
2203
2523
            self.start_server(self.__vfs_server)
2204
2524
        return self.__vfs_server
2205
2525
 
2278
2598
        real branch.
2279
2599
        """
2280
2600
        root = TestCaseWithMemoryTransport.TEST_ROOT
2281
 
        bzrdir.BzrDir.create_standalone_workingtree(root)
 
2601
        # Make sure we get a readable and accessible home for .bzr.log
 
2602
        # and/or config files, and not fallback to weird defaults (see
 
2603
        # http://pad.lv/825027).
 
2604
        self.assertIs(None, os.environ.get('BZR_HOME', None))
 
2605
        os.environ['BZR_HOME'] = root
 
2606
        wt = bzrdir.BzrDir.create_standalone_workingtree(root)
 
2607
        del os.environ['BZR_HOME']
 
2608
        # Hack for speed: remember the raw bytes of the dirstate file so that
 
2609
        # we don't need to re-open the wt to check it hasn't changed.
 
2610
        TestCaseWithMemoryTransport._SAFETY_NET_PRISTINE_DIRSTATE = (
 
2611
            wt.control_transport.get_bytes('dirstate'))
2282
2612
 
2283
2613
    def _check_safety_net(self):
2284
2614
        """Check that the safety .bzr directory have not been touched.
2287
2617
        propagating. This method ensures than a test did not leaked.
2288
2618
        """
2289
2619
        root = TestCaseWithMemoryTransport.TEST_ROOT
2290
 
        self.permit_url(get_transport(root).base)
2291
 
        wt = workingtree.WorkingTree.open(root)
2292
 
        last_rev = wt.last_revision()
2293
 
        if last_rev != 'null:':
 
2620
        t = _mod_transport.get_transport_from_path(root)
 
2621
        self.permit_url(t.base)
 
2622
        if (t.get_bytes('.bzr/checkout/dirstate') != 
 
2623
                TestCaseWithMemoryTransport._SAFETY_NET_PRISTINE_DIRSTATE):
2294
2624
            # The current test have modified the /bzr directory, we need to
2295
2625
            # recreate a new one or all the followng tests will fail.
2296
2626
            # If you need to inspect its content uncomment the following line
2331
2661
    def make_branch(self, relpath, format=None):
2332
2662
        """Create a branch on the transport at relpath."""
2333
2663
        repo = self.make_repository(relpath, format=format)
2334
 
        return repo.bzrdir.create_branch()
 
2664
        return repo.bzrdir.create_branch(append_revisions_only=False)
 
2665
 
 
2666
    def get_default_format(self):
 
2667
        return 'default'
 
2668
 
 
2669
    def resolve_format(self, format):
 
2670
        """Resolve an object to a ControlDir format object.
 
2671
 
 
2672
        The initial format object can either already be
 
2673
        a ControlDirFormat, None (for the default format),
 
2674
        or a string with the name of the control dir format.
 
2675
 
 
2676
        :param format: Object to resolve
 
2677
        :return A ControlDirFormat instance
 
2678
        """
 
2679
        if format is None:
 
2680
            format = self.get_default_format()
 
2681
        if isinstance(format, basestring):
 
2682
            format = bzrdir.format_registry.make_bzrdir(format)
 
2683
        return format
2335
2684
 
2336
2685
    def make_bzrdir(self, relpath, format=None):
2337
2686
        try:
2338
2687
            # might be a relative or absolute path
2339
2688
            maybe_a_url = self.get_url(relpath)
2340
2689
            segments = maybe_a_url.rsplit('/', 1)
2341
 
            t = get_transport(maybe_a_url)
 
2690
            t = _mod_transport.get_transport(maybe_a_url)
2342
2691
            if len(segments) > 1 and segments[-1] not in ('', '.'):
2343
2692
                t.ensure_base()
2344
 
            if format is None:
2345
 
                format = 'default'
2346
 
            if isinstance(format, basestring):
2347
 
                format = bzrdir.format_registry.make_bzrdir(format)
 
2693
            format = self.resolve_format(format)
2348
2694
            return format.initialize_on_transport(t)
2349
2695
        except errors.UninitializableFormat:
2350
2696
            raise TestSkipped("Format %s is not initializable." % format)
2351
2697
 
2352
 
    def make_repository(self, relpath, shared=False, format=None):
 
2698
    def make_repository(self, relpath, shared=None, format=None):
2353
2699
        """Create a repository on our default transport at relpath.
2354
2700
 
2355
2701
        Note that relpath must be a relative path, not a full url.
2361
2707
        made_control = self.make_bzrdir(relpath, format=format)
2362
2708
        return made_control.create_repository(shared=shared)
2363
2709
 
2364
 
    def make_smart_server(self, path):
2365
 
        smart_server = server.SmartTCPServer_for_testing()
2366
 
        self.start_server(smart_server, self.get_server())
2367
 
        remote_transport = get_transport(smart_server.get_url()).clone(path)
 
2710
    def make_smart_server(self, path, backing_server=None):
 
2711
        if backing_server is None:
 
2712
            backing_server = self.get_server()
 
2713
        smart_server = test_server.SmartTCPServer_for_testing()
 
2714
        self.start_server(smart_server, backing_server)
 
2715
        remote_transport = _mod_transport.get_transport_from_url(smart_server.get_url()
 
2716
                                                   ).clone(path)
2368
2717
        return remote_transport
2369
2718
 
2370
2719
    def make_branch_and_memory_tree(self, relpath, format=None):
2380
2729
        test_home_dir = self.test_home_dir
2381
2730
        if isinstance(test_home_dir, unicode):
2382
2731
            test_home_dir = test_home_dir.encode(sys.getfilesystemencoding())
2383
 
        os.environ['HOME'] = test_home_dir
2384
 
        os.environ['BZR_HOME'] = test_home_dir
 
2732
        self.overrideEnv('HOME', test_home_dir)
 
2733
        self.overrideEnv('BZR_HOME', test_home_dir)
2385
2734
 
2386
2735
    def setUp(self):
2387
2736
        super(TestCaseWithMemoryTransport, self).setUp()
 
2737
 
 
2738
        def _add_disconnect_cleanup(transport):
 
2739
            """Schedule disconnection of given transport at test cleanup
 
2740
 
 
2741
            This needs to happen for all connected transports or leaks occur.
 
2742
 
 
2743
            Note reconnections may mean we call disconnect multiple times per
 
2744
            transport which is suboptimal but seems harmless.
 
2745
            """
 
2746
            self.addCleanup(transport.disconnect)
 
2747
 
 
2748
        _mod_transport.Transport.hooks.install_named_hook('post_connect',
 
2749
            _add_disconnect_cleanup, None)
 
2750
 
2388
2751
        self._make_test_root()
2389
2752
        self.addCleanup(os.chdir, os.getcwdu())
2390
2753
        self.makeAndChdirToTestDir()
2395
2758
 
2396
2759
    def setup_smart_server_with_call_log(self):
2397
2760
        """Sets up a smart server as the transport server with a call log."""
2398
 
        self.transport_server = server.SmartTCPServer_for_testing
 
2761
        self.transport_server = test_server.SmartTCPServer_for_testing
 
2762
        self.hpss_connections = []
2399
2763
        self.hpss_calls = []
2400
2764
        import traceback
2401
2765
        # Skip the current stack down to the caller of
2404
2768
        def capture_hpss_call(params):
2405
2769
            self.hpss_calls.append(
2406
2770
                CapturedCall(params, prefix_length))
 
2771
        def capture_connect(transport):
 
2772
            self.hpss_connections.append(transport)
2407
2773
        client._SmartClient.hooks.install_named_hook(
2408
2774
            'call', capture_hpss_call, None)
 
2775
        _mod_transport.Transport.hooks.install_named_hook(
 
2776
            'post_connect', capture_connect, None)
2409
2777
 
2410
2778
    def reset_smart_call_log(self):
2411
2779
        self.hpss_calls = []
 
2780
        self.hpss_connections = []
2412
2781
 
2413
2782
 
2414
2783
class TestCaseInTempDir(TestCaseWithMemoryTransport):
2433
2802
 
2434
2803
    OVERRIDE_PYTHON = 'python'
2435
2804
 
 
2805
    def setUp(self):
 
2806
        super(TestCaseInTempDir, self).setUp()
 
2807
        # Remove the protection set in isolated_environ, we have a proper
 
2808
        # access to disk resources now.
 
2809
        self.overrideEnv('BZR_LOG', None)
 
2810
 
2436
2811
    def check_file_contents(self, filename, expect):
2437
2812
        self.log("check contents of file %s" % filename)
2438
 
        contents = file(filename, 'r').read()
 
2813
        f = file(filename)
 
2814
        try:
 
2815
            contents = f.read()
 
2816
        finally:
 
2817
            f.close()
2439
2818
        if contents != expect:
2440
2819
            self.log("expected: %r" % expect)
2441
2820
            self.log("actually: %r" % contents)
2515
2894
                "a list or a tuple. Got %r instead" % (shape,))
2516
2895
        # It's OK to just create them using forward slashes on windows.
2517
2896
        if transport is None or transport.is_readonly():
2518
 
            transport = get_transport(".")
 
2897
            transport = _mod_transport.get_transport_from_path(".")
2519
2898
        for name in shape:
2520
2899
            self.assertIsInstance(name, basestring)
2521
2900
            if name[-1] == '/':
2531
2910
                content = "contents of %s%s" % (name.encode('utf-8'), end)
2532
2911
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
2533
2912
 
2534
 
    def build_tree_contents(self, shape):
2535
 
        build_tree_contents(shape)
 
2913
    build_tree_contents = staticmethod(treeshape.build_tree_contents)
2536
2914
 
2537
2915
    def assertInWorkingTree(self, path, root_path='.', tree=None):
2538
2916
        """Assert whether path or paths are in the WorkingTree"""
2607
2985
        # this obviously requires a format that supports branch references
2608
2986
        # so check for that by checking bzrdir.BzrDirFormat.get_default_format()
2609
2987
        # RBC 20060208
 
2988
        format = self.resolve_format(format=format)
 
2989
        if not format.supports_workingtrees:
 
2990
            b = self.make_branch(relpath+'.branch', format=format)
 
2991
            return b.create_checkout(relpath, lightweight=True)
2610
2992
        b = self.make_branch(relpath, format=format)
2611
2993
        try:
2612
2994
            return b.bzrdir.create_workingtree()
2614
2996
            # We can only make working trees locally at the moment.  If the
2615
2997
            # transport can't support them, then we keep the non-disk-backed
2616
2998
            # branch and create a local checkout.
2617
 
            if self.vfs_transport_factory is LocalURLServer:
 
2999
            if self.vfs_transport_factory is test_server.LocalURLServer:
2618
3000
                # the branch is colocated on disk, we cannot create a checkout.
2619
3001
                # hopefully callers will expect this.
2620
3002
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
2679
3061
    """
2680
3062
 
2681
3063
    def setUp(self):
 
3064
        from bzrlib.tests import http_server
2682
3065
        super(ChrootedTestCase, self).setUp()
2683
 
        if not self.vfs_transport_factory == MemoryServer:
2684
 
            self.transport_readonly_server = HttpServer
 
3066
        if not self.vfs_transport_factory == memory.MemoryServer:
 
3067
            self.transport_readonly_server = http_server.HttpServer
2685
3068
 
2686
3069
 
2687
3070
def condition_id_re(pattern):
2690
3073
    :param pattern: A regular expression string.
2691
3074
    :return: A callable that returns True if the re matches.
2692
3075
    """
2693
 
    filter_re = osutils.re_compile_checked(pattern, 0,
2694
 
        'test filter')
 
3076
    filter_re = re.compile(pattern, 0)
2695
3077
    def condition(test):
2696
3078
        test_id = test.id()
2697
3079
        return filter_re.search(test_id)
2911
3293
                            result_decorators=result_decorators,
2912
3294
                            )
2913
3295
    runner.stop_on_failure=stop_on_failure
 
3296
    if isinstance(suite, unittest.TestSuite):
 
3297
        # Empty out _tests list of passed suite and populate new TestSuite
 
3298
        suite._tests[:], suite = [], TestSuite(suite)
2914
3299
    # built in decorator factories:
2915
3300
    decorators = [
2916
3301
        random_order(random_seed, runner),
2949
3334
 
2950
3335
 
2951
3336
def fork_decorator(suite):
 
3337
    if getattr(os, "fork", None) is None:
 
3338
        raise errors.BzrCommandError("platform does not support fork,"
 
3339
            " try --parallel=subprocess instead.")
2952
3340
    concurrency = osutils.local_concurrency()
2953
3341
    if concurrency == 1:
2954
3342
        return suite
3009
3397
    return suite
3010
3398
 
3011
3399
 
3012
 
class TestDecorator(TestSuite):
 
3400
class TestDecorator(TestUtil.TestSuite):
3013
3401
    """A decorator for TestCase/TestSuite objects.
3014
 
    
3015
 
    Usually, subclasses should override __iter__(used when flattening test
3016
 
    suites), which we do to filter, reorder, parallelise and so on, run() and
3017
 
    debug().
 
3402
 
 
3403
    Contains rather than flattening suite passed on construction
3018
3404
    """
3019
3405
 
3020
 
    def __init__(self, suite):
3021
 
        TestSuite.__init__(self)
3022
 
        self.addTest(suite)
3023
 
 
3024
 
    def countTestCases(self):
3025
 
        cases = 0
3026
 
        for test in self:
3027
 
            cases += test.countTestCases()
3028
 
        return cases
3029
 
 
3030
 
    def debug(self):
3031
 
        for test in self:
3032
 
            test.debug()
3033
 
 
3034
 
    def run(self, result):
3035
 
        # Use iteration on self, not self._tests, to allow subclasses to hook
3036
 
        # into __iter__.
3037
 
        for test in self:
3038
 
            if result.shouldStop:
3039
 
                break
3040
 
            test.run(result)
3041
 
        return result
 
3406
    def __init__(self, suite=None):
 
3407
        super(TestDecorator, self).__init__()
 
3408
        if suite is not None:
 
3409
            self.addTest(suite)
 
3410
 
 
3411
    # Don't need subclass run method with suite emptying
 
3412
    run = unittest.TestSuite.run
3042
3413
 
3043
3414
 
3044
3415
class CountingDecorator(TestDecorator):
3055
3426
    """A decorator which excludes test matching an exclude pattern."""
3056
3427
 
3057
3428
    def __init__(self, suite, exclude_pattern):
3058
 
        TestDecorator.__init__(self, suite)
3059
 
        self.exclude_pattern = exclude_pattern
3060
 
        self.excluded = False
3061
 
 
3062
 
    def __iter__(self):
3063
 
        if self.excluded:
3064
 
            return iter(self._tests)
3065
 
        self.excluded = True
3066
 
        suite = exclude_tests_by_re(self, self.exclude_pattern)
3067
 
        del self._tests[:]
3068
 
        self.addTests(suite)
3069
 
        return iter(self._tests)
 
3429
        super(ExcludeDecorator, self).__init__(
 
3430
            exclude_tests_by_re(suite, exclude_pattern))
3070
3431
 
3071
3432
 
3072
3433
class FilterTestsDecorator(TestDecorator):
3073
3434
    """A decorator which filters tests to those matching a pattern."""
3074
3435
 
3075
3436
    def __init__(self, suite, pattern):
3076
 
        TestDecorator.__init__(self, suite)
3077
 
        self.pattern = pattern
3078
 
        self.filtered = False
3079
 
 
3080
 
    def __iter__(self):
3081
 
        if self.filtered:
3082
 
            return iter(self._tests)
3083
 
        self.filtered = True
3084
 
        suite = filter_suite_by_re(self, self.pattern)
3085
 
        del self._tests[:]
3086
 
        self.addTests(suite)
3087
 
        return iter(self._tests)
 
3437
        super(FilterTestsDecorator, self).__init__(
 
3438
            filter_suite_by_re(suite, pattern))
3088
3439
 
3089
3440
 
3090
3441
class RandomDecorator(TestDecorator):
3091
3442
    """A decorator which randomises the order of its tests."""
3092
3443
 
3093
3444
    def __init__(self, suite, random_seed, stream):
3094
 
        TestDecorator.__init__(self, suite)
3095
 
        self.random_seed = random_seed
3096
 
        self.randomised = False
3097
 
        self.stream = stream
3098
 
 
3099
 
    def __iter__(self):
3100
 
        if self.randomised:
3101
 
            return iter(self._tests)
3102
 
        self.randomised = True
3103
 
        self.stream.write("Randomizing test order using seed %s\n\n" %
3104
 
            (self.actual_seed()))
 
3445
        random_seed = self.actual_seed(random_seed)
 
3446
        stream.write("Randomizing test order using seed %s\n\n" %
 
3447
            (random_seed,))
3105
3448
        # Initialise the random number generator.
3106
 
        random.seed(self.actual_seed())
3107
 
        suite = randomize_suite(self)
3108
 
        del self._tests[:]
3109
 
        self.addTests(suite)
3110
 
        return iter(self._tests)
 
3449
        random.seed(random_seed)
 
3450
        super(RandomDecorator, self).__init__(randomize_suite(suite))
3111
3451
 
3112
 
    def actual_seed(self):
3113
 
        if self.random_seed == "now":
 
3452
    @staticmethod
 
3453
    def actual_seed(seed):
 
3454
        if seed == "now":
3114
3455
            # We convert the seed to a long to make it reuseable across
3115
3456
            # invocations (because the user can reenter it).
3116
 
            self.random_seed = long(time.time())
 
3457
            return long(time.time())
3117
3458
        else:
3118
3459
            # Convert the seed to a long if we can
3119
3460
            try:
3120
 
                self.random_seed = long(self.random_seed)
3121
 
            except:
 
3461
                return long(seed)
 
3462
            except (TypeError, ValueError):
3122
3463
                pass
3123
 
        return self.random_seed
 
3464
        return seed
3124
3465
 
3125
3466
 
3126
3467
class TestFirstDecorator(TestDecorator):
3127
3468
    """A decorator which moves named tests to the front."""
3128
3469
 
3129
3470
    def __init__(self, suite, pattern):
3130
 
        TestDecorator.__init__(self, suite)
3131
 
        self.pattern = pattern
3132
 
        self.filtered = False
3133
 
 
3134
 
    def __iter__(self):
3135
 
        if self.filtered:
3136
 
            return iter(self._tests)
3137
 
        self.filtered = True
3138
 
        suites = split_suite_by_re(self, self.pattern)
3139
 
        del self._tests[:]
3140
 
        self.addTests(suites)
3141
 
        return iter(self._tests)
 
3471
        super(TestFirstDecorator, self).__init__()
 
3472
        self.addTests(split_suite_by_re(suite, pattern))
3142
3473
 
3143
3474
 
3144
3475
def partition_tests(suite, count):
3145
3476
    """Partition suite into count lists of tests."""
3146
 
    result = []
3147
 
    tests = list(iter_suite_tests(suite))
3148
 
    tests_per_process = int(math.ceil(float(len(tests)) / count))
3149
 
    for block in range(count):
3150
 
        low_test = block * tests_per_process
3151
 
        high_test = low_test + tests_per_process
3152
 
        process_tests = tests[low_test:high_test]
3153
 
        result.append(process_tests)
3154
 
    return result
 
3477
    # This just assigns tests in a round-robin fashion.  On one hand this
 
3478
    # splits up blocks of related tests that might run faster if they shared
 
3479
    # resources, but on the other it avoids assigning blocks of slow tests to
 
3480
    # just one partition.  So the slowest partition shouldn't be much slower
 
3481
    # than the fastest.
 
3482
    partitions = [list() for i in range(count)]
 
3483
    tests = iter_suite_tests(suite)
 
3484
    for partition, test in itertools.izip(itertools.cycle(partitions), tests):
 
3485
        partition.append(test)
 
3486
    return partitions
 
3487
 
 
3488
 
 
3489
def workaround_zealous_crypto_random():
 
3490
    """Crypto.Random want to help us being secure, but we don't care here.
 
3491
 
 
3492
    This workaround some test failure related to the sftp server. Once paramiko
 
3493
    stop using the controversial API in Crypto.Random, we may get rid of it.
 
3494
    """
 
3495
    try:
 
3496
        from Crypto.Random import atfork
 
3497
        atfork()
 
3498
    except ImportError:
 
3499
        pass
3155
3500
 
3156
3501
 
3157
3502
def fork_for_tests(suite):
3162
3507
    """
3163
3508
    concurrency = osutils.local_concurrency()
3164
3509
    result = []
3165
 
    from subunit import TestProtocolClient, ProtocolTestCase
 
3510
    from subunit import ProtocolTestCase
3166
3511
    from subunit.test_results import AutoTimingTestResultDecorator
3167
3512
    class TestInOtherProcess(ProtocolTestCase):
3168
3513
        # Should be in subunit, I think. RBC.
3174
3519
            try:
3175
3520
                ProtocolTestCase.run(self, result)
3176
3521
            finally:
3177
 
                os.waitpid(self.pid, os.WNOHANG)
 
3522
                pid, status = os.waitpid(self.pid, 0)
 
3523
            # GZ 2011-10-18: If status is nonzero, should report to the result
 
3524
            #                that something went wrong.
3178
3525
 
3179
3526
    test_blocks = partition_tests(suite, concurrency)
 
3527
    # Clear the tests from the original suite so it doesn't keep them alive
 
3528
    suite._tests[:] = []
3180
3529
    for process_tests in test_blocks:
3181
 
        process_suite = TestSuite()
3182
 
        process_suite.addTests(process_tests)
 
3530
        process_suite = TestUtil.TestSuite(process_tests)
 
3531
        # Also clear each split list so new suite has only reference
 
3532
        process_tests[:] = []
3183
3533
        c2pread, c2pwrite = os.pipe()
3184
3534
        pid = os.fork()
3185
3535
        if pid == 0:
3186
3536
            try:
 
3537
                stream = os.fdopen(c2pwrite, 'wb', 1)
 
3538
                workaround_zealous_crypto_random()
3187
3539
                os.close(c2pread)
3188
3540
                # Leave stderr and stdout open so we can see test noise
3189
3541
                # Close stdin so that the child goes away if it decides to
3190
3542
                # read from stdin (otherwise its a roulette to see what
3191
3543
                # child actually gets keystrokes for pdb etc).
3192
3544
                sys.stdin.close()
3193
 
                sys.stdin = None
3194
 
                stream = os.fdopen(c2pwrite, 'wb', 1)
3195
3545
                subunit_result = AutoTimingTestResultDecorator(
3196
 
                    TestProtocolClient(stream))
 
3546
                    SubUnitBzrProtocolClient(stream))
3197
3547
                process_suite.run(subunit_result)
3198
 
            finally:
3199
 
                os._exit(0)
 
3548
            except:
 
3549
                # Try and report traceback on stream, but exit with error even
 
3550
                # if stream couldn't be created or something else goes wrong.
 
3551
                # The traceback is formatted to a string and written in one go
 
3552
                # to avoid interleaving lines from multiple failing children.
 
3553
                try:
 
3554
                    stream.write(traceback.format_exc())
 
3555
                finally:
 
3556
                    os._exit(1)
 
3557
            os._exit(0)
3200
3558
        else:
3201
3559
            os.close(c2pwrite)
3202
3560
            stream = os.fdopen(c2pread, 'rb', 1)
3249
3607
                '--subunit']
3250
3608
            if '--no-plugins' in sys.argv:
3251
3609
                argv.append('--no-plugins')
3252
 
            # stderr=STDOUT would be ideal, but until we prevent noise on
3253
 
            # stderr it can interrupt the subunit protocol.
3254
 
            process = Popen(argv, stdin=PIPE, stdout=PIPE, stderr=PIPE,
3255
 
                bufsize=1)
 
3610
            # stderr=subprocess.STDOUT would be ideal, but until we prevent
 
3611
            # noise on stderr it can interrupt the subunit protocol.
 
3612
            process = subprocess.Popen(argv, stdin=subprocess.PIPE,
 
3613
                                      stdout=subprocess.PIPE,
 
3614
                                      stderr=subprocess.PIPE,
 
3615
                                      bufsize=1)
3256
3616
            test = TestInSubprocess(process, test_list_file_name)
3257
3617
            result.append(test)
3258
3618
        except:
3261
3621
    return result
3262
3622
 
3263
3623
 
3264
 
class ForwardingResult(unittest.TestResult):
3265
 
 
3266
 
    def __init__(self, target):
3267
 
        unittest.TestResult.__init__(self)
3268
 
        self.result = target
3269
 
 
3270
 
    def startTest(self, test):
3271
 
        self.result.startTest(test)
3272
 
 
3273
 
    def stopTest(self, test):
3274
 
        self.result.stopTest(test)
3275
 
 
3276
 
    def startTestRun(self):
3277
 
        self.result.startTestRun()
3278
 
 
3279
 
    def stopTestRun(self):
3280
 
        self.result.stopTestRun()
3281
 
 
3282
 
    def addSkip(self, test, reason):
3283
 
        self.result.addSkip(test, reason)
3284
 
 
3285
 
    def addSuccess(self, test):
3286
 
        self.result.addSuccess(test)
3287
 
 
3288
 
    def addError(self, test, err):
3289
 
        self.result.addError(test, err)
3290
 
 
3291
 
    def addFailure(self, test, err):
3292
 
        self.result.addFailure(test, err)
3293
 
ForwardingResult = testtools.ExtendedToOriginalDecorator
3294
 
 
3295
 
 
3296
 
class ProfileResult(ForwardingResult):
 
3624
class ProfileResult(testtools.ExtendedToOriginalDecorator):
3297
3625
    """Generate profiling data for all activity between start and success.
3298
3626
    
3299
3627
    The profile data is appended to the test's _benchcalls attribute and can
3307
3635
 
3308
3636
    def startTest(self, test):
3309
3637
        self.profiler = bzrlib.lsprof.BzrProfiler()
 
3638
        # Prevent deadlocks in tests that use lsprof: those tests will
 
3639
        # unavoidably fail.
 
3640
        bzrlib.lsprof.BzrProfiler.profiler_block = 0
3310
3641
        self.profiler.start()
3311
 
        ForwardingResult.startTest(self, test)
 
3642
        testtools.ExtendedToOriginalDecorator.startTest(self, test)
3312
3643
 
3313
3644
    def addSuccess(self, test):
3314
3645
        stats = self.profiler.stop()
3318
3649
            test._benchcalls = []
3319
3650
            calls = test._benchcalls
3320
3651
        calls.append(((test.id(), "", ""), stats))
3321
 
        ForwardingResult.addSuccess(self, test)
 
3652
        testtools.ExtendedToOriginalDecorator.addSuccess(self, test)
3322
3653
 
3323
3654
    def stopTest(self, test):
3324
 
        ForwardingResult.stopTest(self, test)
 
3655
        testtools.ExtendedToOriginalDecorator.stopTest(self, test)
3325
3656
        self.profiler = None
3326
3657
 
3327
3658
 
3333
3664
#                           rather than failing tests. And no longer raise
3334
3665
#                           LockContention when fctnl locks are not being used
3335
3666
#                           with proper exclusion rules.
 
3667
#   -Ethreads               Will display thread ident at creation/join time to
 
3668
#                           help track thread leaks
 
3669
#   -Euncollected_cases     Display the identity of any test cases that weren't
 
3670
#                           deallocated after being completed.
 
3671
#   -Econfig_stats          Will collect statistics using addDetail
3336
3672
selftest_debug_flags = set()
3337
3673
 
3338
3674
 
3532
3868
                key, obj, help=help, info=info, override_existing=False)
3533
3869
        except KeyError:
3534
3870
            actual = self.get(key)
3535
 
            note('Test prefix alias %s is already used for %s, ignoring %s'
3536
 
                 % (key, actual, obj))
 
3871
            trace.note(
 
3872
                'Test prefix alias %s is already used for %s, ignoring %s'
 
3873
                % (key, actual, obj))
3537
3874
 
3538
3875
    def resolve_alias(self, id_start):
3539
3876
        """Replace the alias by the prefix in the given string.
3557
3894
# appear prefixed ('bzrlib.' is "replaced" by 'bzrlib.').
3558
3895
test_prefix_alias_registry.register('bzrlib', 'bzrlib')
3559
3896
 
3560
 
# Obvious higest levels prefixes, feel free to add your own via a plugin
 
3897
# Obvious highest levels prefixes, feel free to add your own via a plugin
3561
3898
test_prefix_alias_registry.register('bd', 'bzrlib.doc')
3562
3899
test_prefix_alias_registry.register('bu', 'bzrlib.utils')
3563
3900
test_prefix_alias_registry.register('bt', 'bzrlib.tests')
3571
3908
        'bzrlib.doc',
3572
3909
        'bzrlib.tests.blackbox',
3573
3910
        'bzrlib.tests.commands',
 
3911
        'bzrlib.tests.doc_generate',
3574
3912
        'bzrlib.tests.per_branch',
3575
3913
        'bzrlib.tests.per_bzrdir',
 
3914
        'bzrlib.tests.per_controldir',
 
3915
        'bzrlib.tests.per_controldir_colo',
3576
3916
        'bzrlib.tests.per_foreign_vcs',
3577
3917
        'bzrlib.tests.per_interrepository',
3578
3918
        'bzrlib.tests.per_intertree',
3586
3926
        'bzrlib.tests.per_repository',
3587
3927
        'bzrlib.tests.per_repository_chk',
3588
3928
        'bzrlib.tests.per_repository_reference',
 
3929
        'bzrlib.tests.per_repository_vf',
3589
3930
        'bzrlib.tests.per_uifactory',
3590
3931
        'bzrlib.tests.per_versionedfile',
3591
3932
        'bzrlib.tests.per_workingtree',
3592
3933
        'bzrlib.tests.test__annotator',
3593
3934
        'bzrlib.tests.test__bencode',
 
3935
        'bzrlib.tests.test__btree_serializer',
3594
3936
        'bzrlib.tests.test__chk_map',
3595
3937
        'bzrlib.tests.test__dirstate_helpers',
3596
3938
        'bzrlib.tests.test__groupcompress',
3618
3960
        'bzrlib.tests.test_chunk_writer',
3619
3961
        'bzrlib.tests.test_clean_tree',
3620
3962
        'bzrlib.tests.test_cleanup',
 
3963
        'bzrlib.tests.test_cmdline',
3621
3964
        'bzrlib.tests.test_commands',
3622
3965
        'bzrlib.tests.test_commit',
3623
3966
        'bzrlib.tests.test_commit_merge',
3624
3967
        'bzrlib.tests.test_config',
3625
3968
        'bzrlib.tests.test_conflicts',
 
3969
        'bzrlib.tests.test_controldir',
3626
3970
        'bzrlib.tests.test_counted_lock',
3627
3971
        'bzrlib.tests.test_crash',
3628
3972
        'bzrlib.tests.test_decorators',
3629
3973
        'bzrlib.tests.test_delta',
3630
3974
        'bzrlib.tests.test_debug',
3631
 
        'bzrlib.tests.test_deprecated_graph',
3632
3975
        'bzrlib.tests.test_diff',
3633
3976
        'bzrlib.tests.test_directory_service',
3634
3977
        'bzrlib.tests.test_dirstate',
3635
3978
        'bzrlib.tests.test_email_message',
3636
3979
        'bzrlib.tests.test_eol_filters',
3637
3980
        'bzrlib.tests.test_errors',
 
3981
        'bzrlib.tests.test_estimate_compressed_size',
3638
3982
        'bzrlib.tests.test_export',
 
3983
        'bzrlib.tests.test_export_pot',
3639
3984
        'bzrlib.tests.test_extract',
 
3985
        'bzrlib.tests.test_features',
3640
3986
        'bzrlib.tests.test_fetch',
 
3987
        'bzrlib.tests.test_fixtures',
3641
3988
        'bzrlib.tests.test_fifo_cache',
3642
3989
        'bzrlib.tests.test_filters',
 
3990
        'bzrlib.tests.test_filter_tree',
3643
3991
        'bzrlib.tests.test_ftp_transport',
3644
3992
        'bzrlib.tests.test_foreign',
3645
3993
        'bzrlib.tests.test_generate_docs',
3654
4002
        'bzrlib.tests.test_http',
3655
4003
        'bzrlib.tests.test_http_response',
3656
4004
        'bzrlib.tests.test_https_ca_bundle',
 
4005
        'bzrlib.tests.test_i18n',
3657
4006
        'bzrlib.tests.test_identitymap',
3658
4007
        'bzrlib.tests.test_ignores',
3659
4008
        'bzrlib.tests.test_index',
 
4009
        'bzrlib.tests.test_import_tariff',
3660
4010
        'bzrlib.tests.test_info',
3661
4011
        'bzrlib.tests.test_inv',
3662
4012
        'bzrlib.tests.test_inventory_delta',
3663
4013
        'bzrlib.tests.test_knit',
3664
4014
        'bzrlib.tests.test_lazy_import',
3665
4015
        'bzrlib.tests.test_lazy_regex',
 
4016
        'bzrlib.tests.test_library_state',
3666
4017
        'bzrlib.tests.test_lock',
3667
4018
        'bzrlib.tests.test_lockable_files',
3668
4019
        'bzrlib.tests.test_lockdir',
3670
4021
        'bzrlib.tests.test_lru_cache',
3671
4022
        'bzrlib.tests.test_lsprof',
3672
4023
        'bzrlib.tests.test_mail_client',
 
4024
        'bzrlib.tests.test_matchers',
3673
4025
        'bzrlib.tests.test_memorytree',
3674
4026
        'bzrlib.tests.test_merge',
3675
4027
        'bzrlib.tests.test_merge3',
3676
4028
        'bzrlib.tests.test_merge_core',
3677
4029
        'bzrlib.tests.test_merge_directive',
 
4030
        'bzrlib.tests.test_mergetools',
3678
4031
        'bzrlib.tests.test_missing',
3679
4032
        'bzrlib.tests.test_msgeditor',
3680
4033
        'bzrlib.tests.test_multiparent',
3689
4042
        'bzrlib.tests.test_permissions',
3690
4043
        'bzrlib.tests.test_plugins',
3691
4044
        'bzrlib.tests.test_progress',
 
4045
        'bzrlib.tests.test_pyutils',
3692
4046
        'bzrlib.tests.test_read_bundle',
3693
4047
        'bzrlib.tests.test_reconcile',
3694
4048
        'bzrlib.tests.test_reconfigure',
3703
4057
        'bzrlib.tests.test_rio',
3704
4058
        'bzrlib.tests.test_rules',
3705
4059
        'bzrlib.tests.test_sampler',
 
4060
        'bzrlib.tests.test_scenarios',
3706
4061
        'bzrlib.tests.test_script',
3707
4062
        'bzrlib.tests.test_selftest',
3708
4063
        'bzrlib.tests.test_serializer',
3713
4068
        'bzrlib.tests.test_smart',
3714
4069
        'bzrlib.tests.test_smart_add',
3715
4070
        'bzrlib.tests.test_smart_request',
 
4071
        'bzrlib.tests.test_smart_signals',
3716
4072
        'bzrlib.tests.test_smart_transport',
3717
4073
        'bzrlib.tests.test_smtp_connection',
3718
4074
        'bzrlib.tests.test_source',
3724
4080
        'bzrlib.tests.test_switch',
3725
4081
        'bzrlib.tests.test_symbol_versioning',
3726
4082
        'bzrlib.tests.test_tag',
 
4083
        'bzrlib.tests.test_test_server',
3727
4084
        'bzrlib.tests.test_testament',
3728
4085
        'bzrlib.tests.test_textfile',
3729
4086
        'bzrlib.tests.test_textmerge',
 
4087
        'bzrlib.tests.test_cethread',
3730
4088
        'bzrlib.tests.test_timestamp',
3731
4089
        'bzrlib.tests.test_trace',
3732
4090
        'bzrlib.tests.test_transactions',
3735
4093
        'bzrlib.tests.test_transport_log',
3736
4094
        'bzrlib.tests.test_tree',
3737
4095
        'bzrlib.tests.test_treebuilder',
 
4096
        'bzrlib.tests.test_treeshape',
3738
4097
        'bzrlib.tests.test_tsort',
3739
4098
        'bzrlib.tests.test_tuned_gzip',
3740
4099
        'bzrlib.tests.test_ui',
3742
4101
        'bzrlib.tests.test_upgrade',
3743
4102
        'bzrlib.tests.test_upgrade_stacked',
3744
4103
        'bzrlib.tests.test_urlutils',
 
4104
        'bzrlib.tests.test_utextwrap',
3745
4105
        'bzrlib.tests.test_version',
3746
4106
        'bzrlib.tests.test_version_info',
 
4107
        'bzrlib.tests.test_versionedfile',
 
4108
        'bzrlib.tests.test_vf_search',
3747
4109
        'bzrlib.tests.test_weave',
3748
4110
        'bzrlib.tests.test_whitebox',
3749
4111
        'bzrlib.tests.test_win32utils',
3755
4117
 
3756
4118
 
3757
4119
def _test_suite_modules_to_doctest():
3758
 
    """Return the list of modules to doctest."""   
 
4120
    """Return the list of modules to doctest."""
 
4121
    if __doc__ is None:
 
4122
        # GZ 2009-03-31: No docstrings with -OO so there's nothing to doctest
 
4123
        return []
3759
4124
    return [
3760
4125
        'bzrlib',
3761
4126
        'bzrlib.branchbuilder',
3762
4127
        'bzrlib.decorators',
3763
 
        'bzrlib.export',
3764
4128
        'bzrlib.inventory',
3765
4129
        'bzrlib.iterablefile',
3766
4130
        'bzrlib.lockdir',
3767
4131
        'bzrlib.merge3',
3768
4132
        'bzrlib.option',
 
4133
        'bzrlib.pyutils',
3769
4134
        'bzrlib.symbol_versioning',
3770
4135
        'bzrlib.tests',
 
4136
        'bzrlib.tests.fixtures',
3771
4137
        'bzrlib.timestamp',
 
4138
        'bzrlib.transport.http',
3772
4139
        'bzrlib.version_info_formats.format_custom',
3773
4140
        ]
3774
4141
 
3827
4194
        try:
3828
4195
            # note that this really does mean "report only" -- doctest
3829
4196
            # still runs the rest of the examples
3830
 
            doc_suite = doctest.DocTestSuite(mod,
3831
 
                optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
 
4197
            doc_suite = IsolatedDocTestSuite(
 
4198
                mod, optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
3832
4199
        except ValueError, e:
3833
4200
            print '**failed to get doctest for: %s\n%s' % (mod, e)
3834
4201
            raise
3837
4204
        suite.addTest(doc_suite)
3838
4205
 
3839
4206
    default_encoding = sys.getdefaultencoding()
3840
 
    for name, plugin in bzrlib.plugin.plugins().items():
 
4207
    for name, plugin in _mod_plugin.plugins().items():
3841
4208
        if not interesting_module(plugin.module.__name__):
3842
4209
            continue
3843
4210
        plugin_suite = plugin.test_suite()
3849
4216
        if plugin_suite is not None:
3850
4217
            suite.addTest(plugin_suite)
3851
4218
        if default_encoding != sys.getdefaultencoding():
3852
 
            bzrlib.trace.warning(
 
4219
            trace.warning(
3853
4220
                'Plugin "%s" tried to reset default encoding to: %s', name,
3854
4221
                sys.getdefaultencoding())
3855
4222
            reload(sys)
3870
4237
            # Some tests mentioned in the list are not in the test suite. The
3871
4238
            # list may be out of date, report to the tester.
3872
4239
            for id in not_found:
3873
 
                bzrlib.trace.warning('"%s" not found in the test suite', id)
 
4240
                trace.warning('"%s" not found in the test suite', id)
3874
4241
        for id in duplicates:
3875
 
            bzrlib.trace.warning('"%s" is used as an id by several tests', id)
 
4242
            trace.warning('"%s" is used as an id by several tests', id)
3876
4243
 
3877
4244
    return suite
3878
4245
 
3879
4246
 
3880
 
def multiply_scenarios(scenarios_left, scenarios_right):
 
4247
def multiply_scenarios(*scenarios):
 
4248
    """Multiply two or more iterables of scenarios.
 
4249
 
 
4250
    It is safe to pass scenario generators or iterators.
 
4251
 
 
4252
    :returns: A list of compound scenarios: the cross-product of all 
 
4253
        scenarios, with the names concatenated and the parameters
 
4254
        merged together.
 
4255
    """
 
4256
    return reduce(_multiply_two_scenarios, map(list, scenarios))
 
4257
 
 
4258
 
 
4259
def _multiply_two_scenarios(scenarios_left, scenarios_right):
3881
4260
    """Multiply two sets of scenarios.
3882
4261
 
3883
4262
    :returns: the cartesian product of the two sets of scenarios, that is
3914
4293
    ...     bzrlib.tests.test_sampler.DemoTest('test_nothing'),
3915
4294
    ...     [('one', dict(param=1)),
3916
4295
    ...      ('two', dict(param=2))],
3917
 
    ...     TestSuite())
 
4296
    ...     TestUtil.TestSuite())
3918
4297
    >>> tests = list(iter_suite_tests(r))
3919
4298
    >>> len(tests)
3920
4299
    2
3967
4346
    :param new_id: The id to assign to it.
3968
4347
    :return: The new test.
3969
4348
    """
3970
 
    new_test = copy(test)
 
4349
    new_test = copy.copy(test)
3971
4350
    new_test.id = lambda: new_id
 
4351
    # XXX: Workaround <https://bugs.launchpad.net/testtools/+bug/637725>, which
 
4352
    # causes cloned tests to share the 'details' dict.  This makes it hard to
 
4353
    # read the test output for parameterized tests, because tracebacks will be
 
4354
    # associated with irrelevant tests.
 
4355
    try:
 
4356
        details = new_test._TestCase__details
 
4357
    except AttributeError:
 
4358
        # must be a different version of testtools than expected.  Do nothing.
 
4359
        pass
 
4360
    else:
 
4361
        # Reset the '__details' dict.
 
4362
        new_test._TestCase__details = {}
3972
4363
    return new_test
3973
4364
 
3974
4365
 
3995
4386
        the module is available.
3996
4387
    """
3997
4388
 
3998
 
    py_module = __import__(py_module_name, {}, {}, ['NO_SUCH_ATTRIB'])
 
4389
    from bzrlib.tests.features import ModuleAvailableFeature
 
4390
    py_module = pyutils.get_named_object(py_module_name)
3999
4391
    scenarios = [
4000
4392
        ('python', {'module': py_module}),
4001
4393
    ]
4034
4426
        if test_id != None:
4035
4427
            ui.ui_factory.clear_term()
4036
4428
            sys.stderr.write('\nWhile running: %s\n' % (test_id,))
 
4429
        # Ugly, but the last thing we want here is fail, so bear with it.
 
4430
        printable_e = str(e).decode(osutils.get_user_encoding(), 'replace'
 
4431
                                    ).encode('ascii', 'replace')
4037
4432
        sys.stderr.write('Unable to remove testing dir %s\n%s'
4038
 
                         % (os.path.basename(dirname), e))
4039
 
 
4040
 
 
4041
 
class Feature(object):
4042
 
    """An operating system Feature."""
4043
 
 
4044
 
    def __init__(self):
4045
 
        self._available = None
4046
 
 
4047
 
    def available(self):
4048
 
        """Is the feature available?
4049
 
 
4050
 
        :return: True if the feature is available.
4051
 
        """
4052
 
        if self._available is None:
4053
 
            self._available = self._probe()
4054
 
        return self._available
4055
 
 
4056
 
    def _probe(self):
4057
 
        """Implement this method in concrete features.
4058
 
 
4059
 
        :return: True if the feature is available.
4060
 
        """
4061
 
        raise NotImplementedError
4062
 
 
4063
 
    def __str__(self):
4064
 
        if getattr(self, 'feature_name', None):
4065
 
            return self.feature_name()
4066
 
        return self.__class__.__name__
4067
 
 
4068
 
 
4069
 
class _SymlinkFeature(Feature):
4070
 
 
4071
 
    def _probe(self):
4072
 
        return osutils.has_symlinks()
4073
 
 
4074
 
    def feature_name(self):
4075
 
        return 'symlinks'
4076
 
 
4077
 
SymlinkFeature = _SymlinkFeature()
4078
 
 
4079
 
 
4080
 
class _HardlinkFeature(Feature):
4081
 
 
4082
 
    def _probe(self):
4083
 
        return osutils.has_hardlinks()
4084
 
 
4085
 
    def feature_name(self):
4086
 
        return 'hardlinks'
4087
 
 
4088
 
HardlinkFeature = _HardlinkFeature()
4089
 
 
4090
 
 
4091
 
class _OsFifoFeature(Feature):
4092
 
 
4093
 
    def _probe(self):
4094
 
        return getattr(os, 'mkfifo', None)
4095
 
 
4096
 
    def feature_name(self):
4097
 
        return 'filesystem fifos'
4098
 
 
4099
 
OsFifoFeature = _OsFifoFeature()
4100
 
 
4101
 
 
4102
 
class _UnicodeFilenameFeature(Feature):
4103
 
    """Does the filesystem support Unicode filenames?"""
4104
 
 
4105
 
    def _probe(self):
4106
 
        try:
4107
 
            # Check for character combinations unlikely to be covered by any
4108
 
            # single non-unicode encoding. We use the characters
4109
 
            # - greek small letter alpha (U+03B1) and
4110
 
            # - braille pattern dots-123456 (U+283F).
4111
 
            os.stat(u'\u03b1\u283f')
4112
 
        except UnicodeEncodeError:
4113
 
            return False
4114
 
        except (IOError, OSError):
4115
 
            # The filesystem allows the Unicode filename but the file doesn't
4116
 
            # exist.
4117
 
            return True
4118
 
        else:
4119
 
            # The filesystem allows the Unicode filename and the file exists,
4120
 
            # for some reason.
4121
 
            return True
4122
 
 
4123
 
UnicodeFilenameFeature = _UnicodeFilenameFeature()
4124
 
 
4125
 
 
4126
 
class _CompatabilityThunkFeature(Feature):
4127
 
    """This feature is just a thunk to another feature.
4128
 
 
4129
 
    It issues a deprecation warning if it is accessed, to let you know that you
4130
 
    should really use a different feature.
4131
 
    """
4132
 
 
4133
 
    def __init__(self, module, name, this_name, dep_version):
4134
 
        super(_CompatabilityThunkFeature, self).__init__()
4135
 
        self._module = module
4136
 
        self._name = name
4137
 
        self._this_name = this_name
4138
 
        self._dep_version = dep_version
4139
 
        self._feature = None
4140
 
 
4141
 
    def _ensure(self):
4142
 
        if self._feature is None:
4143
 
            msg = (self._dep_version % self._this_name) + (
4144
 
                   ' Use %s.%s instead.' % (self._module, self._name))
4145
 
            symbol_versioning.warn(msg, DeprecationWarning)
4146
 
            mod = __import__(self._module, {}, {}, [self._name])
4147
 
            self._feature = getattr(mod, self._name)
4148
 
 
4149
 
    def _probe(self):
4150
 
        self._ensure()
4151
 
        return self._feature._probe()
4152
 
 
4153
 
 
4154
 
class ModuleAvailableFeature(Feature):
4155
 
    """This is a feature than describes a module we want to be available.
4156
 
 
4157
 
    Declare the name of the module in __init__(), and then after probing, the
4158
 
    module will be available as 'self.module'.
4159
 
 
4160
 
    :ivar module: The module if it is available, else None.
4161
 
    """
4162
 
 
4163
 
    def __init__(self, module_name):
4164
 
        super(ModuleAvailableFeature, self).__init__()
4165
 
        self.module_name = module_name
4166
 
 
4167
 
    def _probe(self):
4168
 
        try:
4169
 
            self._module = __import__(self.module_name, {}, {}, [''])
4170
 
            return True
4171
 
        except ImportError:
4172
 
            return False
4173
 
 
4174
 
    @property
4175
 
    def module(self):
4176
 
        if self.available(): # Make sure the probe has been done
4177
 
            return self._module
4178
 
        return None
4179
 
    
4180
 
    def feature_name(self):
4181
 
        return self.module_name
4182
 
 
4183
 
 
4184
 
# This is kept here for compatibility, it is recommended to use
4185
 
# 'bzrlib.tests.feature.paramiko' instead
4186
 
ParamikoFeature = _CompatabilityThunkFeature('bzrlib.tests.features',
4187
 
    'paramiko', 'bzrlib.tests.ParamikoFeature', deprecated_in((2,1,0)))
 
4433
                         % (os.path.basename(dirname), printable_e))
4188
4434
 
4189
4435
 
4190
4436
def probe_unicode_in_user_encoding():
4220
4466
    return None
4221
4467
 
4222
4468
 
4223
 
class _HTTPSServerFeature(Feature):
4224
 
    """Some tests want an https Server, check if one is available.
4225
 
 
4226
 
    Right now, the only way this is available is under python2.6 which provides
4227
 
    an ssl module.
4228
 
    """
4229
 
 
4230
 
    def _probe(self):
4231
 
        try:
4232
 
            import ssl
4233
 
            return True
4234
 
        except ImportError:
4235
 
            return False
4236
 
 
4237
 
    def feature_name(self):
4238
 
        return 'HTTPSServer'
4239
 
 
4240
 
 
4241
 
HTTPSServerFeature = _HTTPSServerFeature()
4242
 
 
4243
 
 
4244
 
class _UnicodeFilename(Feature):
4245
 
    """Does the filesystem support Unicode filenames?"""
4246
 
 
4247
 
    def _probe(self):
4248
 
        try:
4249
 
            os.stat(u'\u03b1')
4250
 
        except UnicodeEncodeError:
4251
 
            return False
4252
 
        except (IOError, OSError):
4253
 
            # The filesystem allows the Unicode filename but the file doesn't
4254
 
            # exist.
4255
 
            return True
4256
 
        else:
4257
 
            # The filesystem allows the Unicode filename and the file exists,
4258
 
            # for some reason.
4259
 
            return True
4260
 
 
4261
 
UnicodeFilename = _UnicodeFilename()
4262
 
 
4263
 
 
4264
 
class _UTF8Filesystem(Feature):
4265
 
    """Is the filesystem UTF-8?"""
4266
 
 
4267
 
    def _probe(self):
4268
 
        if osutils._fs_enc.upper() in ('UTF-8', 'UTF8'):
4269
 
            return True
4270
 
        return False
4271
 
 
4272
 
UTF8Filesystem = _UTF8Filesystem()
4273
 
 
4274
 
 
4275
 
class _BreakinFeature(Feature):
4276
 
    """Does this platform support the breakin feature?"""
4277
 
 
4278
 
    def _probe(self):
4279
 
        from bzrlib import breakin
4280
 
        if breakin.determine_signal() is None:
4281
 
            return False
4282
 
        if sys.platform == 'win32':
4283
 
            # Windows doesn't have os.kill, and we catch the SIGBREAK signal.
4284
 
            # We trigger SIGBREAK via a Console api so we need ctypes to
4285
 
            # access the function
4286
 
            try:
4287
 
                import ctypes
4288
 
            except OSError:
4289
 
                return False
4290
 
        return True
4291
 
 
4292
 
    def feature_name(self):
4293
 
        return "SIGQUIT or SIGBREAK w/ctypes on win32"
4294
 
 
4295
 
 
4296
 
BreakinFeature = _BreakinFeature()
4297
 
 
4298
 
 
4299
 
class _CaseInsCasePresFilenameFeature(Feature):
4300
 
    """Is the file-system case insensitive, but case-preserving?"""
4301
 
 
4302
 
    def _probe(self):
4303
 
        fileno, name = tempfile.mkstemp(prefix='MixedCase')
4304
 
        try:
4305
 
            # first check truly case-preserving for created files, then check
4306
 
            # case insensitive when opening existing files.
4307
 
            name = osutils.normpath(name)
4308
 
            base, rel = osutils.split(name)
4309
 
            found_rel = osutils.canonical_relpath(base, name)
4310
 
            return (found_rel == rel
4311
 
                    and os.path.isfile(name.upper())
4312
 
                    and os.path.isfile(name.lower()))
4313
 
        finally:
4314
 
            os.close(fileno)
4315
 
            os.remove(name)
4316
 
 
4317
 
    def feature_name(self):
4318
 
        return "case-insensitive case-preserving filesystem"
4319
 
 
4320
 
CaseInsCasePresFilenameFeature = _CaseInsCasePresFilenameFeature()
4321
 
 
4322
 
 
4323
 
class _CaseInsensitiveFilesystemFeature(Feature):
4324
 
    """Check if underlying filesystem is case-insensitive but *not* case
4325
 
    preserving.
4326
 
    """
4327
 
    # Note that on Windows, Cygwin, MacOS etc, the file-systems are far
4328
 
    # more likely to be case preserving, so this case is rare.
4329
 
 
4330
 
    def _probe(self):
4331
 
        if CaseInsCasePresFilenameFeature.available():
4332
 
            return False
4333
 
 
4334
 
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
4335
 
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
4336
 
            TestCaseWithMemoryTransport.TEST_ROOT = root
4337
 
        else:
4338
 
            root = TestCaseWithMemoryTransport.TEST_ROOT
4339
 
        tdir = osutils.mkdtemp(prefix='case-sensitive-probe-', suffix='',
4340
 
            dir=root)
4341
 
        name_a = osutils.pathjoin(tdir, 'a')
4342
 
        name_A = osutils.pathjoin(tdir, 'A')
4343
 
        os.mkdir(name_a)
4344
 
        result = osutils.isdir(name_A)
4345
 
        _rmtree_temp_dir(tdir)
4346
 
        return result
4347
 
 
4348
 
    def feature_name(self):
4349
 
        return 'case-insensitive filesystem'
4350
 
 
4351
 
CaseInsensitiveFilesystemFeature = _CaseInsensitiveFilesystemFeature()
4352
 
 
4353
 
 
4354
 
# Kept for compatibility, use bzrlib.tests.features.subunit instead
4355
 
SubUnitFeature = _CompatabilityThunkFeature('bzrlib.tests.features', 'subunit',
4356
 
    'bzrlib.tests.SubUnitFeature', deprecated_in((2,1,0)))
4357
4469
# Only define SubUnitBzrRunner if subunit is available.
4358
4470
try:
4359
4471
    from subunit import TestProtocolClient
4360
4472
    from subunit.test_results import AutoTimingTestResultDecorator
 
4473
    class SubUnitBzrProtocolClient(TestProtocolClient):
 
4474
 
 
4475
        def stopTest(self, test):
 
4476
            super(SubUnitBzrProtocolClient, self).stopTest(test)
 
4477
            _clear__type_equality_funcs(test)
 
4478
 
 
4479
        def addSuccess(self, test, details=None):
 
4480
            # The subunit client always includes the details in the subunit
 
4481
            # stream, but we don't want to include it in ours.
 
4482
            if details is not None and 'log' in details:
 
4483
                del details['log']
 
4484
            return super(SubUnitBzrProtocolClient, self).addSuccess(
 
4485
                test, details)
 
4486
 
4361
4487
    class SubUnitBzrRunner(TextTestRunner):
4362
4488
        def run(self, test):
4363
4489
            result = AutoTimingTestResultDecorator(
4364
 
                TestProtocolClient(self.stream))
 
4490
                SubUnitBzrProtocolClient(self.stream))
4365
4491
            test.run(result)
4366
4492
            return result
4367
4493
except ImportError:
4368
4494
    pass
 
4495
 
 
4496
 
 
4497
# API compatibility for old plugins; see bug 892622.
 
4498
for name in [
 
4499
    'Feature',
 
4500
    'HTTPServerFeature', 
 
4501
    'ModuleAvailableFeature',
 
4502
    'HTTPSServerFeature', 'SymlinkFeature', 'HardlinkFeature',
 
4503
    'OsFifoFeature', 'UnicodeFilenameFeature',
 
4504
    'ByteStringNamedFilesystem', 'UTF8Filesystem',
 
4505
    'BreakinFeature', 'CaseInsCasePresFilenameFeature',
 
4506
    'CaseInsensitiveFilesystemFeature', 'case_sensitive_filesystem_feature',
 
4507
    'posix_permissions_feature',
 
4508
    ]:
 
4509
    globals()[name] = _CompatabilityThunkFeature(
 
4510
        symbol_versioning.deprecated_in((2, 5, 0)),
 
4511
        'bzrlib.tests', name,
 
4512
        name, 'bzrlib.tests.features')
 
4513
 
 
4514
 
 
4515
for (old_name, new_name) in [
 
4516
    ('UnicodeFilename', 'UnicodeFilenameFeature'),
 
4517
    ]:
 
4518
    globals()[name] = _CompatabilityThunkFeature(
 
4519
        symbol_versioning.deprecated_in((2, 5, 0)),
 
4520
        'bzrlib.tests', old_name,
 
4521
        new_name, 'bzrlib.tests.features')