~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Andrew Bennetts
  • Date: 2009-08-13 00:20:29 UTC
  • mto: This revision was merged to the branch mainline in revision 4608.
  • Revision ID: andrew.bennetts@canonical.com-20090813002029-akc5x2mtxa8rq068
Raise InventoryDeltaErrors, not generic BzrErrors, from inventory_delta.py.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 by Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006, 2007, 2008, 2009 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
 
 
17
 
 
18
 
from testsweet import TestBase, run_suite, InTempDir
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
 
 
18
# TODO: Perhaps there should be an API to find out if bzr running under the
 
19
# test suite -- some plugins might want to avoid making intrusive changes if
 
20
# this is the case.  However, we want behaviour under to test to diverge as
 
21
# little as possible, so this should be used rarely if it's added at all.
 
22
# (Suggestion from j-a-meinel, 2005-11-24)
 
23
 
 
24
# NOTE: Some classes in here use camelCaseNaming() rather than
 
25
# underscore_naming().  That's for consistency with unittest; it's not the
 
26
# general style of bzrlib.  Please continue that consistency when adding e.g.
 
27
# new assertFoo() methods.
 
28
 
 
29
import atexit
 
30
import codecs
 
31
from cStringIO import StringIO
 
32
import difflib
 
33
import doctest
 
34
import errno
 
35
import logging
 
36
import math
 
37
import os
 
38
from pprint import pformat
 
39
import random
 
40
import re
 
41
import shlex
 
42
import stat
 
43
from subprocess import Popen, PIPE, STDOUT
 
44
import sys
 
45
import tempfile
 
46
import threading
 
47
import time
 
48
import unittest
 
49
import warnings
 
50
 
 
51
 
 
52
from bzrlib import (
 
53
    branchbuilder,
 
54
    bzrdir,
 
55
    debug,
 
56
    errors,
 
57
    hooks,
 
58
    lock as _mod_lock,
 
59
    memorytree,
 
60
    osutils,
 
61
    progress,
 
62
    ui,
 
63
    urlutils,
 
64
    registry,
 
65
    workingtree,
 
66
    )
 
67
import bzrlib.branch
19
68
import bzrlib.commands
20
 
 
21
 
MODULES_TO_TEST = []
22
 
MODULES_TO_DOCTEST = []
23
 
 
24
 
 
25
 
class BzrTestBase(InTempDir):
26
 
    """bzr-specific test base class"""
27
 
    def run_bzr(self, *args, **kwargs):
28
 
        retcode = kwargs.get('retcode', 0)
29
 
        self.assertEquals(bzrlib.commands.run_bzr(args), retcode)
 
69
import bzrlib.timestamp
 
70
import bzrlib.export
 
71
import bzrlib.inventory
 
72
import bzrlib.iterablefile
 
73
import bzrlib.lockdir
 
74
try:
 
75
    import bzrlib.lsprof
 
76
except ImportError:
 
77
    # lsprof not available
 
78
    pass
 
79
from bzrlib.merge import merge_inner
 
80
import bzrlib.merge3
 
81
import bzrlib.plugin
 
82
from bzrlib.smart import client, request, server
 
83
import bzrlib.store
 
84
from bzrlib import symbol_versioning
 
85
from bzrlib.symbol_versioning import (
 
86
    DEPRECATED_PARAMETER,
 
87
    deprecated_function,
 
88
    deprecated_method,
 
89
    deprecated_passed,
 
90
    )
 
91
import bzrlib.trace
 
92
from bzrlib.transport import get_transport
 
93
import bzrlib.transport
 
94
from bzrlib.transport.local import LocalURLServer
 
95
from bzrlib.transport.memory import MemoryServer
 
96
from bzrlib.transport.readonly import ReadonlyServer
 
97
from bzrlib.trace import mutter, note
 
98
from bzrlib.tests import TestUtil
 
99
from bzrlib.tests.http_server import HttpServer
 
100
from bzrlib.tests.TestUtil import (
 
101
                          TestSuite,
 
102
                          TestLoader,
 
103
                          )
 
104
from bzrlib.tests.treeshape import build_tree_contents
 
105
from bzrlib.ui import NullProgressView
 
106
from bzrlib.ui.text import TextUIFactory
 
107
import bzrlib.version_info_formats.format_custom
 
108
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
 
109
 
 
110
# Mark this python module as being part of the implementation
 
111
# of unittest: this gives us better tracebacks where the last
 
112
# shown frame is the test code, not our assertXYZ.
 
113
__unittest = 1
 
114
 
 
115
default_transport = LocalURLServer
 
116
 
 
117
# Subunit result codes, defined here to prevent a hard dependency on subunit.
 
118
SUBUNIT_SEEK_SET = 0
 
119
SUBUNIT_SEEK_CUR = 1
 
120
 
 
121
 
 
122
class ExtendedTestResult(unittest._TextTestResult):
 
123
    """Accepts, reports and accumulates the results of running tests.
 
124
 
 
125
    Compared to the unittest version this class adds support for
 
126
    profiling, benchmarking, stopping as soon as a test fails,  and
 
127
    skipping tests.  There are further-specialized subclasses for
 
128
    different types of display.
 
129
 
 
130
    When a test finishes, in whatever way, it calls one of the addSuccess,
 
131
    addFailure or addError classes.  These in turn may redirect to a more
 
132
    specific case for the special test results supported by our extended
 
133
    tests.
 
134
 
 
135
    Note that just one of these objects is fed the results from many tests.
 
136
    """
 
137
 
 
138
    stop_early = False
 
139
 
 
140
    def __init__(self, stream, descriptions, verbosity,
 
141
                 bench_history=None,
 
142
                 strict=False,
 
143
                 ):
 
144
        """Construct new TestResult.
 
145
 
 
146
        :param bench_history: Optionally, a writable file object to accumulate
 
147
            benchmark results.
 
148
        """
 
149
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
 
150
        if bench_history is not None:
 
151
            from bzrlib.version import _get_bzr_source_tree
 
152
            src_tree = _get_bzr_source_tree()
 
153
            if src_tree:
 
154
                try:
 
155
                    revision_id = src_tree.get_parent_ids()[0]
 
156
                except IndexError:
 
157
                    # XXX: if this is a brand new tree, do the same as if there
 
158
                    # is no branch.
 
159
                    revision_id = ''
 
160
            else:
 
161
                # XXX: If there's no branch, what should we do?
 
162
                revision_id = ''
 
163
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
 
164
        self._bench_history = bench_history
 
165
        self.ui = ui.ui_factory
 
166
        self.num_tests = 0
 
167
        self.error_count = 0
 
168
        self.failure_count = 0
 
169
        self.known_failure_count = 0
 
170
        self.skip_count = 0
 
171
        self.not_applicable_count = 0
 
172
        self.unsupported = {}
 
173
        self.count = 0
 
174
        self._overall_start_time = time.time()
 
175
        self._strict = strict
 
176
 
 
177
    def done(self):
 
178
        # nb: called stopTestRun in the version of this that Python merged
 
179
        # upstream, according to lifeless 20090803
 
180
        if self._strict:
 
181
            ok = self.wasStrictlySuccessful()
 
182
        else:
 
183
            ok = self.wasSuccessful()
 
184
        if ok:
 
185
            self.stream.write('tests passed\n')
 
186
        else:
 
187
            self.stream.write('tests failed\n')
 
188
        if TestCase._first_thread_leaker_id:
 
189
            self.stream.write(
 
190
                '%s is leaking threads among %d leaking tests.\n' % (
 
191
                TestCase._first_thread_leaker_id,
 
192
                TestCase._leaking_threads_tests))
 
193
 
 
194
    def _extractBenchmarkTime(self, testCase):
 
195
        """Add a benchmark time for the current test case."""
 
196
        return getattr(testCase, "_benchtime", None)
 
197
 
 
198
    def _elapsedTestTimeString(self):
 
199
        """Return a time string for the overall time the current test has taken."""
 
200
        return self._formatTime(time.time() - self._start_time)
 
201
 
 
202
    def _testTimeString(self, testCase):
 
203
        benchmark_time = self._extractBenchmarkTime(testCase)
 
204
        if benchmark_time is not None:
 
205
            return self._formatTime(benchmark_time) + "*"
 
206
        else:
 
207
            return self._elapsedTestTimeString()
 
208
 
 
209
    def _formatTime(self, seconds):
 
210
        """Format seconds as milliseconds with leading spaces."""
 
211
        # some benchmarks can take thousands of seconds to run, so we need 8
 
212
        # places
 
213
        return "%8dms" % (1000 * seconds)
 
214
 
 
215
    def _shortened_test_description(self, test):
 
216
        what = test.id()
 
217
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
218
        return what
 
219
 
 
220
    def startTest(self, test):
 
221
        unittest.TestResult.startTest(self, test)
 
222
        if self.count == 0:
 
223
            self.startTests()
 
224
        self.report_test_start(test)
 
225
        test.number = self.count
 
226
        self._recordTestStartTime()
 
227
 
 
228
    def startTests(self):
 
229
        self.stream.write(
 
230
            'testing: %s\n' % (osutils.realpath(sys.argv[0]),))
 
231
        self.stream.write(
 
232
            '   %s (%s python%s)\n' % (
 
233
                    bzrlib.__path__[0],
 
234
                    bzrlib.version_string,
 
235
                    bzrlib._format_version_tuple(sys.version_info),
 
236
                    ))
 
237
        self.stream.write('\n')
 
238
 
 
239
    def _recordTestStartTime(self):
 
240
        """Record that a test has started."""
 
241
        self._start_time = time.time()
 
242
 
 
243
    def _cleanupLogFile(self, test):
 
244
        # We can only do this if we have one of our TestCases, not if
 
245
        # we have a doctest.
 
246
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
 
247
        if setKeepLogfile is not None:
 
248
            setKeepLogfile()
 
249
 
 
250
    def addError(self, test, err):
 
251
        """Tell result that test finished with an error.
 
252
 
 
253
        Called from the TestCase run() method when the test
 
254
        fails with an unexpected error.
 
255
        """
 
256
        self._testConcluded(test)
 
257
        if isinstance(err[1], TestNotApplicable):
 
258
            return self._addNotApplicable(test, err)
 
259
        elif isinstance(err[1], UnavailableFeature):
 
260
            return self.addNotSupported(test, err[1].args[0])
 
261
        else:
 
262
            unittest.TestResult.addError(self, test, err)
 
263
            self.error_count += 1
 
264
            self.report_error(test, err)
 
265
            if self.stop_early:
 
266
                self.stop()
 
267
            self._cleanupLogFile(test)
 
268
 
 
269
    def addFailure(self, test, err):
 
270
        """Tell result that test failed.
 
271
 
 
272
        Called from the TestCase run() method when the test
 
273
        fails because e.g. an assert() method failed.
 
274
        """
 
275
        self._testConcluded(test)
 
276
        if isinstance(err[1], KnownFailure):
 
277
            return self._addKnownFailure(test, err)
 
278
        else:
 
279
            unittest.TestResult.addFailure(self, test, err)
 
280
            self.failure_count += 1
 
281
            self.report_failure(test, err)
 
282
            if self.stop_early:
 
283
                self.stop()
 
284
            self._cleanupLogFile(test)
 
285
 
 
286
    def addSuccess(self, test):
 
287
        """Tell result that test completed successfully.
 
288
 
 
289
        Called from the TestCase run()
 
290
        """
 
291
        self._testConcluded(test)
 
292
        if self._bench_history is not None:
 
293
            benchmark_time = self._extractBenchmarkTime(test)
 
294
            if benchmark_time is not None:
 
295
                self._bench_history.write("%s %s\n" % (
 
296
                    self._formatTime(benchmark_time),
 
297
                    test.id()))
 
298
        self.report_success(test)
 
299
        self._cleanupLogFile(test)
 
300
        unittest.TestResult.addSuccess(self, test)
 
301
        test._log_contents = ''
 
302
 
 
303
    def _testConcluded(self, test):
 
304
        """Common code when a test has finished.
 
305
 
 
306
        Called regardless of whether it succeded, failed, etc.
 
307
        """
 
308
        pass
 
309
 
 
310
    def _addKnownFailure(self, test, err):
 
311
        self.known_failure_count += 1
 
312
        self.report_known_failure(test, err)
 
313
 
 
314
    def addNotSupported(self, test, feature):
 
315
        """The test will not be run because of a missing feature.
 
316
        """
 
317
        # this can be called in two different ways: it may be that the
 
318
        # test started running, and then raised (through addError)
 
319
        # UnavailableFeature.  Alternatively this method can be called
 
320
        # while probing for features before running the tests; in that
 
321
        # case we will see startTest and stopTest, but the test will never
 
322
        # actually run.
 
323
        self.unsupported.setdefault(str(feature), 0)
 
324
        self.unsupported[str(feature)] += 1
 
325
        self.report_unsupported(test, feature)
 
326
 
 
327
    def addSkip(self, test, reason):
 
328
        """A test has not run for 'reason'."""
 
329
        self.skip_count += 1
 
330
        self.report_skip(test, reason)
 
331
 
 
332
    def _addNotApplicable(self, test, skip_excinfo):
 
333
        if isinstance(skip_excinfo[1], TestNotApplicable):
 
334
            self.not_applicable_count += 1
 
335
            self.report_not_applicable(test, skip_excinfo)
 
336
        try:
 
337
            test.tearDown()
 
338
        except KeyboardInterrupt:
 
339
            raise
 
340
        except:
 
341
            self.addError(test, test.exc_info())
 
342
        else:
 
343
            # seems best to treat this as success from point-of-view of unittest
 
344
            # -- it actually does nothing so it barely matters :)
 
345
            unittest.TestResult.addSuccess(self, test)
 
346
            test._log_contents = ''
 
347
 
 
348
    def printErrorList(self, flavour, errors):
 
349
        for test, err in errors:
 
350
            self.stream.writeln(self.separator1)
 
351
            self.stream.write("%s: " % flavour)
 
352
            self.stream.writeln(self.getDescription(test))
 
353
            if getattr(test, '_get_log', None) is not None:
 
354
                log_contents = test._get_log()
 
355
                if log_contents:
 
356
                    self.stream.write('\n')
 
357
                    self.stream.write(
 
358
                            ('vvvv[log from %s]' % test.id()).ljust(78,'-'))
 
359
                    self.stream.write('\n')
 
360
                    self.stream.write(log_contents)
 
361
                    self.stream.write('\n')
 
362
                    self.stream.write(
 
363
                            ('^^^^[log from %s]' % test.id()).ljust(78,'-'))
 
364
                    self.stream.write('\n')
 
365
            self.stream.writeln(self.separator2)
 
366
            self.stream.writeln("%s" % err)
 
367
 
 
368
    def progress(self, offset, whence):
 
369
        """The test is adjusting the count of tests to run."""
 
370
        if whence == SUBUNIT_SEEK_SET:
 
371
            self.num_tests = offset
 
372
        elif whence == SUBUNIT_SEEK_CUR:
 
373
            self.num_tests += offset
 
374
        else:
 
375
            raise errors.BzrError("Unknown whence %r" % whence)
 
376
 
 
377
    def finished(self):
 
378
        pass
 
379
 
 
380
    def report_cleaning_up(self):
 
381
        pass
 
382
 
 
383
    def report_success(self, test):
 
384
        pass
 
385
 
 
386
    def wasStrictlySuccessful(self):
 
387
        if self.unsupported or self.known_failure_count:
 
388
            return False
 
389
        return self.wasSuccessful()
 
390
 
 
391
 
 
392
class TextTestResult(ExtendedTestResult):
 
393
    """Displays progress and results of tests in text form"""
 
394
 
 
395
    def __init__(self, stream, descriptions, verbosity,
 
396
                 bench_history=None,
 
397
                 pb=None,
 
398
                 strict=None,
 
399
                 ):
 
400
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
 
401
            bench_history, strict)
 
402
        # We no longer pass them around, but just rely on the UIFactory stack
 
403
        # for state
 
404
        if pb is not None:
 
405
            warnings.warn("Passing pb to TextTestResult is deprecated")
 
406
        self.pb = self.ui.nested_progress_bar()
 
407
        self.pb.show_pct = False
 
408
        self.pb.show_spinner = False
 
409
        self.pb.show_eta = False,
 
410
        self.pb.show_count = False
 
411
        self.pb.show_bar = False
 
412
        self.pb.update_latency = 0
 
413
        self.pb.show_transport_activity = False
 
414
 
 
415
    def done(self):
 
416
        # called when the tests that are going to run have run
 
417
        self.pb.clear()
 
418
        super(TextTestResult, self).done()
 
419
 
 
420
    def finished(self):
 
421
        self.pb.finished()
 
422
 
 
423
    def report_starting(self):
 
424
        self.pb.update('[test 0/%d] Starting' % (self.num_tests))
 
425
 
 
426
    def printErrors(self):
 
427
        # clear the pb to make room for the error listing
 
428
        self.pb.clear()
 
429
        super(TextTestResult, self).printErrors()
 
430
 
 
431
    def _progress_prefix_text(self):
 
432
        # the longer this text, the less space we have to show the test
 
433
        # name...
 
434
        a = '[%d' % self.count              # total that have been run
 
435
        # tests skipped as known not to be relevant are not important enough
 
436
        # to show here
 
437
        ## if self.skip_count:
 
438
        ##     a += ', %d skip' % self.skip_count
 
439
        ## if self.known_failure_count:
 
440
        ##     a += '+%dX' % self.known_failure_count
 
441
        if self.num_tests:
 
442
            a +='/%d' % self.num_tests
 
443
        a += ' in '
 
444
        runtime = time.time() - self._overall_start_time
 
445
        if runtime >= 60:
 
446
            a += '%dm%ds' % (runtime / 60, runtime % 60)
 
447
        else:
 
448
            a += '%ds' % runtime
 
449
        if self.error_count:
 
450
            a += ', %d err' % self.error_count
 
451
        if self.failure_count:
 
452
            a += ', %d fail' % self.failure_count
 
453
        if self.unsupported:
 
454
            a += ', %d missing' % len(self.unsupported)
 
455
        a += ']'
 
456
        return a
 
457
 
 
458
    def report_test_start(self, test):
 
459
        self.count += 1
 
460
        self.pb.update(
 
461
                self._progress_prefix_text()
 
462
                + ' '
 
463
                + self._shortened_test_description(test))
 
464
 
 
465
    def _test_description(self, test):
 
466
        return self._shortened_test_description(test)
 
467
 
 
468
    def report_error(self, test, err):
 
469
        self.pb.note('ERROR: %s\n    %s\n',
 
470
            self._test_description(test),
 
471
            err[1],
 
472
            )
 
473
 
 
474
    def report_failure(self, test, err):
 
475
        self.pb.note('FAIL: %s\n    %s\n',
 
476
            self._test_description(test),
 
477
            err[1],
 
478
            )
 
479
 
 
480
    def report_known_failure(self, test, err):
 
481
        self.pb.note('XFAIL: %s\n%s\n',
 
482
            self._test_description(test), err[1])
 
483
 
 
484
    def report_skip(self, test, reason):
 
485
        pass
 
486
 
 
487
    def report_not_applicable(self, test, skip_excinfo):
 
488
        pass
 
489
 
 
490
    def report_unsupported(self, test, feature):
 
491
        """test cannot be run because feature is missing."""
 
492
 
 
493
    def report_cleaning_up(self):
 
494
        self.pb.update('Cleaning up')
 
495
 
 
496
 
 
497
class VerboseTestResult(ExtendedTestResult):
 
498
    """Produce long output, with one line per test run plus times"""
 
499
 
 
500
    def _ellipsize_to_right(self, a_string, final_width):
 
501
        """Truncate and pad a string, keeping the right hand side"""
 
502
        if len(a_string) > final_width:
 
503
            result = '...' + a_string[3-final_width:]
 
504
        else:
 
505
            result = a_string
 
506
        return result.ljust(final_width)
 
507
 
 
508
    def report_starting(self):
 
509
        self.stream.write('running %d tests...\n' % self.num_tests)
 
510
 
 
511
    def report_test_start(self, test):
 
512
        self.count += 1
 
513
        name = self._shortened_test_description(test)
 
514
        # width needs space for 6 char status, plus 1 for slash, plus an
 
515
        # 11-char time string, plus a trailing blank
 
516
        # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on space
 
517
        self.stream.write(self._ellipsize_to_right(name,
 
518
                          osutils.terminal_width()-18))
 
519
        self.stream.flush()
 
520
 
 
521
    def _error_summary(self, err):
 
522
        indent = ' ' * 4
 
523
        return '%s%s' % (indent, err[1])
 
524
 
 
525
    def report_error(self, test, err):
 
526
        self.stream.writeln('ERROR %s\n%s'
 
527
                % (self._testTimeString(test),
 
528
                   self._error_summary(err)))
 
529
 
 
530
    def report_failure(self, test, err):
 
531
        self.stream.writeln(' FAIL %s\n%s'
 
532
                % (self._testTimeString(test),
 
533
                   self._error_summary(err)))
 
534
 
 
535
    def report_known_failure(self, test, err):
 
536
        self.stream.writeln('XFAIL %s\n%s'
 
537
                % (self._testTimeString(test),
 
538
                   self._error_summary(err)))
 
539
 
 
540
    def report_success(self, test):
 
541
        self.stream.writeln('   OK %s' % self._testTimeString(test))
 
542
        for bench_called, stats in getattr(test, '_benchcalls', []):
 
543
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
544
            stats.pprint(file=self.stream)
 
545
        # flush the stream so that we get smooth output. This verbose mode is
 
546
        # used to show the output in PQM.
 
547
        self.stream.flush()
 
548
 
 
549
    def report_skip(self, test, reason):
 
550
        self.stream.writeln(' SKIP %s\n%s'
 
551
                % (self._testTimeString(test), reason))
 
552
 
 
553
    def report_not_applicable(self, test, skip_excinfo):
 
554
        self.stream.writeln('  N/A %s\n%s'
 
555
                % (self._testTimeString(test),
 
556
                   self._error_summary(skip_excinfo)))
 
557
 
 
558
    def report_unsupported(self, test, feature):
 
559
        """test cannot be run because feature is missing."""
 
560
        self.stream.writeln("NODEP %s\n    The feature '%s' is not available."
 
561
                %(self._testTimeString(test), feature))
 
562
 
 
563
 
 
564
class TextTestRunner(object):
 
565
    stop_on_failure = False
 
566
 
 
567
    def __init__(self,
 
568
                 stream=sys.stderr,
 
569
                 descriptions=0,
 
570
                 verbosity=1,
 
571
                 bench_history=None,
 
572
                 list_only=False,
 
573
                 strict=False,
 
574
                 ):
 
575
        self.stream = unittest._WritelnDecorator(stream)
 
576
        self.descriptions = descriptions
 
577
        self.verbosity = verbosity
 
578
        self._bench_history = bench_history
 
579
        self.list_only = list_only
 
580
        self._strict = strict
 
581
 
 
582
    def run(self, test):
 
583
        "Run the given test case or test suite."
 
584
        startTime = time.time()
 
585
        if self.verbosity == 1:
 
586
            result_class = TextTestResult
 
587
        elif self.verbosity >= 2:
 
588
            result_class = VerboseTestResult
 
589
        result = result_class(self.stream,
 
590
                              self.descriptions,
 
591
                              self.verbosity,
 
592
                              bench_history=self._bench_history,
 
593
                              strict=self._strict,
 
594
                              )
 
595
        result.stop_early = self.stop_on_failure
 
596
        result.report_starting()
 
597
        if self.list_only:
 
598
            if self.verbosity >= 2:
 
599
                self.stream.writeln("Listing tests only ...\n")
 
600
            run = 0
 
601
            for t in iter_suite_tests(test):
 
602
                self.stream.writeln("%s" % (t.id()))
 
603
                run += 1
 
604
            return None
 
605
        else:
 
606
            try:
 
607
                import testtools
 
608
            except ImportError:
 
609
                test.run(result)
 
610
            else:
 
611
                if isinstance(test, testtools.ConcurrentTestSuite):
 
612
                    # We need to catch bzr specific behaviors
 
613
                    test.run(BZRTransformingResult(result))
 
614
                else:
 
615
                    test.run(result)
 
616
            run = result.testsRun
 
617
            actionTaken = "Ran"
 
618
        stopTime = time.time()
 
619
        timeTaken = stopTime - startTime
 
620
        result.printErrors()
 
621
        self.stream.writeln(result.separator2)
 
622
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
 
623
                            run, run != 1 and "s" or "", timeTaken))
 
624
        self.stream.writeln()
 
625
        if not result.wasSuccessful():
 
626
            self.stream.write("FAILED (")
 
627
            failed, errored = map(len, (result.failures, result.errors))
 
628
            if failed:
 
629
                self.stream.write("failures=%d" % failed)
 
630
            if errored:
 
631
                if failed: self.stream.write(", ")
 
632
                self.stream.write("errors=%d" % errored)
 
633
            if result.known_failure_count:
 
634
                if failed or errored: self.stream.write(", ")
 
635
                self.stream.write("known_failure_count=%d" %
 
636
                    result.known_failure_count)
 
637
            self.stream.writeln(")")
 
638
        else:
 
639
            if result.known_failure_count:
 
640
                self.stream.writeln("OK (known_failures=%d)" %
 
641
                    result.known_failure_count)
 
642
            else:
 
643
                self.stream.writeln("OK")
 
644
        if result.skip_count > 0:
 
645
            skipped = result.skip_count
 
646
            self.stream.writeln('%d test%s skipped' %
 
647
                                (skipped, skipped != 1 and "s" or ""))
 
648
        if result.unsupported:
 
649
            for feature, count in sorted(result.unsupported.items()):
 
650
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
651
                    (feature, count))
 
652
        result.finished()
 
653
        return result
 
654
 
 
655
 
 
656
def iter_suite_tests(suite):
 
657
    """Return all tests in a suite, recursing through nested suites"""
 
658
    if isinstance(suite, unittest.TestCase):
 
659
        yield suite
 
660
    elif isinstance(suite, unittest.TestSuite):
 
661
        for item in suite:
 
662
            for r in iter_suite_tests(item):
 
663
                yield r
 
664
    else:
 
665
        raise Exception('unknown type %r for object %r'
 
666
                        % (type(suite), suite))
 
667
 
 
668
 
 
669
class TestSkipped(Exception):
 
670
    """Indicates that a test was intentionally skipped, rather than failing."""
 
671
 
 
672
 
 
673
class TestNotApplicable(TestSkipped):
 
674
    """A test is not applicable to the situation where it was run.
 
675
 
 
676
    This is only normally raised by parameterized tests, if they find that
 
677
    the instance they're constructed upon does not support one aspect
 
678
    of its interface.
 
679
    """
 
680
 
 
681
 
 
682
class KnownFailure(AssertionError):
 
683
    """Indicates that a test failed in a precisely expected manner.
 
684
 
 
685
    Such failures dont block the whole test suite from passing because they are
 
686
    indicators of partially completed code or of future work. We have an
 
687
    explicit error for them so that we can ensure that they are always visible:
 
688
    KnownFailures are always shown in the output of bzr selftest.
 
689
    """
 
690
 
 
691
 
 
692
class UnavailableFeature(Exception):
 
693
    """A feature required for this test was not available.
 
694
 
 
695
    The feature should be used to construct the exception.
 
696
    """
 
697
 
 
698
 
 
699
class CommandFailed(Exception):
 
700
    pass
 
701
 
 
702
 
 
703
class StringIOWrapper(object):
 
704
    """A wrapper around cStringIO which just adds an encoding attribute.
 
705
 
 
706
    Internally we can check sys.stdout to see what the output encoding
 
707
    should be. However, cStringIO has no encoding attribute that we can
 
708
    set. So we wrap it instead.
 
709
    """
 
710
    encoding='ascii'
 
711
    _cstring = None
 
712
 
 
713
    def __init__(self, s=None):
 
714
        if s is not None:
 
715
            self.__dict__['_cstring'] = StringIO(s)
 
716
        else:
 
717
            self.__dict__['_cstring'] = StringIO()
 
718
 
 
719
    def __getattr__(self, name, getattr=getattr):
 
720
        return getattr(self.__dict__['_cstring'], name)
 
721
 
 
722
    def __setattr__(self, name, val):
 
723
        if name == 'encoding':
 
724
            self.__dict__['encoding'] = val
 
725
        else:
 
726
            return setattr(self._cstring, name, val)
 
727
 
 
728
 
 
729
class TestUIFactory(TextUIFactory):
 
730
    """A UI Factory for testing.
 
731
 
 
732
    Hide the progress bar but emit note()s.
 
733
    Redirect stdin.
 
734
    Allows get_password to be tested without real tty attached.
 
735
 
 
736
    See also CannedInputUIFactory which lets you provide programmatic input in
 
737
    a structured way.
 
738
    """
 
739
    # TODO: Capture progress events at the model level and allow them to be
 
740
    # observed by tests that care.
 
741
    #
 
742
    # XXX: Should probably unify more with CannedInputUIFactory or a
 
743
    # particular configuration of TextUIFactory, or otherwise have a clearer
 
744
    # idea of how they're supposed to be different.
 
745
    # See https://bugs.edge.launchpad.net/bzr/+bug/408213
 
746
 
 
747
    def __init__(self, stdout=None, stderr=None, stdin=None):
 
748
        if stdin is not None:
 
749
            # We use a StringIOWrapper to be able to test various
 
750
            # encodings, but the user is still responsible to
 
751
            # encode the string and to set the encoding attribute
 
752
            # of StringIOWrapper.
 
753
            stdin = StringIOWrapper(stdin)
 
754
        super(TestUIFactory, self).__init__(stdin, stdout, stderr)
 
755
 
 
756
    def get_non_echoed_password(self):
 
757
        """Get password from stdin without trying to handle the echo mode"""
 
758
        password = self.stdin.readline()
 
759
        if not password:
 
760
            raise EOFError
 
761
        if password[-1] == '\n':
 
762
            password = password[:-1]
 
763
        return password
 
764
 
 
765
    def make_progress_view(self):
 
766
        return NullProgressView()
 
767
 
 
768
 
 
769
class TestCase(unittest.TestCase):
 
770
    """Base class for bzr unit tests.
 
771
 
 
772
    Tests that need access to disk resources should subclass
 
773
    TestCaseInTempDir not TestCase.
 
774
 
 
775
    Error and debug log messages are redirected from their usual
 
776
    location into a temporary file, the contents of which can be
 
777
    retrieved by _get_log().  We use a real OS file, not an in-memory object,
 
778
    so that it can also capture file IO.  When the test completes this file
 
779
    is read into memory and removed from disk.
 
780
 
 
781
    There are also convenience functions to invoke bzr's command-line
 
782
    routine, and to build and check bzr trees.
 
783
 
 
784
    In addition to the usual method of overriding tearDown(), this class also
 
785
    allows subclasses to register functions into the _cleanups list, which is
 
786
    run in order as the object is torn down.  It's less likely this will be
 
787
    accidentally overlooked.
 
788
    """
 
789
 
 
790
    _active_threads = None
 
791
    _leaking_threads_tests = 0
 
792
    _first_thread_leaker_id = None
 
793
    _log_file_name = None
 
794
    _log_contents = ''
 
795
    _keep_log_file = False
 
796
    # record lsprof data when performing benchmark calls.
 
797
    _gather_lsprof_in_benchmarks = False
 
798
    attrs_to_keep = ('id', '_testMethodName', '_testMethodDoc',
 
799
                     '_log_contents', '_log_file_name', '_benchtime',
 
800
                     '_TestCase__testMethodName', '_TestCase__testMethodDoc',)
 
801
 
 
802
    def __init__(self, methodName='testMethod'):
 
803
        super(TestCase, self).__init__(methodName)
 
804
        self._cleanups = []
 
805
        self._bzr_test_setUp_run = False
 
806
        self._bzr_test_tearDown_run = False
 
807
 
 
808
    def setUp(self):
 
809
        unittest.TestCase.setUp(self)
 
810
        self._bzr_test_setUp_run = True
 
811
        self._cleanEnvironment()
 
812
        self._silenceUI()
 
813
        self._startLogFile()
 
814
        self._benchcalls = []
 
815
        self._benchtime = None
 
816
        self._clear_hooks()
 
817
        # Track locks - needs to be called before _clear_debug_flags.
 
818
        self._track_locks()
 
819
        self._clear_debug_flags()
 
820
        TestCase._active_threads = threading.activeCount()
 
821
        self.addCleanup(self._check_leaked_threads)
 
822
 
 
823
    def debug(self):
 
824
        # debug a frame up.
 
825
        import pdb
 
826
        pdb.Pdb().set_trace(sys._getframe().f_back)
 
827
 
 
828
    def _check_leaked_threads(self):
 
829
        active = threading.activeCount()
 
830
        leaked_threads = active - TestCase._active_threads
 
831
        TestCase._active_threads = active
 
832
        if leaked_threads:
 
833
            TestCase._leaking_threads_tests += 1
 
834
            if TestCase._first_thread_leaker_id is None:
 
835
                TestCase._first_thread_leaker_id = self.id()
 
836
 
 
837
    def _clear_debug_flags(self):
 
838
        """Prevent externally set debug flags affecting tests.
 
839
 
 
840
        Tests that want to use debug flags can just set them in the
 
841
        debug_flags set during setup/teardown.
 
842
        """
 
843
        self._preserved_debug_flags = set(debug.debug_flags)
 
844
        if 'allow_debug' not in selftest_debug_flags:
 
845
            debug.debug_flags.clear()
 
846
        self.addCleanup(self._restore_debug_flags)
 
847
 
 
848
    def _clear_hooks(self):
 
849
        # prevent hooks affecting tests
 
850
        self._preserved_hooks = {}
 
851
        for key, factory in hooks.known_hooks.items():
 
852
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
 
853
            current_hooks = hooks.known_hooks_key_to_object(key)
 
854
            self._preserved_hooks[parent] = (name, current_hooks)
 
855
        self.addCleanup(self._restoreHooks)
 
856
        for key, factory in hooks.known_hooks.items():
 
857
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
 
858
            setattr(parent, name, factory())
 
859
        # this hook should always be installed
 
860
        request._install_hook()
 
861
 
 
862
    def _silenceUI(self):
 
863
        """Turn off UI for duration of test"""
 
864
        # by default the UI is off; tests can turn it on if they want it.
 
865
        saved = ui.ui_factory
 
866
        def _restore():
 
867
            ui.ui_factory = saved
 
868
        ui.ui_factory = ui.SilentUIFactory()
 
869
        self.addCleanup(_restore)
 
870
 
 
871
    def _check_locks(self):
 
872
        """Check that all lock take/release actions have been paired."""
 
873
        # once we have fixed all the current lock problems, we can change the
 
874
        # following code to always check for mismatched locks, but only do
 
875
        # traceback showing with -Dlock (self._lock_check_thorough is True).
 
876
        # For now, because the test suite will fail, we only assert that lock
 
877
        # matching has occured with -Dlock.
 
878
        # unhook:
 
879
        acquired_locks = [lock for action, lock in self._lock_actions
 
880
                          if action == 'acquired']
 
881
        released_locks = [lock for action, lock in self._lock_actions
 
882
                          if action == 'released']
 
883
        broken_locks = [lock for action, lock in self._lock_actions
 
884
                        if action == 'broken']
 
885
        # trivially, given the tests for lock acquistion and release, if we
 
886
        # have as many in each list, it should be ok. Some lock tests also
 
887
        # break some locks on purpose and should be taken into account by
 
888
        # considering that breaking a lock is just a dirty way of releasing it.
 
889
        if len(acquired_locks) != (len(released_locks) + len(broken_locks)):
 
890
            message = ('Different number of acquired and '
 
891
                       'released or broken locks. (%s, %s + %s)' %
 
892
                       (acquired_locks, released_locks, broken_locks))
 
893
            if not self._lock_check_thorough:
 
894
                # Rather than fail, just warn
 
895
                print "Broken test %s: %s" % (self, message)
 
896
                return
 
897
            self.fail(message)
 
898
 
 
899
    def _track_locks(self):
 
900
        """Track lock activity during tests."""
 
901
        self._lock_actions = []
 
902
        self._lock_check_thorough = 'lock' not in debug.debug_flags
 
903
        self.addCleanup(self._check_locks)
 
904
        _mod_lock.Lock.hooks.install_named_hook('lock_acquired',
 
905
                                                self._lock_acquired, None)
 
906
        _mod_lock.Lock.hooks.install_named_hook('lock_released',
 
907
                                                self._lock_released, None)
 
908
        _mod_lock.Lock.hooks.install_named_hook('lock_broken',
 
909
                                                self._lock_broken, None)
 
910
 
 
911
    def _lock_acquired(self, result):
 
912
        self._lock_actions.append(('acquired', result))
 
913
 
 
914
    def _lock_released(self, result):
 
915
        self._lock_actions.append(('released', result))
 
916
 
 
917
    def _lock_broken(self, result):
 
918
        self._lock_actions.append(('broken', result))
 
919
 
 
920
    def _ndiff_strings(self, a, b):
 
921
        """Return ndiff between two strings containing lines.
 
922
 
 
923
        A trailing newline is added if missing to make the strings
 
924
        print properly."""
 
925
        if b and b[-1] != '\n':
 
926
            b += '\n'
 
927
        if a and a[-1] != '\n':
 
928
            a += '\n'
 
929
        difflines = difflib.ndiff(a.splitlines(True),
 
930
                                  b.splitlines(True),
 
931
                                  linejunk=lambda x: False,
 
932
                                  charjunk=lambda x: False)
 
933
        return ''.join(difflines)
 
934
 
 
935
    def assertEqual(self, a, b, message=''):
 
936
        try:
 
937
            if a == b:
 
938
                return
 
939
        except UnicodeError, e:
 
940
            # If we can't compare without getting a UnicodeError, then
 
941
            # obviously they are different
 
942
            mutter('UnicodeError: %s', e)
 
943
        if message:
 
944
            message += '\n'
 
945
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
 
946
            % (message,
 
947
               pformat(a), pformat(b)))
 
948
 
 
949
    assertEquals = assertEqual
 
950
 
 
951
    def assertEqualDiff(self, a, b, message=None):
 
952
        """Assert two texts are equal, if not raise an exception.
 
953
 
 
954
        This is intended for use with multi-line strings where it can
 
955
        be hard to find the differences by eye.
 
956
        """
 
957
        # TODO: perhaps override assertEquals to call this for strings?
 
958
        if a == b:
 
959
            return
 
960
        if message is None:
 
961
            message = "texts not equal:\n"
 
962
        if a == b + '\n':
 
963
            message = 'first string is missing a final newline.\n'
 
964
        if a + '\n' == b:
 
965
            message = 'second string is missing a final newline.\n'
 
966
        raise AssertionError(message +
 
967
                             self._ndiff_strings(a, b))
 
968
 
 
969
    def assertEqualMode(self, mode, mode_test):
 
970
        self.assertEqual(mode, mode_test,
 
971
                         'mode mismatch %o != %o' % (mode, mode_test))
 
972
 
 
973
    def assertEqualStat(self, expected, actual):
 
974
        """assert that expected and actual are the same stat result.
 
975
 
 
976
        :param expected: A stat result.
 
977
        :param actual: A stat result.
 
978
        :raises AssertionError: If the expected and actual stat values differ
 
979
            other than by atime.
 
980
        """
 
981
        self.assertEqual(expected.st_size, actual.st_size)
 
982
        self.assertEqual(expected.st_mtime, actual.st_mtime)
 
983
        self.assertEqual(expected.st_ctime, actual.st_ctime)
 
984
        self.assertEqual(expected.st_dev, actual.st_dev)
 
985
        self.assertEqual(expected.st_ino, actual.st_ino)
 
986
        self.assertEqual(expected.st_mode, actual.st_mode)
 
987
 
 
988
    def assertLength(self, length, obj_with_len):
 
989
        """Assert that obj_with_len is of length length."""
 
990
        if len(obj_with_len) != length:
 
991
            self.fail("Incorrect length: wanted %d, got %d for %r" % (
 
992
                length, len(obj_with_len), obj_with_len))
 
993
 
 
994
    def assertPositive(self, val):
 
995
        """Assert that val is greater than 0."""
 
996
        self.assertTrue(val > 0, 'expected a positive value, but got %s' % val)
 
997
 
 
998
    def assertNegative(self, val):
 
999
        """Assert that val is less than 0."""
 
1000
        self.assertTrue(val < 0, 'expected a negative value, but got %s' % val)
 
1001
 
 
1002
    def assertStartsWith(self, s, prefix):
 
1003
        if not s.startswith(prefix):
 
1004
            raise AssertionError('string %r does not start with %r' % (s, prefix))
 
1005
 
 
1006
    def assertEndsWith(self, s, suffix):
 
1007
        """Asserts that s ends with suffix."""
 
1008
        if not s.endswith(suffix):
 
1009
            raise AssertionError('string %r does not end with %r' % (s, suffix))
 
1010
 
 
1011
    def assertContainsRe(self, haystack, needle_re, flags=0):
 
1012
        """Assert that a contains something matching a regular expression."""
 
1013
        if not re.search(needle_re, haystack, flags):
 
1014
            if '\n' in haystack or len(haystack) > 60:
 
1015
                # a long string, format it in a more readable way
 
1016
                raise AssertionError(
 
1017
                        'pattern "%s" not found in\n"""\\\n%s"""\n'
 
1018
                        % (needle_re, haystack))
 
1019
            else:
 
1020
                raise AssertionError('pattern "%s" not found in "%s"'
 
1021
                        % (needle_re, haystack))
 
1022
 
 
1023
    def assertNotContainsRe(self, haystack, needle_re, flags=0):
 
1024
        """Assert that a does not match a regular expression"""
 
1025
        if re.search(needle_re, haystack, flags):
 
1026
            raise AssertionError('pattern "%s" found in "%s"'
 
1027
                    % (needle_re, haystack))
 
1028
 
 
1029
    def assertSubset(self, sublist, superlist):
 
1030
        """Assert that every entry in sublist is present in superlist."""
 
1031
        missing = set(sublist) - set(superlist)
 
1032
        if len(missing) > 0:
 
1033
            raise AssertionError("value(s) %r not present in container %r" %
 
1034
                                 (missing, superlist))
 
1035
 
 
1036
    def assertListRaises(self, excClass, func, *args, **kwargs):
 
1037
        """Fail unless excClass is raised when the iterator from func is used.
 
1038
 
 
1039
        Many functions can return generators this makes sure
 
1040
        to wrap them in a list() call to make sure the whole generator
 
1041
        is run, and that the proper exception is raised.
 
1042
        """
 
1043
        try:
 
1044
            list(func(*args, **kwargs))
 
1045
        except excClass, e:
 
1046
            return e
 
1047
        else:
 
1048
            if getattr(excClass,'__name__', None) is not None:
 
1049
                excName = excClass.__name__
 
1050
            else:
 
1051
                excName = str(excClass)
 
1052
            raise self.failureException, "%s not raised" % excName
 
1053
 
 
1054
    def assertRaises(self, excClass, callableObj, *args, **kwargs):
 
1055
        """Assert that a callable raises a particular exception.
 
1056
 
 
1057
        :param excClass: As for the except statement, this may be either an
 
1058
            exception class, or a tuple of classes.
 
1059
        :param callableObj: A callable, will be passed ``*args`` and
 
1060
            ``**kwargs``.
 
1061
 
 
1062
        Returns the exception so that you can examine it.
 
1063
        """
 
1064
        try:
 
1065
            callableObj(*args, **kwargs)
 
1066
        except excClass, e:
 
1067
            return e
 
1068
        else:
 
1069
            if getattr(excClass,'__name__', None) is not None:
 
1070
                excName = excClass.__name__
 
1071
            else:
 
1072
                # probably a tuple
 
1073
                excName = str(excClass)
 
1074
            raise self.failureException, "%s not raised" % excName
 
1075
 
 
1076
    def assertIs(self, left, right, message=None):
 
1077
        if not (left is right):
 
1078
            if message is not None:
 
1079
                raise AssertionError(message)
 
1080
            else:
 
1081
                raise AssertionError("%r is not %r." % (left, right))
 
1082
 
 
1083
    def assertIsNot(self, left, right, message=None):
 
1084
        if (left is right):
 
1085
            if message is not None:
 
1086
                raise AssertionError(message)
 
1087
            else:
 
1088
                raise AssertionError("%r is %r." % (left, right))
 
1089
 
 
1090
    def assertTransportMode(self, transport, path, mode):
 
1091
        """Fail if a path does not have mode "mode".
 
1092
 
 
1093
        If modes are not supported on this transport, the assertion is ignored.
 
1094
        """
 
1095
        if not transport._can_roundtrip_unix_modebits():
 
1096
            return
 
1097
        path_stat = transport.stat(path)
 
1098
        actual_mode = stat.S_IMODE(path_stat.st_mode)
 
1099
        self.assertEqual(mode, actual_mode,
 
1100
                         'mode of %r incorrect (%s != %s)'
 
1101
                         % (path, oct(mode), oct(actual_mode)))
 
1102
 
 
1103
    def assertIsSameRealPath(self, path1, path2):
 
1104
        """Fail if path1 and path2 points to different files"""
 
1105
        self.assertEqual(osutils.realpath(path1),
 
1106
                         osutils.realpath(path2),
 
1107
                         "apparent paths:\na = %s\nb = %s\n," % (path1, path2))
 
1108
 
 
1109
    def assertIsInstance(self, obj, kls, msg=None):
 
1110
        """Fail if obj is not an instance of kls
30
1111
        
31
 
 
32
 
def selftest(verbose=False):
33
 
    from unittest import TestLoader, TestSuite
34
 
    import bzrlib, bzrlib.store, bzrlib.inventory, bzrlib.branch
35
 
    import bzrlib.osutils, bzrlib.commands, bzrlib.merge3, bzrlib.plugin
36
 
    from doctest import DocTestSuite
37
 
    import os
38
 
    import shutil
39
 
    import time
40
 
    import sys
41
 
    import unittest
42
 
 
43
 
    global MODULES_TO_TEST, MODULES_TO_DOCTEST
44
 
 
45
 
    testmod_names = \
46
 
                  ['bzrlib.selftest.whitebox',
47
 
                   'bzrlib.selftest.versioning',
48
 
                   'bzrlib.selftest.testinv',
49
 
                   'bzrlib.selftest.testmerge3',
50
 
                   'bzrlib.selftest.testhashcache',
51
 
                   'bzrlib.selftest.teststatus',
52
 
                   'bzrlib.selftest.testlog',
53
 
                   'bzrlib.selftest.blackbox',
54
 
                   'bzrlib.selftest.testrevisionnamespaces',
55
 
                   'bzrlib.selftest.testbranch',
56
 
                   'bzrlib.selftest.testrevision',
57
 
                   'bzrlib.merge_core',
58
 
                   'bzrlib.selftest.testdiff',
 
1112
        :param msg: Supplementary message to show if the assertion fails.
 
1113
        """
 
1114
        if not isinstance(obj, kls):
 
1115
            m = "%r is an instance of %s rather than %s" % (
 
1116
                obj, obj.__class__, kls)
 
1117
            if msg:
 
1118
                m += ": " + msg
 
1119
            self.fail(m)
 
1120
 
 
1121
    def expectFailure(self, reason, assertion, *args, **kwargs):
 
1122
        """Invoke a test, expecting it to fail for the given reason.
 
1123
 
 
1124
        This is for assertions that ought to succeed, but currently fail.
 
1125
        (The failure is *expected* but not *wanted*.)  Please be very precise
 
1126
        about the failure you're expecting.  If a new bug is introduced,
 
1127
        AssertionError should be raised, not KnownFailure.
 
1128
 
 
1129
        Frequently, expectFailure should be followed by an opposite assertion.
 
1130
        See example below.
 
1131
 
 
1132
        Intended to be used with a callable that raises AssertionError as the
 
1133
        'assertion' parameter.  args and kwargs are passed to the 'assertion'.
 
1134
 
 
1135
        Raises KnownFailure if the test fails.  Raises AssertionError if the
 
1136
        test succeeds.
 
1137
 
 
1138
        example usage::
 
1139
 
 
1140
          self.expectFailure('Math is broken', self.assertNotEqual, 54,
 
1141
                             dynamic_val)
 
1142
          self.assertEqual(42, dynamic_val)
 
1143
 
 
1144
          This means that a dynamic_val of 54 will cause the test to raise
 
1145
          a KnownFailure.  Once math is fixed and the expectFailure is removed,
 
1146
          only a dynamic_val of 42 will allow the test to pass.  Anything other
 
1147
          than 54 or 42 will cause an AssertionError.
 
1148
        """
 
1149
        try:
 
1150
            assertion(*args, **kwargs)
 
1151
        except AssertionError:
 
1152
            raise KnownFailure(reason)
 
1153
        else:
 
1154
            self.fail('Unexpected success.  Should have failed: %s' % reason)
 
1155
 
 
1156
    def assertFileEqual(self, content, path):
 
1157
        """Fail if path does not contain 'content'."""
 
1158
        self.failUnlessExists(path)
 
1159
        f = file(path, 'rb')
 
1160
        try:
 
1161
            s = f.read()
 
1162
        finally:
 
1163
            f.close()
 
1164
        self.assertEqualDiff(content, s)
 
1165
 
 
1166
    def failUnlessExists(self, path):
 
1167
        """Fail unless path or paths, which may be abs or relative, exist."""
 
1168
        if not isinstance(path, basestring):
 
1169
            for p in path:
 
1170
                self.failUnlessExists(p)
 
1171
        else:
 
1172
            self.failUnless(osutils.lexists(path),path+" does not exist")
 
1173
 
 
1174
    def failIfExists(self, path):
 
1175
        """Fail if path or paths, which may be abs or relative, exist."""
 
1176
        if not isinstance(path, basestring):
 
1177
            for p in path:
 
1178
                self.failIfExists(p)
 
1179
        else:
 
1180
            self.failIf(osutils.lexists(path),path+" exists")
 
1181
 
 
1182
    def _capture_deprecation_warnings(self, a_callable, *args, **kwargs):
 
1183
        """A helper for callDeprecated and applyDeprecated.
 
1184
 
 
1185
        :param a_callable: A callable to call.
 
1186
        :param args: The positional arguments for the callable
 
1187
        :param kwargs: The keyword arguments for the callable
 
1188
        :return: A tuple (warnings, result). result is the result of calling
 
1189
            a_callable(``*args``, ``**kwargs``).
 
1190
        """
 
1191
        local_warnings = []
 
1192
        def capture_warnings(msg, cls=None, stacklevel=None):
 
1193
            # we've hooked into a deprecation specific callpath,
 
1194
            # only deprecations should getting sent via it.
 
1195
            self.assertEqual(cls, DeprecationWarning)
 
1196
            local_warnings.append(msg)
 
1197
        original_warning_method = symbol_versioning.warn
 
1198
        symbol_versioning.set_warning_method(capture_warnings)
 
1199
        try:
 
1200
            result = a_callable(*args, **kwargs)
 
1201
        finally:
 
1202
            symbol_versioning.set_warning_method(original_warning_method)
 
1203
        return (local_warnings, result)
 
1204
 
 
1205
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
 
1206
        """Call a deprecated callable without warning the user.
 
1207
 
 
1208
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1209
        not other callers that go direct to the warning module.
 
1210
 
 
1211
        To test that a deprecated method raises an error, do something like
 
1212
        this::
 
1213
 
 
1214
            self.assertRaises(errors.ReservedId,
 
1215
                self.applyDeprecated,
 
1216
                deprecated_in((1, 5, 0)),
 
1217
                br.append_revision,
 
1218
                'current:')
 
1219
 
 
1220
        :param deprecation_format: The deprecation format that the callable
 
1221
            should have been deprecated with. This is the same type as the
 
1222
            parameter to deprecated_method/deprecated_function. If the
 
1223
            callable is not deprecated with this format, an assertion error
 
1224
            will be raised.
 
1225
        :param a_callable: A callable to call. This may be a bound method or
 
1226
            a regular function. It will be called with ``*args`` and
 
1227
            ``**kwargs``.
 
1228
        :param args: The positional arguments for the callable
 
1229
        :param kwargs: The keyword arguments for the callable
 
1230
        :return: The result of a_callable(``*args``, ``**kwargs``)
 
1231
        """
 
1232
        call_warnings, result = self._capture_deprecation_warnings(a_callable,
 
1233
            *args, **kwargs)
 
1234
        expected_first_warning = symbol_versioning.deprecation_string(
 
1235
            a_callable, deprecation_format)
 
1236
        if len(call_warnings) == 0:
 
1237
            self.fail("No deprecation warning generated by call to %s" %
 
1238
                a_callable)
 
1239
        self.assertEqual(expected_first_warning, call_warnings[0])
 
1240
        return result
 
1241
 
 
1242
    def callCatchWarnings(self, fn, *args, **kw):
 
1243
        """Call a callable that raises python warnings.
 
1244
 
 
1245
        The caller's responsible for examining the returned warnings.
 
1246
 
 
1247
        If the callable raises an exception, the exception is not
 
1248
        caught and propagates up to the caller.  In that case, the list
 
1249
        of warnings is not available.
 
1250
 
 
1251
        :returns: ([warning_object, ...], fn_result)
 
1252
        """
 
1253
        # XXX: This is not perfect, because it completely overrides the
 
1254
        # warnings filters, and some code may depend on suppressing particular
 
1255
        # warnings.  It's the easiest way to insulate ourselves from -Werror,
 
1256
        # though.  -- Andrew, 20071062
 
1257
        wlist = []
 
1258
        def _catcher(message, category, filename, lineno, file=None, line=None):
 
1259
            # despite the name, 'message' is normally(?) a Warning subclass
 
1260
            # instance
 
1261
            wlist.append(message)
 
1262
        saved_showwarning = warnings.showwarning
 
1263
        saved_filters = warnings.filters
 
1264
        try:
 
1265
            warnings.showwarning = _catcher
 
1266
            warnings.filters = []
 
1267
            result = fn(*args, **kw)
 
1268
        finally:
 
1269
            warnings.showwarning = saved_showwarning
 
1270
            warnings.filters = saved_filters
 
1271
        return wlist, result
 
1272
 
 
1273
    def callDeprecated(self, expected, callable, *args, **kwargs):
 
1274
        """Assert that a callable is deprecated in a particular way.
 
1275
 
 
1276
        This is a very precise test for unusual requirements. The
 
1277
        applyDeprecated helper function is probably more suited for most tests
 
1278
        as it allows you to simply specify the deprecation format being used
 
1279
        and will ensure that that is issued for the function being called.
 
1280
 
 
1281
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1282
        not other callers that go direct to the warning module.  To catch
 
1283
        general warnings, use callCatchWarnings.
 
1284
 
 
1285
        :param expected: a list of the deprecation warnings expected, in order
 
1286
        :param callable: The callable to call
 
1287
        :param args: The positional arguments for the callable
 
1288
        :param kwargs: The keyword arguments for the callable
 
1289
        """
 
1290
        call_warnings, result = self._capture_deprecation_warnings(callable,
 
1291
            *args, **kwargs)
 
1292
        self.assertEqual(expected, call_warnings)
 
1293
        return result
 
1294
 
 
1295
    def _startLogFile(self):
 
1296
        """Send bzr and test log messages to a temporary file.
 
1297
 
 
1298
        The file is removed as the test is torn down.
 
1299
        """
 
1300
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
 
1301
        self._log_file = os.fdopen(fileno, 'w+')
 
1302
        self._log_memento = bzrlib.trace.push_log_file(self._log_file)
 
1303
        self._log_file_name = name
 
1304
        self.addCleanup(self._finishLogFile)
 
1305
 
 
1306
    def _finishLogFile(self):
 
1307
        """Finished with the log file.
 
1308
 
 
1309
        Close the file and delete it, unless setKeepLogfile was called.
 
1310
        """
 
1311
        if self._log_file is None:
 
1312
            return
 
1313
        bzrlib.trace.pop_log_file(self._log_memento)
 
1314
        self._log_file.close()
 
1315
        self._log_file = None
 
1316
        if not self._keep_log_file:
 
1317
            os.remove(self._log_file_name)
 
1318
            self._log_file_name = None
 
1319
 
 
1320
    def setKeepLogfile(self):
 
1321
        """Make the logfile not be deleted when _finishLogFile is called."""
 
1322
        self._keep_log_file = True
 
1323
 
 
1324
    def addCleanup(self, callable, *args, **kwargs):
 
1325
        """Arrange to run a callable when this case is torn down.
 
1326
 
 
1327
        Callables are run in the reverse of the order they are registered,
 
1328
        ie last-in first-out.
 
1329
        """
 
1330
        self._cleanups.append((callable, args, kwargs))
 
1331
 
 
1332
    def _cleanEnvironment(self):
 
1333
        new_env = {
 
1334
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
 
1335
            'HOME': os.getcwd(),
 
1336
            # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
 
1337
            # tests do check our impls match APPDATA
 
1338
            'BZR_EDITOR': None, # test_msgeditor manipulates this variable
 
1339
            'VISUAL': None,
 
1340
            'EDITOR': None,
 
1341
            'BZR_EMAIL': None,
 
1342
            'BZREMAIL': None, # may still be present in the environment
 
1343
            'EMAIL': None,
 
1344
            'BZR_PROGRESS_BAR': None,
 
1345
            'BZR_LOG': None,
 
1346
            'BZR_PLUGIN_PATH': None,
 
1347
            # Make sure that any text ui tests are consistent regardless of
 
1348
            # the environment the test case is run in; you may want tests that
 
1349
            # test other combinations.  'dumb' is a reasonable guess for tests
 
1350
            # going to a pipe or a StringIO.
 
1351
            'TERM': 'dumb',
 
1352
            'LINES': '25',
 
1353
            'COLUMNS': '80',
 
1354
            # SSH Agent
 
1355
            'SSH_AUTH_SOCK': None,
 
1356
            # Proxies
 
1357
            'http_proxy': None,
 
1358
            'HTTP_PROXY': None,
 
1359
            'https_proxy': None,
 
1360
            'HTTPS_PROXY': None,
 
1361
            'no_proxy': None,
 
1362
            'NO_PROXY': None,
 
1363
            'all_proxy': None,
 
1364
            'ALL_PROXY': None,
 
1365
            # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
 
1366
            # least. If you do (care), please update this comment
 
1367
            # -- vila 20080401
 
1368
            'ftp_proxy': None,
 
1369
            'FTP_PROXY': None,
 
1370
            'BZR_REMOTE_PATH': None,
 
1371
        }
 
1372
        self.__old_env = {}
 
1373
        self.addCleanup(self._restoreEnvironment)
 
1374
        for name, value in new_env.iteritems():
 
1375
            self._captureVar(name, value)
 
1376
 
 
1377
    def _captureVar(self, name, newvalue):
 
1378
        """Set an environment variable, and reset it when finished."""
 
1379
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
 
1380
 
 
1381
    def _restore_debug_flags(self):
 
1382
        debug.debug_flags.clear()
 
1383
        debug.debug_flags.update(self._preserved_debug_flags)
 
1384
 
 
1385
    def _restoreEnvironment(self):
 
1386
        for name, value in self.__old_env.iteritems():
 
1387
            osutils.set_or_unset_env(name, value)
 
1388
 
 
1389
    def _restoreHooks(self):
 
1390
        for klass, (name, hooks) in self._preserved_hooks.items():
 
1391
            setattr(klass, name, hooks)
 
1392
 
 
1393
    def knownFailure(self, reason):
 
1394
        """This test has failed for some known reason."""
 
1395
        raise KnownFailure(reason)
 
1396
 
 
1397
    def _do_skip(self, result, reason):
 
1398
        addSkip = getattr(result, 'addSkip', None)
 
1399
        if not callable(addSkip):
 
1400
            result.addError(self, sys.exc_info())
 
1401
        else:
 
1402
            addSkip(self, reason)
 
1403
 
 
1404
    def run(self, result=None):
 
1405
        if result is None: result = self.defaultTestResult()
 
1406
        for feature in getattr(self, '_test_needs_features', []):
 
1407
            if not feature.available():
 
1408
                result.startTest(self)
 
1409
                if getattr(result, 'addNotSupported', None):
 
1410
                    result.addNotSupported(self, feature)
 
1411
                else:
 
1412
                    result.addSuccess(self)
 
1413
                result.stopTest(self)
 
1414
                return result
 
1415
        try:
 
1416
            try:
 
1417
                result.startTest(self)
 
1418
                absent_attr = object()
 
1419
                # Python 2.5
 
1420
                method_name = getattr(self, '_testMethodName', absent_attr)
 
1421
                if method_name is absent_attr:
 
1422
                    # Python 2.4
 
1423
                    method_name = getattr(self, '_TestCase__testMethodName')
 
1424
                testMethod = getattr(self, method_name)
 
1425
                try:
 
1426
                    try:
 
1427
                        self.setUp()
 
1428
                        if not self._bzr_test_setUp_run:
 
1429
                            self.fail(
 
1430
                                "test setUp did not invoke "
 
1431
                                "bzrlib.tests.TestCase's setUp")
 
1432
                    except KeyboardInterrupt:
 
1433
                        self._runCleanups()
 
1434
                        raise
 
1435
                    except TestSkipped, e:
 
1436
                        self._do_skip(result, e.args[0])
 
1437
                        self.tearDown()
 
1438
                        return result
 
1439
                    except:
 
1440
                        result.addError(self, sys.exc_info())
 
1441
                        self._runCleanups()
 
1442
                        return result
 
1443
 
 
1444
                    ok = False
 
1445
                    try:
 
1446
                        testMethod()
 
1447
                        ok = True
 
1448
                    except self.failureException:
 
1449
                        result.addFailure(self, sys.exc_info())
 
1450
                    except TestSkipped, e:
 
1451
                        if not e.args:
 
1452
                            reason = "No reason given."
 
1453
                        else:
 
1454
                            reason = e.args[0]
 
1455
                        self._do_skip(result, reason)
 
1456
                    except KeyboardInterrupt:
 
1457
                        self._runCleanups()
 
1458
                        raise
 
1459
                    except:
 
1460
                        result.addError(self, sys.exc_info())
 
1461
 
 
1462
                    try:
 
1463
                        self.tearDown()
 
1464
                        if not self._bzr_test_tearDown_run:
 
1465
                            self.fail(
 
1466
                                "test tearDown did not invoke "
 
1467
                                "bzrlib.tests.TestCase's tearDown")
 
1468
                    except KeyboardInterrupt:
 
1469
                        self._runCleanups()
 
1470
                        raise
 
1471
                    except:
 
1472
                        result.addError(self, sys.exc_info())
 
1473
                        self._runCleanups()
 
1474
                        ok = False
 
1475
                    if ok: result.addSuccess(self)
 
1476
                finally:
 
1477
                    result.stopTest(self)
 
1478
                return result
 
1479
            except TestNotApplicable:
 
1480
                # Not moved from the result [yet].
 
1481
                self._runCleanups()
 
1482
                raise
 
1483
            except KeyboardInterrupt:
 
1484
                self._runCleanups()
 
1485
                raise
 
1486
        finally:
 
1487
            saved_attrs = {}
 
1488
            for attr_name in self.attrs_to_keep:
 
1489
                if attr_name in self.__dict__:
 
1490
                    saved_attrs[attr_name] = self.__dict__[attr_name]
 
1491
            self.__dict__ = saved_attrs
 
1492
 
 
1493
    def tearDown(self):
 
1494
        self._runCleanups()
 
1495
        self._log_contents = ''
 
1496
        self._bzr_test_tearDown_run = True
 
1497
        unittest.TestCase.tearDown(self)
 
1498
 
 
1499
    def time(self, callable, *args, **kwargs):
 
1500
        """Run callable and accrue the time it takes to the benchmark time.
 
1501
 
 
1502
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
 
1503
        this will cause lsprofile statistics to be gathered and stored in
 
1504
        self._benchcalls.
 
1505
        """
 
1506
        if self._benchtime is None:
 
1507
            self._benchtime = 0
 
1508
        start = time.time()
 
1509
        try:
 
1510
            if not self._gather_lsprof_in_benchmarks:
 
1511
                return callable(*args, **kwargs)
 
1512
            else:
 
1513
                # record this benchmark
 
1514
                ret, stats = bzrlib.lsprof.profile(callable, *args, **kwargs)
 
1515
                stats.sort()
 
1516
                self._benchcalls.append(((callable, args, kwargs), stats))
 
1517
                return ret
 
1518
        finally:
 
1519
            self._benchtime += time.time() - start
 
1520
 
 
1521
    def _runCleanups(self):
 
1522
        """Run registered cleanup functions.
 
1523
 
 
1524
        This should only be called from TestCase.tearDown.
 
1525
        """
 
1526
        # TODO: Perhaps this should keep running cleanups even if
 
1527
        # one of them fails?
 
1528
 
 
1529
        # Actually pop the cleanups from the list so tearDown running
 
1530
        # twice is safe (this happens for skipped tests).
 
1531
        while self._cleanups:
 
1532
            cleanup, args, kwargs = self._cleanups.pop()
 
1533
            cleanup(*args, **kwargs)
 
1534
 
 
1535
    def log(self, *args):
 
1536
        mutter(*args)
 
1537
 
 
1538
    def _get_log(self, keep_log_file=False):
 
1539
        """Get the log from bzrlib.trace calls from this test.
 
1540
 
 
1541
        :param keep_log_file: When True, if the log is still a file on disk
 
1542
            leave it as a file on disk. When False, if the log is still a file
 
1543
            on disk, the log file is deleted and the log preserved as
 
1544
            self._log_contents.
 
1545
        :return: A string containing the log.
 
1546
        """
 
1547
        # flush the log file, to get all content
 
1548
        import bzrlib.trace
 
1549
        if bzrlib.trace._trace_file:
 
1550
            bzrlib.trace._trace_file.flush()
 
1551
        if self._log_contents:
 
1552
            # XXX: this can hardly contain the content flushed above --vila
 
1553
            # 20080128
 
1554
            return self._log_contents
 
1555
        if self._log_file_name is not None:
 
1556
            logfile = open(self._log_file_name)
 
1557
            try:
 
1558
                log_contents = logfile.read()
 
1559
            finally:
 
1560
                logfile.close()
 
1561
            if not keep_log_file:
 
1562
                self._log_contents = log_contents
 
1563
                try:
 
1564
                    os.remove(self._log_file_name)
 
1565
                except OSError, e:
 
1566
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
 
1567
                        sys.stderr.write(('Unable to delete log file '
 
1568
                                             ' %r\n' % self._log_file_name))
 
1569
                    else:
 
1570
                        raise
 
1571
            return log_contents
 
1572
        else:
 
1573
            return "DELETED log file to reduce memory footprint"
 
1574
 
 
1575
    def requireFeature(self, feature):
 
1576
        """This test requires a specific feature is available.
 
1577
 
 
1578
        :raises UnavailableFeature: When feature is not available.
 
1579
        """
 
1580
        if not feature.available():
 
1581
            raise UnavailableFeature(feature)
 
1582
 
 
1583
    def _run_bzr_autosplit(self, args, retcode, encoding, stdin,
 
1584
            working_dir):
 
1585
        """Run bazaar command line, splitting up a string command line."""
 
1586
        if isinstance(args, basestring):
 
1587
            # shlex don't understand unicode strings,
 
1588
            # so args should be plain string (bialix 20070906)
 
1589
            args = list(shlex.split(str(args)))
 
1590
        return self._run_bzr_core(args, retcode=retcode,
 
1591
                encoding=encoding, stdin=stdin, working_dir=working_dir,
 
1592
                )
 
1593
 
 
1594
    def _run_bzr_core(self, args, retcode, encoding, stdin,
 
1595
            working_dir):
 
1596
        if encoding is None:
 
1597
            encoding = osutils.get_user_encoding()
 
1598
        stdout = StringIOWrapper()
 
1599
        stderr = StringIOWrapper()
 
1600
        stdout.encoding = encoding
 
1601
        stderr.encoding = encoding
 
1602
 
 
1603
        self.log('run bzr: %r', args)
 
1604
        # FIXME: don't call into logging here
 
1605
        handler = logging.StreamHandler(stderr)
 
1606
        handler.setLevel(logging.INFO)
 
1607
        logger = logging.getLogger('')
 
1608
        logger.addHandler(handler)
 
1609
        old_ui_factory = ui.ui_factory
 
1610
        ui.ui_factory = TestUIFactory(stdin=stdin, stdout=stdout, stderr=stderr)
 
1611
 
 
1612
        cwd = None
 
1613
        if working_dir is not None:
 
1614
            cwd = osutils.getcwd()
 
1615
            os.chdir(working_dir)
 
1616
 
 
1617
        try:
 
1618
            result = self.apply_redirected(ui.ui_factory.stdin,
 
1619
                stdout, stderr,
 
1620
                bzrlib.commands.run_bzr_catch_user_errors,
 
1621
                args)
 
1622
        finally:
 
1623
            logger.removeHandler(handler)
 
1624
            ui.ui_factory = old_ui_factory
 
1625
            if cwd is not None:
 
1626
                os.chdir(cwd)
 
1627
 
 
1628
        out = stdout.getvalue()
 
1629
        err = stderr.getvalue()
 
1630
        if out:
 
1631
            self.log('output:\n%r', out)
 
1632
        if err:
 
1633
            self.log('errors:\n%r', err)
 
1634
        if retcode is not None:
 
1635
            self.assertEquals(retcode, result,
 
1636
                              message='Unexpected return code')
 
1637
        return out, err
 
1638
 
 
1639
    def run_bzr(self, args, retcode=0, encoding=None, stdin=None,
 
1640
                working_dir=None, error_regexes=[], output_encoding=None):
 
1641
        """Invoke bzr, as if it were run from the command line.
 
1642
 
 
1643
        The argument list should not include the bzr program name - the
 
1644
        first argument is normally the bzr command.  Arguments may be
 
1645
        passed in three ways:
 
1646
 
 
1647
        1- A list of strings, eg ["commit", "a"].  This is recommended
 
1648
        when the command contains whitespace or metacharacters, or
 
1649
        is built up at run time.
 
1650
 
 
1651
        2- A single string, eg "add a".  This is the most convenient
 
1652
        for hardcoded commands.
 
1653
 
 
1654
        This runs bzr through the interface that catches and reports
 
1655
        errors, and with logging set to something approximating the
 
1656
        default, so that error reporting can be checked.
 
1657
 
 
1658
        This should be the main method for tests that want to exercise the
 
1659
        overall behavior of the bzr application (rather than a unit test
 
1660
        or a functional test of the library.)
 
1661
 
 
1662
        This sends the stdout/stderr results into the test's log,
 
1663
        where it may be useful for debugging.  See also run_captured.
 
1664
 
 
1665
        :keyword stdin: A string to be used as stdin for the command.
 
1666
        :keyword retcode: The status code the command should return;
 
1667
            default 0.
 
1668
        :keyword working_dir: The directory to run the command in
 
1669
        :keyword error_regexes: A list of expected error messages.  If
 
1670
            specified they must be seen in the error output of the command.
 
1671
        """
 
1672
        out, err = self._run_bzr_autosplit(
 
1673
            args=args,
 
1674
            retcode=retcode,
 
1675
            encoding=encoding,
 
1676
            stdin=stdin,
 
1677
            working_dir=working_dir,
 
1678
            )
 
1679
        self.assertIsInstance(error_regexes, (list, tuple))
 
1680
        for regex in error_regexes:
 
1681
            self.assertContainsRe(err, regex)
 
1682
        return out, err
 
1683
 
 
1684
    def run_bzr_error(self, error_regexes, *args, **kwargs):
 
1685
        """Run bzr, and check that stderr contains the supplied regexes
 
1686
 
 
1687
        :param error_regexes: Sequence of regular expressions which
 
1688
            must each be found in the error output. The relative ordering
 
1689
            is not enforced.
 
1690
        :param args: command-line arguments for bzr
 
1691
        :param kwargs: Keyword arguments which are interpreted by run_bzr
 
1692
            This function changes the default value of retcode to be 3,
 
1693
            since in most cases this is run when you expect bzr to fail.
 
1694
 
 
1695
        :return: (out, err) The actual output of running the command (in case
 
1696
            you want to do more inspection)
 
1697
 
 
1698
        Examples of use::
 
1699
 
 
1700
            # Make sure that commit is failing because there is nothing to do
 
1701
            self.run_bzr_error(['no changes to commit'],
 
1702
                               ['commit', '-m', 'my commit comment'])
 
1703
            # Make sure --strict is handling an unknown file, rather than
 
1704
            # giving us the 'nothing to do' error
 
1705
            self.build_tree(['unknown'])
 
1706
            self.run_bzr_error(['Commit refused because there are unknown files'],
 
1707
                               ['commit', --strict', '-m', 'my commit comment'])
 
1708
        """
 
1709
        kwargs.setdefault('retcode', 3)
 
1710
        kwargs['error_regexes'] = error_regexes
 
1711
        out, err = self.run_bzr(*args, **kwargs)
 
1712
        return out, err
 
1713
 
 
1714
    def run_bzr_subprocess(self, *args, **kwargs):
 
1715
        """Run bzr in a subprocess for testing.
 
1716
 
 
1717
        This starts a new Python interpreter and runs bzr in there.
 
1718
        This should only be used for tests that have a justifiable need for
 
1719
        this isolation: e.g. they are testing startup time, or signal
 
1720
        handling, or early startup code, etc.  Subprocess code can't be
 
1721
        profiled or debugged so easily.
 
1722
 
 
1723
        :keyword retcode: The status code that is expected.  Defaults to 0.  If
 
1724
            None is supplied, the status code is not checked.
 
1725
        :keyword env_changes: A dictionary which lists changes to environment
 
1726
            variables. A value of None will unset the env variable.
 
1727
            The values must be strings. The change will only occur in the
 
1728
            child, so you don't need to fix the environment after running.
 
1729
        :keyword universal_newlines: Convert CRLF => LF
 
1730
        :keyword allow_plugins: By default the subprocess is run with
 
1731
            --no-plugins to ensure test reproducibility. Also, it is possible
 
1732
            for system-wide plugins to create unexpected output on stderr,
 
1733
            which can cause unnecessary test failures.
 
1734
        """
 
1735
        env_changes = kwargs.get('env_changes', {})
 
1736
        working_dir = kwargs.get('working_dir', None)
 
1737
        allow_plugins = kwargs.get('allow_plugins', False)
 
1738
        if len(args) == 1:
 
1739
            if isinstance(args[0], list):
 
1740
                args = args[0]
 
1741
            elif isinstance(args[0], basestring):
 
1742
                args = list(shlex.split(args[0]))
 
1743
        else:
 
1744
            raise ValueError("passing varargs to run_bzr_subprocess")
 
1745
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
 
1746
                                            working_dir=working_dir,
 
1747
                                            allow_plugins=allow_plugins)
 
1748
        # We distinguish between retcode=None and retcode not passed.
 
1749
        supplied_retcode = kwargs.get('retcode', 0)
 
1750
        return self.finish_bzr_subprocess(process, retcode=supplied_retcode,
 
1751
            universal_newlines=kwargs.get('universal_newlines', False),
 
1752
            process_args=args)
 
1753
 
 
1754
    def start_bzr_subprocess(self, process_args, env_changes=None,
 
1755
                             skip_if_plan_to_signal=False,
 
1756
                             working_dir=None,
 
1757
                             allow_plugins=False):
 
1758
        """Start bzr in a subprocess for testing.
 
1759
 
 
1760
        This starts a new Python interpreter and runs bzr in there.
 
1761
        This should only be used for tests that have a justifiable need for
 
1762
        this isolation: e.g. they are testing startup time, or signal
 
1763
        handling, or early startup code, etc.  Subprocess code can't be
 
1764
        profiled or debugged so easily.
 
1765
 
 
1766
        :param process_args: a list of arguments to pass to the bzr executable,
 
1767
            for example ``['--version']``.
 
1768
        :param env_changes: A dictionary which lists changes to environment
 
1769
            variables. A value of None will unset the env variable.
 
1770
            The values must be strings. The change will only occur in the
 
1771
            child, so you don't need to fix the environment after running.
 
1772
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
 
1773
            is not available.
 
1774
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
1775
 
 
1776
        :returns: Popen object for the started process.
 
1777
        """
 
1778
        if skip_if_plan_to_signal:
 
1779
            if not getattr(os, 'kill', None):
 
1780
                raise TestSkipped("os.kill not available.")
 
1781
 
 
1782
        if env_changes is None:
 
1783
            env_changes = {}
 
1784
        old_env = {}
 
1785
 
 
1786
        def cleanup_environment():
 
1787
            for env_var, value in env_changes.iteritems():
 
1788
                old_env[env_var] = osutils.set_or_unset_env(env_var, value)
 
1789
 
 
1790
        def restore_environment():
 
1791
            for env_var, value in old_env.iteritems():
 
1792
                osutils.set_or_unset_env(env_var, value)
 
1793
 
 
1794
        bzr_path = self.get_bzr_path()
 
1795
 
 
1796
        cwd = None
 
1797
        if working_dir is not None:
 
1798
            cwd = osutils.getcwd()
 
1799
            os.chdir(working_dir)
 
1800
 
 
1801
        try:
 
1802
            # win32 subprocess doesn't support preexec_fn
 
1803
            # so we will avoid using it on all platforms, just to
 
1804
            # make sure the code path is used, and we don't break on win32
 
1805
            cleanup_environment()
 
1806
            command = [sys.executable]
 
1807
            # frozen executables don't need the path to bzr
 
1808
            if getattr(sys, "frozen", None) is None:
 
1809
                command.append(bzr_path)
 
1810
            if not allow_plugins:
 
1811
                command.append('--no-plugins')
 
1812
            command.extend(process_args)
 
1813
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
1814
        finally:
 
1815
            restore_environment()
 
1816
            if cwd is not None:
 
1817
                os.chdir(cwd)
 
1818
 
 
1819
        return process
 
1820
 
 
1821
    def _popen(self, *args, **kwargs):
 
1822
        """Place a call to Popen.
 
1823
 
 
1824
        Allows tests to override this method to intercept the calls made to
 
1825
        Popen for introspection.
 
1826
        """
 
1827
        return Popen(*args, **kwargs)
 
1828
 
 
1829
    def get_bzr_path(self):
 
1830
        """Return the path of the 'bzr' executable for this test suite."""
 
1831
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
1832
        if not os.path.isfile(bzr_path):
 
1833
            # We are probably installed. Assume sys.argv is the right file
 
1834
            bzr_path = sys.argv[0]
 
1835
        return bzr_path
 
1836
 
 
1837
    def finish_bzr_subprocess(self, process, retcode=0, send_signal=None,
 
1838
                              universal_newlines=False, process_args=None):
 
1839
        """Finish the execution of process.
 
1840
 
 
1841
        :param process: the Popen object returned from start_bzr_subprocess.
 
1842
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
1843
            None is supplied, the status code is not checked.
 
1844
        :param send_signal: an optional signal to send to the process.
 
1845
        :param universal_newlines: Convert CRLF => LF
 
1846
        :returns: (stdout, stderr)
 
1847
        """
 
1848
        if send_signal is not None:
 
1849
            os.kill(process.pid, send_signal)
 
1850
        out, err = process.communicate()
 
1851
 
 
1852
        if universal_newlines:
 
1853
            out = out.replace('\r\n', '\n')
 
1854
            err = err.replace('\r\n', '\n')
 
1855
 
 
1856
        if retcode is not None and retcode != process.returncode:
 
1857
            if process_args is None:
 
1858
                process_args = "(unknown args)"
 
1859
            mutter('Output of bzr %s:\n%s', process_args, out)
 
1860
            mutter('Error for bzr %s:\n%s', process_args, err)
 
1861
            self.fail('Command bzr %s failed with retcode %s != %s'
 
1862
                      % (process_args, retcode, process.returncode))
 
1863
        return [out, err]
 
1864
 
 
1865
    def check_inventory_shape(self, inv, shape):
 
1866
        """Compare an inventory to a list of expected names.
 
1867
 
 
1868
        Fail if they are not precisely equal.
 
1869
        """
 
1870
        extras = []
 
1871
        shape = list(shape)             # copy
 
1872
        for path, ie in inv.entries():
 
1873
            name = path.replace('\\', '/')
 
1874
            if ie.kind == 'directory':
 
1875
                name = name + '/'
 
1876
            if name in shape:
 
1877
                shape.remove(name)
 
1878
            else:
 
1879
                extras.append(name)
 
1880
        if shape:
 
1881
            self.fail("expected paths not found in inventory: %r" % shape)
 
1882
        if extras:
 
1883
            self.fail("unexpected paths found in inventory: %r" % extras)
 
1884
 
 
1885
    def apply_redirected(self, stdin=None, stdout=None, stderr=None,
 
1886
                         a_callable=None, *args, **kwargs):
 
1887
        """Call callable with redirected std io pipes.
 
1888
 
 
1889
        Returns the return code."""
 
1890
        if not callable(a_callable):
 
1891
            raise ValueError("a_callable must be callable.")
 
1892
        if stdin is None:
 
1893
            stdin = StringIO("")
 
1894
        if stdout is None:
 
1895
            if getattr(self, "_log_file", None) is not None:
 
1896
                stdout = self._log_file
 
1897
            else:
 
1898
                stdout = StringIO()
 
1899
        if stderr is None:
 
1900
            if getattr(self, "_log_file", None is not None):
 
1901
                stderr = self._log_file
 
1902
            else:
 
1903
                stderr = StringIO()
 
1904
        real_stdin = sys.stdin
 
1905
        real_stdout = sys.stdout
 
1906
        real_stderr = sys.stderr
 
1907
        try:
 
1908
            sys.stdout = stdout
 
1909
            sys.stderr = stderr
 
1910
            sys.stdin = stdin
 
1911
            return a_callable(*args, **kwargs)
 
1912
        finally:
 
1913
            sys.stdout = real_stdout
 
1914
            sys.stderr = real_stderr
 
1915
            sys.stdin = real_stdin
 
1916
 
 
1917
    def reduceLockdirTimeout(self):
 
1918
        """Reduce the default lock timeout for the duration of the test, so that
 
1919
        if LockContention occurs during a test, it does so quickly.
 
1920
 
 
1921
        Tests that expect to provoke LockContention errors should call this.
 
1922
        """
 
1923
        orig_timeout = bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS
 
1924
        def resetTimeout():
 
1925
            bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = orig_timeout
 
1926
        self.addCleanup(resetTimeout)
 
1927
        bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = 0
 
1928
 
 
1929
    def make_utf8_encoded_stringio(self, encoding_type=None):
 
1930
        """Return a StringIOWrapper instance, that will encode Unicode
 
1931
        input to UTF-8.
 
1932
        """
 
1933
        if encoding_type is None:
 
1934
            encoding_type = 'strict'
 
1935
        sio = StringIO()
 
1936
        output_encoding = 'utf-8'
 
1937
        sio = codecs.getwriter(output_encoding)(sio, errors=encoding_type)
 
1938
        sio.encoding = output_encoding
 
1939
        return sio
 
1940
 
 
1941
    def disable_verb(self, verb):
 
1942
        """Disable a smart server verb for one test."""
 
1943
        from bzrlib.smart import request
 
1944
        request_handlers = request.request_handlers
 
1945
        orig_method = request_handlers.get(verb)
 
1946
        request_handlers.remove(verb)
 
1947
        def restoreVerb():
 
1948
            request_handlers.register(verb, orig_method)
 
1949
        self.addCleanup(restoreVerb)
 
1950
 
 
1951
 
 
1952
class CapturedCall(object):
 
1953
    """A helper for capturing smart server calls for easy debug analysis."""
 
1954
 
 
1955
    def __init__(self, params, prefix_length):
 
1956
        """Capture the call with params and skip prefix_length stack frames."""
 
1957
        self.call = params
 
1958
        import traceback
 
1959
        # The last 5 frames are the __init__, the hook frame, and 3 smart
 
1960
        # client frames. Beyond this we could get more clever, but this is good
 
1961
        # enough for now.
 
1962
        stack = traceback.extract_stack()[prefix_length:-5]
 
1963
        self.stack = ''.join(traceback.format_list(stack))
 
1964
 
 
1965
    def __str__(self):
 
1966
        return self.call.method
 
1967
 
 
1968
    def __repr__(self):
 
1969
        return self.call.method
 
1970
 
 
1971
    def stack(self):
 
1972
        return self.stack
 
1973
 
 
1974
 
 
1975
class TestCaseWithMemoryTransport(TestCase):
 
1976
    """Common test class for tests that do not need disk resources.
 
1977
 
 
1978
    Tests that need disk resources should derive from TestCaseWithTransport.
 
1979
 
 
1980
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
 
1981
 
 
1982
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
1983
    a directory which does not exist. This serves to help ensure test isolation
 
1984
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
 
1985
    must exist. However, TestCaseWithMemoryTransport does not offer local
 
1986
    file defaults for the transport in tests, nor does it obey the command line
 
1987
    override, so tests that accidentally write to the common directory should
 
1988
    be rare.
 
1989
 
 
1990
    :cvar TEST_ROOT: Directory containing all temporary directories, plus
 
1991
    a .bzr directory that stops us ascending higher into the filesystem.
 
1992
    """
 
1993
 
 
1994
    TEST_ROOT = None
 
1995
    _TEST_NAME = 'test'
 
1996
 
 
1997
    def __init__(self, methodName='runTest'):
 
1998
        # allow test parameterization after test construction and before test
 
1999
        # execution. Variables that the parameterizer sets need to be
 
2000
        # ones that are not set by setUp, or setUp will trash them.
 
2001
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
 
2002
        self.vfs_transport_factory = default_transport
 
2003
        self.transport_server = None
 
2004
        self.transport_readonly_server = None
 
2005
        self.__vfs_server = None
 
2006
 
 
2007
    def get_transport(self, relpath=None):
 
2008
        """Return a writeable transport.
 
2009
 
 
2010
        This transport is for the test scratch space relative to
 
2011
        "self._test_root"
 
2012
 
 
2013
        :param relpath: a path relative to the base url.
 
2014
        """
 
2015
        t = get_transport(self.get_url(relpath))
 
2016
        self.assertFalse(t.is_readonly())
 
2017
        return t
 
2018
 
 
2019
    def get_readonly_transport(self, relpath=None):
 
2020
        """Return a readonly transport for the test scratch space
 
2021
 
 
2022
        This can be used to test that operations which should only need
 
2023
        readonly access in fact do not try to write.
 
2024
 
 
2025
        :param relpath: a path relative to the base url.
 
2026
        """
 
2027
        t = get_transport(self.get_readonly_url(relpath))
 
2028
        self.assertTrue(t.is_readonly())
 
2029
        return t
 
2030
 
 
2031
    def create_transport_readonly_server(self):
 
2032
        """Create a transport server from class defined at init.
 
2033
 
 
2034
        This is mostly a hook for daughter classes.
 
2035
        """
 
2036
        return self.transport_readonly_server()
 
2037
 
 
2038
    def get_readonly_server(self):
 
2039
        """Get the server instance for the readonly transport
 
2040
 
 
2041
        This is useful for some tests with specific servers to do diagnostics.
 
2042
        """
 
2043
        if self.__readonly_server is None:
 
2044
            if self.transport_readonly_server is None:
 
2045
                # readonly decorator requested
 
2046
                # bring up the server
 
2047
                self.__readonly_server = ReadonlyServer()
 
2048
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
2049
            else:
 
2050
                self.__readonly_server = self.create_transport_readonly_server()
 
2051
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
2052
            self.addCleanup(self.__readonly_server.tearDown)
 
2053
        return self.__readonly_server
 
2054
 
 
2055
    def get_readonly_url(self, relpath=None):
 
2056
        """Get a URL for the readonly transport.
 
2057
 
 
2058
        This will either be backed by '.' or a decorator to the transport
 
2059
        used by self.get_url()
 
2060
        relpath provides for clients to get a path relative to the base url.
 
2061
        These should only be downwards relative, not upwards.
 
2062
        """
 
2063
        base = self.get_readonly_server().get_url()
 
2064
        return self._adjust_url(base, relpath)
 
2065
 
 
2066
    def get_vfs_only_server(self):
 
2067
        """Get the vfs only read/write server instance.
 
2068
 
 
2069
        This is useful for some tests with specific servers that need
 
2070
        diagnostics.
 
2071
 
 
2072
        For TestCaseWithMemoryTransport this is always a MemoryServer, and there
 
2073
        is no means to override it.
 
2074
        """
 
2075
        if self.__vfs_server is None:
 
2076
            self.__vfs_server = MemoryServer()
 
2077
            self.__vfs_server.setUp()
 
2078
            self.addCleanup(self.__vfs_server.tearDown)
 
2079
        return self.__vfs_server
 
2080
 
 
2081
    def get_server(self):
 
2082
        """Get the read/write server instance.
 
2083
 
 
2084
        This is useful for some tests with specific servers that need
 
2085
        diagnostics.
 
2086
 
 
2087
        This is built from the self.transport_server factory. If that is None,
 
2088
        then the self.get_vfs_server is returned.
 
2089
        """
 
2090
        if self.__server is None:
 
2091
            if self.transport_server is None or self.transport_server is self.vfs_transport_factory:
 
2092
                return self.get_vfs_only_server()
 
2093
            else:
 
2094
                # bring up a decorated means of access to the vfs only server.
 
2095
                self.__server = self.transport_server()
 
2096
                try:
 
2097
                    self.__server.setUp(self.get_vfs_only_server())
 
2098
                except TypeError, e:
 
2099
                    # This should never happen; the try:Except here is to assist
 
2100
                    # developers having to update code rather than seeing an
 
2101
                    # uninformative TypeError.
 
2102
                    raise Exception, "Old server API in use: %s, %s" % (self.__server, e)
 
2103
            self.addCleanup(self.__server.tearDown)
 
2104
        return self.__server
 
2105
 
 
2106
    def _adjust_url(self, base, relpath):
 
2107
        """Get a URL (or maybe a path) for the readwrite transport.
 
2108
 
 
2109
        This will either be backed by '.' or to an equivalent non-file based
 
2110
        facility.
 
2111
        relpath provides for clients to get a path relative to the base url.
 
2112
        These should only be downwards relative, not upwards.
 
2113
        """
 
2114
        if relpath is not None and relpath != '.':
 
2115
            if not base.endswith('/'):
 
2116
                base = base + '/'
 
2117
            # XXX: Really base should be a url; we did after all call
 
2118
            # get_url()!  But sometimes it's just a path (from
 
2119
            # LocalAbspathServer), and it'd be wrong to append urlescaped data
 
2120
            # to a non-escaped local path.
 
2121
            if base.startswith('./') or base.startswith('/'):
 
2122
                base += relpath
 
2123
            else:
 
2124
                base += urlutils.escape(relpath)
 
2125
        return base
 
2126
 
 
2127
    def get_url(self, relpath=None):
 
2128
        """Get a URL (or maybe a path) for the readwrite transport.
 
2129
 
 
2130
        This will either be backed by '.' or to an equivalent non-file based
 
2131
        facility.
 
2132
        relpath provides for clients to get a path relative to the base url.
 
2133
        These should only be downwards relative, not upwards.
 
2134
        """
 
2135
        base = self.get_server().get_url()
 
2136
        return self._adjust_url(base, relpath)
 
2137
 
 
2138
    def get_vfs_only_url(self, relpath=None):
 
2139
        """Get a URL (or maybe a path for the plain old vfs transport.
 
2140
 
 
2141
        This will never be a smart protocol.  It always has all the
 
2142
        capabilities of the local filesystem, but it might actually be a
 
2143
        MemoryTransport or some other similar virtual filesystem.
 
2144
 
 
2145
        This is the backing transport (if any) of the server returned by
 
2146
        get_url and get_readonly_url.
 
2147
 
 
2148
        :param relpath: provides for clients to get a path relative to the base
 
2149
            url.  These should only be downwards relative, not upwards.
 
2150
        :return: A URL
 
2151
        """
 
2152
        base = self.get_vfs_only_server().get_url()
 
2153
        return self._adjust_url(base, relpath)
 
2154
 
 
2155
    def _create_safety_net(self):
 
2156
        """Make a fake bzr directory.
 
2157
 
 
2158
        This prevents any tests propagating up onto the TEST_ROOT directory's
 
2159
        real branch.
 
2160
        """
 
2161
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
2162
        bzrdir.BzrDir.create_standalone_workingtree(root)
 
2163
 
 
2164
    def _check_safety_net(self):
 
2165
        """Check that the safety .bzr directory have not been touched.
 
2166
 
 
2167
        _make_test_root have created a .bzr directory to prevent tests from
 
2168
        propagating. This method ensures than a test did not leaked.
 
2169
        """
 
2170
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
2171
        wt = workingtree.WorkingTree.open(root)
 
2172
        last_rev = wt.last_revision()
 
2173
        if last_rev != 'null:':
 
2174
            # The current test have modified the /bzr directory, we need to
 
2175
            # recreate a new one or all the followng tests will fail.
 
2176
            # If you need to inspect its content uncomment the following line
 
2177
            # import pdb; pdb.set_trace()
 
2178
            _rmtree_temp_dir(root + '/.bzr')
 
2179
            self._create_safety_net()
 
2180
            raise AssertionError('%s/.bzr should not be modified' % root)
 
2181
 
 
2182
    def _make_test_root(self):
 
2183
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
 
2184
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
 
2185
            TestCaseWithMemoryTransport.TEST_ROOT = root
 
2186
 
 
2187
            self._create_safety_net()
 
2188
 
 
2189
            # The same directory is used by all tests, and we're not
 
2190
            # specifically told when all tests are finished.  This will do.
 
2191
            atexit.register(_rmtree_temp_dir, root)
 
2192
 
 
2193
        self.addCleanup(self._check_safety_net)
 
2194
 
 
2195
    def makeAndChdirToTestDir(self):
 
2196
        """Create a temporary directories for this one test.
 
2197
 
 
2198
        This must set self.test_home_dir and self.test_dir and chdir to
 
2199
        self.test_dir.
 
2200
 
 
2201
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
 
2202
        """
 
2203
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
2204
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
 
2205
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
 
2206
 
 
2207
    def make_branch(self, relpath, format=None):
 
2208
        """Create a branch on the transport at relpath."""
 
2209
        repo = self.make_repository(relpath, format=format)
 
2210
        return repo.bzrdir.create_branch()
 
2211
 
 
2212
    def make_bzrdir(self, relpath, format=None):
 
2213
        try:
 
2214
            # might be a relative or absolute path
 
2215
            maybe_a_url = self.get_url(relpath)
 
2216
            segments = maybe_a_url.rsplit('/', 1)
 
2217
            t = get_transport(maybe_a_url)
 
2218
            if len(segments) > 1 and segments[-1] not in ('', '.'):
 
2219
                t.ensure_base()
 
2220
            if format is None:
 
2221
                format = 'default'
 
2222
            if isinstance(format, basestring):
 
2223
                format = bzrdir.format_registry.make_bzrdir(format)
 
2224
            return format.initialize_on_transport(t)
 
2225
        except errors.UninitializableFormat:
 
2226
            raise TestSkipped("Format %s is not initializable." % format)
 
2227
 
 
2228
    def make_repository(self, relpath, shared=False, format=None):
 
2229
        """Create a repository on our default transport at relpath.
 
2230
 
 
2231
        Note that relpath must be a relative path, not a full url.
 
2232
        """
 
2233
        # FIXME: If you create a remoterepository this returns the underlying
 
2234
        # real format, which is incorrect.  Actually we should make sure that
 
2235
        # RemoteBzrDir returns a RemoteRepository.
 
2236
        # maybe  mbp 20070410
 
2237
        made_control = self.make_bzrdir(relpath, format=format)
 
2238
        return made_control.create_repository(shared=shared)
 
2239
 
 
2240
    def make_smart_server(self, path):
 
2241
        smart_server = server.SmartTCPServer_for_testing()
 
2242
        smart_server.setUp(self.get_server())
 
2243
        remote_transport = get_transport(smart_server.get_url()).clone(path)
 
2244
        self.addCleanup(smart_server.tearDown)
 
2245
        return remote_transport
 
2246
 
 
2247
    def make_branch_and_memory_tree(self, relpath, format=None):
 
2248
        """Create a branch on the default transport and a MemoryTree for it."""
 
2249
        b = self.make_branch(relpath, format=format)
 
2250
        return memorytree.MemoryTree.create_on_branch(b)
 
2251
 
 
2252
    def make_branch_builder(self, relpath, format=None):
 
2253
        branch = self.make_branch(relpath, format=format)
 
2254
        return branchbuilder.BranchBuilder(branch=branch)
 
2255
 
 
2256
    def overrideEnvironmentForTesting(self):
 
2257
        os.environ['HOME'] = self.test_home_dir
 
2258
        os.environ['BZR_HOME'] = self.test_home_dir
 
2259
 
 
2260
    def setUp(self):
 
2261
        super(TestCaseWithMemoryTransport, self).setUp()
 
2262
        self._make_test_root()
 
2263
        _currentdir = os.getcwdu()
 
2264
        def _leaveDirectory():
 
2265
            os.chdir(_currentdir)
 
2266
        self.addCleanup(_leaveDirectory)
 
2267
        self.makeAndChdirToTestDir()
 
2268
        self.overrideEnvironmentForTesting()
 
2269
        self.__readonly_server = None
 
2270
        self.__server = None
 
2271
        self.reduceLockdirTimeout()
 
2272
 
 
2273
    def setup_smart_server_with_call_log(self):
 
2274
        """Sets up a smart server as the transport server with a call log."""
 
2275
        self.transport_server = server.SmartTCPServer_for_testing
 
2276
        self.hpss_calls = []
 
2277
        import traceback
 
2278
        # Skip the current stack down to the caller of
 
2279
        # setup_smart_server_with_call_log
 
2280
        prefix_length = len(traceback.extract_stack()) - 2
 
2281
        def capture_hpss_call(params):
 
2282
            self.hpss_calls.append(
 
2283
                CapturedCall(params, prefix_length))
 
2284
        client._SmartClient.hooks.install_named_hook(
 
2285
            'call', capture_hpss_call, None)
 
2286
 
 
2287
    def reset_smart_call_log(self):
 
2288
        self.hpss_calls = []
 
2289
 
 
2290
 
 
2291
class TestCaseInTempDir(TestCaseWithMemoryTransport):
 
2292
    """Derived class that runs a test within a temporary directory.
 
2293
 
 
2294
    This is useful for tests that need to create a branch, etc.
 
2295
 
 
2296
    The directory is created in a slightly complex way: for each
 
2297
    Python invocation, a new temporary top-level directory is created.
 
2298
    All test cases create their own directory within that.  If the
 
2299
    tests complete successfully, the directory is removed.
 
2300
 
 
2301
    :ivar test_base_dir: The path of the top-level directory for this
 
2302
    test, which contains a home directory and a work directory.
 
2303
 
 
2304
    :ivar test_home_dir: An initially empty directory under test_base_dir
 
2305
    which is used as $HOME for this test.
 
2306
 
 
2307
    :ivar test_dir: A directory under test_base_dir used as the current
 
2308
    directory when the test proper is run.
 
2309
    """
 
2310
 
 
2311
    OVERRIDE_PYTHON = 'python'
 
2312
 
 
2313
    def check_file_contents(self, filename, expect):
 
2314
        self.log("check contents of file %s" % filename)
 
2315
        contents = file(filename, 'r').read()
 
2316
        if contents != expect:
 
2317
            self.log("expected: %r" % expect)
 
2318
            self.log("actually: %r" % contents)
 
2319
            self.fail("contents of %s not as expected" % filename)
 
2320
 
 
2321
    def _getTestDirPrefix(self):
 
2322
        # create a directory within the top level test directory
 
2323
        if sys.platform == 'win32':
 
2324
            name_prefix = re.sub('[<>*=+",:;_/\\-]', '_', self.id())
 
2325
            # windows is likely to have path-length limits so use a short name
 
2326
            name_prefix = name_prefix[-30:]
 
2327
        else:
 
2328
            name_prefix = re.sub('[/]', '_', self.id())
 
2329
        return name_prefix
 
2330
 
 
2331
    def makeAndChdirToTestDir(self):
 
2332
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
 
2333
 
 
2334
        For TestCaseInTempDir we create a temporary directory based on the test
 
2335
        name and then create two subdirs - test and home under it.
 
2336
        """
 
2337
        name_prefix = osutils.pathjoin(TestCaseWithMemoryTransport.TEST_ROOT,
 
2338
            self._getTestDirPrefix())
 
2339
        name = name_prefix
 
2340
        for i in range(100):
 
2341
            if os.path.exists(name):
 
2342
                name = name_prefix + '_' + str(i)
 
2343
            else:
 
2344
                os.mkdir(name)
 
2345
                break
 
2346
        # now create test and home directories within this dir
 
2347
        self.test_base_dir = name
 
2348
        self.test_home_dir = self.test_base_dir + '/home'
 
2349
        os.mkdir(self.test_home_dir)
 
2350
        self.test_dir = self.test_base_dir + '/work'
 
2351
        os.mkdir(self.test_dir)
 
2352
        os.chdir(self.test_dir)
 
2353
        # put name of test inside
 
2354
        f = file(self.test_base_dir + '/name', 'w')
 
2355
        try:
 
2356
            f.write(self.id())
 
2357
        finally:
 
2358
            f.close()
 
2359
        self.addCleanup(self.deleteTestDir)
 
2360
 
 
2361
    def deleteTestDir(self):
 
2362
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
2363
        _rmtree_temp_dir(self.test_base_dir)
 
2364
 
 
2365
    def build_tree(self, shape, line_endings='binary', transport=None):
 
2366
        """Build a test tree according to a pattern.
 
2367
 
 
2368
        shape is a sequence of file specifications.  If the final
 
2369
        character is '/', a directory is created.
 
2370
 
 
2371
        This assumes that all the elements in the tree being built are new.
 
2372
 
 
2373
        This doesn't add anything to a branch.
 
2374
 
 
2375
        :type shape:    list or tuple.
 
2376
        :param line_endings: Either 'binary' or 'native'
 
2377
            in binary mode, exact contents are written in native mode, the
 
2378
            line endings match the default platform endings.
 
2379
        :param transport: A transport to write to, for building trees on VFS's.
 
2380
            If the transport is readonly or None, "." is opened automatically.
 
2381
        :return: None
 
2382
        """
 
2383
        if type(shape) not in (list, tuple):
 
2384
            raise AssertionError("Parameter 'shape' should be "
 
2385
                "a list or a tuple. Got %r instead" % (shape,))
 
2386
        # It's OK to just create them using forward slashes on windows.
 
2387
        if transport is None or transport.is_readonly():
 
2388
            transport = get_transport(".")
 
2389
        for name in shape:
 
2390
            self.assertIsInstance(name, basestring)
 
2391
            if name[-1] == '/':
 
2392
                transport.mkdir(urlutils.escape(name[:-1]))
 
2393
            else:
 
2394
                if line_endings == 'binary':
 
2395
                    end = '\n'
 
2396
                elif line_endings == 'native':
 
2397
                    end = os.linesep
 
2398
                else:
 
2399
                    raise errors.BzrError(
 
2400
                        'Invalid line ending request %r' % line_endings)
 
2401
                content = "contents of %s%s" % (name.encode('utf-8'), end)
 
2402
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
 
2403
 
 
2404
    def build_tree_contents(self, shape):
 
2405
        build_tree_contents(shape)
 
2406
 
 
2407
    def assertInWorkingTree(self, path, root_path='.', tree=None):
 
2408
        """Assert whether path or paths are in the WorkingTree"""
 
2409
        if tree is None:
 
2410
            tree = workingtree.WorkingTree.open(root_path)
 
2411
        if not isinstance(path, basestring):
 
2412
            for p in path:
 
2413
                self.assertInWorkingTree(p, tree=tree)
 
2414
        else:
 
2415
            self.assertIsNot(tree.path2id(path), None,
 
2416
                path+' not in working tree.')
 
2417
 
 
2418
    def assertNotInWorkingTree(self, path, root_path='.', tree=None):
 
2419
        """Assert whether path or paths are not in the WorkingTree"""
 
2420
        if tree is None:
 
2421
            tree = workingtree.WorkingTree.open(root_path)
 
2422
        if not isinstance(path, basestring):
 
2423
            for p in path:
 
2424
                self.assertNotInWorkingTree(p,tree=tree)
 
2425
        else:
 
2426
            self.assertIs(tree.path2id(path), None, path+' in working tree.')
 
2427
 
 
2428
 
 
2429
class TestCaseWithTransport(TestCaseInTempDir):
 
2430
    """A test case that provides get_url and get_readonly_url facilities.
 
2431
 
 
2432
    These back onto two transport servers, one for readonly access and one for
 
2433
    read write access.
 
2434
 
 
2435
    If no explicit class is provided for readonly access, a
 
2436
    ReadonlyTransportDecorator is used instead which allows the use of non disk
 
2437
    based read write transports.
 
2438
 
 
2439
    If an explicit class is provided for readonly access, that server and the
 
2440
    readwrite one must both define get_url() as resolving to os.getcwd().
 
2441
    """
 
2442
 
 
2443
    def get_vfs_only_server(self):
 
2444
        """See TestCaseWithMemoryTransport.
 
2445
 
 
2446
        This is useful for some tests with specific servers that need
 
2447
        diagnostics.
 
2448
        """
 
2449
        if self.__vfs_server is None:
 
2450
            self.__vfs_server = self.vfs_transport_factory()
 
2451
            self.__vfs_server.setUp()
 
2452
            self.addCleanup(self.__vfs_server.tearDown)
 
2453
        return self.__vfs_server
 
2454
 
 
2455
    def make_branch_and_tree(self, relpath, format=None):
 
2456
        """Create a branch on the transport and a tree locally.
 
2457
 
 
2458
        If the transport is not a LocalTransport, the Tree can't be created on
 
2459
        the transport.  In that case if the vfs_transport_factory is
 
2460
        LocalURLServer the working tree is created in the local
 
2461
        directory backing the transport, and the returned tree's branch and
 
2462
        repository will also be accessed locally. Otherwise a lightweight
 
2463
        checkout is created and returned.
 
2464
 
 
2465
        :param format: The BzrDirFormat.
 
2466
        :returns: the WorkingTree.
 
2467
        """
 
2468
        # TODO: always use the local disk path for the working tree,
 
2469
        # this obviously requires a format that supports branch references
 
2470
        # so check for that by checking bzrdir.BzrDirFormat.get_default_format()
 
2471
        # RBC 20060208
 
2472
        b = self.make_branch(relpath, format=format)
 
2473
        try:
 
2474
            return b.bzrdir.create_workingtree()
 
2475
        except errors.NotLocalUrl:
 
2476
            # We can only make working trees locally at the moment.  If the
 
2477
            # transport can't support them, then we keep the non-disk-backed
 
2478
            # branch and create a local checkout.
 
2479
            if self.vfs_transport_factory is LocalURLServer:
 
2480
                # the branch is colocated on disk, we cannot create a checkout.
 
2481
                # hopefully callers will expect this.
 
2482
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
 
2483
                wt = local_controldir.create_workingtree()
 
2484
                if wt.branch._format != b._format:
 
2485
                    wt._branch = b
 
2486
                    # Make sure that assigning to wt._branch fixes wt.branch,
 
2487
                    # in case the implementation details of workingtree objects
 
2488
                    # change.
 
2489
                    self.assertIs(b, wt.branch)
 
2490
                return wt
 
2491
            else:
 
2492
                return b.create_checkout(relpath, lightweight=True)
 
2493
 
 
2494
    def assertIsDirectory(self, relpath, transport):
 
2495
        """Assert that relpath within transport is a directory.
 
2496
 
 
2497
        This may not be possible on all transports; in that case it propagates
 
2498
        a TransportNotPossible.
 
2499
        """
 
2500
        try:
 
2501
            mode = transport.stat(relpath).st_mode
 
2502
        except errors.NoSuchFile:
 
2503
            self.fail("path %s is not a directory; no such file"
 
2504
                      % (relpath))
 
2505
        if not stat.S_ISDIR(mode):
 
2506
            self.fail("path %s is not a directory; has mode %#o"
 
2507
                      % (relpath, mode))
 
2508
 
 
2509
    def assertTreesEqual(self, left, right):
 
2510
        """Check that left and right have the same content and properties."""
 
2511
        # we use a tree delta to check for equality of the content, and we
 
2512
        # manually check for equality of other things such as the parents list.
 
2513
        self.assertEqual(left.get_parent_ids(), right.get_parent_ids())
 
2514
        differences = left.changes_from(right)
 
2515
        self.assertFalse(differences.has_changed(),
 
2516
            "Trees %r and %r are different: %r" % (left, right, differences))
 
2517
 
 
2518
    def setUp(self):
 
2519
        super(TestCaseWithTransport, self).setUp()
 
2520
        self.__vfs_server = None
 
2521
 
 
2522
 
 
2523
class ChrootedTestCase(TestCaseWithTransport):
 
2524
    """A support class that provides readonly urls outside the local namespace.
 
2525
 
 
2526
    This is done by checking if self.transport_server is a MemoryServer. if it
 
2527
    is then we are chrooted already, if it is not then an HttpServer is used
 
2528
    for readonly urls.
 
2529
 
 
2530
    TODO RBC 20060127: make this an option to TestCaseWithTransport so it can
 
2531
                       be used without needed to redo it when a different
 
2532
                       subclass is in use ?
 
2533
    """
 
2534
 
 
2535
    def setUp(self):
 
2536
        super(ChrootedTestCase, self).setUp()
 
2537
        if not self.vfs_transport_factory == MemoryServer:
 
2538
            self.transport_readonly_server = HttpServer
 
2539
 
 
2540
 
 
2541
def condition_id_re(pattern):
 
2542
    """Create a condition filter which performs a re check on a test's id.
 
2543
 
 
2544
    :param pattern: A regular expression string.
 
2545
    :return: A callable that returns True if the re matches.
 
2546
    """
 
2547
    filter_re = osutils.re_compile_checked(pattern, 0,
 
2548
        'test filter')
 
2549
    def condition(test):
 
2550
        test_id = test.id()
 
2551
        return filter_re.search(test_id)
 
2552
    return condition
 
2553
 
 
2554
 
 
2555
def condition_isinstance(klass_or_klass_list):
 
2556
    """Create a condition filter which returns isinstance(param, klass).
 
2557
 
 
2558
    :return: A callable which when called with one parameter obj return the
 
2559
        result of isinstance(obj, klass_or_klass_list).
 
2560
    """
 
2561
    def condition(obj):
 
2562
        return isinstance(obj, klass_or_klass_list)
 
2563
    return condition
 
2564
 
 
2565
 
 
2566
def condition_id_in_list(id_list):
 
2567
    """Create a condition filter which verify that test's id in a list.
 
2568
 
 
2569
    :param id_list: A TestIdList object.
 
2570
    :return: A callable that returns True if the test's id appears in the list.
 
2571
    """
 
2572
    def condition(test):
 
2573
        return id_list.includes(test.id())
 
2574
    return condition
 
2575
 
 
2576
 
 
2577
def condition_id_startswith(starts):
 
2578
    """Create a condition filter verifying that test's id starts with a string.
 
2579
 
 
2580
    :param starts: A list of string.
 
2581
    :return: A callable that returns True if the test's id starts with one of
 
2582
        the given strings.
 
2583
    """
 
2584
    def condition(test):
 
2585
        for start in starts:
 
2586
            if test.id().startswith(start):
 
2587
                return True
 
2588
        return False
 
2589
    return condition
 
2590
 
 
2591
 
 
2592
def exclude_tests_by_condition(suite, condition):
 
2593
    """Create a test suite which excludes some tests from suite.
 
2594
 
 
2595
    :param suite: The suite to get tests from.
 
2596
    :param condition: A callable whose result evaluates True when called with a
 
2597
        test case which should be excluded from the result.
 
2598
    :return: A suite which contains the tests found in suite that fail
 
2599
        condition.
 
2600
    """
 
2601
    result = []
 
2602
    for test in iter_suite_tests(suite):
 
2603
        if not condition(test):
 
2604
            result.append(test)
 
2605
    return TestUtil.TestSuite(result)
 
2606
 
 
2607
 
 
2608
def filter_suite_by_condition(suite, condition):
 
2609
    """Create a test suite by filtering another one.
 
2610
 
 
2611
    :param suite: The source suite.
 
2612
    :param condition: A callable whose result evaluates True when called with a
 
2613
        test case which should be included in the result.
 
2614
    :return: A suite which contains the tests found in suite that pass
 
2615
        condition.
 
2616
    """
 
2617
    result = []
 
2618
    for test in iter_suite_tests(suite):
 
2619
        if condition(test):
 
2620
            result.append(test)
 
2621
    return TestUtil.TestSuite(result)
 
2622
 
 
2623
 
 
2624
def filter_suite_by_re(suite, pattern):
 
2625
    """Create a test suite by filtering another one.
 
2626
 
 
2627
    :param suite:           the source suite
 
2628
    :param pattern:         pattern that names must match
 
2629
    :returns: the newly created suite
 
2630
    """
 
2631
    condition = condition_id_re(pattern)
 
2632
    result_suite = filter_suite_by_condition(suite, condition)
 
2633
    return result_suite
 
2634
 
 
2635
 
 
2636
def filter_suite_by_id_list(suite, test_id_list):
 
2637
    """Create a test suite by filtering another one.
 
2638
 
 
2639
    :param suite: The source suite.
 
2640
    :param test_id_list: A list of the test ids to keep as strings.
 
2641
    :returns: the newly created suite
 
2642
    """
 
2643
    condition = condition_id_in_list(test_id_list)
 
2644
    result_suite = filter_suite_by_condition(suite, condition)
 
2645
    return result_suite
 
2646
 
 
2647
 
 
2648
def filter_suite_by_id_startswith(suite, start):
 
2649
    """Create a test suite by filtering another one.
 
2650
 
 
2651
    :param suite: The source suite.
 
2652
    :param start: A list of string the test id must start with one of.
 
2653
    :returns: the newly created suite
 
2654
    """
 
2655
    condition = condition_id_startswith(start)
 
2656
    result_suite = filter_suite_by_condition(suite, condition)
 
2657
    return result_suite
 
2658
 
 
2659
 
 
2660
def exclude_tests_by_re(suite, pattern):
 
2661
    """Create a test suite which excludes some tests from suite.
 
2662
 
 
2663
    :param suite: The suite to get tests from.
 
2664
    :param pattern: A regular expression string. Test ids that match this
 
2665
        pattern will be excluded from the result.
 
2666
    :return: A TestSuite that contains all the tests from suite without the
 
2667
        tests that matched pattern. The order of tests is the same as it was in
 
2668
        suite.
 
2669
    """
 
2670
    return exclude_tests_by_condition(suite, condition_id_re(pattern))
 
2671
 
 
2672
 
 
2673
def preserve_input(something):
 
2674
    """A helper for performing test suite transformation chains.
 
2675
 
 
2676
    :param something: Anything you want to preserve.
 
2677
    :return: Something.
 
2678
    """
 
2679
    return something
 
2680
 
 
2681
 
 
2682
def randomize_suite(suite):
 
2683
    """Return a new TestSuite with suite's tests in random order.
 
2684
 
 
2685
    The tests in the input suite are flattened into a single suite in order to
 
2686
    accomplish this. Any nested TestSuites are removed to provide global
 
2687
    randomness.
 
2688
    """
 
2689
    tests = list(iter_suite_tests(suite))
 
2690
    random.shuffle(tests)
 
2691
    return TestUtil.TestSuite(tests)
 
2692
 
 
2693
 
 
2694
def split_suite_by_condition(suite, condition):
 
2695
    """Split a test suite into two by a condition.
 
2696
 
 
2697
    :param suite: The suite to split.
 
2698
    :param condition: The condition to match on. Tests that match this
 
2699
        condition are returned in the first test suite, ones that do not match
 
2700
        are in the second suite.
 
2701
    :return: A tuple of two test suites, where the first contains tests from
 
2702
        suite matching the condition, and the second contains the remainder
 
2703
        from suite. The order within each output suite is the same as it was in
 
2704
        suite.
 
2705
    """
 
2706
    matched = []
 
2707
    did_not_match = []
 
2708
    for test in iter_suite_tests(suite):
 
2709
        if condition(test):
 
2710
            matched.append(test)
 
2711
        else:
 
2712
            did_not_match.append(test)
 
2713
    return TestUtil.TestSuite(matched), TestUtil.TestSuite(did_not_match)
 
2714
 
 
2715
 
 
2716
def split_suite_by_re(suite, pattern):
 
2717
    """Split a test suite into two by a regular expression.
 
2718
 
 
2719
    :param suite: The suite to split.
 
2720
    :param pattern: A regular expression string. Test ids that match this
 
2721
        pattern will be in the first test suite returned, and the others in the
 
2722
        second test suite returned.
 
2723
    :return: A tuple of two test suites, where the first contains tests from
 
2724
        suite matching pattern, and the second contains the remainder from
 
2725
        suite. The order within each output suite is the same as it was in
 
2726
        suite.
 
2727
    """
 
2728
    return split_suite_by_condition(suite, condition_id_re(pattern))
 
2729
 
 
2730
 
 
2731
def run_suite(suite, name='test', verbose=False, pattern=".*",
 
2732
              stop_on_failure=False,
 
2733
              transport=None, lsprof_timed=None, bench_history=None,
 
2734
              matching_tests_first=None,
 
2735
              list_only=False,
 
2736
              random_seed=None,
 
2737
              exclude_pattern=None,
 
2738
              strict=False,
 
2739
              runner_class=None,
 
2740
              suite_decorators=None,
 
2741
              stream=None):
 
2742
    """Run a test suite for bzr selftest.
 
2743
 
 
2744
    :param runner_class: The class of runner to use. Must support the
 
2745
        constructor arguments passed by run_suite which are more than standard
 
2746
        python uses.
 
2747
    :return: A boolean indicating success.
 
2748
    """
 
2749
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
 
2750
    if verbose:
 
2751
        verbosity = 2
 
2752
    else:
 
2753
        verbosity = 1
 
2754
    if runner_class is None:
 
2755
        runner_class = TextTestRunner
 
2756
    if stream is None:
 
2757
        stream = sys.stdout
 
2758
    runner = runner_class(stream=stream,
 
2759
                            descriptions=0,
 
2760
                            verbosity=verbosity,
 
2761
                            bench_history=bench_history,
 
2762
                            list_only=list_only,
 
2763
                            strict=strict,
 
2764
                            )
 
2765
    runner.stop_on_failure=stop_on_failure
 
2766
    # built in decorator factories:
 
2767
    decorators = [
 
2768
        random_order(random_seed, runner),
 
2769
        exclude_tests(exclude_pattern),
 
2770
        ]
 
2771
    if matching_tests_first:
 
2772
        decorators.append(tests_first(pattern))
 
2773
    else:
 
2774
        decorators.append(filter_tests(pattern))
 
2775
    if suite_decorators:
 
2776
        decorators.extend(suite_decorators)
 
2777
    # tell the result object how many tests will be running:
 
2778
    decorators.append(CountingDecorator)
 
2779
    for decorator in decorators:
 
2780
        suite = decorator(suite)
 
2781
    result = runner.run(suite)
 
2782
    if list_only:
 
2783
        return True
 
2784
    result.done()
 
2785
    if strict:
 
2786
        return result.wasStrictlySuccessful()
 
2787
    else:
 
2788
        return result.wasSuccessful()
 
2789
 
 
2790
 
 
2791
# A registry where get() returns a suite decorator.
 
2792
parallel_registry = registry.Registry()
 
2793
 
 
2794
 
 
2795
def fork_decorator(suite):
 
2796
    concurrency = osutils.local_concurrency()
 
2797
    if concurrency == 1:
 
2798
        return suite
 
2799
    from testtools import ConcurrentTestSuite
 
2800
    return ConcurrentTestSuite(suite, fork_for_tests)
 
2801
parallel_registry.register('fork', fork_decorator)
 
2802
 
 
2803
 
 
2804
def subprocess_decorator(suite):
 
2805
    concurrency = osutils.local_concurrency()
 
2806
    if concurrency == 1:
 
2807
        return suite
 
2808
    from testtools import ConcurrentTestSuite
 
2809
    return ConcurrentTestSuite(suite, reinvoke_for_tests)
 
2810
parallel_registry.register('subprocess', subprocess_decorator)
 
2811
 
 
2812
 
 
2813
def exclude_tests(exclude_pattern):
 
2814
    """Return a test suite decorator that excludes tests."""
 
2815
    if exclude_pattern is None:
 
2816
        return identity_decorator
 
2817
    def decorator(suite):
 
2818
        return ExcludeDecorator(suite, exclude_pattern)
 
2819
    return decorator
 
2820
 
 
2821
 
 
2822
def filter_tests(pattern):
 
2823
    if pattern == '.*':
 
2824
        return identity_decorator
 
2825
    def decorator(suite):
 
2826
        return FilterTestsDecorator(suite, pattern)
 
2827
    return decorator
 
2828
 
 
2829
 
 
2830
def random_order(random_seed, runner):
 
2831
    """Return a test suite decorator factory for randomising tests order.
 
2832
    
 
2833
    :param random_seed: now, a string which casts to a long, or a long.
 
2834
    :param runner: A test runner with a stream attribute to report on.
 
2835
    """
 
2836
    if random_seed is None:
 
2837
        return identity_decorator
 
2838
    def decorator(suite):
 
2839
        return RandomDecorator(suite, random_seed, runner.stream)
 
2840
    return decorator
 
2841
 
 
2842
 
 
2843
def tests_first(pattern):
 
2844
    if pattern == '.*':
 
2845
        return identity_decorator
 
2846
    def decorator(suite):
 
2847
        return TestFirstDecorator(suite, pattern)
 
2848
    return decorator
 
2849
 
 
2850
 
 
2851
def identity_decorator(suite):
 
2852
    """Return suite."""
 
2853
    return suite
 
2854
 
 
2855
 
 
2856
class TestDecorator(TestSuite):
 
2857
    """A decorator for TestCase/TestSuite objects.
 
2858
    
 
2859
    Usually, subclasses should override __iter__(used when flattening test
 
2860
    suites), which we do to filter, reorder, parallelise and so on, run() and
 
2861
    debug().
 
2862
    """
 
2863
 
 
2864
    def __init__(self, suite):
 
2865
        TestSuite.__init__(self)
 
2866
        self.addTest(suite)
 
2867
 
 
2868
    def countTestCases(self):
 
2869
        cases = 0
 
2870
        for test in self:
 
2871
            cases += test.countTestCases()
 
2872
        return cases
 
2873
 
 
2874
    def debug(self):
 
2875
        for test in self:
 
2876
            test.debug()
 
2877
 
 
2878
    def run(self, result):
 
2879
        # Use iteration on self, not self._tests, to allow subclasses to hook
 
2880
        # into __iter__.
 
2881
        for test in self:
 
2882
            if result.shouldStop:
 
2883
                break
 
2884
            test.run(result)
 
2885
        return result
 
2886
 
 
2887
 
 
2888
class CountingDecorator(TestDecorator):
 
2889
    """A decorator which calls result.progress(self.countTestCases)."""
 
2890
 
 
2891
    def run(self, result):
 
2892
        progress_method = getattr(result, 'progress', None)
 
2893
        if callable(progress_method):
 
2894
            progress_method(self.countTestCases(), SUBUNIT_SEEK_SET)
 
2895
        return super(CountingDecorator, self).run(result)
 
2896
 
 
2897
 
 
2898
class ExcludeDecorator(TestDecorator):
 
2899
    """A decorator which excludes test matching an exclude pattern."""
 
2900
 
 
2901
    def __init__(self, suite, exclude_pattern):
 
2902
        TestDecorator.__init__(self, suite)
 
2903
        self.exclude_pattern = exclude_pattern
 
2904
        self.excluded = False
 
2905
 
 
2906
    def __iter__(self):
 
2907
        if self.excluded:
 
2908
            return iter(self._tests)
 
2909
        self.excluded = True
 
2910
        suite = exclude_tests_by_re(self, self.exclude_pattern)
 
2911
        del self._tests[:]
 
2912
        self.addTests(suite)
 
2913
        return iter(self._tests)
 
2914
 
 
2915
 
 
2916
class FilterTestsDecorator(TestDecorator):
 
2917
    """A decorator which filters tests to those matching a pattern."""
 
2918
 
 
2919
    def __init__(self, suite, pattern):
 
2920
        TestDecorator.__init__(self, suite)
 
2921
        self.pattern = pattern
 
2922
        self.filtered = False
 
2923
 
 
2924
    def __iter__(self):
 
2925
        if self.filtered:
 
2926
            return iter(self._tests)
 
2927
        self.filtered = True
 
2928
        suite = filter_suite_by_re(self, self.pattern)
 
2929
        del self._tests[:]
 
2930
        self.addTests(suite)
 
2931
        return iter(self._tests)
 
2932
 
 
2933
 
 
2934
class RandomDecorator(TestDecorator):
 
2935
    """A decorator which randomises the order of its tests."""
 
2936
 
 
2937
    def __init__(self, suite, random_seed, stream):
 
2938
        TestDecorator.__init__(self, suite)
 
2939
        self.random_seed = random_seed
 
2940
        self.randomised = False
 
2941
        self.stream = stream
 
2942
 
 
2943
    def __iter__(self):
 
2944
        if self.randomised:
 
2945
            return iter(self._tests)
 
2946
        self.randomised = True
 
2947
        self.stream.writeln("Randomizing test order using seed %s\n" %
 
2948
            (self.actual_seed()))
 
2949
        # Initialise the random number generator.
 
2950
        random.seed(self.actual_seed())
 
2951
        suite = randomize_suite(self)
 
2952
        del self._tests[:]
 
2953
        self.addTests(suite)
 
2954
        return iter(self._tests)
 
2955
 
 
2956
    def actual_seed(self):
 
2957
        if self.random_seed == "now":
 
2958
            # We convert the seed to a long to make it reuseable across
 
2959
            # invocations (because the user can reenter it).
 
2960
            self.random_seed = long(time.time())
 
2961
        else:
 
2962
            # Convert the seed to a long if we can
 
2963
            try:
 
2964
                self.random_seed = long(self.random_seed)
 
2965
            except:
 
2966
                pass
 
2967
        return self.random_seed
 
2968
 
 
2969
 
 
2970
class TestFirstDecorator(TestDecorator):
 
2971
    """A decorator which moves named tests to the front."""
 
2972
 
 
2973
    def __init__(self, suite, pattern):
 
2974
        TestDecorator.__init__(self, suite)
 
2975
        self.pattern = pattern
 
2976
        self.filtered = False
 
2977
 
 
2978
    def __iter__(self):
 
2979
        if self.filtered:
 
2980
            return iter(self._tests)
 
2981
        self.filtered = True
 
2982
        suites = split_suite_by_re(self, self.pattern)
 
2983
        del self._tests[:]
 
2984
        self.addTests(suites)
 
2985
        return iter(self._tests)
 
2986
 
 
2987
 
 
2988
def partition_tests(suite, count):
 
2989
    """Partition suite into count lists of tests."""
 
2990
    result = []
 
2991
    tests = list(iter_suite_tests(suite))
 
2992
    tests_per_process = int(math.ceil(float(len(tests)) / count))
 
2993
    for block in range(count):
 
2994
        low_test = block * tests_per_process
 
2995
        high_test = low_test + tests_per_process
 
2996
        process_tests = tests[low_test:high_test]
 
2997
        result.append(process_tests)
 
2998
    return result
 
2999
 
 
3000
 
 
3001
def fork_for_tests(suite):
 
3002
    """Take suite and start up one runner per CPU by forking()
 
3003
 
 
3004
    :return: An iterable of TestCase-like objects which can each have
 
3005
        run(result) called on them to feed tests to result.
 
3006
    """
 
3007
    concurrency = osutils.local_concurrency()
 
3008
    result = []
 
3009
    from subunit import TestProtocolClient, ProtocolTestCase
 
3010
    try:
 
3011
        from subunit.test_results import AutoTimingTestResultDecorator
 
3012
    except ImportError:
 
3013
        AutoTimingTestResultDecorator = lambda x:x
 
3014
    class TestInOtherProcess(ProtocolTestCase):
 
3015
        # Should be in subunit, I think. RBC.
 
3016
        def __init__(self, stream, pid):
 
3017
            ProtocolTestCase.__init__(self, stream)
 
3018
            self.pid = pid
 
3019
 
 
3020
        def run(self, result):
 
3021
            try:
 
3022
                ProtocolTestCase.run(self, result)
 
3023
            finally:
 
3024
                os.waitpid(self.pid, os.WNOHANG)
 
3025
 
 
3026
    test_blocks = partition_tests(suite, concurrency)
 
3027
    for process_tests in test_blocks:
 
3028
        process_suite = TestSuite()
 
3029
        process_suite.addTests(process_tests)
 
3030
        c2pread, c2pwrite = os.pipe()
 
3031
        pid = os.fork()
 
3032
        if pid == 0:
 
3033
            try:
 
3034
                os.close(c2pread)
 
3035
                # Leave stderr and stdout open so we can see test noise
 
3036
                # Close stdin so that the child goes away if it decides to
 
3037
                # read from stdin (otherwise its a roulette to see what
 
3038
                # child actually gets keystrokes for pdb etc).
 
3039
                sys.stdin.close()
 
3040
                sys.stdin = None
 
3041
                stream = os.fdopen(c2pwrite, 'wb', 1)
 
3042
                subunit_result = AutoTimingTestResultDecorator(
 
3043
                    TestProtocolClient(stream))
 
3044
                process_suite.run(subunit_result)
 
3045
            finally:
 
3046
                os._exit(0)
 
3047
        else:
 
3048
            os.close(c2pwrite)
 
3049
            stream = os.fdopen(c2pread, 'rb', 1)
 
3050
            test = TestInOtherProcess(stream, pid)
 
3051
            result.append(test)
 
3052
    return result
 
3053
 
 
3054
 
 
3055
def reinvoke_for_tests(suite):
 
3056
    """Take suite and start up one runner per CPU using subprocess().
 
3057
 
 
3058
    :return: An iterable of TestCase-like objects which can each have
 
3059
        run(result) called on them to feed tests to result.
 
3060
    """
 
3061
    concurrency = osutils.local_concurrency()
 
3062
    result = []
 
3063
    from subunit import ProtocolTestCase
 
3064
    class TestInSubprocess(ProtocolTestCase):
 
3065
        def __init__(self, process, name):
 
3066
            ProtocolTestCase.__init__(self, process.stdout)
 
3067
            self.process = process
 
3068
            self.process.stdin.close()
 
3069
            self.name = name
 
3070
 
 
3071
        def run(self, result):
 
3072
            try:
 
3073
                ProtocolTestCase.run(self, result)
 
3074
            finally:
 
3075
                self.process.wait()
 
3076
                os.unlink(self.name)
 
3077
            # print "pid %d finished" % finished_process
 
3078
    test_blocks = partition_tests(suite, concurrency)
 
3079
    for process_tests in test_blocks:
 
3080
        # ugly; currently reimplement rather than reuses TestCase methods.
 
3081
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
3082
        if not os.path.isfile(bzr_path):
 
3083
            # We are probably installed. Assume sys.argv is the right file
 
3084
            bzr_path = sys.argv[0]
 
3085
        fd, test_list_file_name = tempfile.mkstemp()
 
3086
        test_list_file = os.fdopen(fd, 'wb', 1)
 
3087
        for test in process_tests:
 
3088
            test_list_file.write(test.id() + '\n')
 
3089
        test_list_file.close()
 
3090
        try:
 
3091
            argv = [bzr_path, 'selftest', '--load-list', test_list_file_name,
 
3092
                '--subunit']
 
3093
            if '--no-plugins' in sys.argv:
 
3094
                argv.append('--no-plugins')
 
3095
            # stderr=STDOUT would be ideal, but until we prevent noise on
 
3096
            # stderr it can interrupt the subunit protocol.
 
3097
            process = Popen(argv, stdin=PIPE, stdout=PIPE, stderr=PIPE,
 
3098
                bufsize=1)
 
3099
            test = TestInSubprocess(process, test_list_file_name)
 
3100
            result.append(test)
 
3101
        except:
 
3102
            os.unlink(test_list_file_name)
 
3103
            raise
 
3104
    return result
 
3105
 
 
3106
 
 
3107
class BZRTransformingResult(unittest.TestResult):
 
3108
 
 
3109
    def __init__(self, target):
 
3110
        unittest.TestResult.__init__(self)
 
3111
        self.result = target
 
3112
 
 
3113
    def startTest(self, test):
 
3114
        self.result.startTest(test)
 
3115
 
 
3116
    def stopTest(self, test):
 
3117
        self.result.stopTest(test)
 
3118
 
 
3119
    def addError(self, test, err):
 
3120
        feature = self._error_looks_like('UnavailableFeature: ', err)
 
3121
        if feature is not None:
 
3122
            self.result.addNotSupported(test, feature)
 
3123
        else:
 
3124
            self.result.addError(test, err)
 
3125
 
 
3126
    def addFailure(self, test, err):
 
3127
        known = self._error_looks_like('KnownFailure: ', err)
 
3128
        if known is not None:
 
3129
            self.result._addKnownFailure(test, [KnownFailure,
 
3130
                                                KnownFailure(known), None])
 
3131
        else:
 
3132
            self.result.addFailure(test, err)
 
3133
 
 
3134
    def addSkip(self, test, reason):
 
3135
        self.result.addSkip(test, reason)
 
3136
 
 
3137
    def addSuccess(self, test):
 
3138
        self.result.addSuccess(test)
 
3139
 
 
3140
    def _error_looks_like(self, prefix, err):
 
3141
        """Deserialize exception and returns the stringify value."""
 
3142
        import subunit
 
3143
        value = None
 
3144
        typ, exc, _ = err
 
3145
        if isinstance(exc, subunit.RemoteException):
 
3146
            # stringify the exception gives access to the remote traceback
 
3147
            # We search the last line for 'prefix'
 
3148
            lines = str(exc).split('\n')
 
3149
            while lines and not lines[-1]:
 
3150
                lines.pop(-1)
 
3151
            if lines:
 
3152
                if lines[-1].startswith(prefix):
 
3153
                    value = lines[-1][len(prefix):]
 
3154
        return value
 
3155
 
 
3156
 
 
3157
# Controlled by "bzr selftest -E=..." option
 
3158
selftest_debug_flags = set()
 
3159
 
 
3160
 
 
3161
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
 
3162
             transport=None,
 
3163
             test_suite_factory=None,
 
3164
             lsprof_timed=None,
 
3165
             bench_history=None,
 
3166
             matching_tests_first=None,
 
3167
             list_only=False,
 
3168
             random_seed=None,
 
3169
             exclude_pattern=None,
 
3170
             strict=False,
 
3171
             load_list=None,
 
3172
             debug_flags=None,
 
3173
             starting_with=None,
 
3174
             runner_class=None,
 
3175
             suite_decorators=None,
 
3176
             ):
 
3177
    """Run the whole test suite under the enhanced runner"""
 
3178
    # XXX: Very ugly way to do this...
 
3179
    # Disable warning about old formats because we don't want it to disturb
 
3180
    # any blackbox tests.
 
3181
    from bzrlib import repository
 
3182
    repository._deprecation_warning_done = True
 
3183
 
 
3184
    global default_transport
 
3185
    if transport is None:
 
3186
        transport = default_transport
 
3187
    old_transport = default_transport
 
3188
    default_transport = transport
 
3189
    global selftest_debug_flags
 
3190
    old_debug_flags = selftest_debug_flags
 
3191
    if debug_flags is not None:
 
3192
        selftest_debug_flags = set(debug_flags)
 
3193
    try:
 
3194
        if load_list is None:
 
3195
            keep_only = None
 
3196
        else:
 
3197
            keep_only = load_test_id_list(load_list)
 
3198
        if test_suite_factory is None:
 
3199
            suite = test_suite(keep_only, starting_with)
 
3200
        else:
 
3201
            suite = test_suite_factory()
 
3202
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
 
3203
                     stop_on_failure=stop_on_failure,
 
3204
                     transport=transport,
 
3205
                     lsprof_timed=lsprof_timed,
 
3206
                     bench_history=bench_history,
 
3207
                     matching_tests_first=matching_tests_first,
 
3208
                     list_only=list_only,
 
3209
                     random_seed=random_seed,
 
3210
                     exclude_pattern=exclude_pattern,
 
3211
                     strict=strict,
 
3212
                     runner_class=runner_class,
 
3213
                     suite_decorators=suite_decorators,
 
3214
                     )
 
3215
    finally:
 
3216
        default_transport = old_transport
 
3217
        selftest_debug_flags = old_debug_flags
 
3218
 
 
3219
 
 
3220
def load_test_id_list(file_name):
 
3221
    """Load a test id list from a text file.
 
3222
 
 
3223
    The format is one test id by line.  No special care is taken to impose
 
3224
    strict rules, these test ids are used to filter the test suite so a test id
 
3225
    that do not match an existing test will do no harm. This allows user to add
 
3226
    comments, leave blank lines, etc.
 
3227
    """
 
3228
    test_list = []
 
3229
    try:
 
3230
        ftest = open(file_name, 'rt')
 
3231
    except IOError, e:
 
3232
        if e.errno != errno.ENOENT:
 
3233
            raise
 
3234
        else:
 
3235
            raise errors.NoSuchFile(file_name)
 
3236
 
 
3237
    for test_name in ftest.readlines():
 
3238
        test_list.append(test_name.strip())
 
3239
    ftest.close()
 
3240
    return test_list
 
3241
 
 
3242
 
 
3243
def suite_matches_id_list(test_suite, id_list):
 
3244
    """Warns about tests not appearing or appearing more than once.
 
3245
 
 
3246
    :param test_suite: A TestSuite object.
 
3247
    :param test_id_list: The list of test ids that should be found in
 
3248
         test_suite.
 
3249
 
 
3250
    :return: (absents, duplicates) absents is a list containing the test found
 
3251
        in id_list but not in test_suite, duplicates is a list containing the
 
3252
        test found multiple times in test_suite.
 
3253
 
 
3254
    When using a prefined test id list, it may occurs that some tests do not
 
3255
    exist anymore or that some tests use the same id. This function warns the
 
3256
    tester about potential problems in his workflow (test lists are volatile)
 
3257
    or in the test suite itself (using the same id for several tests does not
 
3258
    help to localize defects).
 
3259
    """
 
3260
    # Build a dict counting id occurrences
 
3261
    tests = dict()
 
3262
    for test in iter_suite_tests(test_suite):
 
3263
        id = test.id()
 
3264
        tests[id] = tests.get(id, 0) + 1
 
3265
 
 
3266
    not_found = []
 
3267
    duplicates = []
 
3268
    for id in id_list:
 
3269
        occurs = tests.get(id, 0)
 
3270
        if not occurs:
 
3271
            not_found.append(id)
 
3272
        elif occurs > 1:
 
3273
            duplicates.append(id)
 
3274
 
 
3275
    return not_found, duplicates
 
3276
 
 
3277
 
 
3278
class TestIdList(object):
 
3279
    """Test id list to filter a test suite.
 
3280
 
 
3281
    Relying on the assumption that test ids are built as:
 
3282
    <module>[.<class>.<method>][(<param>+)], <module> being in python dotted
 
3283
    notation, this class offers methods to :
 
3284
    - avoid building a test suite for modules not refered to in the test list,
 
3285
    - keep only the tests listed from the module test suite.
 
3286
    """
 
3287
 
 
3288
    def __init__(self, test_id_list):
 
3289
        # When a test suite needs to be filtered against us we compare test ids
 
3290
        # for equality, so a simple dict offers a quick and simple solution.
 
3291
        self.tests = dict().fromkeys(test_id_list, True)
 
3292
 
 
3293
        # While unittest.TestCase have ids like:
 
3294
        # <module>.<class>.<method>[(<param+)],
 
3295
        # doctest.DocTestCase can have ids like:
 
3296
        # <module>
 
3297
        # <module>.<class>
 
3298
        # <module>.<function>
 
3299
        # <module>.<class>.<method>
 
3300
 
 
3301
        # Since we can't predict a test class from its name only, we settle on
 
3302
        # a simple constraint: a test id always begins with its module name.
 
3303
 
 
3304
        modules = {}
 
3305
        for test_id in test_id_list:
 
3306
            parts = test_id.split('.')
 
3307
            mod_name = parts.pop(0)
 
3308
            modules[mod_name] = True
 
3309
            for part in parts:
 
3310
                mod_name += '.' + part
 
3311
                modules[mod_name] = True
 
3312
        self.modules = modules
 
3313
 
 
3314
    def refers_to(self, module_name):
 
3315
        """Is there tests for the module or one of its sub modules."""
 
3316
        return self.modules.has_key(module_name)
 
3317
 
 
3318
    def includes(self, test_id):
 
3319
        return self.tests.has_key(test_id)
 
3320
 
 
3321
 
 
3322
class TestPrefixAliasRegistry(registry.Registry):
 
3323
    """A registry for test prefix aliases.
 
3324
 
 
3325
    This helps implement shorcuts for the --starting-with selftest
 
3326
    option. Overriding existing prefixes is not allowed but not fatal (a
 
3327
    warning will be emitted).
 
3328
    """
 
3329
 
 
3330
    def register(self, key, obj, help=None, info=None,
 
3331
                 override_existing=False):
 
3332
        """See Registry.register.
 
3333
 
 
3334
        Trying to override an existing alias causes a warning to be emitted,
 
3335
        not a fatal execption.
 
3336
        """
 
3337
        try:
 
3338
            super(TestPrefixAliasRegistry, self).register(
 
3339
                key, obj, help=help, info=info, override_existing=False)
 
3340
        except KeyError:
 
3341
            actual = self.get(key)
 
3342
            note('Test prefix alias %s is already used for %s, ignoring %s'
 
3343
                 % (key, actual, obj))
 
3344
 
 
3345
    def resolve_alias(self, id_start):
 
3346
        """Replace the alias by the prefix in the given string.
 
3347
 
 
3348
        Using an unknown prefix is an error to help catching typos.
 
3349
        """
 
3350
        parts = id_start.split('.')
 
3351
        try:
 
3352
            parts[0] = self.get(parts[0])
 
3353
        except KeyError:
 
3354
            raise errors.BzrCommandError(
 
3355
                '%s is not a known test prefix alias' % parts[0])
 
3356
        return '.'.join(parts)
 
3357
 
 
3358
 
 
3359
test_prefix_alias_registry = TestPrefixAliasRegistry()
 
3360
"""Registry of test prefix aliases."""
 
3361
 
 
3362
 
 
3363
# This alias allows to detect typos ('bzrlin.') by making all valid test ids
 
3364
# appear prefixed ('bzrlib.' is "replaced" by 'bzrlib.').
 
3365
test_prefix_alias_registry.register('bzrlib', 'bzrlib')
 
3366
 
 
3367
# Obvious higest levels prefixes, feel free to add your own via a plugin
 
3368
test_prefix_alias_registry.register('bd', 'bzrlib.doc')
 
3369
test_prefix_alias_registry.register('bu', 'bzrlib.utils')
 
3370
test_prefix_alias_registry.register('bt', 'bzrlib.tests')
 
3371
test_prefix_alias_registry.register('bb', 'bzrlib.tests.blackbox')
 
3372
test_prefix_alias_registry.register('bp', 'bzrlib.plugins')
 
3373
 
 
3374
 
 
3375
def test_suite(keep_only=None, starting_with=None):
 
3376
    """Build and return TestSuite for the whole of bzrlib.
 
3377
 
 
3378
    :param keep_only: A list of test ids limiting the suite returned.
 
3379
 
 
3380
    :param starting_with: An id limiting the suite returned to the tests
 
3381
         starting with it.
 
3382
 
 
3383
    This function can be replaced if you need to change the default test
 
3384
    suite on a global basis, but it is not encouraged.
 
3385
    """
 
3386
    testmod_names = [
 
3387
                   'bzrlib.doc',
 
3388
                   'bzrlib.tests.blackbox',
 
3389
                   'bzrlib.tests.commands',
 
3390
                   'bzrlib.tests.per_branch',
 
3391
                   'bzrlib.tests.per_bzrdir',
 
3392
                   'bzrlib.tests.per_interrepository',
 
3393
                   'bzrlib.tests.per_intertree',
 
3394
                   'bzrlib.tests.per_inventory',
 
3395
                   'bzrlib.tests.per_interbranch',
 
3396
                   'bzrlib.tests.per_lock',
 
3397
                   'bzrlib.tests.per_transport',
 
3398
                   'bzrlib.tests.per_tree',
 
3399
                   'bzrlib.tests.per_repository',
 
3400
                   'bzrlib.tests.per_repository_chk',
 
3401
                   'bzrlib.tests.per_repository_reference',
 
3402
                   'bzrlib.tests.per_workingtree',
 
3403
                   'bzrlib.tests.test__annotator',
 
3404
                   'bzrlib.tests.test__chk_map',
 
3405
                   'bzrlib.tests.test__dirstate_helpers',
 
3406
                   'bzrlib.tests.test__groupcompress',
 
3407
                   'bzrlib.tests.test__known_graph',
 
3408
                   'bzrlib.tests.test__rio',
 
3409
                   'bzrlib.tests.test__walkdirs_win32',
 
3410
                   'bzrlib.tests.test_ancestry',
 
3411
                   'bzrlib.tests.test_annotate',
 
3412
                   'bzrlib.tests.test_api',
 
3413
                   'bzrlib.tests.test_atomicfile',
 
3414
                   'bzrlib.tests.test_bad_files',
 
3415
                   'bzrlib.tests.test_bencode',
 
3416
                   'bzrlib.tests.test_bisect_multi',
 
3417
                   'bzrlib.tests.test_branch',
 
3418
                   'bzrlib.tests.test_branchbuilder',
 
3419
                   'bzrlib.tests.test_btree_index',
 
3420
                   'bzrlib.tests.test_bugtracker',
 
3421
                   'bzrlib.tests.test_bundle',
 
3422
                   'bzrlib.tests.test_bzrdir',
 
3423
                   'bzrlib.tests.test__chunks_to_lines',
 
3424
                   'bzrlib.tests.test_cache_utf8',
 
3425
                   'bzrlib.tests.test_chk_map',
 
3426
                   'bzrlib.tests.test_chk_serializer',
 
3427
                   'bzrlib.tests.test_chunk_writer',
 
3428
                   'bzrlib.tests.test_clean_tree',
 
3429
                   'bzrlib.tests.test_commands',
 
3430
                   'bzrlib.tests.test_commit',
 
3431
                   'bzrlib.tests.test_commit_merge',
 
3432
                   'bzrlib.tests.test_config',
 
3433
                   'bzrlib.tests.test_conflicts',
 
3434
                   'bzrlib.tests.test_counted_lock',
 
3435
                   'bzrlib.tests.test_decorators',
 
3436
                   'bzrlib.tests.test_delta',
 
3437
                   'bzrlib.tests.test_debug',
 
3438
                   'bzrlib.tests.test_deprecated_graph',
 
3439
                   'bzrlib.tests.test_diff',
 
3440
                   'bzrlib.tests.test_directory_service',
 
3441
                   'bzrlib.tests.test_dirstate',
 
3442
                   'bzrlib.tests.test_email_message',
 
3443
                   'bzrlib.tests.test_eol_filters',
 
3444
                   'bzrlib.tests.test_errors',
 
3445
                   'bzrlib.tests.test_export',
 
3446
                   'bzrlib.tests.test_extract',
 
3447
                   'bzrlib.tests.test_fetch',
 
3448
                   'bzrlib.tests.test_fifo_cache',
 
3449
                   'bzrlib.tests.test_filters',
 
3450
                   'bzrlib.tests.test_ftp_transport',
 
3451
                   'bzrlib.tests.test_foreign',
 
3452
                   'bzrlib.tests.test_generate_docs',
 
3453
                   'bzrlib.tests.test_generate_ids',
 
3454
                   'bzrlib.tests.test_globbing',
 
3455
                   'bzrlib.tests.test_gpg',
 
3456
                   'bzrlib.tests.test_graph',
 
3457
                   'bzrlib.tests.test_groupcompress',
 
3458
                   'bzrlib.tests.test_hashcache',
 
3459
                   'bzrlib.tests.test_help',
 
3460
                   'bzrlib.tests.test_hooks',
 
3461
                   'bzrlib.tests.test_http',
 
3462
                   'bzrlib.tests.test_http_response',
 
3463
                   'bzrlib.tests.test_https_ca_bundle',
 
3464
                   'bzrlib.tests.test_identitymap',
 
3465
                   'bzrlib.tests.test_ignores',
 
3466
                   'bzrlib.tests.test_index',
 
3467
                   'bzrlib.tests.test_info',
 
3468
                   'bzrlib.tests.test_inv',
 
3469
                   'bzrlib.tests.test_inventory_delta',
 
3470
                   'bzrlib.tests.test_knit',
 
3471
                   'bzrlib.tests.test_lazy_import',
 
3472
                   'bzrlib.tests.test_lazy_regex',
 
3473
                   'bzrlib.tests.test_lockable_files',
 
3474
                   'bzrlib.tests.test_lockdir',
 
3475
                   'bzrlib.tests.test_log',
 
3476
                   'bzrlib.tests.test_lru_cache',
 
3477
                   'bzrlib.tests.test_lsprof',
 
3478
                   'bzrlib.tests.test_mail_client',
 
3479
                   'bzrlib.tests.test_memorytree',
 
3480
                   'bzrlib.tests.test_merge',
 
3481
                   'bzrlib.tests.test_merge3',
 
3482
                   'bzrlib.tests.test_merge_core',
 
3483
                   'bzrlib.tests.test_merge_directive',
 
3484
                   'bzrlib.tests.test_missing',
 
3485
                   'bzrlib.tests.test_msgeditor',
 
3486
                   'bzrlib.tests.test_multiparent',
 
3487
                   'bzrlib.tests.test_mutabletree',
 
3488
                   'bzrlib.tests.test_nonascii',
 
3489
                   'bzrlib.tests.test_options',
 
3490
                   'bzrlib.tests.test_osutils',
 
3491
                   'bzrlib.tests.test_osutils_encodings',
 
3492
                   'bzrlib.tests.test_pack',
 
3493
                   'bzrlib.tests.test_pack_repository',
 
3494
                   'bzrlib.tests.test_patch',
 
3495
                   'bzrlib.tests.test_patches',
 
3496
                   'bzrlib.tests.test_permissions',
 
3497
                   'bzrlib.tests.test_plugins',
 
3498
                   'bzrlib.tests.test_progress',
 
3499
                   'bzrlib.tests.test_read_bundle',
 
3500
                   'bzrlib.tests.test_reconcile',
 
3501
                   'bzrlib.tests.test_reconfigure',
 
3502
                   'bzrlib.tests.test_registry',
 
3503
                   'bzrlib.tests.test_remote',
 
3504
                   'bzrlib.tests.test_rename_map',
 
3505
                   'bzrlib.tests.test_repository',
 
3506
                   'bzrlib.tests.test_revert',
 
3507
                   'bzrlib.tests.test_revision',
 
3508
                   'bzrlib.tests.test_revisionspec',
 
3509
                   'bzrlib.tests.test_revisiontree',
 
3510
                   'bzrlib.tests.test_rio',
 
3511
                   'bzrlib.tests.test_rules',
 
3512
                   'bzrlib.tests.test_sampler',
 
3513
                   'bzrlib.tests.test_selftest',
 
3514
                   'bzrlib.tests.test_serializer',
 
3515
                   'bzrlib.tests.test_setup',
 
3516
                   'bzrlib.tests.test_sftp_transport',
 
3517
                   'bzrlib.tests.test_shelf',
 
3518
                   'bzrlib.tests.test_shelf_ui',
 
3519
                   'bzrlib.tests.test_smart',
 
3520
                   'bzrlib.tests.test_smart_add',
 
3521
                   'bzrlib.tests.test_smart_request',
 
3522
                   'bzrlib.tests.test_smart_transport',
 
3523
                   'bzrlib.tests.test_smtp_connection',
 
3524
                   'bzrlib.tests.test_source',
 
3525
                   'bzrlib.tests.test_ssh_transport',
 
3526
                   'bzrlib.tests.test_status',
 
3527
                   'bzrlib.tests.test_store',
 
3528
                   'bzrlib.tests.test_strace',
 
3529
                   'bzrlib.tests.test_subsume',
 
3530
                   'bzrlib.tests.test_switch',
 
3531
                   'bzrlib.tests.test_symbol_versioning',
 
3532
                   'bzrlib.tests.test_tag',
 
3533
                   'bzrlib.tests.test_testament',
 
3534
                   'bzrlib.tests.test_textfile',
 
3535
                   'bzrlib.tests.test_textmerge',
 
3536
                   'bzrlib.tests.test_timestamp',
 
3537
                   'bzrlib.tests.test_trace',
 
3538
                   'bzrlib.tests.test_transactions',
 
3539
                   'bzrlib.tests.test_transform',
 
3540
                   'bzrlib.tests.test_transport',
 
3541
                   'bzrlib.tests.test_transport_log',
 
3542
                   'bzrlib.tests.test_tree',
 
3543
                   'bzrlib.tests.test_treebuilder',
 
3544
                   'bzrlib.tests.test_tsort',
 
3545
                   'bzrlib.tests.test_tuned_gzip',
 
3546
                   'bzrlib.tests.test_ui',
 
3547
                   'bzrlib.tests.test_uncommit',
 
3548
                   'bzrlib.tests.test_upgrade',
 
3549
                   'bzrlib.tests.test_upgrade_stacked',
 
3550
                   'bzrlib.tests.test_urlutils',
 
3551
                   'bzrlib.tests.test_version',
 
3552
                   'bzrlib.tests.test_version_info',
 
3553
                   'bzrlib.tests.test_versionedfile',
 
3554
                   'bzrlib.tests.test_weave',
 
3555
                   'bzrlib.tests.test_whitebox',
 
3556
                   'bzrlib.tests.test_win32utils',
 
3557
                   'bzrlib.tests.test_workingtree',
 
3558
                   'bzrlib.tests.test_workingtree_4',
 
3559
                   'bzrlib.tests.test_wsgi',
 
3560
                   'bzrlib.tests.test_xml',
59
3561
                   ]
60
3562
 
61
 
    # XXX: should also test bzrlib.merge_core, but they seem to be out
62
 
    # of date with the code.
63
 
 
64
 
    for m in (bzrlib.store, bzrlib.inventory, bzrlib.branch,
65
 
              bzrlib.osutils, bzrlib.commands, bzrlib.merge3):
66
 
        if m not in MODULES_TO_DOCTEST:
67
 
            MODULES_TO_DOCTEST.append(m)
68
 
 
69
 
    
70
 
    TestBase.BZRPATH = os.path.join(os.path.realpath(os.path.dirname(bzrlib.__path__[0])), 'bzr')
71
 
    print '%-30s %s' % ('bzr binary', TestBase.BZRPATH)
72
 
 
73
 
    print
74
 
 
75
 
    suite = TestSuite()
76
 
 
77
 
    suite.addTest(TestLoader().loadTestsFromNames(testmod_names))
78
 
 
79
 
    for m in MODULES_TO_TEST:
80
 
         suite.addTest(TestLoader().loadTestsFromModule(m))
81
 
 
82
 
    for m in (MODULES_TO_DOCTEST):
83
 
        suite.addTest(DocTestSuite(m))
84
 
 
85
 
    for p in bzrlib.plugin.all_plugins:
86
 
        if hasattr(p, 'test_suite'):
87
 
            suite.addTest(p.test_suite())
88
 
 
89
 
    import bzrlib.merge_core
90
 
    suite.addTest(unittest.makeSuite(bzrlib.merge_core.MergeTest, 'test_'))
91
 
 
92
 
    return run_suite(suite, 'testbzr', verbose=verbose)
93
 
 
94
 
 
95
 
 
 
3563
    loader = TestUtil.TestLoader()
 
3564
 
 
3565
    if keep_only is not None:
 
3566
        id_filter = TestIdList(keep_only)
 
3567
    if starting_with:
 
3568
        starting_with = [test_prefix_alias_registry.resolve_alias(start)
 
3569
                         for start in starting_with]
 
3570
        # We take precedence over keep_only because *at loading time* using
 
3571
        # both options means we will load less tests for the same final result.
 
3572
        def interesting_module(name):
 
3573
            for start in starting_with:
 
3574
                if (
 
3575
                    # Either the module name starts with the specified string
 
3576
                    name.startswith(start)
 
3577
                    # or it may contain tests starting with the specified string
 
3578
                    or start.startswith(name)
 
3579
                    ):
 
3580
                    return True
 
3581
            return False
 
3582
        loader = TestUtil.FilteredByModuleTestLoader(interesting_module)
 
3583
 
 
3584
    elif keep_only is not None:
 
3585
        loader = TestUtil.FilteredByModuleTestLoader(id_filter.refers_to)
 
3586
        def interesting_module(name):
 
3587
            return id_filter.refers_to(name)
 
3588
 
 
3589
    else:
 
3590
        loader = TestUtil.TestLoader()
 
3591
        def interesting_module(name):
 
3592
            # No filtering, all modules are interesting
 
3593
            return True
 
3594
 
 
3595
    suite = loader.suiteClass()
 
3596
 
 
3597
    # modules building their suite with loadTestsFromModuleNames
 
3598
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
 
3599
 
 
3600
    modules_to_doctest = [
 
3601
        'bzrlib',
 
3602
        'bzrlib.branchbuilder',
 
3603
        'bzrlib.export',
 
3604
        'bzrlib.inventory',
 
3605
        'bzrlib.iterablefile',
 
3606
        'bzrlib.lockdir',
 
3607
        'bzrlib.merge3',
 
3608
        'bzrlib.option',
 
3609
        'bzrlib.symbol_versioning',
 
3610
        'bzrlib.tests',
 
3611
        'bzrlib.timestamp',
 
3612
        'bzrlib.version_info_formats.format_custom',
 
3613
        ]
 
3614
 
 
3615
    for mod in modules_to_doctest:
 
3616
        if not interesting_module(mod):
 
3617
            # No tests to keep here, move along
 
3618
            continue
 
3619
        try:
 
3620
            # note that this really does mean "report only" -- doctest
 
3621
            # still runs the rest of the examples
 
3622
            doc_suite = doctest.DocTestSuite(mod,
 
3623
                optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
 
3624
        except ValueError, e:
 
3625
            print '**failed to get doctest for: %s\n%s' % (mod, e)
 
3626
            raise
 
3627
        if len(doc_suite._tests) == 0:
 
3628
            raise errors.BzrError("no doctests found in %s" % (mod,))
 
3629
        suite.addTest(doc_suite)
 
3630
 
 
3631
    default_encoding = sys.getdefaultencoding()
 
3632
    for name, plugin in bzrlib.plugin.plugins().items():
 
3633
        if not interesting_module(plugin.module.__name__):
 
3634
            continue
 
3635
        plugin_suite = plugin.test_suite()
 
3636
        # We used to catch ImportError here and turn it into just a warning,
 
3637
        # but really if you don't have --no-plugins this should be a failure.
 
3638
        # mbp 20080213 - see http://bugs.launchpad.net/bugs/189771
 
3639
        if plugin_suite is None:
 
3640
            plugin_suite = plugin.load_plugin_tests(loader)
 
3641
        if plugin_suite is not None:
 
3642
            suite.addTest(plugin_suite)
 
3643
        if default_encoding != sys.getdefaultencoding():
 
3644
            bzrlib.trace.warning(
 
3645
                'Plugin "%s" tried to reset default encoding to: %s', name,
 
3646
                sys.getdefaultencoding())
 
3647
            reload(sys)
 
3648
            sys.setdefaultencoding(default_encoding)
 
3649
 
 
3650
    if starting_with:
 
3651
        suite = filter_suite_by_id_startswith(suite, starting_with)
 
3652
 
 
3653
    if keep_only is not None:
 
3654
        # Now that the referred modules have loaded their tests, keep only the
 
3655
        # requested ones.
 
3656
        suite = filter_suite_by_id_list(suite, id_filter)
 
3657
        # Do some sanity checks on the id_list filtering
 
3658
        not_found, duplicates = suite_matches_id_list(suite, keep_only)
 
3659
        if starting_with:
 
3660
            # The tester has used both keep_only and starting_with, so he is
 
3661
            # already aware that some tests are excluded from the list, there
 
3662
            # is no need to tell him which.
 
3663
            pass
 
3664
        else:
 
3665
            # Some tests mentioned in the list are not in the test suite. The
 
3666
            # list may be out of date, report to the tester.
 
3667
            for id in not_found:
 
3668
                bzrlib.trace.warning('"%s" not found in the test suite', id)
 
3669
        for id in duplicates:
 
3670
            bzrlib.trace.warning('"%s" is used as an id by several tests', id)
 
3671
 
 
3672
    return suite
 
3673
 
 
3674
 
 
3675
def multiply_scenarios(scenarios_left, scenarios_right):
 
3676
    """Multiply two sets of scenarios.
 
3677
 
 
3678
    :returns: the cartesian product of the two sets of scenarios, that is
 
3679
        a scenario for every possible combination of a left scenario and a
 
3680
        right scenario.
 
3681
    """
 
3682
    return [
 
3683
        ('%s,%s' % (left_name, right_name),
 
3684
         dict(left_dict.items() + right_dict.items()))
 
3685
        for left_name, left_dict in scenarios_left
 
3686
        for right_name, right_dict in scenarios_right]
 
3687
 
 
3688
 
 
3689
def multiply_tests(tests, scenarios, result):
 
3690
    """Multiply tests_list by scenarios into result.
 
3691
 
 
3692
    This is the core workhorse for test parameterisation.
 
3693
 
 
3694
    Typically the load_tests() method for a per-implementation test suite will
 
3695
    call multiply_tests and return the result.
 
3696
 
 
3697
    :param tests: The tests to parameterise.
 
3698
    :param scenarios: The scenarios to apply: pairs of (scenario_name,
 
3699
        scenario_param_dict).
 
3700
    :param result: A TestSuite to add created tests to.
 
3701
 
 
3702
    This returns the passed in result TestSuite with the cross product of all
 
3703
    the tests repeated once for each scenario.  Each test is adapted by adding
 
3704
    the scenario name at the end of its id(), and updating the test object's
 
3705
    __dict__ with the scenario_param_dict.
 
3706
 
 
3707
    >>> import bzrlib.tests.test_sampler
 
3708
    >>> r = multiply_tests(
 
3709
    ...     bzrlib.tests.test_sampler.DemoTest('test_nothing'),
 
3710
    ...     [('one', dict(param=1)),
 
3711
    ...      ('two', dict(param=2))],
 
3712
    ...     TestSuite())
 
3713
    >>> tests = list(iter_suite_tests(r))
 
3714
    >>> len(tests)
 
3715
    2
 
3716
    >>> tests[0].id()
 
3717
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
 
3718
    >>> tests[0].param
 
3719
    1
 
3720
    >>> tests[1].param
 
3721
    2
 
3722
    """
 
3723
    for test in iter_suite_tests(tests):
 
3724
        apply_scenarios(test, scenarios, result)
 
3725
    return result
 
3726
 
 
3727
 
 
3728
def apply_scenarios(test, scenarios, result):
 
3729
    """Apply the scenarios in scenarios to test and add to result.
 
3730
 
 
3731
    :param test: The test to apply scenarios to.
 
3732
    :param scenarios: An iterable of scenarios to apply to test.
 
3733
    :return: result
 
3734
    :seealso: apply_scenario
 
3735
    """
 
3736
    for scenario in scenarios:
 
3737
        result.addTest(apply_scenario(test, scenario))
 
3738
    return result
 
3739
 
 
3740
 
 
3741
def apply_scenario(test, scenario):
 
3742
    """Copy test and apply scenario to it.
 
3743
 
 
3744
    :param test: A test to adapt.
 
3745
    :param scenario: A tuple describing the scenarion.
 
3746
        The first element of the tuple is the new test id.
 
3747
        The second element is a dict containing attributes to set on the
 
3748
        test.
 
3749
    :return: The adapted test.
 
3750
    """
 
3751
    new_id = "%s(%s)" % (test.id(), scenario[0])
 
3752
    new_test = clone_test(test, new_id)
 
3753
    for name, value in scenario[1].items():
 
3754
        setattr(new_test, name, value)
 
3755
    return new_test
 
3756
 
 
3757
 
 
3758
def clone_test(test, new_id):
 
3759
    """Clone a test giving it a new id.
 
3760
 
 
3761
    :param test: The test to clone.
 
3762
    :param new_id: The id to assign to it.
 
3763
    :return: The new test.
 
3764
    """
 
3765
    from copy import deepcopy
 
3766
    new_test = deepcopy(test)
 
3767
    new_test.id = lambda: new_id
 
3768
    return new_test
 
3769
 
 
3770
 
 
3771
def _rmtree_temp_dir(dirname):
 
3772
    # If LANG=C we probably have created some bogus paths
 
3773
    # which rmtree(unicode) will fail to delete
 
3774
    # so make sure we are using rmtree(str) to delete everything
 
3775
    # except on win32, where rmtree(str) will fail
 
3776
    # since it doesn't have the property of byte-stream paths
 
3777
    # (they are either ascii or mbcs)
 
3778
    if sys.platform == 'win32':
 
3779
        # make sure we are using the unicode win32 api
 
3780
        dirname = unicode(dirname)
 
3781
    else:
 
3782
        dirname = dirname.encode(sys.getfilesystemencoding())
 
3783
    try:
 
3784
        osutils.rmtree(dirname)
 
3785
    except OSError, e:
 
3786
        if sys.platform == 'win32' and e.errno == errno.EACCES:
 
3787
            sys.stderr.write('Permission denied: '
 
3788
                             'unable to remove testing dir '
 
3789
                             '%s\n%s'
 
3790
                             % (os.path.basename(dirname), e))
 
3791
        else:
 
3792
            raise
 
3793
 
 
3794
 
 
3795
class Feature(object):
 
3796
    """An operating system Feature."""
 
3797
 
 
3798
    def __init__(self):
 
3799
        self._available = None
 
3800
 
 
3801
    def available(self):
 
3802
        """Is the feature available?
 
3803
 
 
3804
        :return: True if the feature is available.
 
3805
        """
 
3806
        if self._available is None:
 
3807
            self._available = self._probe()
 
3808
        return self._available
 
3809
 
 
3810
    def _probe(self):
 
3811
        """Implement this method in concrete features.
 
3812
 
 
3813
        :return: True if the feature is available.
 
3814
        """
 
3815
        raise NotImplementedError
 
3816
 
 
3817
    def __str__(self):
 
3818
        if getattr(self, 'feature_name', None):
 
3819
            return self.feature_name()
 
3820
        return self.__class__.__name__
 
3821
 
 
3822
 
 
3823
class _SymlinkFeature(Feature):
 
3824
 
 
3825
    def _probe(self):
 
3826
        return osutils.has_symlinks()
 
3827
 
 
3828
    def feature_name(self):
 
3829
        return 'symlinks'
 
3830
 
 
3831
SymlinkFeature = _SymlinkFeature()
 
3832
 
 
3833
 
 
3834
class _HardlinkFeature(Feature):
 
3835
 
 
3836
    def _probe(self):
 
3837
        return osutils.has_hardlinks()
 
3838
 
 
3839
    def feature_name(self):
 
3840
        return 'hardlinks'
 
3841
 
 
3842
HardlinkFeature = _HardlinkFeature()
 
3843
 
 
3844
 
 
3845
class _OsFifoFeature(Feature):
 
3846
 
 
3847
    def _probe(self):
 
3848
        return getattr(os, 'mkfifo', None)
 
3849
 
 
3850
    def feature_name(self):
 
3851
        return 'filesystem fifos'
 
3852
 
 
3853
OsFifoFeature = _OsFifoFeature()
 
3854
 
 
3855
 
 
3856
class _UnicodeFilenameFeature(Feature):
 
3857
    """Does the filesystem support Unicode filenames?"""
 
3858
 
 
3859
    def _probe(self):
 
3860
        try:
 
3861
            # Check for character combinations unlikely to be covered by any
 
3862
            # single non-unicode encoding. We use the characters
 
3863
            # - greek small letter alpha (U+03B1) and
 
3864
            # - braille pattern dots-123456 (U+283F).
 
3865
            os.stat(u'\u03b1\u283f')
 
3866
        except UnicodeEncodeError:
 
3867
            return False
 
3868
        except (IOError, OSError):
 
3869
            # The filesystem allows the Unicode filename but the file doesn't
 
3870
            # exist.
 
3871
            return True
 
3872
        else:
 
3873
            # The filesystem allows the Unicode filename and the file exists,
 
3874
            # for some reason.
 
3875
            return True
 
3876
 
 
3877
UnicodeFilenameFeature = _UnicodeFilenameFeature()
 
3878
 
 
3879
 
 
3880
def probe_unicode_in_user_encoding():
 
3881
    """Try to encode several unicode strings to use in unicode-aware tests.
 
3882
    Return first successfull match.
 
3883
 
 
3884
    :return:  (unicode value, encoded plain string value) or (None, None)
 
3885
    """
 
3886
    possible_vals = [u'm\xb5', u'\xe1', u'\u0410']
 
3887
    for uni_val in possible_vals:
 
3888
        try:
 
3889
            str_val = uni_val.encode(osutils.get_user_encoding())
 
3890
        except UnicodeEncodeError:
 
3891
            # Try a different character
 
3892
            pass
 
3893
        else:
 
3894
            return uni_val, str_val
 
3895
    return None, None
 
3896
 
 
3897
 
 
3898
def probe_bad_non_ascii(encoding):
 
3899
    """Try to find [bad] character with code [128..255]
 
3900
    that cannot be decoded to unicode in some encoding.
 
3901
    Return None if all non-ascii characters is valid
 
3902
    for given encoding.
 
3903
    """
 
3904
    for i in xrange(128, 256):
 
3905
        char = chr(i)
 
3906
        try:
 
3907
            char.decode(encoding)
 
3908
        except UnicodeDecodeError:
 
3909
            return char
 
3910
    return None
 
3911
 
 
3912
 
 
3913
class _HTTPSServerFeature(Feature):
 
3914
    """Some tests want an https Server, check if one is available.
 
3915
 
 
3916
    Right now, the only way this is available is under python2.6 which provides
 
3917
    an ssl module.
 
3918
    """
 
3919
 
 
3920
    def _probe(self):
 
3921
        try:
 
3922
            import ssl
 
3923
            return True
 
3924
        except ImportError:
 
3925
            return False
 
3926
 
 
3927
    def feature_name(self):
 
3928
        return 'HTTPSServer'
 
3929
 
 
3930
 
 
3931
HTTPSServerFeature = _HTTPSServerFeature()
 
3932
 
 
3933
 
 
3934
class _UnicodeFilename(Feature):
 
3935
    """Does the filesystem support Unicode filenames?"""
 
3936
 
 
3937
    def _probe(self):
 
3938
        try:
 
3939
            os.stat(u'\u03b1')
 
3940
        except UnicodeEncodeError:
 
3941
            return False
 
3942
        except (IOError, OSError):
 
3943
            # The filesystem allows the Unicode filename but the file doesn't
 
3944
            # exist.
 
3945
            return True
 
3946
        else:
 
3947
            # The filesystem allows the Unicode filename and the file exists,
 
3948
            # for some reason.
 
3949
            return True
 
3950
 
 
3951
UnicodeFilename = _UnicodeFilename()
 
3952
 
 
3953
 
 
3954
class _UTF8Filesystem(Feature):
 
3955
    """Is the filesystem UTF-8?"""
 
3956
 
 
3957
    def _probe(self):
 
3958
        if osutils._fs_enc.upper() in ('UTF-8', 'UTF8'):
 
3959
            return True
 
3960
        return False
 
3961
 
 
3962
UTF8Filesystem = _UTF8Filesystem()
 
3963
 
 
3964
 
 
3965
class _CaseInsCasePresFilenameFeature(Feature):
 
3966
    """Is the file-system case insensitive, but case-preserving?"""
 
3967
 
 
3968
    def _probe(self):
 
3969
        fileno, name = tempfile.mkstemp(prefix='MixedCase')
 
3970
        try:
 
3971
            # first check truly case-preserving for created files, then check
 
3972
            # case insensitive when opening existing files.
 
3973
            name = osutils.normpath(name)
 
3974
            base, rel = osutils.split(name)
 
3975
            found_rel = osutils.canonical_relpath(base, name)
 
3976
            return (found_rel == rel
 
3977
                    and os.path.isfile(name.upper())
 
3978
                    and os.path.isfile(name.lower()))
 
3979
        finally:
 
3980
            os.close(fileno)
 
3981
            os.remove(name)
 
3982
 
 
3983
    def feature_name(self):
 
3984
        return "case-insensitive case-preserving filesystem"
 
3985
 
 
3986
CaseInsCasePresFilenameFeature = _CaseInsCasePresFilenameFeature()
 
3987
 
 
3988
 
 
3989
class _CaseInsensitiveFilesystemFeature(Feature):
 
3990
    """Check if underlying filesystem is case-insensitive but *not* case
 
3991
    preserving.
 
3992
    """
 
3993
    # Note that on Windows, Cygwin, MacOS etc, the file-systems are far
 
3994
    # more likely to be case preserving, so this case is rare.
 
3995
 
 
3996
    def _probe(self):
 
3997
        if CaseInsCasePresFilenameFeature.available():
 
3998
            return False
 
3999
 
 
4000
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
 
4001
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
 
4002
            TestCaseWithMemoryTransport.TEST_ROOT = root
 
4003
        else:
 
4004
            root = TestCaseWithMemoryTransport.TEST_ROOT
 
4005
        tdir = osutils.mkdtemp(prefix='case-sensitive-probe-', suffix='',
 
4006
            dir=root)
 
4007
        name_a = osutils.pathjoin(tdir, 'a')
 
4008
        name_A = osutils.pathjoin(tdir, 'A')
 
4009
        os.mkdir(name_a)
 
4010
        result = osutils.isdir(name_A)
 
4011
        _rmtree_temp_dir(tdir)
 
4012
        return result
 
4013
 
 
4014
    def feature_name(self):
 
4015
        return 'case-insensitive filesystem'
 
4016
 
 
4017
CaseInsensitiveFilesystemFeature = _CaseInsensitiveFilesystemFeature()
 
4018
 
 
4019
 
 
4020
class _SubUnitFeature(Feature):
 
4021
    """Check if subunit is available."""
 
4022
 
 
4023
    def _probe(self):
 
4024
        try:
 
4025
            import subunit
 
4026
            return True
 
4027
        except ImportError:
 
4028
            return False
 
4029
 
 
4030
    def feature_name(self):
 
4031
        return 'subunit'
 
4032
 
 
4033
SubUnitFeature = _SubUnitFeature()
 
4034
# Only define SubUnitBzrRunner if subunit is available.
 
4035
try:
 
4036
    from subunit import TestProtocolClient
 
4037
    try:
 
4038
        from subunit.test_results import AutoTimingTestResultDecorator
 
4039
    except ImportError:
 
4040
        AutoTimingTestResultDecorator = lambda x:x
 
4041
    class SubUnitBzrRunner(TextTestRunner):
 
4042
        def run(self, test):
 
4043
            result = AutoTimingTestResultDecorator(
 
4044
                TestProtocolClient(self.stream))
 
4045
            test.run(result)
 
4046
            return result
 
4047
except ImportError:
 
4048
    pass