~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Martin Pool
  • Date: 2007-09-19 13:12:32 UTC
  • mto: (2592.3.153 repository)
  • mto: This revision was merged to the branch mainline in revision 2933.
  • Revision ID: mbp@sourcefrog.net-20070919131232-0gtp1q90fxz10ctn
move commit_write_group to RepositoryPackCollection

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 by Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
 
18
 
from testsweet import TestBase, run_suite, InTempDir
 
18
# TODO: Perhaps there should be an API to find out if bzr running under the
 
19
# test suite -- some plugins might want to avoid making intrusive changes if
 
20
# this is the case.  However, we want behaviour under to test to diverge as
 
21
# little as possible, so this should be used rarely if it's added at all.
 
22
# (Suggestion from j-a-meinel, 2005-11-24)
 
23
 
 
24
# NOTE: Some classes in here use camelCaseNaming() rather than
 
25
# underscore_naming().  That's for consistency with unittest; it's not the
 
26
# general style of bzrlib.  Please continue that consistency when adding e.g.
 
27
# new assertFoo() methods.
 
28
 
 
29
import atexit
 
30
import codecs
 
31
from cStringIO import StringIO
 
32
import difflib
 
33
import doctest
 
34
import errno
 
35
import logging
 
36
import os
 
37
from pprint import pformat
 
38
import random
 
39
import re
 
40
import shlex
 
41
import stat
 
42
from subprocess import Popen, PIPE
 
43
import sys
 
44
import tempfile
 
45
import unittest
 
46
import time
 
47
import warnings
 
48
 
 
49
 
 
50
from bzrlib import (
 
51
    bzrdir,
 
52
    debug,
 
53
    errors,
 
54
    memorytree,
 
55
    osutils,
 
56
    progress,
 
57
    ui,
 
58
    urlutils,
 
59
    workingtree,
 
60
    )
 
61
import bzrlib.branch
 
62
import bzrlib.commands
 
63
import bzrlib.timestamp
 
64
import bzrlib.export
 
65
import bzrlib.inventory
 
66
import bzrlib.iterablefile
 
67
import bzrlib.lockdir
 
68
try:
 
69
    import bzrlib.lsprof
 
70
except ImportError:
 
71
    # lsprof not available
 
72
    pass
 
73
from bzrlib.merge import merge_inner
 
74
import bzrlib.merge3
 
75
import bzrlib.osutils
 
76
import bzrlib.plugin
 
77
from bzrlib.revision import common_ancestor
 
78
import bzrlib.store
 
79
from bzrlib import symbol_versioning
 
80
from bzrlib.symbol_versioning import (
 
81
    deprecated_method,
 
82
    zero_eighteen,
 
83
    zero_ninetyone,
 
84
    )
 
85
import bzrlib.trace
 
86
from bzrlib.transport import get_transport
 
87
import bzrlib.transport
 
88
from bzrlib.transport.local import LocalURLServer
 
89
from bzrlib.transport.memory import MemoryServer
 
90
from bzrlib.transport.readonly import ReadonlyServer
 
91
from bzrlib.trace import mutter, note
 
92
from bzrlib.tests import TestUtil
 
93
from bzrlib.tests.HttpServer import HttpServer
 
94
from bzrlib.tests.TestUtil import (
 
95
                          TestSuite,
 
96
                          TestLoader,
 
97
                          )
 
98
from bzrlib.tests.treeshape import build_tree_contents
 
99
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
 
100
 
 
101
# Mark this python module as being part of the implementation
 
102
# of unittest: this gives us better tracebacks where the last
 
103
# shown frame is the test code, not our assertXYZ.
 
104
__unittest = 1
 
105
 
 
106
default_transport = LocalURLServer
19
107
 
20
108
MODULES_TO_TEST = []
21
 
MODULES_TO_DOCTEST = []
22
 
 
23
 
def selftest():
24
 
    from unittest import TestLoader, TestSuite
25
 
    import bzrlib, bzrlib.store, bzrlib.inventory, bzrlib.branch
26
 
    import bzrlib.osutils, bzrlib.commands, bzrlib.merge3, bzrlib.plugin
27
 
    global MODULES_TO_TEST, MODULES_TO_DOCTEST
28
 
 
29
 
    import bzrlib.selftest.whitebox
30
 
    import bzrlib.selftest.blackbox
31
 
    import bzrlib.selftest.versioning
32
 
    import bzrlib.selftest.testmerge3
33
 
    import bzrlib.selftest.testhashcache
34
 
    import bzrlib.selftest.testrevisionnamespaces
35
 
    import bzrlib.selftest.testbranch
36
 
    import bzrlib.selftest.teststatus
37
 
    import bzrlib.selftest.testinv
38
 
    import bzrlib.merge_core
39
 
    from doctest import DocTestSuite
40
 
    import os
41
 
    import shutil
42
 
    import time
43
 
    import sys
44
 
    import unittest
45
 
 
46
 
    for m in (bzrlib.store, bzrlib.inventory, bzrlib.branch,
47
 
              bzrlib.osutils, bzrlib.commands, bzrlib.merge3):
48
 
        if m not in MODULES_TO_DOCTEST:
49
 
            MODULES_TO_DOCTEST.append(m)
50
 
            
51
 
    for m in (bzrlib.selftest.whitebox,
52
 
              bzrlib.selftest.versioning,
53
 
              bzrlib.selftest.testinv,
54
 
              bzrlib.selftest.testmerge3,
55
 
              bzrlib.selftest.testhashcache,
56
 
              bzrlib.selftest.teststatus,
57
 
              bzrlib.selftest.blackbox,
58
 
              bzrlib.selftest.testhashcache,
59
 
              bzrlib.selftest.testrevisionnamespaces,
60
 
              bzrlib.selftest.testbranch,
 
109
MODULES_TO_DOCTEST = [
 
110
        bzrlib.timestamp,
 
111
        bzrlib.errors,
 
112
        bzrlib.export,
 
113
        bzrlib.inventory,
 
114
        bzrlib.iterablefile,
 
115
        bzrlib.lockdir,
 
116
        bzrlib.merge3,
 
117
        bzrlib.option,
 
118
        bzrlib.store,
 
119
        # quoted to avoid module-loading circularity
 
120
        'bzrlib.tests',
 
121
        ]
 
122
 
 
123
 
 
124
def packages_to_test():
 
125
    """Return a list of packages to test.
 
126
 
 
127
    The packages are not globally imported so that import failures are
 
128
    triggered when running selftest, not when importing the command.
 
129
    """
 
130
    import bzrlib.doc
 
131
    import bzrlib.tests.blackbox
 
132
    import bzrlib.tests.branch_implementations
 
133
    import bzrlib.tests.bzrdir_implementations
 
134
    import bzrlib.tests.commands
 
135
    import bzrlib.tests.interrepository_implementations
 
136
    import bzrlib.tests.interversionedfile_implementations
 
137
    import bzrlib.tests.intertree_implementations
 
138
    import bzrlib.tests.inventory_implementations
 
139
    import bzrlib.tests.per_lock
 
140
    import bzrlib.tests.repository_implementations
 
141
    import bzrlib.tests.revisionstore_implementations
 
142
    import bzrlib.tests.tree_implementations
 
143
    import bzrlib.tests.workingtree_implementations
 
144
    return [
 
145
            bzrlib.doc,
 
146
            bzrlib.tests.blackbox,
 
147
            bzrlib.tests.branch_implementations,
 
148
            bzrlib.tests.bzrdir_implementations,
 
149
            bzrlib.tests.commands,
 
150
            bzrlib.tests.interrepository_implementations,
 
151
            bzrlib.tests.interversionedfile_implementations,
 
152
            bzrlib.tests.intertree_implementations,
 
153
            bzrlib.tests.inventory_implementations,
 
154
            bzrlib.tests.per_lock,
 
155
            bzrlib.tests.repository_implementations,
 
156
            bzrlib.tests.revisionstore_implementations,
 
157
            bzrlib.tests.tree_implementations,
 
158
            bzrlib.tests.workingtree_implementations,
 
159
            ]
 
160
 
 
161
 
 
162
class ExtendedTestResult(unittest._TextTestResult):
 
163
    """Accepts, reports and accumulates the results of running tests.
 
164
 
 
165
    Compared to this unittest version this class adds support for
 
166
    profiling, benchmarking, stopping as soon as a test fails,  and
 
167
    skipping tests.  There are further-specialized subclasses for
 
168
    different types of display.
 
169
 
 
170
    When a test finishes, in whatever way, it calls one of the addSuccess,
 
171
    addFailure or addError classes.  These in turn may redirect to a more
 
172
    specific case for the special test results supported by our extended
 
173
    tests.
 
174
 
 
175
    Note that just one of these objects is fed the results from many tests.
 
176
    """
 
177
 
 
178
    stop_early = False
 
179
    
 
180
    def __init__(self, stream, descriptions, verbosity,
 
181
                 bench_history=None,
 
182
                 num_tests=None,
 
183
                 ):
 
184
        """Construct new TestResult.
 
185
 
 
186
        :param bench_history: Optionally, a writable file object to accumulate
 
187
            benchmark results.
 
188
        """
 
189
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
 
190
        if bench_history is not None:
 
191
            from bzrlib.version import _get_bzr_source_tree
 
192
            src_tree = _get_bzr_source_tree()
 
193
            if src_tree:
 
194
                try:
 
195
                    revision_id = src_tree.get_parent_ids()[0]
 
196
                except IndexError:
 
197
                    # XXX: if this is a brand new tree, do the same as if there
 
198
                    # is no branch.
 
199
                    revision_id = ''
 
200
            else:
 
201
                # XXX: If there's no branch, what should we do?
 
202
                revision_id = ''
 
203
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
 
204
        self._bench_history = bench_history
 
205
        self.ui = ui.ui_factory
 
206
        self.num_tests = num_tests
 
207
        self.error_count = 0
 
208
        self.failure_count = 0
 
209
        self.known_failure_count = 0
 
210
        self.skip_count = 0
 
211
        self.not_applicable_count = 0
 
212
        self.unsupported = {}
 
213
        self.count = 0
 
214
        self._overall_start_time = time.time()
 
215
    
 
216
    def _extractBenchmarkTime(self, testCase):
 
217
        """Add a benchmark time for the current test case."""
 
218
        return getattr(testCase, "_benchtime", None)
 
219
    
 
220
    def _elapsedTestTimeString(self):
 
221
        """Return a time string for the overall time the current test has taken."""
 
222
        return self._formatTime(time.time() - self._start_time)
 
223
 
 
224
    def _testTimeString(self, testCase):
 
225
        benchmark_time = self._extractBenchmarkTime(testCase)
 
226
        if benchmark_time is not None:
 
227
            return "%s/%s" % (
 
228
                self._formatTime(benchmark_time),
 
229
                self._elapsedTestTimeString())
 
230
        else:
 
231
            return "           %s" % self._elapsedTestTimeString()
 
232
 
 
233
    def _formatTime(self, seconds):
 
234
        """Format seconds as milliseconds with leading spaces."""
 
235
        # some benchmarks can take thousands of seconds to run, so we need 8
 
236
        # places
 
237
        return "%8dms" % (1000 * seconds)
 
238
 
 
239
    def _shortened_test_description(self, test):
 
240
        what = test.id()
 
241
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
242
        return what
 
243
 
 
244
    def startTest(self, test):
 
245
        unittest.TestResult.startTest(self, test)
 
246
        self.report_test_start(test)
 
247
        test.number = self.count
 
248
        self._recordTestStartTime()
 
249
 
 
250
    def _recordTestStartTime(self):
 
251
        """Record that a test has started."""
 
252
        self._start_time = time.time()
 
253
 
 
254
    def _cleanupLogFile(self, test):
 
255
        # We can only do this if we have one of our TestCases, not if
 
256
        # we have a doctest.
 
257
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
 
258
        if setKeepLogfile is not None:
 
259
            setKeepLogfile()
 
260
 
 
261
    def addError(self, test, err):
 
262
        """Tell result that test finished with an error.
 
263
 
 
264
        Called from the TestCase run() method when the test
 
265
        fails with an unexpected error.
 
266
        """
 
267
        self._testConcluded(test)
 
268
        if isinstance(err[1], TestSkipped):
 
269
            return self._addSkipped(test, err)
 
270
        elif isinstance(err[1], UnavailableFeature):
 
271
            return self.addNotSupported(test, err[1].args[0])
 
272
        else:
 
273
            unittest.TestResult.addError(self, test, err)
 
274
            self.error_count += 1
 
275
            self.report_error(test, err)
 
276
            if self.stop_early:
 
277
                self.stop()
 
278
 
 
279
    def addFailure(self, test, err):
 
280
        """Tell result that test failed.
 
281
 
 
282
        Called from the TestCase run() method when the test
 
283
        fails because e.g. an assert() method failed.
 
284
        """
 
285
        self._testConcluded(test)
 
286
        if isinstance(err[1], KnownFailure):
 
287
            return self._addKnownFailure(test, err)
 
288
        else:
 
289
            unittest.TestResult.addFailure(self, test, err)
 
290
            self.failure_count += 1
 
291
            self.report_failure(test, err)
 
292
            if self.stop_early:
 
293
                self.stop()
 
294
 
 
295
    def addSuccess(self, test):
 
296
        """Tell result that test completed successfully.
 
297
 
 
298
        Called from the TestCase run()
 
299
        """
 
300
        self._testConcluded(test)
 
301
        if self._bench_history is not None:
 
302
            benchmark_time = self._extractBenchmarkTime(test)
 
303
            if benchmark_time is not None:
 
304
                self._bench_history.write("%s %s\n" % (
 
305
                    self._formatTime(benchmark_time),
 
306
                    test.id()))
 
307
        self.report_success(test)
 
308
        unittest.TestResult.addSuccess(self, test)
 
309
 
 
310
    def _testConcluded(self, test):
 
311
        """Common code when a test has finished.
 
312
 
 
313
        Called regardless of whether it succeded, failed, etc.
 
314
        """
 
315
        self._cleanupLogFile(test)
 
316
 
 
317
    def _addKnownFailure(self, test, err):
 
318
        self.known_failure_count += 1
 
319
        self.report_known_failure(test, err)
 
320
 
 
321
    def addNotSupported(self, test, feature):
 
322
        """The test will not be run because of a missing feature.
 
323
        """
 
324
        # this can be called in two different ways: it may be that the
 
325
        # test started running, and then raised (through addError) 
 
326
        # UnavailableFeature.  Alternatively this method can be called
 
327
        # while probing for features before running the tests; in that
 
328
        # case we will see startTest and stopTest, but the test will never
 
329
        # actually run.
 
330
        self.unsupported.setdefault(str(feature), 0)
 
331
        self.unsupported[str(feature)] += 1
 
332
        self.report_unsupported(test, feature)
 
333
 
 
334
    def _addSkipped(self, test, skip_excinfo):
 
335
        if isinstance(skip_excinfo[1], TestNotApplicable):
 
336
            self.not_applicable_count += 1
 
337
            self.report_not_applicable(test, skip_excinfo)
 
338
        else:
 
339
            self.skip_count += 1
 
340
            self.report_skip(test, skip_excinfo)
 
341
        try:
 
342
            test.tearDown()
 
343
        except KeyboardInterrupt:
 
344
            raise
 
345
        except:
 
346
            self.addError(test, test.__exc_info())
 
347
        else:
 
348
            # seems best to treat this as success from point-of-view of unittest
 
349
            # -- it actually does nothing so it barely matters :)
 
350
            unittest.TestResult.addSuccess(self, test)
 
351
 
 
352
    def printErrorList(self, flavour, errors):
 
353
        for test, err in errors:
 
354
            self.stream.writeln(self.separator1)
 
355
            self.stream.write("%s: " % flavour)
 
356
            self.stream.writeln(self.getDescription(test))
 
357
            if getattr(test, '_get_log', None) is not None:
 
358
                print >>self.stream
 
359
                print >>self.stream, \
 
360
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-')
 
361
                print >>self.stream, test._get_log()
 
362
                print >>self.stream, \
 
363
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-')
 
364
            self.stream.writeln(self.separator2)
 
365
            self.stream.writeln("%s" % err)
 
366
 
 
367
    def finished(self):
 
368
        pass
 
369
 
 
370
    def report_cleaning_up(self):
 
371
        pass
 
372
 
 
373
    def report_success(self, test):
 
374
        pass
 
375
 
 
376
    def wasStrictlySuccessful(self):
 
377
        if self.unsupported or self.known_failure_count:
 
378
            return False
 
379
        return self.wasSuccessful()
 
380
 
 
381
 
 
382
class TextTestResult(ExtendedTestResult):
 
383
    """Displays progress and results of tests in text form"""
 
384
 
 
385
    def __init__(self, stream, descriptions, verbosity,
 
386
                 bench_history=None,
 
387
                 num_tests=None,
 
388
                 pb=None,
 
389
                 ):
 
390
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
 
391
            bench_history, num_tests)
 
392
        if pb is None:
 
393
            self.pb = self.ui.nested_progress_bar()
 
394
            self._supplied_pb = False
 
395
        else:
 
396
            self.pb = pb
 
397
            self._supplied_pb = True
 
398
        self.pb.show_pct = False
 
399
        self.pb.show_spinner = False
 
400
        self.pb.show_eta = False,
 
401
        self.pb.show_count = False
 
402
        self.pb.show_bar = False
 
403
 
 
404
    def report_starting(self):
 
405
        self.pb.update('[test 0/%d] starting...' % (self.num_tests))
 
406
 
 
407
    def _progress_prefix_text(self):
 
408
        a = '[%d' % self.count
 
409
        if self.num_tests is not None:
 
410
            a +='/%d' % self.num_tests
 
411
        a += ' in %ds' % (time.time() - self._overall_start_time)
 
412
        if self.error_count:
 
413
            a += ', %d errors' % self.error_count
 
414
        if self.failure_count:
 
415
            a += ', %d failed' % self.failure_count
 
416
        if self.known_failure_count:
 
417
            a += ', %d known failures' % self.known_failure_count
 
418
        if self.skip_count:
 
419
            a += ', %d skipped' % self.skip_count
 
420
        if self.unsupported:
 
421
            a += ', %d missing features' % len(self.unsupported)
 
422
        a += ']'
 
423
        return a
 
424
 
 
425
    def report_test_start(self, test):
 
426
        self.count += 1
 
427
        self.pb.update(
 
428
                self._progress_prefix_text()
 
429
                + ' ' 
 
430
                + self._shortened_test_description(test))
 
431
 
 
432
    def _test_description(self, test):
 
433
        return self._shortened_test_description(test)
 
434
 
 
435
    def report_error(self, test, err):
 
436
        self.pb.note('ERROR: %s\n    %s\n', 
 
437
            self._test_description(test),
 
438
            err[1],
 
439
            )
 
440
 
 
441
    def report_failure(self, test, err):
 
442
        self.pb.note('FAIL: %s\n    %s\n', 
 
443
            self._test_description(test),
 
444
            err[1],
 
445
            )
 
446
 
 
447
    def report_known_failure(self, test, err):
 
448
        self.pb.note('XFAIL: %s\n%s\n',
 
449
            self._test_description(test), err[1])
 
450
 
 
451
    def report_skip(self, test, skip_excinfo):
 
452
        pass
 
453
 
 
454
    def report_not_applicable(self, test, skip_excinfo):
 
455
        pass
 
456
 
 
457
    def report_unsupported(self, test, feature):
 
458
        """test cannot be run because feature is missing."""
 
459
                  
 
460
    def report_cleaning_up(self):
 
461
        self.pb.update('cleaning up...')
 
462
 
 
463
    def finished(self):
 
464
        if not self._supplied_pb:
 
465
            self.pb.finished()
 
466
 
 
467
 
 
468
class VerboseTestResult(ExtendedTestResult):
 
469
    """Produce long output, with one line per test run plus times"""
 
470
 
 
471
    def _ellipsize_to_right(self, a_string, final_width):
 
472
        """Truncate and pad a string, keeping the right hand side"""
 
473
        if len(a_string) > final_width:
 
474
            result = '...' + a_string[3-final_width:]
 
475
        else:
 
476
            result = a_string
 
477
        return result.ljust(final_width)
 
478
 
 
479
    def report_starting(self):
 
480
        self.stream.write('running %d tests...\n' % self.num_tests)
 
481
 
 
482
    def report_test_start(self, test):
 
483
        self.count += 1
 
484
        name = self._shortened_test_description(test)
 
485
        # width needs space for 6 char status, plus 1 for slash, plus 2 10-char
 
486
        # numbers, plus a trailing blank
 
487
        # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on space
 
488
        self.stream.write(self._ellipsize_to_right(name,
 
489
                          osutils.terminal_width()-30))
 
490
        self.stream.flush()
 
491
 
 
492
    def _error_summary(self, err):
 
493
        indent = ' ' * 4
 
494
        return '%s%s' % (indent, err[1])
 
495
 
 
496
    def report_error(self, test, err):
 
497
        self.stream.writeln('ERROR %s\n%s'
 
498
                % (self._testTimeString(test),
 
499
                   self._error_summary(err)))
 
500
 
 
501
    def report_failure(self, test, err):
 
502
        self.stream.writeln(' FAIL %s\n%s'
 
503
                % (self._testTimeString(test),
 
504
                   self._error_summary(err)))
 
505
 
 
506
    def report_known_failure(self, test, err):
 
507
        self.stream.writeln('XFAIL %s\n%s'
 
508
                % (self._testTimeString(test),
 
509
                   self._error_summary(err)))
 
510
 
 
511
    def report_success(self, test):
 
512
        self.stream.writeln('   OK %s' % self._testTimeString(test))
 
513
        for bench_called, stats in getattr(test, '_benchcalls', []):
 
514
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
515
            stats.pprint(file=self.stream)
 
516
        # flush the stream so that we get smooth output. This verbose mode is
 
517
        # used to show the output in PQM.
 
518
        self.stream.flush()
 
519
 
 
520
    def report_skip(self, test, skip_excinfo):
 
521
        self.stream.writeln(' SKIP %s\n%s'
 
522
                % (self._testTimeString(test),
 
523
                   self._error_summary(skip_excinfo)))
 
524
 
 
525
    def report_not_applicable(self, test, skip_excinfo):
 
526
        self.stream.writeln('  N/A %s\n%s'
 
527
                % (self._testTimeString(test),
 
528
                   self._error_summary(skip_excinfo)))
 
529
 
 
530
    def report_unsupported(self, test, feature):
 
531
        """test cannot be run because feature is missing."""
 
532
        self.stream.writeln("NODEP %s\n    The feature '%s' is not available."
 
533
                %(self._testTimeString(test), feature))
 
534
 
 
535
 
 
536
class TextTestRunner(object):
 
537
    stop_on_failure = False
 
538
 
 
539
    def __init__(self,
 
540
                 stream=sys.stderr,
 
541
                 descriptions=0,
 
542
                 verbosity=1,
 
543
                 bench_history=None,
 
544
                 list_only=False
 
545
                 ):
 
546
        self.stream = unittest._WritelnDecorator(stream)
 
547
        self.descriptions = descriptions
 
548
        self.verbosity = verbosity
 
549
        self._bench_history = bench_history
 
550
        self.list_only = list_only
 
551
 
 
552
    def run(self, test):
 
553
        "Run the given test case or test suite."
 
554
        startTime = time.time()
 
555
        if self.verbosity == 1:
 
556
            result_class = TextTestResult
 
557
        elif self.verbosity >= 2:
 
558
            result_class = VerboseTestResult
 
559
        result = result_class(self.stream,
 
560
                              self.descriptions,
 
561
                              self.verbosity,
 
562
                              bench_history=self._bench_history,
 
563
                              num_tests=test.countTestCases(),
 
564
                              )
 
565
        result.stop_early = self.stop_on_failure
 
566
        result.report_starting()
 
567
        if self.list_only:
 
568
            if self.verbosity >= 2:
 
569
                self.stream.writeln("Listing tests only ...\n")
 
570
            run = 0
 
571
            for t in iter_suite_tests(test):
 
572
                self.stream.writeln("%s" % (t.id()))
 
573
                run += 1
 
574
            actionTaken = "Listed"
 
575
        else: 
 
576
            test.run(result)
 
577
            run = result.testsRun
 
578
            actionTaken = "Ran"
 
579
        stopTime = time.time()
 
580
        timeTaken = stopTime - startTime
 
581
        result.printErrors()
 
582
        self.stream.writeln(result.separator2)
 
583
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
 
584
                            run, run != 1 and "s" or "", timeTaken))
 
585
        self.stream.writeln()
 
586
        if not result.wasSuccessful():
 
587
            self.stream.write("FAILED (")
 
588
            failed, errored = map(len, (result.failures, result.errors))
 
589
            if failed:
 
590
                self.stream.write("failures=%d" % failed)
 
591
            if errored:
 
592
                if failed: self.stream.write(", ")
 
593
                self.stream.write("errors=%d" % errored)
 
594
            if result.known_failure_count:
 
595
                if failed or errored: self.stream.write(", ")
 
596
                self.stream.write("known_failure_count=%d" %
 
597
                    result.known_failure_count)
 
598
            self.stream.writeln(")")
 
599
        else:
 
600
            if result.known_failure_count:
 
601
                self.stream.writeln("OK (known_failures=%d)" %
 
602
                    result.known_failure_count)
 
603
            else:
 
604
                self.stream.writeln("OK")
 
605
        if result.skip_count > 0:
 
606
            skipped = result.skip_count
 
607
            self.stream.writeln('%d test%s skipped' %
 
608
                                (skipped, skipped != 1 and "s" or ""))
 
609
        if result.unsupported:
 
610
            for feature, count in sorted(result.unsupported.items()):
 
611
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
612
                    (feature, count))
 
613
        result.finished()
 
614
        return result
 
615
 
 
616
 
 
617
def iter_suite_tests(suite):
 
618
    """Return all tests in a suite, recursing through nested suites"""
 
619
    for item in suite._tests:
 
620
        if isinstance(item, unittest.TestCase):
 
621
            yield item
 
622
        elif isinstance(item, unittest.TestSuite):
 
623
            for r in iter_suite_tests(item):
 
624
                yield r
 
625
        else:
 
626
            raise Exception('unknown object %r inside test suite %r'
 
627
                            % (item, suite))
 
628
 
 
629
 
 
630
class TestSkipped(Exception):
 
631
    """Indicates that a test was intentionally skipped, rather than failing."""
 
632
 
 
633
 
 
634
class TestNotApplicable(TestSkipped):
 
635
    """A test is not applicable to the situation where it was run.
 
636
 
 
637
    This is only normally raised by parameterized tests, if they find that 
 
638
    the instance they're constructed upon does not support one aspect 
 
639
    of its interface.
 
640
    """
 
641
 
 
642
 
 
643
class KnownFailure(AssertionError):
 
644
    """Indicates that a test failed in a precisely expected manner.
 
645
 
 
646
    Such failures dont block the whole test suite from passing because they are
 
647
    indicators of partially completed code or of future work. We have an
 
648
    explicit error for them so that we can ensure that they are always visible:
 
649
    KnownFailures are always shown in the output of bzr selftest.
 
650
    """
 
651
 
 
652
 
 
653
class UnavailableFeature(Exception):
 
654
    """A feature required for this test was not available.
 
655
 
 
656
    The feature should be used to construct the exception.
 
657
    """
 
658
 
 
659
 
 
660
class CommandFailed(Exception):
 
661
    pass
 
662
 
 
663
 
 
664
class StringIOWrapper(object):
 
665
    """A wrapper around cStringIO which just adds an encoding attribute.
 
666
    
 
667
    Internally we can check sys.stdout to see what the output encoding
 
668
    should be. However, cStringIO has no encoding attribute that we can
 
669
    set. So we wrap it instead.
 
670
    """
 
671
    encoding='ascii'
 
672
    _cstring = None
 
673
 
 
674
    def __init__(self, s=None):
 
675
        if s is not None:
 
676
            self.__dict__['_cstring'] = StringIO(s)
 
677
        else:
 
678
            self.__dict__['_cstring'] = StringIO()
 
679
 
 
680
    def __getattr__(self, name, getattr=getattr):
 
681
        return getattr(self.__dict__['_cstring'], name)
 
682
 
 
683
    def __setattr__(self, name, val):
 
684
        if name == 'encoding':
 
685
            self.__dict__['encoding'] = val
 
686
        else:
 
687
            return setattr(self._cstring, name, val)
 
688
 
 
689
 
 
690
class TestUIFactory(ui.CLIUIFactory):
 
691
    """A UI Factory for testing.
 
692
 
 
693
    Hide the progress bar but emit note()s.
 
694
    Redirect stdin.
 
695
    Allows get_password to be tested without real tty attached.
 
696
    """
 
697
 
 
698
    def __init__(self,
 
699
                 stdout=None,
 
700
                 stderr=None,
 
701
                 stdin=None):
 
702
        super(TestUIFactory, self).__init__()
 
703
        if stdin is not None:
 
704
            # We use a StringIOWrapper to be able to test various
 
705
            # encodings, but the user is still responsible to
 
706
            # encode the string and to set the encoding attribute
 
707
            # of StringIOWrapper.
 
708
            self.stdin = StringIOWrapper(stdin)
 
709
        if stdout is None:
 
710
            self.stdout = sys.stdout
 
711
        else:
 
712
            self.stdout = stdout
 
713
        if stderr is None:
 
714
            self.stderr = sys.stderr
 
715
        else:
 
716
            self.stderr = stderr
 
717
 
 
718
    def clear(self):
 
719
        """See progress.ProgressBar.clear()."""
 
720
 
 
721
    def clear_term(self):
 
722
        """See progress.ProgressBar.clear_term()."""
 
723
 
 
724
    def clear_term(self):
 
725
        """See progress.ProgressBar.clear_term()."""
 
726
 
 
727
    def finished(self):
 
728
        """See progress.ProgressBar.finished()."""
 
729
 
 
730
    def note(self, fmt_string, *args, **kwargs):
 
731
        """See progress.ProgressBar.note()."""
 
732
        self.stdout.write((fmt_string + "\n") % args)
 
733
 
 
734
    def progress_bar(self):
 
735
        return self
 
736
 
 
737
    def nested_progress_bar(self):
 
738
        return self
 
739
 
 
740
    def update(self, message, count=None, total=None):
 
741
        """See progress.ProgressBar.update()."""
 
742
 
 
743
    def get_non_echoed_password(self, prompt):
 
744
        """Get password from stdin without trying to handle the echo mode"""
 
745
        if prompt:
 
746
            self.stdout.write(prompt.encode(self.stdout.encoding, 'replace'))
 
747
        password = self.stdin.readline()
 
748
        if not password:
 
749
            raise EOFError
 
750
        if password[-1] == '\n':
 
751
            password = password[:-1]
 
752
        return password
 
753
 
 
754
 
 
755
class TestCase(unittest.TestCase):
 
756
    """Base class for bzr unit tests.
 
757
    
 
758
    Tests that need access to disk resources should subclass 
 
759
    TestCaseInTempDir not TestCase.
 
760
 
 
761
    Error and debug log messages are redirected from their usual
 
762
    location into a temporary file, the contents of which can be
 
763
    retrieved by _get_log().  We use a real OS file, not an in-memory object,
 
764
    so that it can also capture file IO.  When the test completes this file
 
765
    is read into memory and removed from disk.
 
766
       
 
767
    There are also convenience functions to invoke bzr's command-line
 
768
    routine, and to build and check bzr trees.
 
769
   
 
770
    In addition to the usual method of overriding tearDown(), this class also
 
771
    allows subclasses to register functions into the _cleanups list, which is
 
772
    run in order as the object is torn down.  It's less likely this will be
 
773
    accidentally overlooked.
 
774
    """
 
775
 
 
776
    _log_file_name = None
 
777
    _log_contents = ''
 
778
    _keep_log_file = False
 
779
    # record lsprof data when performing benchmark calls.
 
780
    _gather_lsprof_in_benchmarks = False
 
781
 
 
782
    def __init__(self, methodName='testMethod'):
 
783
        super(TestCase, self).__init__(methodName)
 
784
        self._cleanups = []
 
785
 
 
786
    def setUp(self):
 
787
        unittest.TestCase.setUp(self)
 
788
        self._cleanEnvironment()
 
789
        bzrlib.trace.disable_default_logging()
 
790
        self._silenceUI()
 
791
        self._startLogFile()
 
792
        self._benchcalls = []
 
793
        self._benchtime = None
 
794
        self._clear_hooks()
 
795
        self._clear_debug_flags()
 
796
 
 
797
    def _clear_debug_flags(self):
 
798
        """Prevent externally set debug flags affecting tests.
 
799
        
 
800
        Tests that want to use debug flags can just set them in the
 
801
        debug_flags set during setup/teardown.
 
802
        """
 
803
        self._preserved_debug_flags = set(debug.debug_flags)
 
804
        debug.debug_flags.clear()
 
805
        self.addCleanup(self._restore_debug_flags)
 
806
 
 
807
    def _clear_hooks(self):
 
808
        # prevent hooks affecting tests
 
809
        import bzrlib.branch
 
810
        import bzrlib.smart.server
 
811
        self._preserved_hooks = {
 
812
            bzrlib.branch.Branch: bzrlib.branch.Branch.hooks,
 
813
            bzrlib.smart.server.SmartTCPServer: bzrlib.smart.server.SmartTCPServer.hooks,
 
814
            }
 
815
        self.addCleanup(self._restoreHooks)
 
816
        # reset all hooks to an empty instance of the appropriate type
 
817
        bzrlib.branch.Branch.hooks = bzrlib.branch.BranchHooks()
 
818
        bzrlib.smart.server.SmartTCPServer.hooks = bzrlib.smart.server.SmartServerHooks()
 
819
 
 
820
    def _silenceUI(self):
 
821
        """Turn off UI for duration of test"""
 
822
        # by default the UI is off; tests can turn it on if they want it.
 
823
        saved = ui.ui_factory
 
824
        def _restore():
 
825
            ui.ui_factory = saved
 
826
        ui.ui_factory = ui.SilentUIFactory()
 
827
        self.addCleanup(_restore)
 
828
 
 
829
    def _ndiff_strings(self, a, b):
 
830
        """Return ndiff between two strings containing lines.
 
831
        
 
832
        A trailing newline is added if missing to make the strings
 
833
        print properly."""
 
834
        if b and b[-1] != '\n':
 
835
            b += '\n'
 
836
        if a and a[-1] != '\n':
 
837
            a += '\n'
 
838
        difflines = difflib.ndiff(a.splitlines(True),
 
839
                                  b.splitlines(True),
 
840
                                  linejunk=lambda x: False,
 
841
                                  charjunk=lambda x: False)
 
842
        return ''.join(difflines)
 
843
 
 
844
    def assertEqual(self, a, b, message=''):
 
845
        try:
 
846
            if a == b:
 
847
                return
 
848
        except UnicodeError, e:
 
849
            # If we can't compare without getting a UnicodeError, then
 
850
            # obviously they are different
 
851
            mutter('UnicodeError: %s', e)
 
852
        if message:
 
853
            message += '\n'
 
854
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
 
855
            % (message,
 
856
               pformat(a), pformat(b)))
 
857
 
 
858
    assertEquals = assertEqual
 
859
 
 
860
    def assertEqualDiff(self, a, b, message=None):
 
861
        """Assert two texts are equal, if not raise an exception.
 
862
        
 
863
        This is intended for use with multi-line strings where it can 
 
864
        be hard to find the differences by eye.
 
865
        """
 
866
        # TODO: perhaps override assertEquals to call this for strings?
 
867
        if a == b:
 
868
            return
 
869
        if message is None:
 
870
            message = "texts not equal:\n"
 
871
        raise AssertionError(message +
 
872
                             self._ndiff_strings(a, b))
 
873
        
 
874
    def assertEqualMode(self, mode, mode_test):
 
875
        self.assertEqual(mode, mode_test,
 
876
                         'mode mismatch %o != %o' % (mode, mode_test))
 
877
 
 
878
    def assertPositive(self, val):
 
879
        """Assert that val is greater than 0."""
 
880
        self.assertTrue(val > 0, 'expected a positive value, but got %s' % val)
 
881
 
 
882
    def assertNegative(self, val):
 
883
        """Assert that val is less than 0."""
 
884
        self.assertTrue(val < 0, 'expected a negative value, but got %s' % val)
 
885
 
 
886
    def assertStartsWith(self, s, prefix):
 
887
        if not s.startswith(prefix):
 
888
            raise AssertionError('string %r does not start with %r' % (s, prefix))
 
889
 
 
890
    def assertEndsWith(self, s, suffix):
 
891
        """Asserts that s ends with suffix."""
 
892
        if not s.endswith(suffix):
 
893
            raise AssertionError('string %r does not end with %r' % (s, suffix))
 
894
 
 
895
    def assertContainsRe(self, haystack, needle_re):
 
896
        """Assert that a contains something matching a regular expression."""
 
897
        if not re.search(needle_re, haystack):
 
898
            if '\n' in haystack or len(haystack) > 60:
 
899
                # a long string, format it in a more readable way
 
900
                raise AssertionError(
 
901
                        'pattern "%s" not found in\n"""\\\n%s"""\n'
 
902
                        % (needle_re, haystack))
 
903
            else:
 
904
                raise AssertionError('pattern "%s" not found in "%s"'
 
905
                        % (needle_re, haystack))
 
906
 
 
907
    def assertNotContainsRe(self, haystack, needle_re):
 
908
        """Assert that a does not match a regular expression"""
 
909
        if re.search(needle_re, haystack):
 
910
            raise AssertionError('pattern "%s" found in "%s"'
 
911
                    % (needle_re, haystack))
 
912
 
 
913
    def assertSubset(self, sublist, superlist):
 
914
        """Assert that every entry in sublist is present in superlist."""
 
915
        missing = set(sublist) - set(superlist)
 
916
        if len(missing) > 0:
 
917
            raise AssertionError("value(s) %r not present in container %r" %
 
918
                                 (missing, superlist))
 
919
 
 
920
    def assertListRaises(self, excClass, func, *args, **kwargs):
 
921
        """Fail unless excClass is raised when the iterator from func is used.
 
922
        
 
923
        Many functions can return generators this makes sure
 
924
        to wrap them in a list() call to make sure the whole generator
 
925
        is run, and that the proper exception is raised.
 
926
        """
 
927
        try:
 
928
            list(func(*args, **kwargs))
 
929
        except excClass:
 
930
            return
 
931
        else:
 
932
            if getattr(excClass,'__name__', None) is not None:
 
933
                excName = excClass.__name__
 
934
            else:
 
935
                excName = str(excClass)
 
936
            raise self.failureException, "%s not raised" % excName
 
937
 
 
938
    def assertRaises(self, excClass, callableObj, *args, **kwargs):
 
939
        """Assert that a callable raises a particular exception.
 
940
 
 
941
        :param excClass: As for the except statement, this may be either an
 
942
            exception class, or a tuple of classes.
 
943
        :param callableObj: A callable, will be passed ``*args`` and
 
944
            ``**kwargs``.
 
945
 
 
946
        Returns the exception so that you can examine it.
 
947
        """
 
948
        try:
 
949
            callableObj(*args, **kwargs)
 
950
        except excClass, e:
 
951
            return e
 
952
        else:
 
953
            if getattr(excClass,'__name__', None) is not None:
 
954
                excName = excClass.__name__
 
955
            else:
 
956
                # probably a tuple
 
957
                excName = str(excClass)
 
958
            raise self.failureException, "%s not raised" % excName
 
959
 
 
960
    def assertIs(self, left, right, message=None):
 
961
        if not (left is right):
 
962
            if message is not None:
 
963
                raise AssertionError(message)
 
964
            else:
 
965
                raise AssertionError("%r is not %r." % (left, right))
 
966
 
 
967
    def assertIsNot(self, left, right, message=None):
 
968
        if (left is right):
 
969
            if message is not None:
 
970
                raise AssertionError(message)
 
971
            else:
 
972
                raise AssertionError("%r is %r." % (left, right))
 
973
 
 
974
    def assertTransportMode(self, transport, path, mode):
 
975
        """Fail if a path does not have mode mode.
 
976
        
 
977
        If modes are not supported on this transport, the assertion is ignored.
 
978
        """
 
979
        if not transport._can_roundtrip_unix_modebits():
 
980
            return
 
981
        path_stat = transport.stat(path)
 
982
        actual_mode = stat.S_IMODE(path_stat.st_mode)
 
983
        self.assertEqual(mode, actual_mode,
 
984
            'mode of %r incorrect (%o != %o)' % (path, mode, actual_mode))
 
985
 
 
986
    def assertIsInstance(self, obj, kls):
 
987
        """Fail if obj is not an instance of kls"""
 
988
        if not isinstance(obj, kls):
 
989
            self.fail("%r is an instance of %s rather than %s" % (
 
990
                obj, obj.__class__, kls))
 
991
 
 
992
    def expectFailure(self, reason, assertion, *args, **kwargs):
 
993
        """Invoke a test, expecting it to fail for the given reason.
 
994
 
 
995
        This is for assertions that ought to succeed, but currently fail.
 
996
        (The failure is *expected* but not *wanted*.)  Please be very precise
 
997
        about the failure you're expecting.  If a new bug is introduced,
 
998
        AssertionError should be raised, not KnownFailure.
 
999
 
 
1000
        Frequently, expectFailure should be followed by an opposite assertion.
 
1001
        See example below.
 
1002
 
 
1003
        Intended to be used with a callable that raises AssertionError as the
 
1004
        'assertion' parameter.  args and kwargs are passed to the 'assertion'.
 
1005
 
 
1006
        Raises KnownFailure if the test fails.  Raises AssertionError if the
 
1007
        test succeeds.
 
1008
 
 
1009
        example usage::
 
1010
 
 
1011
          self.expectFailure('Math is broken', self.assertNotEqual, 54,
 
1012
                             dynamic_val)
 
1013
          self.assertEqual(42, dynamic_val)
 
1014
 
 
1015
          This means that a dynamic_val of 54 will cause the test to raise
 
1016
          a KnownFailure.  Once math is fixed and the expectFailure is removed,
 
1017
          only a dynamic_val of 42 will allow the test to pass.  Anything other
 
1018
          than 54 or 42 will cause an AssertionError.
 
1019
        """
 
1020
        try:
 
1021
            assertion(*args, **kwargs)
 
1022
        except AssertionError:
 
1023
            raise KnownFailure(reason)
 
1024
        else:
 
1025
            self.fail('Unexpected success.  Should have failed: %s' % reason)
 
1026
 
 
1027
    def _capture_warnings(self, a_callable, *args, **kwargs):
 
1028
        """A helper for callDeprecated and applyDeprecated.
 
1029
 
 
1030
        :param a_callable: A callable to call.
 
1031
        :param args: The positional arguments for the callable
 
1032
        :param kwargs: The keyword arguments for the callable
 
1033
        :return: A tuple (warnings, result). result is the result of calling
 
1034
            a_callable(``*args``, ``**kwargs``).
 
1035
        """
 
1036
        local_warnings = []
 
1037
        def capture_warnings(msg, cls=None, stacklevel=None):
 
1038
            # we've hooked into a deprecation specific callpath,
 
1039
            # only deprecations should getting sent via it.
 
1040
            self.assertEqual(cls, DeprecationWarning)
 
1041
            local_warnings.append(msg)
 
1042
        original_warning_method = symbol_versioning.warn
 
1043
        symbol_versioning.set_warning_method(capture_warnings)
 
1044
        try:
 
1045
            result = a_callable(*args, **kwargs)
 
1046
        finally:
 
1047
            symbol_versioning.set_warning_method(original_warning_method)
 
1048
        return (local_warnings, result)
 
1049
 
 
1050
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
 
1051
        """Call a deprecated callable without warning the user.
 
1052
 
 
1053
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1054
        not other callers that go direct to the warning module.
 
1055
 
 
1056
        To test that a deprecated method raises an error, do something like
 
1057
        this::
 
1058
 
 
1059
        self.assertRaises(errors.ReservedId,
 
1060
            self.applyDeprecated, zero_ninetyone,
 
1061
                br.append_revision, 'current:')
 
1062
 
 
1063
        :param deprecation_format: The deprecation format that the callable
 
1064
            should have been deprecated with. This is the same type as the
 
1065
            parameter to deprecated_method/deprecated_function. If the
 
1066
            callable is not deprecated with this format, an assertion error
 
1067
            will be raised.
 
1068
        :param a_callable: A callable to call. This may be a bound method or
 
1069
            a regular function. It will be called with ``*args`` and
 
1070
            ``**kwargs``.
 
1071
        :param args: The positional arguments for the callable
 
1072
        :param kwargs: The keyword arguments for the callable
 
1073
        :return: The result of a_callable(``*args``, ``**kwargs``)
 
1074
        """
 
1075
        call_warnings, result = self._capture_warnings(a_callable,
 
1076
            *args, **kwargs)
 
1077
        expected_first_warning = symbol_versioning.deprecation_string(
 
1078
            a_callable, deprecation_format)
 
1079
        if len(call_warnings) == 0:
 
1080
            self.fail("No deprecation warning generated by call to %s" %
 
1081
                a_callable)
 
1082
        self.assertEqual(expected_first_warning, call_warnings[0])
 
1083
        return result
 
1084
 
 
1085
    def callDeprecated(self, expected, callable, *args, **kwargs):
 
1086
        """Assert that a callable is deprecated in a particular way.
 
1087
 
 
1088
        This is a very precise test for unusual requirements. The 
 
1089
        applyDeprecated helper function is probably more suited for most tests
 
1090
        as it allows you to simply specify the deprecation format being used
 
1091
        and will ensure that that is issued for the function being called.
 
1092
 
 
1093
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1094
        not other callers that go direct to the warning module.
 
1095
 
 
1096
        :param expected: a list of the deprecation warnings expected, in order
 
1097
        :param callable: The callable to call
 
1098
        :param args: The positional arguments for the callable
 
1099
        :param kwargs: The keyword arguments for the callable
 
1100
        """
 
1101
        call_warnings, result = self._capture_warnings(callable,
 
1102
            *args, **kwargs)
 
1103
        self.assertEqual(expected, call_warnings)
 
1104
        return result
 
1105
 
 
1106
    def _startLogFile(self):
 
1107
        """Send bzr and test log messages to a temporary file.
 
1108
 
 
1109
        The file is removed as the test is torn down.
 
1110
        """
 
1111
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
 
1112
        self._log_file = os.fdopen(fileno, 'w+')
 
1113
        self._log_nonce = bzrlib.trace.enable_test_log(self._log_file)
 
1114
        self._log_file_name = name
 
1115
        self.addCleanup(self._finishLogFile)
 
1116
 
 
1117
    def _finishLogFile(self):
 
1118
        """Finished with the log file.
 
1119
 
 
1120
        Close the file and delete it, unless setKeepLogfile was called.
 
1121
        """
 
1122
        if self._log_file is None:
 
1123
            return
 
1124
        bzrlib.trace.disable_test_log(self._log_nonce)
 
1125
        self._log_file.close()
 
1126
        self._log_file = None
 
1127
        if not self._keep_log_file:
 
1128
            os.remove(self._log_file_name)
 
1129
            self._log_file_name = None
 
1130
 
 
1131
    def setKeepLogfile(self):
 
1132
        """Make the logfile not be deleted when _finishLogFile is called."""
 
1133
        self._keep_log_file = True
 
1134
 
 
1135
    def addCleanup(self, callable):
 
1136
        """Arrange to run a callable when this case is torn down.
 
1137
 
 
1138
        Callables are run in the reverse of the order they are registered, 
 
1139
        ie last-in first-out.
 
1140
        """
 
1141
        if callable in self._cleanups:
 
1142
            raise ValueError("cleanup function %r already registered on %s" 
 
1143
                    % (callable, self))
 
1144
        self._cleanups.append(callable)
 
1145
 
 
1146
    def _cleanEnvironment(self):
 
1147
        new_env = {
 
1148
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
 
1149
            'HOME': os.getcwd(),
 
1150
            'APPDATA': None,  # bzr now use Win32 API and don't rely on APPDATA
 
1151
            'BZR_EMAIL': None,
 
1152
            'BZREMAIL': None, # may still be present in the environment
 
1153
            'EMAIL': None,
 
1154
            'BZR_PROGRESS_BAR': None,
 
1155
            # SSH Agent
 
1156
            'SSH_AUTH_SOCK': None,
 
1157
            # Proxies
 
1158
            'http_proxy': None,
 
1159
            'HTTP_PROXY': None,
 
1160
            'https_proxy': None,
 
1161
            'HTTPS_PROXY': None,
 
1162
            'no_proxy': None,
 
1163
            'NO_PROXY': None,
 
1164
            'all_proxy': None,
 
1165
            'ALL_PROXY': None,
 
1166
            # Nobody cares about these ones AFAIK. So far at
 
1167
            # least. If you do (care), please update this comment
 
1168
            # -- vila 20061212
 
1169
            'ftp_proxy': None,
 
1170
            'FTP_PROXY': None,
 
1171
            'BZR_REMOTE_PATH': None,
 
1172
        }
 
1173
        self.__old_env = {}
 
1174
        self.addCleanup(self._restoreEnvironment)
 
1175
        for name, value in new_env.iteritems():
 
1176
            self._captureVar(name, value)
 
1177
 
 
1178
    def _captureVar(self, name, newvalue):
 
1179
        """Set an environment variable, and reset it when finished."""
 
1180
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
 
1181
 
 
1182
    def _restore_debug_flags(self):
 
1183
        debug.debug_flags.clear()
 
1184
        debug.debug_flags.update(self._preserved_debug_flags)
 
1185
 
 
1186
    def _restoreEnvironment(self):
 
1187
        for name, value in self.__old_env.iteritems():
 
1188
            osutils.set_or_unset_env(name, value)
 
1189
 
 
1190
    def _restoreHooks(self):
 
1191
        for klass, hooks in self._preserved_hooks.items():
 
1192
            setattr(klass, 'hooks', hooks)
 
1193
 
 
1194
    def knownFailure(self, reason):
 
1195
        """This test has failed for some known reason."""
 
1196
        raise KnownFailure(reason)
 
1197
 
 
1198
    def run(self, result=None):
 
1199
        if result is None: result = self.defaultTestResult()
 
1200
        for feature in getattr(self, '_test_needs_features', []):
 
1201
            if not feature.available():
 
1202
                result.startTest(self)
 
1203
                if getattr(result, 'addNotSupported', None):
 
1204
                    result.addNotSupported(self, feature)
 
1205
                else:
 
1206
                    result.addSuccess(self)
 
1207
                result.stopTest(self)
 
1208
                return
 
1209
        return unittest.TestCase.run(self, result)
 
1210
 
 
1211
    def tearDown(self):
 
1212
        self._runCleanups()
 
1213
        unittest.TestCase.tearDown(self)
 
1214
 
 
1215
    def time(self, callable, *args, **kwargs):
 
1216
        """Run callable and accrue the time it takes to the benchmark time.
 
1217
        
 
1218
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
 
1219
        this will cause lsprofile statistics to be gathered and stored in
 
1220
        self._benchcalls.
 
1221
        """
 
1222
        if self._benchtime is None:
 
1223
            self._benchtime = 0
 
1224
        start = time.time()
 
1225
        try:
 
1226
            if not self._gather_lsprof_in_benchmarks:
 
1227
                return callable(*args, **kwargs)
 
1228
            else:
 
1229
                # record this benchmark
 
1230
                ret, stats = bzrlib.lsprof.profile(callable, *args, **kwargs)
 
1231
                stats.sort()
 
1232
                self._benchcalls.append(((callable, args, kwargs), stats))
 
1233
                return ret
 
1234
        finally:
 
1235
            self._benchtime += time.time() - start
 
1236
 
 
1237
    def _runCleanups(self):
 
1238
        """Run registered cleanup functions. 
 
1239
 
 
1240
        This should only be called from TestCase.tearDown.
 
1241
        """
 
1242
        # TODO: Perhaps this should keep running cleanups even if 
 
1243
        # one of them fails?
 
1244
 
 
1245
        # Actually pop the cleanups from the list so tearDown running
 
1246
        # twice is safe (this happens for skipped tests).
 
1247
        while self._cleanups:
 
1248
            self._cleanups.pop()()
 
1249
 
 
1250
    def log(self, *args):
 
1251
        mutter(*args)
 
1252
 
 
1253
    def _get_log(self, keep_log_file=False):
 
1254
        """Get the log from bzrlib.trace calls from this test.
 
1255
 
 
1256
        :param keep_log_file: When True, if the log is still a file on disk
 
1257
            leave it as a file on disk. When False, if the log is still a file
 
1258
            on disk, the log file is deleted and the log preserved as
 
1259
            self._log_contents.
 
1260
        :return: A string containing the log.
 
1261
        """
 
1262
        # flush the log file, to get all content
 
1263
        import bzrlib.trace
 
1264
        bzrlib.trace._trace_file.flush()
 
1265
        if self._log_contents:
 
1266
            return self._log_contents
 
1267
        if self._log_file_name is not None:
 
1268
            logfile = open(self._log_file_name)
 
1269
            try:
 
1270
                log_contents = logfile.read()
 
1271
            finally:
 
1272
                logfile.close()
 
1273
            if not keep_log_file:
 
1274
                self._log_contents = log_contents
 
1275
                try:
 
1276
                    os.remove(self._log_file_name)
 
1277
                except OSError, e:
 
1278
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
 
1279
                        print >>sys.stderr, ('Unable to delete log file '
 
1280
                                             ' %r' % self._log_file_name)
 
1281
                    else:
 
1282
                        raise
 
1283
            return log_contents
 
1284
        else:
 
1285
            return "DELETED log file to reduce memory footprint"
 
1286
 
 
1287
    @deprecated_method(zero_eighteen)
 
1288
    def capture(self, cmd, retcode=0):
 
1289
        """Shortcut that splits cmd into words, runs, and returns stdout"""
 
1290
        return self.run_bzr_captured(cmd.split(), retcode=retcode)[0]
 
1291
 
 
1292
    def requireFeature(self, feature):
 
1293
        """This test requires a specific feature is available.
 
1294
 
 
1295
        :raises UnavailableFeature: When feature is not available.
 
1296
        """
 
1297
        if not feature.available():
 
1298
            raise UnavailableFeature(feature)
 
1299
 
 
1300
    @deprecated_method(zero_eighteen)
 
1301
    def run_bzr_captured(self, argv, retcode=0, encoding=None, stdin=None,
 
1302
                         working_dir=None):
 
1303
        """Invoke bzr and return (stdout, stderr).
 
1304
 
 
1305
        Don't call this method, just use run_bzr() which is equivalent.
 
1306
 
 
1307
        :param argv: Arguments to invoke bzr.  This may be either a 
 
1308
            single string, in which case it is split by shlex into words, 
 
1309
            or a list of arguments.
 
1310
        :param retcode: Expected return code, or None for don't-care.
 
1311
        :param encoding: Encoding for sys.stdout and sys.stderr
 
1312
        :param stdin: A string to be used as stdin for the command.
 
1313
        :param working_dir: Change to this directory before running
 
1314
        """
 
1315
        return self._run_bzr_autosplit(argv, retcode=retcode,
 
1316
                encoding=encoding, stdin=stdin, working_dir=working_dir,
 
1317
                )
 
1318
 
 
1319
    def _run_bzr_autosplit(self, args, retcode, encoding, stdin,
 
1320
            working_dir):
 
1321
        """Run bazaar command line, splitting up a string command line."""
 
1322
        if isinstance(args, basestring):
 
1323
            args = list(shlex.split(args))
 
1324
        return self._run_bzr_core(args, retcode=retcode,
 
1325
                encoding=encoding, stdin=stdin, working_dir=working_dir,
 
1326
                )
 
1327
 
 
1328
    def _run_bzr_core(self, args, retcode, encoding, stdin,
 
1329
            working_dir):
 
1330
        if encoding is None:
 
1331
            encoding = bzrlib.user_encoding
 
1332
        stdout = StringIOWrapper()
 
1333
        stderr = StringIOWrapper()
 
1334
        stdout.encoding = encoding
 
1335
        stderr.encoding = encoding
 
1336
 
 
1337
        self.log('run bzr: %r', args)
 
1338
        # FIXME: don't call into logging here
 
1339
        handler = logging.StreamHandler(stderr)
 
1340
        handler.setLevel(logging.INFO)
 
1341
        logger = logging.getLogger('')
 
1342
        logger.addHandler(handler)
 
1343
        old_ui_factory = ui.ui_factory
 
1344
        ui.ui_factory = TestUIFactory(stdin=stdin, stdout=stdout, stderr=stderr)
 
1345
 
 
1346
        cwd = None
 
1347
        if working_dir is not None:
 
1348
            cwd = osutils.getcwd()
 
1349
            os.chdir(working_dir)
 
1350
 
 
1351
        try:
 
1352
            result = self.apply_redirected(ui.ui_factory.stdin,
 
1353
                stdout, stderr,
 
1354
                bzrlib.commands.run_bzr_catch_errors,
 
1355
                args)
 
1356
        finally:
 
1357
            logger.removeHandler(handler)
 
1358
            ui.ui_factory = old_ui_factory
 
1359
            if cwd is not None:
 
1360
                os.chdir(cwd)
 
1361
 
 
1362
        out = stdout.getvalue()
 
1363
        err = stderr.getvalue()
 
1364
        if out:
 
1365
            self.log('output:\n%r', out)
 
1366
        if err:
 
1367
            self.log('errors:\n%r', err)
 
1368
        if retcode is not None:
 
1369
            self.assertEquals(retcode, result,
 
1370
                              message='Unexpected return code')
 
1371
        return out, err
 
1372
 
 
1373
    def run_bzr(self, *args, **kwargs):
 
1374
        """Invoke bzr, as if it were run from the command line.
 
1375
 
 
1376
        The argument list should not include the bzr program name - the
 
1377
        first argument is normally the bzr command.  Arguments may be
 
1378
        passed in three ways:
 
1379
 
 
1380
        1- A list of strings, eg ["commit", "a"].  This is recommended
 
1381
        when the command contains whitespace or metacharacters, or 
 
1382
        is built up at run time.
 
1383
 
 
1384
        2- A single string, eg "add a".  This is the most convenient 
 
1385
        for hardcoded commands.
 
1386
 
 
1387
        3- Several varargs parameters, eg run_bzr("add", "a").  
 
1388
        This is not recommended for new code.
 
1389
 
 
1390
        This runs bzr through the interface that catches and reports
 
1391
        errors, and with logging set to something approximating the
 
1392
        default, so that error reporting can be checked.
 
1393
 
 
1394
        This should be the main method for tests that want to exercise the
 
1395
        overall behavior of the bzr application (rather than a unit test
 
1396
        or a functional test of the library.)
 
1397
 
 
1398
        This sends the stdout/stderr results into the test's log,
 
1399
        where it may be useful for debugging.  See also run_captured.
 
1400
 
 
1401
        :keyword stdin: A string to be used as stdin for the command.
 
1402
        :keyword retcode: The status code the command should return;
 
1403
            default 0.
 
1404
        :keyword working_dir: The directory to run the command in
 
1405
        :keyword error_regexes: A list of expected error messages.  If
 
1406
            specified they must be seen in the error output of the command.
 
1407
        """
 
1408
        retcode = kwargs.pop('retcode', 0)
 
1409
        encoding = kwargs.pop('encoding', None)
 
1410
        stdin = kwargs.pop('stdin', None)
 
1411
        working_dir = kwargs.pop('working_dir', None)
 
1412
        error_regexes = kwargs.pop('error_regexes', [])
 
1413
 
 
1414
        if kwargs:
 
1415
            raise TypeError("run_bzr() got unexpected keyword arguments '%s'"
 
1416
                            % kwargs.keys())
 
1417
 
 
1418
        if len(args) == 1:
 
1419
            if isinstance(args[0], (list, basestring)):
 
1420
                args = args[0]
 
1421
        else:
 
1422
            symbol_versioning.warn(zero_eighteen % "passing varargs to run_bzr",
 
1423
                                   DeprecationWarning, stacklevel=3)
 
1424
 
 
1425
        out, err = self._run_bzr_autosplit(args=args,
 
1426
            retcode=retcode,
 
1427
            encoding=encoding, stdin=stdin, working_dir=working_dir,
 
1428
            )
 
1429
 
 
1430
        for regex in error_regexes:
 
1431
            self.assertContainsRe(err, regex)
 
1432
        return out, err
 
1433
 
 
1434
    def run_bzr_decode(self, *args, **kwargs):
 
1435
        if 'encoding' in kwargs:
 
1436
            encoding = kwargs['encoding']
 
1437
        else:
 
1438
            encoding = bzrlib.user_encoding
 
1439
        return self.run_bzr(*args, **kwargs)[0].decode(encoding)
 
1440
 
 
1441
    def run_bzr_error(self, error_regexes, *args, **kwargs):
 
1442
        """Run bzr, and check that stderr contains the supplied regexes
 
1443
 
 
1444
        :param error_regexes: Sequence of regular expressions which
 
1445
            must each be found in the error output. The relative ordering
 
1446
            is not enforced.
 
1447
        :param args: command-line arguments for bzr
 
1448
        :param kwargs: Keyword arguments which are interpreted by run_bzr
 
1449
            This function changes the default value of retcode to be 3,
 
1450
            since in most cases this is run when you expect bzr to fail.
 
1451
 
 
1452
        :return: (out, err) The actual output of running the command (in case
 
1453
            you want to do more inspection)
 
1454
 
 
1455
        Examples of use::
 
1456
 
 
1457
            # Make sure that commit is failing because there is nothing to do
 
1458
            self.run_bzr_error(['no changes to commit'],
 
1459
                               ['commit', '-m', 'my commit comment'])
 
1460
            # Make sure --strict is handling an unknown file, rather than
 
1461
            # giving us the 'nothing to do' error
 
1462
            self.build_tree(['unknown'])
 
1463
            self.run_bzr_error(['Commit refused because there are unknown files'],
 
1464
                               ['commit', --strict', '-m', 'my commit comment'])
 
1465
        """
 
1466
        kwargs.setdefault('retcode', 3)
 
1467
        kwargs['error_regexes'] = error_regexes
 
1468
        out, err = self.run_bzr(*args, **kwargs)
 
1469
        return out, err
 
1470
 
 
1471
    def run_bzr_subprocess(self, *args, **kwargs):
 
1472
        """Run bzr in a subprocess for testing.
 
1473
 
 
1474
        This starts a new Python interpreter and runs bzr in there. 
 
1475
        This should only be used for tests that have a justifiable need for
 
1476
        this isolation: e.g. they are testing startup time, or signal
 
1477
        handling, or early startup code, etc.  Subprocess code can't be 
 
1478
        profiled or debugged so easily.
 
1479
 
 
1480
        :keyword retcode: The status code that is expected.  Defaults to 0.  If
 
1481
            None is supplied, the status code is not checked.
 
1482
        :keyword env_changes: A dictionary which lists changes to environment
 
1483
            variables. A value of None will unset the env variable.
 
1484
            The values must be strings. The change will only occur in the
 
1485
            child, so you don't need to fix the environment after running.
 
1486
        :keyword universal_newlines: Convert CRLF => LF
 
1487
        :keyword allow_plugins: By default the subprocess is run with
 
1488
            --no-plugins to ensure test reproducibility. Also, it is possible
 
1489
            for system-wide plugins to create unexpected output on stderr,
 
1490
            which can cause unnecessary test failures.
 
1491
        """
 
1492
        env_changes = kwargs.get('env_changes', {})
 
1493
        working_dir = kwargs.get('working_dir', None)
 
1494
        allow_plugins = kwargs.get('allow_plugins', False)
 
1495
        if len(args) == 1:
 
1496
            if isinstance(args[0], list):
 
1497
                args = args[0]
 
1498
            elif isinstance(args[0], basestring):
 
1499
                args = list(shlex.split(args[0]))
 
1500
        else:
 
1501
            symbol_versioning.warn(zero_ninetyone %
 
1502
                                   "passing varargs to run_bzr_subprocess",
 
1503
                                   DeprecationWarning, stacklevel=3)
 
1504
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
 
1505
                                            working_dir=working_dir,
 
1506
                                            allow_plugins=allow_plugins)
 
1507
        # We distinguish between retcode=None and retcode not passed.
 
1508
        supplied_retcode = kwargs.get('retcode', 0)
 
1509
        return self.finish_bzr_subprocess(process, retcode=supplied_retcode,
 
1510
            universal_newlines=kwargs.get('universal_newlines', False),
 
1511
            process_args=args)
 
1512
 
 
1513
    def start_bzr_subprocess(self, process_args, env_changes=None,
 
1514
                             skip_if_plan_to_signal=False,
 
1515
                             working_dir=None,
 
1516
                             allow_plugins=False):
 
1517
        """Start bzr in a subprocess for testing.
 
1518
 
 
1519
        This starts a new Python interpreter and runs bzr in there.
 
1520
        This should only be used for tests that have a justifiable need for
 
1521
        this isolation: e.g. they are testing startup time, or signal
 
1522
        handling, or early startup code, etc.  Subprocess code can't be
 
1523
        profiled or debugged so easily.
 
1524
 
 
1525
        :param process_args: a list of arguments to pass to the bzr executable,
 
1526
            for example ``['--version']``.
 
1527
        :param env_changes: A dictionary which lists changes to environment
 
1528
            variables. A value of None will unset the env variable.
 
1529
            The values must be strings. The change will only occur in the
 
1530
            child, so you don't need to fix the environment after running.
 
1531
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
 
1532
            is not available.
 
1533
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
1534
 
 
1535
        :returns: Popen object for the started process.
 
1536
        """
 
1537
        if skip_if_plan_to_signal:
 
1538
            if not getattr(os, 'kill', None):
 
1539
                raise TestSkipped("os.kill not available.")
 
1540
 
 
1541
        if env_changes is None:
 
1542
            env_changes = {}
 
1543
        old_env = {}
 
1544
 
 
1545
        def cleanup_environment():
 
1546
            for env_var, value in env_changes.iteritems():
 
1547
                old_env[env_var] = osutils.set_or_unset_env(env_var, value)
 
1548
 
 
1549
        def restore_environment():
 
1550
            for env_var, value in old_env.iteritems():
 
1551
                osutils.set_or_unset_env(env_var, value)
 
1552
 
 
1553
        bzr_path = self.get_bzr_path()
 
1554
 
 
1555
        cwd = None
 
1556
        if working_dir is not None:
 
1557
            cwd = osutils.getcwd()
 
1558
            os.chdir(working_dir)
 
1559
 
 
1560
        try:
 
1561
            # win32 subprocess doesn't support preexec_fn
 
1562
            # so we will avoid using it on all platforms, just to
 
1563
            # make sure the code path is used, and we don't break on win32
 
1564
            cleanup_environment()
 
1565
            command = [sys.executable, bzr_path]
 
1566
            if not allow_plugins:
 
1567
                command.append('--no-plugins')
 
1568
            command.extend(process_args)
 
1569
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
1570
        finally:
 
1571
            restore_environment()
 
1572
            if cwd is not None:
 
1573
                os.chdir(cwd)
 
1574
 
 
1575
        return process
 
1576
 
 
1577
    def _popen(self, *args, **kwargs):
 
1578
        """Place a call to Popen.
 
1579
 
 
1580
        Allows tests to override this method to intercept the calls made to
 
1581
        Popen for introspection.
 
1582
        """
 
1583
        return Popen(*args, **kwargs)
 
1584
 
 
1585
    def get_bzr_path(self):
 
1586
        """Return the path of the 'bzr' executable for this test suite."""
 
1587
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
1588
        if not os.path.isfile(bzr_path):
 
1589
            # We are probably installed. Assume sys.argv is the right file
 
1590
            bzr_path = sys.argv[0]
 
1591
        return bzr_path
 
1592
 
 
1593
    def finish_bzr_subprocess(self, process, retcode=0, send_signal=None,
 
1594
                              universal_newlines=False, process_args=None):
 
1595
        """Finish the execution of process.
 
1596
 
 
1597
        :param process: the Popen object returned from start_bzr_subprocess.
 
1598
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
1599
            None is supplied, the status code is not checked.
 
1600
        :param send_signal: an optional signal to send to the process.
 
1601
        :param universal_newlines: Convert CRLF => LF
 
1602
        :returns: (stdout, stderr)
 
1603
        """
 
1604
        if send_signal is not None:
 
1605
            os.kill(process.pid, send_signal)
 
1606
        out, err = process.communicate()
 
1607
 
 
1608
        if universal_newlines:
 
1609
            out = out.replace('\r\n', '\n')
 
1610
            err = err.replace('\r\n', '\n')
 
1611
 
 
1612
        if retcode is not None and retcode != process.returncode:
 
1613
            if process_args is None:
 
1614
                process_args = "(unknown args)"
 
1615
            mutter('Output of bzr %s:\n%s', process_args, out)
 
1616
            mutter('Error for bzr %s:\n%s', process_args, err)
 
1617
            self.fail('Command bzr %s failed with retcode %s != %s'
 
1618
                      % (process_args, retcode, process.returncode))
 
1619
        return [out, err]
 
1620
 
 
1621
    def check_inventory_shape(self, inv, shape):
 
1622
        """Compare an inventory to a list of expected names.
 
1623
 
 
1624
        Fail if they are not precisely equal.
 
1625
        """
 
1626
        extras = []
 
1627
        shape = list(shape)             # copy
 
1628
        for path, ie in inv.entries():
 
1629
            name = path.replace('\\', '/')
 
1630
            if ie.kind == 'directory':
 
1631
                name = name + '/'
 
1632
            if name in shape:
 
1633
                shape.remove(name)
 
1634
            else:
 
1635
                extras.append(name)
 
1636
        if shape:
 
1637
            self.fail("expected paths not found in inventory: %r" % shape)
 
1638
        if extras:
 
1639
            self.fail("unexpected paths found in inventory: %r" % extras)
 
1640
 
 
1641
    def apply_redirected(self, stdin=None, stdout=None, stderr=None,
 
1642
                         a_callable=None, *args, **kwargs):
 
1643
        """Call callable with redirected std io pipes.
 
1644
 
 
1645
        Returns the return code."""
 
1646
        if not callable(a_callable):
 
1647
            raise ValueError("a_callable must be callable.")
 
1648
        if stdin is None:
 
1649
            stdin = StringIO("")
 
1650
        if stdout is None:
 
1651
            if getattr(self, "_log_file", None) is not None:
 
1652
                stdout = self._log_file
 
1653
            else:
 
1654
                stdout = StringIO()
 
1655
        if stderr is None:
 
1656
            if getattr(self, "_log_file", None is not None):
 
1657
                stderr = self._log_file
 
1658
            else:
 
1659
                stderr = StringIO()
 
1660
        real_stdin = sys.stdin
 
1661
        real_stdout = sys.stdout
 
1662
        real_stderr = sys.stderr
 
1663
        try:
 
1664
            sys.stdout = stdout
 
1665
            sys.stderr = stderr
 
1666
            sys.stdin = stdin
 
1667
            return a_callable(*args, **kwargs)
 
1668
        finally:
 
1669
            sys.stdout = real_stdout
 
1670
            sys.stderr = real_stderr
 
1671
            sys.stdin = real_stdin
 
1672
 
 
1673
    def reduceLockdirTimeout(self):
 
1674
        """Reduce the default lock timeout for the duration of the test, so that
 
1675
        if LockContention occurs during a test, it does so quickly.
 
1676
 
 
1677
        Tests that expect to provoke LockContention errors should call this.
 
1678
        """
 
1679
        orig_timeout = bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS
 
1680
        def resetTimeout():
 
1681
            bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = orig_timeout
 
1682
        self.addCleanup(resetTimeout)
 
1683
        bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = 0
 
1684
 
 
1685
    def make_utf8_encoded_stringio(self, encoding_type=None):
 
1686
        """Return a StringIOWrapper instance, that will encode Unicode
 
1687
        input to UTF-8.
 
1688
        """
 
1689
        if encoding_type is None:
 
1690
            encoding_type = 'strict'
 
1691
        sio = StringIO()
 
1692
        output_encoding = 'utf-8'
 
1693
        sio = codecs.getwriter(output_encoding)(sio, errors=encoding_type)
 
1694
        sio.encoding = output_encoding
 
1695
        return sio
 
1696
 
 
1697
 
 
1698
class TestCaseWithMemoryTransport(TestCase):
 
1699
    """Common test class for tests that do not need disk resources.
 
1700
 
 
1701
    Tests that need disk resources should derive from TestCaseWithTransport.
 
1702
 
 
1703
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
 
1704
 
 
1705
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
1706
    a directory which does not exist. This serves to help ensure test isolation
 
1707
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
 
1708
    must exist. However, TestCaseWithMemoryTransport does not offer local
 
1709
    file defaults for the transport in tests, nor does it obey the command line
 
1710
    override, so tests that accidentally write to the common directory should
 
1711
    be rare.
 
1712
 
 
1713
    :cvar TEST_ROOT: Directory containing all temporary directories, plus
 
1714
    a .bzr directory that stops us ascending higher into the filesystem.
 
1715
    """
 
1716
 
 
1717
    TEST_ROOT = None
 
1718
    _TEST_NAME = 'test'
 
1719
 
 
1720
    def __init__(self, methodName='runTest'):
 
1721
        # allow test parameterisation after test construction and before test
 
1722
        # execution. Variables that the parameteriser sets need to be 
 
1723
        # ones that are not set by setUp, or setUp will trash them.
 
1724
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
 
1725
        self.vfs_transport_factory = default_transport
 
1726
        self.transport_server = None
 
1727
        self.transport_readonly_server = None
 
1728
        self.__vfs_server = None
 
1729
 
 
1730
    def get_transport(self, relpath=None):
 
1731
        """Return a writeable transport.
 
1732
 
 
1733
        This transport is for the test scratch space relative to
 
1734
        "self._test_root"
 
1735
        
 
1736
        :param relpath: a path relative to the base url.
 
1737
        """
 
1738
        t = get_transport(self.get_url(relpath))
 
1739
        self.assertFalse(t.is_readonly())
 
1740
        return t
 
1741
 
 
1742
    def get_readonly_transport(self, relpath=None):
 
1743
        """Return a readonly transport for the test scratch space
 
1744
        
 
1745
        This can be used to test that operations which should only need
 
1746
        readonly access in fact do not try to write.
 
1747
 
 
1748
        :param relpath: a path relative to the base url.
 
1749
        """
 
1750
        t = get_transport(self.get_readonly_url(relpath))
 
1751
        self.assertTrue(t.is_readonly())
 
1752
        return t
 
1753
 
 
1754
    def create_transport_readonly_server(self):
 
1755
        """Create a transport server from class defined at init.
 
1756
 
 
1757
        This is mostly a hook for daughter classes.
 
1758
        """
 
1759
        return self.transport_readonly_server()
 
1760
 
 
1761
    def get_readonly_server(self):
 
1762
        """Get the server instance for the readonly transport
 
1763
 
 
1764
        This is useful for some tests with specific servers to do diagnostics.
 
1765
        """
 
1766
        if self.__readonly_server is None:
 
1767
            if self.transport_readonly_server is None:
 
1768
                # readonly decorator requested
 
1769
                # bring up the server
 
1770
                self.__readonly_server = ReadonlyServer()
 
1771
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1772
            else:
 
1773
                self.__readonly_server = self.create_transport_readonly_server()
 
1774
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1775
            self.addCleanup(self.__readonly_server.tearDown)
 
1776
        return self.__readonly_server
 
1777
 
 
1778
    def get_readonly_url(self, relpath=None):
 
1779
        """Get a URL for the readonly transport.
 
1780
 
 
1781
        This will either be backed by '.' or a decorator to the transport 
 
1782
        used by self.get_url()
 
1783
        relpath provides for clients to get a path relative to the base url.
 
1784
        These should only be downwards relative, not upwards.
 
1785
        """
 
1786
        base = self.get_readonly_server().get_url()
 
1787
        return self._adjust_url(base, relpath)
 
1788
 
 
1789
    def get_vfs_only_server(self):
 
1790
        """Get the vfs only read/write server instance.
 
1791
 
 
1792
        This is useful for some tests with specific servers that need
 
1793
        diagnostics.
 
1794
 
 
1795
        For TestCaseWithMemoryTransport this is always a MemoryServer, and there
 
1796
        is no means to override it.
 
1797
        """
 
1798
        if self.__vfs_server is None:
 
1799
            self.__vfs_server = MemoryServer()
 
1800
            self.__vfs_server.setUp()
 
1801
            self.addCleanup(self.__vfs_server.tearDown)
 
1802
        return self.__vfs_server
 
1803
 
 
1804
    def get_server(self):
 
1805
        """Get the read/write server instance.
 
1806
 
 
1807
        This is useful for some tests with specific servers that need
 
1808
        diagnostics.
 
1809
 
 
1810
        This is built from the self.transport_server factory. If that is None,
 
1811
        then the self.get_vfs_server is returned.
 
1812
        """
 
1813
        if self.__server is None:
 
1814
            if self.transport_server is None or self.transport_server is self.vfs_transport_factory:
 
1815
                return self.get_vfs_only_server()
 
1816
            else:
 
1817
                # bring up a decorated means of access to the vfs only server.
 
1818
                self.__server = self.transport_server()
 
1819
                try:
 
1820
                    self.__server.setUp(self.get_vfs_only_server())
 
1821
                except TypeError, e:
 
1822
                    # This should never happen; the try:Except here is to assist
 
1823
                    # developers having to update code rather than seeing an
 
1824
                    # uninformative TypeError.
 
1825
                    raise Exception, "Old server API in use: %s, %s" % (self.__server, e)
 
1826
            self.addCleanup(self.__server.tearDown)
 
1827
        return self.__server
 
1828
 
 
1829
    def _adjust_url(self, base, relpath):
 
1830
        """Get a URL (or maybe a path) for the readwrite transport.
 
1831
 
 
1832
        This will either be backed by '.' or to an equivalent non-file based
 
1833
        facility.
 
1834
        relpath provides for clients to get a path relative to the base url.
 
1835
        These should only be downwards relative, not upwards.
 
1836
        """
 
1837
        if relpath is not None and relpath != '.':
 
1838
            if not base.endswith('/'):
 
1839
                base = base + '/'
 
1840
            # XXX: Really base should be a url; we did after all call
 
1841
            # get_url()!  But sometimes it's just a path (from
 
1842
            # LocalAbspathServer), and it'd be wrong to append urlescaped data
 
1843
            # to a non-escaped local path.
 
1844
            if base.startswith('./') or base.startswith('/'):
 
1845
                base += relpath
 
1846
            else:
 
1847
                base += urlutils.escape(relpath)
 
1848
        return base
 
1849
 
 
1850
    def get_url(self, relpath=None):
 
1851
        """Get a URL (or maybe a path) for the readwrite transport.
 
1852
 
 
1853
        This will either be backed by '.' or to an equivalent non-file based
 
1854
        facility.
 
1855
        relpath provides for clients to get a path relative to the base url.
 
1856
        These should only be downwards relative, not upwards.
 
1857
        """
 
1858
        base = self.get_server().get_url()
 
1859
        return self._adjust_url(base, relpath)
 
1860
 
 
1861
    def get_vfs_only_url(self, relpath=None):
 
1862
        """Get a URL (or maybe a path for the plain old vfs transport.
 
1863
 
 
1864
        This will never be a smart protocol.  It always has all the
 
1865
        capabilities of the local filesystem, but it might actually be a
 
1866
        MemoryTransport or some other similar virtual filesystem.
 
1867
 
 
1868
        This is the backing transport (if any) of the server returned by
 
1869
        get_url and get_readonly_url.
 
1870
 
 
1871
        :param relpath: provides for clients to get a path relative to the base
 
1872
            url.  These should only be downwards relative, not upwards.
 
1873
        :return: A URL
 
1874
        """
 
1875
        base = self.get_vfs_only_server().get_url()
 
1876
        return self._adjust_url(base, relpath)
 
1877
 
 
1878
    def _make_test_root(self):
 
1879
        if TestCaseWithMemoryTransport.TEST_ROOT is not None:
 
1880
            return
 
1881
        root = tempfile.mkdtemp(prefix='testbzr-', suffix='.tmp')
 
1882
        TestCaseWithMemoryTransport.TEST_ROOT = root
 
1883
        
 
1884
        # make a fake bzr directory there to prevent any tests propagating
 
1885
        # up onto the source directory's real branch
 
1886
        bzrdir.BzrDir.create_standalone_workingtree(root)
 
1887
 
 
1888
        # The same directory is used by all tests, and we're not specifically
 
1889
        # told when all tests are finished.  This will do.
 
1890
        atexit.register(_rmtree_temp_dir, root)
 
1891
 
 
1892
    def makeAndChdirToTestDir(self):
 
1893
        """Create a temporary directories for this one test.
 
1894
        
 
1895
        This must set self.test_home_dir and self.test_dir and chdir to
 
1896
        self.test_dir.
 
1897
        
 
1898
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
 
1899
        """
 
1900
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
1901
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
 
1902
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
 
1903
        
 
1904
    def make_branch(self, relpath, format=None):
 
1905
        """Create a branch on the transport at relpath."""
 
1906
        repo = self.make_repository(relpath, format=format)
 
1907
        return repo.bzrdir.create_branch()
 
1908
 
 
1909
    def make_bzrdir(self, relpath, format=None):
 
1910
        try:
 
1911
            # might be a relative or absolute path
 
1912
            maybe_a_url = self.get_url(relpath)
 
1913
            segments = maybe_a_url.rsplit('/', 1)
 
1914
            t = get_transport(maybe_a_url)
 
1915
            if len(segments) > 1 and segments[-1] not in ('', '.'):
 
1916
                t.ensure_base()
 
1917
            if format is None:
 
1918
                format = 'default'
 
1919
            if isinstance(format, basestring):
 
1920
                format = bzrdir.format_registry.make_bzrdir(format)
 
1921
            return format.initialize_on_transport(t)
 
1922
        except errors.UninitializableFormat:
 
1923
            raise TestSkipped("Format %s is not initializable." % format)
 
1924
 
 
1925
    def make_repository(self, relpath, shared=False, format=None):
 
1926
        """Create a repository on our default transport at relpath.
 
1927
        
 
1928
        Note that relpath must be a relative path, not a full url.
 
1929
        """
 
1930
        # FIXME: If you create a remoterepository this returns the underlying
 
1931
        # real format, which is incorrect.  Actually we should make sure that 
 
1932
        # RemoteBzrDir returns a RemoteRepository.
 
1933
        # maybe  mbp 20070410
 
1934
        made_control = self.make_bzrdir(relpath, format=format)
 
1935
        return made_control.create_repository(shared=shared)
 
1936
 
 
1937
    def make_branch_and_memory_tree(self, relpath, format=None):
 
1938
        """Create a branch on the default transport and a MemoryTree for it."""
 
1939
        b = self.make_branch(relpath, format=format)
 
1940
        return memorytree.MemoryTree.create_on_branch(b)
 
1941
 
 
1942
    def overrideEnvironmentForTesting(self):
 
1943
        os.environ['HOME'] = self.test_home_dir
 
1944
        os.environ['BZR_HOME'] = self.test_home_dir
 
1945
        
 
1946
    def setUp(self):
 
1947
        super(TestCaseWithMemoryTransport, self).setUp()
 
1948
        self._make_test_root()
 
1949
        _currentdir = os.getcwdu()
 
1950
        def _leaveDirectory():
 
1951
            os.chdir(_currentdir)
 
1952
        self.addCleanup(_leaveDirectory)
 
1953
        self.makeAndChdirToTestDir()
 
1954
        self.overrideEnvironmentForTesting()
 
1955
        self.__readonly_server = None
 
1956
        self.__server = None
 
1957
        self.reduceLockdirTimeout()
 
1958
 
 
1959
     
 
1960
class TestCaseInTempDir(TestCaseWithMemoryTransport):
 
1961
    """Derived class that runs a test within a temporary directory.
 
1962
 
 
1963
    This is useful for tests that need to create a branch, etc.
 
1964
 
 
1965
    The directory is created in a slightly complex way: for each
 
1966
    Python invocation, a new temporary top-level directory is created.
 
1967
    All test cases create their own directory within that.  If the
 
1968
    tests complete successfully, the directory is removed.
 
1969
 
 
1970
    :ivar test_base_dir: The path of the top-level directory for this 
 
1971
    test, which contains a home directory and a work directory.
 
1972
 
 
1973
    :ivar test_home_dir: An initially empty directory under test_base_dir
 
1974
    which is used as $HOME for this test.
 
1975
 
 
1976
    :ivar test_dir: A directory under test_base_dir used as the current
 
1977
    directory when the test proper is run.
 
1978
    """
 
1979
 
 
1980
    OVERRIDE_PYTHON = 'python'
 
1981
 
 
1982
    def check_file_contents(self, filename, expect):
 
1983
        self.log("check contents of file %s" % filename)
 
1984
        contents = file(filename, 'r').read()
 
1985
        if contents != expect:
 
1986
            self.log("expected: %r" % expect)
 
1987
            self.log("actually: %r" % contents)
 
1988
            self.fail("contents of %s not as expected" % filename)
 
1989
 
 
1990
    def makeAndChdirToTestDir(self):
 
1991
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
 
1992
        
 
1993
        For TestCaseInTempDir we create a temporary directory based on the test
 
1994
        name and then create two subdirs - test and home under it.
 
1995
        """
 
1996
        # create a directory within the top level test directory
 
1997
        candidate_dir = tempfile.mkdtemp(dir=self.TEST_ROOT)
 
1998
        # now create test and home directories within this dir
 
1999
        self.test_base_dir = candidate_dir
 
2000
        self.test_home_dir = self.test_base_dir + '/home'
 
2001
        os.mkdir(self.test_home_dir)
 
2002
        self.test_dir = self.test_base_dir + '/work'
 
2003
        os.mkdir(self.test_dir)
 
2004
        os.chdir(self.test_dir)
 
2005
        # put name of test inside
 
2006
        f = file(self.test_base_dir + '/name', 'w')
 
2007
        try:
 
2008
            f.write(self.id())
 
2009
        finally:
 
2010
            f.close()
 
2011
        self.addCleanup(self.deleteTestDir)
 
2012
 
 
2013
    def deleteTestDir(self):
 
2014
        os.chdir(self.TEST_ROOT)
 
2015
        _rmtree_temp_dir(self.test_base_dir)
 
2016
 
 
2017
    def build_tree(self, shape, line_endings='binary', transport=None):
 
2018
        """Build a test tree according to a pattern.
 
2019
 
 
2020
        shape is a sequence of file specifications.  If the final
 
2021
        character is '/', a directory is created.
 
2022
 
 
2023
        This assumes that all the elements in the tree being built are new.
 
2024
 
 
2025
        This doesn't add anything to a branch.
 
2026
 
 
2027
        :param line_endings: Either 'binary' or 'native'
 
2028
            in binary mode, exact contents are written in native mode, the
 
2029
            line endings match the default platform endings.
 
2030
        :param transport: A transport to write to, for building trees on VFS's.
 
2031
            If the transport is readonly or None, "." is opened automatically.
 
2032
        :return: None
 
2033
        """
 
2034
        # It's OK to just create them using forward slashes on windows.
 
2035
        if transport is None or transport.is_readonly():
 
2036
            transport = get_transport(".")
 
2037
        for name in shape:
 
2038
            self.assert_(isinstance(name, basestring))
 
2039
            if name[-1] == '/':
 
2040
                transport.mkdir(urlutils.escape(name[:-1]))
 
2041
            else:
 
2042
                if line_endings == 'binary':
 
2043
                    end = '\n'
 
2044
                elif line_endings == 'native':
 
2045
                    end = os.linesep
 
2046
                else:
 
2047
                    raise errors.BzrError(
 
2048
                        'Invalid line ending request %r' % line_endings)
 
2049
                content = "contents of %s%s" % (name.encode('utf-8'), end)
 
2050
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
 
2051
 
 
2052
    def build_tree_contents(self, shape):
 
2053
        build_tree_contents(shape)
 
2054
 
 
2055
    def assertFileEqual(self, content, path):
 
2056
        """Fail if path does not contain 'content'."""
 
2057
        self.failUnlessExists(path)
 
2058
        f = file(path, 'rb')
 
2059
        try:
 
2060
            s = f.read()
 
2061
        finally:
 
2062
            f.close()
 
2063
        self.assertEqualDiff(content, s)
 
2064
 
 
2065
    def failUnlessExists(self, path):
 
2066
        """Fail unless path or paths, which may be abs or relative, exist."""
 
2067
        if not isinstance(path, basestring):
 
2068
            for p in path:
 
2069
                self.failUnlessExists(p)
 
2070
        else:
 
2071
            self.failUnless(osutils.lexists(path),path+" does not exist")
 
2072
 
 
2073
    def failIfExists(self, path):
 
2074
        """Fail if path or paths, which may be abs or relative, exist."""
 
2075
        if not isinstance(path, basestring):
 
2076
            for p in path:
 
2077
                self.failIfExists(p)
 
2078
        else:
 
2079
            self.failIf(osutils.lexists(path),path+" exists")
 
2080
 
 
2081
    def assertInWorkingTree(self, path, root_path='.', tree=None):
 
2082
        """Assert whether path or paths are in the WorkingTree"""
 
2083
        if tree is None:
 
2084
            tree = workingtree.WorkingTree.open(root_path)
 
2085
        if not isinstance(path, basestring):
 
2086
            for p in path:
 
2087
                self.assertInWorkingTree(p,tree=tree)
 
2088
        else:
 
2089
            self.assertIsNot(tree.path2id(path), None,
 
2090
                path+' not in working tree.')
 
2091
 
 
2092
    def assertNotInWorkingTree(self, path, root_path='.', tree=None):
 
2093
        """Assert whether path or paths are not in the WorkingTree"""
 
2094
        if tree is None:
 
2095
            tree = workingtree.WorkingTree.open(root_path)
 
2096
        if not isinstance(path, basestring):
 
2097
            for p in path:
 
2098
                self.assertNotInWorkingTree(p,tree=tree)
 
2099
        else:
 
2100
            self.assertIs(tree.path2id(path), None, path+' in working tree.')
 
2101
 
 
2102
 
 
2103
class TestCaseWithTransport(TestCaseInTempDir):
 
2104
    """A test case that provides get_url and get_readonly_url facilities.
 
2105
 
 
2106
    These back onto two transport servers, one for readonly access and one for
 
2107
    read write access.
 
2108
 
 
2109
    If no explicit class is provided for readonly access, a
 
2110
    ReadonlyTransportDecorator is used instead which allows the use of non disk
 
2111
    based read write transports.
 
2112
 
 
2113
    If an explicit class is provided for readonly access, that server and the 
 
2114
    readwrite one must both define get_url() as resolving to os.getcwd().
 
2115
    """
 
2116
 
 
2117
    def get_vfs_only_server(self):
 
2118
        """See TestCaseWithMemoryTransport.
 
2119
 
 
2120
        This is useful for some tests with specific servers that need
 
2121
        diagnostics.
 
2122
        """
 
2123
        if self.__vfs_server is None:
 
2124
            self.__vfs_server = self.vfs_transport_factory()
 
2125
            self.__vfs_server.setUp()
 
2126
            self.addCleanup(self.__vfs_server.tearDown)
 
2127
        return self.__vfs_server
 
2128
 
 
2129
    def make_branch_and_tree(self, relpath, format=None):
 
2130
        """Create a branch on the transport and a tree locally.
 
2131
 
 
2132
        If the transport is not a LocalTransport, the Tree can't be created on
 
2133
        the transport.  In that case if the vfs_transport_factory is
 
2134
        LocalURLServer the working tree is created in the local
 
2135
        directory backing the transport, and the returned tree's branch and
 
2136
        repository will also be accessed locally. Otherwise a lightweight
 
2137
        checkout is created and returned.
 
2138
 
 
2139
        :param format: The BzrDirFormat.
 
2140
        :returns: the WorkingTree.
 
2141
        """
 
2142
        # TODO: always use the local disk path for the working tree,
 
2143
        # this obviously requires a format that supports branch references
 
2144
        # so check for that by checking bzrdir.BzrDirFormat.get_default_format()
 
2145
        # RBC 20060208
 
2146
        b = self.make_branch(relpath, format=format)
 
2147
        try:
 
2148
            return b.bzrdir.create_workingtree()
 
2149
        except errors.NotLocalUrl:
 
2150
            # We can only make working trees locally at the moment.  If the
 
2151
            # transport can't support them, then we keep the non-disk-backed
 
2152
            # branch and create a local checkout.
 
2153
            if self.vfs_transport_factory is LocalURLServer:
 
2154
                # the branch is colocated on disk, we cannot create a checkout.
 
2155
                # hopefully callers will expect this.
 
2156
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
 
2157
                return local_controldir.create_workingtree()
 
2158
            else:
 
2159
                return b.create_checkout(relpath, lightweight=True)
 
2160
 
 
2161
    def assertIsDirectory(self, relpath, transport):
 
2162
        """Assert that relpath within transport is a directory.
 
2163
 
 
2164
        This may not be possible on all transports; in that case it propagates
 
2165
        a TransportNotPossible.
 
2166
        """
 
2167
        try:
 
2168
            mode = transport.stat(relpath).st_mode
 
2169
        except errors.NoSuchFile:
 
2170
            self.fail("path %s is not a directory; no such file"
 
2171
                      % (relpath))
 
2172
        if not stat.S_ISDIR(mode):
 
2173
            self.fail("path %s is not a directory; has mode %#o"
 
2174
                      % (relpath, mode))
 
2175
 
 
2176
    def assertTreesEqual(self, left, right):
 
2177
        """Check that left and right have the same content and properties."""
 
2178
        # we use a tree delta to check for equality of the content, and we
 
2179
        # manually check for equality of other things such as the parents list.
 
2180
        self.assertEqual(left.get_parent_ids(), right.get_parent_ids())
 
2181
        differences = left.changes_from(right)
 
2182
        self.assertFalse(differences.has_changed(),
 
2183
            "Trees %r and %r are different: %r" % (left, right, differences))
 
2184
 
 
2185
    def setUp(self):
 
2186
        super(TestCaseWithTransport, self).setUp()
 
2187
        self.__vfs_server = None
 
2188
 
 
2189
 
 
2190
class ChrootedTestCase(TestCaseWithTransport):
 
2191
    """A support class that provides readonly urls outside the local namespace.
 
2192
 
 
2193
    This is done by checking if self.transport_server is a MemoryServer. if it
 
2194
    is then we are chrooted already, if it is not then an HttpServer is used
 
2195
    for readonly urls.
 
2196
 
 
2197
    TODO RBC 20060127: make this an option to TestCaseWithTransport so it can
 
2198
                       be used without needed to redo it when a different 
 
2199
                       subclass is in use ?
 
2200
    """
 
2201
 
 
2202
    def setUp(self):
 
2203
        super(ChrootedTestCase, self).setUp()
 
2204
        if not self.vfs_transport_factory == MemoryServer:
 
2205
            self.transport_readonly_server = HttpServer
 
2206
 
 
2207
 
 
2208
def filter_suite_by_re(suite, pattern, exclude_pattern=None,
 
2209
                       random_order=False):
 
2210
    """Create a test suite by filtering another one.
 
2211
    
 
2212
    :param suite:           the source suite
 
2213
    :param pattern:         pattern that names must match
 
2214
    :param exclude_pattern: pattern that names must not match, if any
 
2215
    :param random_order:    if True, tests in the new suite will be put in
 
2216
                            random order
 
2217
    :returns: the newly created suite
 
2218
    """ 
 
2219
    return sort_suite_by_re(suite, pattern, exclude_pattern,
 
2220
        random_order, False)
 
2221
 
 
2222
 
 
2223
def sort_suite_by_re(suite, pattern, exclude_pattern=None,
 
2224
                     random_order=False, append_rest=True):
 
2225
    """Create a test suite by sorting another one.
 
2226
    
 
2227
    :param suite:           the source suite
 
2228
    :param pattern:         pattern that names must match in order to go
 
2229
                            first in the new suite
 
2230
    :param exclude_pattern: pattern that names must not match, if any
 
2231
    :param random_order:    if True, tests in the new suite will be put in
 
2232
                            random order
 
2233
    :param append_rest:     if False, pattern is a strict filter and not
 
2234
                            just an ordering directive
 
2235
    :returns: the newly created suite
 
2236
    """ 
 
2237
    first = []
 
2238
    second = []
 
2239
    filter_re = re.compile(pattern)
 
2240
    if exclude_pattern is not None:
 
2241
        exclude_re = re.compile(exclude_pattern)
 
2242
    for test in iter_suite_tests(suite):
 
2243
        test_id = test.id()
 
2244
        if exclude_pattern is None or not exclude_re.search(test_id):
 
2245
            if filter_re.search(test_id):
 
2246
                first.append(test)
 
2247
            elif append_rest:
 
2248
                second.append(test)
 
2249
    if random_order:
 
2250
        random.shuffle(first)
 
2251
        random.shuffle(second)
 
2252
    return TestUtil.TestSuite(first + second)
 
2253
 
 
2254
 
 
2255
def run_suite(suite, name='test', verbose=False, pattern=".*",
 
2256
              stop_on_failure=False,
 
2257
              transport=None, lsprof_timed=None, bench_history=None,
 
2258
              matching_tests_first=None,
 
2259
              list_only=False,
 
2260
              random_seed=None,
 
2261
              exclude_pattern=None,
 
2262
              strict=False,
61
2263
              ):
62
 
        if m not in MODULES_TO_TEST:
63
 
            MODULES_TO_TEST.append(m)
64
 
 
65
 
 
66
 
    TestBase.BZRPATH = os.path.join(os.path.realpath(os.path.dirname(bzrlib.__path__[0])), 'bzr')
67
 
    print '%-30s %s' % ('bzr binary', TestBase.BZRPATH)
68
 
 
69
 
    print
70
 
 
 
2264
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
 
2265
    if verbose:
 
2266
        verbosity = 2
 
2267
    else:
 
2268
        verbosity = 1
 
2269
    runner = TextTestRunner(stream=sys.stdout,
 
2270
                            descriptions=0,
 
2271
                            verbosity=verbosity,
 
2272
                            bench_history=bench_history,
 
2273
                            list_only=list_only,
 
2274
                            )
 
2275
    runner.stop_on_failure=stop_on_failure
 
2276
    # Initialise the random number generator and display the seed used.
 
2277
    # We convert the seed to a long to make it reuseable across invocations.
 
2278
    random_order = False
 
2279
    if random_seed is not None:
 
2280
        random_order = True
 
2281
        if random_seed == "now":
 
2282
            random_seed = long(time.time())
 
2283
        else:
 
2284
            # Convert the seed to a long if we can
 
2285
            try:
 
2286
                random_seed = long(random_seed)
 
2287
            except:
 
2288
                pass
 
2289
        runner.stream.writeln("Randomizing test order using seed %s\n" %
 
2290
            (random_seed))
 
2291
        random.seed(random_seed)
 
2292
    # Customise the list of tests if requested
 
2293
    if pattern != '.*' or exclude_pattern is not None or random_order:
 
2294
        if matching_tests_first:
 
2295
            suite = sort_suite_by_re(suite, pattern, exclude_pattern,
 
2296
                random_order)
 
2297
        else:
 
2298
            suite = filter_suite_by_re(suite, pattern, exclude_pattern,
 
2299
                random_order)
 
2300
    result = runner.run(suite)
 
2301
 
 
2302
    if strict:
 
2303
        return result.wasStrictlySuccessful()
 
2304
 
 
2305
    return result.wasSuccessful()
 
2306
 
 
2307
 
 
2308
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
 
2309
             transport=None,
 
2310
             test_suite_factory=None,
 
2311
             lsprof_timed=None,
 
2312
             bench_history=None,
 
2313
             matching_tests_first=None,
 
2314
             list_only=False,
 
2315
             random_seed=None,
 
2316
             exclude_pattern=None,
 
2317
             strict=False,
 
2318
             ):
 
2319
    """Run the whole test suite under the enhanced runner"""
 
2320
    # XXX: Very ugly way to do this...
 
2321
    # Disable warning about old formats because we don't want it to disturb
 
2322
    # any blackbox tests.
 
2323
    from bzrlib import repository
 
2324
    repository._deprecation_warning_done = True
 
2325
 
 
2326
    global default_transport
 
2327
    if transport is None:
 
2328
        transport = default_transport
 
2329
    old_transport = default_transport
 
2330
    default_transport = transport
 
2331
    try:
 
2332
        if test_suite_factory is None:
 
2333
            suite = test_suite()
 
2334
        else:
 
2335
            suite = test_suite_factory()
 
2336
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
 
2337
                     stop_on_failure=stop_on_failure,
 
2338
                     transport=transport,
 
2339
                     lsprof_timed=lsprof_timed,
 
2340
                     bench_history=bench_history,
 
2341
                     matching_tests_first=matching_tests_first,
 
2342
                     list_only=list_only,
 
2343
                     random_seed=random_seed,
 
2344
                     exclude_pattern=exclude_pattern,
 
2345
                     strict=strict)
 
2346
    finally:
 
2347
        default_transport = old_transport
 
2348
 
 
2349
 
 
2350
def test_suite():
 
2351
    """Build and return TestSuite for the whole of bzrlib.
 
2352
    
 
2353
    This function can be replaced if you need to change the default test
 
2354
    suite on a global basis, but it is not encouraged.
 
2355
    """
 
2356
    testmod_names = [
 
2357
                   'bzrlib.util.tests.test_bencode',
 
2358
                   'bzrlib.tests.test__dirstate_helpers',
 
2359
                   'bzrlib.tests.test_ancestry',
 
2360
                   'bzrlib.tests.test_annotate',
 
2361
                   'bzrlib.tests.test_api',
 
2362
                   'bzrlib.tests.test_atomicfile',
 
2363
                   'bzrlib.tests.test_bad_files',
 
2364
                   'bzrlib.tests.test_branch',
 
2365
                   'bzrlib.tests.test_branchbuilder',
 
2366
                   'bzrlib.tests.test_bugtracker',
 
2367
                   'bzrlib.tests.test_bundle',
 
2368
                   'bzrlib.tests.test_bzrdir',
 
2369
                   'bzrlib.tests.test_cache_utf8',
 
2370
                   'bzrlib.tests.test_commands',
 
2371
                   'bzrlib.tests.test_commit',
 
2372
                   'bzrlib.tests.test_commit_merge',
 
2373
                   'bzrlib.tests.test_config',
 
2374
                   'bzrlib.tests.test_conflicts',
 
2375
                   'bzrlib.tests.test_counted_lock',
 
2376
                   'bzrlib.tests.test_decorators',
 
2377
                   'bzrlib.tests.test_delta',
 
2378
                   'bzrlib.tests.test_deprecated_graph',
 
2379
                   'bzrlib.tests.test_diff',
 
2380
                   'bzrlib.tests.test_dirstate',
 
2381
                   'bzrlib.tests.test_email_message',
 
2382
                   'bzrlib.tests.test_errors',
 
2383
                   'bzrlib.tests.test_escaped_store',
 
2384
                   'bzrlib.tests.test_extract',
 
2385
                   'bzrlib.tests.test_fetch',
 
2386
                   'bzrlib.tests.test_ftp_transport',
 
2387
                   'bzrlib.tests.test_generate_docs',
 
2388
                   'bzrlib.tests.test_generate_ids',
 
2389
                   'bzrlib.tests.test_globbing',
 
2390
                   'bzrlib.tests.test_gpg',
 
2391
                   'bzrlib.tests.test_graph',
 
2392
                   'bzrlib.tests.test_hashcache',
 
2393
                   'bzrlib.tests.test_help',
 
2394
                   'bzrlib.tests.test_hooks',
 
2395
                   'bzrlib.tests.test_http',
 
2396
                   'bzrlib.tests.test_http_response',
 
2397
                   'bzrlib.tests.test_https_ca_bundle',
 
2398
                   'bzrlib.tests.test_identitymap',
 
2399
                   'bzrlib.tests.test_ignores',
 
2400
                   'bzrlib.tests.test_index',
 
2401
                   'bzrlib.tests.test_info',
 
2402
                   'bzrlib.tests.test_inv',
 
2403
                   'bzrlib.tests.test_knit',
 
2404
                   'bzrlib.tests.test_lazy_import',
 
2405
                   'bzrlib.tests.test_lazy_regex',
 
2406
                   'bzrlib.tests.test_lockdir',
 
2407
                   'bzrlib.tests.test_lockable_files',
 
2408
                   'bzrlib.tests.test_log',
 
2409
                   'bzrlib.tests.test_lsprof',
 
2410
                   'bzrlib.tests.test_mail_client',
 
2411
                   'bzrlib.tests.test_memorytree',
 
2412
                   'bzrlib.tests.test_merge',
 
2413
                   'bzrlib.tests.test_merge3',
 
2414
                   'bzrlib.tests.test_merge_core',
 
2415
                   'bzrlib.tests.test_merge_directive',
 
2416
                   'bzrlib.tests.test_missing',
 
2417
                   'bzrlib.tests.test_msgeditor',
 
2418
                   'bzrlib.tests.test_multiparent',
 
2419
                   'bzrlib.tests.test_nonascii',
 
2420
                   'bzrlib.tests.test_options',
 
2421
                   'bzrlib.tests.test_osutils',
 
2422
                   'bzrlib.tests.test_osutils_encodings',
 
2423
                   'bzrlib.tests.test_pack',
 
2424
                   'bzrlib.tests.test_patch',
 
2425
                   'bzrlib.tests.test_patches',
 
2426
                   'bzrlib.tests.test_permissions',
 
2427
                   'bzrlib.tests.test_plugins',
 
2428
                   'bzrlib.tests.test_progress',
 
2429
                   'bzrlib.tests.test_reconcile',
 
2430
                   'bzrlib.tests.test_registry',
 
2431
                   'bzrlib.tests.test_remote',
 
2432
                   'bzrlib.tests.test_repository',
 
2433
                   'bzrlib.tests.test_revert',
 
2434
                   'bzrlib.tests.test_revision',
 
2435
                   'bzrlib.tests.test_revisionnamespaces',
 
2436
                   'bzrlib.tests.test_revisiontree',
 
2437
                   'bzrlib.tests.test_rio',
 
2438
                   'bzrlib.tests.test_sampler',
 
2439
                   'bzrlib.tests.test_selftest',
 
2440
                   'bzrlib.tests.test_setup',
 
2441
                   'bzrlib.tests.test_sftp_transport',
 
2442
                   'bzrlib.tests.test_smart',
 
2443
                   'bzrlib.tests.test_smart_add',
 
2444
                   'bzrlib.tests.test_smart_transport',
 
2445
                   'bzrlib.tests.test_smtp_connection',
 
2446
                   'bzrlib.tests.test_source',
 
2447
                   'bzrlib.tests.test_ssh_transport',
 
2448
                   'bzrlib.tests.test_status',
 
2449
                   'bzrlib.tests.test_store',
 
2450
                   'bzrlib.tests.test_strace',
 
2451
                   'bzrlib.tests.test_subsume',
 
2452
                   'bzrlib.tests.test_symbol_versioning',
 
2453
                   'bzrlib.tests.test_tag',
 
2454
                   'bzrlib.tests.test_testament',
 
2455
                   'bzrlib.tests.test_textfile',
 
2456
                   'bzrlib.tests.test_textmerge',
 
2457
                   'bzrlib.tests.test_timestamp',
 
2458
                   'bzrlib.tests.test_trace',
 
2459
                   'bzrlib.tests.test_transactions',
 
2460
                   'bzrlib.tests.test_transform',
 
2461
                   'bzrlib.tests.test_transport',
 
2462
                   'bzrlib.tests.test_tree',
 
2463
                   'bzrlib.tests.test_treebuilder',
 
2464
                   'bzrlib.tests.test_tsort',
 
2465
                   'bzrlib.tests.test_tuned_gzip',
 
2466
                   'bzrlib.tests.test_ui',
 
2467
                   'bzrlib.tests.test_upgrade',
 
2468
                   'bzrlib.tests.test_urlutils',
 
2469
                   'bzrlib.tests.test_versionedfile',
 
2470
                   'bzrlib.tests.test_version',
 
2471
                   'bzrlib.tests.test_version_info',
 
2472
                   'bzrlib.tests.test_weave',
 
2473
                   'bzrlib.tests.test_whitebox',
 
2474
                   'bzrlib.tests.test_win32utils',
 
2475
                   'bzrlib.tests.test_workingtree',
 
2476
                   'bzrlib.tests.test_workingtree_4',
 
2477
                   'bzrlib.tests.test_wsgi',
 
2478
                   'bzrlib.tests.test_xml',
 
2479
                   ]
 
2480
    test_transport_implementations = [
 
2481
        'bzrlib.tests.test_transport_implementations',
 
2482
        'bzrlib.tests.test_read_bundle',
 
2483
        ]
 
2484
    suite = TestUtil.TestSuite()
 
2485
    loader = TestUtil.TestLoader()
 
2486
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
 
2487
    from bzrlib.tests.test_transport_implementations import TransportTestProviderAdapter
 
2488
    adapter = TransportTestProviderAdapter()
 
2489
    adapt_modules(test_transport_implementations, adapter, loader, suite)
 
2490
    for package in packages_to_test():
 
2491
        suite.addTest(package.test_suite())
 
2492
    for m in MODULES_TO_TEST:
 
2493
        suite.addTest(loader.loadTestsFromModule(m))
 
2494
    for m in MODULES_TO_DOCTEST:
 
2495
        try:
 
2496
            suite.addTest(doctest.DocTestSuite(m))
 
2497
        except ValueError, e:
 
2498
            print '**failed to get doctest for: %s\n%s' %(m,e)
 
2499
            raise
 
2500
    default_encoding = sys.getdefaultencoding()
 
2501
    for name, plugin in bzrlib.plugin.plugins().items():
 
2502
        try:
 
2503
            plugin_suite = plugin.test_suite()
 
2504
        except ImportError, e:
 
2505
            bzrlib.trace.warning(
 
2506
                'Unable to test plugin "%s": %s', name, e)
 
2507
        else:
 
2508
            if plugin_suite is not None:
 
2509
                suite.addTest(plugin_suite)
 
2510
        if default_encoding != sys.getdefaultencoding():
 
2511
            bzrlib.trace.warning(
 
2512
                'Plugin "%s" tried to reset default encoding to: %s', name,
 
2513
                sys.getdefaultencoding())
 
2514
            reload(sys)
 
2515
            sys.setdefaultencoding(default_encoding)
 
2516
    return suite
 
2517
 
 
2518
 
 
2519
def multiply_tests_from_modules(module_name_list, scenario_iter):
 
2520
    """Adapt all tests in some given modules to given scenarios.
 
2521
 
 
2522
    This is the recommended public interface for test parameterization.
 
2523
    Typically the test_suite() method for a per-implementation test
 
2524
    suite will call multiply_tests_from_modules and return the 
 
2525
    result.
 
2526
 
 
2527
    :param module_name_list: List of fully-qualified names of test
 
2528
        modules.
 
2529
    :param scenario_iter: Iterable of pairs of (scenario_name, 
 
2530
        scenario_param_dict).
 
2531
 
 
2532
    This returns a new TestSuite containing the cross product of
 
2533
    all the tests in all the modules, each repeated for each scenario.
 
2534
    Each test is adapted by adding the scenario name at the end 
 
2535
    of its name, and updating the test object's __dict__ with the
 
2536
    scenario_param_dict.
 
2537
 
 
2538
    >>> r = multiply_tests_from_modules(
 
2539
    ...     ['bzrlib.tests.test_sampler'],
 
2540
    ...     [('one', dict(param=1)), 
 
2541
    ...      ('two', dict(param=2))])
 
2542
    >>> tests = list(iter_suite_tests(r))
 
2543
    >>> len(tests)
 
2544
    2
 
2545
    >>> tests[0].id()
 
2546
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
 
2547
    >>> tests[0].param
 
2548
    1
 
2549
    >>> tests[1].param
 
2550
    2
 
2551
    """
 
2552
    loader = TestLoader()
71
2553
    suite = TestSuite()
72
 
 
73
 
    # should also test bzrlib.merge_core, but they seem to be out of date with
74
 
    # the code.
75
 
 
76
 
 
77
 
    # XXX: python2.3's TestLoader() doesn't seem to find all the
78
 
    # tests; don't know why
79
 
    for m in MODULES_TO_TEST:
80
 
         suite.addTest(TestLoader().loadTestsFromModule(m))
81
 
 
82
 
    for m in (MODULES_TO_DOCTEST):
83
 
        suite.addTest(DocTestSuite(m))
84
 
 
85
 
    for p in bzrlib.plugin.all_plugins:
86
 
        if hasattr(p, 'test_suite'):
87
 
            suite.addTest(p.test_suite())
88
 
 
89
 
    suite.addTest(unittest.makeSuite(bzrlib.merge_core.MergeTest, 'test_'))
90
 
 
91
 
    return run_suite(suite, 'testbzr')
92
 
 
93
 
 
94
 
 
 
2554
    adapter = TestScenarioApplier()
 
2555
    adapter.scenarios = list(scenario_iter)
 
2556
    adapt_modules(module_name_list, adapter, loader, suite)
 
2557
    return suite
 
2558
 
 
2559
 
 
2560
def adapt_modules(mods_list, adapter, loader, suite):
 
2561
    """Adapt the modules in mods_list using adapter and add to suite."""
 
2562
    for test in iter_suite_tests(loader.loadTestsFromModuleNames(mods_list)):
 
2563
        suite.addTests(adapter.adapt(test))
 
2564
 
 
2565
 
 
2566
def _rmtree_temp_dir(dirname):
 
2567
    # If LANG=C we probably have created some bogus paths
 
2568
    # which rmtree(unicode) will fail to delete
 
2569
    # so make sure we are using rmtree(str) to delete everything
 
2570
    # except on win32, where rmtree(str) will fail
 
2571
    # since it doesn't have the property of byte-stream paths
 
2572
    # (they are either ascii or mbcs)
 
2573
    if sys.platform == 'win32':
 
2574
        # make sure we are using the unicode win32 api
 
2575
        dirname = unicode(dirname)
 
2576
    else:
 
2577
        dirname = dirname.encode(sys.getfilesystemencoding())
 
2578
    try:
 
2579
        osutils.rmtree(dirname)
 
2580
    except OSError, e:
 
2581
        if sys.platform == 'win32' and e.errno == errno.EACCES:
 
2582
            print >>sys.stderr, ('Permission denied: '
 
2583
                                 'unable to remove testing dir '
 
2584
                                 '%s' % os.path.basename(dirname))
 
2585
        else:
 
2586
            raise
 
2587
 
 
2588
 
 
2589
class Feature(object):
 
2590
    """An operating system Feature."""
 
2591
 
 
2592
    def __init__(self):
 
2593
        self._available = None
 
2594
 
 
2595
    def available(self):
 
2596
        """Is the feature available?
 
2597
 
 
2598
        :return: True if the feature is available.
 
2599
        """
 
2600
        if self._available is None:
 
2601
            self._available = self._probe()
 
2602
        return self._available
 
2603
 
 
2604
    def _probe(self):
 
2605
        """Implement this method in concrete features.
 
2606
 
 
2607
        :return: True if the feature is available.
 
2608
        """
 
2609
        raise NotImplementedError
 
2610
 
 
2611
    def __str__(self):
 
2612
        if getattr(self, 'feature_name', None):
 
2613
            return self.feature_name()
 
2614
        return self.__class__.__name__
 
2615
 
 
2616
 
 
2617
class _SymlinkFeature(Feature):
 
2618
 
 
2619
    def _probe(self):
 
2620
        return osutils.has_symlinks()
 
2621
 
 
2622
    def feature_name(self):
 
2623
        return 'symlinks'
 
2624
 
 
2625
SymlinkFeature = _SymlinkFeature()
 
2626
 
 
2627
 
 
2628
class TestScenarioApplier(object):
 
2629
    """A tool to apply scenarios to tests."""
 
2630
 
 
2631
    def adapt(self, test):
 
2632
        """Return a TestSuite containing a copy of test for each scenario."""
 
2633
        result = unittest.TestSuite()
 
2634
        for scenario in self.scenarios:
 
2635
            result.addTest(self.adapt_test_to_scenario(test, scenario))
 
2636
        return result
 
2637
 
 
2638
    def adapt_test_to_scenario(self, test, scenario):
 
2639
        """Copy test and apply scenario to it.
 
2640
 
 
2641
        :param test: A test to adapt.
 
2642
        :param scenario: A tuple describing the scenarion.
 
2643
            The first element of the tuple is the new test id.
 
2644
            The second element is a dict containing attributes to set on the
 
2645
            test.
 
2646
        :return: The adapted test.
 
2647
        """
 
2648
        from copy import deepcopy
 
2649
        new_test = deepcopy(test)
 
2650
        for name, value in scenario[1].items():
 
2651
            setattr(new_test, name, value)
 
2652
        new_id = "%s(%s)" % (new_test.id(), scenario[0])
 
2653
        new_test.id = lambda: new_id
 
2654
        return new_test
 
2655
 
 
2656
 
 
2657
def probe_unicode_in_user_encoding():
 
2658
    """Try to encode several unicode strings to use in unicode-aware tests.
 
2659
    Return first successfull match.
 
2660
 
 
2661
    :return:  (unicode value, encoded plain string value) or (None, None)
 
2662
    """
 
2663
    possible_vals = [u'm\xb5', u'\xe1', u'\u0410']
 
2664
    for uni_val in possible_vals:
 
2665
        try:
 
2666
            str_val = uni_val.encode(bzrlib.user_encoding)
 
2667
        except UnicodeEncodeError:
 
2668
            # Try a different character
 
2669
            pass
 
2670
        else:
 
2671
            return uni_val, str_val
 
2672
    return None, None