~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2008-10-16 21:31:35 UTC
  • mfrom: (3363.19.4 fix-iter-changes)
  • Revision ID: pqm@pqm.ubuntu.com-20081016213135-0115pw9c95l2dyxq
PreviewTree.iter_changes accepts all standard parameters (abentley)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 by Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006, 2007, 2008 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
26
26
# general style of bzrlib.  Please continue that consistency when adding e.g.
27
27
# new assertFoo() methods.
28
28
 
 
29
import atexit
29
30
import codecs
30
31
from cStringIO import StringIO
31
32
import difflib
 
33
import doctest
32
34
import errno
33
35
import logging
34
36
import os
 
37
from pprint import pformat
 
38
import random
35
39
import re
36
 
import shutil
 
40
import shlex
37
41
import stat
 
42
from subprocess import Popen, PIPE
38
43
import sys
39
44
import tempfile
 
45
import threading
 
46
import time
40
47
import unittest
41
 
import time
42
 
 
43
 
 
 
48
import warnings
 
49
 
 
50
 
 
51
from bzrlib import (
 
52
    branchbuilder,
 
53
    bzrdir,
 
54
    debug,
 
55
    errors,
 
56
    memorytree,
 
57
    osutils,
 
58
    progress,
 
59
    ui,
 
60
    urlutils,
 
61
    registry,
 
62
    workingtree,
 
63
    )
44
64
import bzrlib.branch
45
 
import bzrlib.bzrdir as bzrdir
46
65
import bzrlib.commands
47
 
import bzrlib.errors as errors
 
66
import bzrlib.timestamp
 
67
import bzrlib.export
48
68
import bzrlib.inventory
49
69
import bzrlib.iterablefile
50
70
import bzrlib.lockdir
 
71
try:
 
72
    import bzrlib.lsprof
 
73
except ImportError:
 
74
    # lsprof not available
 
75
    pass
 
76
from bzrlib.merge import merge_inner
51
77
import bzrlib.merge3
52
 
import bzrlib.osutils
53
 
import bzrlib.osutils as osutils
54
78
import bzrlib.plugin
55
79
import bzrlib.store
 
80
from bzrlib import symbol_versioning
 
81
from bzrlib.symbol_versioning import (
 
82
    DEPRECATED_PARAMETER,
 
83
    deprecated_function,
 
84
    deprecated_method,
 
85
    deprecated_passed,
 
86
    )
56
87
import bzrlib.trace
57
 
from bzrlib.transport import urlescape, get_transport
 
88
from bzrlib.transport import get_transport
58
89
import bzrlib.transport
59
 
from bzrlib.transport.local import LocalRelpathServer
 
90
from bzrlib.transport.local import LocalURLServer
 
91
from bzrlib.transport.memory import MemoryServer
60
92
from bzrlib.transport.readonly import ReadonlyServer
61
 
from bzrlib.trace import mutter
62
 
from bzrlib.tests.TestUtil import TestLoader, TestSuite
 
93
from bzrlib.trace import mutter, note
 
94
from bzrlib.tests import TestUtil
 
95
from bzrlib.tests.http_server import HttpServer
 
96
from bzrlib.tests.TestUtil import (
 
97
                          TestSuite,
 
98
                          TestLoader,
 
99
                          )
63
100
from bzrlib.tests.treeshape import build_tree_contents
 
101
import bzrlib.version_info_formats.format_custom
64
102
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
65
103
 
66
 
default_transport = LocalRelpathServer
67
 
 
68
 
MODULES_TO_TEST = []
69
 
MODULES_TO_DOCTEST = [
70
 
                      bzrlib.branch,
71
 
                      bzrlib.commands,
72
 
                      bzrlib.errors,
73
 
                      bzrlib.inventory,
74
 
                      bzrlib.iterablefile,
75
 
                      bzrlib.lockdir,
76
 
                      bzrlib.merge3,
77
 
                      bzrlib.option,
78
 
                      bzrlib.osutils,
79
 
                      bzrlib.store
80
 
                      ]
81
 
def packages_to_test():
82
 
    """Return a list of packages to test.
83
 
 
84
 
    The packages are not globally imported so that import failures are
85
 
    triggered when running selftest, not when importing the command.
86
 
    """
87
 
    import bzrlib.doc
88
 
    import bzrlib.tests.blackbox
89
 
    import bzrlib.tests.branch_implementations
90
 
    import bzrlib.tests.bzrdir_implementations
91
 
    import bzrlib.tests.interrepository_implementations
92
 
    import bzrlib.tests.interversionedfile_implementations
93
 
    import bzrlib.tests.repository_implementations
94
 
    import bzrlib.tests.revisionstore_implementations
95
 
    import bzrlib.tests.workingtree_implementations
96
 
    return [
97
 
            bzrlib.doc,
98
 
            bzrlib.tests.blackbox,
99
 
            bzrlib.tests.branch_implementations,
100
 
            bzrlib.tests.bzrdir_implementations,
101
 
            bzrlib.tests.interrepository_implementations,
102
 
            bzrlib.tests.interversionedfile_implementations,
103
 
            bzrlib.tests.repository_implementations,
104
 
            bzrlib.tests.revisionstore_implementations,
105
 
            bzrlib.tests.workingtree_implementations,
106
 
            ]
107
 
 
108
 
 
109
 
class _MyResult(unittest._TextTestResult):
110
 
    """Custom TestResult.
111
 
 
112
 
    Shows output in a different format, including displaying runtime for tests.
113
 
    """
 
104
# Mark this python module as being part of the implementation
 
105
# of unittest: this gives us better tracebacks where the last
 
106
# shown frame is the test code, not our assertXYZ.
 
107
__unittest = 1
 
108
 
 
109
default_transport = LocalURLServer
 
110
 
 
111
 
 
112
class ExtendedTestResult(unittest._TextTestResult):
 
113
    """Accepts, reports and accumulates the results of running tests.
 
114
 
 
115
    Compared to the unittest version this class adds support for
 
116
    profiling, benchmarking, stopping as soon as a test fails,  and
 
117
    skipping tests.  There are further-specialized subclasses for
 
118
    different types of display.
 
119
 
 
120
    When a test finishes, in whatever way, it calls one of the addSuccess,
 
121
    addFailure or addError classes.  These in turn may redirect to a more
 
122
    specific case for the special test results supported by our extended
 
123
    tests.
 
124
 
 
125
    Note that just one of these objects is fed the results from many tests.
 
126
    """
 
127
 
114
128
    stop_early = False
115
 
 
116
 
    def _elapsedTime(self):
117
 
        return "%5dms" % (1000 * (time.time() - self._start_time))
 
129
    
 
130
    def __init__(self, stream, descriptions, verbosity,
 
131
                 bench_history=None,
 
132
                 num_tests=None,
 
133
                 ):
 
134
        """Construct new TestResult.
 
135
 
 
136
        :param bench_history: Optionally, a writable file object to accumulate
 
137
            benchmark results.
 
138
        """
 
139
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
 
140
        if bench_history is not None:
 
141
            from bzrlib.version import _get_bzr_source_tree
 
142
            src_tree = _get_bzr_source_tree()
 
143
            if src_tree:
 
144
                try:
 
145
                    revision_id = src_tree.get_parent_ids()[0]
 
146
                except IndexError:
 
147
                    # XXX: if this is a brand new tree, do the same as if there
 
148
                    # is no branch.
 
149
                    revision_id = ''
 
150
            else:
 
151
                # XXX: If there's no branch, what should we do?
 
152
                revision_id = ''
 
153
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
 
154
        self._bench_history = bench_history
 
155
        self.ui = ui.ui_factory
 
156
        self.num_tests = num_tests
 
157
        self.error_count = 0
 
158
        self.failure_count = 0
 
159
        self.known_failure_count = 0
 
160
        self.skip_count = 0
 
161
        self.not_applicable_count = 0
 
162
        self.unsupported = {}
 
163
        self.count = 0
 
164
        self._overall_start_time = time.time()
 
165
    
 
166
    def _extractBenchmarkTime(self, testCase):
 
167
        """Add a benchmark time for the current test case."""
 
168
        return getattr(testCase, "_benchtime", None)
 
169
    
 
170
    def _elapsedTestTimeString(self):
 
171
        """Return a time string for the overall time the current test has taken."""
 
172
        return self._formatTime(time.time() - self._start_time)
 
173
 
 
174
    def _testTimeString(self, testCase):
 
175
        benchmark_time = self._extractBenchmarkTime(testCase)
 
176
        if benchmark_time is not None:
 
177
            return "%s/%s" % (
 
178
                self._formatTime(benchmark_time),
 
179
                self._elapsedTestTimeString())
 
180
        else:
 
181
            return "           %s" % self._elapsedTestTimeString()
 
182
 
 
183
    def _formatTime(self, seconds):
 
184
        """Format seconds as milliseconds with leading spaces."""
 
185
        # some benchmarks can take thousands of seconds to run, so we need 8
 
186
        # places
 
187
        return "%8dms" % (1000 * seconds)
 
188
 
 
189
    def _shortened_test_description(self, test):
 
190
        what = test.id()
 
191
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
192
        return what
118
193
 
119
194
    def startTest(self, test):
120
195
        unittest.TestResult.startTest(self, test)
121
 
        # In a short description, the important words are in
122
 
        # the beginning, but in an id, the important words are
123
 
        # at the end
124
 
        SHOW_DESCRIPTIONS = False
125
 
        if self.showAll:
126
 
            width = osutils.terminal_width()
127
 
            name_width = width - 15
128
 
            what = None
129
 
            if SHOW_DESCRIPTIONS:
130
 
                what = test.shortDescription()
131
 
                if what:
132
 
                    if len(what) > name_width:
133
 
                        what = what[:name_width-3] + '...'
134
 
            if what is None:
135
 
                what = test.id()
136
 
                if what.startswith('bzrlib.tests.'):
137
 
                    what = what[13:]
138
 
                if len(what) > name_width:
139
 
                    what = '...' + what[3-name_width:]
140
 
            what = what.ljust(name_width)
141
 
            self.stream.write(what)
142
 
        self.stream.flush()
 
196
        self.report_test_start(test)
 
197
        test.number = self.count
 
198
        self._recordTestStartTime()
 
199
 
 
200
    def _recordTestStartTime(self):
 
201
        """Record that a test has started."""
143
202
        self._start_time = time.time()
144
203
 
 
204
    def _cleanupLogFile(self, test):
 
205
        # We can only do this if we have one of our TestCases, not if
 
206
        # we have a doctest.
 
207
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
 
208
        if setKeepLogfile is not None:
 
209
            setKeepLogfile()
 
210
 
145
211
    def addError(self, test, err):
 
212
        """Tell result that test finished with an error.
 
213
 
 
214
        Called from the TestCase run() method when the test
 
215
        fails with an unexpected error.
 
216
        """
 
217
        self._testConcluded(test)
146
218
        if isinstance(err[1], TestSkipped):
147
 
            return self.addSkipped(test, err)    
148
 
        unittest.TestResult.addError(self, test, err)
149
 
        if self.showAll:
150
 
            self.stream.writeln("ERROR %s" % self._elapsedTime())
151
 
        elif self.dots:
152
 
            self.stream.write('E')
153
 
        self.stream.flush()
154
 
        if self.stop_early:
155
 
            self.stop()
 
219
            return self._addSkipped(test, err)
 
220
        elif isinstance(err[1], UnavailableFeature):
 
221
            return self.addNotSupported(test, err[1].args[0])
 
222
        else:
 
223
            unittest.TestResult.addError(self, test, err)
 
224
            self.error_count += 1
 
225
            self.report_error(test, err)
 
226
            if self.stop_early:
 
227
                self.stop()
 
228
            self._cleanupLogFile(test)
156
229
 
157
230
    def addFailure(self, test, err):
158
 
        unittest.TestResult.addFailure(self, test, err)
159
 
        if self.showAll:
160
 
            self.stream.writeln(" FAIL %s" % self._elapsedTime())
161
 
        elif self.dots:
162
 
            self.stream.write('F')
163
 
        self.stream.flush()
164
 
        if self.stop_early:
165
 
            self.stop()
 
231
        """Tell result that test failed.
 
232
 
 
233
        Called from the TestCase run() method when the test
 
234
        fails because e.g. an assert() method failed.
 
235
        """
 
236
        self._testConcluded(test)
 
237
        if isinstance(err[1], KnownFailure):
 
238
            return self._addKnownFailure(test, err)
 
239
        else:
 
240
            unittest.TestResult.addFailure(self, test, err)
 
241
            self.failure_count += 1
 
242
            self.report_failure(test, err)
 
243
            if self.stop_early:
 
244
                self.stop()
 
245
            self._cleanupLogFile(test)
166
246
 
167
247
    def addSuccess(self, test):
168
 
        if self.showAll:
169
 
            self.stream.writeln('   OK %s' % self._elapsedTime())
170
 
        elif self.dots:
171
 
            self.stream.write('~')
172
 
        self.stream.flush()
173
 
        unittest.TestResult.addSuccess(self, test)
174
 
 
175
 
    def addSkipped(self, test, skip_excinfo):
176
 
        if self.showAll:
177
 
            print >>self.stream, ' SKIP %s' % self._elapsedTime()
178
 
            print >>self.stream, '     %s' % skip_excinfo[1]
179
 
        elif self.dots:
180
 
            self.stream.write('S')
181
 
        self.stream.flush()
182
 
        # seems best to treat this as success from point-of-view of unittest
183
 
        # -- it actually does nothing so it barely matters :)
184
 
        unittest.TestResult.addSuccess(self, test)
 
248
        """Tell result that test completed successfully.
 
249
 
 
250
        Called from the TestCase run()
 
251
        """
 
252
        self._testConcluded(test)
 
253
        if self._bench_history is not None:
 
254
            benchmark_time = self._extractBenchmarkTime(test)
 
255
            if benchmark_time is not None:
 
256
                self._bench_history.write("%s %s\n" % (
 
257
                    self._formatTime(benchmark_time),
 
258
                    test.id()))
 
259
        self.report_success(test)
 
260
        self._cleanupLogFile(test)
 
261
        unittest.TestResult.addSuccess(self, test)
 
262
        test._log_contents = ''
 
263
 
 
264
    def _testConcluded(self, test):
 
265
        """Common code when a test has finished.
 
266
 
 
267
        Called regardless of whether it succeded, failed, etc.
 
268
        """
 
269
        pass
 
270
 
 
271
    def _addKnownFailure(self, test, err):
 
272
        self.known_failure_count += 1
 
273
        self.report_known_failure(test, err)
 
274
 
 
275
    def addNotSupported(self, test, feature):
 
276
        """The test will not be run because of a missing feature.
 
277
        """
 
278
        # this can be called in two different ways: it may be that the
 
279
        # test started running, and then raised (through addError) 
 
280
        # UnavailableFeature.  Alternatively this method can be called
 
281
        # while probing for features before running the tests; in that
 
282
        # case we will see startTest and stopTest, but the test will never
 
283
        # actually run.
 
284
        self.unsupported.setdefault(str(feature), 0)
 
285
        self.unsupported[str(feature)] += 1
 
286
        self.report_unsupported(test, feature)
 
287
 
 
288
    def _addSkipped(self, test, skip_excinfo):
 
289
        if isinstance(skip_excinfo[1], TestNotApplicable):
 
290
            self.not_applicable_count += 1
 
291
            self.report_not_applicable(test, skip_excinfo)
 
292
        else:
 
293
            self.skip_count += 1
 
294
            self.report_skip(test, skip_excinfo)
 
295
        try:
 
296
            test.tearDown()
 
297
        except KeyboardInterrupt:
 
298
            raise
 
299
        except:
 
300
            self.addError(test, test._exc_info())
 
301
        else:
 
302
            # seems best to treat this as success from point-of-view of unittest
 
303
            # -- it actually does nothing so it barely matters :)
 
304
            unittest.TestResult.addSuccess(self, test)
 
305
            test._log_contents = ''
185
306
 
186
307
    def printErrorList(self, flavour, errors):
187
308
        for test, err in errors:
188
309
            self.stream.writeln(self.separator1)
189
 
            self.stream.writeln("%s: %s" % (flavour, self.getDescription(test)))
 
310
            self.stream.write("%s: " % flavour)
 
311
            self.stream.writeln(self.getDescription(test))
190
312
            if getattr(test, '_get_log', None) is not None:
191
 
                print >>self.stream
192
 
                print >>self.stream, \
193
 
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-')
194
 
                print >>self.stream, test._get_log()
195
 
                print >>self.stream, \
196
 
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-')
 
313
                self.stream.write('\n')
 
314
                self.stream.write(
 
315
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-'))
 
316
                self.stream.write('\n')
 
317
                self.stream.write(test._get_log())
 
318
                self.stream.write('\n')
 
319
                self.stream.write(
 
320
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-'))
 
321
                self.stream.write('\n')
197
322
            self.stream.writeln(self.separator2)
198
323
            self.stream.writeln("%s" % err)
199
324
 
200
 
 
201
 
class TextTestRunner(unittest.TextTestRunner):
 
325
    def finished(self):
 
326
        pass
 
327
 
 
328
    def report_cleaning_up(self):
 
329
        pass
 
330
 
 
331
    def report_success(self, test):
 
332
        pass
 
333
 
 
334
    def wasStrictlySuccessful(self):
 
335
        if self.unsupported or self.known_failure_count:
 
336
            return False
 
337
        return self.wasSuccessful()
 
338
 
 
339
 
 
340
class TextTestResult(ExtendedTestResult):
 
341
    """Displays progress and results of tests in text form"""
 
342
 
 
343
    def __init__(self, stream, descriptions, verbosity,
 
344
                 bench_history=None,
 
345
                 num_tests=None,
 
346
                 pb=None,
 
347
                 ):
 
348
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
 
349
            bench_history, num_tests)
 
350
        if pb is None:
 
351
            self.pb = self.ui.nested_progress_bar()
 
352
            self._supplied_pb = False
 
353
        else:
 
354
            self.pb = pb
 
355
            self._supplied_pb = True
 
356
        self.pb.show_pct = False
 
357
        self.pb.show_spinner = False
 
358
        self.pb.show_eta = False,
 
359
        self.pb.show_count = False
 
360
        self.pb.show_bar = False
 
361
 
 
362
    def report_starting(self):
 
363
        self.pb.update('[test 0/%d] starting...' % (self.num_tests))
 
364
 
 
365
    def _progress_prefix_text(self):
 
366
        # the longer this text, the less space we have to show the test
 
367
        # name...
 
368
        a = '[%d' % self.count              # total that have been run
 
369
        # tests skipped as known not to be relevant are not important enough
 
370
        # to show here
 
371
        ## if self.skip_count:
 
372
        ##     a += ', %d skip' % self.skip_count
 
373
        ## if self.known_failure_count:
 
374
        ##     a += '+%dX' % self.known_failure_count
 
375
        if self.num_tests is not None:
 
376
            a +='/%d' % self.num_tests
 
377
        a += ' in '
 
378
        runtime = time.time() - self._overall_start_time
 
379
        if runtime >= 60:
 
380
            a += '%dm%ds' % (runtime / 60, runtime % 60)
 
381
        else:
 
382
            a += '%ds' % runtime
 
383
        if self.error_count:
 
384
            a += ', %d err' % self.error_count
 
385
        if self.failure_count:
 
386
            a += ', %d fail' % self.failure_count
 
387
        if self.unsupported:
 
388
            a += ', %d missing' % len(self.unsupported)
 
389
        a += ']'
 
390
        return a
 
391
 
 
392
    def report_test_start(self, test):
 
393
        self.count += 1
 
394
        self.pb.update(
 
395
                self._progress_prefix_text()
 
396
                + ' ' 
 
397
                + self._shortened_test_description(test))
 
398
 
 
399
    def _test_description(self, test):
 
400
        return self._shortened_test_description(test)
 
401
 
 
402
    def report_error(self, test, err):
 
403
        self.pb.note('ERROR: %s\n    %s\n', 
 
404
            self._test_description(test),
 
405
            err[1],
 
406
            )
 
407
 
 
408
    def report_failure(self, test, err):
 
409
        self.pb.note('FAIL: %s\n    %s\n', 
 
410
            self._test_description(test),
 
411
            err[1],
 
412
            )
 
413
 
 
414
    def report_known_failure(self, test, err):
 
415
        self.pb.note('XFAIL: %s\n%s\n',
 
416
            self._test_description(test), err[1])
 
417
 
 
418
    def report_skip(self, test, skip_excinfo):
 
419
        pass
 
420
 
 
421
    def report_not_applicable(self, test, skip_excinfo):
 
422
        pass
 
423
 
 
424
    def report_unsupported(self, test, feature):
 
425
        """test cannot be run because feature is missing."""
 
426
                  
 
427
    def report_cleaning_up(self):
 
428
        self.pb.update('cleaning up...')
 
429
 
 
430
    def finished(self):
 
431
        if not self._supplied_pb:
 
432
            self.pb.finished()
 
433
 
 
434
 
 
435
class VerboseTestResult(ExtendedTestResult):
 
436
    """Produce long output, with one line per test run plus times"""
 
437
 
 
438
    def _ellipsize_to_right(self, a_string, final_width):
 
439
        """Truncate and pad a string, keeping the right hand side"""
 
440
        if len(a_string) > final_width:
 
441
            result = '...' + a_string[3-final_width:]
 
442
        else:
 
443
            result = a_string
 
444
        return result.ljust(final_width)
 
445
 
 
446
    def report_starting(self):
 
447
        self.stream.write('running %d tests...\n' % self.num_tests)
 
448
 
 
449
    def report_test_start(self, test):
 
450
        self.count += 1
 
451
        name = self._shortened_test_description(test)
 
452
        # width needs space for 6 char status, plus 1 for slash, plus 2 10-char
 
453
        # numbers, plus a trailing blank
 
454
        # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on space
 
455
        self.stream.write(self._ellipsize_to_right(name,
 
456
                          osutils.terminal_width()-30))
 
457
        self.stream.flush()
 
458
 
 
459
    def _error_summary(self, err):
 
460
        indent = ' ' * 4
 
461
        return '%s%s' % (indent, err[1])
 
462
 
 
463
    def report_error(self, test, err):
 
464
        self.stream.writeln('ERROR %s\n%s'
 
465
                % (self._testTimeString(test),
 
466
                   self._error_summary(err)))
 
467
 
 
468
    def report_failure(self, test, err):
 
469
        self.stream.writeln(' FAIL %s\n%s'
 
470
                % (self._testTimeString(test),
 
471
                   self._error_summary(err)))
 
472
 
 
473
    def report_known_failure(self, test, err):
 
474
        self.stream.writeln('XFAIL %s\n%s'
 
475
                % (self._testTimeString(test),
 
476
                   self._error_summary(err)))
 
477
 
 
478
    def report_success(self, test):
 
479
        self.stream.writeln('   OK %s' % self._testTimeString(test))
 
480
        for bench_called, stats in getattr(test, '_benchcalls', []):
 
481
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
482
            stats.pprint(file=self.stream)
 
483
        # flush the stream so that we get smooth output. This verbose mode is
 
484
        # used to show the output in PQM.
 
485
        self.stream.flush()
 
486
 
 
487
    def report_skip(self, test, skip_excinfo):
 
488
        self.stream.writeln(' SKIP %s\n%s'
 
489
                % (self._testTimeString(test),
 
490
                   self._error_summary(skip_excinfo)))
 
491
 
 
492
    def report_not_applicable(self, test, skip_excinfo):
 
493
        self.stream.writeln('  N/A %s\n%s'
 
494
                % (self._testTimeString(test),
 
495
                   self._error_summary(skip_excinfo)))
 
496
 
 
497
    def report_unsupported(self, test, feature):
 
498
        """test cannot be run because feature is missing."""
 
499
        self.stream.writeln("NODEP %s\n    The feature '%s' is not available."
 
500
                %(self._testTimeString(test), feature))
 
501
 
 
502
 
 
503
class TextTestRunner(object):
202
504
    stop_on_failure = False
203
505
 
204
 
    def _makeResult(self):
205
 
        result = _MyResult(self.stream, self.descriptions, self.verbosity)
 
506
    def __init__(self,
 
507
                 stream=sys.stderr,
 
508
                 descriptions=0,
 
509
                 verbosity=1,
 
510
                 bench_history=None,
 
511
                 list_only=False
 
512
                 ):
 
513
        self.stream = unittest._WritelnDecorator(stream)
 
514
        self.descriptions = descriptions
 
515
        self.verbosity = verbosity
 
516
        self._bench_history = bench_history
 
517
        self.list_only = list_only
 
518
 
 
519
    def run(self, test):
 
520
        "Run the given test case or test suite."
 
521
        startTime = time.time()
 
522
        if self.verbosity == 1:
 
523
            result_class = TextTestResult
 
524
        elif self.verbosity >= 2:
 
525
            result_class = VerboseTestResult
 
526
        result = result_class(self.stream,
 
527
                              self.descriptions,
 
528
                              self.verbosity,
 
529
                              bench_history=self._bench_history,
 
530
                              num_tests=test.countTestCases(),
 
531
                              )
206
532
        result.stop_early = self.stop_on_failure
 
533
        result.report_starting()
 
534
        if self.list_only:
 
535
            if self.verbosity >= 2:
 
536
                self.stream.writeln("Listing tests only ...\n")
 
537
            run = 0
 
538
            for t in iter_suite_tests(test):
 
539
                self.stream.writeln("%s" % (t.id()))
 
540
                run += 1
 
541
            actionTaken = "Listed"
 
542
        else: 
 
543
            test.run(result)
 
544
            run = result.testsRun
 
545
            actionTaken = "Ran"
 
546
        stopTime = time.time()
 
547
        timeTaken = stopTime - startTime
 
548
        result.printErrors()
 
549
        self.stream.writeln(result.separator2)
 
550
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
 
551
                            run, run != 1 and "s" or "", timeTaken))
 
552
        self.stream.writeln()
 
553
        if not result.wasSuccessful():
 
554
            self.stream.write("FAILED (")
 
555
            failed, errored = map(len, (result.failures, result.errors))
 
556
            if failed:
 
557
                self.stream.write("failures=%d" % failed)
 
558
            if errored:
 
559
                if failed: self.stream.write(", ")
 
560
                self.stream.write("errors=%d" % errored)
 
561
            if result.known_failure_count:
 
562
                if failed or errored: self.stream.write(", ")
 
563
                self.stream.write("known_failure_count=%d" %
 
564
                    result.known_failure_count)
 
565
            self.stream.writeln(")")
 
566
        else:
 
567
            if result.known_failure_count:
 
568
                self.stream.writeln("OK (known_failures=%d)" %
 
569
                    result.known_failure_count)
 
570
            else:
 
571
                self.stream.writeln("OK")
 
572
        if result.skip_count > 0:
 
573
            skipped = result.skip_count
 
574
            self.stream.writeln('%d test%s skipped' %
 
575
                                (skipped, skipped != 1 and "s" or ""))
 
576
        if result.unsupported:
 
577
            for feature, count in sorted(result.unsupported.items()):
 
578
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
579
                    (feature, count))
 
580
        result.finished()
207
581
        return result
208
582
 
209
583
 
222
596
 
223
597
class TestSkipped(Exception):
224
598
    """Indicates that a test was intentionally skipped, rather than failing."""
225
 
    # XXX: Not used yet
 
599
 
 
600
 
 
601
class TestNotApplicable(TestSkipped):
 
602
    """A test is not applicable to the situation where it was run.
 
603
 
 
604
    This is only normally raised by parameterized tests, if they find that 
 
605
    the instance they're constructed upon does not support one aspect 
 
606
    of its interface.
 
607
    """
 
608
 
 
609
 
 
610
class KnownFailure(AssertionError):
 
611
    """Indicates that a test failed in a precisely expected manner.
 
612
 
 
613
    Such failures dont block the whole test suite from passing because they are
 
614
    indicators of partially completed code or of future work. We have an
 
615
    explicit error for them so that we can ensure that they are always visible:
 
616
    KnownFailures are always shown in the output of bzr selftest.
 
617
    """
 
618
 
 
619
 
 
620
class UnavailableFeature(Exception):
 
621
    """A feature required for this test was not available.
 
622
 
 
623
    The feature should be used to construct the exception.
 
624
    """
226
625
 
227
626
 
228
627
class CommandFailed(Exception):
229
628
    pass
230
629
 
 
630
 
 
631
class StringIOWrapper(object):
 
632
    """A wrapper around cStringIO which just adds an encoding attribute.
 
633
    
 
634
    Internally we can check sys.stdout to see what the output encoding
 
635
    should be. However, cStringIO has no encoding attribute that we can
 
636
    set. So we wrap it instead.
 
637
    """
 
638
    encoding='ascii'
 
639
    _cstring = None
 
640
 
 
641
    def __init__(self, s=None):
 
642
        if s is not None:
 
643
            self.__dict__['_cstring'] = StringIO(s)
 
644
        else:
 
645
            self.__dict__['_cstring'] = StringIO()
 
646
 
 
647
    def __getattr__(self, name, getattr=getattr):
 
648
        return getattr(self.__dict__['_cstring'], name)
 
649
 
 
650
    def __setattr__(self, name, val):
 
651
        if name == 'encoding':
 
652
            self.__dict__['encoding'] = val
 
653
        else:
 
654
            return setattr(self._cstring, name, val)
 
655
 
 
656
 
 
657
class TestUIFactory(ui.CLIUIFactory):
 
658
    """A UI Factory for testing.
 
659
 
 
660
    Hide the progress bar but emit note()s.
 
661
    Redirect stdin.
 
662
    Allows get_password to be tested without real tty attached.
 
663
    """
 
664
 
 
665
    def __init__(self,
 
666
                 stdout=None,
 
667
                 stderr=None,
 
668
                 stdin=None):
 
669
        super(TestUIFactory, self).__init__()
 
670
        if stdin is not None:
 
671
            # We use a StringIOWrapper to be able to test various
 
672
            # encodings, but the user is still responsible to
 
673
            # encode the string and to set the encoding attribute
 
674
            # of StringIOWrapper.
 
675
            self.stdin = StringIOWrapper(stdin)
 
676
        if stdout is None:
 
677
            self.stdout = sys.stdout
 
678
        else:
 
679
            self.stdout = stdout
 
680
        if stderr is None:
 
681
            self.stderr = sys.stderr
 
682
        else:
 
683
            self.stderr = stderr
 
684
 
 
685
    def clear(self):
 
686
        """See progress.ProgressBar.clear()."""
 
687
 
 
688
    def clear_term(self):
 
689
        """See progress.ProgressBar.clear_term()."""
 
690
 
 
691
    def clear_term(self):
 
692
        """See progress.ProgressBar.clear_term()."""
 
693
 
 
694
    def finished(self):
 
695
        """See progress.ProgressBar.finished()."""
 
696
 
 
697
    def note(self, fmt_string, *args, **kwargs):
 
698
        """See progress.ProgressBar.note()."""
 
699
        self.stdout.write((fmt_string + "\n") % args)
 
700
 
 
701
    def progress_bar(self):
 
702
        return self
 
703
 
 
704
    def nested_progress_bar(self):
 
705
        return self
 
706
 
 
707
    def update(self, message, count=None, total=None):
 
708
        """See progress.ProgressBar.update()."""
 
709
 
 
710
    def get_non_echoed_password(self, prompt):
 
711
        """Get password from stdin without trying to handle the echo mode"""
 
712
        if prompt:
 
713
            self.stdout.write(prompt.encode(self.stdout.encoding, 'replace'))
 
714
        password = self.stdin.readline()
 
715
        if not password:
 
716
            raise EOFError
 
717
        if password[-1] == '\n':
 
718
            password = password[:-1]
 
719
        return password
 
720
 
 
721
 
 
722
def _report_leaked_threads():
 
723
    bzrlib.trace.warning('%s is leaking threads among %d leaking tests',
 
724
                         TestCase._first_thread_leaker_id,
 
725
                         TestCase._leaking_threads_tests)
 
726
 
 
727
 
231
728
class TestCase(unittest.TestCase):
232
729
    """Base class for bzr unit tests.
233
730
    
249
746
    accidentally overlooked.
250
747
    """
251
748
 
252
 
    BZRPATH = 'bzr'
 
749
    _active_threads = None
 
750
    _leaking_threads_tests = 0
 
751
    _first_thread_leaker_id = None
253
752
    _log_file_name = None
254
753
    _log_contents = ''
 
754
    _keep_log_file = False
 
755
    # record lsprof data when performing benchmark calls.
 
756
    _gather_lsprof_in_benchmarks = False
 
757
    attrs_to_keep = ('id', '_testMethodName', '_testMethodDoc',
 
758
                     '_log_contents', '_log_file_name', '_benchtime',
 
759
                     '_TestCase__testMethodName')
255
760
 
256
761
    def __init__(self, methodName='testMethod'):
257
762
        super(TestCase, self).__init__(methodName)
260
765
    def setUp(self):
261
766
        unittest.TestCase.setUp(self)
262
767
        self._cleanEnvironment()
263
 
        bzrlib.trace.disable_default_logging()
 
768
        self._silenceUI()
264
769
        self._startLogFile()
 
770
        self._benchcalls = []
 
771
        self._benchtime = None
 
772
        self._clear_hooks()
 
773
        self._clear_debug_flags()
 
774
        TestCase._active_threads = threading.activeCount()
 
775
        self.addCleanup(self._check_leaked_threads)
 
776
 
 
777
    def _check_leaked_threads(self):
 
778
        active = threading.activeCount()
 
779
        leaked_threads = active - TestCase._active_threads
 
780
        TestCase._active_threads = active
 
781
        if leaked_threads:
 
782
            TestCase._leaking_threads_tests += 1
 
783
            if TestCase._first_thread_leaker_id is None:
 
784
                TestCase._first_thread_leaker_id = self.id()
 
785
                # we're not specifically told when all tests are finished.
 
786
                # This will do. We use a function to avoid keeping a reference
 
787
                # to a TestCase object.
 
788
                atexit.register(_report_leaked_threads)
 
789
 
 
790
    def _clear_debug_flags(self):
 
791
        """Prevent externally set debug flags affecting tests.
 
792
        
 
793
        Tests that want to use debug flags can just set them in the
 
794
        debug_flags set during setup/teardown.
 
795
        """
 
796
        self._preserved_debug_flags = set(debug.debug_flags)
 
797
        if 'allow_debug' not in selftest_debug_flags:
 
798
            debug.debug_flags.clear()
 
799
        self.addCleanup(self._restore_debug_flags)
 
800
 
 
801
    def _clear_hooks(self):
 
802
        # prevent hooks affecting tests
 
803
        import bzrlib.branch
 
804
        import bzrlib.smart.client
 
805
        import bzrlib.smart.server
 
806
        self._preserved_hooks = {
 
807
            bzrlib.branch.Branch: bzrlib.branch.Branch.hooks,
 
808
            bzrlib.mutabletree.MutableTree: bzrlib.mutabletree.MutableTree.hooks,
 
809
            bzrlib.smart.client._SmartClient: bzrlib.smart.client._SmartClient.hooks,
 
810
            bzrlib.smart.server.SmartTCPServer: bzrlib.smart.server.SmartTCPServer.hooks,
 
811
            }
 
812
        self.addCleanup(self._restoreHooks)
 
813
        # reset all hooks to an empty instance of the appropriate type
 
814
        bzrlib.branch.Branch.hooks = bzrlib.branch.BranchHooks()
 
815
        bzrlib.smart.client._SmartClient.hooks = bzrlib.smart.client.SmartClientHooks()
 
816
        bzrlib.smart.server.SmartTCPServer.hooks = bzrlib.smart.server.SmartServerHooks()
 
817
 
 
818
    def _silenceUI(self):
 
819
        """Turn off UI for duration of test"""
 
820
        # by default the UI is off; tests can turn it on if they want it.
 
821
        saved = ui.ui_factory
 
822
        def _restore():
 
823
            ui.ui_factory = saved
 
824
        ui.ui_factory = ui.SilentUIFactory()
 
825
        self.addCleanup(_restore)
265
826
 
266
827
    def _ndiff_strings(self, a, b):
267
828
        """Return ndiff between two strings containing lines.
278
839
                                  charjunk=lambda x: False)
279
840
        return ''.join(difflines)
280
841
 
 
842
    def assertEqual(self, a, b, message=''):
 
843
        try:
 
844
            if a == b:
 
845
                return
 
846
        except UnicodeError, e:
 
847
            # If we can't compare without getting a UnicodeError, then
 
848
            # obviously they are different
 
849
            mutter('UnicodeError: %s', e)
 
850
        if message:
 
851
            message += '\n'
 
852
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
 
853
            % (message,
 
854
               pformat(a), pformat(b)))
 
855
 
 
856
    assertEquals = assertEqual
 
857
 
281
858
    def assertEqualDiff(self, a, b, message=None):
282
859
        """Assert two texts are equal, if not raise an exception.
283
860
        
289
866
            return
290
867
        if message is None:
291
868
            message = "texts not equal:\n"
292
 
        raise AssertionError(message + 
293
 
                             self._ndiff_strings(a, b))      
 
869
        if a == b + '\n':
 
870
            message = 'first string is missing a final newline.\n'
 
871
        if a + '\n' == b:
 
872
            message = 'second string is missing a final newline.\n'
 
873
        raise AssertionError(message +
 
874
                             self._ndiff_strings(a, b))
294
875
        
295
876
    def assertEqualMode(self, mode, mode_test):
296
877
        self.assertEqual(mode, mode_test,
297
878
                         'mode mismatch %o != %o' % (mode, mode_test))
298
879
 
 
880
    def assertEqualStat(self, expected, actual):
 
881
        """assert that expected and actual are the same stat result.
 
882
 
 
883
        :param expected: A stat result.
 
884
        :param actual: A stat result.
 
885
        :raises AssertionError: If the expected and actual stat values differ
 
886
            other than by atime.
 
887
        """
 
888
        self.assertEqual(expected.st_size, actual.st_size)
 
889
        self.assertEqual(expected.st_mtime, actual.st_mtime)
 
890
        self.assertEqual(expected.st_ctime, actual.st_ctime)
 
891
        self.assertEqual(expected.st_dev, actual.st_dev)
 
892
        self.assertEqual(expected.st_ino, actual.st_ino)
 
893
        self.assertEqual(expected.st_mode, actual.st_mode)
 
894
 
 
895
    def assertPositive(self, val):
 
896
        """Assert that val is greater than 0."""
 
897
        self.assertTrue(val > 0, 'expected a positive value, but got %s' % val)
 
898
 
 
899
    def assertNegative(self, val):
 
900
        """Assert that val is less than 0."""
 
901
        self.assertTrue(val < 0, 'expected a negative value, but got %s' % val)
 
902
 
299
903
    def assertStartsWith(self, s, prefix):
300
904
        if not s.startswith(prefix):
301
905
            raise AssertionError('string %r does not start with %r' % (s, prefix))
302
906
 
303
907
    def assertEndsWith(self, s, suffix):
304
 
        if not s.endswith(prefix):
 
908
        """Asserts that s ends with suffix."""
 
909
        if not s.endswith(suffix):
305
910
            raise AssertionError('string %r does not end with %r' % (s, suffix))
306
911
 
307
912
    def assertContainsRe(self, haystack, needle_re):
308
913
        """Assert that a contains something matching a regular expression."""
309
914
        if not re.search(needle_re, haystack):
310
 
            raise AssertionError('pattern "%s" not found in "%s"'
 
915
            if '\n' in haystack or len(haystack) > 60:
 
916
                # a long string, format it in a more readable way
 
917
                raise AssertionError(
 
918
                        'pattern "%s" not found in\n"""\\\n%s"""\n'
 
919
                        % (needle_re, haystack))
 
920
            else:
 
921
                raise AssertionError('pattern "%s" not found in "%s"'
 
922
                        % (needle_re, haystack))
 
923
 
 
924
    def assertNotContainsRe(self, haystack, needle_re):
 
925
        """Assert that a does not match a regular expression"""
 
926
        if re.search(needle_re, haystack):
 
927
            raise AssertionError('pattern "%s" found in "%s"'
311
928
                    % (needle_re, haystack))
312
929
 
313
930
    def assertSubset(self, sublist, superlist):
314
931
        """Assert that every entry in sublist is present in superlist."""
315
 
        missing = []
316
 
        for entry in sublist:
317
 
            if entry not in superlist:
318
 
                missing.append(entry)
 
932
        missing = set(sublist) - set(superlist)
319
933
        if len(missing) > 0:
320
 
            raise AssertionError("value(s) %r not present in container %r" % 
 
934
            raise AssertionError("value(s) %r not present in container %r" %
321
935
                                 (missing, superlist))
322
936
 
323
 
    def assertIs(self, left, right):
 
937
    def assertListRaises(self, excClass, func, *args, **kwargs):
 
938
        """Fail unless excClass is raised when the iterator from func is used.
 
939
        
 
940
        Many functions can return generators this makes sure
 
941
        to wrap them in a list() call to make sure the whole generator
 
942
        is run, and that the proper exception is raised.
 
943
        """
 
944
        try:
 
945
            list(func(*args, **kwargs))
 
946
        except excClass, e:
 
947
            return e
 
948
        else:
 
949
            if getattr(excClass,'__name__', None) is not None:
 
950
                excName = excClass.__name__
 
951
            else:
 
952
                excName = str(excClass)
 
953
            raise self.failureException, "%s not raised" % excName
 
954
 
 
955
    def assertRaises(self, excClass, callableObj, *args, **kwargs):
 
956
        """Assert that a callable raises a particular exception.
 
957
 
 
958
        :param excClass: As for the except statement, this may be either an
 
959
            exception class, or a tuple of classes.
 
960
        :param callableObj: A callable, will be passed ``*args`` and
 
961
            ``**kwargs``.
 
962
 
 
963
        Returns the exception so that you can examine it.
 
964
        """
 
965
        try:
 
966
            callableObj(*args, **kwargs)
 
967
        except excClass, e:
 
968
            return e
 
969
        else:
 
970
            if getattr(excClass,'__name__', None) is not None:
 
971
                excName = excClass.__name__
 
972
            else:
 
973
                # probably a tuple
 
974
                excName = str(excClass)
 
975
            raise self.failureException, "%s not raised" % excName
 
976
 
 
977
    def assertIs(self, left, right, message=None):
324
978
        if not (left is right):
325
 
            raise AssertionError("%r is not %r." % (left, right))
 
979
            if message is not None:
 
980
                raise AssertionError(message)
 
981
            else:
 
982
                raise AssertionError("%r is not %r." % (left, right))
 
983
 
 
984
    def assertIsNot(self, left, right, message=None):
 
985
        if (left is right):
 
986
            if message is not None:
 
987
                raise AssertionError(message)
 
988
            else:
 
989
                raise AssertionError("%r is %r." % (left, right))
326
990
 
327
991
    def assertTransportMode(self, transport, path, mode):
328
992
        """Fail if a path does not have mode mode.
329
993
        
330
 
        If modes are not supported on this platform, the test is skipped.
 
994
        If modes are not supported on this transport, the assertion is ignored.
331
995
        """
332
 
        if sys.platform == 'win32':
 
996
        if not transport._can_roundtrip_unix_modebits():
333
997
            return
334
998
        path_stat = transport.stat(path)
335
999
        actual_mode = stat.S_IMODE(path_stat.st_mode)
336
1000
        self.assertEqual(mode, actual_mode,
337
1001
            'mode of %r incorrect (%o != %o)' % (path, mode, actual_mode))
338
1002
 
 
1003
    def assertIsSameRealPath(self, path1, path2):
 
1004
        """Fail if path1 and path2 points to different files"""
 
1005
        self.assertEqual(osutils.realpath(path1),
 
1006
                         osutils.realpath(path2),
 
1007
                         "apparent paths:\na = %s\nb = %s\n," % (path1, path2))
 
1008
 
339
1009
    def assertIsInstance(self, obj, kls):
340
1010
        """Fail if obj is not an instance of kls"""
341
1011
        if not isinstance(obj, kls):
342
 
            self.fail("%r is not an instance of %s" % (obj, kls))
 
1012
            self.fail("%r is an instance of %s rather than %s" % (
 
1013
                obj, obj.__class__, kls))
 
1014
 
 
1015
    def expectFailure(self, reason, assertion, *args, **kwargs):
 
1016
        """Invoke a test, expecting it to fail for the given reason.
 
1017
 
 
1018
        This is for assertions that ought to succeed, but currently fail.
 
1019
        (The failure is *expected* but not *wanted*.)  Please be very precise
 
1020
        about the failure you're expecting.  If a new bug is introduced,
 
1021
        AssertionError should be raised, not KnownFailure.
 
1022
 
 
1023
        Frequently, expectFailure should be followed by an opposite assertion.
 
1024
        See example below.
 
1025
 
 
1026
        Intended to be used with a callable that raises AssertionError as the
 
1027
        'assertion' parameter.  args and kwargs are passed to the 'assertion'.
 
1028
 
 
1029
        Raises KnownFailure if the test fails.  Raises AssertionError if the
 
1030
        test succeeds.
 
1031
 
 
1032
        example usage::
 
1033
 
 
1034
          self.expectFailure('Math is broken', self.assertNotEqual, 54,
 
1035
                             dynamic_val)
 
1036
          self.assertEqual(42, dynamic_val)
 
1037
 
 
1038
          This means that a dynamic_val of 54 will cause the test to raise
 
1039
          a KnownFailure.  Once math is fixed and the expectFailure is removed,
 
1040
          only a dynamic_val of 42 will allow the test to pass.  Anything other
 
1041
          than 54 or 42 will cause an AssertionError.
 
1042
        """
 
1043
        try:
 
1044
            assertion(*args, **kwargs)
 
1045
        except AssertionError:
 
1046
            raise KnownFailure(reason)
 
1047
        else:
 
1048
            self.fail('Unexpected success.  Should have failed: %s' % reason)
 
1049
 
 
1050
    def assertFileEqual(self, content, path):
 
1051
        """Fail if path does not contain 'content'."""
 
1052
        self.failUnlessExists(path)
 
1053
        f = file(path, 'rb')
 
1054
        try:
 
1055
            s = f.read()
 
1056
        finally:
 
1057
            f.close()
 
1058
        self.assertEqualDiff(content, s)
 
1059
 
 
1060
    def failUnlessExists(self, path):
 
1061
        """Fail unless path or paths, which may be abs or relative, exist."""
 
1062
        if not isinstance(path, basestring):
 
1063
            for p in path:
 
1064
                self.failUnlessExists(p)
 
1065
        else:
 
1066
            self.failUnless(osutils.lexists(path),path+" does not exist")
 
1067
 
 
1068
    def failIfExists(self, path):
 
1069
        """Fail if path or paths, which may be abs or relative, exist."""
 
1070
        if not isinstance(path, basestring):
 
1071
            for p in path:
 
1072
                self.failIfExists(p)
 
1073
        else:
 
1074
            self.failIf(osutils.lexists(path),path+" exists")
 
1075
 
 
1076
    def _capture_deprecation_warnings(self, a_callable, *args, **kwargs):
 
1077
        """A helper for callDeprecated and applyDeprecated.
 
1078
 
 
1079
        :param a_callable: A callable to call.
 
1080
        :param args: The positional arguments for the callable
 
1081
        :param kwargs: The keyword arguments for the callable
 
1082
        :return: A tuple (warnings, result). result is the result of calling
 
1083
            a_callable(``*args``, ``**kwargs``).
 
1084
        """
 
1085
        local_warnings = []
 
1086
        def capture_warnings(msg, cls=None, stacklevel=None):
 
1087
            # we've hooked into a deprecation specific callpath,
 
1088
            # only deprecations should getting sent via it.
 
1089
            self.assertEqual(cls, DeprecationWarning)
 
1090
            local_warnings.append(msg)
 
1091
        original_warning_method = symbol_versioning.warn
 
1092
        symbol_versioning.set_warning_method(capture_warnings)
 
1093
        try:
 
1094
            result = a_callable(*args, **kwargs)
 
1095
        finally:
 
1096
            symbol_versioning.set_warning_method(original_warning_method)
 
1097
        return (local_warnings, result)
 
1098
 
 
1099
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
 
1100
        """Call a deprecated callable without warning the user.
 
1101
 
 
1102
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1103
        not other callers that go direct to the warning module.
 
1104
 
 
1105
        To test that a deprecated method raises an error, do something like
 
1106
        this::
 
1107
 
 
1108
            self.assertRaises(errors.ReservedId,
 
1109
                self.applyDeprecated,
 
1110
                deprecated_in((1, 5, 0)),
 
1111
                br.append_revision,
 
1112
                'current:')
 
1113
 
 
1114
        :param deprecation_format: The deprecation format that the callable
 
1115
            should have been deprecated with. This is the same type as the
 
1116
            parameter to deprecated_method/deprecated_function. If the
 
1117
            callable is not deprecated with this format, an assertion error
 
1118
            will be raised.
 
1119
        :param a_callable: A callable to call. This may be a bound method or
 
1120
            a regular function. It will be called with ``*args`` and
 
1121
            ``**kwargs``.
 
1122
        :param args: The positional arguments for the callable
 
1123
        :param kwargs: The keyword arguments for the callable
 
1124
        :return: The result of a_callable(``*args``, ``**kwargs``)
 
1125
        """
 
1126
        call_warnings, result = self._capture_deprecation_warnings(a_callable,
 
1127
            *args, **kwargs)
 
1128
        expected_first_warning = symbol_versioning.deprecation_string(
 
1129
            a_callable, deprecation_format)
 
1130
        if len(call_warnings) == 0:
 
1131
            self.fail("No deprecation warning generated by call to %s" %
 
1132
                a_callable)
 
1133
        self.assertEqual(expected_first_warning, call_warnings[0])
 
1134
        return result
 
1135
 
 
1136
    def callCatchWarnings(self, fn, *args, **kw):
 
1137
        """Call a callable that raises python warnings.
 
1138
 
 
1139
        The caller's responsible for examining the returned warnings.
 
1140
 
 
1141
        If the callable raises an exception, the exception is not
 
1142
        caught and propagates up to the caller.  In that case, the list
 
1143
        of warnings is not available.
 
1144
 
 
1145
        :returns: ([warning_object, ...], fn_result)
 
1146
        """
 
1147
        # XXX: This is not perfect, because it completely overrides the
 
1148
        # warnings filters, and some code may depend on suppressing particular
 
1149
        # warnings.  It's the easiest way to insulate ourselves from -Werror,
 
1150
        # though.  -- Andrew, 20071062
 
1151
        wlist = []
 
1152
        def _catcher(message, category, filename, lineno, file=None, line=None):
 
1153
            # despite the name, 'message' is normally(?) a Warning subclass
 
1154
            # instance
 
1155
            wlist.append(message)
 
1156
        saved_showwarning = warnings.showwarning
 
1157
        saved_filters = warnings.filters
 
1158
        try:
 
1159
            warnings.showwarning = _catcher
 
1160
            warnings.filters = []
 
1161
            result = fn(*args, **kw)
 
1162
        finally:
 
1163
            warnings.showwarning = saved_showwarning
 
1164
            warnings.filters = saved_filters
 
1165
        return wlist, result
 
1166
 
 
1167
    def callDeprecated(self, expected, callable, *args, **kwargs):
 
1168
        """Assert that a callable is deprecated in a particular way.
 
1169
 
 
1170
        This is a very precise test for unusual requirements. The 
 
1171
        applyDeprecated helper function is probably more suited for most tests
 
1172
        as it allows you to simply specify the deprecation format being used
 
1173
        and will ensure that that is issued for the function being called.
 
1174
 
 
1175
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1176
        not other callers that go direct to the warning module.  To catch
 
1177
        general warnings, use callCatchWarnings.
 
1178
 
 
1179
        :param expected: a list of the deprecation warnings expected, in order
 
1180
        :param callable: The callable to call
 
1181
        :param args: The positional arguments for the callable
 
1182
        :param kwargs: The keyword arguments for the callable
 
1183
        """
 
1184
        call_warnings, result = self._capture_deprecation_warnings(callable,
 
1185
            *args, **kwargs)
 
1186
        self.assertEqual(expected, call_warnings)
 
1187
        return result
343
1188
 
344
1189
    def _startLogFile(self):
345
1190
        """Send bzr and test log messages to a temporary file.
347
1192
        The file is removed as the test is torn down.
348
1193
        """
349
1194
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
350
 
        encoder, decoder, stream_reader, stream_writer = codecs.lookup('UTF-8')
351
 
        self._log_file = stream_writer(os.fdopen(fileno, 'w+'))
352
 
        self._log_nonce = bzrlib.trace.enable_test_log(self._log_file)
 
1195
        self._log_file = os.fdopen(fileno, 'w+')
 
1196
        self._log_memento = bzrlib.trace.push_log_file(self._log_file)
353
1197
        self._log_file_name = name
354
1198
        self.addCleanup(self._finishLogFile)
355
1199
 
356
1200
    def _finishLogFile(self):
357
1201
        """Finished with the log file.
358
1202
 
359
 
        Read contents into memory, close, and delete.
 
1203
        Close the file and delete it, unless setKeepLogfile was called.
360
1204
        """
361
 
        bzrlib.trace.disable_test_log(self._log_nonce)
362
 
        self._log_file.seek(0)
363
 
        self._log_contents = self._log_file.read()
 
1205
        if self._log_file is None:
 
1206
            return
 
1207
        bzrlib.trace.pop_log_file(self._log_memento)
364
1208
        self._log_file.close()
365
 
        os.remove(self._log_file_name)
366
 
        self._log_file = self._log_file_name = None
367
 
 
368
 
    def addCleanup(self, callable):
 
1209
        self._log_file = None
 
1210
        if not self._keep_log_file:
 
1211
            os.remove(self._log_file_name)
 
1212
            self._log_file_name = None
 
1213
 
 
1214
    def setKeepLogfile(self):
 
1215
        """Make the logfile not be deleted when _finishLogFile is called."""
 
1216
        self._keep_log_file = True
 
1217
 
 
1218
    def addCleanup(self, callable, *args, **kwargs):
369
1219
        """Arrange to run a callable when this case is torn down.
370
1220
 
371
1221
        Callables are run in the reverse of the order they are registered, 
372
1222
        ie last-in first-out.
373
1223
        """
374
 
        if callable in self._cleanups:
375
 
            raise ValueError("cleanup function %r already registered on %s" 
376
 
                    % (callable, self))
377
 
        self._cleanups.append(callable)
 
1224
        self._cleanups.append((callable, args, kwargs))
378
1225
 
379
1226
    def _cleanEnvironment(self):
380
1227
        new_env = {
 
1228
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
381
1229
            'HOME': os.getcwd(),
382
 
            'APPDATA': os.getcwd(),
383
 
            'BZREMAIL': None,
 
1230
            # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
 
1231
            # tests do check our impls match APPDATA
 
1232
            'BZR_EDITOR': None, # test_msgeditor manipulates this variable
 
1233
            'BZR_EMAIL': None,
 
1234
            'BZREMAIL': None, # may still be present in the environment
384
1235
            'EMAIL': None,
 
1236
            'BZR_PROGRESS_BAR': None,
 
1237
            'BZR_LOG': None,
 
1238
            # SSH Agent
 
1239
            'SSH_AUTH_SOCK': None,
 
1240
            # Proxies
 
1241
            'http_proxy': None,
 
1242
            'HTTP_PROXY': None,
 
1243
            'https_proxy': None,
 
1244
            'HTTPS_PROXY': None,
 
1245
            'no_proxy': None,
 
1246
            'NO_PROXY': None,
 
1247
            'all_proxy': None,
 
1248
            'ALL_PROXY': None,
 
1249
            # Nobody cares about these ones AFAIK. So far at
 
1250
            # least. If you do (care), please update this comment
 
1251
            # -- vila 20061212
 
1252
            'ftp_proxy': None,
 
1253
            'FTP_PROXY': None,
 
1254
            'BZR_REMOTE_PATH': None,
385
1255
        }
386
1256
        self.__old_env = {}
387
1257
        self.addCleanup(self._restoreEnvironment)
388
1258
        for name, value in new_env.iteritems():
389
1259
            self._captureVar(name, value)
390
1260
 
391
 
 
392
1261
    def _captureVar(self, name, newvalue):
393
 
        """Set an environment variable, preparing it to be reset when finished."""
394
 
        self.__old_env[name] = os.environ.get(name, None)
395
 
        if newvalue is None:
396
 
            if name in os.environ:
397
 
                del os.environ[name]
398
 
        else:
399
 
            os.environ[name] = newvalue
 
1262
        """Set an environment variable, and reset it when finished."""
 
1263
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
400
1264
 
401
 
    @staticmethod
402
 
    def _restoreVar(name, value):
403
 
        if value is None:
404
 
            if name in os.environ:
405
 
                del os.environ[name]
406
 
        else:
407
 
            os.environ[name] = value
 
1265
    def _restore_debug_flags(self):
 
1266
        debug.debug_flags.clear()
 
1267
        debug.debug_flags.update(self._preserved_debug_flags)
408
1268
 
409
1269
    def _restoreEnvironment(self):
410
1270
        for name, value in self.__old_env.iteritems():
411
 
            self._restoreVar(name, value)
 
1271
            osutils.set_or_unset_env(name, value)
 
1272
 
 
1273
    def _restoreHooks(self):
 
1274
        for klass, hooks in self._preserved_hooks.items():
 
1275
            setattr(klass, 'hooks', hooks)
 
1276
 
 
1277
    def knownFailure(self, reason):
 
1278
        """This test has failed for some known reason."""
 
1279
        raise KnownFailure(reason)
 
1280
 
 
1281
    def run(self, result=None):
 
1282
        if result is None: result = self.defaultTestResult()
 
1283
        for feature in getattr(self, '_test_needs_features', []):
 
1284
            if not feature.available():
 
1285
                result.startTest(self)
 
1286
                if getattr(result, 'addNotSupported', None):
 
1287
                    result.addNotSupported(self, feature)
 
1288
                else:
 
1289
                    result.addSuccess(self)
 
1290
                result.stopTest(self)
 
1291
                return
 
1292
        try:
 
1293
            return unittest.TestCase.run(self, result)
 
1294
        finally:
 
1295
            saved_attrs = {}
 
1296
            absent_attr = object()
 
1297
            for attr_name in self.attrs_to_keep:
 
1298
                attr = getattr(self, attr_name, absent_attr)
 
1299
                if attr is not absent_attr:
 
1300
                    saved_attrs[attr_name] = attr
 
1301
            self.__dict__ = saved_attrs
412
1302
 
413
1303
    def tearDown(self):
414
1304
        self._runCleanups()
415
1305
        unittest.TestCase.tearDown(self)
416
1306
 
 
1307
    def time(self, callable, *args, **kwargs):
 
1308
        """Run callable and accrue the time it takes to the benchmark time.
 
1309
        
 
1310
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
 
1311
        this will cause lsprofile statistics to be gathered and stored in
 
1312
        self._benchcalls.
 
1313
        """
 
1314
        if self._benchtime is None:
 
1315
            self._benchtime = 0
 
1316
        start = time.time()
 
1317
        try:
 
1318
            if not self._gather_lsprof_in_benchmarks:
 
1319
                return callable(*args, **kwargs)
 
1320
            else:
 
1321
                # record this benchmark
 
1322
                ret, stats = bzrlib.lsprof.profile(callable, *args, **kwargs)
 
1323
                stats.sort()
 
1324
                self._benchcalls.append(((callable, args, kwargs), stats))
 
1325
                return ret
 
1326
        finally:
 
1327
            self._benchtime += time.time() - start
 
1328
 
417
1329
    def _runCleanups(self):
418
1330
        """Run registered cleanup functions. 
419
1331
 
421
1333
        """
422
1334
        # TODO: Perhaps this should keep running cleanups even if 
423
1335
        # one of them fails?
424
 
        for cleanup_fn in reversed(self._cleanups):
425
 
            cleanup_fn()
 
1336
 
 
1337
        # Actually pop the cleanups from the list so tearDown running
 
1338
        # twice is safe (this happens for skipped tests).
 
1339
        while self._cleanups:
 
1340
            cleanup, args, kwargs = self._cleanups.pop()
 
1341
            cleanup(*args, **kwargs)
426
1342
 
427
1343
    def log(self, *args):
428
1344
        mutter(*args)
429
1345
 
430
 
    def _get_log(self):
431
 
        """Return as a string the log for this test"""
432
 
        if self._log_file_name:
433
 
            return open(self._log_file_name).read()
434
 
        else:
 
1346
    def _get_log(self, keep_log_file=False):
 
1347
        """Get the log from bzrlib.trace calls from this test.
 
1348
 
 
1349
        :param keep_log_file: When True, if the log is still a file on disk
 
1350
            leave it as a file on disk. When False, if the log is still a file
 
1351
            on disk, the log file is deleted and the log preserved as
 
1352
            self._log_contents.
 
1353
        :return: A string containing the log.
 
1354
        """
 
1355
        # flush the log file, to get all content
 
1356
        import bzrlib.trace
 
1357
        bzrlib.trace._trace_file.flush()
 
1358
        if self._log_contents:
 
1359
            # XXX: this can hardly contain the content flushed above --vila
 
1360
            # 20080128
435
1361
            return self._log_contents
436
 
        # TODO: Delete the log after it's been read in
437
 
 
438
 
    def capture(self, cmd, retcode=0):
439
 
        """Shortcut that splits cmd into words, runs, and returns stdout"""
440
 
        return self.run_bzr_captured(cmd.split(), retcode=retcode)[0]
441
 
 
442
 
    def run_bzr_captured(self, argv, retcode=0):
443
 
        """Invoke bzr and return (stdout, stderr).
444
 
 
445
 
        Useful for code that wants to check the contents of the
446
 
        output, the way error messages are presented, etc.
447
 
 
448
 
        This should be the main method for tests that want to exercise the
449
 
        overall behavior of the bzr application (rather than a unit test
450
 
        or a functional test of the library.)
451
 
 
452
 
        Much of the old code runs bzr by forking a new copy of Python, but
453
 
        that is slower, harder to debug, and generally not necessary.
454
 
 
455
 
        This runs bzr through the interface that catches and reports
456
 
        errors, and with logging set to something approximating the
457
 
        default, so that error reporting can be checked.
458
 
 
459
 
        argv -- arguments to invoke bzr
460
 
        retcode -- expected return code, or None for don't-care.
 
1362
        if self._log_file_name is not None:
 
1363
            logfile = open(self._log_file_name)
 
1364
            try:
 
1365
                log_contents = logfile.read()
 
1366
            finally:
 
1367
                logfile.close()
 
1368
            if not keep_log_file:
 
1369
                self._log_contents = log_contents
 
1370
                try:
 
1371
                    os.remove(self._log_file_name)
 
1372
                except OSError, e:
 
1373
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
 
1374
                        sys.stderr.write(('Unable to delete log file '
 
1375
                                             ' %r\n' % self._log_file_name))
 
1376
                    else:
 
1377
                        raise
 
1378
            return log_contents
 
1379
        else:
 
1380
            return "DELETED log file to reduce memory footprint"
 
1381
 
 
1382
    def requireFeature(self, feature):
 
1383
        """This test requires a specific feature is available.
 
1384
 
 
1385
        :raises UnavailableFeature: When feature is not available.
461
1386
        """
462
 
        stdout = StringIO()
463
 
        stderr = StringIO()
464
 
        self.log('run bzr: %s', ' '.join(argv))
 
1387
        if not feature.available():
 
1388
            raise UnavailableFeature(feature)
 
1389
 
 
1390
    def _run_bzr_autosplit(self, args, retcode, encoding, stdin,
 
1391
            working_dir):
 
1392
        """Run bazaar command line, splitting up a string command line."""
 
1393
        if isinstance(args, basestring):
 
1394
            # shlex don't understand unicode strings,
 
1395
            # so args should be plain string (bialix 20070906)
 
1396
            args = list(shlex.split(str(args)))
 
1397
        return self._run_bzr_core(args, retcode=retcode,
 
1398
                encoding=encoding, stdin=stdin, working_dir=working_dir,
 
1399
                )
 
1400
 
 
1401
    def _run_bzr_core(self, args, retcode, encoding, stdin,
 
1402
            working_dir):
 
1403
        if encoding is None:
 
1404
            encoding = osutils.get_user_encoding()
 
1405
        stdout = StringIOWrapper()
 
1406
        stderr = StringIOWrapper()
 
1407
        stdout.encoding = encoding
 
1408
        stderr.encoding = encoding
 
1409
 
 
1410
        self.log('run bzr: %r', args)
465
1411
        # FIXME: don't call into logging here
466
1412
        handler = logging.StreamHandler(stderr)
467
 
        handler.setFormatter(bzrlib.trace.QuietFormatter())
468
1413
        handler.setLevel(logging.INFO)
469
1414
        logger = logging.getLogger('')
470
1415
        logger.addHandler(handler)
 
1416
        old_ui_factory = ui.ui_factory
 
1417
        ui.ui_factory = TestUIFactory(stdin=stdin, stdout=stdout, stderr=stderr)
 
1418
 
 
1419
        cwd = None
 
1420
        if working_dir is not None:
 
1421
            cwd = osutils.getcwd()
 
1422
            os.chdir(working_dir)
 
1423
 
471
1424
        try:
472
 
            result = self.apply_redirected(None, stdout, stderr,
473
 
                                           bzrlib.commands.run_bzr_catch_errors,
474
 
                                           argv)
 
1425
            result = self.apply_redirected(ui.ui_factory.stdin,
 
1426
                stdout, stderr,
 
1427
                bzrlib.commands.run_bzr_catch_user_errors,
 
1428
                args)
475
1429
        finally:
476
1430
            logger.removeHandler(handler)
 
1431
            ui.ui_factory = old_ui_factory
 
1432
            if cwd is not None:
 
1433
                os.chdir(cwd)
 
1434
 
477
1435
        out = stdout.getvalue()
478
1436
        err = stderr.getvalue()
479
1437
        if out:
480
 
            self.log('output:\n%s', out)
 
1438
            self.log('output:\n%r', out)
481
1439
        if err:
482
 
            self.log('errors:\n%s', err)
 
1440
            self.log('errors:\n%r', err)
483
1441
        if retcode is not None:
484
 
            self.assertEquals(result, retcode)
 
1442
            self.assertEquals(retcode, result,
 
1443
                              message='Unexpected return code')
485
1444
        return out, err
486
1445
 
487
 
    def run_bzr(self, *args, **kwargs):
 
1446
    def run_bzr(self, args, retcode=0, encoding=None, stdin=None,
 
1447
                working_dir=None, error_regexes=[], output_encoding=None):
488
1448
        """Invoke bzr, as if it were run from the command line.
489
1449
 
 
1450
        The argument list should not include the bzr program name - the
 
1451
        first argument is normally the bzr command.  Arguments may be
 
1452
        passed in three ways:
 
1453
 
 
1454
        1- A list of strings, eg ["commit", "a"].  This is recommended
 
1455
        when the command contains whitespace or metacharacters, or 
 
1456
        is built up at run time.
 
1457
 
 
1458
        2- A single string, eg "add a".  This is the most convenient 
 
1459
        for hardcoded commands.
 
1460
 
 
1461
        This runs bzr through the interface that catches and reports
 
1462
        errors, and with logging set to something approximating the
 
1463
        default, so that error reporting can be checked.
 
1464
 
490
1465
        This should be the main method for tests that want to exercise the
491
1466
        overall behavior of the bzr application (rather than a unit test
492
1467
        or a functional test of the library.)
493
1468
 
494
1469
        This sends the stdout/stderr results into the test's log,
495
1470
        where it may be useful for debugging.  See also run_captured.
496
 
        """
497
 
        retcode = kwargs.pop('retcode', 0)
498
 
        return self.run_bzr_captured(args, retcode)
 
1471
 
 
1472
        :keyword stdin: A string to be used as stdin for the command.
 
1473
        :keyword retcode: The status code the command should return;
 
1474
            default 0.
 
1475
        :keyword working_dir: The directory to run the command in
 
1476
        :keyword error_regexes: A list of expected error messages.  If
 
1477
            specified they must be seen in the error output of the command.
 
1478
        """
 
1479
        out, err = self._run_bzr_autosplit(
 
1480
            args=args,
 
1481
            retcode=retcode,
 
1482
            encoding=encoding,
 
1483
            stdin=stdin,
 
1484
            working_dir=working_dir,
 
1485
            )
 
1486
        for regex in error_regexes:
 
1487
            self.assertContainsRe(err, regex)
 
1488
        return out, err
 
1489
 
 
1490
    def run_bzr_error(self, error_regexes, *args, **kwargs):
 
1491
        """Run bzr, and check that stderr contains the supplied regexes
 
1492
 
 
1493
        :param error_regexes: Sequence of regular expressions which
 
1494
            must each be found in the error output. The relative ordering
 
1495
            is not enforced.
 
1496
        :param args: command-line arguments for bzr
 
1497
        :param kwargs: Keyword arguments which are interpreted by run_bzr
 
1498
            This function changes the default value of retcode to be 3,
 
1499
            since in most cases this is run when you expect bzr to fail.
 
1500
 
 
1501
        :return: (out, err) The actual output of running the command (in case
 
1502
            you want to do more inspection)
 
1503
 
 
1504
        Examples of use::
 
1505
 
 
1506
            # Make sure that commit is failing because there is nothing to do
 
1507
            self.run_bzr_error(['no changes to commit'],
 
1508
                               ['commit', '-m', 'my commit comment'])
 
1509
            # Make sure --strict is handling an unknown file, rather than
 
1510
            # giving us the 'nothing to do' error
 
1511
            self.build_tree(['unknown'])
 
1512
            self.run_bzr_error(['Commit refused because there are unknown files'],
 
1513
                               ['commit', --strict', '-m', 'my commit comment'])
 
1514
        """
 
1515
        kwargs.setdefault('retcode', 3)
 
1516
        kwargs['error_regexes'] = error_regexes
 
1517
        out, err = self.run_bzr(*args, **kwargs)
 
1518
        return out, err
 
1519
 
 
1520
    def run_bzr_subprocess(self, *args, **kwargs):
 
1521
        """Run bzr in a subprocess for testing.
 
1522
 
 
1523
        This starts a new Python interpreter and runs bzr in there. 
 
1524
        This should only be used for tests that have a justifiable need for
 
1525
        this isolation: e.g. they are testing startup time, or signal
 
1526
        handling, or early startup code, etc.  Subprocess code can't be 
 
1527
        profiled or debugged so easily.
 
1528
 
 
1529
        :keyword retcode: The status code that is expected.  Defaults to 0.  If
 
1530
            None is supplied, the status code is not checked.
 
1531
        :keyword env_changes: A dictionary which lists changes to environment
 
1532
            variables. A value of None will unset the env variable.
 
1533
            The values must be strings. The change will only occur in the
 
1534
            child, so you don't need to fix the environment after running.
 
1535
        :keyword universal_newlines: Convert CRLF => LF
 
1536
        :keyword allow_plugins: By default the subprocess is run with
 
1537
            --no-plugins to ensure test reproducibility. Also, it is possible
 
1538
            for system-wide plugins to create unexpected output on stderr,
 
1539
            which can cause unnecessary test failures.
 
1540
        """
 
1541
        env_changes = kwargs.get('env_changes', {})
 
1542
        working_dir = kwargs.get('working_dir', None)
 
1543
        allow_plugins = kwargs.get('allow_plugins', False)
 
1544
        if len(args) == 1:
 
1545
            if isinstance(args[0], list):
 
1546
                args = args[0]
 
1547
            elif isinstance(args[0], basestring):
 
1548
                args = list(shlex.split(args[0]))
 
1549
        else:
 
1550
            raise ValueError("passing varargs to run_bzr_subprocess")
 
1551
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
 
1552
                                            working_dir=working_dir,
 
1553
                                            allow_plugins=allow_plugins)
 
1554
        # We distinguish between retcode=None and retcode not passed.
 
1555
        supplied_retcode = kwargs.get('retcode', 0)
 
1556
        return self.finish_bzr_subprocess(process, retcode=supplied_retcode,
 
1557
            universal_newlines=kwargs.get('universal_newlines', False),
 
1558
            process_args=args)
 
1559
 
 
1560
    def start_bzr_subprocess(self, process_args, env_changes=None,
 
1561
                             skip_if_plan_to_signal=False,
 
1562
                             working_dir=None,
 
1563
                             allow_plugins=False):
 
1564
        """Start bzr in a subprocess for testing.
 
1565
 
 
1566
        This starts a new Python interpreter and runs bzr in there.
 
1567
        This should only be used for tests that have a justifiable need for
 
1568
        this isolation: e.g. they are testing startup time, or signal
 
1569
        handling, or early startup code, etc.  Subprocess code can't be
 
1570
        profiled or debugged so easily.
 
1571
 
 
1572
        :param process_args: a list of arguments to pass to the bzr executable,
 
1573
            for example ``['--version']``.
 
1574
        :param env_changes: A dictionary which lists changes to environment
 
1575
            variables. A value of None will unset the env variable.
 
1576
            The values must be strings. The change will only occur in the
 
1577
            child, so you don't need to fix the environment after running.
 
1578
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
 
1579
            is not available.
 
1580
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
1581
 
 
1582
        :returns: Popen object for the started process.
 
1583
        """
 
1584
        if skip_if_plan_to_signal:
 
1585
            if not getattr(os, 'kill', None):
 
1586
                raise TestSkipped("os.kill not available.")
 
1587
 
 
1588
        if env_changes is None:
 
1589
            env_changes = {}
 
1590
        old_env = {}
 
1591
 
 
1592
        def cleanup_environment():
 
1593
            for env_var, value in env_changes.iteritems():
 
1594
                old_env[env_var] = osutils.set_or_unset_env(env_var, value)
 
1595
 
 
1596
        def restore_environment():
 
1597
            for env_var, value in old_env.iteritems():
 
1598
                osutils.set_or_unset_env(env_var, value)
 
1599
 
 
1600
        bzr_path = self.get_bzr_path()
 
1601
 
 
1602
        cwd = None
 
1603
        if working_dir is not None:
 
1604
            cwd = osutils.getcwd()
 
1605
            os.chdir(working_dir)
 
1606
 
 
1607
        try:
 
1608
            # win32 subprocess doesn't support preexec_fn
 
1609
            # so we will avoid using it on all platforms, just to
 
1610
            # make sure the code path is used, and we don't break on win32
 
1611
            cleanup_environment()
 
1612
            command = [sys.executable]
 
1613
            # frozen executables don't need the path to bzr
 
1614
            if getattr(sys, "frozen", None) is None:
 
1615
                command.append(bzr_path)
 
1616
            if not allow_plugins:
 
1617
                command.append('--no-plugins')
 
1618
            command.extend(process_args)
 
1619
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
1620
        finally:
 
1621
            restore_environment()
 
1622
            if cwd is not None:
 
1623
                os.chdir(cwd)
 
1624
 
 
1625
        return process
 
1626
 
 
1627
    def _popen(self, *args, **kwargs):
 
1628
        """Place a call to Popen.
 
1629
 
 
1630
        Allows tests to override this method to intercept the calls made to
 
1631
        Popen for introspection.
 
1632
        """
 
1633
        return Popen(*args, **kwargs)
 
1634
 
 
1635
    def get_bzr_path(self):
 
1636
        """Return the path of the 'bzr' executable for this test suite."""
 
1637
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
1638
        if not os.path.isfile(bzr_path):
 
1639
            # We are probably installed. Assume sys.argv is the right file
 
1640
            bzr_path = sys.argv[0]
 
1641
        return bzr_path
 
1642
 
 
1643
    def finish_bzr_subprocess(self, process, retcode=0, send_signal=None,
 
1644
                              universal_newlines=False, process_args=None):
 
1645
        """Finish the execution of process.
 
1646
 
 
1647
        :param process: the Popen object returned from start_bzr_subprocess.
 
1648
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
1649
            None is supplied, the status code is not checked.
 
1650
        :param send_signal: an optional signal to send to the process.
 
1651
        :param universal_newlines: Convert CRLF => LF
 
1652
        :returns: (stdout, stderr)
 
1653
        """
 
1654
        if send_signal is not None:
 
1655
            os.kill(process.pid, send_signal)
 
1656
        out, err = process.communicate()
 
1657
 
 
1658
        if universal_newlines:
 
1659
            out = out.replace('\r\n', '\n')
 
1660
            err = err.replace('\r\n', '\n')
 
1661
 
 
1662
        if retcode is not None and retcode != process.returncode:
 
1663
            if process_args is None:
 
1664
                process_args = "(unknown args)"
 
1665
            mutter('Output of bzr %s:\n%s', process_args, out)
 
1666
            mutter('Error for bzr %s:\n%s', process_args, err)
 
1667
            self.fail('Command bzr %s failed with retcode %s != %s'
 
1668
                      % (process_args, retcode, process.returncode))
 
1669
        return [out, err]
499
1670
 
500
1671
    def check_inventory_shape(self, inv, shape):
501
1672
        """Compare an inventory to a list of expected names.
506
1677
        shape = list(shape)             # copy
507
1678
        for path, ie in inv.entries():
508
1679
            name = path.replace('\\', '/')
509
 
            if ie.kind == 'dir':
 
1680
            if ie.kind == 'directory':
510
1681
                name = name + '/'
511
1682
            if name in shape:
512
1683
                shape.remove(name)
549
1720
            sys.stderr = real_stderr
550
1721
            sys.stdin = real_stdin
551
1722
 
552
 
 
553
 
BzrTestBase = TestCase
 
1723
    def reduceLockdirTimeout(self):
 
1724
        """Reduce the default lock timeout for the duration of the test, so that
 
1725
        if LockContention occurs during a test, it does so quickly.
 
1726
 
 
1727
        Tests that expect to provoke LockContention errors should call this.
 
1728
        """
 
1729
        orig_timeout = bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS
 
1730
        def resetTimeout():
 
1731
            bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = orig_timeout
 
1732
        self.addCleanup(resetTimeout)
 
1733
        bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = 0
 
1734
 
 
1735
    def make_utf8_encoded_stringio(self, encoding_type=None):
 
1736
        """Return a StringIOWrapper instance, that will encode Unicode
 
1737
        input to UTF-8.
 
1738
        """
 
1739
        if encoding_type is None:
 
1740
            encoding_type = 'strict'
 
1741
        sio = StringIO()
 
1742
        output_encoding = 'utf-8'
 
1743
        sio = codecs.getwriter(output_encoding)(sio, errors=encoding_type)
 
1744
        sio.encoding = output_encoding
 
1745
        return sio
 
1746
 
 
1747
 
 
1748
class TestCaseWithMemoryTransport(TestCase):
 
1749
    """Common test class for tests that do not need disk resources.
 
1750
 
 
1751
    Tests that need disk resources should derive from TestCaseWithTransport.
 
1752
 
 
1753
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
 
1754
 
 
1755
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
1756
    a directory which does not exist. This serves to help ensure test isolation
 
1757
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
 
1758
    must exist. However, TestCaseWithMemoryTransport does not offer local
 
1759
    file defaults for the transport in tests, nor does it obey the command line
 
1760
    override, so tests that accidentally write to the common directory should
 
1761
    be rare.
 
1762
 
 
1763
    :cvar TEST_ROOT: Directory containing all temporary directories, plus
 
1764
    a .bzr directory that stops us ascending higher into the filesystem.
 
1765
    """
 
1766
 
 
1767
    TEST_ROOT = None
 
1768
    _TEST_NAME = 'test'
 
1769
 
 
1770
    def __init__(self, methodName='runTest'):
 
1771
        # allow test parameterization after test construction and before test
 
1772
        # execution. Variables that the parameterizer sets need to be 
 
1773
        # ones that are not set by setUp, or setUp will trash them.
 
1774
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
 
1775
        self.vfs_transport_factory = default_transport
 
1776
        self.transport_server = None
 
1777
        self.transport_readonly_server = None
 
1778
        self.__vfs_server = None
 
1779
 
 
1780
    def get_transport(self, relpath=None):
 
1781
        """Return a writeable transport.
 
1782
 
 
1783
        This transport is for the test scratch space relative to
 
1784
        "self._test_root"
 
1785
        
 
1786
        :param relpath: a path relative to the base url.
 
1787
        """
 
1788
        t = get_transport(self.get_url(relpath))
 
1789
        self.assertFalse(t.is_readonly())
 
1790
        return t
 
1791
 
 
1792
    def get_readonly_transport(self, relpath=None):
 
1793
        """Return a readonly transport for the test scratch space
 
1794
        
 
1795
        This can be used to test that operations which should only need
 
1796
        readonly access in fact do not try to write.
 
1797
 
 
1798
        :param relpath: a path relative to the base url.
 
1799
        """
 
1800
        t = get_transport(self.get_readonly_url(relpath))
 
1801
        self.assertTrue(t.is_readonly())
 
1802
        return t
 
1803
 
 
1804
    def create_transport_readonly_server(self):
 
1805
        """Create a transport server from class defined at init.
 
1806
 
 
1807
        This is mostly a hook for daughter classes.
 
1808
        """
 
1809
        return self.transport_readonly_server()
 
1810
 
 
1811
    def get_readonly_server(self):
 
1812
        """Get the server instance for the readonly transport
 
1813
 
 
1814
        This is useful for some tests with specific servers to do diagnostics.
 
1815
        """
 
1816
        if self.__readonly_server is None:
 
1817
            if self.transport_readonly_server is None:
 
1818
                # readonly decorator requested
 
1819
                # bring up the server
 
1820
                self.__readonly_server = ReadonlyServer()
 
1821
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1822
            else:
 
1823
                self.__readonly_server = self.create_transport_readonly_server()
 
1824
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1825
            self.addCleanup(self.__readonly_server.tearDown)
 
1826
        return self.__readonly_server
 
1827
 
 
1828
    def get_readonly_url(self, relpath=None):
 
1829
        """Get a URL for the readonly transport.
 
1830
 
 
1831
        This will either be backed by '.' or a decorator to the transport 
 
1832
        used by self.get_url()
 
1833
        relpath provides for clients to get a path relative to the base url.
 
1834
        These should only be downwards relative, not upwards.
 
1835
        """
 
1836
        base = self.get_readonly_server().get_url()
 
1837
        return self._adjust_url(base, relpath)
 
1838
 
 
1839
    def get_vfs_only_server(self):
 
1840
        """Get the vfs only read/write server instance.
 
1841
 
 
1842
        This is useful for some tests with specific servers that need
 
1843
        diagnostics.
 
1844
 
 
1845
        For TestCaseWithMemoryTransport this is always a MemoryServer, and there
 
1846
        is no means to override it.
 
1847
        """
 
1848
        if self.__vfs_server is None:
 
1849
            self.__vfs_server = MemoryServer()
 
1850
            self.__vfs_server.setUp()
 
1851
            self.addCleanup(self.__vfs_server.tearDown)
 
1852
        return self.__vfs_server
 
1853
 
 
1854
    def get_server(self):
 
1855
        """Get the read/write server instance.
 
1856
 
 
1857
        This is useful for some tests with specific servers that need
 
1858
        diagnostics.
 
1859
 
 
1860
        This is built from the self.transport_server factory. If that is None,
 
1861
        then the self.get_vfs_server is returned.
 
1862
        """
 
1863
        if self.__server is None:
 
1864
            if self.transport_server is None or self.transport_server is self.vfs_transport_factory:
 
1865
                return self.get_vfs_only_server()
 
1866
            else:
 
1867
                # bring up a decorated means of access to the vfs only server.
 
1868
                self.__server = self.transport_server()
 
1869
                try:
 
1870
                    self.__server.setUp(self.get_vfs_only_server())
 
1871
                except TypeError, e:
 
1872
                    # This should never happen; the try:Except here is to assist
 
1873
                    # developers having to update code rather than seeing an
 
1874
                    # uninformative TypeError.
 
1875
                    raise Exception, "Old server API in use: %s, %s" % (self.__server, e)
 
1876
            self.addCleanup(self.__server.tearDown)
 
1877
        return self.__server
 
1878
 
 
1879
    def _adjust_url(self, base, relpath):
 
1880
        """Get a URL (or maybe a path) for the readwrite transport.
 
1881
 
 
1882
        This will either be backed by '.' or to an equivalent non-file based
 
1883
        facility.
 
1884
        relpath provides for clients to get a path relative to the base url.
 
1885
        These should only be downwards relative, not upwards.
 
1886
        """
 
1887
        if relpath is not None and relpath != '.':
 
1888
            if not base.endswith('/'):
 
1889
                base = base + '/'
 
1890
            # XXX: Really base should be a url; we did after all call
 
1891
            # get_url()!  But sometimes it's just a path (from
 
1892
            # LocalAbspathServer), and it'd be wrong to append urlescaped data
 
1893
            # to a non-escaped local path.
 
1894
            if base.startswith('./') or base.startswith('/'):
 
1895
                base += relpath
 
1896
            else:
 
1897
                base += urlutils.escape(relpath)
 
1898
        return base
 
1899
 
 
1900
    def get_url(self, relpath=None):
 
1901
        """Get a URL (or maybe a path) for the readwrite transport.
 
1902
 
 
1903
        This will either be backed by '.' or to an equivalent non-file based
 
1904
        facility.
 
1905
        relpath provides for clients to get a path relative to the base url.
 
1906
        These should only be downwards relative, not upwards.
 
1907
        """
 
1908
        base = self.get_server().get_url()
 
1909
        return self._adjust_url(base, relpath)
 
1910
 
 
1911
    def get_vfs_only_url(self, relpath=None):
 
1912
        """Get a URL (or maybe a path for the plain old vfs transport.
 
1913
 
 
1914
        This will never be a smart protocol.  It always has all the
 
1915
        capabilities of the local filesystem, but it might actually be a
 
1916
        MemoryTransport or some other similar virtual filesystem.
 
1917
 
 
1918
        This is the backing transport (if any) of the server returned by
 
1919
        get_url and get_readonly_url.
 
1920
 
 
1921
        :param relpath: provides for clients to get a path relative to the base
 
1922
            url.  These should only be downwards relative, not upwards.
 
1923
        :return: A URL
 
1924
        """
 
1925
        base = self.get_vfs_only_server().get_url()
 
1926
        return self._adjust_url(base, relpath)
 
1927
 
 
1928
    def _create_safety_net(self):
 
1929
        """Make a fake bzr directory.
 
1930
 
 
1931
        This prevents any tests propagating up onto the TEST_ROOT directory's
 
1932
        real branch.
 
1933
        """
 
1934
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
1935
        bzrdir.BzrDir.create_standalone_workingtree(root)
 
1936
 
 
1937
    def _check_safety_net(self):
 
1938
        """Check that the safety .bzr directory have not been touched.
 
1939
 
 
1940
        _make_test_root have created a .bzr directory to prevent tests from
 
1941
        propagating. This method ensures than a test did not leaked.
 
1942
        """
 
1943
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
1944
        wt = workingtree.WorkingTree.open(root)
 
1945
        last_rev = wt.last_revision()
 
1946
        if last_rev != 'null:':
 
1947
            # The current test have modified the /bzr directory, we need to
 
1948
            # recreate a new one or all the followng tests will fail.
 
1949
            # If you need to inspect its content uncomment the following line
 
1950
            # import pdb; pdb.set_trace()
 
1951
            _rmtree_temp_dir(root + '/.bzr')
 
1952
            self._create_safety_net()
 
1953
            raise AssertionError('%s/.bzr should not be modified' % root)
 
1954
 
 
1955
    def _make_test_root(self):
 
1956
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
 
1957
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
 
1958
            TestCaseWithMemoryTransport.TEST_ROOT = root
 
1959
 
 
1960
            self._create_safety_net()
 
1961
 
 
1962
            # The same directory is used by all tests, and we're not
 
1963
            # specifically told when all tests are finished.  This will do.
 
1964
            atexit.register(_rmtree_temp_dir, root)
 
1965
 
 
1966
        self.addCleanup(self._check_safety_net)
 
1967
 
 
1968
    def makeAndChdirToTestDir(self):
 
1969
        """Create a temporary directories for this one test.
 
1970
        
 
1971
        This must set self.test_home_dir and self.test_dir and chdir to
 
1972
        self.test_dir.
 
1973
        
 
1974
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
 
1975
        """
 
1976
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
1977
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
 
1978
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
 
1979
        
 
1980
    def make_branch(self, relpath, format=None):
 
1981
        """Create a branch on the transport at relpath."""
 
1982
        repo = self.make_repository(relpath, format=format)
 
1983
        return repo.bzrdir.create_branch()
 
1984
 
 
1985
    def make_bzrdir(self, relpath, format=None):
 
1986
        try:
 
1987
            # might be a relative or absolute path
 
1988
            maybe_a_url = self.get_url(relpath)
 
1989
            segments = maybe_a_url.rsplit('/', 1)
 
1990
            t = get_transport(maybe_a_url)
 
1991
            if len(segments) > 1 and segments[-1] not in ('', '.'):
 
1992
                t.ensure_base()
 
1993
            if format is None:
 
1994
                format = 'default'
 
1995
            if isinstance(format, basestring):
 
1996
                format = bzrdir.format_registry.make_bzrdir(format)
 
1997
            return format.initialize_on_transport(t)
 
1998
        except errors.UninitializableFormat:
 
1999
            raise TestSkipped("Format %s is not initializable." % format)
 
2000
 
 
2001
    def make_repository(self, relpath, shared=False, format=None):
 
2002
        """Create a repository on our default transport at relpath.
 
2003
        
 
2004
        Note that relpath must be a relative path, not a full url.
 
2005
        """
 
2006
        # FIXME: If you create a remoterepository this returns the underlying
 
2007
        # real format, which is incorrect.  Actually we should make sure that 
 
2008
        # RemoteBzrDir returns a RemoteRepository.
 
2009
        # maybe  mbp 20070410
 
2010
        made_control = self.make_bzrdir(relpath, format=format)
 
2011
        return made_control.create_repository(shared=shared)
 
2012
 
 
2013
    def make_branch_and_memory_tree(self, relpath, format=None):
 
2014
        """Create a branch on the default transport and a MemoryTree for it."""
 
2015
        b = self.make_branch(relpath, format=format)
 
2016
        return memorytree.MemoryTree.create_on_branch(b)
 
2017
 
 
2018
    def make_branch_builder(self, relpath, format=None):
 
2019
        url = self.get_url(relpath)
 
2020
        tran = get_transport(url)
 
2021
        return branchbuilder.BranchBuilder(get_transport(url), format=format)
 
2022
 
 
2023
    def overrideEnvironmentForTesting(self):
 
2024
        os.environ['HOME'] = self.test_home_dir
 
2025
        os.environ['BZR_HOME'] = self.test_home_dir
 
2026
        
 
2027
    def setUp(self):
 
2028
        super(TestCaseWithMemoryTransport, self).setUp()
 
2029
        self._make_test_root()
 
2030
        _currentdir = os.getcwdu()
 
2031
        def _leaveDirectory():
 
2032
            os.chdir(_currentdir)
 
2033
        self.addCleanup(_leaveDirectory)
 
2034
        self.makeAndChdirToTestDir()
 
2035
        self.overrideEnvironmentForTesting()
 
2036
        self.__readonly_server = None
 
2037
        self.__server = None
 
2038
        self.reduceLockdirTimeout()
554
2039
 
555
2040
     
556
 
class TestCaseInTempDir(TestCase):
 
2041
class TestCaseInTempDir(TestCaseWithMemoryTransport):
557
2042
    """Derived class that runs a test within a temporary directory.
558
2043
 
559
2044
    This is useful for tests that need to create a branch, etc.
563
2048
    All test cases create their own directory within that.  If the
564
2049
    tests complete successfully, the directory is removed.
565
2050
 
566
 
    InTempDir is an old alias for FunctionalTestCase.
 
2051
    :ivar test_base_dir: The path of the top-level directory for this 
 
2052
    test, which contains a home directory and a work directory.
 
2053
 
 
2054
    :ivar test_home_dir: An initially empty directory under test_base_dir
 
2055
    which is used as $HOME for this test.
 
2056
 
 
2057
    :ivar test_dir: A directory under test_base_dir used as the current
 
2058
    directory when the test proper is run.
567
2059
    """
568
2060
 
569
 
    TEST_ROOT = None
570
 
    _TEST_NAME = 'test'
571
2061
    OVERRIDE_PYTHON = 'python'
572
2062
 
573
2063
    def check_file_contents(self, filename, expect):
578
2068
            self.log("actually: %r" % contents)
579
2069
            self.fail("contents of %s not as expected" % filename)
580
2070
 
581
 
    def _make_test_root(self):
582
 
        if TestCaseInTempDir.TEST_ROOT is not None:
583
 
            return
584
 
        i = 0
585
 
        while True:
586
 
            root = u'test%04d.tmp' % i
587
 
            try:
588
 
                os.mkdir(root)
589
 
            except OSError, e:
590
 
                if e.errno == errno.EEXIST:
591
 
                    i += 1
592
 
                    continue
593
 
                else:
594
 
                    raise
595
 
            # successfully created
596
 
            TestCaseInTempDir.TEST_ROOT = osutils.abspath(root)
597
 
            break
598
 
        # make a fake bzr directory there to prevent any tests propagating
599
 
        # up onto the source directory's real branch
600
 
        bzrdir.BzrDir.create_standalone_workingtree(TestCaseInTempDir.TEST_ROOT)
 
2071
    def _getTestDirPrefix(self):
 
2072
        # create a directory within the top level test directory
 
2073
        if sys.platform == 'win32':
 
2074
            name_prefix = re.sub('[<>*=+",:;_/\\-]', '_', self.id())
 
2075
            # windows is likely to have path-length limits so use a short name
 
2076
            name_prefix = name_prefix[-30:]
 
2077
        else:
 
2078
            name_prefix = re.sub('[/]', '_', self.id())
 
2079
        return name_prefix
601
2080
 
602
 
    def setUp(self):
603
 
        super(TestCaseInTempDir, self).setUp()
604
 
        self._make_test_root()
605
 
        _currentdir = os.getcwdu()
606
 
        short_id = self.id().replace('bzrlib.tests.', '') \
607
 
                   .replace('__main__.', '')
608
 
        # it's possible the same test class is run several times for
609
 
        # parameterized tests, so make sure the names don't collide.  
610
 
        i = 0
611
 
        while True:
612
 
            if i > 0:
613
 
                candidate_dir = '%s/%s.%d' % (self.TEST_ROOT, short_id, i)
614
 
            else:
615
 
                candidate_dir = '%s/%s' % (self.TEST_ROOT, short_id)
616
 
            if os.path.exists(candidate_dir):
617
 
                i = i + 1
618
 
                continue
619
 
            else:
620
 
                self.test_dir = candidate_dir
621
 
                os.mkdir(self.test_dir)
622
 
                os.chdir(self.test_dir)
 
2081
    def makeAndChdirToTestDir(self):
 
2082
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
 
2083
        
 
2084
        For TestCaseInTempDir we create a temporary directory based on the test
 
2085
        name and then create two subdirs - test and home under it.
 
2086
        """
 
2087
        name_prefix = osutils.pathjoin(self.TEST_ROOT, self._getTestDirPrefix())
 
2088
        name = name_prefix
 
2089
        for i in range(100):
 
2090
            if os.path.exists(name):
 
2091
                name = name_prefix + '_' + str(i)
 
2092
            else:
 
2093
                os.mkdir(name)
623
2094
                break
624
 
        os.environ['HOME'] = self.test_dir
625
 
        os.environ['APPDATA'] = self.test_dir
626
 
        def _leaveDirectory():
627
 
            os.chdir(_currentdir)
628
 
        self.addCleanup(_leaveDirectory)
629
 
        
630
 
    def build_tree(self, shape, line_endings='native', transport=None):
 
2095
        # now create test and home directories within this dir
 
2096
        self.test_base_dir = name
 
2097
        self.test_home_dir = self.test_base_dir + '/home'
 
2098
        os.mkdir(self.test_home_dir)
 
2099
        self.test_dir = self.test_base_dir + '/work'
 
2100
        os.mkdir(self.test_dir)
 
2101
        os.chdir(self.test_dir)
 
2102
        # put name of test inside
 
2103
        f = file(self.test_base_dir + '/name', 'w')
 
2104
        try:
 
2105
            f.write(self.id())
 
2106
        finally:
 
2107
            f.close()
 
2108
        self.addCleanup(self.deleteTestDir)
 
2109
 
 
2110
    def deleteTestDir(self):
 
2111
        os.chdir(self.TEST_ROOT)
 
2112
        _rmtree_temp_dir(self.test_base_dir)
 
2113
 
 
2114
    def build_tree(self, shape, line_endings='binary', transport=None):
631
2115
        """Build a test tree according to a pattern.
632
2116
 
633
2117
        shape is a sequence of file specifications.  If the final
634
2118
        character is '/', a directory is created.
635
2119
 
 
2120
        This assumes that all the elements in the tree being built are new.
 
2121
 
636
2122
        This doesn't add anything to a branch.
 
2123
 
 
2124
        :type shape:    list or tuple.
637
2125
        :param line_endings: Either 'binary' or 'native'
638
 
                             in binary mode, exact contents are written
639
 
                             in native mode, the line endings match the
640
 
                             default platform endings.
641
 
 
642
 
        :param transport: A transport to write to, for building trees on 
643
 
                          VFS's. If the transport is readonly or None,
644
 
                          "." is opened automatically.
 
2126
            in binary mode, exact contents are written in native mode, the
 
2127
            line endings match the default platform endings.
 
2128
        :param transport: A transport to write to, for building trees on VFS's.
 
2129
            If the transport is readonly or None, "." is opened automatically.
 
2130
        :return: None
645
2131
        """
646
 
        # XXX: It's OK to just create them using forward slashes on windows?
 
2132
        if type(shape) not in (list, tuple):
 
2133
            raise AssertionError("Parameter 'shape' should be "
 
2134
                "a list or a tuple. Got %r instead" % (shape,))
 
2135
        # It's OK to just create them using forward slashes on windows.
647
2136
        if transport is None or transport.is_readonly():
648
2137
            transport = get_transport(".")
649
2138
        for name in shape:
650
2139
            self.assert_(isinstance(name, basestring))
651
2140
            if name[-1] == '/':
652
 
                transport.mkdir(urlescape(name[:-1]))
 
2141
                transport.mkdir(urlutils.escape(name[:-1]))
653
2142
            else:
654
2143
                if line_endings == 'binary':
655
2144
                    end = '\n'
656
2145
                elif line_endings == 'native':
657
2146
                    end = os.linesep
658
2147
                else:
659
 
                    raise errors.BzrError('Invalid line ending request %r' % (line_endings,))
660
 
                content = "contents of %s%s" % (name, end)
661
 
                transport.put(urlescape(name), StringIO(content))
 
2148
                    raise errors.BzrError(
 
2149
                        'Invalid line ending request %r' % line_endings)
 
2150
                content = "contents of %s%s" % (name.encode('utf-8'), end)
 
2151
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
662
2152
 
663
2153
    def build_tree_contents(self, shape):
664
2154
        build_tree_contents(shape)
665
2155
 
666
 
    def failUnlessExists(self, path):
667
 
        """Fail unless path, which may be abs or relative, exists."""
668
 
        self.failUnless(osutils.lexists(path))
 
2156
    def assertInWorkingTree(self, path, root_path='.', tree=None):
 
2157
        """Assert whether path or paths are in the WorkingTree"""
 
2158
        if tree is None:
 
2159
            tree = workingtree.WorkingTree.open(root_path)
 
2160
        if not isinstance(path, basestring):
 
2161
            for p in path:
 
2162
                self.assertInWorkingTree(p, tree=tree)
 
2163
        else:
 
2164
            self.assertIsNot(tree.path2id(path), None,
 
2165
                path+' not in working tree.')
669
2166
 
670
 
    def failIfExists(self, path):
671
 
        """Fail if path, which may be abs or relative, exists."""
672
 
        self.failIf(osutils.lexists(path))
673
 
        
674
 
    def assertFileEqual(self, content, path):
675
 
        """Fail if path does not contain 'content'."""
676
 
        self.failUnless(osutils.lexists(path))
677
 
        self.assertEqualDiff(content, open(path, 'r').read())
 
2167
    def assertNotInWorkingTree(self, path, root_path='.', tree=None):
 
2168
        """Assert whether path or paths are not in the WorkingTree"""
 
2169
        if tree is None:
 
2170
            tree = workingtree.WorkingTree.open(root_path)
 
2171
        if not isinstance(path, basestring):
 
2172
            for p in path:
 
2173
                self.assertNotInWorkingTree(p,tree=tree)
 
2174
        else:
 
2175
            self.assertIs(tree.path2id(path), None, path+' in working tree.')
678
2176
 
679
2177
 
680
2178
class TestCaseWithTransport(TestCaseInTempDir):
691
2189
    readwrite one must both define get_url() as resolving to os.getcwd().
692
2190
    """
693
2191
 
694
 
    def __init__(self, methodName='testMethod'):
695
 
        super(TestCaseWithTransport, self).__init__(methodName)
696
 
        self.__readonly_server = None
697
 
        self.__server = None
698
 
        self.transport_server = default_transport
699
 
        self.transport_readonly_server = None
700
 
 
701
 
    def get_readonly_url(self, relpath=None):
702
 
        """Get a URL for the readonly transport.
703
 
 
704
 
        This will either be backed by '.' or a decorator to the transport 
705
 
        used by self.get_url()
706
 
        relpath provides for clients to get a path relative to the base url.
707
 
        These should only be downwards relative, not upwards.
708
 
        """
709
 
        base = self.get_readonly_server().get_url()
710
 
        if relpath is not None:
711
 
            if not base.endswith('/'):
712
 
                base = base + '/'
713
 
            base = base + relpath
714
 
        return base
715
 
 
716
 
    def get_readonly_server(self):
717
 
        """Get the server instance for the readonly transport
718
 
 
719
 
        This is useful for some tests with specific servers to do diagnostics.
720
 
        """
721
 
        if self.__readonly_server is None:
722
 
            if self.transport_readonly_server is None:
723
 
                # readonly decorator requested
724
 
                # bring up the server
725
 
                self.get_url()
726
 
                self.__readonly_server = ReadonlyServer()
727
 
                self.__readonly_server.setUp(self.__server)
728
 
            else:
729
 
                self.__readonly_server = self.transport_readonly_server()
730
 
                self.__readonly_server.setUp()
731
 
            self.addCleanup(self.__readonly_server.tearDown)
732
 
        return self.__readonly_server
733
 
 
734
 
    def get_server(self):
735
 
        """Get the read/write server instance.
 
2192
    def get_vfs_only_server(self):
 
2193
        """See TestCaseWithMemoryTransport.
736
2194
 
737
2195
        This is useful for some tests with specific servers that need
738
2196
        diagnostics.
739
2197
        """
740
 
        if self.__server is None:
741
 
            self.__server = self.transport_server()
742
 
            self.__server.setUp()
743
 
            self.addCleanup(self.__server.tearDown)
744
 
        return self.__server
745
 
 
746
 
    def get_url(self, relpath=None):
747
 
        """Get a URL for the readwrite transport.
748
 
 
749
 
        This will either be backed by '.' or to an equivalent non-file based
750
 
        facility.
751
 
        relpath provides for clients to get a path relative to the base url.
752
 
        These should only be downwards relative, not upwards.
753
 
        """
754
 
        base = self.get_server().get_url()
755
 
        if relpath is not None and relpath != '.':
756
 
            if not base.endswith('/'):
757
 
                base = base + '/'
758
 
            base = base + relpath
759
 
        return base
760
 
 
761
 
    def get_transport(self):
762
 
        """Return a writeable transport for the test scratch space"""
763
 
        t = get_transport(self.get_url())
764
 
        self.assertFalse(t.is_readonly())
765
 
        return t
766
 
 
767
 
    def get_readonly_transport(self):
768
 
        """Return a readonly transport for the test scratch space
769
 
        
770
 
        This can be used to test that operations which should only need
771
 
        readonly access in fact do not try to write.
772
 
        """
773
 
        t = get_transport(self.get_readonly_url())
774
 
        self.assertTrue(t.is_readonly())
775
 
        return t
776
 
 
777
 
    def make_branch(self, relpath):
778
 
        """Create a branch on the transport at relpath."""
779
 
        repo = self.make_repository(relpath)
780
 
        return repo.bzrdir.create_branch()
781
 
 
782
 
    def make_bzrdir(self, relpath):
783
 
        try:
784
 
            url = self.get_url(relpath)
785
 
            segments = relpath.split('/')
786
 
            if segments and segments[-1] not in ('', '.'):
787
 
                parent = self.get_url('/'.join(segments[:-1]))
788
 
                t = get_transport(parent)
789
 
                try:
790
 
                    t.mkdir(segments[-1])
791
 
                except errors.FileExists:
792
 
                    pass
793
 
            return bzrlib.bzrdir.BzrDir.create(url)
794
 
        except errors.UninitializableFormat:
795
 
            raise TestSkipped("Format %s is not initializable.")
796
 
 
797
 
    def make_repository(self, relpath, shared=False):
798
 
        """Create a repository on our default transport at relpath."""
799
 
        made_control = self.make_bzrdir(relpath)
800
 
        return made_control.create_repository(shared=shared)
801
 
 
802
 
    def make_branch_and_tree(self, relpath):
 
2198
        if self.__vfs_server is None:
 
2199
            self.__vfs_server = self.vfs_transport_factory()
 
2200
            self.__vfs_server.setUp()
 
2201
            self.addCleanup(self.__vfs_server.tearDown)
 
2202
        return self.__vfs_server
 
2203
 
 
2204
    def make_branch_and_tree(self, relpath, format=None):
803
2205
        """Create a branch on the transport and a tree locally.
804
2206
 
805
 
        Returns the tree.
 
2207
        If the transport is not a LocalTransport, the Tree can't be created on
 
2208
        the transport.  In that case if the vfs_transport_factory is
 
2209
        LocalURLServer the working tree is created in the local
 
2210
        directory backing the transport, and the returned tree's branch and
 
2211
        repository will also be accessed locally. Otherwise a lightweight
 
2212
        checkout is created and returned.
 
2213
 
 
2214
        :param format: The BzrDirFormat.
 
2215
        :returns: the WorkingTree.
806
2216
        """
807
2217
        # TODO: always use the local disk path for the working tree,
808
2218
        # this obviously requires a format that supports branch references
809
2219
        # so check for that by checking bzrdir.BzrDirFormat.get_default_format()
810
2220
        # RBC 20060208
811
 
        b = self.make_branch(relpath)
 
2221
        b = self.make_branch(relpath, format=format)
812
2222
        try:
813
2223
            return b.bzrdir.create_workingtree()
814
2224
        except errors.NotLocalUrl:
815
 
            # new formats - catch No tree error and create
816
 
            # a branch reference and a checkout.
817
 
            # old formats at that point - raise TestSkipped.
818
 
            # TODO: rbc 20060208
819
 
            return WorkingTreeFormat2().initialize(bzrdir.BzrDir.open(relpath))
 
2225
            # We can only make working trees locally at the moment.  If the
 
2226
            # transport can't support them, then we keep the non-disk-backed
 
2227
            # branch and create a local checkout.
 
2228
            if self.vfs_transport_factory is LocalURLServer:
 
2229
                # the branch is colocated on disk, we cannot create a checkout.
 
2230
                # hopefully callers will expect this.
 
2231
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
 
2232
                wt = local_controldir.create_workingtree()
 
2233
                if wt.branch._format != b._format:
 
2234
                    wt._branch = b
 
2235
                    # Make sure that assigning to wt._branch fixes wt.branch,
 
2236
                    # in case the implementation details of workingtree objects
 
2237
                    # change.
 
2238
                    self.assertIs(b, wt.branch)
 
2239
                return wt
 
2240
            else:
 
2241
                return b.create_checkout(relpath, lightweight=True)
820
2242
 
821
2243
    def assertIsDirectory(self, relpath, transport):
822
2244
        """Assert that relpath within transport is a directory.
833
2255
            self.fail("path %s is not a directory; has mode %#o"
834
2256
                      % (relpath, mode))
835
2257
 
 
2258
    def assertTreesEqual(self, left, right):
 
2259
        """Check that left and right have the same content and properties."""
 
2260
        # we use a tree delta to check for equality of the content, and we
 
2261
        # manually check for equality of other things such as the parents list.
 
2262
        self.assertEqual(left.get_parent_ids(), right.get_parent_ids())
 
2263
        differences = left.changes_from(right)
 
2264
        self.assertFalse(differences.has_changed(),
 
2265
            "Trees %r and %r are different: %r" % (left, right, differences))
 
2266
 
 
2267
    def setUp(self):
 
2268
        super(TestCaseWithTransport, self).setUp()
 
2269
        self.__vfs_server = None
 
2270
 
836
2271
 
837
2272
class ChrootedTestCase(TestCaseWithTransport):
838
2273
    """A support class that provides readonly urls outside the local namespace.
848
2283
 
849
2284
    def setUp(self):
850
2285
        super(ChrootedTestCase, self).setUp()
851
 
        if not self.transport_server == bzrlib.transport.memory.MemoryServer:
852
 
            self.transport_readonly_server = bzrlib.transport.http.HttpServer
 
2286
        if not self.vfs_transport_factory == MemoryServer:
 
2287
            self.transport_readonly_server = HttpServer
 
2288
 
 
2289
 
 
2290
def condition_id_re(pattern):
 
2291
    """Create a condition filter which performs a re check on a test's id.
 
2292
    
 
2293
    :param pattern: A regular expression string.
 
2294
    :return: A callable that returns True if the re matches.
 
2295
    """
 
2296
    filter_re = re.compile(pattern)
 
2297
    def condition(test):
 
2298
        test_id = test.id()
 
2299
        return filter_re.search(test_id)
 
2300
    return condition
 
2301
 
 
2302
 
 
2303
def condition_isinstance(klass_or_klass_list):
 
2304
    """Create a condition filter which returns isinstance(param, klass).
 
2305
    
 
2306
    :return: A callable which when called with one parameter obj return the
 
2307
        result of isinstance(obj, klass_or_klass_list).
 
2308
    """
 
2309
    def condition(obj):
 
2310
        return isinstance(obj, klass_or_klass_list)
 
2311
    return condition
 
2312
 
 
2313
 
 
2314
def condition_id_in_list(id_list):
 
2315
    """Create a condition filter which verify that test's id in a list.
 
2316
    
 
2317
    :param id_list: A TestIdList object.
 
2318
    :return: A callable that returns True if the test's id appears in the list.
 
2319
    """
 
2320
    def condition(test):
 
2321
        return id_list.includes(test.id())
 
2322
    return condition
 
2323
 
 
2324
 
 
2325
def condition_id_startswith(starts):
 
2326
    """Create a condition filter verifying that test's id starts with a string.
 
2327
    
 
2328
    :param starts: A list of string.
 
2329
    :return: A callable that returns True if the test's id starts with one of 
 
2330
        the given strings.
 
2331
    """
 
2332
    def condition(test):
 
2333
        for start in starts:
 
2334
            if test.id().startswith(start):
 
2335
                return True
 
2336
        return False
 
2337
    return condition
 
2338
 
 
2339
 
 
2340
def exclude_tests_by_condition(suite, condition):
 
2341
    """Create a test suite which excludes some tests from suite.
 
2342
 
 
2343
    :param suite: The suite to get tests from.
 
2344
    :param condition: A callable whose result evaluates True when called with a
 
2345
        test case which should be excluded from the result.
 
2346
    :return: A suite which contains the tests found in suite that fail
 
2347
        condition.
 
2348
    """
 
2349
    result = []
 
2350
    for test in iter_suite_tests(suite):
 
2351
        if not condition(test):
 
2352
            result.append(test)
 
2353
    return TestUtil.TestSuite(result)
 
2354
 
 
2355
 
 
2356
def filter_suite_by_condition(suite, condition):
 
2357
    """Create a test suite by filtering another one.
 
2358
    
 
2359
    :param suite: The source suite.
 
2360
    :param condition: A callable whose result evaluates True when called with a
 
2361
        test case which should be included in the result.
 
2362
    :return: A suite which contains the tests found in suite that pass
 
2363
        condition.
 
2364
    """
 
2365
    result = []
 
2366
    for test in iter_suite_tests(suite):
 
2367
        if condition(test):
 
2368
            result.append(test)
 
2369
    return TestUtil.TestSuite(result)
853
2370
 
854
2371
 
855
2372
def filter_suite_by_re(suite, pattern):
856
 
    result = TestSuite()
857
 
    filter_re = re.compile(pattern)
 
2373
    """Create a test suite by filtering another one.
 
2374
    
 
2375
    :param suite:           the source suite
 
2376
    :param pattern:         pattern that names must match
 
2377
    :returns: the newly created suite
 
2378
    """
 
2379
    condition = condition_id_re(pattern)
 
2380
    result_suite = filter_suite_by_condition(suite, condition)
 
2381
    return result_suite
 
2382
 
 
2383
 
 
2384
def filter_suite_by_id_list(suite, test_id_list):
 
2385
    """Create a test suite by filtering another one.
 
2386
 
 
2387
    :param suite: The source suite.
 
2388
    :param test_id_list: A list of the test ids to keep as strings.
 
2389
    :returns: the newly created suite
 
2390
    """
 
2391
    condition = condition_id_in_list(test_id_list)
 
2392
    result_suite = filter_suite_by_condition(suite, condition)
 
2393
    return result_suite
 
2394
 
 
2395
 
 
2396
def filter_suite_by_id_startswith(suite, start):
 
2397
    """Create a test suite by filtering another one.
 
2398
 
 
2399
    :param suite: The source suite.
 
2400
    :param start: A list of string the test id must start with one of.
 
2401
    :returns: the newly created suite
 
2402
    """
 
2403
    condition = condition_id_startswith(start)
 
2404
    result_suite = filter_suite_by_condition(suite, condition)
 
2405
    return result_suite
 
2406
 
 
2407
 
 
2408
def exclude_tests_by_re(suite, pattern):
 
2409
    """Create a test suite which excludes some tests from suite.
 
2410
 
 
2411
    :param suite: The suite to get tests from.
 
2412
    :param pattern: A regular expression string. Test ids that match this
 
2413
        pattern will be excluded from the result.
 
2414
    :return: A TestSuite that contains all the tests from suite without the
 
2415
        tests that matched pattern. The order of tests is the same as it was in
 
2416
        suite.
 
2417
    """
 
2418
    return exclude_tests_by_condition(suite, condition_id_re(pattern))
 
2419
 
 
2420
 
 
2421
def preserve_input(something):
 
2422
    """A helper for performing test suite transformation chains.
 
2423
 
 
2424
    :param something: Anything you want to preserve.
 
2425
    :return: Something.
 
2426
    """
 
2427
    return something
 
2428
 
 
2429
 
 
2430
def randomize_suite(suite):
 
2431
    """Return a new TestSuite with suite's tests in random order.
 
2432
    
 
2433
    The tests in the input suite are flattened into a single suite in order to
 
2434
    accomplish this. Any nested TestSuites are removed to provide global
 
2435
    randomness.
 
2436
    """
 
2437
    tests = list(iter_suite_tests(suite))
 
2438
    random.shuffle(tests)
 
2439
    return TestUtil.TestSuite(tests)
 
2440
 
 
2441
 
 
2442
def split_suite_by_condition(suite, condition):
 
2443
    """Split a test suite into two by a condition.
 
2444
    
 
2445
    :param suite: The suite to split.
 
2446
    :param condition: The condition to match on. Tests that match this
 
2447
        condition are returned in the first test suite, ones that do not match
 
2448
        are in the second suite.
 
2449
    :return: A tuple of two test suites, where the first contains tests from
 
2450
        suite matching the condition, and the second contains the remainder
 
2451
        from suite. The order within each output suite is the same as it was in
 
2452
        suite.
 
2453
    """
 
2454
    matched = []
 
2455
    did_not_match = []
858
2456
    for test in iter_suite_tests(suite):
859
 
        if filter_re.search(test.id()):
860
 
            result.addTest(test)
861
 
    return result
 
2457
        if condition(test):
 
2458
            matched.append(test)
 
2459
        else:
 
2460
            did_not_match.append(test)
 
2461
    return TestUtil.TestSuite(matched), TestUtil.TestSuite(did_not_match)
 
2462
 
 
2463
 
 
2464
def split_suite_by_re(suite, pattern):
 
2465
    """Split a test suite into two by a regular expression.
 
2466
    
 
2467
    :param suite: The suite to split.
 
2468
    :param pattern: A regular expression string. Test ids that match this
 
2469
        pattern will be in the first test suite returned, and the others in the
 
2470
        second test suite returned.
 
2471
    :return: A tuple of two test suites, where the first contains tests from
 
2472
        suite matching pattern, and the second contains the remainder from
 
2473
        suite. The order within each output suite is the same as it was in
 
2474
        suite.
 
2475
    """
 
2476
    return split_suite_by_condition(suite, condition_id_re(pattern))
862
2477
 
863
2478
 
864
2479
def run_suite(suite, name='test', verbose=False, pattern=".*",
865
 
              stop_on_failure=False, keep_output=False,
866
 
              transport=None):
867
 
    TestCaseInTempDir._TEST_NAME = name
 
2480
              stop_on_failure=False,
 
2481
              transport=None, lsprof_timed=None, bench_history=None,
 
2482
              matching_tests_first=None,
 
2483
              list_only=False,
 
2484
              random_seed=None,
 
2485
              exclude_pattern=None,
 
2486
              strict=False):
 
2487
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
868
2488
    if verbose:
869
2489
        verbosity = 2
870
2490
    else:
871
2491
        verbosity = 1
872
2492
    runner = TextTestRunner(stream=sys.stdout,
873
2493
                            descriptions=0,
874
 
                            verbosity=verbosity)
 
2494
                            verbosity=verbosity,
 
2495
                            bench_history=bench_history,
 
2496
                            list_only=list_only,
 
2497
                            )
875
2498
    runner.stop_on_failure=stop_on_failure
876
 
    if pattern != '.*':
877
 
        suite = filter_suite_by_re(suite, pattern)
 
2499
    # Initialise the random number generator and display the seed used.
 
2500
    # We convert the seed to a long to make it reuseable across invocations.
 
2501
    random_order = False
 
2502
    if random_seed is not None:
 
2503
        random_order = True
 
2504
        if random_seed == "now":
 
2505
            random_seed = long(time.time())
 
2506
        else:
 
2507
            # Convert the seed to a long if we can
 
2508
            try:
 
2509
                random_seed = long(random_seed)
 
2510
            except:
 
2511
                pass
 
2512
        runner.stream.writeln("Randomizing test order using seed %s\n" %
 
2513
            (random_seed))
 
2514
        random.seed(random_seed)
 
2515
    # Customise the list of tests if requested
 
2516
    if exclude_pattern is not None:
 
2517
        suite = exclude_tests_by_re(suite, exclude_pattern)
 
2518
    if random_order:
 
2519
        order_changer = randomize_suite
 
2520
    else:
 
2521
        order_changer = preserve_input
 
2522
    if pattern != '.*' or random_order:
 
2523
        if matching_tests_first:
 
2524
            suites = map(order_changer, split_suite_by_re(suite, pattern))
 
2525
            suite = TestUtil.TestSuite(suites)
 
2526
        else:
 
2527
            suite = order_changer(filter_suite_by_re(suite, pattern))
 
2528
 
878
2529
    result = runner.run(suite)
879
 
    # This is still a little bogus, 
880
 
    # but only a little. Folk not using our testrunner will
881
 
    # have to delete their temp directories themselves.
882
 
    test_root = TestCaseInTempDir.TEST_ROOT
883
 
    if result.wasSuccessful() or not keep_output:
884
 
        if test_root is not None:
885
 
            print 'Deleting test root %s...' % test_root
886
 
            try:
887
 
                shutil.rmtree(test_root)
888
 
            finally:
889
 
                print
890
 
    else:
891
 
        print "Failed tests working directories are in '%s'\n" % TestCaseInTempDir.TEST_ROOT
 
2530
 
 
2531
    if strict:
 
2532
        return result.wasStrictlySuccessful()
 
2533
 
892
2534
    return result.wasSuccessful()
893
2535
 
894
2536
 
 
2537
# Controlled by "bzr selftest -E=..." option
 
2538
selftest_debug_flags = set()
 
2539
 
 
2540
 
895
2541
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
896
 
             keep_output=False,
897
 
             transport=None):
 
2542
             transport=None,
 
2543
             test_suite_factory=None,
 
2544
             lsprof_timed=None,
 
2545
             bench_history=None,
 
2546
             matching_tests_first=None,
 
2547
             list_only=False,
 
2548
             random_seed=None,
 
2549
             exclude_pattern=None,
 
2550
             strict=False,
 
2551
             load_list=None,
 
2552
             debug_flags=None,
 
2553
             starting_with=None,
 
2554
             ):
898
2555
    """Run the whole test suite under the enhanced runner"""
 
2556
    # XXX: Very ugly way to do this...
 
2557
    # Disable warning about old formats because we don't want it to disturb
 
2558
    # any blackbox tests.
 
2559
    from bzrlib import repository
 
2560
    repository._deprecation_warning_done = True
 
2561
 
899
2562
    global default_transport
900
2563
    if transport is None:
901
2564
        transport = default_transport
902
2565
    old_transport = default_transport
903
2566
    default_transport = transport
904
 
    suite = test_suite()
 
2567
    global selftest_debug_flags
 
2568
    old_debug_flags = selftest_debug_flags
 
2569
    if debug_flags is not None:
 
2570
        selftest_debug_flags = set(debug_flags)
905
2571
    try:
 
2572
        if load_list is None:
 
2573
            keep_only = None
 
2574
        else:
 
2575
            keep_only = load_test_id_list(load_list)
 
2576
        if test_suite_factory is None:
 
2577
            suite = test_suite(keep_only, starting_with)
 
2578
        else:
 
2579
            suite = test_suite_factory()
906
2580
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
907
 
                     stop_on_failure=stop_on_failure, keep_output=keep_output,
908
 
                     transport=transport)
 
2581
                     stop_on_failure=stop_on_failure,
 
2582
                     transport=transport,
 
2583
                     lsprof_timed=lsprof_timed,
 
2584
                     bench_history=bench_history,
 
2585
                     matching_tests_first=matching_tests_first,
 
2586
                     list_only=list_only,
 
2587
                     random_seed=random_seed,
 
2588
                     exclude_pattern=exclude_pattern,
 
2589
                     strict=strict)
909
2590
    finally:
910
2591
        default_transport = old_transport
911
 
 
912
 
 
913
 
 
914
 
def test_suite():
915
 
    """Build and return TestSuite for the whole program."""
916
 
    from doctest import DocTestSuite
917
 
 
918
 
    global MODULES_TO_DOCTEST
919
 
 
920
 
    testmod_names = [ \
 
2592
        selftest_debug_flags = old_debug_flags
 
2593
 
 
2594
 
 
2595
def load_test_id_list(file_name):
 
2596
    """Load a test id list from a text file.
 
2597
 
 
2598
    The format is one test id by line.  No special care is taken to impose
 
2599
    strict rules, these test ids are used to filter the test suite so a test id
 
2600
    that do not match an existing test will do no harm. This allows user to add
 
2601
    comments, leave blank lines, etc.
 
2602
    """
 
2603
    test_list = []
 
2604
    try:
 
2605
        ftest = open(file_name, 'rt')
 
2606
    except IOError, e:
 
2607
        if e.errno != errno.ENOENT:
 
2608
            raise
 
2609
        else:
 
2610
            raise errors.NoSuchFile(file_name)
 
2611
 
 
2612
    for test_name in ftest.readlines():
 
2613
        test_list.append(test_name.strip())
 
2614
    ftest.close()
 
2615
    return test_list
 
2616
 
 
2617
 
 
2618
def suite_matches_id_list(test_suite, id_list):
 
2619
    """Warns about tests not appearing or appearing more than once.
 
2620
 
 
2621
    :param test_suite: A TestSuite object.
 
2622
    :param test_id_list: The list of test ids that should be found in 
 
2623
         test_suite.
 
2624
 
 
2625
    :return: (absents, duplicates) absents is a list containing the test found
 
2626
        in id_list but not in test_suite, duplicates is a list containing the
 
2627
        test found multiple times in test_suite.
 
2628
 
 
2629
    When using a prefined test id list, it may occurs that some tests do not
 
2630
    exist anymore or that some tests use the same id. This function warns the
 
2631
    tester about potential problems in his workflow (test lists are volatile)
 
2632
    or in the test suite itself (using the same id for several tests does not
 
2633
    help to localize defects).
 
2634
    """
 
2635
    # Build a dict counting id occurrences
 
2636
    tests = dict()
 
2637
    for test in iter_suite_tests(test_suite):
 
2638
        id = test.id()
 
2639
        tests[id] = tests.get(id, 0) + 1
 
2640
 
 
2641
    not_found = []
 
2642
    duplicates = []
 
2643
    for id in id_list:
 
2644
        occurs = tests.get(id, 0)
 
2645
        if not occurs:
 
2646
            not_found.append(id)
 
2647
        elif occurs > 1:
 
2648
            duplicates.append(id)
 
2649
 
 
2650
    return not_found, duplicates
 
2651
 
 
2652
 
 
2653
class TestIdList(object):
 
2654
    """Test id list to filter a test suite.
 
2655
 
 
2656
    Relying on the assumption that test ids are built as:
 
2657
    <module>[.<class>.<method>][(<param>+)], <module> being in python dotted
 
2658
    notation, this class offers methods to :
 
2659
    - avoid building a test suite for modules not refered to in the test list,
 
2660
    - keep only the tests listed from the module test suite.
 
2661
    """
 
2662
 
 
2663
    def __init__(self, test_id_list):
 
2664
        # When a test suite needs to be filtered against us we compare test ids
 
2665
        # for equality, so a simple dict offers a quick and simple solution.
 
2666
        self.tests = dict().fromkeys(test_id_list, True)
 
2667
 
 
2668
        # While unittest.TestCase have ids like:
 
2669
        # <module>.<class>.<method>[(<param+)],
 
2670
        # doctest.DocTestCase can have ids like:
 
2671
        # <module>
 
2672
        # <module>.<class>
 
2673
        # <module>.<function>
 
2674
        # <module>.<class>.<method>
 
2675
 
 
2676
        # Since we can't predict a test class from its name only, we settle on
 
2677
        # a simple constraint: a test id always begins with its module name.
 
2678
 
 
2679
        modules = {}
 
2680
        for test_id in test_id_list:
 
2681
            parts = test_id.split('.')
 
2682
            mod_name = parts.pop(0)
 
2683
            modules[mod_name] = True
 
2684
            for part in parts:
 
2685
                mod_name += '.' + part
 
2686
                modules[mod_name] = True
 
2687
        self.modules = modules
 
2688
 
 
2689
    def refers_to(self, module_name):
 
2690
        """Is there tests for the module or one of its sub modules."""
 
2691
        return self.modules.has_key(module_name)
 
2692
 
 
2693
    def includes(self, test_id):
 
2694
        return self.tests.has_key(test_id)
 
2695
 
 
2696
 
 
2697
class TestPrefixAliasRegistry(registry.Registry):
 
2698
    """A registry for test prefix aliases.
 
2699
 
 
2700
    This helps implement shorcuts for the --starting-with selftest
 
2701
    option. Overriding existing prefixes is not allowed but not fatal (a
 
2702
    warning will be emitted).
 
2703
    """
 
2704
 
 
2705
    def register(self, key, obj, help=None, info=None,
 
2706
                 override_existing=False):
 
2707
        """See Registry.register.
 
2708
 
 
2709
        Trying to override an existing alias causes a warning to be emitted,
 
2710
        not a fatal execption.
 
2711
        """
 
2712
        try:
 
2713
            super(TestPrefixAliasRegistry, self).register(
 
2714
                key, obj, help=help, info=info, override_existing=False)
 
2715
        except KeyError:
 
2716
            actual = self.get(key)
 
2717
            note('Test prefix alias %s is already used for %s, ignoring %s'
 
2718
                 % (key, actual, obj))
 
2719
 
 
2720
    def resolve_alias(self, id_start):
 
2721
        """Replace the alias by the prefix in the given string.
 
2722
 
 
2723
        Using an unknown prefix is an error to help catching typos.
 
2724
        """
 
2725
        parts = id_start.split('.')
 
2726
        try:
 
2727
            parts[0] = self.get(parts[0])
 
2728
        except KeyError:
 
2729
            raise errors.BzrCommandError(
 
2730
                '%s is not a known test prefix alias' % parts[0])
 
2731
        return '.'.join(parts)
 
2732
 
 
2733
 
 
2734
test_prefix_alias_registry = TestPrefixAliasRegistry()
 
2735
"""Registry of test prefix aliases."""
 
2736
 
 
2737
 
 
2738
# This alias allows to detect typos ('bzrlin.') by making all valid test ids
 
2739
# appear prefixed ('bzrlib.' is "replaced" by 'bzrlib.').
 
2740
test_prefix_alias_registry.register('bzrlib', 'bzrlib')
 
2741
 
 
2742
# Obvious higest levels prefixes, feel free to add your own via a plugin
 
2743
test_prefix_alias_registry.register('bd', 'bzrlib.doc')
 
2744
test_prefix_alias_registry.register('bu', 'bzrlib.utils')
 
2745
test_prefix_alias_registry.register('bt', 'bzrlib.tests')
 
2746
test_prefix_alias_registry.register('bb', 'bzrlib.tests.blackbox')
 
2747
test_prefix_alias_registry.register('bp', 'bzrlib.plugins')
 
2748
 
 
2749
 
 
2750
def test_suite(keep_only=None, starting_with=None):
 
2751
    """Build and return TestSuite for the whole of bzrlib.
 
2752
 
 
2753
    :param keep_only: A list of test ids limiting the suite returned.
 
2754
 
 
2755
    :param starting_with: An id limiting the suite returned to the tests
 
2756
         starting with it.
 
2757
 
 
2758
    This function can be replaced if you need to change the default test
 
2759
    suite on a global basis, but it is not encouraged.
 
2760
    """
 
2761
    testmod_names = [
 
2762
                   'bzrlib.doc',
 
2763
                   'bzrlib.tests.blackbox',
 
2764
                   'bzrlib.tests.branch_implementations',
 
2765
                   'bzrlib.tests.bzrdir_implementations',
 
2766
                   'bzrlib.tests.commands',
 
2767
                   'bzrlib.tests.interrepository_implementations',
 
2768
                   'bzrlib.tests.intertree_implementations',
 
2769
                   'bzrlib.tests.inventory_implementations',
 
2770
                   'bzrlib.tests.per_lock',
 
2771
                   'bzrlib.tests.per_repository',
 
2772
                   'bzrlib.tests.per_repository_reference',
 
2773
                   'bzrlib.tests.test__dirstate_helpers',
 
2774
                   'bzrlib.tests.test__walkdirs_win32',
921
2775
                   'bzrlib.tests.test_ancestry',
922
2776
                   'bzrlib.tests.test_annotate',
923
2777
                   'bzrlib.tests.test_api',
 
2778
                   'bzrlib.tests.test_atomicfile',
924
2779
                   'bzrlib.tests.test_bad_files',
925
 
                   'bzrlib.tests.test_basis_inventory',
 
2780
                   'bzrlib.tests.test_bisect_multi',
926
2781
                   'bzrlib.tests.test_branch',
 
2782
                   'bzrlib.tests.test_branchbuilder',
 
2783
                   'bzrlib.tests.test_btree_index',
 
2784
                   'bzrlib.tests.test_bugtracker',
 
2785
                   'bzrlib.tests.test_bundle',
927
2786
                   'bzrlib.tests.test_bzrdir',
928
 
                   'bzrlib.tests.test_command',
 
2787
                   'bzrlib.tests.test_cache_utf8',
 
2788
                   'bzrlib.tests.test_chunk_writer',
 
2789
                   'bzrlib.tests.test_commands',
929
2790
                   'bzrlib.tests.test_commit',
930
2791
                   'bzrlib.tests.test_commit_merge',
931
2792
                   'bzrlib.tests.test_config',
932
2793
                   'bzrlib.tests.test_conflicts',
 
2794
                   'bzrlib.tests.test_counted_lock',
933
2795
                   'bzrlib.tests.test_decorators',
 
2796
                   'bzrlib.tests.test_delta',
 
2797
                   'bzrlib.tests.test_deprecated_graph',
934
2798
                   'bzrlib.tests.test_diff',
935
 
                   'bzrlib.tests.test_doc_generate',
 
2799
                   'bzrlib.tests.test_directory_service',
 
2800
                   'bzrlib.tests.test_dirstate',
 
2801
                   'bzrlib.tests.test_email_message',
936
2802
                   'bzrlib.tests.test_errors',
 
2803
                   'bzrlib.tests.test_extract',
937
2804
                   'bzrlib.tests.test_fetch',
 
2805
                   'bzrlib.tests.test_ftp_transport',
 
2806
                   'bzrlib.tests.test_generate_docs',
 
2807
                   'bzrlib.tests.test_generate_ids',
 
2808
                   'bzrlib.tests.test_globbing',
938
2809
                   'bzrlib.tests.test_gpg',
939
2810
                   'bzrlib.tests.test_graph',
940
2811
                   'bzrlib.tests.test_hashcache',
 
2812
                   'bzrlib.tests.test_help',
 
2813
                   'bzrlib.tests.test_hooks',
941
2814
                   'bzrlib.tests.test_http',
 
2815
                   'bzrlib.tests.test_http_implementations',
 
2816
                   'bzrlib.tests.test_http_response',
 
2817
                   'bzrlib.tests.test_https_ca_bundle',
942
2818
                   'bzrlib.tests.test_identitymap',
 
2819
                   'bzrlib.tests.test_ignores',
 
2820
                   'bzrlib.tests.test_index',
 
2821
                   'bzrlib.tests.test_info',
943
2822
                   'bzrlib.tests.test_inv',
944
2823
                   'bzrlib.tests.test_knit',
 
2824
                   'bzrlib.tests.test_lazy_import',
 
2825
                   'bzrlib.tests.test_lazy_regex',
 
2826
                   'bzrlib.tests.test_lockable_files',
945
2827
                   'bzrlib.tests.test_lockdir',
946
 
                   'bzrlib.tests.test_lockable_files',
947
2828
                   'bzrlib.tests.test_log',
 
2829
                   'bzrlib.tests.test_lru_cache',
 
2830
                   'bzrlib.tests.test_lsprof',
 
2831
                   'bzrlib.tests.test_mail_client',
 
2832
                   'bzrlib.tests.test_memorytree',
948
2833
                   'bzrlib.tests.test_merge',
949
2834
                   'bzrlib.tests.test_merge3',
950
2835
                   'bzrlib.tests.test_merge_core',
 
2836
                   'bzrlib.tests.test_merge_directive',
951
2837
                   'bzrlib.tests.test_missing',
952
2838
                   'bzrlib.tests.test_msgeditor',
 
2839
                   'bzrlib.tests.test_multiparent',
 
2840
                   'bzrlib.tests.test_mutabletree',
953
2841
                   'bzrlib.tests.test_nonascii',
954
2842
                   'bzrlib.tests.test_options',
955
2843
                   'bzrlib.tests.test_osutils',
 
2844
                   'bzrlib.tests.test_osutils_encodings',
 
2845
                   'bzrlib.tests.test_pack',
 
2846
                   'bzrlib.tests.test_pack_repository',
 
2847
                   'bzrlib.tests.test_patch',
 
2848
                   'bzrlib.tests.test_patches',
956
2849
                   'bzrlib.tests.test_permissions',
957
2850
                   'bzrlib.tests.test_plugins',
958
2851
                   'bzrlib.tests.test_progress',
 
2852
                   'bzrlib.tests.test_read_bundle',
959
2853
                   'bzrlib.tests.test_reconcile',
 
2854
                   'bzrlib.tests.test_reconfigure',
 
2855
                   'bzrlib.tests.test_registry',
 
2856
                   'bzrlib.tests.test_remote',
960
2857
                   'bzrlib.tests.test_repository',
 
2858
                   'bzrlib.tests.test_revert',
961
2859
                   'bzrlib.tests.test_revision',
962
 
                   'bzrlib.tests.test_revisionnamespaces',
963
 
                   'bzrlib.tests.test_revprops',
 
2860
                   'bzrlib.tests.test_revisionspec',
 
2861
                   'bzrlib.tests.test_revisiontree',
964
2862
                   'bzrlib.tests.test_rio',
 
2863
                   'bzrlib.tests.test_rules',
965
2864
                   'bzrlib.tests.test_sampler',
966
2865
                   'bzrlib.tests.test_selftest',
967
2866
                   'bzrlib.tests.test_setup',
968
2867
                   'bzrlib.tests.test_sftp_transport',
 
2868
                   'bzrlib.tests.test_smart',
969
2869
                   'bzrlib.tests.test_smart_add',
 
2870
                   'bzrlib.tests.test_smart_transport',
 
2871
                   'bzrlib.tests.test_smtp_connection',
970
2872
                   'bzrlib.tests.test_source',
 
2873
                   'bzrlib.tests.test_ssh_transport',
 
2874
                   'bzrlib.tests.test_status',
971
2875
                   'bzrlib.tests.test_store',
 
2876
                   'bzrlib.tests.test_strace',
 
2877
                   'bzrlib.tests.test_subsume',
 
2878
                   'bzrlib.tests.test_switch',
972
2879
                   'bzrlib.tests.test_symbol_versioning',
 
2880
                   'bzrlib.tests.test_tag',
973
2881
                   'bzrlib.tests.test_testament',
 
2882
                   'bzrlib.tests.test_textfile',
 
2883
                   'bzrlib.tests.test_textmerge',
 
2884
                   'bzrlib.tests.test_timestamp',
974
2885
                   'bzrlib.tests.test_trace',
975
2886
                   'bzrlib.tests.test_transactions',
976
2887
                   'bzrlib.tests.test_transform',
977
2888
                   'bzrlib.tests.test_transport',
 
2889
                   'bzrlib.tests.test_transport_implementations',
 
2890
                   'bzrlib.tests.test_transport_log',
 
2891
                   'bzrlib.tests.test_tree',
 
2892
                   'bzrlib.tests.test_treebuilder',
978
2893
                   'bzrlib.tests.test_tsort',
 
2894
                   'bzrlib.tests.test_tuned_gzip',
979
2895
                   'bzrlib.tests.test_ui',
980
2896
                   'bzrlib.tests.test_uncommit',
981
2897
                   'bzrlib.tests.test_upgrade',
 
2898
                   'bzrlib.tests.test_upgrade_stacked',
 
2899
                   'bzrlib.tests.test_urlutils',
 
2900
                   'bzrlib.tests.test_version',
 
2901
                   'bzrlib.tests.test_version_info',
982
2902
                   'bzrlib.tests.test_versionedfile',
983
2903
                   'bzrlib.tests.test_weave',
984
2904
                   'bzrlib.tests.test_whitebox',
 
2905
                   'bzrlib.tests.test_win32utils',
985
2906
                   'bzrlib.tests.test_workingtree',
 
2907
                   'bzrlib.tests.test_workingtree_4',
 
2908
                   'bzrlib.tests.test_wsgi',
986
2909
                   'bzrlib.tests.test_xml',
 
2910
                   'bzrlib.tests.tree_implementations',
 
2911
                   'bzrlib.tests.workingtree_implementations',
 
2912
                   'bzrlib.util.tests.test_bencode',
987
2913
                   ]
988
 
    test_transport_implementations = [
989
 
        'bzrlib.tests.test_transport_implementations']
990
 
 
991
 
    TestCase.BZRPATH = osutils.pathjoin(
992
 
            osutils.realpath(osutils.dirname(bzrlib.__path__[0])), 'bzr')
993
 
    print '%10s: %s' % ('bzr', osutils.realpath(sys.argv[0]))
994
 
    print '%10s: %s' % ('bzrlib', bzrlib.__path__[0])
995
 
    print
996
 
    suite = TestSuite()
997
 
    # python2.4's TestLoader.loadTestsFromNames gives very poor 
998
 
    # errors if it fails to load a named module - no indication of what's
999
 
    # actually wrong, just "no such module".  We should probably override that
1000
 
    # class, but for the moment just load them ourselves. (mbp 20051202)
1001
 
    loader = TestLoader()
1002
 
    from bzrlib.transport import TransportTestProviderAdapter
1003
 
    adapter = TransportTestProviderAdapter()
1004
 
    adapt_modules(test_transport_implementations, adapter, loader, suite)
1005
 
    for mod_name in testmod_names:
1006
 
        mod = _load_module_by_name(mod_name)
1007
 
        suite.addTest(loader.loadTestsFromModule(mod))
1008
 
    for package in packages_to_test():
1009
 
        suite.addTest(package.test_suite())
1010
 
    for m in MODULES_TO_TEST:
1011
 
        suite.addTest(loader.loadTestsFromModule(m))
1012
 
    for m in (MODULES_TO_DOCTEST):
1013
 
        suite.addTest(DocTestSuite(m))
1014
 
    for name, plugin in bzrlib.plugin.all_plugins().items():
1015
 
        if getattr(plugin, 'test_suite', None) is not None:
1016
 
            suite.addTest(plugin.test_suite())
1017
 
    return suite
 
2914
 
 
2915
    loader = TestUtil.TestLoader()
 
2916
 
 
2917
    if starting_with:
 
2918
        starting_with = [test_prefix_alias_registry.resolve_alias(start)
 
2919
                         for start in starting_with]
 
2920
        # We take precedence over keep_only because *at loading time* using
 
2921
        # both options means we will load less tests for the same final result.
 
2922
        def interesting_module(name):
 
2923
            for start in starting_with:
 
2924
                if (
 
2925
                    # Either the module name starts with the specified string
 
2926
                    name.startswith(start)
 
2927
                    # or it may contain tests starting with the specified string
 
2928
                    or start.startswith(name)
 
2929
                    ):
 
2930
                    return True
 
2931
            return False
 
2932
        loader = TestUtil.FilteredByModuleTestLoader(interesting_module)
 
2933
 
 
2934
    elif keep_only is not None:
 
2935
        id_filter = TestIdList(keep_only)
 
2936
        loader = TestUtil.FilteredByModuleTestLoader(id_filter.refers_to)
 
2937
        def interesting_module(name):
 
2938
            return id_filter.refers_to(name)
 
2939
 
 
2940
    else:
 
2941
        loader = TestUtil.TestLoader()
 
2942
        def interesting_module(name):
 
2943
            # No filtering, all modules are interesting
 
2944
            return True
 
2945
 
 
2946
    suite = loader.suiteClass()
 
2947
 
 
2948
    # modules building their suite with loadTestsFromModuleNames
 
2949
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
 
2950
 
 
2951
    modules_to_doctest = [
 
2952
        'bzrlib',
 
2953
        'bzrlib.errors',
 
2954
        'bzrlib.export',
 
2955
        'bzrlib.inventory',
 
2956
        'bzrlib.iterablefile',
 
2957
        'bzrlib.lockdir',
 
2958
        'bzrlib.merge3',
 
2959
        'bzrlib.option',
 
2960
        'bzrlib.store',
 
2961
        'bzrlib.symbol_versioning',
 
2962
        'bzrlib.tests',
 
2963
        'bzrlib.timestamp',
 
2964
        'bzrlib.version_info_formats.format_custom',
 
2965
        ]
 
2966
 
 
2967
    for mod in modules_to_doctest:
 
2968
        if not interesting_module(mod):
 
2969
            # No tests to keep here, move along
 
2970
            continue
 
2971
        try:
 
2972
            doc_suite = doctest.DocTestSuite(mod)
 
2973
        except ValueError, e:
 
2974
            print '**failed to get doctest for: %s\n%s' % (mod, e)
 
2975
            raise
 
2976
        suite.addTest(doc_suite)
 
2977
 
 
2978
    default_encoding = sys.getdefaultencoding()
 
2979
    for name, plugin in bzrlib.plugin.plugins().items():
 
2980
        if not interesting_module(plugin.module.__name__):
 
2981
            continue
 
2982
        plugin_suite = plugin.test_suite()
 
2983
        # We used to catch ImportError here and turn it into just a warning,
 
2984
        # but really if you don't have --no-plugins this should be a failure.
 
2985
        # mbp 20080213 - see http://bugs.launchpad.net/bugs/189771
 
2986
        if plugin_suite is None:
 
2987
            plugin_suite = plugin.load_plugin_tests(loader)
 
2988
        if plugin_suite is not None:
 
2989
            suite.addTest(plugin_suite)
 
2990
        if default_encoding != sys.getdefaultencoding():
 
2991
            bzrlib.trace.warning(
 
2992
                'Plugin "%s" tried to reset default encoding to: %s', name,
 
2993
                sys.getdefaultencoding())
 
2994
            reload(sys)
 
2995
            sys.setdefaultencoding(default_encoding)
 
2996
 
 
2997
    if starting_with:
 
2998
        suite = filter_suite_by_id_startswith(suite, starting_with)
 
2999
 
 
3000
    if keep_only is not None:
 
3001
        # Now that the referred modules have loaded their tests, keep only the
 
3002
        # requested ones.
 
3003
        suite = filter_suite_by_id_list(suite, id_filter)
 
3004
        # Do some sanity checks on the id_list filtering
 
3005
        not_found, duplicates = suite_matches_id_list(suite, keep_only)
 
3006
        if starting_with:
 
3007
            # The tester has used both keep_only and starting_with, so he is
 
3008
            # already aware that some tests are excluded from the list, there
 
3009
            # is no need to tell him which.
 
3010
            pass
 
3011
        else:
 
3012
            # Some tests mentioned in the list are not in the test suite. The
 
3013
            # list may be out of date, report to the tester.
 
3014
            for id in not_found:
 
3015
                bzrlib.trace.warning('"%s" not found in the test suite', id)
 
3016
        for id in duplicates:
 
3017
            bzrlib.trace.warning('"%s" is used as an id by several tests', id)
 
3018
 
 
3019
    return suite
 
3020
 
 
3021
 
 
3022
def multiply_tests_from_modules(module_name_list, scenario_iter, loader=None):
 
3023
    """Adapt all tests in some given modules to given scenarios.
 
3024
 
 
3025
    This is the recommended public interface for test parameterization.
 
3026
    Typically the test_suite() method for a per-implementation test
 
3027
    suite will call multiply_tests_from_modules and return the 
 
3028
    result.
 
3029
 
 
3030
    :param module_name_list: List of fully-qualified names of test
 
3031
        modules.
 
3032
    :param scenario_iter: Iterable of pairs of (scenario_name, 
 
3033
        scenario_param_dict).
 
3034
    :param loader: If provided, will be used instead of a new 
 
3035
        bzrlib.tests.TestLoader() instance.
 
3036
 
 
3037
    This returns a new TestSuite containing the cross product of
 
3038
    all the tests in all the modules, each repeated for each scenario.
 
3039
    Each test is adapted by adding the scenario name at the end 
 
3040
    of its name, and updating the test object's __dict__ with the
 
3041
    scenario_param_dict.
 
3042
 
 
3043
    >>> r = multiply_tests_from_modules(
 
3044
    ...     ['bzrlib.tests.test_sampler'],
 
3045
    ...     [('one', dict(param=1)), 
 
3046
    ...      ('two', dict(param=2))])
 
3047
    >>> tests = list(iter_suite_tests(r))
 
3048
    >>> len(tests)
 
3049
    2
 
3050
    >>> tests[0].id()
 
3051
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
 
3052
    >>> tests[0].param
 
3053
    1
 
3054
    >>> tests[1].param
 
3055
    2
 
3056
    """
 
3057
    # XXX: Isn't load_tests() a better way to provide the same functionality
 
3058
    # without forcing a predefined TestScenarioApplier ? --vila 080215
 
3059
    if loader is None:
 
3060
        loader = TestUtil.TestLoader()
 
3061
 
 
3062
    suite = loader.suiteClass()
 
3063
 
 
3064
    adapter = TestScenarioApplier()
 
3065
    adapter.scenarios = list(scenario_iter)
 
3066
    adapt_modules(module_name_list, adapter, loader, suite)
 
3067
    return suite
 
3068
 
 
3069
 
 
3070
def multiply_scenarios(scenarios_left, scenarios_right):
 
3071
    """Multiply two sets of scenarios.
 
3072
 
 
3073
    :returns: the cartesian product of the two sets of scenarios, that is
 
3074
        a scenario for every possible combination of a left scenario and a
 
3075
        right scenario.
 
3076
    """
 
3077
    return [
 
3078
        ('%s,%s' % (left_name, right_name),
 
3079
         dict(left_dict.items() + right_dict.items()))
 
3080
        for left_name, left_dict in scenarios_left
 
3081
        for right_name, right_dict in scenarios_right]
 
3082
 
1018
3083
 
1019
3084
 
1020
3085
def adapt_modules(mods_list, adapter, loader, suite):
1021
3086
    """Adapt the modules in mods_list using adapter and add to suite."""
1022
 
    for mod_name in mods_list:
1023
 
        mod = _load_module_by_name(mod_name)
1024
 
        for test in iter_suite_tests(loader.loadTestsFromModule(mod)):
1025
 
            suite.addTests(adapter.adapt(test))
1026
 
 
1027
 
 
1028
 
def _load_module_by_name(mod_name):
1029
 
    parts = mod_name.split('.')
1030
 
    module = __import__(mod_name)
1031
 
    del parts[0]
1032
 
    # for historical reasons python returns the top-level module even though
1033
 
    # it loads the submodule; we need to walk down to get the one we want.
1034
 
    while parts:
1035
 
        module = getattr(module, parts.pop(0))
1036
 
    return module
 
3087
    tests = loader.loadTestsFromModuleNames(mods_list)
 
3088
    adapt_tests(tests, adapter, suite)
 
3089
 
 
3090
 
 
3091
def adapt_tests(tests_list, adapter, suite):
 
3092
    """Adapt the tests in tests_list using adapter and add to suite."""
 
3093
    for test in iter_suite_tests(tests_list):
 
3094
        suite.addTests(adapter.adapt(test))
 
3095
 
 
3096
 
 
3097
def _rmtree_temp_dir(dirname):
 
3098
    # If LANG=C we probably have created some bogus paths
 
3099
    # which rmtree(unicode) will fail to delete
 
3100
    # so make sure we are using rmtree(str) to delete everything
 
3101
    # except on win32, where rmtree(str) will fail
 
3102
    # since it doesn't have the property of byte-stream paths
 
3103
    # (they are either ascii or mbcs)
 
3104
    if sys.platform == 'win32':
 
3105
        # make sure we are using the unicode win32 api
 
3106
        dirname = unicode(dirname)
 
3107
    else:
 
3108
        dirname = dirname.encode(sys.getfilesystemencoding())
 
3109
    try:
 
3110
        osutils.rmtree(dirname)
 
3111
    except OSError, e:
 
3112
        if sys.platform == 'win32' and e.errno == errno.EACCES:
 
3113
            sys.stderr.write(('Permission denied: '
 
3114
                                 'unable to remove testing dir '
 
3115
                                 '%s\n' % os.path.basename(dirname)))
 
3116
        else:
 
3117
            raise
 
3118
 
 
3119
 
 
3120
class Feature(object):
 
3121
    """An operating system Feature."""
 
3122
 
 
3123
    def __init__(self):
 
3124
        self._available = None
 
3125
 
 
3126
    def available(self):
 
3127
        """Is the feature available?
 
3128
 
 
3129
        :return: True if the feature is available.
 
3130
        """
 
3131
        if self._available is None:
 
3132
            self._available = self._probe()
 
3133
        return self._available
 
3134
 
 
3135
    def _probe(self):
 
3136
        """Implement this method in concrete features.
 
3137
 
 
3138
        :return: True if the feature is available.
 
3139
        """
 
3140
        raise NotImplementedError
 
3141
 
 
3142
    def __str__(self):
 
3143
        if getattr(self, 'feature_name', None):
 
3144
            return self.feature_name()
 
3145
        return self.__class__.__name__
 
3146
 
 
3147
 
 
3148
class _SymlinkFeature(Feature):
 
3149
 
 
3150
    def _probe(self):
 
3151
        return osutils.has_symlinks()
 
3152
 
 
3153
    def feature_name(self):
 
3154
        return 'symlinks'
 
3155
 
 
3156
SymlinkFeature = _SymlinkFeature()
 
3157
 
 
3158
 
 
3159
class _HardlinkFeature(Feature):
 
3160
 
 
3161
    def _probe(self):
 
3162
        return osutils.has_hardlinks()
 
3163
 
 
3164
    def feature_name(self):
 
3165
        return 'hardlinks'
 
3166
 
 
3167
HardlinkFeature = _HardlinkFeature()
 
3168
 
 
3169
 
 
3170
class _OsFifoFeature(Feature):
 
3171
 
 
3172
    def _probe(self):
 
3173
        return getattr(os, 'mkfifo', None)
 
3174
 
 
3175
    def feature_name(self):
 
3176
        return 'filesystem fifos'
 
3177
 
 
3178
OsFifoFeature = _OsFifoFeature()
 
3179
 
 
3180
 
 
3181
class _UnicodeFilenameFeature(Feature):
 
3182
    """Does the filesystem support Unicode filenames?"""
 
3183
 
 
3184
    def _probe(self):
 
3185
        try:
 
3186
            # Check for character combinations unlikely to be covered by any
 
3187
            # single non-unicode encoding. We use the characters
 
3188
            # - greek small letter alpha (U+03B1) and
 
3189
            # - braille pattern dots-123456 (U+283F).
 
3190
            os.stat(u'\u03b1\u283f')
 
3191
        except UnicodeEncodeError:
 
3192
            return False
 
3193
        except (IOError, OSError):
 
3194
            # The filesystem allows the Unicode filename but the file doesn't
 
3195
            # exist.
 
3196
            return True
 
3197
        else:
 
3198
            # The filesystem allows the Unicode filename and the file exists,
 
3199
            # for some reason.
 
3200
            return True
 
3201
 
 
3202
UnicodeFilenameFeature = _UnicodeFilenameFeature()
 
3203
 
 
3204
 
 
3205
class TestScenarioApplier(object):
 
3206
    """A tool to apply scenarios to tests."""
 
3207
 
 
3208
    def adapt(self, test):
 
3209
        """Return a TestSuite containing a copy of test for each scenario."""
 
3210
        result = unittest.TestSuite()
 
3211
        for scenario in self.scenarios:
 
3212
            result.addTest(self.adapt_test_to_scenario(test, scenario))
 
3213
        return result
 
3214
 
 
3215
    def adapt_test_to_scenario(self, test, scenario):
 
3216
        """Copy test and apply scenario to it.
 
3217
 
 
3218
        :param test: A test to adapt.
 
3219
        :param scenario: A tuple describing the scenarion.
 
3220
            The first element of the tuple is the new test id.
 
3221
            The second element is a dict containing attributes to set on the
 
3222
            test.
 
3223
        :return: The adapted test.
 
3224
        """
 
3225
        from copy import deepcopy
 
3226
        new_test = deepcopy(test)
 
3227
        for name, value in scenario[1].items():
 
3228
            setattr(new_test, name, value)
 
3229
        new_id = "%s(%s)" % (new_test.id(), scenario[0])
 
3230
        new_test.id = lambda: new_id
 
3231
        return new_test
 
3232
 
 
3233
 
 
3234
def probe_unicode_in_user_encoding():
 
3235
    """Try to encode several unicode strings to use in unicode-aware tests.
 
3236
    Return first successfull match.
 
3237
 
 
3238
    :return:  (unicode value, encoded plain string value) or (None, None)
 
3239
    """
 
3240
    possible_vals = [u'm\xb5', u'\xe1', u'\u0410']
 
3241
    for uni_val in possible_vals:
 
3242
        try:
 
3243
            str_val = uni_val.encode(osutils.get_user_encoding())
 
3244
        except UnicodeEncodeError:
 
3245
            # Try a different character
 
3246
            pass
 
3247
        else:
 
3248
            return uni_val, str_val
 
3249
    return None, None
 
3250
 
 
3251
 
 
3252
def probe_bad_non_ascii(encoding):
 
3253
    """Try to find [bad] character with code [128..255]
 
3254
    that cannot be decoded to unicode in some encoding.
 
3255
    Return None if all non-ascii characters is valid
 
3256
    for given encoding.
 
3257
    """
 
3258
    for i in xrange(128, 256):
 
3259
        char = chr(i)
 
3260
        try:
 
3261
            char.decode(encoding)
 
3262
        except UnicodeDecodeError:
 
3263
            return char
 
3264
    return None
 
3265
 
 
3266
 
 
3267
class _FTPServerFeature(Feature):
 
3268
    """Some tests want an FTP Server, check if one is available.
 
3269
 
 
3270
    Right now, the only way this is available is if 'medusa' is installed.
 
3271
    http://www.amk.ca/python/code/medusa.html
 
3272
    """
 
3273
 
 
3274
    def _probe(self):
 
3275
        try:
 
3276
            import bzrlib.tests.ftp_server
 
3277
            return True
 
3278
        except ImportError:
 
3279
            return False
 
3280
 
 
3281
    def feature_name(self):
 
3282
        return 'FTPServer'
 
3283
 
 
3284
FTPServerFeature = _FTPServerFeature()
 
3285
 
 
3286
 
 
3287
class _UnicodeFilename(Feature):
 
3288
    """Does the filesystem support Unicode filenames?"""
 
3289
 
 
3290
    def _probe(self):
 
3291
        try:
 
3292
            os.stat(u'\u03b1')
 
3293
        except UnicodeEncodeError:
 
3294
            return False
 
3295
        except (IOError, OSError):
 
3296
            # The filesystem allows the Unicode filename but the file doesn't
 
3297
            # exist.
 
3298
            return True
 
3299
        else:
 
3300
            # The filesystem allows the Unicode filename and the file exists,
 
3301
            # for some reason.
 
3302
            return True
 
3303
 
 
3304
UnicodeFilename = _UnicodeFilename()
 
3305
 
 
3306
 
 
3307
class _UTF8Filesystem(Feature):
 
3308
    """Is the filesystem UTF-8?"""
 
3309
 
 
3310
    def _probe(self):
 
3311
        if osutils._fs_enc.upper() in ('UTF-8', 'UTF8'):
 
3312
            return True
 
3313
        return False
 
3314
 
 
3315
UTF8Filesystem = _UTF8Filesystem()
 
3316
 
 
3317
 
 
3318
class _CaseInsensitiveFilesystemFeature(Feature):
 
3319
    """Check if underlying filesystem is case-insensitive
 
3320
    (e.g. on Windows, Cygwin, MacOS)
 
3321
    """
 
3322
 
 
3323
    def _probe(self):
 
3324
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
 
3325
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
 
3326
            TestCaseWithMemoryTransport.TEST_ROOT = root
 
3327
        else:
 
3328
            root = TestCaseWithMemoryTransport.TEST_ROOT
 
3329
        tdir = osutils.mkdtemp(prefix='case-sensitive-probe-', suffix='',
 
3330
            dir=root)
 
3331
        name_a = osutils.pathjoin(tdir, 'a')
 
3332
        name_A = osutils.pathjoin(tdir, 'A')
 
3333
        os.mkdir(name_a)
 
3334
        result = osutils.isdir(name_A)
 
3335
        _rmtree_temp_dir(tdir)
 
3336
        return result
 
3337
 
 
3338
    def feature_name(self):
 
3339
        return 'case-insensitive filesystem'
 
3340
 
 
3341
CaseInsensitiveFilesystemFeature = _CaseInsensitiveFilesystemFeature()