~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Vincent Ladeuil
  • Date: 2008-08-26 08:25:27 UTC
  • mto: (3668.1.1 trunk) (3703.1.1 trunk)
  • mto: This revision was merged to the branch mainline in revision 3669.
  • Revision ID: v.ladeuil+lp@free.fr-20080826082527-109yyxzc0u24oeel
Fix all calls to tempfile.mkdtemp to osutils.mkdtemp.

* bzrlib/transform.py:
(TransformPreview.__init__): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/tests/test_whitebox.py:
(MoreTests.test_relpath): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/tests/test_setup.py:
(TestSetup.test_build_and_install): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/tests/test_bundle.py:
(BundleTester.get_checkout): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/tests/blackbox/test_outside_wt.py:
(TestOutsideWT.test_cwd_log,
TestOutsideWT.test_diff_outside_tree): Use osutils.mkdtemp instead
of tempfile.mkdtemp.

* bzrlib/smart/repository.py:
(SmartServerRepositoryTarball._copy_to_tempdir): Use
osutils.mkdtemp instead of tempfile.mkdtemp.
(SmartServerRepositoryTarball._tarfile_response): Line too long.

* bzrlib/remote.py:
(RemoteRepository._copy_repository_tarball): Use osutils.mkdtemp
instead of tempfile.mkdtemp.

* bzrlib/osutils.py:
(_mac_mkdtemp): Add docstring.

* bzrlib/mail_client.py:
(ExternalMailClient.compose): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/diff.py:
(DiffFromTool.__init__): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 by Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006, 2007, 2008 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
26
26
# general style of bzrlib.  Please continue that consistency when adding e.g.
27
27
# new assertFoo() methods.
28
28
 
 
29
import atexit
29
30
import codecs
30
31
from cStringIO import StringIO
31
32
import difflib
33
34
import errno
34
35
import logging
35
36
import os
 
37
from pprint import pformat
 
38
import random
36
39
import re
37
40
import shlex
38
41
import stat
39
42
from subprocess import Popen, PIPE
40
43
import sys
41
44
import tempfile
 
45
import threading
 
46
import time
42
47
import unittest
43
 
import time
44
 
 
45
 
 
 
48
import warnings
 
49
 
 
50
 
 
51
from bzrlib import (
 
52
    branchbuilder,
 
53
    bzrdir,
 
54
    debug,
 
55
    errors,
 
56
    memorytree,
 
57
    osutils,
 
58
    progress,
 
59
    ui,
 
60
    urlutils,
 
61
    workingtree,
 
62
    )
46
63
import bzrlib.branch
47
 
import bzrlib.bzrdir as bzrdir
48
64
import bzrlib.commands
49
 
import bzrlib.bundle.serializer
50
 
import bzrlib.errors as errors
 
65
import bzrlib.timestamp
 
66
import bzrlib.export
51
67
import bzrlib.inventory
52
68
import bzrlib.iterablefile
53
69
import bzrlib.lockdir
58
74
    pass
59
75
from bzrlib.merge import merge_inner
60
76
import bzrlib.merge3
61
 
import bzrlib.osutils
62
 
import bzrlib.osutils as osutils
63
77
import bzrlib.plugin
64
 
import bzrlib.progress as progress
65
 
from bzrlib.revision import common_ancestor
66
78
import bzrlib.store
 
79
from bzrlib import symbol_versioning
 
80
from bzrlib.symbol_versioning import (
 
81
    DEPRECATED_PARAMETER,
 
82
    deprecated_function,
 
83
    deprecated_method,
 
84
    deprecated_passed,
 
85
    )
67
86
import bzrlib.trace
68
87
from bzrlib.transport import get_transport
69
88
import bzrlib.transport
70
 
from bzrlib.transport.local import LocalRelpathServer
 
89
from bzrlib.transport.local import LocalURLServer
 
90
from bzrlib.transport.memory import MemoryServer
71
91
from bzrlib.transport.readonly import ReadonlyServer
72
 
from bzrlib.trace import mutter
 
92
from bzrlib.trace import mutter, note
73
93
from bzrlib.tests import TestUtil
 
94
from bzrlib.tests.http_server import HttpServer
74
95
from bzrlib.tests.TestUtil import (
75
96
                          TestSuite,
76
97
                          TestLoader,
77
98
                          )
78
99
from bzrlib.tests.treeshape import build_tree_contents
79
 
import bzrlib.urlutils as urlutils
 
100
import bzrlib.version_info_formats.format_custom
80
101
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
81
102
 
82
 
default_transport = LocalRelpathServer
83
 
 
84
 
MODULES_TO_TEST = []
85
 
MODULES_TO_DOCTEST = [
86
 
                      bzrlib.branch,
87
 
                      bzrlib.bundle.serializer,
88
 
                      bzrlib.commands,
89
 
                      bzrlib.errors,
90
 
                      bzrlib.inventory,
91
 
                      bzrlib.iterablefile,
92
 
                      bzrlib.lockdir,
93
 
                      bzrlib.merge3,
94
 
                      bzrlib.option,
95
 
                      bzrlib.osutils,
96
 
                      bzrlib.store
97
 
                      ]
98
 
 
99
 
 
100
 
def packages_to_test():
101
 
    """Return a list of packages to test.
102
 
 
103
 
    The packages are not globally imported so that import failures are
104
 
    triggered when running selftest, not when importing the command.
105
 
    """
106
 
    import bzrlib.doc
107
 
    import bzrlib.tests.blackbox
108
 
    import bzrlib.tests.branch_implementations
109
 
    import bzrlib.tests.bzrdir_implementations
110
 
    import bzrlib.tests.interrepository_implementations
111
 
    import bzrlib.tests.interversionedfile_implementations
112
 
    import bzrlib.tests.repository_implementations
113
 
    import bzrlib.tests.revisionstore_implementations
114
 
    import bzrlib.tests.workingtree_implementations
115
 
    return [
116
 
            bzrlib.doc,
117
 
            bzrlib.tests.blackbox,
118
 
            bzrlib.tests.branch_implementations,
119
 
            bzrlib.tests.bzrdir_implementations,
120
 
            bzrlib.tests.interrepository_implementations,
121
 
            bzrlib.tests.interversionedfile_implementations,
122
 
            bzrlib.tests.repository_implementations,
123
 
            bzrlib.tests.revisionstore_implementations,
124
 
            bzrlib.tests.workingtree_implementations,
125
 
            ]
126
 
 
127
 
 
128
 
class _MyResult(unittest._TextTestResult):
129
 
    """Custom TestResult.
130
 
 
131
 
    Shows output in a different format, including displaying runtime for tests.
132
 
    """
 
103
# Mark this python module as being part of the implementation
 
104
# of unittest: this gives us better tracebacks where the last
 
105
# shown frame is the test code, not our assertXYZ.
 
106
__unittest = 1
 
107
 
 
108
default_transport = LocalURLServer
 
109
 
 
110
 
 
111
class ExtendedTestResult(unittest._TextTestResult):
 
112
    """Accepts, reports and accumulates the results of running tests.
 
113
 
 
114
    Compared to the unittest version this class adds support for
 
115
    profiling, benchmarking, stopping as soon as a test fails,  and
 
116
    skipping tests.  There are further-specialized subclasses for
 
117
    different types of display.
 
118
 
 
119
    When a test finishes, in whatever way, it calls one of the addSuccess,
 
120
    addFailure or addError classes.  These in turn may redirect to a more
 
121
    specific case for the special test results supported by our extended
 
122
    tests.
 
123
 
 
124
    Note that just one of these objects is fed the results from many tests.
 
125
    """
 
126
 
133
127
    stop_early = False
134
128
    
135
 
    def __init__(self, stream, descriptions, verbosity, pb=None):
 
129
    def __init__(self, stream, descriptions, verbosity,
 
130
                 bench_history=None,
 
131
                 num_tests=None,
 
132
                 ):
 
133
        """Construct new TestResult.
 
134
 
 
135
        :param bench_history: Optionally, a writable file object to accumulate
 
136
            benchmark results.
 
137
        """
136
138
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
137
 
        self.pb = pb
 
139
        if bench_history is not None:
 
140
            from bzrlib.version import _get_bzr_source_tree
 
141
            src_tree = _get_bzr_source_tree()
 
142
            if src_tree:
 
143
                try:
 
144
                    revision_id = src_tree.get_parent_ids()[0]
 
145
                except IndexError:
 
146
                    # XXX: if this is a brand new tree, do the same as if there
 
147
                    # is no branch.
 
148
                    revision_id = ''
 
149
            else:
 
150
                # XXX: If there's no branch, what should we do?
 
151
                revision_id = ''
 
152
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
 
153
        self._bench_history = bench_history
 
154
        self.ui = ui.ui_factory
 
155
        self.num_tests = num_tests
 
156
        self.error_count = 0
 
157
        self.failure_count = 0
 
158
        self.known_failure_count = 0
 
159
        self.skip_count = 0
 
160
        self.not_applicable_count = 0
 
161
        self.unsupported = {}
 
162
        self.count = 0
 
163
        self._overall_start_time = time.time()
138
164
    
139
 
    def extractBenchmarkTime(self, testCase):
 
165
    def _extractBenchmarkTime(self, testCase):
140
166
        """Add a benchmark time for the current test case."""
141
 
        self._benchmarkTime = getattr(testCase, "_benchtime", None)
 
167
        return getattr(testCase, "_benchtime", None)
142
168
    
143
169
    def _elapsedTestTimeString(self):
144
170
        """Return a time string for the overall time the current test has taken."""
145
171
        return self._formatTime(time.time() - self._start_time)
146
172
 
147
 
    def _testTimeString(self):
148
 
        if self._benchmarkTime is not None:
 
173
    def _testTimeString(self, testCase):
 
174
        benchmark_time = self._extractBenchmarkTime(testCase)
 
175
        if benchmark_time is not None:
149
176
            return "%s/%s" % (
150
 
                self._formatTime(self._benchmarkTime),
 
177
                self._formatTime(benchmark_time),
151
178
                self._elapsedTestTimeString())
152
179
        else:
153
 
            return "      %s" % self._elapsedTestTimeString()
 
180
            return "           %s" % self._elapsedTestTimeString()
154
181
 
155
182
    def _formatTime(self, seconds):
156
183
        """Format seconds as milliseconds with leading spaces."""
157
 
        return "%5dms" % (1000 * seconds)
 
184
        # some benchmarks can take thousands of seconds to run, so we need 8
 
185
        # places
 
186
        return "%8dms" % (1000 * seconds)
158
187
 
159
 
    def _ellipsise_unimportant_words(self, a_string, final_width,
160
 
                                   keep_start=False):
161
 
        """Add ellipses (sp?) for overly long strings.
162
 
        
163
 
        :param keep_start: If true preserve the start of a_string rather
164
 
                           than the end of it.
165
 
        """
166
 
        if keep_start:
167
 
            if len(a_string) > final_width:
168
 
                result = a_string[:final_width-3] + '...'
169
 
            else:
170
 
                result = a_string
171
 
        else:
172
 
            if len(a_string) > final_width:
173
 
                result = '...' + a_string[3-final_width:]
174
 
            else:
175
 
                result = a_string
176
 
        return result.ljust(final_width)
 
188
    def _shortened_test_description(self, test):
 
189
        what = test.id()
 
190
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
191
        return what
177
192
 
178
193
    def startTest(self, test):
179
194
        unittest.TestResult.startTest(self, test)
180
 
        # In a short description, the important words are in
181
 
        # the beginning, but in an id, the important words are
182
 
        # at the end
183
 
        SHOW_DESCRIPTIONS = False
184
 
 
185
 
        if not self.showAll and self.dots and self.pb is not None:
186
 
            final_width = 13
187
 
        else:
188
 
            final_width = osutils.terminal_width()
189
 
            final_width = final_width - 15 - 8
190
 
        what = None
191
 
        if SHOW_DESCRIPTIONS:
192
 
            what = test.shortDescription()
193
 
            if what:
194
 
                what = self._ellipsise_unimportant_words(what, final_width, keep_start=True)
195
 
        if what is None:
196
 
            what = test.id()
197
 
            if what.startswith('bzrlib.tests.'):
198
 
                what = what[13:]
199
 
            what = self._ellipsise_unimportant_words(what, final_width)
200
 
        if self.showAll:
201
 
            self.stream.write(what)
202
 
        elif self.dots and self.pb is not None:
203
 
            self.pb.update(what, self.testsRun - 1, None)
204
 
        self.stream.flush()
 
195
        self.report_test_start(test)
 
196
        test.number = self.count
205
197
        self._recordTestStartTime()
206
198
 
207
199
    def _recordTestStartTime(self):
208
200
        """Record that a test has started."""
209
201
        self._start_time = time.time()
210
202
 
 
203
    def _cleanupLogFile(self, test):
 
204
        # We can only do this if we have one of our TestCases, not if
 
205
        # we have a doctest.
 
206
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
 
207
        if setKeepLogfile is not None:
 
208
            setKeepLogfile()
 
209
 
211
210
    def addError(self, test, err):
 
211
        """Tell result that test finished with an error.
 
212
 
 
213
        Called from the TestCase run() method when the test
 
214
        fails with an unexpected error.
 
215
        """
 
216
        self._testConcluded(test)
212
217
        if isinstance(err[1], TestSkipped):
213
 
            return self.addSkipped(test, err)    
214
 
        unittest.TestResult.addError(self, test, err)
215
 
        self.extractBenchmarkTime(test)
216
 
        if self.showAll:
217
 
            self.stream.writeln("ERROR %s" % self._testTimeString())
218
 
        elif self.dots and self.pb is None:
219
 
            self.stream.write('E')
220
 
        elif self.dots:
221
 
            self.pb.update(self._ellipsise_unimportant_words('ERROR', 13), self.testsRun, None)
222
 
        self.stream.flush()
223
 
        if self.stop_early:
224
 
            self.stop()
 
218
            return self._addSkipped(test, err)
 
219
        elif isinstance(err[1], UnavailableFeature):
 
220
            return self.addNotSupported(test, err[1].args[0])
 
221
        else:
 
222
            unittest.TestResult.addError(self, test, err)
 
223
            self.error_count += 1
 
224
            self.report_error(test, err)
 
225
            if self.stop_early:
 
226
                self.stop()
 
227
            self._cleanupLogFile(test)
225
228
 
226
229
    def addFailure(self, test, err):
227
 
        unittest.TestResult.addFailure(self, test, err)
228
 
        self.extractBenchmarkTime(test)
229
 
        if self.showAll:
230
 
            self.stream.writeln(" FAIL %s" % self._testTimeString())
231
 
        elif self.dots and self.pb is None:
232
 
            self.stream.write('F')
233
 
        elif self.dots:
234
 
            self.pb.update(self._ellipsise_unimportant_words('FAIL', 13), self.testsRun, None)
235
 
        self.stream.flush()
236
 
        if self.stop_early:
237
 
            self.stop()
 
230
        """Tell result that test failed.
 
231
 
 
232
        Called from the TestCase run() method when the test
 
233
        fails because e.g. an assert() method failed.
 
234
        """
 
235
        self._testConcluded(test)
 
236
        if isinstance(err[1], KnownFailure):
 
237
            return self._addKnownFailure(test, err)
 
238
        else:
 
239
            unittest.TestResult.addFailure(self, test, err)
 
240
            self.failure_count += 1
 
241
            self.report_failure(test, err)
 
242
            if self.stop_early:
 
243
                self.stop()
 
244
            self._cleanupLogFile(test)
238
245
 
239
246
    def addSuccess(self, test):
240
 
        self.extractBenchmarkTime(test)
241
 
        if self.showAll:
242
 
            self.stream.writeln('   OK %s' % self._testTimeString())
243
 
            for bench_called, stats in getattr(test, '_benchcalls', []):
244
 
                self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
245
 
                stats.pprint(file=self.stream)
246
 
        elif self.dots and self.pb is None:
247
 
            self.stream.write('~')
248
 
        elif self.dots:
249
 
            self.pb.update(self._ellipsise_unimportant_words('OK', 13), self.testsRun, None)
250
 
        self.stream.flush()
 
247
        """Tell result that test completed successfully.
 
248
 
 
249
        Called from the TestCase run()
 
250
        """
 
251
        self._testConcluded(test)
 
252
        if self._bench_history is not None:
 
253
            benchmark_time = self._extractBenchmarkTime(test)
 
254
            if benchmark_time is not None:
 
255
                self._bench_history.write("%s %s\n" % (
 
256
                    self._formatTime(benchmark_time),
 
257
                    test.id()))
 
258
        self.report_success(test)
 
259
        self._cleanupLogFile(test)
251
260
        unittest.TestResult.addSuccess(self, test)
252
 
 
253
 
    def addSkipped(self, test, skip_excinfo):
254
 
        self.extractBenchmarkTime(test)
255
 
        if self.showAll:
256
 
            print >>self.stream, ' SKIP %s' % self._testTimeString()
257
 
            print >>self.stream, '     %s' % skip_excinfo[1]
258
 
        elif self.dots and self.pb is None:
259
 
            self.stream.write('S')
260
 
        elif self.dots:
261
 
            self.pb.update(self._ellipsise_unimportant_words('SKIP', 13), self.testsRun, None)
262
 
        self.stream.flush()
263
 
        # seems best to treat this as success from point-of-view of unittest
264
 
        # -- it actually does nothing so it barely matters :)
 
261
        test._log_contents = ''
 
262
 
 
263
    def _testConcluded(self, test):
 
264
        """Common code when a test has finished.
 
265
 
 
266
        Called regardless of whether it succeded, failed, etc.
 
267
        """
 
268
        pass
 
269
 
 
270
    def _addKnownFailure(self, test, err):
 
271
        self.known_failure_count += 1
 
272
        self.report_known_failure(test, err)
 
273
 
 
274
    def addNotSupported(self, test, feature):
 
275
        """The test will not be run because of a missing feature.
 
276
        """
 
277
        # this can be called in two different ways: it may be that the
 
278
        # test started running, and then raised (through addError) 
 
279
        # UnavailableFeature.  Alternatively this method can be called
 
280
        # while probing for features before running the tests; in that
 
281
        # case we will see startTest and stopTest, but the test will never
 
282
        # actually run.
 
283
        self.unsupported.setdefault(str(feature), 0)
 
284
        self.unsupported[str(feature)] += 1
 
285
        self.report_unsupported(test, feature)
 
286
 
 
287
    def _addSkipped(self, test, skip_excinfo):
 
288
        if isinstance(skip_excinfo[1], TestNotApplicable):
 
289
            self.not_applicable_count += 1
 
290
            self.report_not_applicable(test, skip_excinfo)
 
291
        else:
 
292
            self.skip_count += 1
 
293
            self.report_skip(test, skip_excinfo)
265
294
        try:
266
295
            test.tearDown()
267
296
        except KeyboardInterrupt:
268
297
            raise
269
298
        except:
270
 
            self.addError(test, test.__exc_info())
 
299
            self.addError(test, test._exc_info())
271
300
        else:
 
301
            # seems best to treat this as success from point-of-view of unittest
 
302
            # -- it actually does nothing so it barely matters :)
272
303
            unittest.TestResult.addSuccess(self, test)
 
304
            test._log_contents = ''
273
305
 
274
306
    def printErrorList(self, flavour, errors):
275
307
        for test, err in errors:
276
308
            self.stream.writeln(self.separator1)
277
 
            self.stream.writeln("%s: %s" % (flavour, self.getDescription(test)))
 
309
            self.stream.write("%s: " % flavour)
 
310
            self.stream.writeln(self.getDescription(test))
278
311
            if getattr(test, '_get_log', None) is not None:
279
 
                print >>self.stream
280
 
                print >>self.stream, \
281
 
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-')
282
 
                print >>self.stream, test._get_log()
283
 
                print >>self.stream, \
284
 
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-')
 
312
                self.stream.write('\n')
 
313
                self.stream.write(
 
314
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-'))
 
315
                self.stream.write('\n')
 
316
                self.stream.write(test._get_log())
 
317
                self.stream.write('\n')
 
318
                self.stream.write(
 
319
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-'))
 
320
                self.stream.write('\n')
285
321
            self.stream.writeln(self.separator2)
286
322
            self.stream.writeln("%s" % err)
287
323
 
 
324
    def finished(self):
 
325
        pass
 
326
 
 
327
    def report_cleaning_up(self):
 
328
        pass
 
329
 
 
330
    def report_success(self, test):
 
331
        pass
 
332
 
 
333
    def wasStrictlySuccessful(self):
 
334
        if self.unsupported or self.known_failure_count:
 
335
            return False
 
336
        return self.wasSuccessful()
 
337
 
 
338
 
 
339
class TextTestResult(ExtendedTestResult):
 
340
    """Displays progress and results of tests in text form"""
 
341
 
 
342
    def __init__(self, stream, descriptions, verbosity,
 
343
                 bench_history=None,
 
344
                 num_tests=None,
 
345
                 pb=None,
 
346
                 ):
 
347
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
 
348
            bench_history, num_tests)
 
349
        if pb is None:
 
350
            self.pb = self.ui.nested_progress_bar()
 
351
            self._supplied_pb = False
 
352
        else:
 
353
            self.pb = pb
 
354
            self._supplied_pb = True
 
355
        self.pb.show_pct = False
 
356
        self.pb.show_spinner = False
 
357
        self.pb.show_eta = False,
 
358
        self.pb.show_count = False
 
359
        self.pb.show_bar = False
 
360
 
 
361
    def report_starting(self):
 
362
        self.pb.update('[test 0/%d] starting...' % (self.num_tests))
 
363
 
 
364
    def _progress_prefix_text(self):
 
365
        # the longer this text, the less space we have to show the test
 
366
        # name...
 
367
        a = '[%d' % self.count              # total that have been run
 
368
        # tests skipped as known not to be relevant are not important enough
 
369
        # to show here
 
370
        ## if self.skip_count:
 
371
        ##     a += ', %d skip' % self.skip_count
 
372
        ## if self.known_failure_count:
 
373
        ##     a += '+%dX' % self.known_failure_count
 
374
        if self.num_tests is not None:
 
375
            a +='/%d' % self.num_tests
 
376
        a += ' in '
 
377
        runtime = time.time() - self._overall_start_time
 
378
        if runtime >= 60:
 
379
            a += '%dm%ds' % (runtime / 60, runtime % 60)
 
380
        else:
 
381
            a += '%ds' % runtime
 
382
        if self.error_count:
 
383
            a += ', %d err' % self.error_count
 
384
        if self.failure_count:
 
385
            a += ', %d fail' % self.failure_count
 
386
        if self.unsupported:
 
387
            a += ', %d missing' % len(self.unsupported)
 
388
        a += ']'
 
389
        return a
 
390
 
 
391
    def report_test_start(self, test):
 
392
        self.count += 1
 
393
        self.pb.update(
 
394
                self._progress_prefix_text()
 
395
                + ' ' 
 
396
                + self._shortened_test_description(test))
 
397
 
 
398
    def _test_description(self, test):
 
399
        return self._shortened_test_description(test)
 
400
 
 
401
    def report_error(self, test, err):
 
402
        self.pb.note('ERROR: %s\n    %s\n', 
 
403
            self._test_description(test),
 
404
            err[1],
 
405
            )
 
406
 
 
407
    def report_failure(self, test, err):
 
408
        self.pb.note('FAIL: %s\n    %s\n', 
 
409
            self._test_description(test),
 
410
            err[1],
 
411
            )
 
412
 
 
413
    def report_known_failure(self, test, err):
 
414
        self.pb.note('XFAIL: %s\n%s\n',
 
415
            self._test_description(test), err[1])
 
416
 
 
417
    def report_skip(self, test, skip_excinfo):
 
418
        pass
 
419
 
 
420
    def report_not_applicable(self, test, skip_excinfo):
 
421
        pass
 
422
 
 
423
    def report_unsupported(self, test, feature):
 
424
        """test cannot be run because feature is missing."""
 
425
                  
 
426
    def report_cleaning_up(self):
 
427
        self.pb.update('cleaning up...')
 
428
 
 
429
    def finished(self):
 
430
        if not self._supplied_pb:
 
431
            self.pb.finished()
 
432
 
 
433
 
 
434
class VerboseTestResult(ExtendedTestResult):
 
435
    """Produce long output, with one line per test run plus times"""
 
436
 
 
437
    def _ellipsize_to_right(self, a_string, final_width):
 
438
        """Truncate and pad a string, keeping the right hand side"""
 
439
        if len(a_string) > final_width:
 
440
            result = '...' + a_string[3-final_width:]
 
441
        else:
 
442
            result = a_string
 
443
        return result.ljust(final_width)
 
444
 
 
445
    def report_starting(self):
 
446
        self.stream.write('running %d tests...\n' % self.num_tests)
 
447
 
 
448
    def report_test_start(self, test):
 
449
        self.count += 1
 
450
        name = self._shortened_test_description(test)
 
451
        # width needs space for 6 char status, plus 1 for slash, plus 2 10-char
 
452
        # numbers, plus a trailing blank
 
453
        # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on space
 
454
        self.stream.write(self._ellipsize_to_right(name,
 
455
                          osutils.terminal_width()-30))
 
456
        self.stream.flush()
 
457
 
 
458
    def _error_summary(self, err):
 
459
        indent = ' ' * 4
 
460
        return '%s%s' % (indent, err[1])
 
461
 
 
462
    def report_error(self, test, err):
 
463
        self.stream.writeln('ERROR %s\n%s'
 
464
                % (self._testTimeString(test),
 
465
                   self._error_summary(err)))
 
466
 
 
467
    def report_failure(self, test, err):
 
468
        self.stream.writeln(' FAIL %s\n%s'
 
469
                % (self._testTimeString(test),
 
470
                   self._error_summary(err)))
 
471
 
 
472
    def report_known_failure(self, test, err):
 
473
        self.stream.writeln('XFAIL %s\n%s'
 
474
                % (self._testTimeString(test),
 
475
                   self._error_summary(err)))
 
476
 
 
477
    def report_success(self, test):
 
478
        self.stream.writeln('   OK %s' % self._testTimeString(test))
 
479
        for bench_called, stats in getattr(test, '_benchcalls', []):
 
480
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
481
            stats.pprint(file=self.stream)
 
482
        # flush the stream so that we get smooth output. This verbose mode is
 
483
        # used to show the output in PQM.
 
484
        self.stream.flush()
 
485
 
 
486
    def report_skip(self, test, skip_excinfo):
 
487
        self.stream.writeln(' SKIP %s\n%s'
 
488
                % (self._testTimeString(test),
 
489
                   self._error_summary(skip_excinfo)))
 
490
 
 
491
    def report_not_applicable(self, test, skip_excinfo):
 
492
        self.stream.writeln('  N/A %s\n%s'
 
493
                % (self._testTimeString(test),
 
494
                   self._error_summary(skip_excinfo)))
 
495
 
 
496
    def report_unsupported(self, test, feature):
 
497
        """test cannot be run because feature is missing."""
 
498
        self.stream.writeln("NODEP %s\n    The feature '%s' is not available."
 
499
                %(self._testTimeString(test), feature))
 
500
 
288
501
 
289
502
class TextTestRunner(object):
290
503
    stop_on_failure = False
293
506
                 stream=sys.stderr,
294
507
                 descriptions=0,
295
508
                 verbosity=1,
296
 
                 keep_output=False,
297
 
                 pb=None):
 
509
                 bench_history=None,
 
510
                 list_only=False
 
511
                 ):
298
512
        self.stream = unittest._WritelnDecorator(stream)
299
513
        self.descriptions = descriptions
300
514
        self.verbosity = verbosity
301
 
        self.keep_output = keep_output
302
 
        self.pb = pb
303
 
 
304
 
    def _makeResult(self):
305
 
        result = _MyResult(self.stream,
306
 
                           self.descriptions,
307
 
                           self.verbosity,
308
 
                           pb=self.pb)
309
 
        result.stop_early = self.stop_on_failure
310
 
        return result
 
515
        self._bench_history = bench_history
 
516
        self.list_only = list_only
311
517
 
312
518
    def run(self, test):
313
519
        "Run the given test case or test suite."
314
 
        result = self._makeResult()
315
520
        startTime = time.time()
316
 
        if self.pb is not None:
317
 
            self.pb.update('Running tests', 0, test.countTestCases())
318
 
        test.run(result)
 
521
        if self.verbosity == 1:
 
522
            result_class = TextTestResult
 
523
        elif self.verbosity >= 2:
 
524
            result_class = VerboseTestResult
 
525
        result = result_class(self.stream,
 
526
                              self.descriptions,
 
527
                              self.verbosity,
 
528
                              bench_history=self._bench_history,
 
529
                              num_tests=test.countTestCases(),
 
530
                              )
 
531
        result.stop_early = self.stop_on_failure
 
532
        result.report_starting()
 
533
        if self.list_only:
 
534
            if self.verbosity >= 2:
 
535
                self.stream.writeln("Listing tests only ...\n")
 
536
            run = 0
 
537
            for t in iter_suite_tests(test):
 
538
                self.stream.writeln("%s" % (t.id()))
 
539
                run += 1
 
540
            actionTaken = "Listed"
 
541
        else: 
 
542
            test.run(result)
 
543
            run = result.testsRun
 
544
            actionTaken = "Ran"
319
545
        stopTime = time.time()
320
546
        timeTaken = stopTime - startTime
321
547
        result.printErrors()
322
548
        self.stream.writeln(result.separator2)
323
 
        run = result.testsRun
324
 
        self.stream.writeln("Ran %d test%s in %.3fs" %
325
 
                            (run, run != 1 and "s" or "", timeTaken))
 
549
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
 
550
                            run, run != 1 and "s" or "", timeTaken))
326
551
        self.stream.writeln()
327
552
        if not result.wasSuccessful():
328
553
            self.stream.write("FAILED (")
332
557
            if errored:
333
558
                if failed: self.stream.write(", ")
334
559
                self.stream.write("errors=%d" % errored)
 
560
            if result.known_failure_count:
 
561
                if failed or errored: self.stream.write(", ")
 
562
                self.stream.write("known_failure_count=%d" %
 
563
                    result.known_failure_count)
335
564
            self.stream.writeln(")")
336
565
        else:
337
 
            self.stream.writeln("OK")
338
 
        if self.pb is not None:
339
 
            self.pb.update('Cleaning up', 0, 1)
340
 
        # This is still a little bogus, 
341
 
        # but only a little. Folk not using our testrunner will
342
 
        # have to delete their temp directories themselves.
343
 
        test_root = TestCaseInTempDir.TEST_ROOT
344
 
        if result.wasSuccessful() or not self.keep_output:
345
 
            if test_root is not None:
346
 
                # If LANG=C we probably have created some bogus paths
347
 
                # which rmtree(unicode) will fail to delete
348
 
                # so make sure we are using rmtree(str) to delete everything
349
 
                # except on win32, where rmtree(str) will fail
350
 
                # since it doesn't have the property of byte-stream paths
351
 
                # (they are either ascii or mbcs)
352
 
                if sys.platform == 'win32':
353
 
                    # make sure we are using the unicode win32 api
354
 
                    test_root = unicode(test_root)
355
 
                else:
356
 
                    test_root = test_root.encode(
357
 
                        sys.getfilesystemencoding())
358
 
                osutils.rmtree(test_root)
359
 
        else:
360
 
            if self.pb is not None:
361
 
                self.pb.note("Failed tests working directories are in '%s'\n",
362
 
                             test_root)
 
566
            if result.known_failure_count:
 
567
                self.stream.writeln("OK (known_failures=%d)" %
 
568
                    result.known_failure_count)
363
569
            else:
364
 
                self.stream.writeln(
365
 
                    "Failed tests working directories are in '%s'\n" %
366
 
                    test_root)
367
 
        TestCaseInTempDir.TEST_ROOT = None
368
 
        if self.pb is not None:
369
 
            self.pb.clear()
 
570
                self.stream.writeln("OK")
 
571
        if result.skip_count > 0:
 
572
            skipped = result.skip_count
 
573
            self.stream.writeln('%d test%s skipped' %
 
574
                                (skipped, skipped != 1 and "s" or ""))
 
575
        if result.unsupported:
 
576
            for feature, count in sorted(result.unsupported.items()):
 
577
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
578
                    (feature, count))
 
579
        result.finished()
370
580
        return result
371
581
 
372
582
 
385
595
 
386
596
class TestSkipped(Exception):
387
597
    """Indicates that a test was intentionally skipped, rather than failing."""
388
 
    # XXX: Not used yet
 
598
 
 
599
 
 
600
class TestNotApplicable(TestSkipped):
 
601
    """A test is not applicable to the situation where it was run.
 
602
 
 
603
    This is only normally raised by parameterized tests, if they find that 
 
604
    the instance they're constructed upon does not support one aspect 
 
605
    of its interface.
 
606
    """
 
607
 
 
608
 
 
609
class KnownFailure(AssertionError):
 
610
    """Indicates that a test failed in a precisely expected manner.
 
611
 
 
612
    Such failures dont block the whole test suite from passing because they are
 
613
    indicators of partially completed code or of future work. We have an
 
614
    explicit error for them so that we can ensure that they are always visible:
 
615
    KnownFailures are always shown in the output of bzr selftest.
 
616
    """
 
617
 
 
618
 
 
619
class UnavailableFeature(Exception):
 
620
    """A feature required for this test was not available.
 
621
 
 
622
    The feature should be used to construct the exception.
 
623
    """
389
624
 
390
625
 
391
626
class CommandFailed(Exception):
418
653
            return setattr(self._cstring, name, val)
419
654
 
420
655
 
 
656
class TestUIFactory(ui.CLIUIFactory):
 
657
    """A UI Factory for testing.
 
658
 
 
659
    Hide the progress bar but emit note()s.
 
660
    Redirect stdin.
 
661
    Allows get_password to be tested without real tty attached.
 
662
    """
 
663
 
 
664
    def __init__(self,
 
665
                 stdout=None,
 
666
                 stderr=None,
 
667
                 stdin=None):
 
668
        super(TestUIFactory, self).__init__()
 
669
        if stdin is not None:
 
670
            # We use a StringIOWrapper to be able to test various
 
671
            # encodings, but the user is still responsible to
 
672
            # encode the string and to set the encoding attribute
 
673
            # of StringIOWrapper.
 
674
            self.stdin = StringIOWrapper(stdin)
 
675
        if stdout is None:
 
676
            self.stdout = sys.stdout
 
677
        else:
 
678
            self.stdout = stdout
 
679
        if stderr is None:
 
680
            self.stderr = sys.stderr
 
681
        else:
 
682
            self.stderr = stderr
 
683
 
 
684
    def clear(self):
 
685
        """See progress.ProgressBar.clear()."""
 
686
 
 
687
    def clear_term(self):
 
688
        """See progress.ProgressBar.clear_term()."""
 
689
 
 
690
    def clear_term(self):
 
691
        """See progress.ProgressBar.clear_term()."""
 
692
 
 
693
    def finished(self):
 
694
        """See progress.ProgressBar.finished()."""
 
695
 
 
696
    def note(self, fmt_string, *args, **kwargs):
 
697
        """See progress.ProgressBar.note()."""
 
698
        self.stdout.write((fmt_string + "\n") % args)
 
699
 
 
700
    def progress_bar(self):
 
701
        return self
 
702
 
 
703
    def nested_progress_bar(self):
 
704
        return self
 
705
 
 
706
    def update(self, message, count=None, total=None):
 
707
        """See progress.ProgressBar.update()."""
 
708
 
 
709
    def get_non_echoed_password(self, prompt):
 
710
        """Get password from stdin without trying to handle the echo mode"""
 
711
        if prompt:
 
712
            self.stdout.write(prompt.encode(self.stdout.encoding, 'replace'))
 
713
        password = self.stdin.readline()
 
714
        if not password:
 
715
            raise EOFError
 
716
        if password[-1] == '\n':
 
717
            password = password[:-1]
 
718
        return password
 
719
 
 
720
 
 
721
def _report_leaked_threads():
 
722
    bzrlib.trace.warning('%s is leaking threads among %d leaking tests',
 
723
                         TestCase._first_thread_leaker_id,
 
724
                         TestCase._leaking_threads_tests)
 
725
 
 
726
 
421
727
class TestCase(unittest.TestCase):
422
728
    """Base class for bzr unit tests.
423
729
    
439
745
    accidentally overlooked.
440
746
    """
441
747
 
 
748
    _active_threads = None
 
749
    _leaking_threads_tests = 0
 
750
    _first_thread_leaker_id = None
442
751
    _log_file_name = None
443
752
    _log_contents = ''
 
753
    _keep_log_file = False
444
754
    # record lsprof data when performing benchmark calls.
445
755
    _gather_lsprof_in_benchmarks = False
 
756
    attrs_to_keep = ('id', '_testMethodName', '_testMethodDoc',
 
757
                     '_log_contents', '_log_file_name', '_benchtime',
 
758
                     '_TestCase__testMethodName')
446
759
 
447
760
    def __init__(self, methodName='testMethod'):
448
761
        super(TestCase, self).__init__(methodName)
451
764
    def setUp(self):
452
765
        unittest.TestCase.setUp(self)
453
766
        self._cleanEnvironment()
454
 
        bzrlib.trace.disable_default_logging()
 
767
        self._silenceUI()
455
768
        self._startLogFile()
456
769
        self._benchcalls = []
457
770
        self._benchtime = None
 
771
        self._clear_hooks()
 
772
        self._clear_debug_flags()
 
773
        TestCase._active_threads = threading.activeCount()
 
774
        self.addCleanup(self._check_leaked_threads)
 
775
 
 
776
    def _check_leaked_threads(self):
 
777
        active = threading.activeCount()
 
778
        leaked_threads = active - TestCase._active_threads
 
779
        TestCase._active_threads = active
 
780
        if leaked_threads:
 
781
            TestCase._leaking_threads_tests += 1
 
782
            if TestCase._first_thread_leaker_id is None:
 
783
                TestCase._first_thread_leaker_id = self.id()
 
784
                # we're not specifically told when all tests are finished.
 
785
                # This will do. We use a function to avoid keeping a reference
 
786
                # to a TestCase object.
 
787
                atexit.register(_report_leaked_threads)
 
788
 
 
789
    def _clear_debug_flags(self):
 
790
        """Prevent externally set debug flags affecting tests.
 
791
        
 
792
        Tests that want to use debug flags can just set them in the
 
793
        debug_flags set during setup/teardown.
 
794
        """
 
795
        if 'allow_debug' not in selftest_debug_flags:
 
796
            self._preserved_debug_flags = set(debug.debug_flags)
 
797
            debug.debug_flags.clear()
 
798
            self.addCleanup(self._restore_debug_flags)
 
799
 
 
800
    def _clear_hooks(self):
 
801
        # prevent hooks affecting tests
 
802
        import bzrlib.branch
 
803
        import bzrlib.smart.server
 
804
        self._preserved_hooks = {
 
805
            bzrlib.branch.Branch: bzrlib.branch.Branch.hooks,
 
806
            bzrlib.mutabletree.MutableTree: bzrlib.mutabletree.MutableTree.hooks,
 
807
            bzrlib.smart.server.SmartTCPServer: bzrlib.smart.server.SmartTCPServer.hooks,
 
808
            }
 
809
        self.addCleanup(self._restoreHooks)
 
810
        # reset all hooks to an empty instance of the appropriate type
 
811
        bzrlib.branch.Branch.hooks = bzrlib.branch.BranchHooks()
 
812
        bzrlib.smart.server.SmartTCPServer.hooks = bzrlib.smart.server.SmartServerHooks()
 
813
 
 
814
    def _silenceUI(self):
 
815
        """Turn off UI for duration of test"""
 
816
        # by default the UI is off; tests can turn it on if they want it.
 
817
        saved = ui.ui_factory
 
818
        def _restore():
 
819
            ui.ui_factory = saved
 
820
        ui.ui_factory = ui.SilentUIFactory()
 
821
        self.addCleanup(_restore)
458
822
 
459
823
    def _ndiff_strings(self, a, b):
460
824
        """Return ndiff between two strings containing lines.
471
835
                                  charjunk=lambda x: False)
472
836
        return ''.join(difflines)
473
837
 
 
838
    def assertEqual(self, a, b, message=''):
 
839
        try:
 
840
            if a == b:
 
841
                return
 
842
        except UnicodeError, e:
 
843
            # If we can't compare without getting a UnicodeError, then
 
844
            # obviously they are different
 
845
            mutter('UnicodeError: %s', e)
 
846
        if message:
 
847
            message += '\n'
 
848
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
 
849
            % (message,
 
850
               pformat(a), pformat(b)))
 
851
 
 
852
    assertEquals = assertEqual
 
853
 
474
854
    def assertEqualDiff(self, a, b, message=None):
475
855
        """Assert two texts are equal, if not raise an exception.
476
856
        
482
862
            return
483
863
        if message is None:
484
864
            message = "texts not equal:\n"
485
 
        raise AssertionError(message + 
486
 
                             self._ndiff_strings(a, b))      
 
865
        if a == b + '\n':
 
866
            message = 'first string is missing a final newline.\n'
 
867
        if a + '\n' == b:
 
868
            message = 'second string is missing a final newline.\n'
 
869
        raise AssertionError(message +
 
870
                             self._ndiff_strings(a, b))
487
871
        
488
872
    def assertEqualMode(self, mode, mode_test):
489
873
        self.assertEqual(mode, mode_test,
490
874
                         'mode mismatch %o != %o' % (mode, mode_test))
491
875
 
 
876
    def assertPositive(self, val):
 
877
        """Assert that val is greater than 0."""
 
878
        self.assertTrue(val > 0, 'expected a positive value, but got %s' % val)
 
879
 
 
880
    def assertNegative(self, val):
 
881
        """Assert that val is less than 0."""
 
882
        self.assertTrue(val < 0, 'expected a negative value, but got %s' % val)
 
883
 
492
884
    def assertStartsWith(self, s, prefix):
493
885
        if not s.startswith(prefix):
494
886
            raise AssertionError('string %r does not start with %r' % (s, prefix))
501
893
    def assertContainsRe(self, haystack, needle_re):
502
894
        """Assert that a contains something matching a regular expression."""
503
895
        if not re.search(needle_re, haystack):
504
 
            raise AssertionError('pattern "%s" not found in "%s"'
505
 
                    % (needle_re, haystack))
 
896
            if '\n' in haystack or len(haystack) > 60:
 
897
                # a long string, format it in a more readable way
 
898
                raise AssertionError(
 
899
                        'pattern "%s" not found in\n"""\\\n%s"""\n'
 
900
                        % (needle_re, haystack))
 
901
            else:
 
902
                raise AssertionError('pattern "%s" not found in "%s"'
 
903
                        % (needle_re, haystack))
506
904
 
507
905
    def assertNotContainsRe(self, haystack, needle_re):
508
906
        """Assert that a does not match a regular expression"""
512
910
 
513
911
    def assertSubset(self, sublist, superlist):
514
912
        """Assert that every entry in sublist is present in superlist."""
515
 
        missing = []
516
 
        for entry in sublist:
517
 
            if entry not in superlist:
518
 
                missing.append(entry)
 
913
        missing = set(sublist) - set(superlist)
519
914
        if len(missing) > 0:
520
 
            raise AssertionError("value(s) %r not present in container %r" % 
 
915
            raise AssertionError("value(s) %r not present in container %r" %
521
916
                                 (missing, superlist))
522
917
 
523
 
    def assertIs(self, left, right):
 
918
    def assertListRaises(self, excClass, func, *args, **kwargs):
 
919
        """Fail unless excClass is raised when the iterator from func is used.
 
920
        
 
921
        Many functions can return generators this makes sure
 
922
        to wrap them in a list() call to make sure the whole generator
 
923
        is run, and that the proper exception is raised.
 
924
        """
 
925
        try:
 
926
            list(func(*args, **kwargs))
 
927
        except excClass, e:
 
928
            return e
 
929
        else:
 
930
            if getattr(excClass,'__name__', None) is not None:
 
931
                excName = excClass.__name__
 
932
            else:
 
933
                excName = str(excClass)
 
934
            raise self.failureException, "%s not raised" % excName
 
935
 
 
936
    def assertRaises(self, excClass, callableObj, *args, **kwargs):
 
937
        """Assert that a callable raises a particular exception.
 
938
 
 
939
        :param excClass: As for the except statement, this may be either an
 
940
            exception class, or a tuple of classes.
 
941
        :param callableObj: A callable, will be passed ``*args`` and
 
942
            ``**kwargs``.
 
943
 
 
944
        Returns the exception so that you can examine it.
 
945
        """
 
946
        try:
 
947
            callableObj(*args, **kwargs)
 
948
        except excClass, e:
 
949
            return e
 
950
        else:
 
951
            if getattr(excClass,'__name__', None) is not None:
 
952
                excName = excClass.__name__
 
953
            else:
 
954
                # probably a tuple
 
955
                excName = str(excClass)
 
956
            raise self.failureException, "%s not raised" % excName
 
957
 
 
958
    def assertIs(self, left, right, message=None):
524
959
        if not (left is right):
525
 
            raise AssertionError("%r is not %r." % (left, right))
 
960
            if message is not None:
 
961
                raise AssertionError(message)
 
962
            else:
 
963
                raise AssertionError("%r is not %r." % (left, right))
 
964
 
 
965
    def assertIsNot(self, left, right, message=None):
 
966
        if (left is right):
 
967
            if message is not None:
 
968
                raise AssertionError(message)
 
969
            else:
 
970
                raise AssertionError("%r is %r." % (left, right))
526
971
 
527
972
    def assertTransportMode(self, transport, path, mode):
528
973
        """Fail if a path does not have mode mode.
536
981
        self.assertEqual(mode, actual_mode,
537
982
            'mode of %r incorrect (%o != %o)' % (path, mode, actual_mode))
538
983
 
 
984
    def assertIsSameRealPath(self, path1, path2):
 
985
        """Fail if path1 and path2 points to different files"""
 
986
        self.assertEqual(osutils.realpath(path1),
 
987
                         osutils.realpath(path2),
 
988
                         "apparent paths:\na = %s\nb = %s\n," % (path1, path2))
 
989
 
539
990
    def assertIsInstance(self, obj, kls):
540
991
        """Fail if obj is not an instance of kls"""
541
992
        if not isinstance(obj, kls):
542
993
            self.fail("%r is an instance of %s rather than %s" % (
543
994
                obj, obj.__class__, kls))
544
995
 
 
996
    def expectFailure(self, reason, assertion, *args, **kwargs):
 
997
        """Invoke a test, expecting it to fail for the given reason.
 
998
 
 
999
        This is for assertions that ought to succeed, but currently fail.
 
1000
        (The failure is *expected* but not *wanted*.)  Please be very precise
 
1001
        about the failure you're expecting.  If a new bug is introduced,
 
1002
        AssertionError should be raised, not KnownFailure.
 
1003
 
 
1004
        Frequently, expectFailure should be followed by an opposite assertion.
 
1005
        See example below.
 
1006
 
 
1007
        Intended to be used with a callable that raises AssertionError as the
 
1008
        'assertion' parameter.  args and kwargs are passed to the 'assertion'.
 
1009
 
 
1010
        Raises KnownFailure if the test fails.  Raises AssertionError if the
 
1011
        test succeeds.
 
1012
 
 
1013
        example usage::
 
1014
 
 
1015
          self.expectFailure('Math is broken', self.assertNotEqual, 54,
 
1016
                             dynamic_val)
 
1017
          self.assertEqual(42, dynamic_val)
 
1018
 
 
1019
          This means that a dynamic_val of 54 will cause the test to raise
 
1020
          a KnownFailure.  Once math is fixed and the expectFailure is removed,
 
1021
          only a dynamic_val of 42 will allow the test to pass.  Anything other
 
1022
          than 54 or 42 will cause an AssertionError.
 
1023
        """
 
1024
        try:
 
1025
            assertion(*args, **kwargs)
 
1026
        except AssertionError:
 
1027
            raise KnownFailure(reason)
 
1028
        else:
 
1029
            self.fail('Unexpected success.  Should have failed: %s' % reason)
 
1030
 
 
1031
    def assertFileEqual(self, content, path):
 
1032
        """Fail if path does not contain 'content'."""
 
1033
        self.failUnlessExists(path)
 
1034
        f = file(path, 'rb')
 
1035
        try:
 
1036
            s = f.read()
 
1037
        finally:
 
1038
            f.close()
 
1039
        self.assertEqualDiff(content, s)
 
1040
 
 
1041
    def failUnlessExists(self, path):
 
1042
        """Fail unless path or paths, which may be abs or relative, exist."""
 
1043
        if not isinstance(path, basestring):
 
1044
            for p in path:
 
1045
                self.failUnlessExists(p)
 
1046
        else:
 
1047
            self.failUnless(osutils.lexists(path),path+" does not exist")
 
1048
 
 
1049
    def failIfExists(self, path):
 
1050
        """Fail if path or paths, which may be abs or relative, exist."""
 
1051
        if not isinstance(path, basestring):
 
1052
            for p in path:
 
1053
                self.failIfExists(p)
 
1054
        else:
 
1055
            self.failIf(osutils.lexists(path),path+" exists")
 
1056
 
 
1057
    def _capture_deprecation_warnings(self, a_callable, *args, **kwargs):
 
1058
        """A helper for callDeprecated and applyDeprecated.
 
1059
 
 
1060
        :param a_callable: A callable to call.
 
1061
        :param args: The positional arguments for the callable
 
1062
        :param kwargs: The keyword arguments for the callable
 
1063
        :return: A tuple (warnings, result). result is the result of calling
 
1064
            a_callable(``*args``, ``**kwargs``).
 
1065
        """
 
1066
        local_warnings = []
 
1067
        def capture_warnings(msg, cls=None, stacklevel=None):
 
1068
            # we've hooked into a deprecation specific callpath,
 
1069
            # only deprecations should getting sent via it.
 
1070
            self.assertEqual(cls, DeprecationWarning)
 
1071
            local_warnings.append(msg)
 
1072
        original_warning_method = symbol_versioning.warn
 
1073
        symbol_versioning.set_warning_method(capture_warnings)
 
1074
        try:
 
1075
            result = a_callable(*args, **kwargs)
 
1076
        finally:
 
1077
            symbol_versioning.set_warning_method(original_warning_method)
 
1078
        return (local_warnings, result)
 
1079
 
 
1080
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
 
1081
        """Call a deprecated callable without warning the user.
 
1082
 
 
1083
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1084
        not other callers that go direct to the warning module.
 
1085
 
 
1086
        To test that a deprecated method raises an error, do something like
 
1087
        this::
 
1088
 
 
1089
            self.assertRaises(errors.ReservedId,
 
1090
                self.applyDeprecated,
 
1091
                deprecated_in((1, 5, 0)),
 
1092
                br.append_revision,
 
1093
                'current:')
 
1094
 
 
1095
        :param deprecation_format: The deprecation format that the callable
 
1096
            should have been deprecated with. This is the same type as the
 
1097
            parameter to deprecated_method/deprecated_function. If the
 
1098
            callable is not deprecated with this format, an assertion error
 
1099
            will be raised.
 
1100
        :param a_callable: A callable to call. This may be a bound method or
 
1101
            a regular function. It will be called with ``*args`` and
 
1102
            ``**kwargs``.
 
1103
        :param args: The positional arguments for the callable
 
1104
        :param kwargs: The keyword arguments for the callable
 
1105
        :return: The result of a_callable(``*args``, ``**kwargs``)
 
1106
        """
 
1107
        call_warnings, result = self._capture_deprecation_warnings(a_callable,
 
1108
            *args, **kwargs)
 
1109
        expected_first_warning = symbol_versioning.deprecation_string(
 
1110
            a_callable, deprecation_format)
 
1111
        if len(call_warnings) == 0:
 
1112
            self.fail("No deprecation warning generated by call to %s" %
 
1113
                a_callable)
 
1114
        self.assertEqual(expected_first_warning, call_warnings[0])
 
1115
        return result
 
1116
 
 
1117
    def callCatchWarnings(self, fn, *args, **kw):
 
1118
        """Call a callable that raises python warnings.
 
1119
 
 
1120
        The caller's responsible for examining the returned warnings.
 
1121
 
 
1122
        If the callable raises an exception, the exception is not
 
1123
        caught and propagates up to the caller.  In that case, the list
 
1124
        of warnings is not available.
 
1125
 
 
1126
        :returns: ([warning_object, ...], fn_result)
 
1127
        """
 
1128
        # XXX: This is not perfect, because it completely overrides the
 
1129
        # warnings filters, and some code may depend on suppressing particular
 
1130
        # warnings.  It's the easiest way to insulate ourselves from -Werror,
 
1131
        # though.  -- Andrew, 20071062
 
1132
        wlist = []
 
1133
        def _catcher(message, category, filename, lineno, file=None):
 
1134
            # despite the name, 'message' is normally(?) a Warning subclass
 
1135
            # instance
 
1136
            wlist.append(message)
 
1137
        saved_showwarning = warnings.showwarning
 
1138
        saved_filters = warnings.filters
 
1139
        try:
 
1140
            warnings.showwarning = _catcher
 
1141
            warnings.filters = []
 
1142
            result = fn(*args, **kw)
 
1143
        finally:
 
1144
            warnings.showwarning = saved_showwarning
 
1145
            warnings.filters = saved_filters
 
1146
        return wlist, result
 
1147
 
 
1148
    def callDeprecated(self, expected, callable, *args, **kwargs):
 
1149
        """Assert that a callable is deprecated in a particular way.
 
1150
 
 
1151
        This is a very precise test for unusual requirements. The 
 
1152
        applyDeprecated helper function is probably more suited for most tests
 
1153
        as it allows you to simply specify the deprecation format being used
 
1154
        and will ensure that that is issued for the function being called.
 
1155
 
 
1156
        Note that this only captures warnings raised by symbol_versioning.warn,
 
1157
        not other callers that go direct to the warning module.  To catch
 
1158
        general warnings, use callCatchWarnings.
 
1159
 
 
1160
        :param expected: a list of the deprecation warnings expected, in order
 
1161
        :param callable: The callable to call
 
1162
        :param args: The positional arguments for the callable
 
1163
        :param kwargs: The keyword arguments for the callable
 
1164
        """
 
1165
        call_warnings, result = self._capture_deprecation_warnings(callable,
 
1166
            *args, **kwargs)
 
1167
        self.assertEqual(expected, call_warnings)
 
1168
        return result
 
1169
 
545
1170
    def _startLogFile(self):
546
1171
        """Send bzr and test log messages to a temporary file.
547
1172
 
548
1173
        The file is removed as the test is torn down.
549
1174
        """
550
1175
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
551
 
        encoder, decoder, stream_reader, stream_writer = codecs.lookup('UTF-8')
552
 
        self._log_file = stream_writer(os.fdopen(fileno, 'w+'))
553
 
        self._log_nonce = bzrlib.trace.enable_test_log(self._log_file)
 
1176
        self._log_file = os.fdopen(fileno, 'w+')
 
1177
        self._log_memento = bzrlib.trace.push_log_file(self._log_file)
554
1178
        self._log_file_name = name
555
1179
        self.addCleanup(self._finishLogFile)
556
1180
 
557
1181
    def _finishLogFile(self):
558
1182
        """Finished with the log file.
559
1183
 
560
 
        Read contents into memory, close, and delete.
 
1184
        Close the file and delete it, unless setKeepLogfile was called.
561
1185
        """
562
1186
        if self._log_file is None:
563
1187
            return
564
 
        bzrlib.trace.disable_test_log(self._log_nonce)
565
 
        self._log_file.seek(0)
566
 
        self._log_contents = self._log_file.read()
 
1188
        bzrlib.trace.pop_log_file(self._log_memento)
567
1189
        self._log_file.close()
568
 
        os.remove(self._log_file_name)
569
 
        self._log_file = self._log_file_name = None
570
 
 
571
 
    def addCleanup(self, callable):
 
1190
        self._log_file = None
 
1191
        if not self._keep_log_file:
 
1192
            os.remove(self._log_file_name)
 
1193
            self._log_file_name = None
 
1194
 
 
1195
    def setKeepLogfile(self):
 
1196
        """Make the logfile not be deleted when _finishLogFile is called."""
 
1197
        self._keep_log_file = True
 
1198
 
 
1199
    def addCleanup(self, callable, *args, **kwargs):
572
1200
        """Arrange to run a callable when this case is torn down.
573
1201
 
574
1202
        Callables are run in the reverse of the order they are registered, 
575
1203
        ie last-in first-out.
576
1204
        """
577
 
        if callable in self._cleanups:
578
 
            raise ValueError("cleanup function %r already registered on %s" 
579
 
                    % (callable, self))
580
 
        self._cleanups.append(callable)
 
1205
        self._cleanups.append((callable, args, kwargs))
581
1206
 
582
1207
    def _cleanEnvironment(self):
583
1208
        new_env = {
 
1209
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
584
1210
            'HOME': os.getcwd(),
585
 
            'APPDATA': os.getcwd(),
586
 
            'BZREMAIL': None,
 
1211
            'APPDATA': None,  # bzr now use Win32 API and don't rely on APPDATA
 
1212
            'BZR_EDITOR': None, # test_msgeditor manipulates this variable
 
1213
            'BZR_EMAIL': None,
 
1214
            'BZREMAIL': None, # may still be present in the environment
587
1215
            'EMAIL': None,
 
1216
            'BZR_PROGRESS_BAR': None,
 
1217
            'BZR_LOG': None,
 
1218
            # SSH Agent
 
1219
            'SSH_AUTH_SOCK': None,
 
1220
            # Proxies
 
1221
            'http_proxy': None,
 
1222
            'HTTP_PROXY': None,
 
1223
            'https_proxy': None,
 
1224
            'HTTPS_PROXY': None,
 
1225
            'no_proxy': None,
 
1226
            'NO_PROXY': None,
 
1227
            'all_proxy': None,
 
1228
            'ALL_PROXY': None,
 
1229
            # Nobody cares about these ones AFAIK. So far at
 
1230
            # least. If you do (care), please update this comment
 
1231
            # -- vila 20061212
 
1232
            'ftp_proxy': None,
 
1233
            'FTP_PROXY': None,
 
1234
            'BZR_REMOTE_PATH': None,
588
1235
        }
589
1236
        self.__old_env = {}
590
1237
        self.addCleanup(self._restoreEnvironment)
591
1238
        for name, value in new_env.iteritems():
592
1239
            self._captureVar(name, value)
593
1240
 
594
 
 
595
1241
    def _captureVar(self, name, newvalue):
596
 
        """Set an environment variable, preparing it to be reset when finished."""
597
 
        self.__old_env[name] = os.environ.get(name, None)
598
 
        if newvalue is None:
599
 
            if name in os.environ:
600
 
                del os.environ[name]
601
 
        else:
602
 
            os.environ[name] = newvalue
 
1242
        """Set an environment variable, and reset it when finished."""
 
1243
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
603
1244
 
604
 
    @staticmethod
605
 
    def _restoreVar(name, value):
606
 
        if value is None:
607
 
            if name in os.environ:
608
 
                del os.environ[name]
609
 
        else:
610
 
            os.environ[name] = value
 
1245
    def _restore_debug_flags(self):
 
1246
        debug.debug_flags.clear()
 
1247
        debug.debug_flags.update(self._preserved_debug_flags)
611
1248
 
612
1249
    def _restoreEnvironment(self):
613
1250
        for name, value in self.__old_env.iteritems():
614
 
            self._restoreVar(name, value)
 
1251
            osutils.set_or_unset_env(name, value)
 
1252
 
 
1253
    def _restoreHooks(self):
 
1254
        for klass, hooks in self._preserved_hooks.items():
 
1255
            setattr(klass, 'hooks', hooks)
 
1256
 
 
1257
    def knownFailure(self, reason):
 
1258
        """This test has failed for some known reason."""
 
1259
        raise KnownFailure(reason)
 
1260
 
 
1261
    def run(self, result=None):
 
1262
        if result is None: result = self.defaultTestResult()
 
1263
        for feature in getattr(self, '_test_needs_features', []):
 
1264
            if not feature.available():
 
1265
                result.startTest(self)
 
1266
                if getattr(result, 'addNotSupported', None):
 
1267
                    result.addNotSupported(self, feature)
 
1268
                else:
 
1269
                    result.addSuccess(self)
 
1270
                result.stopTest(self)
 
1271
                return
 
1272
        try:
 
1273
            return unittest.TestCase.run(self, result)
 
1274
        finally:
 
1275
            saved_attrs = {}
 
1276
            absent_attr = object()
 
1277
            for attr_name in self.attrs_to_keep:
 
1278
                attr = getattr(self, attr_name, absent_attr)
 
1279
                if attr is not absent_attr:
 
1280
                    saved_attrs[attr_name] = attr
 
1281
            self.__dict__ = saved_attrs
615
1282
 
616
1283
    def tearDown(self):
617
1284
        self._runCleanups()
646
1313
        """
647
1314
        # TODO: Perhaps this should keep running cleanups even if 
648
1315
        # one of them fails?
649
 
        for cleanup_fn in reversed(self._cleanups):
650
 
            cleanup_fn()
 
1316
 
 
1317
        # Actually pop the cleanups from the list so tearDown running
 
1318
        # twice is safe (this happens for skipped tests).
 
1319
        while self._cleanups:
 
1320
            cleanup, args, kwargs = self._cleanups.pop()
 
1321
            cleanup(*args, **kwargs)
651
1322
 
652
1323
    def log(self, *args):
653
1324
        mutter(*args)
654
1325
 
655
 
    def _get_log(self):
656
 
        """Return as a string the log for this test"""
657
 
        if self._log_file_name:
658
 
            return open(self._log_file_name).read()
659
 
        else:
 
1326
    def _get_log(self, keep_log_file=False):
 
1327
        """Get the log from bzrlib.trace calls from this test.
 
1328
 
 
1329
        :param keep_log_file: When True, if the log is still a file on disk
 
1330
            leave it as a file on disk. When False, if the log is still a file
 
1331
            on disk, the log file is deleted and the log preserved as
 
1332
            self._log_contents.
 
1333
        :return: A string containing the log.
 
1334
        """
 
1335
        # flush the log file, to get all content
 
1336
        import bzrlib.trace
 
1337
        bzrlib.trace._trace_file.flush()
 
1338
        if self._log_contents:
 
1339
            # XXX: this can hardly contain the content flushed above --vila
 
1340
            # 20080128
660
1341
            return self._log_contents
661
 
        # TODO: Delete the log after it's been read in
662
 
 
663
 
    def capture(self, cmd, retcode=0):
664
 
        """Shortcut that splits cmd into words, runs, and returns stdout"""
665
 
        return self.run_bzr_captured(cmd.split(), retcode=retcode)[0]
666
 
 
667
 
    def run_bzr_captured(self, argv, retcode=0, encoding=None, stdin=None):
668
 
        """Invoke bzr and return (stdout, stderr).
669
 
 
670
 
        Useful for code that wants to check the contents of the
671
 
        output, the way error messages are presented, etc.
672
 
 
673
 
        This should be the main method for tests that want to exercise the
674
 
        overall behavior of the bzr application (rather than a unit test
675
 
        or a functional test of the library.)
676
 
 
677
 
        Much of the old code runs bzr by forking a new copy of Python, but
678
 
        that is slower, harder to debug, and generally not necessary.
679
 
 
680
 
        This runs bzr through the interface that catches and reports
681
 
        errors, and with logging set to something approximating the
682
 
        default, so that error reporting can be checked.
683
 
 
684
 
        :param argv: arguments to invoke bzr
685
 
        :param retcode: expected return code, or None for don't-care.
686
 
        :param encoding: encoding for sys.stdout and sys.stderr
687
 
        :param stdin: A string to be used as stdin for the command.
 
1342
        if self._log_file_name is not None:
 
1343
            logfile = open(self._log_file_name)
 
1344
            try:
 
1345
                log_contents = logfile.read()
 
1346
            finally:
 
1347
                logfile.close()
 
1348
            if not keep_log_file:
 
1349
                self._log_contents = log_contents
 
1350
                try:
 
1351
                    os.remove(self._log_file_name)
 
1352
                except OSError, e:
 
1353
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
 
1354
                        sys.stderr.write(('Unable to delete log file '
 
1355
                                             ' %r\n' % self._log_file_name))
 
1356
                    else:
 
1357
                        raise
 
1358
            return log_contents
 
1359
        else:
 
1360
            return "DELETED log file to reduce memory footprint"
 
1361
 
 
1362
    def requireFeature(self, feature):
 
1363
        """This test requires a specific feature is available.
 
1364
 
 
1365
        :raises UnavailableFeature: When feature is not available.
688
1366
        """
 
1367
        if not feature.available():
 
1368
            raise UnavailableFeature(feature)
 
1369
 
 
1370
    def _run_bzr_autosplit(self, args, retcode, encoding, stdin,
 
1371
            working_dir):
 
1372
        """Run bazaar command line, splitting up a string command line."""
 
1373
        if isinstance(args, basestring):
 
1374
            # shlex don't understand unicode strings,
 
1375
            # so args should be plain string (bialix 20070906)
 
1376
            args = list(shlex.split(str(args)))
 
1377
        return self._run_bzr_core(args, retcode=retcode,
 
1378
                encoding=encoding, stdin=stdin, working_dir=working_dir,
 
1379
                )
 
1380
 
 
1381
    def _run_bzr_core(self, args, retcode, encoding, stdin,
 
1382
            working_dir):
689
1383
        if encoding is None:
690
1384
            encoding = bzrlib.user_encoding
691
 
        if stdin is not None:
692
 
            stdin = StringIO(stdin)
693
1385
        stdout = StringIOWrapper()
694
1386
        stderr = StringIOWrapper()
695
1387
        stdout.encoding = encoding
696
1388
        stderr.encoding = encoding
697
1389
 
698
 
        self.log('run bzr: %r', argv)
 
1390
        self.log('run bzr: %r', args)
699
1391
        # FIXME: don't call into logging here
700
1392
        handler = logging.StreamHandler(stderr)
701
1393
        handler.setLevel(logging.INFO)
702
1394
        logger = logging.getLogger('')
703
1395
        logger.addHandler(handler)
704
 
        old_ui_factory = bzrlib.ui.ui_factory
705
 
        bzrlib.ui.ui_factory = bzrlib.tests.blackbox.TestUIFactory(
706
 
            stdout=stdout,
707
 
            stderr=stderr)
708
 
        bzrlib.ui.ui_factory.stdin = stdin
 
1396
        old_ui_factory = ui.ui_factory
 
1397
        ui.ui_factory = TestUIFactory(stdin=stdin, stdout=stdout, stderr=stderr)
 
1398
 
 
1399
        cwd = None
 
1400
        if working_dir is not None:
 
1401
            cwd = osutils.getcwd()
 
1402
            os.chdir(working_dir)
 
1403
 
709
1404
        try:
710
 
            result = self.apply_redirected(stdin, stdout, stderr,
711
 
                                           bzrlib.commands.run_bzr_catch_errors,
712
 
                                           argv)
 
1405
            result = self.apply_redirected(ui.ui_factory.stdin,
 
1406
                stdout, stderr,
 
1407
                bzrlib.commands.run_bzr_catch_user_errors,
 
1408
                args)
713
1409
        finally:
714
1410
            logger.removeHandler(handler)
715
 
            bzrlib.ui.ui_factory = old_ui_factory
 
1411
            ui.ui_factory = old_ui_factory
 
1412
            if cwd is not None:
 
1413
                os.chdir(cwd)
716
1414
 
717
1415
        out = stdout.getvalue()
718
1416
        err = stderr.getvalue()
721
1419
        if err:
722
1420
            self.log('errors:\n%r', err)
723
1421
        if retcode is not None:
724
 
            self.assertEquals(retcode, result)
 
1422
            self.assertEquals(retcode, result,
 
1423
                              message='Unexpected return code')
725
1424
        return out, err
726
1425
 
727
 
    def run_bzr(self, *args, **kwargs):
 
1426
    def run_bzr(self, args, retcode=0, encoding=None, stdin=None,
 
1427
                working_dir=None, error_regexes=[], output_encoding=None):
728
1428
        """Invoke bzr, as if it were run from the command line.
729
1429
 
 
1430
        The argument list should not include the bzr program name - the
 
1431
        first argument is normally the bzr command.  Arguments may be
 
1432
        passed in three ways:
 
1433
 
 
1434
        1- A list of strings, eg ["commit", "a"].  This is recommended
 
1435
        when the command contains whitespace or metacharacters, or 
 
1436
        is built up at run time.
 
1437
 
 
1438
        2- A single string, eg "add a".  This is the most convenient 
 
1439
        for hardcoded commands.
 
1440
 
 
1441
        This runs bzr through the interface that catches and reports
 
1442
        errors, and with logging set to something approximating the
 
1443
        default, so that error reporting can be checked.
 
1444
 
730
1445
        This should be the main method for tests that want to exercise the
731
1446
        overall behavior of the bzr application (rather than a unit test
732
1447
        or a functional test of the library.)
734
1449
        This sends the stdout/stderr results into the test's log,
735
1450
        where it may be useful for debugging.  See also run_captured.
736
1451
 
737
 
        :param stdin: A string to be used as stdin for the command.
 
1452
        :keyword stdin: A string to be used as stdin for the command.
 
1453
        :keyword retcode: The status code the command should return;
 
1454
            default 0.
 
1455
        :keyword working_dir: The directory to run the command in
 
1456
        :keyword error_regexes: A list of expected error messages.  If
 
1457
            specified they must be seen in the error output of the command.
738
1458
        """
739
 
        retcode = kwargs.pop('retcode', 0)
740
 
        encoding = kwargs.pop('encoding', None)
741
 
        stdin = kwargs.pop('stdin', None)
742
 
        return self.run_bzr_captured(args, retcode=retcode, encoding=encoding, stdin=stdin)
743
 
 
744
 
    def run_bzr_decode(self, *args, **kwargs):
745
 
        if kwargs.has_key('encoding'):
746
 
            encoding = kwargs['encoding']
747
 
        else:
748
 
            encoding = bzrlib.user_encoding
749
 
        return self.run_bzr(*args, **kwargs)[0].decode(encoding)
 
1459
        out, err = self._run_bzr_autosplit(
 
1460
            args=args,
 
1461
            retcode=retcode,
 
1462
            encoding=encoding,
 
1463
            stdin=stdin,
 
1464
            working_dir=working_dir,
 
1465
            )
 
1466
        for regex in error_regexes:
 
1467
            self.assertContainsRe(err, regex)
 
1468
        return out, err
750
1469
 
751
1470
    def run_bzr_error(self, error_regexes, *args, **kwargs):
752
1471
        """Run bzr, and check that stderr contains the supplied regexes
753
 
        
754
 
        :param error_regexes: Sequence of regular expressions which 
 
1472
 
 
1473
        :param error_regexes: Sequence of regular expressions which
755
1474
            must each be found in the error output. The relative ordering
756
1475
            is not enforced.
757
1476
        :param args: command-line arguments for bzr
758
1477
        :param kwargs: Keyword arguments which are interpreted by run_bzr
759
1478
            This function changes the default value of retcode to be 3,
760
1479
            since in most cases this is run when you expect bzr to fail.
761
 
        :return: (out, err) The actual output of running the command (in case you
762
 
                 want to do more inspection)
763
 
 
764
 
        Examples of use:
 
1480
 
 
1481
        :return: (out, err) The actual output of running the command (in case
 
1482
            you want to do more inspection)
 
1483
 
 
1484
        Examples of use::
 
1485
 
765
1486
            # Make sure that commit is failing because there is nothing to do
766
1487
            self.run_bzr_error(['no changes to commit'],
767
 
                               'commit', '-m', 'my commit comment')
 
1488
                               ['commit', '-m', 'my commit comment'])
768
1489
            # Make sure --strict is handling an unknown file, rather than
769
1490
            # giving us the 'nothing to do' error
770
1491
            self.build_tree(['unknown'])
771
1492
            self.run_bzr_error(['Commit refused because there are unknown files'],
772
 
                               'commit', '--strict', '-m', 'my commit comment')
 
1493
                               ['commit', --strict', '-m', 'my commit comment'])
773
1494
        """
774
1495
        kwargs.setdefault('retcode', 3)
 
1496
        kwargs['error_regexes'] = error_regexes
775
1497
        out, err = self.run_bzr(*args, **kwargs)
776
 
        for regex in error_regexes:
777
 
            self.assertContainsRe(err, regex)
778
1498
        return out, err
779
1499
 
780
1500
    def run_bzr_subprocess(self, *args, **kwargs):
786
1506
        handling, or early startup code, etc.  Subprocess code can't be 
787
1507
        profiled or debugged so easily.
788
1508
 
 
1509
        :keyword retcode: The status code that is expected.  Defaults to 0.  If
 
1510
            None is supplied, the status code is not checked.
 
1511
        :keyword env_changes: A dictionary which lists changes to environment
 
1512
            variables. A value of None will unset the env variable.
 
1513
            The values must be strings. The change will only occur in the
 
1514
            child, so you don't need to fix the environment after running.
 
1515
        :keyword universal_newlines: Convert CRLF => LF
 
1516
        :keyword allow_plugins: By default the subprocess is run with
 
1517
            --no-plugins to ensure test reproducibility. Also, it is possible
 
1518
            for system-wide plugins to create unexpected output on stderr,
 
1519
            which can cause unnecessary test failures.
 
1520
        """
 
1521
        env_changes = kwargs.get('env_changes', {})
 
1522
        working_dir = kwargs.get('working_dir', None)
 
1523
        allow_plugins = kwargs.get('allow_plugins', False)
 
1524
        if len(args) == 1:
 
1525
            if isinstance(args[0], list):
 
1526
                args = args[0]
 
1527
            elif isinstance(args[0], basestring):
 
1528
                args = list(shlex.split(args[0]))
 
1529
        else:
 
1530
            raise ValueError("passing varargs to run_bzr_subprocess")
 
1531
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
 
1532
                                            working_dir=working_dir,
 
1533
                                            allow_plugins=allow_plugins)
 
1534
        # We distinguish between retcode=None and retcode not passed.
 
1535
        supplied_retcode = kwargs.get('retcode', 0)
 
1536
        return self.finish_bzr_subprocess(process, retcode=supplied_retcode,
 
1537
            universal_newlines=kwargs.get('universal_newlines', False),
 
1538
            process_args=args)
 
1539
 
 
1540
    def start_bzr_subprocess(self, process_args, env_changes=None,
 
1541
                             skip_if_plan_to_signal=False,
 
1542
                             working_dir=None,
 
1543
                             allow_plugins=False):
 
1544
        """Start bzr in a subprocess for testing.
 
1545
 
 
1546
        This starts a new Python interpreter and runs bzr in there.
 
1547
        This should only be used for tests that have a justifiable need for
 
1548
        this isolation: e.g. they are testing startup time, or signal
 
1549
        handling, or early startup code, etc.  Subprocess code can't be
 
1550
        profiled or debugged so easily.
 
1551
 
 
1552
        :param process_args: a list of arguments to pass to the bzr executable,
 
1553
            for example ``['--version']``.
 
1554
        :param env_changes: A dictionary which lists changes to environment
 
1555
            variables. A value of None will unset the env variable.
 
1556
            The values must be strings. The change will only occur in the
 
1557
            child, so you don't need to fix the environment after running.
 
1558
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
 
1559
            is not available.
 
1560
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
1561
 
 
1562
        :returns: Popen object for the started process.
 
1563
        """
 
1564
        if skip_if_plan_to_signal:
 
1565
            if not getattr(os, 'kill', None):
 
1566
                raise TestSkipped("os.kill not available.")
 
1567
 
 
1568
        if env_changes is None:
 
1569
            env_changes = {}
 
1570
        old_env = {}
 
1571
 
 
1572
        def cleanup_environment():
 
1573
            for env_var, value in env_changes.iteritems():
 
1574
                old_env[env_var] = osutils.set_or_unset_env(env_var, value)
 
1575
 
 
1576
        def restore_environment():
 
1577
            for env_var, value in old_env.iteritems():
 
1578
                osutils.set_or_unset_env(env_var, value)
 
1579
 
 
1580
        bzr_path = self.get_bzr_path()
 
1581
 
 
1582
        cwd = None
 
1583
        if working_dir is not None:
 
1584
            cwd = osutils.getcwd()
 
1585
            os.chdir(working_dir)
 
1586
 
 
1587
        try:
 
1588
            # win32 subprocess doesn't support preexec_fn
 
1589
            # so we will avoid using it on all platforms, just to
 
1590
            # make sure the code path is used, and we don't break on win32
 
1591
            cleanup_environment()
 
1592
            command = [sys.executable]
 
1593
            # frozen executables don't need the path to bzr
 
1594
            if getattr(sys, "frozen", None) is None:
 
1595
                command.append(bzr_path)
 
1596
            if not allow_plugins:
 
1597
                command.append('--no-plugins')
 
1598
            command.extend(process_args)
 
1599
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
1600
        finally:
 
1601
            restore_environment()
 
1602
            if cwd is not None:
 
1603
                os.chdir(cwd)
 
1604
 
 
1605
        return process
 
1606
 
 
1607
    def _popen(self, *args, **kwargs):
 
1608
        """Place a call to Popen.
 
1609
 
 
1610
        Allows tests to override this method to intercept the calls made to
 
1611
        Popen for introspection.
 
1612
        """
 
1613
        return Popen(*args, **kwargs)
 
1614
 
 
1615
    def get_bzr_path(self):
 
1616
        """Return the path of the 'bzr' executable for this test suite."""
 
1617
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
1618
        if not os.path.isfile(bzr_path):
 
1619
            # We are probably installed. Assume sys.argv is the right file
 
1620
            bzr_path = sys.argv[0]
 
1621
        return bzr_path
 
1622
 
 
1623
    def finish_bzr_subprocess(self, process, retcode=0, send_signal=None,
 
1624
                              universal_newlines=False, process_args=None):
 
1625
        """Finish the execution of process.
 
1626
 
 
1627
        :param process: the Popen object returned from start_bzr_subprocess.
789
1628
        :param retcode: The status code that is expected.  Defaults to 0.  If
790
 
        None is supplied, the status code is not checked.
 
1629
            None is supplied, the status code is not checked.
 
1630
        :param send_signal: an optional signal to send to the process.
 
1631
        :param universal_newlines: Convert CRLF => LF
 
1632
        :returns: (stdout, stderr)
791
1633
        """
792
 
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
793
 
        args = list(args)
794
 
        process = Popen([sys.executable, bzr_path]+args, stdout=PIPE, 
795
 
                         stderr=PIPE)
796
 
        out = process.stdout.read()
797
 
        err = process.stderr.read()
798
 
        retcode = process.wait()
799
 
        supplied_retcode = kwargs.get('retcode', 0)
800
 
        if supplied_retcode is not None:
801
 
            assert supplied_retcode == retcode
 
1634
        if send_signal is not None:
 
1635
            os.kill(process.pid, send_signal)
 
1636
        out, err = process.communicate()
 
1637
 
 
1638
        if universal_newlines:
 
1639
            out = out.replace('\r\n', '\n')
 
1640
            err = err.replace('\r\n', '\n')
 
1641
 
 
1642
        if retcode is not None and retcode != process.returncode:
 
1643
            if process_args is None:
 
1644
                process_args = "(unknown args)"
 
1645
            mutter('Output of bzr %s:\n%s', process_args, out)
 
1646
            mutter('Error for bzr %s:\n%s', process_args, err)
 
1647
            self.fail('Command bzr %s failed with retcode %s != %s'
 
1648
                      % (process_args, retcode, process.returncode))
802
1649
        return [out, err]
803
1650
 
804
1651
    def check_inventory_shape(self, inv, shape):
810
1657
        shape = list(shape)             # copy
811
1658
        for path, ie in inv.entries():
812
1659
            name = path.replace('\\', '/')
813
 
            if ie.kind == 'dir':
 
1660
            if ie.kind == 'directory':
814
1661
                name = name + '/'
815
1662
            if name in shape:
816
1663
                shape.remove(name)
853
1700
            sys.stderr = real_stderr
854
1701
            sys.stdin = real_stdin
855
1702
 
856
 
    def merge(self, branch_from, wt_to):
857
 
        """A helper for tests to do a ui-less merge.
858
 
 
859
 
        This should move to the main library when someone has time to integrate
860
 
        it in.
861
 
        """
862
 
        # minimal ui-less merge.
863
 
        wt_to.branch.fetch(branch_from)
864
 
        base_rev = common_ancestor(branch_from.last_revision(),
865
 
                                   wt_to.branch.last_revision(),
866
 
                                   wt_to.branch.repository)
867
 
        merge_inner(wt_to.branch, branch_from.basis_tree(), 
868
 
                    wt_to.branch.repository.revision_tree(base_rev),
869
 
                    this_tree=wt_to)
870
 
        wt_to.add_pending_merge(branch_from.last_revision())
871
 
 
872
 
 
873
 
BzrTestBase = TestCase
 
1703
    def reduceLockdirTimeout(self):
 
1704
        """Reduce the default lock timeout for the duration of the test, so that
 
1705
        if LockContention occurs during a test, it does so quickly.
 
1706
 
 
1707
        Tests that expect to provoke LockContention errors should call this.
 
1708
        """
 
1709
        orig_timeout = bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS
 
1710
        def resetTimeout():
 
1711
            bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = orig_timeout
 
1712
        self.addCleanup(resetTimeout)
 
1713
        bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = 0
 
1714
 
 
1715
    def make_utf8_encoded_stringio(self, encoding_type=None):
 
1716
        """Return a StringIOWrapper instance, that will encode Unicode
 
1717
        input to UTF-8.
 
1718
        """
 
1719
        if encoding_type is None:
 
1720
            encoding_type = 'strict'
 
1721
        sio = StringIO()
 
1722
        output_encoding = 'utf-8'
 
1723
        sio = codecs.getwriter(output_encoding)(sio, errors=encoding_type)
 
1724
        sio.encoding = output_encoding
 
1725
        return sio
 
1726
 
 
1727
 
 
1728
class TestCaseWithMemoryTransport(TestCase):
 
1729
    """Common test class for tests that do not need disk resources.
 
1730
 
 
1731
    Tests that need disk resources should derive from TestCaseWithTransport.
 
1732
 
 
1733
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
 
1734
 
 
1735
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
1736
    a directory which does not exist. This serves to help ensure test isolation
 
1737
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
 
1738
    must exist. However, TestCaseWithMemoryTransport does not offer local
 
1739
    file defaults for the transport in tests, nor does it obey the command line
 
1740
    override, so tests that accidentally write to the common directory should
 
1741
    be rare.
 
1742
 
 
1743
    :cvar TEST_ROOT: Directory containing all temporary directories, plus
 
1744
    a .bzr directory that stops us ascending higher into the filesystem.
 
1745
    """
 
1746
 
 
1747
    TEST_ROOT = None
 
1748
    _TEST_NAME = 'test'
 
1749
 
 
1750
    def __init__(self, methodName='runTest'):
 
1751
        # allow test parameterization after test construction and before test
 
1752
        # execution. Variables that the parameterizer sets need to be 
 
1753
        # ones that are not set by setUp, or setUp will trash them.
 
1754
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
 
1755
        self.vfs_transport_factory = default_transport
 
1756
        self.transport_server = None
 
1757
        self.transport_readonly_server = None
 
1758
        self.__vfs_server = None
 
1759
 
 
1760
    def get_transport(self, relpath=None):
 
1761
        """Return a writeable transport.
 
1762
 
 
1763
        This transport is for the test scratch space relative to
 
1764
        "self._test_root"
 
1765
        
 
1766
        :param relpath: a path relative to the base url.
 
1767
        """
 
1768
        t = get_transport(self.get_url(relpath))
 
1769
        self.assertFalse(t.is_readonly())
 
1770
        return t
 
1771
 
 
1772
    def get_readonly_transport(self, relpath=None):
 
1773
        """Return a readonly transport for the test scratch space
 
1774
        
 
1775
        This can be used to test that operations which should only need
 
1776
        readonly access in fact do not try to write.
 
1777
 
 
1778
        :param relpath: a path relative to the base url.
 
1779
        """
 
1780
        t = get_transport(self.get_readonly_url(relpath))
 
1781
        self.assertTrue(t.is_readonly())
 
1782
        return t
 
1783
 
 
1784
    def create_transport_readonly_server(self):
 
1785
        """Create a transport server from class defined at init.
 
1786
 
 
1787
        This is mostly a hook for daughter classes.
 
1788
        """
 
1789
        return self.transport_readonly_server()
 
1790
 
 
1791
    def get_readonly_server(self):
 
1792
        """Get the server instance for the readonly transport
 
1793
 
 
1794
        This is useful for some tests with specific servers to do diagnostics.
 
1795
        """
 
1796
        if self.__readonly_server is None:
 
1797
            if self.transport_readonly_server is None:
 
1798
                # readonly decorator requested
 
1799
                # bring up the server
 
1800
                self.__readonly_server = ReadonlyServer()
 
1801
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1802
            else:
 
1803
                self.__readonly_server = self.create_transport_readonly_server()
 
1804
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1805
            self.addCleanup(self.__readonly_server.tearDown)
 
1806
        return self.__readonly_server
 
1807
 
 
1808
    def get_readonly_url(self, relpath=None):
 
1809
        """Get a URL for the readonly transport.
 
1810
 
 
1811
        This will either be backed by '.' or a decorator to the transport 
 
1812
        used by self.get_url()
 
1813
        relpath provides for clients to get a path relative to the base url.
 
1814
        These should only be downwards relative, not upwards.
 
1815
        """
 
1816
        base = self.get_readonly_server().get_url()
 
1817
        return self._adjust_url(base, relpath)
 
1818
 
 
1819
    def get_vfs_only_server(self):
 
1820
        """Get the vfs only read/write server instance.
 
1821
 
 
1822
        This is useful for some tests with specific servers that need
 
1823
        diagnostics.
 
1824
 
 
1825
        For TestCaseWithMemoryTransport this is always a MemoryServer, and there
 
1826
        is no means to override it.
 
1827
        """
 
1828
        if self.__vfs_server is None:
 
1829
            self.__vfs_server = MemoryServer()
 
1830
            self.__vfs_server.setUp()
 
1831
            self.addCleanup(self.__vfs_server.tearDown)
 
1832
        return self.__vfs_server
 
1833
 
 
1834
    def get_server(self):
 
1835
        """Get the read/write server instance.
 
1836
 
 
1837
        This is useful for some tests with specific servers that need
 
1838
        diagnostics.
 
1839
 
 
1840
        This is built from the self.transport_server factory. If that is None,
 
1841
        then the self.get_vfs_server is returned.
 
1842
        """
 
1843
        if self.__server is None:
 
1844
            if self.transport_server is None or self.transport_server is self.vfs_transport_factory:
 
1845
                return self.get_vfs_only_server()
 
1846
            else:
 
1847
                # bring up a decorated means of access to the vfs only server.
 
1848
                self.__server = self.transport_server()
 
1849
                try:
 
1850
                    self.__server.setUp(self.get_vfs_only_server())
 
1851
                except TypeError, e:
 
1852
                    # This should never happen; the try:Except here is to assist
 
1853
                    # developers having to update code rather than seeing an
 
1854
                    # uninformative TypeError.
 
1855
                    raise Exception, "Old server API in use: %s, %s" % (self.__server, e)
 
1856
            self.addCleanup(self.__server.tearDown)
 
1857
        return self.__server
 
1858
 
 
1859
    def _adjust_url(self, base, relpath):
 
1860
        """Get a URL (or maybe a path) for the readwrite transport.
 
1861
 
 
1862
        This will either be backed by '.' or to an equivalent non-file based
 
1863
        facility.
 
1864
        relpath provides for clients to get a path relative to the base url.
 
1865
        These should only be downwards relative, not upwards.
 
1866
        """
 
1867
        if relpath is not None and relpath != '.':
 
1868
            if not base.endswith('/'):
 
1869
                base = base + '/'
 
1870
            # XXX: Really base should be a url; we did after all call
 
1871
            # get_url()!  But sometimes it's just a path (from
 
1872
            # LocalAbspathServer), and it'd be wrong to append urlescaped data
 
1873
            # to a non-escaped local path.
 
1874
            if base.startswith('./') or base.startswith('/'):
 
1875
                base += relpath
 
1876
            else:
 
1877
                base += urlutils.escape(relpath)
 
1878
        return base
 
1879
 
 
1880
    def get_url(self, relpath=None):
 
1881
        """Get a URL (or maybe a path) for the readwrite transport.
 
1882
 
 
1883
        This will either be backed by '.' or to an equivalent non-file based
 
1884
        facility.
 
1885
        relpath provides for clients to get a path relative to the base url.
 
1886
        These should only be downwards relative, not upwards.
 
1887
        """
 
1888
        base = self.get_server().get_url()
 
1889
        return self._adjust_url(base, relpath)
 
1890
 
 
1891
    def get_vfs_only_url(self, relpath=None):
 
1892
        """Get a URL (or maybe a path for the plain old vfs transport.
 
1893
 
 
1894
        This will never be a smart protocol.  It always has all the
 
1895
        capabilities of the local filesystem, but it might actually be a
 
1896
        MemoryTransport or some other similar virtual filesystem.
 
1897
 
 
1898
        This is the backing transport (if any) of the server returned by
 
1899
        get_url and get_readonly_url.
 
1900
 
 
1901
        :param relpath: provides for clients to get a path relative to the base
 
1902
            url.  These should only be downwards relative, not upwards.
 
1903
        :return: A URL
 
1904
        """
 
1905
        base = self.get_vfs_only_server().get_url()
 
1906
        return self._adjust_url(base, relpath)
 
1907
 
 
1908
    def _create_safety_net(self):
 
1909
        """Make a fake bzr directory.
 
1910
 
 
1911
        This prevents any tests propagating up onto the TEST_ROOT directory's
 
1912
        real branch.
 
1913
        """
 
1914
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
1915
        bzrdir.BzrDir.create_standalone_workingtree(root)
 
1916
 
 
1917
    def _check_safety_net(self):
 
1918
        """Check that the safety .bzr directory have not been touched.
 
1919
 
 
1920
        _make_test_root have created a .bzr directory to prevent tests from
 
1921
        propagating. This method ensures than a test did not leaked.
 
1922
        """
 
1923
        root = TestCaseWithMemoryTransport.TEST_ROOT
 
1924
        wt = workingtree.WorkingTree.open(root)
 
1925
        last_rev = wt.last_revision()
 
1926
        if last_rev != 'null:':
 
1927
            # The current test have modified the /bzr directory, we need to
 
1928
            # recreate a new one or all the followng tests will fail.
 
1929
            # If you need to inspect its content uncomment the following line
 
1930
            # import pdb; pdb.set_trace()
 
1931
            _rmtree_temp_dir(root + '/.bzr')
 
1932
            self._create_safety_net()
 
1933
            raise AssertionError('%s/.bzr should not be modified' % root)
 
1934
 
 
1935
    def _make_test_root(self):
 
1936
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
 
1937
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
 
1938
            TestCaseWithMemoryTransport.TEST_ROOT = root
 
1939
 
 
1940
            self._create_safety_net()
 
1941
 
 
1942
            # The same directory is used by all tests, and we're not
 
1943
            # specifically told when all tests are finished.  This will do.
 
1944
            atexit.register(_rmtree_temp_dir, root)
 
1945
 
 
1946
        self.addCleanup(self._check_safety_net)
 
1947
 
 
1948
    def makeAndChdirToTestDir(self):
 
1949
        """Create a temporary directories for this one test.
 
1950
        
 
1951
        This must set self.test_home_dir and self.test_dir and chdir to
 
1952
        self.test_dir.
 
1953
        
 
1954
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
 
1955
        """
 
1956
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
1957
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
 
1958
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
 
1959
        
 
1960
    def make_branch(self, relpath, format=None):
 
1961
        """Create a branch on the transport at relpath."""
 
1962
        repo = self.make_repository(relpath, format=format)
 
1963
        return repo.bzrdir.create_branch()
 
1964
 
 
1965
    def make_bzrdir(self, relpath, format=None):
 
1966
        try:
 
1967
            # might be a relative or absolute path
 
1968
            maybe_a_url = self.get_url(relpath)
 
1969
            segments = maybe_a_url.rsplit('/', 1)
 
1970
            t = get_transport(maybe_a_url)
 
1971
            if len(segments) > 1 and segments[-1] not in ('', '.'):
 
1972
                t.ensure_base()
 
1973
            if format is None:
 
1974
                format = 'default'
 
1975
            if isinstance(format, basestring):
 
1976
                format = bzrdir.format_registry.make_bzrdir(format)
 
1977
            return format.initialize_on_transport(t)
 
1978
        except errors.UninitializableFormat:
 
1979
            raise TestSkipped("Format %s is not initializable." % format)
 
1980
 
 
1981
    def make_repository(self, relpath, shared=False, format=None):
 
1982
        """Create a repository on our default transport at relpath.
 
1983
        
 
1984
        Note that relpath must be a relative path, not a full url.
 
1985
        """
 
1986
        # FIXME: If you create a remoterepository this returns the underlying
 
1987
        # real format, which is incorrect.  Actually we should make sure that 
 
1988
        # RemoteBzrDir returns a RemoteRepository.
 
1989
        # maybe  mbp 20070410
 
1990
        made_control = self.make_bzrdir(relpath, format=format)
 
1991
        return made_control.create_repository(shared=shared)
 
1992
 
 
1993
    def make_branch_and_memory_tree(self, relpath, format=None):
 
1994
        """Create a branch on the default transport and a MemoryTree for it."""
 
1995
        b = self.make_branch(relpath, format=format)
 
1996
        return memorytree.MemoryTree.create_on_branch(b)
 
1997
 
 
1998
    def make_branch_builder(self, relpath, format=None):
 
1999
        url = self.get_url(relpath)
 
2000
        tran = get_transport(url)
 
2001
        return branchbuilder.BranchBuilder(get_transport(url), format=format)
 
2002
 
 
2003
    def overrideEnvironmentForTesting(self):
 
2004
        os.environ['HOME'] = self.test_home_dir
 
2005
        os.environ['BZR_HOME'] = self.test_home_dir
 
2006
        
 
2007
    def setUp(self):
 
2008
        super(TestCaseWithMemoryTransport, self).setUp()
 
2009
        self._make_test_root()
 
2010
        _currentdir = os.getcwdu()
 
2011
        def _leaveDirectory():
 
2012
            os.chdir(_currentdir)
 
2013
        self.addCleanup(_leaveDirectory)
 
2014
        self.makeAndChdirToTestDir()
 
2015
        self.overrideEnvironmentForTesting()
 
2016
        self.__readonly_server = None
 
2017
        self.__server = None
 
2018
        self.reduceLockdirTimeout()
874
2019
 
875
2020
     
876
 
class TestCaseInTempDir(TestCase):
 
2021
class TestCaseInTempDir(TestCaseWithMemoryTransport):
877
2022
    """Derived class that runs a test within a temporary directory.
878
2023
 
879
2024
    This is useful for tests that need to create a branch, etc.
883
2028
    All test cases create their own directory within that.  If the
884
2029
    tests complete successfully, the directory is removed.
885
2030
 
886
 
    InTempDir is an old alias for FunctionalTestCase.
 
2031
    :ivar test_base_dir: The path of the top-level directory for this 
 
2032
    test, which contains a home directory and a work directory.
 
2033
 
 
2034
    :ivar test_home_dir: An initially empty directory under test_base_dir
 
2035
    which is used as $HOME for this test.
 
2036
 
 
2037
    :ivar test_dir: A directory under test_base_dir used as the current
 
2038
    directory when the test proper is run.
887
2039
    """
888
2040
 
889
 
    TEST_ROOT = None
890
 
    _TEST_NAME = 'test'
891
2041
    OVERRIDE_PYTHON = 'python'
892
2042
 
893
2043
    def check_file_contents(self, filename, expect):
898
2048
            self.log("actually: %r" % contents)
899
2049
            self.fail("contents of %s not as expected" % filename)
900
2050
 
901
 
    def _make_test_root(self):
902
 
        if TestCaseInTempDir.TEST_ROOT is not None:
903
 
            return
904
 
        i = 0
905
 
        while True:
906
 
            root = u'test%04d.tmp' % i
907
 
            try:
908
 
                os.mkdir(root)
909
 
            except OSError, e:
910
 
                if e.errno == errno.EEXIST:
911
 
                    i += 1
912
 
                    continue
913
 
                else:
914
 
                    raise
915
 
            # successfully created
916
 
            TestCaseInTempDir.TEST_ROOT = osutils.abspath(root)
917
 
            break
918
 
        # make a fake bzr directory there to prevent any tests propagating
919
 
        # up onto the source directory's real branch
920
 
        bzrdir.BzrDir.create_standalone_workingtree(TestCaseInTempDir.TEST_ROOT)
 
2051
    def _getTestDirPrefix(self):
 
2052
        # create a directory within the top level test directory
 
2053
        if sys.platform == 'win32':
 
2054
            name_prefix = re.sub('[<>*=+",:;_/\\-]', '_', self.id())
 
2055
            # windows is likely to have path-length limits so use a short name
 
2056
            name_prefix = name_prefix[-30:]
 
2057
        else:
 
2058
            name_prefix = re.sub('[/]', '_', self.id())
 
2059
        return name_prefix
921
2060
 
922
 
    def setUp(self):
923
 
        super(TestCaseInTempDir, self).setUp()
924
 
        self._make_test_root()
925
 
        _currentdir = os.getcwdu()
926
 
        # shorten the name, to avoid test failures due to path length
927
 
        short_id = self.id().replace('bzrlib.tests.', '') \
928
 
                   .replace('__main__.', '')[-100:]
929
 
        # it's possible the same test class is run several times for
930
 
        # parameterized tests, so make sure the names don't collide.  
931
 
        i = 0
932
 
        while True:
933
 
            if i > 0:
934
 
                candidate_dir = '%s/%s.%d' % (self.TEST_ROOT, short_id, i)
935
 
            else:
936
 
                candidate_dir = '%s/%s' % (self.TEST_ROOT, short_id)
937
 
            if os.path.exists(candidate_dir):
938
 
                i = i + 1
939
 
                continue
940
 
            else:
941
 
                self.test_dir = candidate_dir
942
 
                os.mkdir(self.test_dir)
943
 
                os.chdir(self.test_dir)
 
2061
    def makeAndChdirToTestDir(self):
 
2062
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
 
2063
        
 
2064
        For TestCaseInTempDir we create a temporary directory based on the test
 
2065
        name and then create two subdirs - test and home under it.
 
2066
        """
 
2067
        name_prefix = osutils.pathjoin(self.TEST_ROOT, self._getTestDirPrefix())
 
2068
        name = name_prefix
 
2069
        for i in range(100):
 
2070
            if os.path.exists(name):
 
2071
                name = name_prefix + '_' + str(i)
 
2072
            else:
 
2073
                os.mkdir(name)
944
2074
                break
945
 
        os.environ['HOME'] = self.test_dir
946
 
        os.environ['APPDATA'] = self.test_dir
947
 
        def _leaveDirectory():
948
 
            os.chdir(_currentdir)
949
 
        self.addCleanup(_leaveDirectory)
950
 
        
951
 
    def build_tree(self, shape, line_endings='native', transport=None):
 
2075
        # now create test and home directories within this dir
 
2076
        self.test_base_dir = name
 
2077
        self.test_home_dir = self.test_base_dir + '/home'
 
2078
        os.mkdir(self.test_home_dir)
 
2079
        self.test_dir = self.test_base_dir + '/work'
 
2080
        os.mkdir(self.test_dir)
 
2081
        os.chdir(self.test_dir)
 
2082
        # put name of test inside
 
2083
        f = file(self.test_base_dir + '/name', 'w')
 
2084
        try:
 
2085
            f.write(self.id())
 
2086
        finally:
 
2087
            f.close()
 
2088
        self.addCleanup(self.deleteTestDir)
 
2089
 
 
2090
    def deleteTestDir(self):
 
2091
        os.chdir(self.TEST_ROOT)
 
2092
        _rmtree_temp_dir(self.test_base_dir)
 
2093
 
 
2094
    def build_tree(self, shape, line_endings='binary', transport=None):
952
2095
        """Build a test tree according to a pattern.
953
2096
 
954
2097
        shape is a sequence of file specifications.  If the final
955
2098
        character is '/', a directory is created.
956
2099
 
 
2100
        This assumes that all the elements in the tree being built are new.
 
2101
 
957
2102
        This doesn't add anything to a branch.
 
2103
 
 
2104
        :type shape:    list or tuple.
958
2105
        :param line_endings: Either 'binary' or 'native'
959
 
                             in binary mode, exact contents are written
960
 
                             in native mode, the line endings match the
961
 
                             default platform endings.
962
 
 
963
 
        :param transport: A transport to write to, for building trees on 
964
 
                          VFS's. If the transport is readonly or None,
965
 
                          "." is opened automatically.
 
2106
            in binary mode, exact contents are written in native mode, the
 
2107
            line endings match the default platform endings.
 
2108
        :param transport: A transport to write to, for building trees on VFS's.
 
2109
            If the transport is readonly or None, "." is opened automatically.
 
2110
        :return: None
966
2111
        """
967
 
        # XXX: It's OK to just create them using forward slashes on windows?
 
2112
        if type(shape) not in (list, tuple):
 
2113
            raise AssertionError("Parameter 'shape' should be "
 
2114
                "a list or a tuple. Got %r instead" % (shape,))
 
2115
        # It's OK to just create them using forward slashes on windows.
968
2116
        if transport is None or transport.is_readonly():
969
2117
            transport = get_transport(".")
970
2118
        for name in shape:
977
2125
                elif line_endings == 'native':
978
2126
                    end = os.linesep
979
2127
                else:
980
 
                    raise errors.BzrError('Invalid line ending request %r' % (line_endings,))
 
2128
                    raise errors.BzrError(
 
2129
                        'Invalid line ending request %r' % line_endings)
981
2130
                content = "contents of %s%s" % (name.encode('utf-8'), end)
982
 
                transport.put(urlutils.escape(name), StringIO(content))
 
2131
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
983
2132
 
984
2133
    def build_tree_contents(self, shape):
985
2134
        build_tree_contents(shape)
986
2135
 
987
 
    def failUnlessExists(self, path):
988
 
        """Fail unless path, which may be abs or relative, exists."""
989
 
        self.failUnless(osutils.lexists(path))
 
2136
    def assertInWorkingTree(self, path, root_path='.', tree=None):
 
2137
        """Assert whether path or paths are in the WorkingTree"""
 
2138
        if tree is None:
 
2139
            tree = workingtree.WorkingTree.open(root_path)
 
2140
        if not isinstance(path, basestring):
 
2141
            for p in path:
 
2142
                self.assertInWorkingTree(p, tree=tree)
 
2143
        else:
 
2144
            self.assertIsNot(tree.path2id(path), None,
 
2145
                path+' not in working tree.')
990
2146
 
991
 
    def failIfExists(self, path):
992
 
        """Fail if path, which may be abs or relative, exists."""
993
 
        self.failIf(osutils.lexists(path))
994
 
        
995
 
    def assertFileEqual(self, content, path):
996
 
        """Fail if path does not contain 'content'."""
997
 
        self.failUnless(osutils.lexists(path))
998
 
        # TODO: jam 20060427 Shouldn't this be 'rb'?
999
 
        self.assertEqualDiff(content, open(path, 'r').read())
 
2147
    def assertNotInWorkingTree(self, path, root_path='.', tree=None):
 
2148
        """Assert whether path or paths are not in the WorkingTree"""
 
2149
        if tree is None:
 
2150
            tree = workingtree.WorkingTree.open(root_path)
 
2151
        if not isinstance(path, basestring):
 
2152
            for p in path:
 
2153
                self.assertNotInWorkingTree(p,tree=tree)
 
2154
        else:
 
2155
            self.assertIs(tree.path2id(path), None, path+' in working tree.')
1000
2156
 
1001
2157
 
1002
2158
class TestCaseWithTransport(TestCaseInTempDir):
1013
2169
    readwrite one must both define get_url() as resolving to os.getcwd().
1014
2170
    """
1015
2171
 
1016
 
    def __init__(self, methodName='testMethod'):
1017
 
        super(TestCaseWithTransport, self).__init__(methodName)
1018
 
        self.__readonly_server = None
1019
 
        self.__server = None
1020
 
        self.transport_server = default_transport
1021
 
        self.transport_readonly_server = None
1022
 
 
1023
 
    def get_readonly_url(self, relpath=None):
1024
 
        """Get a URL for the readonly transport.
1025
 
 
1026
 
        This will either be backed by '.' or a decorator to the transport 
1027
 
        used by self.get_url()
1028
 
        relpath provides for clients to get a path relative to the base url.
1029
 
        These should only be downwards relative, not upwards.
1030
 
        """
1031
 
        base = self.get_readonly_server().get_url()
1032
 
        if relpath is not None:
1033
 
            if not base.endswith('/'):
1034
 
                base = base + '/'
1035
 
            base = base + relpath
1036
 
        return base
1037
 
 
1038
 
    def get_readonly_server(self):
1039
 
        """Get the server instance for the readonly transport
1040
 
 
1041
 
        This is useful for some tests with specific servers to do diagnostics.
1042
 
        """
1043
 
        if self.__readonly_server is None:
1044
 
            if self.transport_readonly_server is None:
1045
 
                # readonly decorator requested
1046
 
                # bring up the server
1047
 
                self.get_url()
1048
 
                self.__readonly_server = ReadonlyServer()
1049
 
                self.__readonly_server.setUp(self.__server)
1050
 
            else:
1051
 
                self.__readonly_server = self.transport_readonly_server()
1052
 
                self.__readonly_server.setUp()
1053
 
            self.addCleanup(self.__readonly_server.tearDown)
1054
 
        return self.__readonly_server
1055
 
 
1056
 
    def get_server(self):
1057
 
        """Get the read/write server instance.
 
2172
    def get_vfs_only_server(self):
 
2173
        """See TestCaseWithMemoryTransport.
1058
2174
 
1059
2175
        This is useful for some tests with specific servers that need
1060
2176
        diagnostics.
1061
2177
        """
1062
 
        if self.__server is None:
1063
 
            self.__server = self.transport_server()
1064
 
            self.__server.setUp()
1065
 
            self.addCleanup(self.__server.tearDown)
1066
 
        return self.__server
1067
 
 
1068
 
    def get_url(self, relpath=None):
1069
 
        """Get a URL for the readwrite transport.
1070
 
 
1071
 
        This will either be backed by '.' or to an equivalent non-file based
1072
 
        facility.
1073
 
        relpath provides for clients to get a path relative to the base url.
1074
 
        These should only be downwards relative, not upwards.
1075
 
        """
1076
 
        base = self.get_server().get_url()
1077
 
        if relpath is not None and relpath != '.':
1078
 
            if not base.endswith('/'):
1079
 
                base = base + '/'
1080
 
            base = base + urlutils.escape(relpath)
1081
 
        return base
1082
 
 
1083
 
    def get_transport(self):
1084
 
        """Return a writeable transport for the test scratch space"""
1085
 
        t = get_transport(self.get_url())
1086
 
        self.assertFalse(t.is_readonly())
1087
 
        return t
1088
 
 
1089
 
    def get_readonly_transport(self):
1090
 
        """Return a readonly transport for the test scratch space
1091
 
        
1092
 
        This can be used to test that operations which should only need
1093
 
        readonly access in fact do not try to write.
1094
 
        """
1095
 
        t = get_transport(self.get_readonly_url())
1096
 
        self.assertTrue(t.is_readonly())
1097
 
        return t
1098
 
 
1099
 
    def make_branch(self, relpath, format=None):
1100
 
        """Create a branch on the transport at relpath."""
1101
 
        repo = self.make_repository(relpath, format=format)
1102
 
        return repo.bzrdir.create_branch()
1103
 
 
1104
 
    def make_bzrdir(self, relpath, format=None):
1105
 
        try:
1106
 
            url = self.get_url(relpath)
1107
 
            mutter('relpath %r => url %r', relpath, url)
1108
 
            segments = url.split('/')
1109
 
            if segments and segments[-1] not in ('', '.'):
1110
 
                parent = '/'.join(segments[:-1])
1111
 
                t = get_transport(parent)
1112
 
                try:
1113
 
                    t.mkdir(segments[-1])
1114
 
                except errors.FileExists:
1115
 
                    pass
1116
 
            if format is None:
1117
 
                format=bzrlib.bzrdir.BzrDirFormat.get_default_format()
1118
 
            # FIXME: make this use a single transport someday. RBC 20060418
1119
 
            return format.initialize_on_transport(get_transport(relpath))
1120
 
        except errors.UninitializableFormat:
1121
 
            raise TestSkipped("Format %s is not initializable." % format)
1122
 
 
1123
 
    def make_repository(self, relpath, shared=False, format=None):
1124
 
        """Create a repository on our default transport at relpath."""
1125
 
        made_control = self.make_bzrdir(relpath, format=format)
1126
 
        return made_control.create_repository(shared=shared)
 
2178
        if self.__vfs_server is None:
 
2179
            self.__vfs_server = self.vfs_transport_factory()
 
2180
            self.__vfs_server.setUp()
 
2181
            self.addCleanup(self.__vfs_server.tearDown)
 
2182
        return self.__vfs_server
1127
2183
 
1128
2184
    def make_branch_and_tree(self, relpath, format=None):
1129
2185
        """Create a branch on the transport and a tree locally.
1130
2186
 
1131
 
        Returns the tree.
 
2187
        If the transport is not a LocalTransport, the Tree can't be created on
 
2188
        the transport.  In that case if the vfs_transport_factory is
 
2189
        LocalURLServer the working tree is created in the local
 
2190
        directory backing the transport, and the returned tree's branch and
 
2191
        repository will also be accessed locally. Otherwise a lightweight
 
2192
        checkout is created and returned.
 
2193
 
 
2194
        :param format: The BzrDirFormat.
 
2195
        :returns: the WorkingTree.
1132
2196
        """
1133
2197
        # TODO: always use the local disk path for the working tree,
1134
2198
        # this obviously requires a format that supports branch references
1138
2202
        try:
1139
2203
            return b.bzrdir.create_workingtree()
1140
2204
        except errors.NotLocalUrl:
1141
 
            # new formats - catch No tree error and create
1142
 
            # a branch reference and a checkout.
1143
 
            # old formats at that point - raise TestSkipped.
1144
 
            # TODO: rbc 20060208
1145
 
            return WorkingTreeFormat2().initialize(bzrdir.BzrDir.open(relpath))
 
2205
            # We can only make working trees locally at the moment.  If the
 
2206
            # transport can't support them, then we keep the non-disk-backed
 
2207
            # branch and create a local checkout.
 
2208
            if self.vfs_transport_factory is LocalURLServer:
 
2209
                # the branch is colocated on disk, we cannot create a checkout.
 
2210
                # hopefully callers will expect this.
 
2211
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
 
2212
                wt = local_controldir.create_workingtree()
 
2213
                if wt.branch._format != b._format:
 
2214
                    wt._branch = b
 
2215
                    # Make sure that assigning to wt._branch fixes wt.branch,
 
2216
                    # in case the implementation details of workingtree objects
 
2217
                    # change.
 
2218
                    self.assertIs(b, wt.branch)
 
2219
                return wt
 
2220
            else:
 
2221
                return b.create_checkout(relpath, lightweight=True)
1146
2222
 
1147
2223
    def assertIsDirectory(self, relpath, transport):
1148
2224
        """Assert that relpath within transport is a directory.
1159
2235
            self.fail("path %s is not a directory; has mode %#o"
1160
2236
                      % (relpath, mode))
1161
2237
 
 
2238
    def assertTreesEqual(self, left, right):
 
2239
        """Check that left and right have the same content and properties."""
 
2240
        # we use a tree delta to check for equality of the content, and we
 
2241
        # manually check for equality of other things such as the parents list.
 
2242
        self.assertEqual(left.get_parent_ids(), right.get_parent_ids())
 
2243
        differences = left.changes_from(right)
 
2244
        self.assertFalse(differences.has_changed(),
 
2245
            "Trees %r and %r are different: %r" % (left, right, differences))
 
2246
 
 
2247
    def setUp(self):
 
2248
        super(TestCaseWithTransport, self).setUp()
 
2249
        self.__vfs_server = None
 
2250
 
1162
2251
 
1163
2252
class ChrootedTestCase(TestCaseWithTransport):
1164
2253
    """A support class that provides readonly urls outside the local namespace.
1174
2263
 
1175
2264
    def setUp(self):
1176
2265
        super(ChrootedTestCase, self).setUp()
1177
 
        if not self.transport_server == bzrlib.transport.memory.MemoryServer:
1178
 
            self.transport_readonly_server = bzrlib.transport.http.HttpServer
 
2266
        if not self.vfs_transport_factory == MemoryServer:
 
2267
            self.transport_readonly_server = HttpServer
 
2268
 
 
2269
 
 
2270
def condition_id_re(pattern):
 
2271
    """Create a condition filter which performs a re check on a test's id.
 
2272
    
 
2273
    :param pattern: A regular expression string.
 
2274
    :return: A callable that returns True if the re matches.
 
2275
    """
 
2276
    filter_re = re.compile(pattern)
 
2277
    def condition(test):
 
2278
        test_id = test.id()
 
2279
        return filter_re.search(test_id)
 
2280
    return condition
 
2281
 
 
2282
 
 
2283
def condition_isinstance(klass_or_klass_list):
 
2284
    """Create a condition filter which returns isinstance(param, klass).
 
2285
    
 
2286
    :return: A callable which when called with one parameter obj return the
 
2287
        result of isinstance(obj, klass_or_klass_list).
 
2288
    """
 
2289
    def condition(obj):
 
2290
        return isinstance(obj, klass_or_klass_list)
 
2291
    return condition
 
2292
 
 
2293
 
 
2294
def condition_id_in_list(id_list):
 
2295
    """Create a condition filter which verify that test's id in a list.
 
2296
    
 
2297
    :param id_list: A TestIdList object.
 
2298
    :return: A callable that returns True if the test's id appears in the list.
 
2299
    """
 
2300
    def condition(test):
 
2301
        return id_list.includes(test.id())
 
2302
    return condition
 
2303
 
 
2304
 
 
2305
def condition_id_startswith(start):
 
2306
    """Create a condition filter verifying that test's id starts with a string.
 
2307
    
 
2308
    :param start: A string.
 
2309
    :return: A callable that returns True if the test's id starts with the
 
2310
        given string.
 
2311
    """
 
2312
    def condition(test):
 
2313
        return test.id().startswith(start)
 
2314
    return condition
 
2315
 
 
2316
 
 
2317
def exclude_tests_by_condition(suite, condition):
 
2318
    """Create a test suite which excludes some tests from suite.
 
2319
 
 
2320
    :param suite: The suite to get tests from.
 
2321
    :param condition: A callable whose result evaluates True when called with a
 
2322
        test case which should be excluded from the result.
 
2323
    :return: A suite which contains the tests found in suite that fail
 
2324
        condition.
 
2325
    """
 
2326
    result = []
 
2327
    for test in iter_suite_tests(suite):
 
2328
        if not condition(test):
 
2329
            result.append(test)
 
2330
    return TestUtil.TestSuite(result)
 
2331
 
 
2332
 
 
2333
def filter_suite_by_condition(suite, condition):
 
2334
    """Create a test suite by filtering another one.
 
2335
    
 
2336
    :param suite: The source suite.
 
2337
    :param condition: A callable whose result evaluates True when called with a
 
2338
        test case which should be included in the result.
 
2339
    :return: A suite which contains the tests found in suite that pass
 
2340
        condition.
 
2341
    """ 
 
2342
    result = []
 
2343
    for test in iter_suite_tests(suite):
 
2344
        if condition(test):
 
2345
            result.append(test)
 
2346
    return TestUtil.TestSuite(result)
1179
2347
 
1180
2348
 
1181
2349
def filter_suite_by_re(suite, pattern):
1182
 
    result = TestUtil.TestSuite()
1183
 
    filter_re = re.compile(pattern)
 
2350
    """Create a test suite by filtering another one.
 
2351
    
 
2352
    :param suite:           the source suite
 
2353
    :param pattern:         pattern that names must match
 
2354
    :returns: the newly created suite
 
2355
    """ 
 
2356
    condition = condition_id_re(pattern)
 
2357
    result_suite = filter_suite_by_condition(suite, condition)
 
2358
    return result_suite
 
2359
 
 
2360
 
 
2361
def filter_suite_by_id_list(suite, test_id_list):
 
2362
    """Create a test suite by filtering another one.
 
2363
 
 
2364
    :param suite: The source suite.
 
2365
    :param test_id_list: A list of the test ids to keep as strings.
 
2366
    :returns: the newly created suite
 
2367
    """
 
2368
    condition = condition_id_in_list(test_id_list)
 
2369
    result_suite = filter_suite_by_condition(suite, condition)
 
2370
    return result_suite
 
2371
 
 
2372
 
 
2373
def filter_suite_by_id_startswith(suite, start):
 
2374
    """Create a test suite by filtering another one.
 
2375
 
 
2376
    :param suite: The source suite.
 
2377
    :param start: A string the test id must start with.
 
2378
    :returns: the newly created suite
 
2379
    """
 
2380
    condition = condition_id_startswith(start)
 
2381
    result_suite = filter_suite_by_condition(suite, condition)
 
2382
    return result_suite
 
2383
 
 
2384
 
 
2385
def exclude_tests_by_re(suite, pattern):
 
2386
    """Create a test suite which excludes some tests from suite.
 
2387
 
 
2388
    :param suite: The suite to get tests from.
 
2389
    :param pattern: A regular expression string. Test ids that match this
 
2390
        pattern will be excluded from the result.
 
2391
    :return: A TestSuite that contains all the tests from suite without the
 
2392
        tests that matched pattern. The order of tests is the same as it was in
 
2393
        suite.
 
2394
    """
 
2395
    return exclude_tests_by_condition(suite, condition_id_re(pattern))
 
2396
 
 
2397
 
 
2398
def preserve_input(something):
 
2399
    """A helper for performing test suite transformation chains.
 
2400
 
 
2401
    :param something: Anything you want to preserve.
 
2402
    :return: Something.
 
2403
    """
 
2404
    return something
 
2405
 
 
2406
 
 
2407
def randomize_suite(suite):
 
2408
    """Return a new TestSuite with suite's tests in random order.
 
2409
    
 
2410
    The tests in the input suite are flattened into a single suite in order to
 
2411
    accomplish this. Any nested TestSuites are removed to provide global
 
2412
    randomness.
 
2413
    """
 
2414
    tests = list(iter_suite_tests(suite))
 
2415
    random.shuffle(tests)
 
2416
    return TestUtil.TestSuite(tests)
 
2417
 
 
2418
 
 
2419
def split_suite_by_condition(suite, condition):
 
2420
    """Split a test suite into two by a condition.
 
2421
    
 
2422
    :param suite: The suite to split.
 
2423
    :param condition: The condition to match on. Tests that match this
 
2424
        condition are returned in the first test suite, ones that do not match
 
2425
        are in the second suite.
 
2426
    :return: A tuple of two test suites, where the first contains tests from
 
2427
        suite matching the condition, and the second contains the remainder
 
2428
        from suite. The order within each output suite is the same as it was in
 
2429
        suite.
 
2430
    """ 
 
2431
    matched = []
 
2432
    did_not_match = []
1184
2433
    for test in iter_suite_tests(suite):
1185
 
        if filter_re.search(test.id()):
1186
 
            result.addTest(test)
1187
 
    return result
 
2434
        if condition(test):
 
2435
            matched.append(test)
 
2436
        else:
 
2437
            did_not_match.append(test)
 
2438
    return TestUtil.TestSuite(matched), TestUtil.TestSuite(did_not_match)
 
2439
 
 
2440
 
 
2441
def split_suite_by_re(suite, pattern):
 
2442
    """Split a test suite into two by a regular expression.
 
2443
    
 
2444
    :param suite: The suite to split.
 
2445
    :param pattern: A regular expression string. Test ids that match this
 
2446
        pattern will be in the first test suite returned, and the others in the
 
2447
        second test suite returned.
 
2448
    :return: A tuple of two test suites, where the first contains tests from
 
2449
        suite matching pattern, and the second contains the remainder from
 
2450
        suite. The order within each output suite is the same as it was in
 
2451
        suite.
 
2452
    """ 
 
2453
    return split_suite_by_condition(suite, condition_id_re(pattern))
1188
2454
 
1189
2455
 
1190
2456
def run_suite(suite, name='test', verbose=False, pattern=".*",
1191
 
              stop_on_failure=False, keep_output=False,
1192
 
              transport=None, lsprof_timed=None):
1193
 
    TestCaseInTempDir._TEST_NAME = name
 
2457
              stop_on_failure=False,
 
2458
              transport=None, lsprof_timed=None, bench_history=None,
 
2459
              matching_tests_first=None,
 
2460
              list_only=False,
 
2461
              random_seed=None,
 
2462
              exclude_pattern=None,
 
2463
              strict=False):
1194
2464
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
1195
2465
    if verbose:
1196
2466
        verbosity = 2
1197
 
        pb = None
1198
2467
    else:
1199
2468
        verbosity = 1
1200
 
        pb = progress.ProgressBar()
1201
2469
    runner = TextTestRunner(stream=sys.stdout,
1202
2470
                            descriptions=0,
1203
2471
                            verbosity=verbosity,
1204
 
                            keep_output=keep_output,
1205
 
                            pb=pb)
 
2472
                            bench_history=bench_history,
 
2473
                            list_only=list_only,
 
2474
                            )
1206
2475
    runner.stop_on_failure=stop_on_failure
1207
 
    if pattern != '.*':
1208
 
        suite = filter_suite_by_re(suite, pattern)
 
2476
    # Initialise the random number generator and display the seed used.
 
2477
    # We convert the seed to a long to make it reuseable across invocations.
 
2478
    random_order = False
 
2479
    if random_seed is not None:
 
2480
        random_order = True
 
2481
        if random_seed == "now":
 
2482
            random_seed = long(time.time())
 
2483
        else:
 
2484
            # Convert the seed to a long if we can
 
2485
            try:
 
2486
                random_seed = long(random_seed)
 
2487
            except:
 
2488
                pass
 
2489
        runner.stream.writeln("Randomizing test order using seed %s\n" %
 
2490
            (random_seed))
 
2491
        random.seed(random_seed)
 
2492
    # Customise the list of tests if requested
 
2493
    if exclude_pattern is not None:
 
2494
        suite = exclude_tests_by_re(suite, exclude_pattern)
 
2495
    if random_order:
 
2496
        order_changer = randomize_suite
 
2497
    else:
 
2498
        order_changer = preserve_input
 
2499
    if pattern != '.*' or random_order:
 
2500
        if matching_tests_first:
 
2501
            suites = map(order_changer, split_suite_by_re(suite, pattern))
 
2502
            suite = TestUtil.TestSuite(suites)
 
2503
        else:
 
2504
            suite = order_changer(filter_suite_by_re(suite, pattern))
 
2505
 
1209
2506
    result = runner.run(suite)
 
2507
 
 
2508
    if strict:
 
2509
        return result.wasStrictlySuccessful()
 
2510
 
1210
2511
    return result.wasSuccessful()
1211
2512
 
1212
2513
 
 
2514
# Controlled by "bzr selftest -E=..." option
 
2515
selftest_debug_flags = set()
 
2516
 
 
2517
 
1213
2518
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
1214
 
             keep_output=False,
1215
2519
             transport=None,
1216
2520
             test_suite_factory=None,
1217
 
             lsprof_timed=None):
 
2521
             lsprof_timed=None,
 
2522
             bench_history=None,
 
2523
             matching_tests_first=None,
 
2524
             list_only=False,
 
2525
             random_seed=None,
 
2526
             exclude_pattern=None,
 
2527
             strict=False,
 
2528
             load_list=None,
 
2529
             debug_flags=None,
 
2530
             starting_with=None,
 
2531
             ):
1218
2532
    """Run the whole test suite under the enhanced runner"""
 
2533
    # XXX: Very ugly way to do this...
 
2534
    # Disable warning about old formats because we don't want it to disturb
 
2535
    # any blackbox tests.
 
2536
    from bzrlib import repository
 
2537
    repository._deprecation_warning_done = True
 
2538
 
1219
2539
    global default_transport
1220
2540
    if transport is None:
1221
2541
        transport = default_transport
1222
2542
    old_transport = default_transport
1223
2543
    default_transport = transport
 
2544
    global selftest_debug_flags
 
2545
    old_debug_flags = selftest_debug_flags
 
2546
    if debug_flags is not None:
 
2547
        selftest_debug_flags = set(debug_flags)
1224
2548
    try:
 
2549
        if load_list is None:
 
2550
            keep_only = None
 
2551
        else:
 
2552
            keep_only = load_test_id_list(load_list)
1225
2553
        if test_suite_factory is None:
1226
 
            suite = test_suite()
 
2554
            suite = test_suite(keep_only, starting_with)
1227
2555
        else:
1228
2556
            suite = test_suite_factory()
1229
2557
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
1230
 
                     stop_on_failure=stop_on_failure, keep_output=keep_output,
 
2558
                     stop_on_failure=stop_on_failure,
1231
2559
                     transport=transport,
1232
 
                     lsprof_timed=lsprof_timed)
 
2560
                     lsprof_timed=lsprof_timed,
 
2561
                     bench_history=bench_history,
 
2562
                     matching_tests_first=matching_tests_first,
 
2563
                     list_only=list_only,
 
2564
                     random_seed=random_seed,
 
2565
                     exclude_pattern=exclude_pattern,
 
2566
                     strict=strict)
1233
2567
    finally:
1234
2568
        default_transport = old_transport
1235
 
 
1236
 
 
1237
 
def test_suite():
 
2569
        selftest_debug_flags = old_debug_flags
 
2570
 
 
2571
 
 
2572
def load_test_id_list(file_name):
 
2573
    """Load a test id list from a text file.
 
2574
 
 
2575
    The format is one test id by line.  No special care is taken to impose
 
2576
    strict rules, these test ids are used to filter the test suite so a test id
 
2577
    that do not match an existing test will do no harm. This allows user to add
 
2578
    comments, leave blank lines, etc.
 
2579
    """
 
2580
    test_list = []
 
2581
    try:
 
2582
        ftest = open(file_name, 'rt')
 
2583
    except IOError, e:
 
2584
        if e.errno != errno.ENOENT:
 
2585
            raise
 
2586
        else:
 
2587
            raise errors.NoSuchFile(file_name)
 
2588
 
 
2589
    for test_name in ftest.readlines():
 
2590
        test_list.append(test_name.strip())
 
2591
    ftest.close()
 
2592
    return test_list
 
2593
 
 
2594
 
 
2595
def suite_matches_id_list(test_suite, id_list):
 
2596
    """Warns about tests not appearing or appearing more than once.
 
2597
 
 
2598
    :param test_suite: A TestSuite object.
 
2599
    :param test_id_list: The list of test ids that should be found in 
 
2600
         test_suite.
 
2601
 
 
2602
    :return: (absents, duplicates) absents is a list containing the test found
 
2603
        in id_list but not in test_suite, duplicates is a list containing the
 
2604
        test found multiple times in test_suite.
 
2605
 
 
2606
    When using a prefined test id list, it may occurs that some tests do not
 
2607
    exist anymore or that some tests use the same id. This function warns the
 
2608
    tester about potential problems in his workflow (test lists are volatile)
 
2609
    or in the test suite itself (using the same id for several tests does not
 
2610
    help to localize defects).
 
2611
    """
 
2612
    # Build a dict counting id occurrences
 
2613
    tests = dict()
 
2614
    for test in iter_suite_tests(test_suite):
 
2615
        id = test.id()
 
2616
        tests[id] = tests.get(id, 0) + 1
 
2617
 
 
2618
    not_found = []
 
2619
    duplicates = []
 
2620
    for id in id_list:
 
2621
        occurs = tests.get(id, 0)
 
2622
        if not occurs:
 
2623
            not_found.append(id)
 
2624
        elif occurs > 1:
 
2625
            duplicates.append(id)
 
2626
 
 
2627
    return not_found, duplicates
 
2628
 
 
2629
 
 
2630
class TestIdList(object):
 
2631
    """Test id list to filter a test suite.
 
2632
 
 
2633
    Relying on the assumption that test ids are built as:
 
2634
    <module>[.<class>.<method>][(<param>+)], <module> being in python dotted
 
2635
    notation, this class offers methods to :
 
2636
    - avoid building a test suite for modules not refered to in the test list,
 
2637
    - keep only the tests listed from the module test suite.
 
2638
    """
 
2639
 
 
2640
    def __init__(self, test_id_list):
 
2641
        # When a test suite needs to be filtered against us we compare test ids
 
2642
        # for equality, so a simple dict offers a quick and simple solution.
 
2643
        self.tests = dict().fromkeys(test_id_list, True)
 
2644
 
 
2645
        # While unittest.TestCase have ids like:
 
2646
        # <module>.<class>.<method>[(<param+)],
 
2647
        # doctest.DocTestCase can have ids like:
 
2648
        # <module>
 
2649
        # <module>.<class>
 
2650
        # <module>.<function>
 
2651
        # <module>.<class>.<method>
 
2652
 
 
2653
        # Since we can't predict a test class from its name only, we settle on
 
2654
        # a simple constraint: a test id always begins with its module name.
 
2655
 
 
2656
        modules = {}
 
2657
        for test_id in test_id_list:
 
2658
            parts = test_id.split('.')
 
2659
            mod_name = parts.pop(0)
 
2660
            modules[mod_name] = True
 
2661
            for part in parts:
 
2662
                mod_name += '.' + part
 
2663
                modules[mod_name] = True
 
2664
        self.modules = modules
 
2665
 
 
2666
    def refers_to(self, module_name):
 
2667
        """Is there tests for the module or one of its sub modules."""
 
2668
        return self.modules.has_key(module_name)
 
2669
 
 
2670
    def includes(self, test_id):
 
2671
        return self.tests.has_key(test_id)
 
2672
 
 
2673
 
 
2674
def test_suite(keep_only=None, starting_with=None):
1238
2675
    """Build and return TestSuite for the whole of bzrlib.
1239
 
    
 
2676
 
 
2677
    :param keep_only: A list of test ids limiting the suite returned.
 
2678
 
 
2679
    :param starting_with: An id limiting the suite returned to the tests
 
2680
         starting with it.
 
2681
 
1240
2682
    This function can be replaced if you need to change the default test
1241
2683
    suite on a global basis, but it is not encouraged.
1242
2684
    """
1243
2685
    testmod_names = [
 
2686
                   'bzrlib.doc',
 
2687
                   'bzrlib.util.tests.test_bencode',
 
2688
                   'bzrlib.tests.blackbox',
 
2689
                   'bzrlib.tests.branch_implementations',
 
2690
                   'bzrlib.tests.bzrdir_implementations',
 
2691
                   'bzrlib.tests.commands',
 
2692
                   'bzrlib.tests.inventory_implementations',
 
2693
                   'bzrlib.tests.interrepository_implementations',
 
2694
                   'bzrlib.tests.intertree_implementations',
 
2695
                   'bzrlib.tests.per_lock',
 
2696
                   'bzrlib.tests.repository_implementations',
 
2697
                   'bzrlib.tests.test__dirstate_helpers',
1244
2698
                   'bzrlib.tests.test_ancestry',
 
2699
                   'bzrlib.tests.test_annotate',
1245
2700
                   'bzrlib.tests.test_api',
 
2701
                   'bzrlib.tests.test_atomicfile',
1246
2702
                   'bzrlib.tests.test_bad_files',
 
2703
                   'bzrlib.tests.test_bisect_multi',
1247
2704
                   'bzrlib.tests.test_branch',
 
2705
                   'bzrlib.tests.test_branchbuilder',
 
2706
                   'bzrlib.tests.test_bugtracker',
1248
2707
                   'bzrlib.tests.test_bundle',
1249
2708
                   'bzrlib.tests.test_bzrdir',
1250
 
                   'bzrlib.tests.test_command',
 
2709
                   'bzrlib.tests.test_cache_utf8',
 
2710
                   'bzrlib.tests.test_commands',
1251
2711
                   'bzrlib.tests.test_commit',
1252
2712
                   'bzrlib.tests.test_commit_merge',
1253
2713
                   'bzrlib.tests.test_config',
1254
2714
                   'bzrlib.tests.test_conflicts',
 
2715
                   'bzrlib.tests.test_counted_lock',
1255
2716
                   'bzrlib.tests.test_decorators',
 
2717
                   'bzrlib.tests.test_delta',
 
2718
                   'bzrlib.tests.test_deprecated_graph',
1256
2719
                   'bzrlib.tests.test_diff',
1257
 
                   'bzrlib.tests.test_doc_generate',
1258
 
                   'bzrlib.tests.test_emptytree',
 
2720
                   'bzrlib.tests.test_dirstate',
 
2721
                   'bzrlib.tests.test_directory_service',
 
2722
                   'bzrlib.tests.test_email_message',
1259
2723
                   'bzrlib.tests.test_errors',
1260
 
                   'bzrlib.tests.test_escaped_store',
 
2724
                   'bzrlib.tests.test_extract',
1261
2725
                   'bzrlib.tests.test_fetch',
 
2726
                   'bzrlib.tests.test_ftp_transport',
 
2727
                   'bzrlib.tests.test_generate_docs',
 
2728
                   'bzrlib.tests.test_generate_ids',
 
2729
                   'bzrlib.tests.test_globbing',
1262
2730
                   'bzrlib.tests.test_gpg',
1263
2731
                   'bzrlib.tests.test_graph',
1264
2732
                   'bzrlib.tests.test_hashcache',
 
2733
                   'bzrlib.tests.test_help',
 
2734
                   'bzrlib.tests.test_hooks',
1265
2735
                   'bzrlib.tests.test_http',
 
2736
                   'bzrlib.tests.test_http_implementations',
1266
2737
                   'bzrlib.tests.test_http_response',
 
2738
                   'bzrlib.tests.test_https_ca_bundle',
1267
2739
                   'bzrlib.tests.test_identitymap',
 
2740
                   'bzrlib.tests.test_ignores',
 
2741
                   'bzrlib.tests.test_index',
 
2742
                   'bzrlib.tests.test_info',
1268
2743
                   'bzrlib.tests.test_inv',
1269
2744
                   'bzrlib.tests.test_knit',
 
2745
                   'bzrlib.tests.test_lazy_import',
 
2746
                   'bzrlib.tests.test_lazy_regex',
1270
2747
                   'bzrlib.tests.test_lockdir',
1271
2748
                   'bzrlib.tests.test_lockable_files',
1272
2749
                   'bzrlib.tests.test_log',
 
2750
                   'bzrlib.tests.test_lsprof',
 
2751
                   'bzrlib.tests.test_lru_cache',
 
2752
                   'bzrlib.tests.test_mail_client',
 
2753
                   'bzrlib.tests.test_memorytree',
1273
2754
                   'bzrlib.tests.test_merge',
1274
2755
                   'bzrlib.tests.test_merge3',
1275
2756
                   'bzrlib.tests.test_merge_core',
 
2757
                   'bzrlib.tests.test_merge_directive',
1276
2758
                   'bzrlib.tests.test_missing',
1277
2759
                   'bzrlib.tests.test_msgeditor',
 
2760
                   'bzrlib.tests.test_multiparent',
 
2761
                   'bzrlib.tests.test_mutabletree',
1278
2762
                   'bzrlib.tests.test_nonascii',
1279
2763
                   'bzrlib.tests.test_options',
1280
2764
                   'bzrlib.tests.test_osutils',
 
2765
                   'bzrlib.tests.test_osutils_encodings',
 
2766
                   'bzrlib.tests.test_pack',
 
2767
                   'bzrlib.tests.test_pack_repository',
1281
2768
                   'bzrlib.tests.test_patch',
1282
2769
                   'bzrlib.tests.test_patches',
1283
2770
                   'bzrlib.tests.test_permissions',
1284
2771
                   'bzrlib.tests.test_plugins',
1285
2772
                   'bzrlib.tests.test_progress',
 
2773
                   'bzrlib.tests.test_read_bundle',
 
2774
                   'bzrlib.tests.test_reconfigure',
1286
2775
                   'bzrlib.tests.test_reconcile',
 
2776
                   'bzrlib.tests.test_registry',
 
2777
                   'bzrlib.tests.test_remote',
1287
2778
                   'bzrlib.tests.test_repository',
 
2779
                   'bzrlib.tests.per_repository_reference',
 
2780
                   'bzrlib.tests.test_revert',
1288
2781
                   'bzrlib.tests.test_revision',
1289
 
                   'bzrlib.tests.test_revisionnamespaces',
1290
 
                   'bzrlib.tests.test_revprops',
 
2782
                   'bzrlib.tests.test_revisionspec',
1291
2783
                   'bzrlib.tests.test_revisiontree',
1292
2784
                   'bzrlib.tests.test_rio',
 
2785
                   'bzrlib.tests.test_rules',
1293
2786
                   'bzrlib.tests.test_sampler',
1294
2787
                   'bzrlib.tests.test_selftest',
1295
2788
                   'bzrlib.tests.test_setup',
1296
2789
                   'bzrlib.tests.test_sftp_transport',
 
2790
                   'bzrlib.tests.test_smart',
1297
2791
                   'bzrlib.tests.test_smart_add',
 
2792
                   'bzrlib.tests.test_smart_transport',
 
2793
                   'bzrlib.tests.test_smtp_connection',
1298
2794
                   'bzrlib.tests.test_source',
 
2795
                   'bzrlib.tests.test_ssh_transport',
1299
2796
                   'bzrlib.tests.test_status',
1300
2797
                   'bzrlib.tests.test_store',
 
2798
                   'bzrlib.tests.test_strace',
 
2799
                   'bzrlib.tests.test_subsume',
 
2800
                   'bzrlib.tests.test_switch',
1301
2801
                   'bzrlib.tests.test_symbol_versioning',
 
2802
                   'bzrlib.tests.test_tag',
1302
2803
                   'bzrlib.tests.test_testament',
1303
2804
                   'bzrlib.tests.test_textfile',
1304
2805
                   'bzrlib.tests.test_textmerge',
 
2806
                   'bzrlib.tests.test_timestamp',
1305
2807
                   'bzrlib.tests.test_trace',
1306
2808
                   'bzrlib.tests.test_transactions',
1307
2809
                   'bzrlib.tests.test_transform',
1308
2810
                   'bzrlib.tests.test_transport',
 
2811
                   'bzrlib.tests.test_transport_implementations',
 
2812
                   'bzrlib.tests.test_tree',
 
2813
                   'bzrlib.tests.test_treebuilder',
1309
2814
                   'bzrlib.tests.test_tsort',
1310
2815
                   'bzrlib.tests.test_tuned_gzip',
1311
2816
                   'bzrlib.tests.test_ui',
 
2817
                   'bzrlib.tests.test_uncommit',
1312
2818
                   'bzrlib.tests.test_upgrade',
 
2819
                   'bzrlib.tests.test_upgrade_stacked',
1313
2820
                   'bzrlib.tests.test_urlutils',
1314
2821
                   'bzrlib.tests.test_versionedfile',
 
2822
                   'bzrlib.tests.test_version',
 
2823
                   'bzrlib.tests.test_version_info',
 
2824
                   'bzrlib.tests.test__walkdirs_win32',
1315
2825
                   'bzrlib.tests.test_weave',
1316
2826
                   'bzrlib.tests.test_whitebox',
 
2827
                   'bzrlib.tests.test_win32utils',
1317
2828
                   'bzrlib.tests.test_workingtree',
 
2829
                   'bzrlib.tests.test_workingtree_4',
 
2830
                   'bzrlib.tests.test_wsgi',
1318
2831
                   'bzrlib.tests.test_xml',
 
2832
                   'bzrlib.tests.tree_implementations',
 
2833
                   'bzrlib.tests.workingtree_implementations',
1319
2834
                   ]
1320
 
    test_transport_implementations = [
1321
 
        'bzrlib.tests.test_transport_implementations',
1322
 
        'bzrlib.tests.test_read_bundle',
1323
 
        ]
1324
 
    suite = TestUtil.TestSuite()
 
2835
 
1325
2836
    loader = TestUtil.TestLoader()
1326
 
    from bzrlib.transport import TransportTestProviderAdapter
1327
 
    adapter = TransportTestProviderAdapter()
1328
 
    adapt_modules(test_transport_implementations, adapter, loader, suite)
 
2837
 
 
2838
    if starting_with is not None:
 
2839
        # We take precedence over keep_only because *at loading time* using
 
2840
        # both options means we will load less tests for the same final result.
 
2841
        def interesting_module(name):
 
2842
            return (
 
2843
                # Either the module name starts with the specified string
 
2844
                name.startswith(starting_with)
 
2845
                # or it may contain tests starting with the specified string
 
2846
                or starting_with.startswith(name)
 
2847
                )
 
2848
        loader = TestUtil.FilteredByModuleTestLoader(interesting_module)
 
2849
 
 
2850
    elif keep_only is not None:
 
2851
        id_filter = TestIdList(keep_only)
 
2852
        loader = TestUtil.FilteredByModuleTestLoader(id_filter.refers_to)
 
2853
        def interesting_module(name):
 
2854
            return id_filter.refers_to(name)
 
2855
 
 
2856
    else:
 
2857
        loader = TestUtil.TestLoader()
 
2858
        def interesting_module(name):
 
2859
            # No filtering, all modules are interesting
 
2860
            return True
 
2861
 
 
2862
    suite = loader.suiteClass()
 
2863
 
 
2864
    # modules building their suite with loadTestsFromModuleNames
1329
2865
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
1330
 
    for package in packages_to_test():
1331
 
        suite.addTest(package.test_suite())
1332
 
    for m in MODULES_TO_TEST:
1333
 
        suite.addTest(loader.loadTestsFromModule(m))
1334
 
    for m in MODULES_TO_DOCTEST:
1335
 
        suite.addTest(doctest.DocTestSuite(m))
1336
 
    for name, plugin in bzrlib.plugin.all_plugins().items():
1337
 
        if getattr(plugin, 'test_suite', None) is not None:
1338
 
            suite.addTest(plugin.test_suite())
1339
 
    return suite
 
2866
 
 
2867
    modules_to_doctest = [
 
2868
        'bzrlib',
 
2869
        'bzrlib.errors',
 
2870
        'bzrlib.export',
 
2871
        'bzrlib.inventory',
 
2872
        'bzrlib.iterablefile',
 
2873
        'bzrlib.lockdir',
 
2874
        'bzrlib.merge3',
 
2875
        'bzrlib.option',
 
2876
        'bzrlib.store',
 
2877
        'bzrlib.symbol_versioning',
 
2878
        'bzrlib.tests',
 
2879
        'bzrlib.timestamp',
 
2880
        'bzrlib.version_info_formats.format_custom',
 
2881
        ]
 
2882
 
 
2883
    for mod in modules_to_doctest:
 
2884
        if not interesting_module(mod):
 
2885
            # No tests to keep here, move along
 
2886
            continue
 
2887
        try:
 
2888
            doc_suite = doctest.DocTestSuite(mod)
 
2889
        except ValueError, e:
 
2890
            print '**failed to get doctest for: %s\n%s' % (mod, e)
 
2891
            raise
 
2892
        suite.addTest(doc_suite)
 
2893
 
 
2894
    default_encoding = sys.getdefaultencoding()
 
2895
    for name, plugin in bzrlib.plugin.plugins().items():
 
2896
        if not interesting_module(plugin.module.__name__):
 
2897
            continue
 
2898
        plugin_suite = plugin.test_suite()
 
2899
        # We used to catch ImportError here and turn it into just a warning,
 
2900
        # but really if you don't have --no-plugins this should be a failure.
 
2901
        # mbp 20080213 - see http://bugs.launchpad.net/bugs/189771
 
2902
        if plugin_suite is None:
 
2903
            plugin_suite = plugin.load_plugin_tests(loader)
 
2904
        if plugin_suite is not None:
 
2905
            suite.addTest(plugin_suite)
 
2906
        if default_encoding != sys.getdefaultencoding():
 
2907
            bzrlib.trace.warning(
 
2908
                'Plugin "%s" tried to reset default encoding to: %s', name,
 
2909
                sys.getdefaultencoding())
 
2910
            reload(sys)
 
2911
            sys.setdefaultencoding(default_encoding)
 
2912
 
 
2913
    if starting_with is not None:
 
2914
        suite = filter_suite_by_id_startswith(suite, starting_with)
 
2915
 
 
2916
    if keep_only is not None:
 
2917
        # Now that the referred modules have loaded their tests, keep only the
 
2918
        # requested ones.
 
2919
        suite = filter_suite_by_id_list(suite, id_filter)
 
2920
        # Do some sanity checks on the id_list filtering
 
2921
        not_found, duplicates = suite_matches_id_list(suite, keep_only)
 
2922
        if starting_with is not None:
 
2923
            # The tester has used both keep_only and starting_with, so he is
 
2924
            # already aware that some tests are excluded from the list, there
 
2925
            # is no need to tell him which.
 
2926
            pass
 
2927
        else:
 
2928
            # Some tests mentioned in the list are not in the test suite. The
 
2929
            # list may be out of date, report to the tester.
 
2930
            for id in not_found:
 
2931
                bzrlib.trace.warning('"%s" not found in the test suite', id)
 
2932
        for id in duplicates:
 
2933
            bzrlib.trace.warning('"%s" is used as an id by several tests', id)
 
2934
 
 
2935
    return suite
 
2936
 
 
2937
 
 
2938
def multiply_tests_from_modules(module_name_list, scenario_iter, loader=None):
 
2939
    """Adapt all tests in some given modules to given scenarios.
 
2940
 
 
2941
    This is the recommended public interface for test parameterization.
 
2942
    Typically the test_suite() method for a per-implementation test
 
2943
    suite will call multiply_tests_from_modules and return the 
 
2944
    result.
 
2945
 
 
2946
    :param module_name_list: List of fully-qualified names of test
 
2947
        modules.
 
2948
    :param scenario_iter: Iterable of pairs of (scenario_name, 
 
2949
        scenario_param_dict).
 
2950
    :param loader: If provided, will be used instead of a new 
 
2951
        bzrlib.tests.TestLoader() instance.
 
2952
 
 
2953
    This returns a new TestSuite containing the cross product of
 
2954
    all the tests in all the modules, each repeated for each scenario.
 
2955
    Each test is adapted by adding the scenario name at the end 
 
2956
    of its name, and updating the test object's __dict__ with the
 
2957
    scenario_param_dict.
 
2958
 
 
2959
    >>> r = multiply_tests_from_modules(
 
2960
    ...     ['bzrlib.tests.test_sampler'],
 
2961
    ...     [('one', dict(param=1)), 
 
2962
    ...      ('two', dict(param=2))])
 
2963
    >>> tests = list(iter_suite_tests(r))
 
2964
    >>> len(tests)
 
2965
    2
 
2966
    >>> tests[0].id()
 
2967
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
 
2968
    >>> tests[0].param
 
2969
    1
 
2970
    >>> tests[1].param
 
2971
    2
 
2972
    """
 
2973
    # XXX: Isn't load_tests() a better way to provide the same functionality
 
2974
    # without forcing a predefined TestScenarioApplier ? --vila 080215
 
2975
    if loader is None:
 
2976
        loader = TestUtil.TestLoader()
 
2977
 
 
2978
    suite = loader.suiteClass()
 
2979
 
 
2980
    adapter = TestScenarioApplier()
 
2981
    adapter.scenarios = list(scenario_iter)
 
2982
    adapt_modules(module_name_list, adapter, loader, suite)
 
2983
    return suite
 
2984
 
 
2985
 
 
2986
def multiply_scenarios(scenarios_left, scenarios_right):
 
2987
    """Multiply two sets of scenarios.
 
2988
 
 
2989
    :returns: the cartesian product of the two sets of scenarios, that is
 
2990
        a scenario for every possible combination of a left scenario and a
 
2991
        right scenario.
 
2992
    """
 
2993
    return [
 
2994
        ('%s,%s' % (left_name, right_name),
 
2995
         dict(left_dict.items() + right_dict.items()))
 
2996
        for left_name, left_dict in scenarios_left
 
2997
        for right_name, right_dict in scenarios_right]
 
2998
 
1340
2999
 
1341
3000
 
1342
3001
def adapt_modules(mods_list, adapter, loader, suite):
1343
3002
    """Adapt the modules in mods_list using adapter and add to suite."""
1344
 
    for test in iter_suite_tests(loader.loadTestsFromModuleNames(mods_list)):
 
3003
    tests = loader.loadTestsFromModuleNames(mods_list)
 
3004
    adapt_tests(tests, adapter, suite)
 
3005
 
 
3006
 
 
3007
def adapt_tests(tests_list, adapter, suite):
 
3008
    """Adapt the tests in tests_list using adapter and add to suite."""
 
3009
    for test in iter_suite_tests(tests_list):
1345
3010
        suite.addTests(adapter.adapt(test))
 
3011
 
 
3012
 
 
3013
def _rmtree_temp_dir(dirname):
 
3014
    # If LANG=C we probably have created some bogus paths
 
3015
    # which rmtree(unicode) will fail to delete
 
3016
    # so make sure we are using rmtree(str) to delete everything
 
3017
    # except on win32, where rmtree(str) will fail
 
3018
    # since it doesn't have the property of byte-stream paths
 
3019
    # (they are either ascii or mbcs)
 
3020
    if sys.platform == 'win32':
 
3021
        # make sure we are using the unicode win32 api
 
3022
        dirname = unicode(dirname)
 
3023
    else:
 
3024
        dirname = dirname.encode(sys.getfilesystemencoding())
 
3025
    try:
 
3026
        osutils.rmtree(dirname)
 
3027
    except OSError, e:
 
3028
        if sys.platform == 'win32' and e.errno == errno.EACCES:
 
3029
            sys.stderr.write(('Permission denied: '
 
3030
                                 'unable to remove testing dir '
 
3031
                                 '%s\n' % os.path.basename(dirname)))
 
3032
        else:
 
3033
            raise
 
3034
 
 
3035
 
 
3036
class Feature(object):
 
3037
    """An operating system Feature."""
 
3038
 
 
3039
    def __init__(self):
 
3040
        self._available = None
 
3041
 
 
3042
    def available(self):
 
3043
        """Is the feature available?
 
3044
 
 
3045
        :return: True if the feature is available.
 
3046
        """
 
3047
        if self._available is None:
 
3048
            self._available = self._probe()
 
3049
        return self._available
 
3050
 
 
3051
    def _probe(self):
 
3052
        """Implement this method in concrete features.
 
3053
 
 
3054
        :return: True if the feature is available.
 
3055
        """
 
3056
        raise NotImplementedError
 
3057
 
 
3058
    def __str__(self):
 
3059
        if getattr(self, 'feature_name', None):
 
3060
            return self.feature_name()
 
3061
        return self.__class__.__name__
 
3062
 
 
3063
 
 
3064
class _SymlinkFeature(Feature):
 
3065
 
 
3066
    def _probe(self):
 
3067
        return osutils.has_symlinks()
 
3068
 
 
3069
    def feature_name(self):
 
3070
        return 'symlinks'
 
3071
 
 
3072
SymlinkFeature = _SymlinkFeature()
 
3073
 
 
3074
 
 
3075
class _HardlinkFeature(Feature):
 
3076
 
 
3077
    def _probe(self):
 
3078
        return osutils.has_hardlinks()
 
3079
 
 
3080
    def feature_name(self):
 
3081
        return 'hardlinks'
 
3082
 
 
3083
HardlinkFeature = _HardlinkFeature()
 
3084
 
 
3085
 
 
3086
class _OsFifoFeature(Feature):
 
3087
 
 
3088
    def _probe(self):
 
3089
        return getattr(os, 'mkfifo', None)
 
3090
 
 
3091
    def feature_name(self):
 
3092
        return 'filesystem fifos'
 
3093
 
 
3094
OsFifoFeature = _OsFifoFeature()
 
3095
 
 
3096
 
 
3097
class _UnicodeFilenameFeature(Feature):
 
3098
    """Does the filesystem support Unicode filenames?"""
 
3099
 
 
3100
    def _probe(self):
 
3101
        try:
 
3102
            # Check for character combinations unlikely to be covered by any
 
3103
            # single non-unicode encoding. We use the characters
 
3104
            # - greek small letter alpha (U+03B1) and
 
3105
            # - braille pattern dots-123456 (U+283F).
 
3106
            os.stat(u'\u03b1\u283f')
 
3107
        except UnicodeEncodeError:
 
3108
            return False
 
3109
        except (IOError, OSError):
 
3110
            # The filesystem allows the Unicode filename but the file doesn't
 
3111
            # exist.
 
3112
            return True
 
3113
        else:
 
3114
            # The filesystem allows the Unicode filename and the file exists,
 
3115
            # for some reason.
 
3116
            return True
 
3117
 
 
3118
UnicodeFilenameFeature = _UnicodeFilenameFeature()
 
3119
 
 
3120
 
 
3121
class TestScenarioApplier(object):
 
3122
    """A tool to apply scenarios to tests."""
 
3123
 
 
3124
    def adapt(self, test):
 
3125
        """Return a TestSuite containing a copy of test for each scenario."""
 
3126
        result = unittest.TestSuite()
 
3127
        for scenario in self.scenarios:
 
3128
            result.addTest(self.adapt_test_to_scenario(test, scenario))
 
3129
        return result
 
3130
 
 
3131
    def adapt_test_to_scenario(self, test, scenario):
 
3132
        """Copy test and apply scenario to it.
 
3133
 
 
3134
        :param test: A test to adapt.
 
3135
        :param scenario: A tuple describing the scenarion.
 
3136
            The first element of the tuple is the new test id.
 
3137
            The second element is a dict containing attributes to set on the
 
3138
            test.
 
3139
        :return: The adapted test.
 
3140
        """
 
3141
        from copy import deepcopy
 
3142
        new_test = deepcopy(test)
 
3143
        for name, value in scenario[1].items():
 
3144
            setattr(new_test, name, value)
 
3145
        new_id = "%s(%s)" % (new_test.id(), scenario[0])
 
3146
        new_test.id = lambda: new_id
 
3147
        return new_test
 
3148
 
 
3149
 
 
3150
def probe_unicode_in_user_encoding():
 
3151
    """Try to encode several unicode strings to use in unicode-aware tests.
 
3152
    Return first successfull match.
 
3153
 
 
3154
    :return:  (unicode value, encoded plain string value) or (None, None)
 
3155
    """
 
3156
    possible_vals = [u'm\xb5', u'\xe1', u'\u0410']
 
3157
    for uni_val in possible_vals:
 
3158
        try:
 
3159
            str_val = uni_val.encode(bzrlib.user_encoding)
 
3160
        except UnicodeEncodeError:
 
3161
            # Try a different character
 
3162
            pass
 
3163
        else:
 
3164
            return uni_val, str_val
 
3165
    return None, None
 
3166
 
 
3167
 
 
3168
def probe_bad_non_ascii(encoding):
 
3169
    """Try to find [bad] character with code [128..255]
 
3170
    that cannot be decoded to unicode in some encoding.
 
3171
    Return None if all non-ascii characters is valid
 
3172
    for given encoding.
 
3173
    """
 
3174
    for i in xrange(128, 256):
 
3175
        char = chr(i)
 
3176
        try:
 
3177
            char.decode(encoding)
 
3178
        except UnicodeDecodeError:
 
3179
            return char
 
3180
    return None
 
3181
 
 
3182
 
 
3183
class _FTPServerFeature(Feature):
 
3184
    """Some tests want an FTP Server, check if one is available.
 
3185
 
 
3186
    Right now, the only way this is available is if 'medusa' is installed.
 
3187
    http://www.amk.ca/python/code/medusa.html
 
3188
    """
 
3189
 
 
3190
    def _probe(self):
 
3191
        try:
 
3192
            import bzrlib.tests.ftp_server
 
3193
            return True
 
3194
        except ImportError:
 
3195
            return False
 
3196
 
 
3197
    def feature_name(self):
 
3198
        return 'FTPServer'
 
3199
 
 
3200
FTPServerFeature = _FTPServerFeature()
 
3201
 
 
3202
 
 
3203
class _UnicodeFilename(Feature):
 
3204
    """Does the filesystem support Unicode filenames?"""
 
3205
 
 
3206
    def _probe(self):
 
3207
        try:
 
3208
            os.stat(u'\u03b1')
 
3209
        except UnicodeEncodeError:
 
3210
            return False
 
3211
        except (IOError, OSError):
 
3212
            # The filesystem allows the Unicode filename but the file doesn't
 
3213
            # exist.
 
3214
            return True
 
3215
        else:
 
3216
            # The filesystem allows the Unicode filename and the file exists,
 
3217
            # for some reason.
 
3218
            return True
 
3219
 
 
3220
UnicodeFilename = _UnicodeFilename()
 
3221
 
 
3222
 
 
3223
class _UTF8Filesystem(Feature):
 
3224
    """Is the filesystem UTF-8?"""
 
3225
 
 
3226
    def _probe(self):
 
3227
        if osutils._fs_enc.upper() in ('UTF-8', 'UTF8'):
 
3228
            return True
 
3229
        return False
 
3230
 
 
3231
UTF8Filesystem = _UTF8Filesystem()
 
3232
 
 
3233
 
 
3234
class _CaseInsensitiveFilesystemFeature(Feature):
 
3235
    """Check if underlined filesystem is case-insensitive
 
3236
    (e.g. on Windows, Cygwin, MacOS)
 
3237
    """
 
3238
 
 
3239
    def _probe(self):
 
3240
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
 
3241
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
 
3242
            TestCaseWithMemoryTransport.TEST_ROOT = root
 
3243
        else:
 
3244
            root = TestCaseWithMemoryTransport.TEST_ROOT
 
3245
        tdir = osutils.mkdtemp(prefix='case-sensitive-probe-', suffix='',
 
3246
            dir=root)
 
3247
        name_a = osutils.pathjoin(tdir, 'a')
 
3248
        name_A = osutils.pathjoin(tdir, 'A')
 
3249
        os.mkdir(name_a)
 
3250
        result = osutils.isdir(name_A)
 
3251
        _rmtree_temp_dir(tdir)
 
3252
        return result
 
3253
 
 
3254
    def feature_name(self):
 
3255
        return 'case-insensitive filesystem'
 
3256
 
 
3257
CaseInsensitiveFilesystemFeature = _CaseInsensitiveFilesystemFeature()