~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2007-04-30 04:29:00 UTC
  • mfrom: (2465.1.4 integration)
  • Revision ID: pqm@pqm.ubuntu.com-20070430042900-o9x8ggxoevt9s9fi
(robertc) Properly compare filesystem paths with absent and renamed entries. (John Arbash Meinel, #110256)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 by Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
 
 
18
# TODO: Perhaps there should be an API to find out if bzr running under the
 
19
# test suite -- some plugins might want to avoid making intrusive changes if
 
20
# this is the case.  However, we want behaviour under to test to diverge as
 
21
# little as possible, so this should be used rarely if it's added at all.
 
22
# (Suggestion from j-a-meinel, 2005-11-24)
 
23
 
 
24
# NOTE: Some classes in here use camelCaseNaming() rather than
 
25
# underscore_naming().  That's for consistency with unittest; it's not the
 
26
# general style of bzrlib.  Please continue that consistency when adding e.g.
 
27
# new assertFoo() methods.
 
28
 
 
29
import codecs
 
30
from cStringIO import StringIO
 
31
import difflib
 
32
import doctest
 
33
import errno
18
34
import logging
19
 
import unittest
20
 
import tempfile
21
35
import os
 
36
from pprint import pformat
 
37
import random
 
38
import re
 
39
import stat
 
40
from subprocess import Popen, PIPE
22
41
import sys
23
 
import subprocess
24
 
 
25
 
from testsweet import run_suite
 
42
import tempfile
 
43
import unittest
 
44
import time
 
45
 
 
46
 
 
47
from bzrlib import (
 
48
    bzrdir,
 
49
    debug,
 
50
    errors,
 
51
    memorytree,
 
52
    osutils,
 
53
    progress,
 
54
    ui,
 
55
    urlutils,
 
56
    workingtree,
 
57
    )
 
58
import bzrlib.branch
26
59
import bzrlib.commands
27
 
 
 
60
import bzrlib.timestamp
 
61
import bzrlib.export
 
62
import bzrlib.inventory
 
63
import bzrlib.iterablefile
 
64
import bzrlib.lockdir
 
65
try:
 
66
    import bzrlib.lsprof
 
67
except ImportError:
 
68
    # lsprof not available
 
69
    pass
 
70
from bzrlib.merge import merge_inner
 
71
import bzrlib.merge3
 
72
import bzrlib.osutils
 
73
import bzrlib.plugin
 
74
from bzrlib.revision import common_ancestor
 
75
import bzrlib.store
 
76
from bzrlib import symbol_versioning
28
77
import bzrlib.trace
29
 
import bzrlib.fetch
30
 
 
 
78
from bzrlib.transport import get_transport
 
79
import bzrlib.transport
 
80
from bzrlib.transport.local import LocalURLServer
 
81
from bzrlib.transport.memory import MemoryServer
 
82
from bzrlib.transport.readonly import ReadonlyServer
 
83
from bzrlib.trace import mutter, note
 
84
from bzrlib.tests import TestUtil
 
85
from bzrlib.tests.HttpServer import HttpServer
 
86
from bzrlib.tests.TestUtil import (
 
87
                          TestSuite,
 
88
                          TestLoader,
 
89
                          )
 
90
from bzrlib.tests.treeshape import build_tree_contents
 
91
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
 
92
 
 
93
# Mark this python module as being part of the implementation
 
94
# of unittest: this gives us better tracebacks where the last
 
95
# shown frame is the test code, not our assertXYZ.
 
96
__unittest = 1
 
97
 
 
98
default_transport = LocalURLServer
31
99
 
32
100
MODULES_TO_TEST = []
33
 
MODULES_TO_DOCTEST = []
34
 
 
35
 
from logging import debug, warning, error
 
101
MODULES_TO_DOCTEST = [
 
102
                      bzrlib.timestamp,
 
103
                      bzrlib.errors,
 
104
                      bzrlib.export,
 
105
                      bzrlib.inventory,
 
106
                      bzrlib.iterablefile,
 
107
                      bzrlib.lockdir,
 
108
                      bzrlib.merge3,
 
109
                      bzrlib.option,
 
110
                      bzrlib.store,
 
111
                      ]
 
112
 
 
113
 
 
114
def packages_to_test():
 
115
    """Return a list of packages to test.
 
116
 
 
117
    The packages are not globally imported so that import failures are
 
118
    triggered when running selftest, not when importing the command.
 
119
    """
 
120
    import bzrlib.doc
 
121
    import bzrlib.tests.blackbox
 
122
    import bzrlib.tests.branch_implementations
 
123
    import bzrlib.tests.bzrdir_implementations
 
124
    import bzrlib.tests.interrepository_implementations
 
125
    import bzrlib.tests.interversionedfile_implementations
 
126
    import bzrlib.tests.intertree_implementations
 
127
    import bzrlib.tests.per_lock
 
128
    import bzrlib.tests.repository_implementations
 
129
    import bzrlib.tests.revisionstore_implementations
 
130
    import bzrlib.tests.tree_implementations
 
131
    import bzrlib.tests.workingtree_implementations
 
132
    return [
 
133
            bzrlib.doc,
 
134
            bzrlib.tests.blackbox,
 
135
            bzrlib.tests.branch_implementations,
 
136
            bzrlib.tests.bzrdir_implementations,
 
137
            bzrlib.tests.interrepository_implementations,
 
138
            bzrlib.tests.interversionedfile_implementations,
 
139
            bzrlib.tests.intertree_implementations,
 
140
            bzrlib.tests.per_lock,
 
141
            bzrlib.tests.repository_implementations,
 
142
            bzrlib.tests.revisionstore_implementations,
 
143
            bzrlib.tests.tree_implementations,
 
144
            bzrlib.tests.workingtree_implementations,
 
145
            ]
 
146
 
 
147
 
 
148
class ExtendedTestResult(unittest._TextTestResult):
 
149
    """Accepts, reports and accumulates the results of running tests.
 
150
 
 
151
    Compared to this unittest version this class adds support for profiling,
 
152
    benchmarking, stopping as soon as a test fails,  and skipping tests.
 
153
    There are further-specialized subclasses for different types of display.
 
154
    """
 
155
 
 
156
    stop_early = False
 
157
    
 
158
    def __init__(self, stream, descriptions, verbosity,
 
159
                 bench_history=None,
 
160
                 num_tests=None,
 
161
                 use_numbered_dirs=False,
 
162
                 ):
 
163
        """Construct new TestResult.
 
164
 
 
165
        :param bench_history: Optionally, a writable file object to accumulate
 
166
            benchmark results.
 
167
        """
 
168
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
 
169
        if bench_history is not None:
 
170
            from bzrlib.version import _get_bzr_source_tree
 
171
            src_tree = _get_bzr_source_tree()
 
172
            if src_tree:
 
173
                try:
 
174
                    revision_id = src_tree.get_parent_ids()[0]
 
175
                except IndexError:
 
176
                    # XXX: if this is a brand new tree, do the same as if there
 
177
                    # is no branch.
 
178
                    revision_id = ''
 
179
            else:
 
180
                # XXX: If there's no branch, what should we do?
 
181
                revision_id = ''
 
182
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
 
183
        self._bench_history = bench_history
 
184
        self.ui = ui.ui_factory
 
185
        self.num_tests = num_tests
 
186
        self.error_count = 0
 
187
        self.failure_count = 0
 
188
        self.known_failure_count = 0
 
189
        self.skip_count = 0
 
190
        self.unsupported = {}
 
191
        self.count = 0
 
192
        self.use_numbered_dirs = use_numbered_dirs
 
193
        self._overall_start_time = time.time()
 
194
    
 
195
    def extractBenchmarkTime(self, testCase):
 
196
        """Add a benchmark time for the current test case."""
 
197
        self._benchmarkTime = getattr(testCase, "_benchtime", None)
 
198
    
 
199
    def _elapsedTestTimeString(self):
 
200
        """Return a time string for the overall time the current test has taken."""
 
201
        return self._formatTime(time.time() - self._start_time)
 
202
 
 
203
    def _testTimeString(self):
 
204
        if self._benchmarkTime is not None:
 
205
            return "%s/%s" % (
 
206
                self._formatTime(self._benchmarkTime),
 
207
                self._elapsedTestTimeString())
 
208
        else:
 
209
            return "           %s" % self._elapsedTestTimeString()
 
210
 
 
211
    def _formatTime(self, seconds):
 
212
        """Format seconds as milliseconds with leading spaces."""
 
213
        # some benchmarks can take thousands of seconds to run, so we need 8
 
214
        # places
 
215
        return "%8dms" % (1000 * seconds)
 
216
 
 
217
    def _shortened_test_description(self, test):
 
218
        what = test.id()
 
219
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
220
        return what
 
221
 
 
222
    def startTest(self, test):
 
223
        unittest.TestResult.startTest(self, test)
 
224
        self.report_test_start(test)
 
225
        test.number = self.count
 
226
        self._recordTestStartTime()
 
227
 
 
228
    def _recordTestStartTime(self):
 
229
        """Record that a test has started."""
 
230
        self._start_time = time.time()
 
231
 
 
232
    def _cleanupLogFile(self, test):
 
233
        # We can only do this if we have one of our TestCases, not if
 
234
        # we have a doctest.
 
235
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
 
236
        if setKeepLogfile is not None:
 
237
            setKeepLogfile()
 
238
 
 
239
    def addError(self, test, err):
 
240
        self.extractBenchmarkTime(test)
 
241
        self._cleanupLogFile(test)
 
242
        if isinstance(err[1], TestSkipped):
 
243
            return self.addSkipped(test, err)
 
244
        elif isinstance(err[1], UnavailableFeature):
 
245
            return self.addNotSupported(test, err[1].args[0])
 
246
        unittest.TestResult.addError(self, test, err)
 
247
        self.error_count += 1
 
248
        self.report_error(test, err)
 
249
        if self.stop_early:
 
250
            self.stop()
 
251
 
 
252
    def addFailure(self, test, err):
 
253
        self._cleanupLogFile(test)
 
254
        self.extractBenchmarkTime(test)
 
255
        if isinstance(err[1], KnownFailure):
 
256
            return self.addKnownFailure(test, err)
 
257
        unittest.TestResult.addFailure(self, test, err)
 
258
        self.failure_count += 1
 
259
        self.report_failure(test, err)
 
260
        if self.stop_early:
 
261
            self.stop()
 
262
 
 
263
    def addKnownFailure(self, test, err):
 
264
        self.known_failure_count += 1
 
265
        self.report_known_failure(test, err)
 
266
 
 
267
    def addNotSupported(self, test, feature):
 
268
        self.unsupported.setdefault(str(feature), 0)
 
269
        self.unsupported[str(feature)] += 1
 
270
        self.report_unsupported(test, feature)
 
271
 
 
272
    def addSuccess(self, test):
 
273
        self.extractBenchmarkTime(test)
 
274
        if self._bench_history is not None:
 
275
            if self._benchmarkTime is not None:
 
276
                self._bench_history.write("%s %s\n" % (
 
277
                    self._formatTime(self._benchmarkTime),
 
278
                    test.id()))
 
279
        self.report_success(test)
 
280
        unittest.TestResult.addSuccess(self, test)
 
281
 
 
282
    def addSkipped(self, test, skip_excinfo):
 
283
        self.report_skip(test, skip_excinfo)
 
284
        # seems best to treat this as success from point-of-view of unittest
 
285
        # -- it actually does nothing so it barely matters :)
 
286
        try:
 
287
            test.tearDown()
 
288
        except KeyboardInterrupt:
 
289
            raise
 
290
        except:
 
291
            self.addError(test, test.__exc_info())
 
292
        else:
 
293
            unittest.TestResult.addSuccess(self, test)
 
294
 
 
295
    def printErrorList(self, flavour, errors):
 
296
        for test, err in errors:
 
297
            self.stream.writeln(self.separator1)
 
298
            self.stream.write("%s: " % flavour)
 
299
            if self.use_numbered_dirs:
 
300
                self.stream.write('#%d ' % test.number)
 
301
            self.stream.writeln(self.getDescription(test))
 
302
            if getattr(test, '_get_log', None) is not None:
 
303
                print >>self.stream
 
304
                print >>self.stream, \
 
305
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-')
 
306
                print >>self.stream, test._get_log()
 
307
                print >>self.stream, \
 
308
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-')
 
309
            self.stream.writeln(self.separator2)
 
310
            self.stream.writeln("%s" % err)
 
311
 
 
312
    def finished(self):
 
313
        pass
 
314
 
 
315
    def report_cleaning_up(self):
 
316
        pass
 
317
 
 
318
    def report_success(self, test):
 
319
        pass
 
320
 
 
321
 
 
322
class TextTestResult(ExtendedTestResult):
 
323
    """Displays progress and results of tests in text form"""
 
324
 
 
325
    def __init__(self, stream, descriptions, verbosity,
 
326
                 bench_history=None,
 
327
                 num_tests=None,
 
328
                 pb=None,
 
329
                 use_numbered_dirs=False,
 
330
                 ):
 
331
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
 
332
            bench_history, num_tests, use_numbered_dirs)
 
333
        if pb is None:
 
334
            self.pb = self.ui.nested_progress_bar()
 
335
            self._supplied_pb = False
 
336
        else:
 
337
            self.pb = pb
 
338
            self._supplied_pb = True
 
339
        self.pb.show_pct = False
 
340
        self.pb.show_spinner = False
 
341
        self.pb.show_eta = False,
 
342
        self.pb.show_count = False
 
343
        self.pb.show_bar = False
 
344
 
 
345
    def report_starting(self):
 
346
        self.pb.update('[test 0/%d] starting...' % (self.num_tests))
 
347
 
 
348
    def _progress_prefix_text(self):
 
349
        a = '[%d' % self.count
 
350
        if self.num_tests is not None:
 
351
            a +='/%d' % self.num_tests
 
352
        a += ' in %ds' % (time.time() - self._overall_start_time)
 
353
        if self.error_count:
 
354
            a += ', %d errors' % self.error_count
 
355
        if self.failure_count:
 
356
            a += ', %d failed' % self.failure_count
 
357
        if self.known_failure_count:
 
358
            a += ', %d known failures' % self.known_failure_count
 
359
        if self.skip_count:
 
360
            a += ', %d skipped' % self.skip_count
 
361
        if self.unsupported:
 
362
            a += ', %d missing features' % len(self.unsupported)
 
363
        a += ']'
 
364
        return a
 
365
 
 
366
    def report_test_start(self, test):
 
367
        self.count += 1
 
368
        self.pb.update(
 
369
                self._progress_prefix_text()
 
370
                + ' ' 
 
371
                + self._shortened_test_description(test))
 
372
 
 
373
    def _test_description(self, test):
 
374
        if self.use_numbered_dirs:
 
375
            return '#%d %s' % (self.count,
 
376
                               self._shortened_test_description(test))
 
377
        else:
 
378
            return self._shortened_test_description(test)
 
379
 
 
380
    def report_error(self, test, err):
 
381
        self.pb.note('ERROR: %s\n    %s\n', 
 
382
            self._test_description(test),
 
383
            err[1],
 
384
            )
 
385
 
 
386
    def report_failure(self, test, err):
 
387
        self.pb.note('FAIL: %s\n    %s\n', 
 
388
            self._test_description(test),
 
389
            err[1],
 
390
            )
 
391
 
 
392
    def report_known_failure(self, test, err):
 
393
        self.pb.note('XFAIL: %s\n%s\n',
 
394
            self._test_description(test), err[1])
 
395
 
 
396
    def report_skip(self, test, skip_excinfo):
 
397
        self.skip_count += 1
 
398
        if False:
 
399
            # at the moment these are mostly not things we can fix
 
400
            # and so they just produce stipple; use the verbose reporter
 
401
            # to see them.
 
402
            if False:
 
403
                # show test and reason for skip
 
404
                self.pb.note('SKIP: %s\n    %s\n', 
 
405
                    self._shortened_test_description(test),
 
406
                    skip_excinfo[1])
 
407
            else:
 
408
                # since the class name was left behind in the still-visible
 
409
                # progress bar...
 
410
                self.pb.note('SKIP: %s', skip_excinfo[1])
 
411
 
 
412
    def report_unsupported(self, test, feature):
 
413
        """test cannot be run because feature is missing."""
 
414
                  
 
415
    def report_cleaning_up(self):
 
416
        self.pb.update('cleaning up...')
 
417
 
 
418
    def finished(self):
 
419
        if not self._supplied_pb:
 
420
            self.pb.finished()
 
421
 
 
422
 
 
423
class VerboseTestResult(ExtendedTestResult):
 
424
    """Produce long output, with one line per test run plus times"""
 
425
 
 
426
    def _ellipsize_to_right(self, a_string, final_width):
 
427
        """Truncate and pad a string, keeping the right hand side"""
 
428
        if len(a_string) > final_width:
 
429
            result = '...' + a_string[3-final_width:]
 
430
        else:
 
431
            result = a_string
 
432
        return result.ljust(final_width)
 
433
 
 
434
    def report_starting(self):
 
435
        self.stream.write('running %d tests...\n' % self.num_tests)
 
436
 
 
437
    def report_test_start(self, test):
 
438
        self.count += 1
 
439
        name = self._shortened_test_description(test)
 
440
        # width needs space for 6 char status, plus 1 for slash, plus 2 10-char
 
441
        # numbers, plus a trailing blank
 
442
        # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on space
 
443
        if self.use_numbered_dirs:
 
444
            self.stream.write('%5d ' % self.count)
 
445
            self.stream.write(self._ellipsize_to_right(name,
 
446
                                osutils.terminal_width()-36))
 
447
        else:
 
448
            self.stream.write(self._ellipsize_to_right(name,
 
449
                                osutils.terminal_width()-30))
 
450
        self.stream.flush()
 
451
 
 
452
    def _error_summary(self, err):
 
453
        indent = ' ' * 4
 
454
        if self.use_numbered_dirs:
 
455
            indent += ' ' * 6
 
456
        return '%s%s' % (indent, err[1])
 
457
 
 
458
    def report_error(self, test, err):
 
459
        self.stream.writeln('ERROR %s\n%s'
 
460
                % (self._testTimeString(),
 
461
                   self._error_summary(err)))
 
462
 
 
463
    def report_failure(self, test, err):
 
464
        self.stream.writeln(' FAIL %s\n%s'
 
465
                % (self._testTimeString(),
 
466
                   self._error_summary(err)))
 
467
 
 
468
    def report_known_failure(self, test, err):
 
469
        self.stream.writeln('XFAIL %s\n%s'
 
470
                % (self._testTimeString(),
 
471
                   self._error_summary(err)))
 
472
 
 
473
    def report_success(self, test):
 
474
        self.stream.writeln('   OK %s' % self._testTimeString())
 
475
        for bench_called, stats in getattr(test, '_benchcalls', []):
 
476
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
477
            stats.pprint(file=self.stream)
 
478
        # flush the stream so that we get smooth output. This verbose mode is
 
479
        # used to show the output in PQM.
 
480
        self.stream.flush()
 
481
 
 
482
    def report_skip(self, test, skip_excinfo):
 
483
        self.skip_count += 1
 
484
        self.stream.writeln(' SKIP %s\n%s'
 
485
                % (self._testTimeString(),
 
486
                   self._error_summary(skip_excinfo)))
 
487
 
 
488
    def report_unsupported(self, test, feature):
 
489
        """test cannot be run because feature is missing."""
 
490
        self.stream.writeln("NODEP %s\n    The feature '%s' is not available."
 
491
                %(self._testTimeString(), feature))
 
492
                  
 
493
 
 
494
 
 
495
class TextTestRunner(object):
 
496
    stop_on_failure = False
 
497
 
 
498
    def __init__(self,
 
499
                 stream=sys.stderr,
 
500
                 descriptions=0,
 
501
                 verbosity=1,
 
502
                 keep_output=False,
 
503
                 bench_history=None,
 
504
                 use_numbered_dirs=False,
 
505
                 list_only=False
 
506
                 ):
 
507
        self.stream = unittest._WritelnDecorator(stream)
 
508
        self.descriptions = descriptions
 
509
        self.verbosity = verbosity
 
510
        self.keep_output = keep_output
 
511
        self._bench_history = bench_history
 
512
        self.use_numbered_dirs = use_numbered_dirs
 
513
        self.list_only = list_only
 
514
 
 
515
    def run(self, test):
 
516
        "Run the given test case or test suite."
 
517
        startTime = time.time()
 
518
        if self.verbosity == 1:
 
519
            result_class = TextTestResult
 
520
        elif self.verbosity >= 2:
 
521
            result_class = VerboseTestResult
 
522
        result = result_class(self.stream,
 
523
                              self.descriptions,
 
524
                              self.verbosity,
 
525
                              bench_history=self._bench_history,
 
526
                              num_tests=test.countTestCases(),
 
527
                              use_numbered_dirs=self.use_numbered_dirs,
 
528
                              )
 
529
        result.stop_early = self.stop_on_failure
 
530
        result.report_starting()
 
531
        if self.list_only:
 
532
            if self.verbosity >= 2:
 
533
                self.stream.writeln("Listing tests only ...\n")
 
534
            run = 0
 
535
            for t in iter_suite_tests(test):
 
536
                self.stream.writeln("%s" % (t.id()))
 
537
                run += 1
 
538
            actionTaken = "Listed"
 
539
        else: 
 
540
            test.run(result)
 
541
            run = result.testsRun
 
542
            actionTaken = "Ran"
 
543
        stopTime = time.time()
 
544
        timeTaken = stopTime - startTime
 
545
        result.printErrors()
 
546
        self.stream.writeln(result.separator2)
 
547
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
 
548
                            run, run != 1 and "s" or "", timeTaken))
 
549
        self.stream.writeln()
 
550
        if not result.wasSuccessful():
 
551
            self.stream.write("FAILED (")
 
552
            failed, errored = map(len, (result.failures, result.errors))
 
553
            if failed:
 
554
                self.stream.write("failures=%d" % failed)
 
555
            if errored:
 
556
                if failed: self.stream.write(", ")
 
557
                self.stream.write("errors=%d" % errored)
 
558
            if result.known_failure_count:
 
559
                if failed or errored: self.stream.write(", ")
 
560
                self.stream.write("known_failure_count=%d" %
 
561
                    result.known_failure_count)
 
562
            self.stream.writeln(")")
 
563
        else:
 
564
            if result.known_failure_count:
 
565
                self.stream.writeln("OK (known_failures=%d)" %
 
566
                    result.known_failure_count)
 
567
            else:
 
568
                self.stream.writeln("OK")
 
569
        if result.skip_count > 0:
 
570
            skipped = result.skip_count
 
571
            self.stream.writeln('%d test%s skipped' %
 
572
                                (skipped, skipped != 1 and "s" or ""))
 
573
        if result.unsupported:
 
574
            for feature, count in sorted(result.unsupported.items()):
 
575
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
576
                    (feature, count))
 
577
        result.report_cleaning_up()
 
578
        # This is still a little bogus, 
 
579
        # but only a little. Folk not using our testrunner will
 
580
        # have to delete their temp directories themselves.
 
581
        test_root = TestCaseWithMemoryTransport.TEST_ROOT
 
582
        if result.wasSuccessful() or not self.keep_output:
 
583
            if test_root is not None:
 
584
                # If LANG=C we probably have created some bogus paths
 
585
                # which rmtree(unicode) will fail to delete
 
586
                # so make sure we are using rmtree(str) to delete everything
 
587
                # except on win32, where rmtree(str) will fail
 
588
                # since it doesn't have the property of byte-stream paths
 
589
                # (they are either ascii or mbcs)
 
590
                if sys.platform == 'win32':
 
591
                    # make sure we are using the unicode win32 api
 
592
                    test_root = unicode(test_root)
 
593
                else:
 
594
                    test_root = test_root.encode(
 
595
                        sys.getfilesystemencoding())
 
596
                _rmtree_temp_dir(test_root)
 
597
        else:
 
598
            note("Failed tests working directories are in '%s'\n", test_root)
 
599
        TestCaseWithMemoryTransport.TEST_ROOT = None
 
600
        result.finished()
 
601
        return result
 
602
 
 
603
 
 
604
def iter_suite_tests(suite):
 
605
    """Return all tests in a suite, recursing through nested suites"""
 
606
    for item in suite._tests:
 
607
        if isinstance(item, unittest.TestCase):
 
608
            yield item
 
609
        elif isinstance(item, unittest.TestSuite):
 
610
            for r in iter_suite_tests(item):
 
611
                yield r
 
612
        else:
 
613
            raise Exception('unknown object %r inside test suite %r'
 
614
                            % (item, suite))
 
615
 
 
616
 
 
617
class TestSkipped(Exception):
 
618
    """Indicates that a test was intentionally skipped, rather than failing."""
 
619
 
 
620
 
 
621
class KnownFailure(AssertionError):
 
622
    """Indicates that a test failed in a precisely expected manner.
 
623
 
 
624
    Such failures dont block the whole test suite from passing because they are
 
625
    indicators of partially completed code or of future work. We have an
 
626
    explicit error for them so that we can ensure that they are always visible:
 
627
    KnownFailures are always shown in the output of bzr selftest.
 
628
    """
 
629
 
 
630
 
 
631
class UnavailableFeature(Exception):
 
632
    """A feature required for this test was not available.
 
633
 
 
634
    The feature should be used to construct the exception.
 
635
    """
 
636
 
36
637
 
37
638
class CommandFailed(Exception):
38
639
    pass
39
640
 
 
641
 
 
642
class StringIOWrapper(object):
 
643
    """A wrapper around cStringIO which just adds an encoding attribute.
 
644
    
 
645
    Internally we can check sys.stdout to see what the output encoding
 
646
    should be. However, cStringIO has no encoding attribute that we can
 
647
    set. So we wrap it instead.
 
648
    """
 
649
    encoding='ascii'
 
650
    _cstring = None
 
651
 
 
652
    def __init__(self, s=None):
 
653
        if s is not None:
 
654
            self.__dict__['_cstring'] = StringIO(s)
 
655
        else:
 
656
            self.__dict__['_cstring'] = StringIO()
 
657
 
 
658
    def __getattr__(self, name, getattr=getattr):
 
659
        return getattr(self.__dict__['_cstring'], name)
 
660
 
 
661
    def __setattr__(self, name, val):
 
662
        if name == 'encoding':
 
663
            self.__dict__['encoding'] = val
 
664
        else:
 
665
            return setattr(self._cstring, name, val)
 
666
 
 
667
 
 
668
class TestUIFactory(ui.CLIUIFactory):
 
669
    """A UI Factory for testing.
 
670
 
 
671
    Hide the progress bar but emit note()s.
 
672
    Redirect stdin.
 
673
    Allows get_password to be tested without real tty attached.
 
674
    """
 
675
 
 
676
    def __init__(self,
 
677
                 stdout=None,
 
678
                 stderr=None,
 
679
                 stdin=None):
 
680
        super(TestUIFactory, self).__init__()
 
681
        if stdin is not None:
 
682
            # We use a StringIOWrapper to be able to test various
 
683
            # encodings, but the user is still responsible to
 
684
            # encode the string and to set the encoding attribute
 
685
            # of StringIOWrapper.
 
686
            self.stdin = StringIOWrapper(stdin)
 
687
        if stdout is None:
 
688
            self.stdout = sys.stdout
 
689
        else:
 
690
            self.stdout = stdout
 
691
        if stderr is None:
 
692
            self.stderr = sys.stderr
 
693
        else:
 
694
            self.stderr = stderr
 
695
 
 
696
    def clear(self):
 
697
        """See progress.ProgressBar.clear()."""
 
698
 
 
699
    def clear_term(self):
 
700
        """See progress.ProgressBar.clear_term()."""
 
701
 
 
702
    def clear_term(self):
 
703
        """See progress.ProgressBar.clear_term()."""
 
704
 
 
705
    def finished(self):
 
706
        """See progress.ProgressBar.finished()."""
 
707
 
 
708
    def note(self, fmt_string, *args, **kwargs):
 
709
        """See progress.ProgressBar.note()."""
 
710
        self.stdout.write((fmt_string + "\n") % args)
 
711
 
 
712
    def progress_bar(self):
 
713
        return self
 
714
 
 
715
    def nested_progress_bar(self):
 
716
        return self
 
717
 
 
718
    def update(self, message, count=None, total=None):
 
719
        """See progress.ProgressBar.update()."""
 
720
 
 
721
    def get_non_echoed_password(self, prompt):
 
722
        """Get password from stdin without trying to handle the echo mode"""
 
723
        if prompt:
 
724
            self.stdout.write(prompt)
 
725
        password = self.stdin.readline()
 
726
        if not password:
 
727
            raise EOFError
 
728
        if password[-1] == '\n':
 
729
            password = password[:-1]
 
730
        return password
 
731
 
 
732
 
40
733
class TestCase(unittest.TestCase):
41
734
    """Base class for bzr unit tests.
42
735
    
45
738
 
46
739
    Error and debug log messages are redirected from their usual
47
740
    location into a temporary file, the contents of which can be
48
 
    retrieved by _get_log().
 
741
    retrieved by _get_log().  We use a real OS file, not an in-memory object,
 
742
    so that it can also capture file IO.  When the test completes this file
 
743
    is read into memory and removed from disk.
49
744
       
50
745
    There are also convenience functions to invoke bzr's command-line
51
 
    routine, and to build and check bzr trees."""
52
 
 
53
 
    BZRPATH = 'bzr'
 
746
    routine, and to build and check bzr trees.
 
747
   
 
748
    In addition to the usual method of overriding tearDown(), this class also
 
749
    allows subclasses to register functions into the _cleanups list, which is
 
750
    run in order as the object is torn down.  It's less likely this will be
 
751
    accidentally overlooked.
 
752
    """
 
753
 
 
754
    _log_file_name = None
 
755
    _log_contents = ''
 
756
    _keep_log_file = False
 
757
    # record lsprof data when performing benchmark calls.
 
758
    _gather_lsprof_in_benchmarks = False
 
759
 
 
760
    def __init__(self, methodName='testMethod'):
 
761
        super(TestCase, self).__init__(methodName)
 
762
        self._cleanups = []
54
763
 
55
764
    def setUp(self):
56
 
        # this replaces the default testsweet.TestCase; we don't want logging changed
57
765
        unittest.TestCase.setUp(self)
 
766
        self._cleanEnvironment()
58
767
        bzrlib.trace.disable_default_logging()
59
 
        self._enable_file_logging()
60
 
 
61
 
 
62
 
    def _enable_file_logging(self):
 
768
        self._silenceUI()
 
769
        self._startLogFile()
 
770
        self._benchcalls = []
 
771
        self._benchtime = None
 
772
        self._clear_hooks()
 
773
 
 
774
    def _clear_hooks(self):
 
775
        # prevent hooks affecting tests
 
776
        import bzrlib.branch
 
777
        import bzrlib.smart.server
 
778
        self._preserved_hooks = {
 
779
            bzrlib.branch.Branch: bzrlib.branch.Branch.hooks,
 
780
            bzrlib.smart.server.SmartTCPServer: bzrlib.smart.server.SmartTCPServer.hooks,
 
781
            }
 
782
        self.addCleanup(self._restoreHooks)
 
783
        # reset all hooks to an empty instance of the appropriate type
 
784
        bzrlib.branch.Branch.hooks = bzrlib.branch.BranchHooks()
 
785
        bzrlib.smart.server.SmartTCPServer.hooks = bzrlib.smart.server.SmartServerHooks()
 
786
        # FIXME: Rather than constructing new objects like this, how about
 
787
        # having save() and clear() methods on the base Hook class? mbp
 
788
        # 20070416
 
789
 
 
790
    def _silenceUI(self):
 
791
        """Turn off UI for duration of test"""
 
792
        # by default the UI is off; tests can turn it on if they want it.
 
793
        saved = ui.ui_factory
 
794
        def _restore():
 
795
            ui.ui_factory = saved
 
796
        ui.ui_factory = ui.SilentUIFactory()
 
797
        self.addCleanup(_restore)
 
798
 
 
799
    def _ndiff_strings(self, a, b):
 
800
        """Return ndiff between two strings containing lines.
 
801
        
 
802
        A trailing newline is added if missing to make the strings
 
803
        print properly."""
 
804
        if b and b[-1] != '\n':
 
805
            b += '\n'
 
806
        if a and a[-1] != '\n':
 
807
            a += '\n'
 
808
        difflines = difflib.ndiff(a.splitlines(True),
 
809
                                  b.splitlines(True),
 
810
                                  linejunk=lambda x: False,
 
811
                                  charjunk=lambda x: False)
 
812
        return ''.join(difflines)
 
813
 
 
814
    def assertEqual(self, a, b, message=''):
 
815
        try:
 
816
            if a == b:
 
817
                return
 
818
        except UnicodeError, e:
 
819
            # If we can't compare without getting a UnicodeError, then
 
820
            # obviously they are different
 
821
            mutter('UnicodeError: %s', e)
 
822
        if message:
 
823
            message += '\n'
 
824
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
 
825
            % (message,
 
826
               pformat(a, indent=4), pformat(b, indent=4)))
 
827
 
 
828
    assertEquals = assertEqual
 
829
 
 
830
    def assertEqualDiff(self, a, b, message=None):
 
831
        """Assert two texts are equal, if not raise an exception.
 
832
        
 
833
        This is intended for use with multi-line strings where it can 
 
834
        be hard to find the differences by eye.
 
835
        """
 
836
        # TODO: perhaps override assertEquals to call this for strings?
 
837
        if a == b:
 
838
            return
 
839
        if message is None:
 
840
            message = "texts not equal:\n"
 
841
        raise AssertionError(message + 
 
842
                             self._ndiff_strings(a, b))      
 
843
        
 
844
    def assertEqualMode(self, mode, mode_test):
 
845
        self.assertEqual(mode, mode_test,
 
846
                         'mode mismatch %o != %o' % (mode, mode_test))
 
847
 
 
848
    def assertStartsWith(self, s, prefix):
 
849
        if not s.startswith(prefix):
 
850
            raise AssertionError('string %r does not start with %r' % (s, prefix))
 
851
 
 
852
    def assertEndsWith(self, s, suffix):
 
853
        """Asserts that s ends with suffix."""
 
854
        if not s.endswith(suffix):
 
855
            raise AssertionError('string %r does not end with %r' % (s, suffix))
 
856
 
 
857
    def assertContainsRe(self, haystack, needle_re):
 
858
        """Assert that a contains something matching a regular expression."""
 
859
        if not re.search(needle_re, haystack):
 
860
            raise AssertionError('pattern "%r" not found in "%r"'
 
861
                    % (needle_re, haystack))
 
862
 
 
863
    def assertNotContainsRe(self, haystack, needle_re):
 
864
        """Assert that a does not match a regular expression"""
 
865
        if re.search(needle_re, haystack):
 
866
            raise AssertionError('pattern "%s" found in "%s"'
 
867
                    % (needle_re, haystack))
 
868
 
 
869
    def assertSubset(self, sublist, superlist):
 
870
        """Assert that every entry in sublist is present in superlist."""
 
871
        missing = []
 
872
        for entry in sublist:
 
873
            if entry not in superlist:
 
874
                missing.append(entry)
 
875
        if len(missing) > 0:
 
876
            raise AssertionError("value(s) %r not present in container %r" % 
 
877
                                 (missing, superlist))
 
878
 
 
879
    def assertListRaises(self, excClass, func, *args, **kwargs):
 
880
        """Fail unless excClass is raised when the iterator from func is used.
 
881
        
 
882
        Many functions can return generators this makes sure
 
883
        to wrap them in a list() call to make sure the whole generator
 
884
        is run, and that the proper exception is raised.
 
885
        """
 
886
        try:
 
887
            list(func(*args, **kwargs))
 
888
        except excClass:
 
889
            return
 
890
        else:
 
891
            if getattr(excClass,'__name__', None) is not None:
 
892
                excName = excClass.__name__
 
893
            else:
 
894
                excName = str(excClass)
 
895
            raise self.failureException, "%s not raised" % excName
 
896
 
 
897
    def assertRaises(self, excClass, func, *args, **kwargs):
 
898
        """Assert that a callable raises a particular exception.
 
899
 
 
900
        :param excClass: As for the except statement, this may be either an
 
901
        exception class, or a tuple of classes.
 
902
 
 
903
        Returns the exception so that you can examine it.
 
904
        """
 
905
        try:
 
906
            func(*args, **kwargs)
 
907
        except excClass, e:
 
908
            return e
 
909
        else:
 
910
            if getattr(excClass,'__name__', None) is not None:
 
911
                excName = excClass.__name__
 
912
            else:
 
913
                # probably a tuple
 
914
                excName = str(excClass)
 
915
            raise self.failureException, "%s not raised" % excName
 
916
 
 
917
    def assertIs(self, left, right, message=None):
 
918
        if not (left is right):
 
919
            if message is not None:
 
920
                raise AssertionError(message)
 
921
            else:
 
922
                raise AssertionError("%r is not %r." % (left, right))
 
923
 
 
924
    def assertIsNot(self, left, right, message=None):
 
925
        if (left is right):
 
926
            if message is not None:
 
927
                raise AssertionError(message)
 
928
            else:
 
929
                raise AssertionError("%r is %r." % (left, right))
 
930
 
 
931
    def assertTransportMode(self, transport, path, mode):
 
932
        """Fail if a path does not have mode mode.
 
933
        
 
934
        If modes are not supported on this transport, the assertion is ignored.
 
935
        """
 
936
        if not transport._can_roundtrip_unix_modebits():
 
937
            return
 
938
        path_stat = transport.stat(path)
 
939
        actual_mode = stat.S_IMODE(path_stat.st_mode)
 
940
        self.assertEqual(mode, actual_mode,
 
941
            'mode of %r incorrect (%o != %o)' % (path, mode, actual_mode))
 
942
 
 
943
    def assertIsInstance(self, obj, kls):
 
944
        """Fail if obj is not an instance of kls"""
 
945
        if not isinstance(obj, kls):
 
946
            self.fail("%r is an instance of %s rather than %s" % (
 
947
                obj, obj.__class__, kls))
 
948
 
 
949
    def expectFailure(self, reason, assertion, *args, **kwargs):
 
950
        """Invoke a test, expecting it to fail for the given reason.
 
951
 
 
952
        This is for assertions that ought to succeed, but currently fail.
 
953
        (The failure is *expected* but not *wanted*.)  Please be very precise
 
954
        about the failure you're expecting.  If a new bug is introduced,
 
955
        AssertionError should be raised, not KnownFailure.
 
956
 
 
957
        Frequently, expectFailure should be followed by an opposite assertion.
 
958
        See example below.
 
959
 
 
960
        Intended to be used with a callable that raises AssertionError as the
 
961
        'assertion' parameter.  args and kwargs are passed to the 'assertion'.
 
962
 
 
963
        Raises KnownFailure if the test fails.  Raises AssertionError if the
 
964
        test succeeds.
 
965
 
 
966
        example usage::
 
967
 
 
968
          self.expectFailure('Math is broken', self.assertNotEqual, 54,
 
969
                             dynamic_val)
 
970
          self.assertEqual(42, dynamic_val)
 
971
 
 
972
          This means that a dynamic_val of 54 will cause the test to raise
 
973
          a KnownFailure.  Once math is fixed and the expectFailure is removed,
 
974
          only a dynamic_val of 42 will allow the test to pass.  Anything other
 
975
          than 54 or 42 will cause an AssertionError.
 
976
        """
 
977
        try:
 
978
            assertion(*args, **kwargs)
 
979
        except AssertionError:
 
980
            raise KnownFailure(reason)
 
981
        else:
 
982
            self.fail('Unexpected success.  Should have failed: %s' % reason)
 
983
 
 
984
    def _capture_warnings(self, a_callable, *args, **kwargs):
 
985
        """A helper for callDeprecated and applyDeprecated.
 
986
 
 
987
        :param a_callable: A callable to call.
 
988
        :param args: The positional arguments for the callable
 
989
        :param kwargs: The keyword arguments for the callable
 
990
        :return: A tuple (warnings, result). result is the result of calling
 
991
            a_callable(*args, **kwargs).
 
992
        """
 
993
        local_warnings = []
 
994
        def capture_warnings(msg, cls=None, stacklevel=None):
 
995
            # we've hooked into a deprecation specific callpath,
 
996
            # only deprecations should getting sent via it.
 
997
            self.assertEqual(cls, DeprecationWarning)
 
998
            local_warnings.append(msg)
 
999
        original_warning_method = symbol_versioning.warn
 
1000
        symbol_versioning.set_warning_method(capture_warnings)
 
1001
        try:
 
1002
            result = a_callable(*args, **kwargs)
 
1003
        finally:
 
1004
            symbol_versioning.set_warning_method(original_warning_method)
 
1005
        return (local_warnings, result)
 
1006
 
 
1007
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
 
1008
        """Call a deprecated callable without warning the user.
 
1009
 
 
1010
        :param deprecation_format: The deprecation format that the callable
 
1011
            should have been deprecated with. This is the same type as the 
 
1012
            parameter to deprecated_method/deprecated_function. If the 
 
1013
            callable is not deprecated with this format, an assertion error
 
1014
            will be raised.
 
1015
        :param a_callable: A callable to call. This may be a bound method or
 
1016
            a regular function. It will be called with *args and **kwargs.
 
1017
        :param args: The positional arguments for the callable
 
1018
        :param kwargs: The keyword arguments for the callable
 
1019
        :return: The result of a_callable(*args, **kwargs)
 
1020
        """
 
1021
        call_warnings, result = self._capture_warnings(a_callable,
 
1022
            *args, **kwargs)
 
1023
        expected_first_warning = symbol_versioning.deprecation_string(
 
1024
            a_callable, deprecation_format)
 
1025
        if len(call_warnings) == 0:
 
1026
            self.fail("No deprecation warning generated by call to %s" %
 
1027
                a_callable)
 
1028
        self.assertEqual(expected_first_warning, call_warnings[0])
 
1029
        return result
 
1030
 
 
1031
    def callDeprecated(self, expected, callable, *args, **kwargs):
 
1032
        """Assert that a callable is deprecated in a particular way.
 
1033
 
 
1034
        This is a very precise test for unusual requirements. The 
 
1035
        applyDeprecated helper function is probably more suited for most tests
 
1036
        as it allows you to simply specify the deprecation format being used
 
1037
        and will ensure that that is issued for the function being called.
 
1038
 
 
1039
        :param expected: a list of the deprecation warnings expected, in order
 
1040
        :param callable: The callable to call
 
1041
        :param args: The positional arguments for the callable
 
1042
        :param kwargs: The keyword arguments for the callable
 
1043
        """
 
1044
        call_warnings, result = self._capture_warnings(callable,
 
1045
            *args, **kwargs)
 
1046
        self.assertEqual(expected, call_warnings)
 
1047
        return result
 
1048
 
 
1049
    def _startLogFile(self):
 
1050
        """Send bzr and test log messages to a temporary file.
 
1051
 
 
1052
        The file is removed as the test is torn down.
 
1053
        """
63
1054
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
64
 
 
65
1055
        self._log_file = os.fdopen(fileno, 'w+')
66
 
 
67
 
        hdlr = logging.StreamHandler(self._log_file)
68
 
        hdlr.setLevel(logging.DEBUG)
69
 
        hdlr.setFormatter(logging.Formatter('%(levelname)4.4s  %(message)s'))
70
 
        logging.getLogger('').addHandler(hdlr)
71
 
        logging.getLogger('').setLevel(logging.DEBUG)
72
 
        self._log_hdlr = hdlr
73
 
        debug('opened log file %s', name)
74
 
        
 
1056
        self._log_nonce = bzrlib.trace.enable_test_log(self._log_file)
75
1057
        self._log_file_name = name
76
 
 
77
 
    def tearDown(self):
78
 
        logging.getLogger('').removeHandler(self._log_hdlr)
79
 
        bzrlib.trace.enable_default_logging()
80
 
        logging.debug('%s teardown', self.id())
 
1058
        self.addCleanup(self._finishLogFile)
 
1059
 
 
1060
    def _finishLogFile(self):
 
1061
        """Finished with the log file.
 
1062
 
 
1063
        Close the file and delete it, unless setKeepLogfile was called.
 
1064
        """
 
1065
        if self._log_file is None:
 
1066
            return
 
1067
        bzrlib.trace.disable_test_log(self._log_nonce)
81
1068
        self._log_file.close()
 
1069
        self._log_file = None
 
1070
        if not self._keep_log_file:
 
1071
            os.remove(self._log_file_name)
 
1072
            self._log_file_name = None
 
1073
 
 
1074
    def setKeepLogfile(self):
 
1075
        """Make the logfile not be deleted when _finishLogFile is called."""
 
1076
        self._keep_log_file = True
 
1077
 
 
1078
    def addCleanup(self, callable):
 
1079
        """Arrange to run a callable when this case is torn down.
 
1080
 
 
1081
        Callables are run in the reverse of the order they are registered, 
 
1082
        ie last-in first-out.
 
1083
        """
 
1084
        if callable in self._cleanups:
 
1085
            raise ValueError("cleanup function %r already registered on %s" 
 
1086
                    % (callable, self))
 
1087
        self._cleanups.append(callable)
 
1088
 
 
1089
    def _cleanEnvironment(self):
 
1090
        new_env = {
 
1091
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
 
1092
            'HOME': os.getcwd(),
 
1093
            'APPDATA': None,  # bzr now use Win32 API and don't rely on APPDATA
 
1094
            'BZR_EMAIL': None,
 
1095
            'BZREMAIL': None, # may still be present in the environment
 
1096
            'EMAIL': None,
 
1097
            'BZR_PROGRESS_BAR': None,
 
1098
            # Proxies
 
1099
            'http_proxy': None,
 
1100
            'HTTP_PROXY': None,
 
1101
            'https_proxy': None,
 
1102
            'HTTPS_PROXY': None,
 
1103
            'no_proxy': None,
 
1104
            'NO_PROXY': None,
 
1105
            'all_proxy': None,
 
1106
            'ALL_PROXY': None,
 
1107
            # Nobody cares about these ones AFAIK. So far at
 
1108
            # least. If you do (care), please update this comment
 
1109
            # -- vila 20061212
 
1110
            'ftp_proxy': None,
 
1111
            'FTP_PROXY': None,
 
1112
        }
 
1113
        self.__old_env = {}
 
1114
        self.addCleanup(self._restoreEnvironment)
 
1115
        for name, value in new_env.iteritems():
 
1116
            self._captureVar(name, value)
 
1117
 
 
1118
    def _captureVar(self, name, newvalue):
 
1119
        """Set an environment variable, and reset it when finished."""
 
1120
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
 
1121
 
 
1122
    def _restoreEnvironment(self):
 
1123
        for name, value in self.__old_env.iteritems():
 
1124
            osutils.set_or_unset_env(name, value)
 
1125
 
 
1126
    def _restoreHooks(self):
 
1127
        for klass, hooks in self._preserved_hooks.items():
 
1128
            setattr(klass, 'hooks', hooks)
 
1129
 
 
1130
    def knownFailure(self, reason):
 
1131
        """This test has failed for some known reason."""
 
1132
        raise KnownFailure(reason)
 
1133
 
 
1134
    def run(self, result=None):
 
1135
        if result is None: result = self.defaultTestResult()
 
1136
        for feature in getattr(self, '_test_needs_features', []):
 
1137
            if not feature.available():
 
1138
                result.startTest(self)
 
1139
                if getattr(result, 'addNotSupported', None):
 
1140
                    result.addNotSupported(self, feature)
 
1141
                else:
 
1142
                    result.addSuccess(self)
 
1143
                result.stopTest(self)
 
1144
                return
 
1145
        return unittest.TestCase.run(self, result)
 
1146
 
 
1147
    def tearDown(self):
 
1148
        self._runCleanups()
82
1149
        unittest.TestCase.tearDown(self)
83
1150
 
 
1151
    def time(self, callable, *args, **kwargs):
 
1152
        """Run callable and accrue the time it takes to the benchmark time.
 
1153
        
 
1154
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
 
1155
        this will cause lsprofile statistics to be gathered and stored in
 
1156
        self._benchcalls.
 
1157
        """
 
1158
        if self._benchtime is None:
 
1159
            self._benchtime = 0
 
1160
        start = time.time()
 
1161
        try:
 
1162
            if not self._gather_lsprof_in_benchmarks:
 
1163
                return callable(*args, **kwargs)
 
1164
            else:
 
1165
                # record this benchmark
 
1166
                ret, stats = bzrlib.lsprof.profile(callable, *args, **kwargs)
 
1167
                stats.sort()
 
1168
                self._benchcalls.append(((callable, args, kwargs), stats))
 
1169
                return ret
 
1170
        finally:
 
1171
            self._benchtime += time.time() - start
 
1172
 
 
1173
    def _runCleanups(self):
 
1174
        """Run registered cleanup functions. 
 
1175
 
 
1176
        This should only be called from TestCase.tearDown.
 
1177
        """
 
1178
        # TODO: Perhaps this should keep running cleanups even if 
 
1179
        # one of them fails?
 
1180
 
 
1181
        # Actually pop the cleanups from the list so tearDown running
 
1182
        # twice is safe (this happens for skipped tests).
 
1183
        while self._cleanups:
 
1184
            self._cleanups.pop()()
 
1185
 
84
1186
    def log(self, *args):
85
 
        logging.debug(*args)
86
 
 
87
 
    def _get_log(self):
88
 
        """Return as a string the log for this test"""
89
 
        return open(self._log_file_name).read()
 
1187
        mutter(*args)
 
1188
 
 
1189
    def _get_log(self, keep_log_file=False):
 
1190
        """Return as a string the log for this test. If the file is still
 
1191
        on disk and keep_log_file=False, delete the log file and store the
 
1192
        content in self._log_contents."""
 
1193
        # flush the log file, to get all content
 
1194
        import bzrlib.trace
 
1195
        bzrlib.trace._trace_file.flush()
 
1196
        if self._log_contents:
 
1197
            return self._log_contents
 
1198
        if self._log_file_name is not None:
 
1199
            logfile = open(self._log_file_name)
 
1200
            try:
 
1201
                log_contents = logfile.read()
 
1202
            finally:
 
1203
                logfile.close()
 
1204
            if not keep_log_file:
 
1205
                self._log_contents = log_contents
 
1206
                try:
 
1207
                    os.remove(self._log_file_name)
 
1208
                except OSError, e:
 
1209
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
 
1210
                        print >>sys.stderr, ('Unable to delete log file '
 
1211
                                             ' %r' % self._log_file_name)
 
1212
                    else:
 
1213
                        raise
 
1214
            return log_contents
 
1215
        else:
 
1216
            return "DELETED log file to reduce memory footprint"
 
1217
 
 
1218
    def capture(self, cmd, retcode=0):
 
1219
        """Shortcut that splits cmd into words, runs, and returns stdout"""
 
1220
        return self.run_bzr_captured(cmd.split(), retcode=retcode)[0]
 
1221
 
 
1222
    def requireFeature(self, feature):
 
1223
        """This test requires a specific feature is available.
 
1224
 
 
1225
        :raises UnavailableFeature: When feature is not available.
 
1226
        """
 
1227
        if not feature.available():
 
1228
            raise UnavailableFeature(feature)
 
1229
 
 
1230
    def run_bzr_captured(self, argv, retcode=0, encoding=None, stdin=None,
 
1231
                         working_dir=None):
 
1232
        """Invoke bzr and return (stdout, stderr).
 
1233
 
 
1234
        Useful for code that wants to check the contents of the
 
1235
        output, the way error messages are presented, etc.
 
1236
 
 
1237
        This should be the main method for tests that want to exercise the
 
1238
        overall behavior of the bzr application (rather than a unit test
 
1239
        or a functional test of the library.)
 
1240
 
 
1241
        Much of the old code runs bzr by forking a new copy of Python, but
 
1242
        that is slower, harder to debug, and generally not necessary.
 
1243
 
 
1244
        This runs bzr through the interface that catches and reports
 
1245
        errors, and with logging set to something approximating the
 
1246
        default, so that error reporting can be checked.
 
1247
 
 
1248
        :param argv: arguments to invoke bzr
 
1249
        :param retcode: expected return code, or None for don't-care.
 
1250
        :param encoding: encoding for sys.stdout and sys.stderr
 
1251
        :param stdin: A string to be used as stdin for the command.
 
1252
        :param working_dir: Change to this directory before running
 
1253
        """
 
1254
        if encoding is None:
 
1255
            encoding = bzrlib.user_encoding
 
1256
        stdout = StringIOWrapper()
 
1257
        stderr = StringIOWrapper()
 
1258
        stdout.encoding = encoding
 
1259
        stderr.encoding = encoding
 
1260
 
 
1261
        self.log('run bzr: %r', argv)
 
1262
        # FIXME: don't call into logging here
 
1263
        handler = logging.StreamHandler(stderr)
 
1264
        handler.setLevel(logging.INFO)
 
1265
        logger = logging.getLogger('')
 
1266
        logger.addHandler(handler)
 
1267
        old_ui_factory = ui.ui_factory
 
1268
        ui.ui_factory = TestUIFactory(stdin=stdin, stdout=stdout, stderr=stderr)
 
1269
 
 
1270
        cwd = None
 
1271
        if working_dir is not None:
 
1272
            cwd = osutils.getcwd()
 
1273
            os.chdir(working_dir)
 
1274
 
 
1275
        try:
 
1276
            saved_debug_flags = frozenset(debug.debug_flags)
 
1277
            debug.debug_flags.clear()
 
1278
            try:
 
1279
                result = self.apply_redirected(ui.ui_factory.stdin,
 
1280
                                               stdout, stderr,
 
1281
                                               bzrlib.commands.run_bzr_catch_errors,
 
1282
                                               argv)
 
1283
            finally:
 
1284
                debug.debug_flags.update(saved_debug_flags)
 
1285
        finally:
 
1286
            logger.removeHandler(handler)
 
1287
            ui.ui_factory = old_ui_factory
 
1288
            if cwd is not None:
 
1289
                os.chdir(cwd)
 
1290
 
 
1291
        out = stdout.getvalue()
 
1292
        err = stderr.getvalue()
 
1293
        if out:
 
1294
            self.log('output:\n%r', out)
 
1295
        if err:
 
1296
            self.log('errors:\n%r', err)
 
1297
        if retcode is not None:
 
1298
            self.assertEquals(retcode, result,
 
1299
                              message='Unexpected return code')
 
1300
        return out, err
90
1301
 
91
1302
    def run_bzr(self, *args, **kwargs):
92
1303
        """Invoke bzr, as if it were run from the command line.
95
1306
        overall behavior of the bzr application (rather than a unit test
96
1307
        or a functional test of the library.)
97
1308
 
98
 
        Much of the old code runs bzr by forking a new copy of Python, but
99
 
        that is slower, harder to debug, and generally not necessary.
100
 
        """
101
 
        retcode = kwargs.get('retcode', 0)
102
 
        result = self.apply_redirected(None, None, None,
103
 
                                       bzrlib.commands.run_bzr, args)
104
 
        self.assertEquals(result, retcode)
105
 
        
106
 
        
 
1309
        This sends the stdout/stderr results into the test's log,
 
1310
        where it may be useful for debugging.  See also run_captured.
 
1311
 
 
1312
        :param stdin: A string to be used as stdin for the command.
 
1313
        :param retcode: The status code the command should return
 
1314
        :param working_dir: The directory to run the command in
 
1315
        """
 
1316
        retcode = kwargs.pop('retcode', 0)
 
1317
        encoding = kwargs.pop('encoding', None)
 
1318
        stdin = kwargs.pop('stdin', None)
 
1319
        working_dir = kwargs.pop('working_dir', None)
 
1320
        error_regexes = kwargs.pop('error_regexes', [])
 
1321
 
 
1322
        out, err = self.run_bzr_captured(args, retcode=retcode,
 
1323
            encoding=encoding, stdin=stdin, working_dir=working_dir)
 
1324
 
 
1325
        for regex in error_regexes:
 
1326
            self.assertContainsRe(err, regex)
 
1327
        return out, err
 
1328
 
 
1329
 
 
1330
    def run_bzr_decode(self, *args, **kwargs):
 
1331
        if 'encoding' in kwargs:
 
1332
            encoding = kwargs['encoding']
 
1333
        else:
 
1334
            encoding = bzrlib.user_encoding
 
1335
        return self.run_bzr(*args, **kwargs)[0].decode(encoding)
 
1336
 
 
1337
    def run_bzr_error(self, error_regexes, *args, **kwargs):
 
1338
        """Run bzr, and check that stderr contains the supplied regexes
 
1339
        
 
1340
        :param error_regexes: Sequence of regular expressions which 
 
1341
            must each be found in the error output. The relative ordering
 
1342
            is not enforced.
 
1343
        :param args: command-line arguments for bzr
 
1344
        :param kwargs: Keyword arguments which are interpreted by run_bzr
 
1345
            This function changes the default value of retcode to be 3,
 
1346
            since in most cases this is run when you expect bzr to fail.
 
1347
        :return: (out, err) The actual output of running the command (in case you
 
1348
                 want to do more inspection)
 
1349
 
 
1350
        Examples of use:
 
1351
            # Make sure that commit is failing because there is nothing to do
 
1352
            self.run_bzr_error(['no changes to commit'],
 
1353
                               'commit', '-m', 'my commit comment')
 
1354
            # Make sure --strict is handling an unknown file, rather than
 
1355
            # giving us the 'nothing to do' error
 
1356
            self.build_tree(['unknown'])
 
1357
            self.run_bzr_error(['Commit refused because there are unknown files'],
 
1358
                               'commit', '--strict', '-m', 'my commit comment')
 
1359
        """
 
1360
        kwargs.setdefault('retcode', 3)
 
1361
        out, err = self.run_bzr(error_regexes=error_regexes, *args, **kwargs)
 
1362
        return out, err
 
1363
 
 
1364
    def run_bzr_subprocess(self, *args, **kwargs):
 
1365
        """Run bzr in a subprocess for testing.
 
1366
 
 
1367
        This starts a new Python interpreter and runs bzr in there. 
 
1368
        This should only be used for tests that have a justifiable need for
 
1369
        this isolation: e.g. they are testing startup time, or signal
 
1370
        handling, or early startup code, etc.  Subprocess code can't be 
 
1371
        profiled or debugged so easily.
 
1372
 
 
1373
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
1374
            None is supplied, the status code is not checked.
 
1375
        :param env_changes: A dictionary which lists changes to environment
 
1376
            variables. A value of None will unset the env variable.
 
1377
            The values must be strings. The change will only occur in the
 
1378
            child, so you don't need to fix the environment after running.
 
1379
        :param universal_newlines: Convert CRLF => LF
 
1380
        :param allow_plugins: By default the subprocess is run with
 
1381
            --no-plugins to ensure test reproducibility. Also, it is possible
 
1382
            for system-wide plugins to create unexpected output on stderr,
 
1383
            which can cause unnecessary test failures.
 
1384
        """
 
1385
        env_changes = kwargs.get('env_changes', {})
 
1386
        working_dir = kwargs.get('working_dir', None)
 
1387
        allow_plugins = kwargs.get('allow_plugins', False)
 
1388
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
 
1389
                                            working_dir=working_dir,
 
1390
                                            allow_plugins=allow_plugins)
 
1391
        # We distinguish between retcode=None and retcode not passed.
 
1392
        supplied_retcode = kwargs.get('retcode', 0)
 
1393
        return self.finish_bzr_subprocess(process, retcode=supplied_retcode,
 
1394
            universal_newlines=kwargs.get('universal_newlines', False),
 
1395
            process_args=args)
 
1396
 
 
1397
    def start_bzr_subprocess(self, process_args, env_changes=None,
 
1398
                             skip_if_plan_to_signal=False,
 
1399
                             working_dir=None,
 
1400
                             allow_plugins=False):
 
1401
        """Start bzr in a subprocess for testing.
 
1402
 
 
1403
        This starts a new Python interpreter and runs bzr in there.
 
1404
        This should only be used for tests that have a justifiable need for
 
1405
        this isolation: e.g. they are testing startup time, or signal
 
1406
        handling, or early startup code, etc.  Subprocess code can't be
 
1407
        profiled or debugged so easily.
 
1408
 
 
1409
        :param process_args: a list of arguments to pass to the bzr executable,
 
1410
            for example `['--version']`.
 
1411
        :param env_changes: A dictionary which lists changes to environment
 
1412
            variables. A value of None will unset the env variable.
 
1413
            The values must be strings. The change will only occur in the
 
1414
            child, so you don't need to fix the environment after running.
 
1415
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
 
1416
            is not available.
 
1417
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
1418
 
 
1419
        :returns: Popen object for the started process.
 
1420
        """
 
1421
        if skip_if_plan_to_signal:
 
1422
            if not getattr(os, 'kill', None):
 
1423
                raise TestSkipped("os.kill not available.")
 
1424
 
 
1425
        if env_changes is None:
 
1426
            env_changes = {}
 
1427
        old_env = {}
 
1428
 
 
1429
        def cleanup_environment():
 
1430
            for env_var, value in env_changes.iteritems():
 
1431
                old_env[env_var] = osutils.set_or_unset_env(env_var, value)
 
1432
 
 
1433
        def restore_environment():
 
1434
            for env_var, value in old_env.iteritems():
 
1435
                osutils.set_or_unset_env(env_var, value)
 
1436
 
 
1437
        bzr_path = self.get_bzr_path()
 
1438
 
 
1439
        cwd = None
 
1440
        if working_dir is not None:
 
1441
            cwd = osutils.getcwd()
 
1442
            os.chdir(working_dir)
 
1443
 
 
1444
        try:
 
1445
            # win32 subprocess doesn't support preexec_fn
 
1446
            # so we will avoid using it on all platforms, just to
 
1447
            # make sure the code path is used, and we don't break on win32
 
1448
            cleanup_environment()
 
1449
            command = [sys.executable, bzr_path]
 
1450
            if not allow_plugins:
 
1451
                command.append('--no-plugins')
 
1452
            command.extend(process_args)
 
1453
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
1454
        finally:
 
1455
            restore_environment()
 
1456
            if cwd is not None:
 
1457
                os.chdir(cwd)
 
1458
 
 
1459
        return process
 
1460
 
 
1461
    def _popen(self, *args, **kwargs):
 
1462
        """Place a call to Popen.
 
1463
 
 
1464
        Allows tests to override this method to intercept the calls made to
 
1465
        Popen for introspection.
 
1466
        """
 
1467
        return Popen(*args, **kwargs)
 
1468
 
 
1469
    def get_bzr_path(self):
 
1470
        """Return the path of the 'bzr' executable for this test suite."""
 
1471
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
1472
        if not os.path.isfile(bzr_path):
 
1473
            # We are probably installed. Assume sys.argv is the right file
 
1474
            bzr_path = sys.argv[0]
 
1475
        return bzr_path
 
1476
 
 
1477
    def finish_bzr_subprocess(self, process, retcode=0, send_signal=None,
 
1478
                              universal_newlines=False, process_args=None):
 
1479
        """Finish the execution of process.
 
1480
 
 
1481
        :param process: the Popen object returned from start_bzr_subprocess.
 
1482
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
1483
            None is supplied, the status code is not checked.
 
1484
        :param send_signal: an optional signal to send to the process.
 
1485
        :param universal_newlines: Convert CRLF => LF
 
1486
        :returns: (stdout, stderr)
 
1487
        """
 
1488
        if send_signal is not None:
 
1489
            os.kill(process.pid, send_signal)
 
1490
        out, err = process.communicate()
 
1491
 
 
1492
        if universal_newlines:
 
1493
            out = out.replace('\r\n', '\n')
 
1494
            err = err.replace('\r\n', '\n')
 
1495
 
 
1496
        if retcode is not None and retcode != process.returncode:
 
1497
            if process_args is None:
 
1498
                process_args = "(unknown args)"
 
1499
            mutter('Output of bzr %s:\n%s', process_args, out)
 
1500
            mutter('Error for bzr %s:\n%s', process_args, err)
 
1501
            self.fail('Command bzr %s failed with retcode %s != %s'
 
1502
                      % (process_args, retcode, process.returncode))
 
1503
        return [out, err]
 
1504
 
107
1505
    def check_inventory_shape(self, inv, shape):
108
 
        """
109
 
        Compare an inventory to a list of expected names.
 
1506
        """Compare an inventory to a list of expected names.
110
1507
 
111
1508
        Fail if they are not precisely equal.
112
1509
        """
130
1527
        """Call callable with redirected std io pipes.
131
1528
 
132
1529
        Returns the return code."""
133
 
        from StringIO import StringIO
134
1530
        if not callable(a_callable):
135
1531
            raise ValueError("a_callable must be callable.")
136
1532
        if stdin is None:
137
1533
            stdin = StringIO("")
138
1534
        if stdout is None:
139
 
            if hasattr(self, "_log_file"):
 
1535
            if getattr(self, "_log_file", None) is not None:
140
1536
                stdout = self._log_file
141
1537
            else:
142
1538
                stdout = StringIO()
143
1539
        if stderr is None:
144
 
            if hasattr(self, "_log_file"):
 
1540
            if getattr(self, "_log_file", None is not None):
145
1541
                stderr = self._log_file
146
1542
            else:
147
1543
                stderr = StringIO()
158
1554
            sys.stderr = real_stderr
159
1555
            sys.stdin = real_stdin
160
1556
 
 
1557
    @symbol_versioning.deprecated_method(symbol_versioning.zero_eleven)
 
1558
    def merge(self, branch_from, wt_to):
 
1559
        """A helper for tests to do a ui-less merge.
 
1560
 
 
1561
        This should move to the main library when someone has time to integrate
 
1562
        it in.
 
1563
        """
 
1564
        # minimal ui-less merge.
 
1565
        wt_to.branch.fetch(branch_from)
 
1566
        base_rev = common_ancestor(branch_from.last_revision(),
 
1567
                                   wt_to.branch.last_revision(),
 
1568
                                   wt_to.branch.repository)
 
1569
        merge_inner(wt_to.branch, branch_from.basis_tree(),
 
1570
                    wt_to.branch.repository.revision_tree(base_rev),
 
1571
                    this_tree=wt_to)
 
1572
        wt_to.add_parent_tree_id(branch_from.last_revision())
 
1573
 
 
1574
    def reduceLockdirTimeout(self):
 
1575
        """Reduce the default lock timeout for the duration of the test, so that
 
1576
        if LockContention occurs during a test, it does so quickly.
 
1577
 
 
1578
        Tests that expect to provoke LockContention errors should call this.
 
1579
        """
 
1580
        orig_timeout = bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS
 
1581
        def resetTimeout():
 
1582
            bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = orig_timeout
 
1583
        self.addCleanup(resetTimeout)
 
1584
        bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = 0
161
1585
 
162
1586
BzrTestBase = TestCase
163
1587
 
 
1588
 
 
1589
class TestCaseWithMemoryTransport(TestCase):
 
1590
    """Common test class for tests that do not need disk resources.
 
1591
 
 
1592
    Tests that need disk resources should derive from TestCaseWithTransport.
 
1593
 
 
1594
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
 
1595
 
 
1596
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
1597
    a directory which does not exist. This serves to help ensure test isolation
 
1598
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
 
1599
    must exist. However, TestCaseWithMemoryTransport does not offer local
 
1600
    file defaults for the transport in tests, nor does it obey the command line
 
1601
    override, so tests that accidentally write to the common directory should
 
1602
    be rare.
 
1603
    """
 
1604
 
 
1605
    TEST_ROOT = None
 
1606
    _TEST_NAME = 'test'
 
1607
 
 
1608
 
 
1609
    def __init__(self, methodName='runTest'):
 
1610
        # allow test parameterisation after test construction and before test
 
1611
        # execution. Variables that the parameteriser sets need to be 
 
1612
        # ones that are not set by setUp, or setUp will trash them.
 
1613
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
 
1614
        self.vfs_transport_factory = default_transport
 
1615
        self.transport_server = None
 
1616
        self.transport_readonly_server = None
 
1617
        self.__vfs_server = None
 
1618
 
 
1619
    def get_transport(self):
 
1620
        """Return a writeable transport for the test scratch space"""
 
1621
        t = get_transport(self.get_url())
 
1622
        self.assertFalse(t.is_readonly())
 
1623
        return t
 
1624
 
 
1625
    def get_readonly_transport(self):
 
1626
        """Return a readonly transport for the test scratch space
 
1627
        
 
1628
        This can be used to test that operations which should only need
 
1629
        readonly access in fact do not try to write.
 
1630
        """
 
1631
        t = get_transport(self.get_readonly_url())
 
1632
        self.assertTrue(t.is_readonly())
 
1633
        return t
 
1634
 
 
1635
    def create_transport_readonly_server(self):
 
1636
        """Create a transport server from class defined at init.
 
1637
 
 
1638
        This is mostly a hook for daughter classes.
 
1639
        """
 
1640
        return self.transport_readonly_server()
 
1641
 
 
1642
    def get_readonly_server(self):
 
1643
        """Get the server instance for the readonly transport
 
1644
 
 
1645
        This is useful for some tests with specific servers to do diagnostics.
 
1646
        """
 
1647
        if self.__readonly_server is None:
 
1648
            if self.transport_readonly_server is None:
 
1649
                # readonly decorator requested
 
1650
                # bring up the server
 
1651
                self.__readonly_server = ReadonlyServer()
 
1652
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1653
            else:
 
1654
                self.__readonly_server = self.create_transport_readonly_server()
 
1655
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1656
            self.addCleanup(self.__readonly_server.tearDown)
 
1657
        return self.__readonly_server
 
1658
 
 
1659
    def get_readonly_url(self, relpath=None):
 
1660
        """Get a URL for the readonly transport.
 
1661
 
 
1662
        This will either be backed by '.' or a decorator to the transport 
 
1663
        used by self.get_url()
 
1664
        relpath provides for clients to get a path relative to the base url.
 
1665
        These should only be downwards relative, not upwards.
 
1666
        """
 
1667
        base = self.get_readonly_server().get_url()
 
1668
        if relpath is not None:
 
1669
            if not base.endswith('/'):
 
1670
                base = base + '/'
 
1671
            base = base + relpath
 
1672
        return base
 
1673
 
 
1674
    def get_vfs_only_server(self):
 
1675
        """Get the vfs only read/write server instance.
 
1676
 
 
1677
        This is useful for some tests with specific servers that need
 
1678
        diagnostics.
 
1679
 
 
1680
        For TestCaseWithMemoryTransport this is always a MemoryServer, and there
 
1681
        is no means to override it.
 
1682
        """
 
1683
        if self.__vfs_server is None:
 
1684
            self.__vfs_server = MemoryServer()
 
1685
            self.__vfs_server.setUp()
 
1686
            self.addCleanup(self.__vfs_server.tearDown)
 
1687
        return self.__vfs_server
 
1688
 
 
1689
    def get_server(self):
 
1690
        """Get the read/write server instance.
 
1691
 
 
1692
        This is useful for some tests with specific servers that need
 
1693
        diagnostics.
 
1694
 
 
1695
        This is built from the self.transport_server factory. If that is None,
 
1696
        then the self.get_vfs_server is returned.
 
1697
        """
 
1698
        if self.__server is None:
 
1699
            if self.transport_server is None or self.transport_server is self.vfs_transport_factory:
 
1700
                return self.get_vfs_only_server()
 
1701
            else:
 
1702
                # bring up a decorated means of access to the vfs only server.
 
1703
                self.__server = self.transport_server()
 
1704
                try:
 
1705
                    self.__server.setUp(self.get_vfs_only_server())
 
1706
                except TypeError, e:
 
1707
                    # This should never happen; the try:Except here is to assist
 
1708
                    # developers having to update code rather than seeing an
 
1709
                    # uninformative TypeError.
 
1710
                    raise Exception, "Old server API in use: %s, %s" % (self.__server, e)
 
1711
            self.addCleanup(self.__server.tearDown)
 
1712
        return self.__server
 
1713
 
 
1714
    def _adjust_url(self, base, relpath):
 
1715
        """Get a URL (or maybe a path) for the readwrite transport.
 
1716
 
 
1717
        This will either be backed by '.' or to an equivalent non-file based
 
1718
        facility.
 
1719
        relpath provides for clients to get a path relative to the base url.
 
1720
        These should only be downwards relative, not upwards.
 
1721
        """
 
1722
        if relpath is not None and relpath != '.':
 
1723
            if not base.endswith('/'):
 
1724
                base = base + '/'
 
1725
            # XXX: Really base should be a url; we did after all call
 
1726
            # get_url()!  But sometimes it's just a path (from
 
1727
            # LocalAbspathServer), and it'd be wrong to append urlescaped data
 
1728
            # to a non-escaped local path.
 
1729
            if base.startswith('./') or base.startswith('/'):
 
1730
                base += relpath
 
1731
            else:
 
1732
                base += urlutils.escape(relpath)
 
1733
        return base
 
1734
 
 
1735
    def get_url(self, relpath=None):
 
1736
        """Get a URL (or maybe a path) for the readwrite transport.
 
1737
 
 
1738
        This will either be backed by '.' or to an equivalent non-file based
 
1739
        facility.
 
1740
        relpath provides for clients to get a path relative to the base url.
 
1741
        These should only be downwards relative, not upwards.
 
1742
        """
 
1743
        base = self.get_server().get_url()
 
1744
        return self._adjust_url(base, relpath)
 
1745
 
 
1746
    def get_vfs_only_url(self, relpath=None):
 
1747
        """Get a URL (or maybe a path for the plain old vfs transport.
 
1748
 
 
1749
        This will never be a smart protocol.  It always has all the
 
1750
        capabilities of the local filesystem, but it might actually be a
 
1751
        MemoryTransport or some other similar virtual filesystem.
 
1752
 
 
1753
        This is the backing transport (if any) of the server returned by 
 
1754
        get_url and get_readonly_url.
 
1755
 
 
1756
        :param relpath: provides for clients to get a path relative to the base
 
1757
            url.  These should only be downwards relative, not upwards.
 
1758
        """
 
1759
        base = self.get_vfs_only_server().get_url()
 
1760
        return self._adjust_url(base, relpath)
 
1761
 
 
1762
    def _make_test_root(self):
 
1763
        if TestCaseWithMemoryTransport.TEST_ROOT is not None:
 
1764
            return
 
1765
        i = 0
 
1766
        while True:
 
1767
            root = u'test%04d.tmp' % i
 
1768
            try:
 
1769
                os.mkdir(root)
 
1770
            except OSError, e:
 
1771
                if e.errno == errno.EEXIST:
 
1772
                    i += 1
 
1773
                    continue
 
1774
                else:
 
1775
                    raise
 
1776
            # successfully created
 
1777
            TestCaseWithMemoryTransport.TEST_ROOT = osutils.abspath(root)
 
1778
            break
 
1779
        # make a fake bzr directory there to prevent any tests propagating
 
1780
        # up onto the source directory's real branch
 
1781
        bzrdir.BzrDir.create_standalone_workingtree(
 
1782
            TestCaseWithMemoryTransport.TEST_ROOT)
 
1783
 
 
1784
    def makeAndChdirToTestDir(self):
 
1785
        """Create a temporary directories for this one test.
 
1786
        
 
1787
        This must set self.test_home_dir and self.test_dir and chdir to
 
1788
        self.test_dir.
 
1789
        
 
1790
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
 
1791
        """
 
1792
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
1793
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
 
1794
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
 
1795
        
 
1796
    def make_branch(self, relpath, format=None):
 
1797
        """Create a branch on the transport at relpath."""
 
1798
        repo = self.make_repository(relpath, format=format)
 
1799
        return repo.bzrdir.create_branch()
 
1800
 
 
1801
    def make_bzrdir(self, relpath, format=None):
 
1802
        try:
 
1803
            # might be a relative or absolute path
 
1804
            maybe_a_url = self.get_url(relpath)
 
1805
            segments = maybe_a_url.rsplit('/', 1)
 
1806
            t = get_transport(maybe_a_url)
 
1807
            if len(segments) > 1 and segments[-1] not in ('', '.'):
 
1808
                try:
 
1809
                    t.mkdir('.')
 
1810
                except errors.FileExists:
 
1811
                    pass
 
1812
            if format is None:
 
1813
                format = 'default'
 
1814
            if isinstance(format, basestring):
 
1815
                format = bzrdir.format_registry.make_bzrdir(format)
 
1816
            return format.initialize_on_transport(t)
 
1817
        except errors.UninitializableFormat:
 
1818
            raise TestSkipped("Format %s is not initializable." % format)
 
1819
 
 
1820
    def make_repository(self, relpath, shared=False, format=None):
 
1821
        """Create a repository on our default transport at relpath.
 
1822
        
 
1823
        Note that relpath must be a relative path, not a full url.
 
1824
        """
 
1825
        # FIXME: If you create a remoterepository this returns the underlying
 
1826
        # real format, which is incorrect.  Actually we should make sure that 
 
1827
        # RemoteBzrDir returns a RemoteRepository.
 
1828
        # maybe  mbp 20070410
 
1829
        made_control = self.make_bzrdir(relpath, format=format)
 
1830
        return made_control.create_repository(shared=shared)
 
1831
 
 
1832
    def make_branch_and_memory_tree(self, relpath, format=None):
 
1833
        """Create a branch on the default transport and a MemoryTree for it."""
 
1834
        b = self.make_branch(relpath, format=format)
 
1835
        return memorytree.MemoryTree.create_on_branch(b)
 
1836
 
 
1837
    def overrideEnvironmentForTesting(self):
 
1838
        os.environ['HOME'] = self.test_home_dir
 
1839
        os.environ['BZR_HOME'] = self.test_home_dir
 
1840
        
 
1841
    def setUp(self):
 
1842
        super(TestCaseWithMemoryTransport, self).setUp()
 
1843
        self._make_test_root()
 
1844
        _currentdir = os.getcwdu()
 
1845
        def _leaveDirectory():
 
1846
            os.chdir(_currentdir)
 
1847
        self.addCleanup(_leaveDirectory)
 
1848
        self.makeAndChdirToTestDir()
 
1849
        self.overrideEnvironmentForTesting()
 
1850
        self.__readonly_server = None
 
1851
        self.__server = None
 
1852
        self.reduceLockdirTimeout()
 
1853
 
164
1854
     
165
 
class TestCaseInTempDir(TestCase):
 
1855
class TestCaseInTempDir(TestCaseWithMemoryTransport):
166
1856
    """Derived class that runs a test within a temporary directory.
167
1857
 
168
1858
    This is useful for tests that need to create a branch, etc.
175
1865
    InTempDir is an old alias for FunctionalTestCase.
176
1866
    """
177
1867
 
178
 
    TEST_ROOT = None
179
 
    _TEST_NAME = 'test'
180
1868
    OVERRIDE_PYTHON = 'python'
 
1869
    use_numbered_dirs = False
181
1870
 
182
1871
    def check_file_contents(self, filename, expect):
183
1872
        self.log("check contents of file %s" % filename)
185
1874
        if contents != expect:
186
1875
            self.log("expected: %r" % expect)
187
1876
            self.log("actually: %r" % contents)
188
 
            self.fail("contents of %s not as expected")
 
1877
            self.fail("contents of %s not as expected" % filename)
189
1878
 
190
 
    def _make_test_root(self):
191
 
        import os
192
 
        import shutil
193
 
        import tempfile
 
1879
    def makeAndChdirToTestDir(self):
 
1880
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
194
1881
        
195
 
        if TestCaseInTempDir.TEST_ROOT is not None:
 
1882
        For TestCaseInTempDir we create a temporary directory based on the test
 
1883
        name and then create two subdirs - test and home under it.
 
1884
        """
 
1885
        if self.use_numbered_dirs:  # strongly recommended on Windows
 
1886
                                    # due the path length limitation (260 ch.)
 
1887
            candidate_dir = '%s/%dK/%05d' % (self.TEST_ROOT,
 
1888
                                             int(self.number/1000),
 
1889
                                             self.number)
 
1890
            os.makedirs(candidate_dir)
 
1891
            self.test_home_dir = candidate_dir + '/home'
 
1892
            os.mkdir(self.test_home_dir)
 
1893
            self.test_dir = candidate_dir + '/work'
 
1894
            os.mkdir(self.test_dir)
 
1895
            os.chdir(self.test_dir)
 
1896
            # put name of test inside
 
1897
            f = file(candidate_dir + '/name', 'w')
 
1898
            f.write(self.id())
 
1899
            f.close()
196
1900
            return
197
 
        TestCaseInTempDir.TEST_ROOT = os.path.abspath(
198
 
                                 tempfile.mkdtemp(suffix='.tmp',
199
 
                                                  prefix=self._TEST_NAME + '-',
200
 
                                                  dir=os.curdir))
201
 
    
202
 
        # make a fake bzr directory there to prevent any tests propagating
203
 
        # up onto the source directory's real branch
204
 
        os.mkdir(os.path.join(TestCaseInTempDir.TEST_ROOT, '.bzr'))
205
 
 
206
 
    def setUp(self):
207
 
        super(TestCaseInTempDir, self).setUp()
208
 
        import os
209
 
        self._make_test_root()
210
 
        self._currentdir = os.getcwdu()
211
 
        self.test_dir = os.path.join(self.TEST_ROOT, self.id())
212
 
        os.mkdir(self.test_dir)
213
 
        os.chdir(self.test_dir)
214
 
        
215
 
    def tearDown(self):
216
 
        import os
217
 
        os.chdir(self._currentdir)
218
 
        super(TestCaseInTempDir, self).tearDown()
219
 
 
220
 
    def _formcmd(self, cmd):
221
 
        if isinstance(cmd, basestring):
222
 
            cmd = cmd.split()
223
 
        if cmd[0] == 'bzr':
224
 
            cmd[0] = self.BZRPATH
225
 
            if self.OVERRIDE_PYTHON:
226
 
                cmd.insert(0, self.OVERRIDE_PYTHON)
227
 
        self.log('$ %r' % cmd)
228
 
        return cmd
229
 
 
230
 
    def runcmd(self, cmd, retcode=0):
231
 
        """Run one command and check the return code.
232
 
 
233
 
        Returns a tuple of (stdout,stderr) strings.
234
 
 
235
 
        If a single string is based, it is split into words.
236
 
        For commands that are not simple space-separated words, please
237
 
        pass a list instead."""
238
 
        cmd = self._formcmd(cmd)
239
 
        self.log('$ ' + ' '.join(cmd))
240
 
        actual_retcode = subprocess.call(cmd, stdout=self._log_file,
241
 
                                         stderr=self._log_file)
242
 
        if retcode != actual_retcode:
243
 
            raise CommandFailed("test failed: %r returned %d, expected %d"
244
 
                                % (cmd, actual_retcode, retcode))
245
 
 
246
 
    def backtick(self, cmd, retcode=0):
247
 
        """Run a command and return its output"""
248
 
        cmd = self._formcmd(cmd)
249
 
        child = subprocess.Popen(cmd, stdout=subprocess.PIPE, stderr=self._log_file)
250
 
        outd, errd = child.communicate()
251
 
        self.log(outd)
252
 
        actual_retcode = child.wait()
253
 
 
254
 
        outd = outd.replace('\r', '')
255
 
 
256
 
        if retcode != actual_retcode:
257
 
            raise CommandFailed("test failed: %r returned %d, expected %d"
258
 
                                % (cmd, actual_retcode, retcode))
259
 
 
260
 
        return outd
261
 
 
262
 
 
263
 
 
264
 
    def build_tree(self, shape):
 
1901
        # Else NAMED DIRS
 
1902
        # shorten the name, to avoid test failures due to path length
 
1903
        short_id = self.id().replace('bzrlib.tests.', '') \
 
1904
                   .replace('__main__.', '')[-100:]
 
1905
        # it's possible the same test class is run several times for
 
1906
        # parameterized tests, so make sure the names don't collide.  
 
1907
        i = 0
 
1908
        while True:
 
1909
            if i > 0:
 
1910
                candidate_dir = '%s/%s.%d' % (self.TEST_ROOT, short_id, i)
 
1911
            else:
 
1912
                candidate_dir = '%s/%s' % (self.TEST_ROOT, short_id)
 
1913
            if os.path.exists(candidate_dir):
 
1914
                i = i + 1
 
1915
                continue
 
1916
            else:
 
1917
                os.mkdir(candidate_dir)
 
1918
                self.test_home_dir = candidate_dir + '/home'
 
1919
                os.mkdir(self.test_home_dir)
 
1920
                self.test_dir = candidate_dir + '/work'
 
1921
                os.mkdir(self.test_dir)
 
1922
                os.chdir(self.test_dir)
 
1923
                break
 
1924
 
 
1925
    def build_tree(self, shape, line_endings='binary', transport=None):
265
1926
        """Build a test tree according to a pattern.
266
1927
 
267
1928
        shape is a sequence of file specifications.  If the final
268
1929
        character is '/', a directory is created.
269
1930
 
 
1931
        This assumes that all the elements in the tree being built are new.
 
1932
 
270
1933
        This doesn't add anything to a branch.
 
1934
        :param line_endings: Either 'binary' or 'native'
 
1935
                             in binary mode, exact contents are written
 
1936
                             in native mode, the line endings match the
 
1937
                             default platform endings.
 
1938
 
 
1939
        :param transport: A transport to write to, for building trees on 
 
1940
                          VFS's. If the transport is readonly or None,
 
1941
                          "." is opened automatically.
271
1942
        """
272
 
        # XXX: It's OK to just create them using forward slashes on windows?
273
 
        import os
 
1943
        # It's OK to just create them using forward slashes on windows.
 
1944
        if transport is None or transport.is_readonly():
 
1945
            transport = get_transport(".")
274
1946
        for name in shape:
275
 
            assert isinstance(name, basestring)
 
1947
            self.assert_(isinstance(name, basestring))
276
1948
            if name[-1] == '/':
277
 
                os.mkdir(name[:-1])
278
 
            else:
279
 
                f = file(name, 'wt')
280
 
                print >>f, "contents of", name
281
 
                f.close()
282
 
                
283
 
 
284
 
 
285
 
class MetaTestLog(TestCase):
286
 
    def test_logging(self):
287
 
        """Test logs are captured when a test fails."""
288
 
        logging.info('an info message')
289
 
        warning('something looks dodgy...')
290
 
        logging.debug('hello, test is running')
291
 
        ##assert 0
292
 
 
293
 
 
294
 
def selftest(verbose=False, pattern=".*"):
295
 
    return run_suite(test_suite(), 'testbzr', verbose=verbose, pattern=pattern)
 
1949
                transport.mkdir(urlutils.escape(name[:-1]))
 
1950
            else:
 
1951
                if line_endings == 'binary':
 
1952
                    end = '\n'
 
1953
                elif line_endings == 'native':
 
1954
                    end = os.linesep
 
1955
                else:
 
1956
                    raise errors.BzrError(
 
1957
                        'Invalid line ending request %r' % line_endings)
 
1958
                content = "contents of %s%s" % (name.encode('utf-8'), end)
 
1959
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
 
1960
 
 
1961
    def build_tree_contents(self, shape):
 
1962
        build_tree_contents(shape)
 
1963
 
 
1964
    def assertFileEqual(self, content, path):
 
1965
        """Fail if path does not contain 'content'."""
 
1966
        self.failUnlessExists(path)
 
1967
        # TODO: jam 20060427 Shouldn't this be 'rb'?
 
1968
        f = file(path, 'r')
 
1969
        try:
 
1970
            s = f.read()
 
1971
        finally:
 
1972
            f.close()
 
1973
        self.assertEqualDiff(content, s)
 
1974
 
 
1975
    def failUnlessExists(self, path):
 
1976
        """Fail unless path or paths, which may be abs or relative, exist."""
 
1977
        if not isinstance(path, basestring):
 
1978
            for p in path:
 
1979
                self.failUnlessExists(p)
 
1980
        else:
 
1981
            self.failUnless(osutils.lexists(path),path+" does not exist")
 
1982
 
 
1983
    def failIfExists(self, path):
 
1984
        """Fail if path or paths, which may be abs or relative, exist."""
 
1985
        if not isinstance(path, basestring):
 
1986
            for p in path:
 
1987
                self.failIfExists(p)
 
1988
        else:
 
1989
            self.failIf(osutils.lexists(path),path+" exists")
 
1990
 
 
1991
    def assertInWorkingTree(self,path,root_path='.',tree=None):
 
1992
        """Assert whether path or paths are in the WorkingTree"""
 
1993
        if tree is None:
 
1994
            tree = workingtree.WorkingTree.open(root_path)
 
1995
        if not isinstance(path, basestring):
 
1996
            for p in path:
 
1997
                self.assertInWorkingTree(p,tree=tree)
 
1998
        else:
 
1999
            self.assertIsNot(tree.path2id(path), None,
 
2000
                path+' not in working tree.')
 
2001
 
 
2002
    def assertNotInWorkingTree(self,path,root_path='.',tree=None):
 
2003
        """Assert whether path or paths are not in the WorkingTree"""
 
2004
        if tree is None:
 
2005
            tree = workingtree.WorkingTree.open(root_path)
 
2006
        if not isinstance(path, basestring):
 
2007
            for p in path:
 
2008
                self.assertNotInWorkingTree(p,tree=tree)
 
2009
        else:
 
2010
            self.assertIs(tree.path2id(path), None, path+' in working tree.')
 
2011
 
 
2012
 
 
2013
class TestCaseWithTransport(TestCaseInTempDir):
 
2014
    """A test case that provides get_url and get_readonly_url facilities.
 
2015
 
 
2016
    These back onto two transport servers, one for readonly access and one for
 
2017
    read write access.
 
2018
 
 
2019
    If no explicit class is provided for readonly access, a
 
2020
    ReadonlyTransportDecorator is used instead which allows the use of non disk
 
2021
    based read write transports.
 
2022
 
 
2023
    If an explicit class is provided for readonly access, that server and the 
 
2024
    readwrite one must both define get_url() as resolving to os.getcwd().
 
2025
    """
 
2026
 
 
2027
    def get_vfs_only_server(self):
 
2028
        """See TestCaseWithMemoryTransport.
 
2029
 
 
2030
        This is useful for some tests with specific servers that need
 
2031
        diagnostics.
 
2032
        """
 
2033
        if self.__vfs_server is None:
 
2034
            self.__vfs_server = self.vfs_transport_factory()
 
2035
            self.__vfs_server.setUp()
 
2036
            self.addCleanup(self.__vfs_server.tearDown)
 
2037
        return self.__vfs_server
 
2038
 
 
2039
    def make_branch_and_tree(self, relpath, format=None):
 
2040
        """Create a branch on the transport and a tree locally.
 
2041
 
 
2042
        If the transport is not a LocalTransport, the Tree can't be created on
 
2043
        the transport.  In that case if the vfs_transport_factory is
 
2044
        LocalURLServer the working tree is created in the local
 
2045
        directory backing the transport, and the returned tree's branch and
 
2046
        repository will also be accessed locally. Otherwise a lightweight
 
2047
        checkout is created and returned.
 
2048
 
 
2049
        :param format: The BzrDirFormat.
 
2050
        :returns: the WorkingTree.
 
2051
        """
 
2052
        # TODO: always use the local disk path for the working tree,
 
2053
        # this obviously requires a format that supports branch references
 
2054
        # so check for that by checking bzrdir.BzrDirFormat.get_default_format()
 
2055
        # RBC 20060208
 
2056
        b = self.make_branch(relpath, format=format)
 
2057
        try:
 
2058
            return b.bzrdir.create_workingtree()
 
2059
        except errors.NotLocalUrl:
 
2060
            # We can only make working trees locally at the moment.  If the
 
2061
            # transport can't support them, then we keep the non-disk-backed
 
2062
            # branch and create a local checkout.
 
2063
            if self.vfs_transport_factory is LocalURLServer:
 
2064
                # the branch is colocated on disk, we cannot create a checkout.
 
2065
                # hopefully callers will expect this.
 
2066
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
 
2067
                return local_controldir.create_workingtree()
 
2068
            else:
 
2069
                return b.create_checkout(relpath, lightweight=True)
 
2070
 
 
2071
    def assertIsDirectory(self, relpath, transport):
 
2072
        """Assert that relpath within transport is a directory.
 
2073
 
 
2074
        This may not be possible on all transports; in that case it propagates
 
2075
        a TransportNotPossible.
 
2076
        """
 
2077
        try:
 
2078
            mode = transport.stat(relpath).st_mode
 
2079
        except errors.NoSuchFile:
 
2080
            self.fail("path %s is not a directory; no such file"
 
2081
                      % (relpath))
 
2082
        if not stat.S_ISDIR(mode):
 
2083
            self.fail("path %s is not a directory; has mode %#o"
 
2084
                      % (relpath, mode))
 
2085
 
 
2086
    def assertTreesEqual(self, left, right):
 
2087
        """Check that left and right have the same content and properties."""
 
2088
        # we use a tree delta to check for equality of the content, and we
 
2089
        # manually check for equality of other things such as the parents list.
 
2090
        self.assertEqual(left.get_parent_ids(), right.get_parent_ids())
 
2091
        differences = left.changes_from(right)
 
2092
        self.assertFalse(differences.has_changed(),
 
2093
            "Trees %r and %r are different: %r" % (left, right, differences))
 
2094
 
 
2095
    def setUp(self):
 
2096
        super(TestCaseWithTransport, self).setUp()
 
2097
        self.__vfs_server = None
 
2098
 
 
2099
 
 
2100
class ChrootedTestCase(TestCaseWithTransport):
 
2101
    """A support class that provides readonly urls outside the local namespace.
 
2102
 
 
2103
    This is done by checking if self.transport_server is a MemoryServer. if it
 
2104
    is then we are chrooted already, if it is not then an HttpServer is used
 
2105
    for readonly urls.
 
2106
 
 
2107
    TODO RBC 20060127: make this an option to TestCaseWithTransport so it can
 
2108
                       be used without needed to redo it when a different 
 
2109
                       subclass is in use ?
 
2110
    """
 
2111
 
 
2112
    def setUp(self):
 
2113
        super(ChrootedTestCase, self).setUp()
 
2114
        if not self.vfs_transport_factory == MemoryServer:
 
2115
            self.transport_readonly_server = HttpServer
 
2116
 
 
2117
 
 
2118
def filter_suite_by_re(suite, pattern, exclude_pattern=None,
 
2119
                       random_order=False):
 
2120
    """Create a test suite by filtering another one.
 
2121
    
 
2122
    :param suite:           the source suite
 
2123
    :param pattern:         pattern that names must match
 
2124
    :param exclude_pattern: pattern that names must not match, if any
 
2125
    :param random_order:    if True, tests in the new suite will be put in
 
2126
                            random order
 
2127
    :returns: the newly created suite
 
2128
    """ 
 
2129
    return sort_suite_by_re(suite, pattern, exclude_pattern,
 
2130
        random_order, False)
 
2131
 
 
2132
 
 
2133
def sort_suite_by_re(suite, pattern, exclude_pattern=None,
 
2134
                     random_order=False, append_rest=True):
 
2135
    """Create a test suite by sorting another one.
 
2136
    
 
2137
    :param suite:           the source suite
 
2138
    :param pattern:         pattern that names must match in order to go
 
2139
                            first in the new suite
 
2140
    :param exclude_pattern: pattern that names must not match, if any
 
2141
    :param random_order:    if True, tests in the new suite will be put in
 
2142
                            random order
 
2143
    :param append_rest:     if False, pattern is a strict filter and not
 
2144
                            just an ordering directive
 
2145
    :returns: the newly created suite
 
2146
    """ 
 
2147
    first = []
 
2148
    second = []
 
2149
    filter_re = re.compile(pattern)
 
2150
    if exclude_pattern is not None:
 
2151
        exclude_re = re.compile(exclude_pattern)
 
2152
    for test in iter_suite_tests(suite):
 
2153
        test_id = test.id()
 
2154
        if exclude_pattern is None or not exclude_re.search(test_id):
 
2155
            if filter_re.search(test_id):
 
2156
                first.append(test)
 
2157
            elif append_rest:
 
2158
                second.append(test)
 
2159
    if random_order:
 
2160
        random.shuffle(first)
 
2161
        random.shuffle(second)
 
2162
    return TestUtil.TestSuite(first + second)
 
2163
 
 
2164
 
 
2165
def run_suite(suite, name='test', verbose=False, pattern=".*",
 
2166
              stop_on_failure=False, keep_output=False,
 
2167
              transport=None, lsprof_timed=None, bench_history=None,
 
2168
              matching_tests_first=None,
 
2169
              numbered_dirs=None,
 
2170
              list_only=False,
 
2171
              random_seed=None,
 
2172
              exclude_pattern=None,
 
2173
              ):
 
2174
    use_numbered_dirs = bool(numbered_dirs)
 
2175
 
 
2176
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
 
2177
    if numbered_dirs is not None:
 
2178
        TestCaseInTempDir.use_numbered_dirs = use_numbered_dirs
 
2179
    if verbose:
 
2180
        verbosity = 2
 
2181
    else:
 
2182
        verbosity = 1
 
2183
    runner = TextTestRunner(stream=sys.stdout,
 
2184
                            descriptions=0,
 
2185
                            verbosity=verbosity,
 
2186
                            keep_output=keep_output,
 
2187
                            bench_history=bench_history,
 
2188
                            use_numbered_dirs=use_numbered_dirs,
 
2189
                            list_only=list_only,
 
2190
                            )
 
2191
    runner.stop_on_failure=stop_on_failure
 
2192
    # Initialise the random number generator and display the seed used.
 
2193
    # We convert the seed to a long to make it reuseable across invocations.
 
2194
    random_order = False
 
2195
    if random_seed is not None:
 
2196
        random_order = True
 
2197
        if random_seed == "now":
 
2198
            random_seed = long(time.time())
 
2199
        else:
 
2200
            # Convert the seed to a long if we can
 
2201
            try:
 
2202
                random_seed = long(random_seed)
 
2203
            except:
 
2204
                pass
 
2205
        runner.stream.writeln("Randomizing test order using seed %s\n" %
 
2206
            (random_seed))
 
2207
        random.seed(random_seed)
 
2208
    # Customise the list of tests if requested
 
2209
    if pattern != '.*' or exclude_pattern is not None or random_order:
 
2210
        if matching_tests_first:
 
2211
            suite = sort_suite_by_re(suite, pattern, exclude_pattern,
 
2212
                random_order)
 
2213
        else:
 
2214
            suite = filter_suite_by_re(suite, pattern, exclude_pattern,
 
2215
                random_order)
 
2216
    result = runner.run(suite)
 
2217
    return result.wasSuccessful()
 
2218
 
 
2219
 
 
2220
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
 
2221
             keep_output=False,
 
2222
             transport=None,
 
2223
             test_suite_factory=None,
 
2224
             lsprof_timed=None,
 
2225
             bench_history=None,
 
2226
             matching_tests_first=None,
 
2227
             numbered_dirs=None,
 
2228
             list_only=False,
 
2229
             random_seed=None,
 
2230
             exclude_pattern=None):
 
2231
    """Run the whole test suite under the enhanced runner"""
 
2232
    # XXX: Very ugly way to do this...
 
2233
    # Disable warning about old formats because we don't want it to disturb
 
2234
    # any blackbox tests.
 
2235
    from bzrlib import repository
 
2236
    repository._deprecation_warning_done = True
 
2237
 
 
2238
    global default_transport
 
2239
    if transport is None:
 
2240
        transport = default_transport
 
2241
    old_transport = default_transport
 
2242
    default_transport = transport
 
2243
    try:
 
2244
        if test_suite_factory is None:
 
2245
            suite = test_suite()
 
2246
        else:
 
2247
            suite = test_suite_factory()
 
2248
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
 
2249
                     stop_on_failure=stop_on_failure, keep_output=keep_output,
 
2250
                     transport=transport,
 
2251
                     lsprof_timed=lsprof_timed,
 
2252
                     bench_history=bench_history,
 
2253
                     matching_tests_first=matching_tests_first,
 
2254
                     numbered_dirs=numbered_dirs,
 
2255
                     list_only=list_only,
 
2256
                     random_seed=random_seed,
 
2257
                     exclude_pattern=exclude_pattern)
 
2258
    finally:
 
2259
        default_transport = old_transport
296
2260
 
297
2261
 
298
2262
def test_suite():
299
 
    from bzrlib.selftest.TestUtil import TestLoader, TestSuite
300
 
    import bzrlib, bzrlib.store, bzrlib.inventory, bzrlib.branch
301
 
    import bzrlib.osutils, bzrlib.commands, bzrlib.merge3, bzrlib.plugin
302
 
    from doctest import DocTestSuite
303
 
    import os
304
 
    import shutil
305
 
    import time
306
 
    import sys
307
 
 
308
 
    global MODULES_TO_TEST, MODULES_TO_DOCTEST
309
 
 
310
 
    testmod_names = \
311
 
                  ['bzrlib.selftest.MetaTestLog',
312
 
                   'bzrlib.selftest.test_parent',
313
 
                   'bzrlib.selftest.testinv',
314
 
                   'bzrlib.selftest.testfetch',
315
 
                   'bzrlib.selftest.versioning',
316
 
                   'bzrlib.selftest.whitebox',
317
 
                   'bzrlib.selftest.testmerge3',
318
 
                   'bzrlib.selftest.testmerge',
319
 
                   'bzrlib.selftest.testhashcache',
320
 
                   'bzrlib.selftest.teststatus',
321
 
                   'bzrlib.selftest.testlog',
322
 
                   'bzrlib.selftest.blackbox',
323
 
                   'bzrlib.selftest.testrevisionnamespaces',
324
 
                   'bzrlib.selftest.testbranch',
325
 
                   'bzrlib.selftest.testremotebranch',
326
 
                   'bzrlib.selftest.testrevision',
327
 
                   'bzrlib.selftest.test_merge_core',
328
 
                   'bzrlib.selftest.test_smart_add',
329
 
                   'bzrlib.selftest.testdiff',
330
 
                   'bzrlib.selftest.test_xml',
331
 
                   'bzrlib.fetch',
332
 
                   'bzrlib.selftest.teststore',
333
 
                   'bzrlib.selftest.testtransport',
334
 
                   'bzrlib.selftest.testgraph',
 
2263
    """Build and return TestSuite for the whole of bzrlib.
 
2264
    
 
2265
    This function can be replaced if you need to change the default test
 
2266
    suite on a global basis, but it is not encouraged.
 
2267
    """
 
2268
    testmod_names = [
 
2269
                   'bzrlib.tests.test_ancestry',
 
2270
                   'bzrlib.tests.test_annotate',
 
2271
                   'bzrlib.tests.test_api',
 
2272
                   'bzrlib.tests.test_atomicfile',
 
2273
                   'bzrlib.tests.test_bad_files',
 
2274
                   'bzrlib.tests.test_branch',
 
2275
                   'bzrlib.tests.test_bugtracker',
 
2276
                   'bzrlib.tests.test_bundle',
 
2277
                   'bzrlib.tests.test_bzrdir',
 
2278
                   'bzrlib.tests.test_cache_utf8',
 
2279
                   'bzrlib.tests.test_commands',
 
2280
                   'bzrlib.tests.test_commit',
 
2281
                   'bzrlib.tests.test_commit_merge',
 
2282
                   'bzrlib.tests.test_config',
 
2283
                   'bzrlib.tests.test_conflicts',
 
2284
                   'bzrlib.tests.test_decorators',
 
2285
                   'bzrlib.tests.test_delta',
 
2286
                   'bzrlib.tests.test_diff',
 
2287
                   'bzrlib.tests.test_dirstate',
 
2288
                   'bzrlib.tests.test_errors',
 
2289
                   'bzrlib.tests.test_escaped_store',
 
2290
                   'bzrlib.tests.test_extract',
 
2291
                   'bzrlib.tests.test_fetch',
 
2292
                   'bzrlib.tests.test_ftp_transport',
 
2293
                   'bzrlib.tests.test_generate_docs',
 
2294
                   'bzrlib.tests.test_generate_ids',
 
2295
                   'bzrlib.tests.test_globbing',
 
2296
                   'bzrlib.tests.test_gpg',
 
2297
                   'bzrlib.tests.test_graph',
 
2298
                   'bzrlib.tests.test_hashcache',
 
2299
                   'bzrlib.tests.test_help',
 
2300
                   'bzrlib.tests.test_http',
 
2301
                   'bzrlib.tests.test_http_response',
 
2302
                   'bzrlib.tests.test_https_ca_bundle',
 
2303
                   'bzrlib.tests.test_identitymap',
 
2304
                   'bzrlib.tests.test_ignores',
 
2305
                   'bzrlib.tests.test_inv',
 
2306
                   'bzrlib.tests.test_knit',
 
2307
                   'bzrlib.tests.test_lazy_import',
 
2308
                   'bzrlib.tests.test_lazy_regex',
 
2309
                   'bzrlib.tests.test_lockdir',
 
2310
                   'bzrlib.tests.test_lockable_files',
 
2311
                   'bzrlib.tests.test_log',
 
2312
                   'bzrlib.tests.test_memorytree',
 
2313
                   'bzrlib.tests.test_merge',
 
2314
                   'bzrlib.tests.test_merge3',
 
2315
                   'bzrlib.tests.test_merge_core',
 
2316
                   'bzrlib.tests.test_merge_directive',
 
2317
                   'bzrlib.tests.test_missing',
 
2318
                   'bzrlib.tests.test_msgeditor',
 
2319
                   'bzrlib.tests.test_nonascii',
 
2320
                   'bzrlib.tests.test_options',
 
2321
                   'bzrlib.tests.test_osutils',
 
2322
                   'bzrlib.tests.test_osutils_encodings',
 
2323
                   'bzrlib.tests.test_patch',
 
2324
                   'bzrlib.tests.test_patches',
 
2325
                   'bzrlib.tests.test_permissions',
 
2326
                   'bzrlib.tests.test_plugins',
 
2327
                   'bzrlib.tests.test_progress',
 
2328
                   'bzrlib.tests.test_reconcile',
 
2329
                   'bzrlib.tests.test_registry',
 
2330
                   'bzrlib.tests.test_remote',
 
2331
                   'bzrlib.tests.test_repository',
 
2332
                   'bzrlib.tests.test_revert',
 
2333
                   'bzrlib.tests.test_revision',
 
2334
                   'bzrlib.tests.test_revisionnamespaces',
 
2335
                   'bzrlib.tests.test_revisiontree',
 
2336
                   'bzrlib.tests.test_rio',
 
2337
                   'bzrlib.tests.test_sampler',
 
2338
                   'bzrlib.tests.test_selftest',
 
2339
                   'bzrlib.tests.test_setup',
 
2340
                   'bzrlib.tests.test_sftp_transport',
 
2341
                   'bzrlib.tests.test_smart',
 
2342
                   'bzrlib.tests.test_smart_add',
 
2343
                   'bzrlib.tests.test_smart_transport',
 
2344
                   'bzrlib.tests.test_source',
 
2345
                   'bzrlib.tests.test_ssh_transport',
 
2346
                   'bzrlib.tests.test_status',
 
2347
                   'bzrlib.tests.test_store',
 
2348
                   'bzrlib.tests.test_strace',
 
2349
                   'bzrlib.tests.test_subsume',
 
2350
                   'bzrlib.tests.test_symbol_versioning',
 
2351
                   'bzrlib.tests.test_tag',
 
2352
                   'bzrlib.tests.test_testament',
 
2353
                   'bzrlib.tests.test_textfile',
 
2354
                   'bzrlib.tests.test_textmerge',
 
2355
                   'bzrlib.tests.test_timestamp',
 
2356
                   'bzrlib.tests.test_trace',
 
2357
                   'bzrlib.tests.test_transactions',
 
2358
                   'bzrlib.tests.test_transform',
 
2359
                   'bzrlib.tests.test_transport',
 
2360
                   'bzrlib.tests.test_tree',
 
2361
                   'bzrlib.tests.test_treebuilder',
 
2362
                   'bzrlib.tests.test_tsort',
 
2363
                   'bzrlib.tests.test_tuned_gzip',
 
2364
                   'bzrlib.tests.test_ui',
 
2365
                   'bzrlib.tests.test_upgrade',
 
2366
                   'bzrlib.tests.test_urlutils',
 
2367
                   'bzrlib.tests.test_versionedfile',
 
2368
                   'bzrlib.tests.test_version',
 
2369
                   'bzrlib.tests.test_version_info',
 
2370
                   'bzrlib.tests.test_weave',
 
2371
                   'bzrlib.tests.test_whitebox',
 
2372
                   'bzrlib.tests.test_workingtree',
 
2373
                   'bzrlib.tests.test_workingtree_4',
 
2374
                   'bzrlib.tests.test_wsgi',
 
2375
                   'bzrlib.tests.test_xml',
335
2376
                   ]
336
 
 
337
 
    for m in (bzrlib.store, bzrlib.inventory, bzrlib.branch,
338
 
              bzrlib.osutils, bzrlib.commands, bzrlib.merge3):
339
 
        if m not in MODULES_TO_DOCTEST:
340
 
            MODULES_TO_DOCTEST.append(m)
341
 
 
342
 
    TestCase.BZRPATH = os.path.join(os.path.realpath(os.path.dirname(bzrlib.__path__[0])), 'bzr')
343
 
    print '%-30s %s' % ('bzr binary', TestCase.BZRPATH)
344
 
    print
345
 
    suite = TestSuite()
346
 
    suite.addTest(TestLoader().loadTestsFromNames(testmod_names))
 
2377
    test_transport_implementations = [
 
2378
        'bzrlib.tests.test_transport_implementations',
 
2379
        'bzrlib.tests.test_read_bundle',
 
2380
        ]
 
2381
    suite = TestUtil.TestSuite()
 
2382
    loader = TestUtil.TestLoader()
 
2383
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
 
2384
    from bzrlib.transport import TransportTestProviderAdapter
 
2385
    adapter = TransportTestProviderAdapter()
 
2386
    adapt_modules(test_transport_implementations, adapter, loader, suite)
 
2387
    for package in packages_to_test():
 
2388
        suite.addTest(package.test_suite())
347
2389
    for m in MODULES_TO_TEST:
348
 
         suite.addTest(TestLoader().loadTestsFromModule(m))
349
 
    for m in (MODULES_TO_DOCTEST):
350
 
        suite.addTest(DocTestSuite(m))
351
 
    for p in bzrlib.plugin.all_plugins:
352
 
        if hasattr(p, 'test_suite'):
353
 
            suite.addTest(p.test_suite())
 
2390
        suite.addTest(loader.loadTestsFromModule(m))
 
2391
    for m in MODULES_TO_DOCTEST:
 
2392
        try:
 
2393
            suite.addTest(doctest.DocTestSuite(m))
 
2394
        except ValueError, e:
 
2395
            print '**failed to get doctest for: %s\n%s' %(m,e)
 
2396
            raise
 
2397
    for name, plugin in bzrlib.plugin.all_plugins().items():
 
2398
        if getattr(plugin, 'test_suite', None) is not None:
 
2399
            default_encoding = sys.getdefaultencoding()
 
2400
            try:
 
2401
                plugin_suite = plugin.test_suite()
 
2402
            except ImportError, e:
 
2403
                bzrlib.trace.warning(
 
2404
                    'Unable to test plugin "%s": %s', name, e)
 
2405
            else:
 
2406
                suite.addTest(plugin_suite)
 
2407
            if default_encoding != sys.getdefaultencoding():
 
2408
                bzrlib.trace.warning(
 
2409
                    'Plugin "%s" tried to reset default encoding to: %s', name,
 
2410
                    sys.getdefaultencoding())
 
2411
                reload(sys)
 
2412
                sys.setdefaultencoding(default_encoding)
354
2413
    return suite
355
2414
 
 
2415
 
 
2416
def adapt_modules(mods_list, adapter, loader, suite):
 
2417
    """Adapt the modules in mods_list using adapter and add to suite."""
 
2418
    for test in iter_suite_tests(loader.loadTestsFromModuleNames(mods_list)):
 
2419
        suite.addTests(adapter.adapt(test))
 
2420
 
 
2421
 
 
2422
def _rmtree_temp_dir(dirname):
 
2423
    try:
 
2424
        osutils.rmtree(dirname)
 
2425
    except OSError, e:
 
2426
        if sys.platform == 'win32' and e.errno == errno.EACCES:
 
2427
            print >>sys.stderr, ('Permission denied: '
 
2428
                                 'unable to remove testing dir '
 
2429
                                 '%s' % os.path.basename(dirname))
 
2430
        else:
 
2431
            raise
 
2432
 
 
2433
 
 
2434
def clean_selftest_output(root=None, quiet=False):
 
2435
    """Remove all selftest output directories from root directory.
 
2436
 
 
2437
    :param  root:   root directory for clean
 
2438
                    (if ommitted or None then clean current directory).
 
2439
    :param  quiet:  suppress report about deleting directories
 
2440
    """
 
2441
    import re
 
2442
    re_dir = re.compile(r'''test\d\d\d\d\.tmp''')
 
2443
    if root is None:
 
2444
        root = u'.'
 
2445
    for i in os.listdir(root):
 
2446
        if os.path.isdir(i) and re_dir.match(i):
 
2447
            if not quiet:
 
2448
                print 'delete directory:', i
 
2449
            _rmtree_temp_dir(i)
 
2450
 
 
2451
 
 
2452
class Feature(object):
 
2453
    """An operating system Feature."""
 
2454
 
 
2455
    def __init__(self):
 
2456
        self._available = None
 
2457
 
 
2458
    def available(self):
 
2459
        """Is the feature available?
 
2460
 
 
2461
        :return: True if the feature is available.
 
2462
        """
 
2463
        if self._available is None:
 
2464
            self._available = self._probe()
 
2465
        return self._available
 
2466
 
 
2467
    def _probe(self):
 
2468
        """Implement this method in concrete features.
 
2469
 
 
2470
        :return: True if the feature is available.
 
2471
        """
 
2472
        raise NotImplementedError
 
2473
 
 
2474
    def __str__(self):
 
2475
        if getattr(self, 'feature_name', None):
 
2476
            return self.feature_name()
 
2477
        return self.__class__.__name__