~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to testsweet.py

  • Committer: Martin Pool
  • Date: 2005-08-25 07:46:11 UTC
  • Revision ID: mbp@sourcefrog.net-20050825074611-98130ea6d05d9d2a
- add functions to enable and disable default logging, so that we can
  turn it off while running the tests

- default logging gets turned on from the bzr main function so that
  other applications using the library can make their own decisions

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2005 by Canonical Ltd
 
2
 
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
 
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
 
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
 
 
18
"""Enhanced layer on unittest.
 
19
 
 
20
This does several things:
 
21
 
 
22
* nicer reporting as tests run
 
23
 
 
24
* test code can log messages into a buffer that is recorded to disk
 
25
  and displayed if the test fails
 
26
 
 
27
* tests can be run in a separate directory, which is useful for code that
 
28
  wants to create files
 
29
 
 
30
* utilities to run external commands and check their return code
 
31
  and/or output
 
32
 
 
33
Test cases should normally subclass testsweet.TestCase.  The test runner should
 
34
call runsuite().
 
35
 
 
36
This is meant to become independent of bzr, though that's not quite
 
37
true yet.
 
38
"""  
 
39
 
 
40
import unittest
 
41
import sys
 
42
 
 
43
# XXX: Don't need this anymore now we depend on python2.4
 
44
def _need_subprocess():
 
45
    sys.stderr.write("sorry, this test suite requires the subprocess module\n"
 
46
                     "this is shipped with python2.4 and available separately for 2.3\n")
 
47
    
 
48
 
 
49
class CommandFailed(Exception):
 
50
    pass
 
51
 
 
52
 
 
53
class TestSkipped(Exception):
 
54
    """Indicates that a test was intentionally skipped, rather than failing."""
 
55
    # XXX: Not used yet
 
56
 
 
57
 
 
58
class TestCase(unittest.TestCase):
 
59
    """Base class for bzr unit tests.
 
60
    
 
61
    Tests that need access to disk resources should subclass 
 
62
    FunctionalTestCase not TestCase.
 
63
    """
 
64
    
 
65
    # TODO: Special methods to invoke bzr, so that we can run it
 
66
    # through a specified Python intepreter
 
67
 
 
68
    OVERRIDE_PYTHON = None # to run with alternative python 'python'
 
69
    BZRPATH = 'bzr'
 
70
 
 
71
    def setUp(self):
 
72
        super(TestCase, self).setUp()
 
73
        # setup a temporary log for the test 
 
74
        import time
 
75
        import os
 
76
        import tempfile
 
77
        self.TEST_LOG = tempfile.NamedTemporaryFile(mode='wt', bufsize=0)
 
78
        # save stdout & stderr so there's no leakage from code-under-test
 
79
        self.real_stdout = sys.stdout
 
80
        self.real_stderr = sys.stderr
 
81
        sys.stdout = sys.stderr = self.TEST_LOG
 
82
        self.log("%s setup" % self.id())
 
83
 
 
84
    def tearDown(self):
 
85
        sys.stdout = self.real_stdout
 
86
        sys.stderr = self.real_stderr
 
87
        self.log("%s teardown" % self.id())
 
88
        self.log('')
 
89
        super(TestCase, self).tearDown()
 
90
 
 
91
    def log(self, msg):
 
92
        """Log a message to a progress file"""
 
93
        print >>self.TEST_LOG, msg
 
94
 
 
95
    def check_inventory_shape(self, inv, shape):
 
96
        """
 
97
        Compare an inventory to a list of expected names.
 
98
 
 
99
        Fail if they are not precisely equal.
 
100
        """
 
101
        extras = []
 
102
        shape = list(shape)             # copy
 
103
        for path, ie in inv.entries():
 
104
            name = path.replace('\\', '/')
 
105
            if ie.kind == 'dir':
 
106
                name = name + '/'
 
107
            if name in shape:
 
108
                shape.remove(name)
 
109
            else:
 
110
                extras.append(name)
 
111
        if shape:
 
112
            self.fail("expected paths not found in inventory: %r" % shape)
 
113
        if extras:
 
114
            self.fail("unexpected paths found in inventory: %r" % extras)
 
115
     
 
116
    def _get_log(self):
 
117
        """Get the log the test case used. This can only be called once,
 
118
        after which an exception will be raised.
 
119
        """
 
120
        self.TEST_LOG.flush()
 
121
        log = open(self.TEST_LOG.name, 'rt').read()
 
122
        self.TEST_LOG.close()
 
123
        return log
 
124
 
 
125
 
 
126
class FunctionalTestCase(TestCase):
 
127
    """Base class for tests that perform function testing - running bzr,
 
128
    using files on disk, and similar activities.
 
129
 
 
130
    InTempDir is an old alias for FunctionalTestCase.
 
131
    """
 
132
 
 
133
    TEST_ROOT = None
 
134
    _TEST_NAME = 'test'
 
135
 
 
136
    def check_file_contents(self, filename, expect):
 
137
        self.log("check contents of file %s" % filename)
 
138
        contents = file(filename, 'r').read()
 
139
        if contents != expect:
 
140
            self.log("expected: %r" % expect)
 
141
            self.log("actually: %r" % contents)
 
142
            self.fail("contents of %s not as expected")
 
143
 
 
144
    def _make_test_root(self):
 
145
        import os
 
146
        import shutil
 
147
        import tempfile
 
148
        
 
149
        if FunctionalTestCase.TEST_ROOT is not None:
 
150
            return
 
151
        FunctionalTestCase.TEST_ROOT = os.path.abspath(
 
152
                                 tempfile.mkdtemp(suffix='.tmp',
 
153
                                                  prefix=self._TEST_NAME + '-',
 
154
                                                  dir=os.curdir))
 
155
    
 
156
        # make a fake bzr directory there to prevent any tests propagating
 
157
        # up onto the source directory's real branch
 
158
        os.mkdir(os.path.join(FunctionalTestCase.TEST_ROOT, '.bzr'))
 
159
 
 
160
    def setUp(self):
 
161
        super(FunctionalTestCase, self).setUp()
 
162
        import os
 
163
        self._make_test_root()
 
164
        self._currentdir = os.getcwdu()
 
165
        self.test_dir = os.path.join(self.TEST_ROOT, self.id())
 
166
        os.mkdir(self.test_dir)
 
167
        os.chdir(self.test_dir)
 
168
        
 
169
    def tearDown(self):
 
170
        import os
 
171
        os.chdir(self._currentdir)
 
172
        super(FunctionalTestCase, self).tearDown()
 
173
 
 
174
    def formcmd(self, cmd):
 
175
        if isinstance(cmd, basestring):
 
176
            cmd = cmd.split()
 
177
        if cmd[0] == 'bzr':
 
178
            cmd[0] = self.BZRPATH
 
179
            if self.OVERRIDE_PYTHON:
 
180
                cmd.insert(0, self.OVERRIDE_PYTHON)
 
181
        self.log('$ %r' % cmd)
 
182
        return cmd
 
183
 
 
184
    def runcmd(self, cmd, retcode=0):
 
185
        """Run one command and check the return code.
 
186
 
 
187
        Returns a tuple of (stdout,stderr) strings.
 
188
 
 
189
        If a single string is based, it is split into words.
 
190
        For commands that are not simple space-separated words, please
 
191
        pass a list instead."""
 
192
        try:
 
193
            import shutil
 
194
            from subprocess import call
 
195
        except ImportError, e:
 
196
            _need_subprocess()
 
197
            raise
 
198
        cmd = self.formcmd(cmd)
 
199
        self.log('$ ' + ' '.join(cmd))
 
200
        actual_retcode = call(cmd, stdout=self.TEST_LOG, stderr=self.TEST_LOG)
 
201
        if retcode != actual_retcode:
 
202
            raise CommandFailed("test failed: %r returned %d, expected %d"
 
203
                                % (cmd, actual_retcode, retcode))
 
204
 
 
205
    def backtick(self, cmd, retcode=0):
 
206
        """Run a command and return its output"""
 
207
        try:
 
208
            import shutil
 
209
            from subprocess import Popen, PIPE
 
210
        except ImportError, e:
 
211
            _need_subprocess()
 
212
            raise
 
213
 
 
214
        cmd = self.formcmd(cmd)
 
215
        child = Popen(cmd, stdout=PIPE, stderr=self.TEST_LOG)
 
216
        outd, errd = child.communicate()
 
217
        self.log(outd)
 
218
        actual_retcode = child.wait()
 
219
 
 
220
        outd = outd.replace('\r', '')
 
221
 
 
222
        if retcode != actual_retcode:
 
223
            raise CommandFailed("test failed: %r returned %d, expected %d"
 
224
                                % (cmd, actual_retcode, retcode))
 
225
 
 
226
        return outd
 
227
 
 
228
 
 
229
 
 
230
    def build_tree(self, shape):
 
231
        """Build a test tree according to a pattern.
 
232
 
 
233
        shape is a sequence of file specifications.  If the final
 
234
        character is '/', a directory is created.
 
235
 
 
236
        This doesn't add anything to a branch.
 
237
        """
 
238
        # XXX: It's OK to just create them using forward slashes on windows?
 
239
        import os
 
240
        for name in shape:
 
241
            assert isinstance(name, basestring)
 
242
            if name[-1] == '/':
 
243
                os.mkdir(name[:-1])
 
244
            else:
 
245
                f = file(name, 'wt')
 
246
                print >>f, "contents of", name
 
247
                f.close()
 
248
                
 
249
InTempDir = FunctionalTestCase
 
250
 
 
251
 
 
252
class _MyResult(unittest._TextTestResult):
 
253
    """
 
254
    Custom TestResult.
 
255
 
 
256
    No special behaviour for now.
 
257
    """
 
258
 
 
259
    def startTest(self, test):
 
260
        unittest.TestResult.startTest(self, test)
 
261
        # TODO: Maybe show test.shortDescription somewhere?
 
262
        what = test.id()
 
263
        # python2.3 has the bad habit of just "runit" for doctests
 
264
        if what == 'runit':
 
265
            what = test.shortDescription()
 
266
        if self.showAll:
 
267
            self.stream.write('%-60.60s' % what)
 
268
        self.stream.flush()
 
269
 
 
270
    def addError(self, test, err):
 
271
        super(_MyResult, self).addError(test, err)
 
272
        self.stream.flush()
 
273
 
 
274
    def addFailure(self, test, err):
 
275
        super(_MyResult, self).addFailure(test, err)
 
276
        self.stream.flush()
 
277
 
 
278
    def addSuccess(self, test):
 
279
        if self.showAll:
 
280
            self.stream.writeln('OK')
 
281
        elif self.dots:
 
282
            self.stream.write('~')
 
283
        self.stream.flush()
 
284
        unittest.TestResult.addSuccess(self, test)
 
285
 
 
286
    def printErrorList(self, flavour, errors):
 
287
        for test, err in errors:
 
288
            self.stream.writeln(self.separator1)
 
289
            self.stream.writeln("%s: %s" % (flavour,self.getDescription(test)))
 
290
            self.stream.writeln(self.separator2)
 
291
            self.stream.writeln("%s" % err)
 
292
            if isinstance(test, TestCase):
 
293
                self.stream.writeln()
 
294
                self.stream.writeln('log from this test:')
 
295
                print >>self.stream, test._get_log()
 
296
 
 
297
 
 
298
class TextTestRunner(unittest.TextTestRunner):
 
299
 
 
300
    def _makeResult(self):
 
301
        return _MyResult(self.stream, self.descriptions, self.verbosity)
 
302
 
 
303
 
 
304
def run_suite(suite, name='test', verbose=False):
 
305
    import shutil
 
306
    FunctionalTestCase._TEST_NAME = name
 
307
    if verbose:
 
308
        verbosity = 2
 
309
    else:
 
310
        verbosity = 1
 
311
    runner = TextTestRunner(stream=sys.stdout,
 
312
                            descriptions=0,
 
313
                            verbosity=verbosity)
 
314
    result = runner.run(suite)
 
315
    # This is still a little bogus, 
 
316
    # but only a little. Folk not using our testrunner will
 
317
    # have to delete their temp directories themselves.
 
318
    if result.wasSuccessful():
 
319
        shutil.rmtree(FunctionalTestCase.TEST_ROOT) 
 
320
    else:
 
321
        print "Failed tests working directories are in '%s'\n" % FunctionalTestCase.TEST_ROOT
 
322
    return result.wasSuccessful()