~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/trace.py

  • Committer: Aaron Bentley
  • Date: 2008-06-16 16:55:05 UTC
  • mto: This revision was merged to the branch mainline in revision 3498.
  • Revision ID: aaron@aaronbentley.com-20080616165505-72azw96gince2kp0
Tolerate ghosts in mainline (#235055)

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2005, 2006, 2007, 2008 Canonical Ltd
 
2
#
1
3
# This program is free software; you can redistribute it and/or modify
2
4
# it under the terms of the GNU General Public License as published by
3
5
# the Free Software Foundation; either version 2 of the License, or
4
6
# (at your option) any later version.
5
 
 
 
7
#
6
8
# This program is distributed in the hope that it will be useful,
7
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
8
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
9
11
# GNU General Public License for more details.
10
 
 
 
12
#
11
13
# You should have received a copy of the GNU General Public License
12
14
# along with this program; if not, write to the Free Software
13
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
14
16
 
15
 
 
16
 
__copyright__ = "Copyright (C) 2005 Canonical Ltd."
17
 
__author__ = "Martin Pool <mbp@canonical.com>"
18
 
 
19
 
 
20
 
"""Messages and logging for bazaar-ng
21
 
 
22
 
Nothing is actually logged unless you call bzrlib.open_tracefile().
 
17
"""Messages and logging for bazaar-ng.
 
18
 
 
19
Messages are supplied by callers as a string-formatting template, plus values
 
20
to be inserted into it.  The actual %-formatting is deferred to the log
 
21
library so that it doesn't need to be done for messages that won't be emitted.
 
22
 
 
23
Messages are classified by severity levels: critical, error, warning, info,
 
24
and debug.
 
25
 
 
26
They can be sent to two places: to stderr, and to ~/.bzr.log.  For purposes
 
27
such as running the test suite, they can also be redirected away from both of
 
28
those two places to another location.
 
29
 
 
30
~/.bzr.log gets all messages, and full tracebacks for uncaught exceptions.
 
31
This trace file is always in UTF-8, regardless of the user's default encoding,
 
32
so that we can always rely on writing any message.
 
33
 
 
34
Output to stderr depends on the mode chosen by the user.  By default, messages
 
35
of info and above are sent out, which results in progress messages such as the
 
36
list of files processed by add and commit.  In quiet mode, only warnings and
 
37
above are shown.  In debug mode, stderr gets debug messages too.
 
38
 
 
39
Errors that terminate an operation are generally passed back as exceptions;
 
40
others may be just emitted as messages.
 
41
 
 
42
Exceptions are reported in a brief form to stderr so as not to look scary.
 
43
BzrErrors are required to be able to format themselves into a properly
 
44
explanatory message.  This is not true for builtin exceptions such as
 
45
KeyError, which typically just str to "0".  They're printed in a different
 
46
form.
23
47
"""
24
48
 
25
 
 
26
 
import sys, os
27
 
 
28
 
######################################################################
29
 
# messages and logging
30
 
 
31
 
global _tracefile, _starttime
32
 
_tracefile = None
33
 
 
34
 
# used to have % (os.environ['USER'], time.time(), os.getpid()), 'w')
35
 
_starttime = None
36
 
 
37
 
# If false, notes also go to stdout; should replace this with --silent
38
 
# at some point.
39
 
silent = False
40
 
 
41
 
 
42
 
# fix this if we ever fork within python
43
 
_mypid = os.getpid()
44
 
_logprefix = '[%d] ' % _mypid
45
 
 
46
 
 
47
 
def _write_trace(msg):
48
 
    if _tracefile:
49
 
        _tracefile.write(_logprefix + msg + '\n')
50
 
 
51
 
 
52
 
def warning(msg):
53
 
    sys.stderr.write('bzr: warning: ' + msg + '\n')
54
 
    _write_trace('warning: ' + msg)
55
 
 
56
 
 
57
 
mutter = _write_trace
58
 
 
59
 
 
60
 
def note(msg):
61
 
    b = '* ' + str(msg) + '\n'
62
 
    if not silent:
63
 
        sys.stderr.write(b)
64
 
    _write_trace('note: ' + msg)
65
 
 
66
 
 
67
 
def log_error(msg):
68
 
    sys.stderr.write(msg + '\n')
69
 
    _write_trace(msg)
 
49
# FIXME: Unfortunately it turns out that python's logging module
 
50
# is quite expensive, even when the message is not printed by any handlers.
 
51
# We should perhaps change back to just simply doing it here.
 
52
#
 
53
# On the other hand, as of 1.2 we generally only call the mutter() statement
 
54
# if (according to debug_flags) we actually intend to write it.  So the
 
55
# increased cost of logging.py is not so bad, and we could standardize on
 
56
# that.
 
57
 
 
58
import codecs
 
59
import logging
 
60
import os
 
61
import sys
 
62
import re
 
63
import time
 
64
 
 
65
from bzrlib.lazy_import import lazy_import
 
66
lazy_import(globals(), """
 
67
from cStringIO import StringIO
 
68
import errno
 
69
import locale
 
70
import traceback
 
71
""")
 
72
 
 
73
import bzrlib
 
74
 
 
75
lazy_import(globals(), """
 
76
from bzrlib import (
 
77
    debug,
 
78
    errors,
 
79
    osutils,
 
80
    plugin,
 
81
    symbol_versioning,
 
82
    )
 
83
""")
 
84
 
 
85
 
 
86
# global verbosity for bzrlib; controls the log level for stderr; 0=normal; <0
 
87
# is quiet; >0 is verbose.
 
88
_verbosity_level = 0
 
89
 
 
90
# File-like object where mutter/debug output is currently sent.  Can be
 
91
# changed by _push_log_file etc.  This is directly manipulated by some
 
92
# external code; maybe there should be functions to do that more precisely
 
93
# than push/pop_log_file.
 
94
_trace_file = None
 
95
 
 
96
# Absolute path for ~/.bzr.log.  Not changed even if the log/trace output is
 
97
# redirected elsewhere.  Used to show the location in --version.
 
98
_bzr_log_filename = None
 
99
 
 
100
# The time the first message was written to the trace file, so that we can
 
101
# show relative times since startup.
 
102
_bzr_log_start_time = bzrlib._start_time
 
103
 
 
104
 
 
105
# held in a global for quick reference
 
106
_bzr_logger = logging.getLogger('bzr')
 
107
 
 
108
 
 
109
def note(*args, **kwargs):
 
110
    # FIXME note always emits utf-8, regardless of the terminal encoding
 
111
    #
 
112
    # FIXME: clearing the ui and then going through the abstract logging
 
113
    # framework is whack; we should probably have a logging Handler that
 
114
    # deals with terminal output if needed.
 
115
    import bzrlib.ui
 
116
    bzrlib.ui.ui_factory.clear_term()
 
117
    _bzr_logger.info(*args, **kwargs)
 
118
 
 
119
 
 
120
def warning(*args, **kwargs):
 
121
    import bzrlib.ui
 
122
    bzrlib.ui.ui_factory.clear_term()
 
123
    _bzr_logger.warning(*args, **kwargs)
 
124
 
 
125
 
 
126
# configure convenient aliases for output routines
 
127
#
 
128
# TODO: deprecate them, have one name for each.
 
129
info = note
 
130
log_error = _bzr_logger.error
 
131
error =     _bzr_logger.error
 
132
 
 
133
 
 
134
def mutter(fmt, *args):
 
135
    if _trace_file is None:
 
136
        return
 
137
    if (getattr(_trace_file, 'closed', None) is not None) and _trace_file.closed:
 
138
        return
 
139
 
 
140
    if isinstance(fmt, unicode):
 
141
        fmt = fmt.encode('utf8')
 
142
 
 
143
    if len(args) > 0:
 
144
        # It seems that if we do ascii % (unicode, ascii) we can
 
145
        # get a unicode cannot encode ascii error, so make sure that "fmt"
 
146
        # is a unicode string
 
147
        real_args = []
 
148
        for arg in args:
 
149
            if isinstance(arg, unicode):
 
150
                arg = arg.encode('utf8')
 
151
            real_args.append(arg)
 
152
        out = fmt % tuple(real_args)
 
153
    else:
 
154
        out = fmt
 
155
    timestamp = '%0.3f  ' % (time.time() - _bzr_log_start_time,)
 
156
    out = timestamp + out + '\n'
 
157
    _trace_file.write(out)
 
158
    # no need to flush here, the trace file is now linebuffered when it's
 
159
    # opened.
 
160
 
 
161
 
 
162
def mutter_callsite(stacklevel, fmt, *args):
 
163
    """Perform a mutter of fmt and args, logging the call trace.
 
164
 
 
165
    :param stacklevel: The number of frames to show. None will show all
 
166
        frames.
 
167
    :param fmt: The format string to pass to mutter.
 
168
    :param args: A list of substitution variables.
 
169
    """
 
170
    outf = StringIO()
 
171
    traceback.print_stack(limit=stacklevel + 1, file=outf)
 
172
    formatted_lines = outf.getvalue().splitlines()
 
173
    formatted_stack = '\n'.join(formatted_lines[:-2])
 
174
    mutter(fmt + "\nCalled from:\n%s", *(args + (formatted_stack,)))
70
175
 
71
176
 
72
177
def _rollover_trace_maybe(trace_fname):
76
181
        if size <= 4 << 20:
77
182
            return
78
183
        old_fname = trace_fname + '.old'
79
 
 
80
 
        try:
81
 
            # must remove before rename on windows
82
 
            os.remove(old_fname)
83
 
        except OSError:
84
 
            pass
85
 
 
86
 
        try:
87
 
            # might fail if in use on windows
88
 
            os.rename(trace_fname, old_fname)
89
 
        except OSError:
90
 
            pass
 
184
        osutils.rename(trace_fname, old_fname)
91
185
    except OSError:
92
186
        return
93
187
 
94
188
 
95
 
 
96
 
def open_tracefile(argv=[], tracefilename='~/.bzr.log'):
97
 
    # Messages are always written to here, so that we have some
98
 
    # information if something goes wrong.  In a future version this
99
 
    # file will be removed on successful completion.
100
 
    global _starttime, _tracefile
101
 
    import stat, codecs
102
 
 
103
 
    _starttime = os.times()[4]
104
 
 
105
 
    trace_fname = os.path.join(os.path.expanduser(tracefilename))
106
 
    _rollover_trace_maybe(trace_fname)
107
 
 
108
 
    # buffering=1 means line buffered
 
189
def _get_bzr_log_filename():
 
190
    bzr_log = os.environ.get('BZR_LOG')
 
191
    if bzr_log:
 
192
        return bzr_log
 
193
    home = os.environ.get('BZR_HOME')
 
194
    if home is None:
 
195
        if sys.platform == 'win32':
 
196
            from bzrlib import win32utils
 
197
            home = win32utils.get_home_location()
 
198
        else:
 
199
            home = os.path.expanduser('~')
 
200
    return os.path.join(home, '.bzr.log')
 
201
 
 
202
 
 
203
def _open_bzr_log():
 
204
    """Open the .bzr.log trace file.  
 
205
 
 
206
    If the log is more than a particular length, the old file is renamed to
 
207
    .bzr.log.old and a new file is started.  Otherwise, we append to the
 
208
    existing file.
 
209
 
 
210
    This sets the global _bzr_log_filename.
 
211
    """
 
212
    global _bzr_log_filename
 
213
    _bzr_log_filename = _get_bzr_log_filename()
 
214
    _rollover_trace_maybe(_bzr_log_filename)
109
215
    try:
110
 
        _tracefile = codecs.open(trace_fname, 'at', 'utf8', buffering=1)
111
 
        t = _tracefile
112
 
 
113
 
        if os.fstat(t.fileno())[stat.ST_SIZE] == 0:
114
 
            t.write("\nthis is a debug log for diagnosing/reporting problems in bzr\n")
115
 
            t.write("you can delete or truncate this file, or include sections in\n")
116
 
            t.write("bug reports to bazaar-ng@lists.canonical.com\n\n")
117
 
 
118
 
        import bzrlib
119
 
        _write_trace('bzr %s invoked on python %s (%s)'
120
 
                     % (bzrlib.__version__,
121
 
                        '.'.join(map(str, sys.version_info)),
122
 
                        sys.platform))
123
 
 
124
 
        _write_trace('  arguments: %r' % argv)
125
 
        _write_trace('  working dir: ' + os.getcwdu())
 
216
        bzr_log_file = open(_bzr_log_filename, 'at', 1) # line buffered
 
217
        # bzr_log_file.tell() on windows always return 0 until some writing done
 
218
        bzr_log_file.write('\n')
 
219
        if bzr_log_file.tell() <= 2:
 
220
            bzr_log_file.write("this is a debug log for diagnosing/reporting problems in bzr\n")
 
221
            bzr_log_file.write("you can delete or truncate this file, or include sections in\n")
 
222
            bzr_log_file.write("bug reports to https://bugs.launchpad.net/bzr/+filebug\n\n")
 
223
        return bzr_log_file
126
224
    except IOError, e:
127
225
        warning("failed to open trace file: %s" % (e))
128
 
 
129
 
def close_trace():
130
 
    times = os.times()
131
 
    mutter("finished, %.3fu/%.3fs cpu, %.3fu/%.3fs cum, %.3f elapsed"
132
 
           % (times[:4] + ((times[4] - _starttime),)))
133
 
 
134
 
 
135
 
 
136
 
def log_exception():
137
 
    """Log the last exception into the trace file."""
138
 
    import cgitb
139
 
    s = cgitb.text(sys.exc_info())
140
 
    for l in s.split('\n'):
141
 
        _write_trace(l)
142
 
        
143
 
    
 
226
    # TODO: What should happen if we fail to open the trace file?  Maybe the
 
227
    # objects should be pointed at /dev/null or the equivalent?  Currently
 
228
    # returns None which will cause failures later.
 
229
 
 
230
 
 
231
def enable_default_logging():
 
232
    """Configure default logging: messages to stderr and debug to .bzr.log
 
233
    
 
234
    This should only be called once per process.
 
235
 
 
236
    Non-command-line programs embedding bzrlib do not need to call this.  They
 
237
    can instead either pass a file to _push_log_file, or act directly on
 
238
    logging.getLogger("bzr").
 
239
    
 
240
    Output can be redirected away by calling _push_log_file.
 
241
    """
 
242
    # create encoded wrapper around stderr
 
243
    bzr_log_file = _open_bzr_log()
 
244
    push_log_file(bzr_log_file,
 
245
        r'[%(process)5d] %(asctime)s.%(msecs)03d %(levelname)s: %(message)s',
 
246
        r'%Y-%m-%d %H:%M:%S')
 
247
    # after hooking output into bzr_log, we also need to attach a stderr
 
248
    # handler, writing only at level info and with encoding
 
249
    writer_factory = codecs.getwriter(osutils.get_terminal_encoding())
 
250
    encoded_stderr = writer_factory(sys.stderr, errors='replace')
 
251
    stderr_handler = logging.StreamHandler(encoded_stderr)
 
252
    stderr_handler.setLevel(logging.INFO)
 
253
    logging.getLogger('bzr').addHandler(stderr_handler)
 
254
 
 
255
 
 
256
def push_log_file(to_file, log_format=None, date_format=None):
 
257
    """Intercept log and trace messages and send them to a file.
 
258
 
 
259
    :param to_file: A file-like object to which messages will be sent.
 
260
 
 
261
    :returns: A memento that should be passed to _pop_log_file to restore the 
 
262
    previously active logging.
 
263
    """
 
264
    global _trace_file
 
265
    # make a new handler
 
266
    new_handler = logging.StreamHandler(to_file)
 
267
    new_handler.setLevel(logging.DEBUG)
 
268
    if log_format is None:
 
269
        log_format = '%(levelname)8s  %(message)s'
 
270
    new_handler.setFormatter(logging.Formatter(log_format, date_format))
 
271
    # save and remove any existing log handlers
 
272
    bzr_logger = logging.getLogger('bzr')
 
273
    old_handlers = bzr_logger.handlers[:]
 
274
    del bzr_logger.handlers[:]
 
275
    # set that as the default logger
 
276
    bzr_logger.addHandler(new_handler)
 
277
    bzr_logger.setLevel(logging.DEBUG)
 
278
    # TODO: check if any changes are needed to the root logger
 
279
    #
 
280
    # TODO: also probably need to save and restore the level on bzr_logger.
 
281
    # but maybe we can avoid setting the logger level altogether, and just set
 
282
    # the level on the handler?
 
283
    #
 
284
    # save the old trace file
 
285
    old_trace_file = _trace_file
 
286
    # send traces to the new one
 
287
    _trace_file = to_file
 
288
    result = new_handler, _trace_file
 
289
    return ('log_memento', old_handlers, new_handler, old_trace_file, to_file)
 
290
 
 
291
 
 
292
def pop_log_file((magic, old_handlers, new_handler, old_trace_file, new_trace_file)):
 
293
    """Undo changes to logging/tracing done by _push_log_file.
 
294
 
 
295
    This flushes, but does not close the trace file.
 
296
    
 
297
    Takes the memento returned from _push_log_file."""
 
298
    global _trace_file
 
299
    _trace_file = old_trace_file
 
300
    bzr_logger = logging.getLogger('bzr')
 
301
    bzr_logger.removeHandler(new_handler)
 
302
    # must be closed, otherwise logging will try to close it atexit, and the
 
303
    # file will likely already be closed underneath.
 
304
    new_handler.close()
 
305
    bzr_logger.handlers = old_handlers
 
306
    new_trace_file.flush()
 
307
 
 
308
 
 
309
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
 
310
def enable_test_log(to_file):
 
311
    """Redirect logging to a temporary file for a test
 
312
    
 
313
    :returns: an opaque reference that should be passed to disable_test_log
 
314
    after the test completes.
 
315
    """
 
316
    return push_log_file(to_file)
 
317
 
 
318
 
 
319
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
 
320
def disable_test_log(memento):
 
321
    return pop_log_file(memento)
 
322
 
 
323
 
 
324
def log_exception_quietly():
 
325
    """Log the last exception to the trace file only.
 
326
 
 
327
    Used for exceptions that occur internally and that may be 
 
328
    interesting to developers but not to users.  For example, 
 
329
    errors loading plugins.
 
330
    """
 
331
    mutter(traceback.format_exc())
 
332
 
 
333
 
 
334
def set_verbosity_level(level):
 
335
    """Set the verbosity level.
 
336
 
 
337
    :param level: -ve for quiet, 0 for normal, +ve for verbose
 
338
    """
 
339
    global _verbosity_level
 
340
    _verbosity_level = level
 
341
    _update_logging_level(level < 0)
 
342
 
 
343
 
 
344
def get_verbosity_level():
 
345
    """Get the verbosity level.
 
346
 
 
347
    See set_verbosity_level() for values.
 
348
    """
 
349
    return _verbosity_level
 
350
 
 
351
 
 
352
def be_quiet(quiet=True):
 
353
    # Perhaps this could be deprecated now ...
 
354
    if quiet:
 
355
        set_verbosity_level(-1)
 
356
    else:
 
357
        set_verbosity_level(0)
 
358
 
 
359
 
 
360
def _update_logging_level(quiet=True):
 
361
    """Hide INFO messages if quiet."""
 
362
    if quiet:
 
363
        _bzr_logger.setLevel(logging.WARNING)
 
364
    else:
 
365
        _bzr_logger.setLevel(logging.INFO)
 
366
 
 
367
 
 
368
def is_quiet():
 
369
    """Is the verbosity level negative?"""
 
370
    return _verbosity_level < 0
 
371
 
 
372
 
 
373
def is_verbose():
 
374
    """Is the verbosity level positive?"""
 
375
    return _verbosity_level > 0
 
376
 
 
377
 
 
378
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
 
379
def disable_default_logging():
 
380
    """Turn off default log handlers.
 
381
 
 
382
    Don't call this method, use _push_log_file and _pop_log_file instead.
 
383
    """
 
384
    pass
 
385
 
 
386
 
 
387
def report_exception(exc_info, err_file):
 
388
    """Report an exception to err_file (typically stderr) and to .bzr.log.
 
389
 
 
390
    This will show either a full traceback or a short message as appropriate.
 
391
 
 
392
    :return: The appropriate exit code for this error.
 
393
    """
 
394
    exc_type, exc_object, exc_tb = exc_info
 
395
    # Log the full traceback to ~/.bzr.log
 
396
    log_exception_quietly()
 
397
    if (isinstance(exc_object, IOError)
 
398
        and getattr(exc_object, 'errno', None) == errno.EPIPE):
 
399
        err_file.write("bzr: broken pipe\n")
 
400
        return errors.EXIT_ERROR
 
401
    elif isinstance(exc_object, KeyboardInterrupt):
 
402
        err_file.write("bzr: interrupted\n")
 
403
        return errors.EXIT_ERROR
 
404
    elif not getattr(exc_object, 'internal_error', True):
 
405
        report_user_error(exc_info, err_file)
 
406
        return errors.EXIT_ERROR
 
407
    elif isinstance(exc_object, (OSError, IOError)):
 
408
        # Might be nice to catch all of these and show them as something more
 
409
        # specific, but there are too many cases at the moment.
 
410
        report_user_error(exc_info, err_file)
 
411
        return errors.EXIT_ERROR
 
412
    else:
 
413
        report_bug(exc_info, err_file)
 
414
        return errors.EXIT_INTERNAL_ERROR
 
415
 
 
416
 
 
417
def print_exception(exc_info, err_file):
 
418
    exc_type, exc_object, exc_tb = exc_info
 
419
    err_file.write("bzr: ERROR: %s.%s: %s\n" % (
 
420
        exc_type.__module__, exc_type.__name__, exc_object))
 
421
    err_file.write('\n')
 
422
    traceback.print_exception(exc_type, exc_object, exc_tb, file=err_file)
 
423
 
 
424
 
 
425
# TODO: Should these be specially encoding the output?
 
426
def report_user_error(exc_info, err_file):
 
427
    """Report to err_file an error that's not an internal error.
 
428
 
 
429
    These don't get a traceback unless -Derror was given.
 
430
    """
 
431
    if 'error' in debug.debug_flags:
 
432
        print_exception(exc_info, err_file)
 
433
        return
 
434
    err_file.write("bzr: ERROR: %s\n" % (exc_info[1],))
 
435
 
 
436
 
 
437
def report_bug(exc_info, err_file):
 
438
    """Report an exception that probably indicates a bug in bzr"""
 
439
    print_exception(exc_info, err_file)
 
440
    err_file.write('\n')
 
441
    err_file.write('bzr %s on python %s (%s)\n' % \
 
442
                       (bzrlib.__version__,
 
443
                        bzrlib._format_version_tuple(sys.version_info),
 
444
                        sys.platform))
 
445
    err_file.write('arguments: %r\n' % sys.argv)
 
446
    err_file.write(
 
447
        'encoding: %r, fsenc: %r, lang: %r\n' % (
 
448
            osutils.get_user_encoding(), sys.getfilesystemencoding(),
 
449
            os.environ.get('LANG')))
 
450
    err_file.write("plugins:\n")
 
451
    for name, a_plugin in sorted(plugin.plugins().items()):
 
452
        err_file.write("  %-20s %s [%s]\n" %
 
453
            (name, a_plugin.path(), a_plugin.__version__))
 
454
    err_file.write(
 
455
"""\
 
456
*** Bazaar has encountered an internal error.
 
457
    Please report a bug at https://bugs.launchpad.net/bzr/+filebug
 
458
    including this traceback, and a description of what you
 
459
    were doing when the error occurred.
 
460
""")