~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/trace.py

  • Committer: Martin Pool
  • Date: 2005-03-14 07:07:24 UTC
  • Revision ID: mbp@sourcefrog.net-20050314070724-ba6c85db7d96c508
- add setup.py and install instructions
- rename main script to just bzr

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
2
 
#
 
1
#! /usr/bin/env python
 
2
# -*- coding: UTF-8 -*-
 
3
 
3
4
# This program is free software; you can redistribute it and/or modify
4
5
# it under the terms of the GNU General Public License as published by
5
6
# the Free Software Foundation; either version 2 of the License, or
6
7
# (at your option) any later version.
7
 
#
 
8
 
8
9
# This program is distributed in the hope that it will be useful,
9
10
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
11
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
12
# GNU General Public License for more details.
12
 
#
 
13
 
13
14
# You should have received a copy of the GNU General Public License
14
15
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
"""Messages and logging.
18
 
 
19
 
Messages are supplied by callers as a string-formatting template, plus values
20
 
to be inserted into it.  The actual %-formatting is deferred to the log
21
 
library so that it doesn't need to be done for messages that won't be emitted.
22
 
 
23
 
Messages are classified by severity levels: critical, error, warning, info,
24
 
and debug.
25
 
 
26
 
They can be sent to two places: to stderr, and to ~/.bzr.log.  For purposes
27
 
such as running the test suite, they can also be redirected away from both of
28
 
those two places to another location.
29
 
 
30
 
~/.bzr.log gets all messages, and full tracebacks for uncaught exceptions.
31
 
This trace file is always in UTF-8, regardless of the user's default encoding,
32
 
so that we can always rely on writing any message.
33
 
 
34
 
Output to stderr depends on the mode chosen by the user.  By default, messages
35
 
of info and above are sent out, which results in progress messages such as the
36
 
list of files processed by add and commit.  In debug mode, stderr gets debug messages too.
37
 
 
38
 
Errors that terminate an operation are generally passed back as exceptions;
39
 
others may be just emitted as messages.
40
 
 
41
 
Exceptions are reported in a brief form to stderr so as not to look scary.
42
 
BzrErrors are required to be able to format themselves into a properly
43
 
explanatory message.  This is not true for builtin exceptions such as
44
 
KeyError, which typically just str to "0".  They're printed in a different
45
 
form.
46
 
"""
47
 
 
48
 
# FIXME: Unfortunately it turns out that python's logging module
49
 
# is quite expensive, even when the message is not printed by any handlers.
50
 
# We should perhaps change back to just simply doing it here.
51
 
#
52
 
# On the other hand, as of 1.2 we generally only call the mutter() statement
53
 
# if (according to debug_flags) we actually intend to write it.  So the
54
 
# increased cost of logging.py is not so bad, and we could standardize on
55
 
# that.
56
 
 
57
 
import codecs
58
 
import logging
59
 
import os
 
16
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
17
 
 
18
 
 
19
__copyright__ = "Copyright (C) 2005 Canonical Ltd."
 
20
__author__ = "Martin Pool <mbp@canonical.com>"
 
21
 
 
22
 
60
23
import sys
61
 
import time
62
 
 
63
 
from bzrlib.lazy_import import lazy_import
64
 
lazy_import(globals(), """
65
 
from cStringIO import StringIO
66
 
import errno
67
 
import locale
68
 
import traceback
69
 
""")
70
 
 
71
 
import bzrlib
72
 
 
73
 
from bzrlib.symbol_versioning import (
74
 
    deprecated_function,
75
 
    deprecated_in,
76
 
    )
77
 
 
78
 
lazy_import(globals(), """
79
 
from bzrlib import (
80
 
    debug,
81
 
    errors,
82
 
    osutils,
83
 
    plugin,
84
 
    symbol_versioning,
85
 
    ui,
86
 
    )
87
 
""")
88
 
 
89
 
 
90
 
# global verbosity for bzrlib; controls the log level for stderr; 0=normal; <0
91
 
# is quiet; >0 is verbose.
92
 
_verbosity_level = 0
93
 
 
94
 
# File-like object where mutter/debug output is currently sent.  Can be
95
 
# changed by _push_log_file etc.  This is directly manipulated by some
96
 
# external code; maybe there should be functions to do that more precisely
97
 
# than push/pop_log_file.
98
 
_trace_file = None
99
 
 
100
 
# Absolute path for ~/.bzr.log.  Not changed even if the log/trace output is
101
 
# redirected elsewhere.  Used to show the location in --version.
102
 
_bzr_log_filename = None
103
 
 
104
 
# The time the first message was written to the trace file, so that we can
105
 
# show relative times since startup.
106
 
_bzr_log_start_time = bzrlib._start_time
107
 
 
108
 
 
109
 
# held in a global for quick reference
110
 
_bzr_logger = logging.getLogger('bzr')
111
 
 
112
 
 
113
 
def note(*args, **kwargs):
114
 
    # FIXME note always emits utf-8, regardless of the terminal encoding
115
 
    #
116
 
    # FIXME: clearing the ui and then going through the abstract logging
117
 
    # framework is whack; we should probably have a logging Handler that
118
 
    # deals with terminal output if needed.
119
 
    import bzrlib.ui
120
 
    bzrlib.ui.ui_factory.clear_term()
121
 
    _bzr_logger.info(*args, **kwargs)
122
 
 
123
 
 
124
 
def warning(*args, **kwargs):
125
 
    import bzrlib.ui
126
 
    bzrlib.ui.ui_factory.clear_term()
127
 
    _bzr_logger.warning(*args, **kwargs)
128
 
 
129
 
 
130
 
@deprecated_function(deprecated_in((2, 1, 0)))
131
 
def info(*args, **kwargs):
132
 
    """Deprecated: use trace.note instead."""
133
 
    note(*args, **kwargs)
134
 
 
135
 
 
136
 
@deprecated_function(deprecated_in((2, 1, 0)))
137
 
def log_error(*args, **kwargs):
138
 
    """Deprecated: use bzrlib.trace.show_error instead"""
139
 
    _bzr_logger.error(*args, **kwargs)
140
 
 
141
 
 
142
 
@deprecated_function(deprecated_in((2, 1, 0)))
143
 
def error(*args, **kwargs):
144
 
    """Deprecated: use bzrlib.trace.show_error instead"""
145
 
    _bzr_logger.error(*args, **kwargs)
146
 
 
147
 
 
148
 
def show_error(*args, **kwargs):
149
 
    """Show an error message to the user.
150
 
 
151
 
    Don't use this for exceptions, use report_exception instead.
152
 
    """
153
 
    _bzr_logger.error(*args, **kwargs)
154
 
 
155
 
 
156
 
def mutter(fmt, *args):
157
 
    if _trace_file is None:
158
 
        return
159
 
    # XXX: Don't check this every time; instead anyone who closes the file
160
 
    # ought to deregister it.  We can tolerate None.
161
 
    if (getattr(_trace_file, 'closed', None) is not None) and _trace_file.closed:
162
 
        return
163
 
 
164
 
    if isinstance(fmt, unicode):
165
 
        fmt = fmt.encode('utf8')
166
 
 
167
 
    if len(args) > 0:
168
 
        # It seems that if we do ascii % (unicode, ascii) we can
169
 
        # get a unicode cannot encode ascii error, so make sure that "fmt"
170
 
        # is a unicode string
171
 
        real_args = []
172
 
        for arg in args:
173
 
            if isinstance(arg, unicode):
174
 
                arg = arg.encode('utf8')
175
 
            real_args.append(arg)
176
 
        out = fmt % tuple(real_args)
177
 
    else:
178
 
        out = fmt
179
 
    now = time.time()
180
 
    timestamp = '%0.3f  ' % (now - _bzr_log_start_time,)
181
 
    out = timestamp + out + '\n'
182
 
    _trace_file.write(out)
183
 
    # there's no explicit flushing; the file is typically line buffered.
184
 
 
185
 
 
186
 
def mutter_callsite(stacklevel, fmt, *args):
187
 
    """Perform a mutter of fmt and args, logging the call trace.
188
 
 
189
 
    :param stacklevel: The number of frames to show. None will show all
190
 
        frames.
191
 
    :param fmt: The format string to pass to mutter.
192
 
    :param args: A list of substitution variables.
193
 
    """
194
 
    outf = StringIO()
195
 
    if stacklevel is None:
196
 
        limit = None
197
 
    else:
198
 
        limit = stacklevel + 1
199
 
    traceback.print_stack(limit=limit, file=outf)
200
 
    formatted_lines = outf.getvalue().splitlines()
201
 
    formatted_stack = '\n'.join(formatted_lines[:-2])
202
 
    mutter(fmt + "\nCalled from:\n%s", *(args + (formatted_stack,)))
203
 
 
204
 
 
205
 
def _rollover_trace_maybe(trace_fname):
206
 
    import stat
207
 
    try:
208
 
        size = os.stat(trace_fname)[stat.ST_SIZE]
209
 
        if size <= 4 << 20:
210
 
            return
211
 
        old_fname = trace_fname + '.old'
212
 
        osutils.rename(trace_fname, old_fname)
213
 
    except OSError:
214
 
        return
215
 
 
216
 
 
217
 
def _get_bzr_log_filename():
218
 
    bzr_log = os.environ.get('BZR_LOG')
219
 
    if bzr_log:
220
 
        return bzr_log
221
 
    home = os.environ.get('BZR_HOME')
222
 
    if home is None:
223
 
        if sys.platform == 'win32':
224
 
            from bzrlib import win32utils
225
 
            home = win32utils.get_home_location()
226
 
        else:
227
 
            home = os.path.expanduser('~')
228
 
    return os.path.join(home, '.bzr.log')
229
 
 
230
 
 
231
 
def _open_bzr_log():
232
 
    """Open the .bzr.log trace file.
233
 
 
234
 
    If the log is more than a particular length, the old file is renamed to
235
 
    .bzr.log.old and a new file is started.  Otherwise, we append to the
236
 
    existing file.
237
 
 
238
 
    This sets the global _bzr_log_filename.
239
 
    """
240
 
    global _bzr_log_filename
241
 
    _bzr_log_filename = _get_bzr_log_filename()
242
 
    _rollover_trace_maybe(_bzr_log_filename)
243
 
    try:
244
 
        buffering = 0 # unbuffered
245
 
        bzr_log_file = osutils.open_with_ownership(_bzr_log_filename, 'at', buffering)
246
 
        # bzr_log_file.tell() on windows always return 0 until some writing done
247
 
        bzr_log_file.write('\n')
248
 
        if bzr_log_file.tell() <= 2:
249
 
            bzr_log_file.write("this is a debug log for diagnosing/reporting problems in bzr\n")
250
 
            bzr_log_file.write("you can delete or truncate this file, or include sections in\n")
251
 
            bzr_log_file.write("bug reports to https://bugs.launchpad.net/bzr/+filebug\n\n")
252
 
 
253
 
        return bzr_log_file
254
 
 
255
 
    except IOError, e:
256
 
        # If we are failing to open the log, then most likely logging has not
257
 
        # been set up yet. So we just write to stderr rather than using
258
 
        # 'warning()'. If we using warning(), users get the unhelpful 'no
259
 
        # handlers registered for "bzr"' when something goes wrong on the
260
 
        # server. (bug #503886)
261
 
        sys.stderr.write("failed to open trace file: %s\n" % (e,))
262
 
    # TODO: What should happen if we fail to open the trace file?  Maybe the
263
 
    # objects should be pointed at /dev/null or the equivalent?  Currently
264
 
    # returns None which will cause failures later.
265
 
    return None
266
 
 
267
 
 
268
 
def enable_default_logging():
269
 
    """Configure default logging: messages to stderr and debug to .bzr.log
270
 
 
271
 
    This should only be called once per process.
272
 
 
273
 
    Non-command-line programs embedding bzrlib do not need to call this.  They
274
 
    can instead either pass a file to _push_log_file, or act directly on
275
 
    logging.getLogger("bzr").
276
 
 
277
 
    Output can be redirected away by calling _push_log_file.
278
 
    """
279
 
    # Do this before we open the log file, so we prevent
280
 
    # get_terminal_encoding() from mutter()ing multiple times
281
 
    term_encoding = osutils.get_terminal_encoding()
282
 
    start_time = osutils.format_local_date(_bzr_log_start_time,
283
 
                                           timezone='local')
284
 
    # create encoded wrapper around stderr
285
 
    bzr_log_file = _open_bzr_log()
286
 
    if bzr_log_file is not None:
287
 
        bzr_log_file.write(start_time.encode('utf-8') + '\n')
288
 
    push_log_file(bzr_log_file,
289
 
        r'[%(process)5d] %(asctime)s.%(msecs)03d %(levelname)s: %(message)s',
290
 
        r'%Y-%m-%d %H:%M:%S')
291
 
    # after hooking output into bzr_log, we also need to attach a stderr
292
 
    # handler, writing only at level info and with encoding
293
 
    writer_factory = codecs.getwriter(term_encoding)
294
 
    encoded_stderr = writer_factory(sys.stderr, errors='replace')
295
 
    stderr_handler = logging.StreamHandler(encoded_stderr)
296
 
    stderr_handler.setLevel(logging.INFO)
297
 
    logging.getLogger('bzr').addHandler(stderr_handler)
298
 
 
299
 
 
300
 
def push_log_file(to_file, log_format=None, date_format=None):
301
 
    """Intercept log and trace messages and send them to a file.
302
 
 
303
 
    :param to_file: A file-like object to which messages will be sent.
304
 
 
305
 
    :returns: A memento that should be passed to _pop_log_file to restore the
306
 
    previously active logging.
307
 
    """
308
 
    global _trace_file
309
 
    # make a new handler
310
 
    new_handler = logging.StreamHandler(to_file)
311
 
    new_handler.setLevel(logging.DEBUG)
312
 
    if log_format is None:
313
 
        log_format = '%(levelname)8s  %(message)s'
314
 
    new_handler.setFormatter(logging.Formatter(log_format, date_format))
315
 
    # save and remove any existing log handlers
316
 
    bzr_logger = logging.getLogger('bzr')
317
 
    old_handlers = bzr_logger.handlers[:]
318
 
    del bzr_logger.handlers[:]
319
 
    # set that as the default logger
320
 
    bzr_logger.addHandler(new_handler)
321
 
    bzr_logger.setLevel(logging.DEBUG)
322
 
    # TODO: check if any changes are needed to the root logger
323
 
    #
324
 
    # TODO: also probably need to save and restore the level on bzr_logger.
325
 
    # but maybe we can avoid setting the logger level altogether, and just set
326
 
    # the level on the handler?
327
 
    #
328
 
    # save the old trace file
329
 
    old_trace_file = _trace_file
330
 
    # send traces to the new one
331
 
    _trace_file = to_file
332
 
    result = new_handler, _trace_file
333
 
    return ('log_memento', old_handlers, new_handler, old_trace_file, to_file)
334
 
 
335
 
 
336
 
def pop_log_file((magic, old_handlers, new_handler, old_trace_file, new_trace_file)):
337
 
    """Undo changes to logging/tracing done by _push_log_file.
338
 
 
339
 
    This flushes, but does not close the trace file.
340
 
 
341
 
    Takes the memento returned from _push_log_file."""
342
 
    global _trace_file
343
 
    _trace_file = old_trace_file
344
 
    bzr_logger = logging.getLogger('bzr')
345
 
    bzr_logger.removeHandler(new_handler)
346
 
    # must be closed, otherwise logging will try to close it atexit, and the
347
 
    # file will likely already be closed underneath.
348
 
    new_handler.close()
349
 
    bzr_logger.handlers = old_handlers
350
 
    new_trace_file.flush()
351
 
 
352
 
 
353
 
def log_exception_quietly():
354
 
    """Log the last exception to the trace file only.
355
 
 
356
 
    Used for exceptions that occur internally and that may be
357
 
    interesting to developers but not to users.  For example,
358
 
    errors loading plugins.
359
 
    """
360
 
    mutter(traceback.format_exc())
361
 
 
362
 
 
363
 
def set_verbosity_level(level):
364
 
    """Set the verbosity level.
365
 
 
366
 
    :param level: -ve for quiet, 0 for normal, +ve for verbose
367
 
    """
368
 
    global _verbosity_level
369
 
    _verbosity_level = level
370
 
    _update_logging_level(level < 0)
371
 
    ui.ui_factory.be_quiet(level < 0)
372
 
 
373
 
 
374
 
def get_verbosity_level():
375
 
    """Get the verbosity level.
376
 
 
377
 
    See set_verbosity_level() for values.
378
 
    """
379
 
    return _verbosity_level
380
 
 
381
 
 
382
 
def be_quiet(quiet=True):
383
 
    if quiet:
384
 
        set_verbosity_level(-1)
385
 
    else:
386
 
        set_verbosity_level(0)
387
 
 
388
 
 
389
 
def _update_logging_level(quiet=True):
390
 
    """Hide INFO messages if quiet."""
391
 
    if quiet:
392
 
        _bzr_logger.setLevel(logging.WARNING)
393
 
    else:
394
 
        _bzr_logger.setLevel(logging.INFO)
395
 
 
396
 
 
397
 
def is_quiet():
398
 
    """Is the verbosity level negative?"""
399
 
    return _verbosity_level < 0
400
 
 
401
 
 
402
 
def is_verbose():
403
 
    """Is the verbosity level positive?"""
404
 
    return _verbosity_level > 0
405
 
 
406
 
 
407
 
def debug_memory(message='', short=True):
408
 
    """Write out a memory dump."""
409
 
    if sys.platform == 'win32':
410
 
        from bzrlib import win32utils
411
 
        win32utils.debug_memory_win32api(message=message, short=short)
412
 
    else:
413
 
        _debug_memory_proc(message=message, short=short)
414
 
 
415
 
 
416
 
_short_fields = ('VmPeak', 'VmSize', 'VmRSS')
417
 
 
418
 
def _debug_memory_proc(message='', short=True):
419
 
    try:
420
 
        status_file = file('/proc/%s/status' % os.getpid(), 'rb')
421
 
    except IOError:
422
 
        return
423
 
    try:
424
 
        status = status_file.read()
425
 
    finally:
426
 
        status_file.close()
427
 
    if message:
428
 
        note(message)
429
 
    for line in status.splitlines():
430
 
        if not short:
431
 
            note(line)
432
 
        else:
433
 
            for field in _short_fields:
434
 
                if line.startswith(field):
435
 
                    note(line)
436
 
                    break
437
 
 
438
 
 
439
 
def report_exception(exc_info, err_file):
440
 
    """Report an exception to err_file (typically stderr) and to .bzr.log.
441
 
 
442
 
    This will show either a full traceback or a short message as appropriate.
443
 
 
444
 
    :return: The appropriate exit code for this error.
445
 
    """
446
 
    # Log the full traceback to ~/.bzr.log
447
 
    log_exception_quietly()
448
 
    if 'error' in debug.debug_flags:
449
 
        print_exception(exc_info, err_file)
450
 
        return errors.EXIT_ERROR
451
 
    exc_type, exc_object, exc_tb = exc_info
452
 
    if (isinstance(exc_object, IOError)
453
 
        and getattr(exc_object, 'errno', None) == errno.EPIPE):
454
 
        err_file.write("bzr: broken pipe\n")
455
 
        return errors.EXIT_ERROR
456
 
    elif isinstance(exc_object, KeyboardInterrupt):
457
 
        err_file.write("bzr: interrupted\n")
458
 
        return errors.EXIT_ERROR
459
 
    elif isinstance(exc_object, MemoryError):
460
 
        err_file.write("bzr: out of memory\n")
461
 
        return errors.EXIT_ERROR
462
 
    elif isinstance(exc_object, ImportError) \
463
 
        and str(exc_object).startswith("No module named "):
464
 
        report_user_error(exc_info, err_file,
465
 
            'You may need to install this Python library separately.')
466
 
        return errors.EXIT_ERROR
467
 
    elif not getattr(exc_object, 'internal_error', True):
468
 
        report_user_error(exc_info, err_file)
469
 
        return errors.EXIT_ERROR
470
 
    elif isinstance(exc_object, (OSError, IOError)):
471
 
        # Might be nice to catch all of these and show them as something more
472
 
        # specific, but there are too many cases at the moment.
473
 
        report_user_error(exc_info, err_file)
474
 
        return errors.EXIT_ERROR
475
 
    else:
476
 
        report_bug(exc_info, err_file)
477
 
        return errors.EXIT_INTERNAL_ERROR
478
 
 
479
 
 
480
 
def print_exception(exc_info, err_file):
481
 
    exc_type, exc_object, exc_tb = exc_info
482
 
    err_file.write("bzr: ERROR: %s.%s: %s\n" % (
483
 
        exc_type.__module__, exc_type.__name__, exc_object))
484
 
    err_file.write('\n')
485
 
    traceback.print_exception(exc_type, exc_object, exc_tb, file=err_file)
486
 
 
487
 
 
488
 
# TODO: Should these be specially encoding the output?
489
 
def report_user_error(exc_info, err_file, advice=None):
490
 
    """Report to err_file an error that's not an internal error.
491
 
 
492
 
    These don't get a traceback unless -Derror was given.
493
 
 
494
 
    :param exc_info: 3-tuple from sys.exc_info()
495
 
    :param advice: Extra advice to the user to be printed following the
496
 
        exception.
497
 
    """
498
 
    err_file.write("bzr: ERROR: %s\n" % (exc_info[1],))
499
 
    if advice:
500
 
        err_file.write("%s\n" % (advice,))
501
 
 
502
 
 
503
 
def report_bug(exc_info, err_file):
504
 
    """Report an exception that probably indicates a bug in bzr"""
505
 
    from bzrlib.crash import report_bug
506
 
    report_bug(exc_info, err_file)
507
 
 
508
 
 
509
 
def _flush_stdout_stderr():
510
 
    # installed into an atexit hook by bzrlib.initialize()
511
 
    try:
512
 
        sys.stdout.flush()
513
 
        sys.stderr.flush()
514
 
    except IOError, e:
515
 
        import errno
516
 
        if e.errno in [errno.EINVAL, errno.EPIPE]:
517
 
            pass
518
 
        else:
519
 
            raise
520
 
 
521
 
 
522
 
def _flush_trace():
523
 
    # run from atexit hook
524
 
    global _trace_file
525
 
    if _trace_file:
526
 
        _trace_file.flush()
 
24
 
 
25
######################################################################
 
26
# messages and logging
 
27
 
 
28
# Messages are always written to here, so that we have some
 
29
# information if something goes wrong.  In a future version this
 
30
# file will be removed on successful completion.
 
31
_tracefile = file('.bzr.log', 'at')
 
32
 
 
33
## TODO: If --verbose is given then write to both stderr and
 
34
## _tracefile; perhaps replace _tracefile with a tee thing.
 
35
 
 
36
# used to have % (os.environ['USER'], time.time(), os.getpid()), 'w')
 
37
 
 
38
 
 
39
# If false, notes also go to stdout; should replace this with --silent
 
40
# at some point.
 
41
silent = False
 
42
 
 
43
verbose = False
 
44
 
 
45
 
 
46
def mutter(msg):
 
47
    _tracefile.write(msg)
 
48
    _tracefile.write('\n')
 
49
    _tracefile.flush()
 
50
    if verbose:
 
51
        sys.stderr.write('- ' + msg + '\n')
 
52
 
 
53
 
 
54
def note(msg):
 
55
    b = '* ' + str(msg) + '\n'
 
56
    if not silent:
 
57
        sys.stderr.write(b)
 
58
    _tracefile.write(b)
 
59
    _tracefile.flush()
 
60
 
 
61
 
 
62
def log_error(msg):
 
63
    sys.stderr.write(msg)
 
64
    _tracefile.write(msg)
 
65
    _tracefile.flush()