~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/trace.py

Merge bzr.dev and tree-file-ids-as-tuples.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006, 2007, 2008 Canonical Ltd
 
1
# Copyright (C) 2005-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
"""Messages and logging for bazaar-ng.
 
17
"""Messages and logging.
18
18
 
19
19
Messages are supplied by callers as a string-formatting template, plus values
20
20
to be inserted into it.  The actual %-formatting is deferred to the log
33
33
 
34
34
Output to stderr depends on the mode chosen by the user.  By default, messages
35
35
of info and above are sent out, which results in progress messages such as the
36
 
list of files processed by add and commit.  In quiet mode, only warnings and
37
 
above are shown.  In debug mode, stderr gets debug messages too.
 
36
list of files processed by add and commit.  In debug mode, stderr gets debug messages too.
38
37
 
39
38
Errors that terminate an operation are generally passed back as exceptions;
40
39
others may be just emitted as messages.
46
45
form.
47
46
"""
48
47
 
 
48
from __future__ import absolute_import
 
49
 
49
50
# FIXME: Unfortunately it turns out that python's logging module
50
51
# is quite expensive, even when the message is not printed by any handlers.
51
52
# We should perhaps change back to just simply doing it here.
55
56
# increased cost of logging.py is not so bad, and we could standardize on
56
57
# that.
57
58
 
58
 
import codecs
59
59
import logging
60
60
import os
61
61
import sys
62
 
import re
63
62
import time
64
63
 
65
64
from bzrlib.lazy_import import lazy_import
67
66
from cStringIO import StringIO
68
67
import errno
69
68
import locale
 
69
import tempfile
70
70
import traceback
71
71
""")
72
72
 
77
77
    debug,
78
78
    errors,
79
79
    osutils,
80
 
    plugin,
81
 
    symbol_versioning,
 
80
    ui,
82
81
    )
83
82
""")
84
83
 
107
106
 
108
107
 
109
108
def note(*args, **kwargs):
110
 
    # FIXME note always emits utf-8, regardless of the terminal encoding
111
 
    #
 
109
    """Output a note to the user.
 
110
 
 
111
    Takes the same parameters as logging.info.
 
112
 
 
113
    :return: None
 
114
    """
112
115
    # FIXME: clearing the ui and then going through the abstract logging
113
116
    # framework is whack; we should probably have a logging Handler that
114
117
    # deals with terminal output if needed.
115
 
    import bzrlib.ui
116
 
    bzrlib.ui.ui_factory.clear_term()
 
118
    ui.ui_factory.clear_term()
117
119
    _bzr_logger.info(*args, **kwargs)
118
120
 
119
121
 
120
122
def warning(*args, **kwargs):
121
 
    import bzrlib.ui
122
 
    bzrlib.ui.ui_factory.clear_term()
 
123
    ui.ui_factory.clear_term()
123
124
    _bzr_logger.warning(*args, **kwargs)
124
125
 
125
126
 
126
 
# configure convenient aliases for output routines
127
 
#
128
 
# TODO: deprecate them, have one name for each.
129
 
info = note
130
 
log_error = _bzr_logger.error
131
 
error =     _bzr_logger.error
 
127
def show_error(*args, **kwargs):
 
128
    """Show an error message to the user.
 
129
 
 
130
    Don't use this for exceptions, use report_exception instead.
 
131
    """
 
132
    _bzr_logger.error(*args, **kwargs)
132
133
 
133
134
 
134
135
def mutter(fmt, *args):
135
136
    if _trace_file is None:
136
137
        return
 
138
    # XXX: Don't check this every time; instead anyone who closes the file
 
139
    # ought to deregister it.  We can tolerate None.
137
140
    if (getattr(_trace_file, 'closed', None) is not None) and _trace_file.closed:
138
141
        return
139
142
 
152
155
        out = fmt % tuple(real_args)
153
156
    else:
154
157
        out = fmt
155
 
    timestamp = '%0.3f  ' % (time.time() - _bzr_log_start_time,)
 
158
    now = time.time()
 
159
    timestamp = '%0.3f  ' % (now - _bzr_log_start_time,)
156
160
    out = timestamp + out + '\n'
157
161
    _trace_file.write(out)
158
 
    # no need to flush here, the trace file is now linebuffered when it's
159
 
    # opened.
 
162
    # there's no explicit flushing; the file is typically line buffered.
160
163
 
161
164
 
162
165
def mutter_callsite(stacklevel, fmt, *args):
205
208
 
206
209
 
207
210
def _open_bzr_log():
208
 
    """Open the .bzr.log trace file.  
 
211
    """Open the .bzr.log trace file.
209
212
 
210
213
    If the log is more than a particular length, the old file is renamed to
211
214
    .bzr.log.old and a new file is started.  Otherwise, we append to the
214
217
    This sets the global _bzr_log_filename.
215
218
    """
216
219
    global _bzr_log_filename
 
220
 
 
221
    def _open_or_create_log_file(filename):
 
222
        """Open existing log file, or create with ownership and permissions
 
223
 
 
224
        It inherits the ownership and permissions (masked by umask) from
 
225
        the containing directory to cope better with being run under sudo
 
226
        with $HOME still set to the user's homedir.
 
227
        """
 
228
        flags = os.O_WRONLY | os.O_APPEND | osutils.O_TEXT
 
229
        while True:
 
230
            try:
 
231
                fd = os.open(filename, flags)
 
232
                break
 
233
            except OSError, e:
 
234
                if e.errno != errno.ENOENT:
 
235
                    raise
 
236
            try:
 
237
                fd = os.open(filename, flags | os.O_CREAT | os.O_EXCL, 0666)
 
238
            except OSError, e:
 
239
                if e.errno != errno.EEXIST:
 
240
                    raise
 
241
            else:
 
242
                osutils.copy_ownership_from_path(filename)
 
243
                break
 
244
        return os.fdopen(fd, 'at', 0) # unbuffered
 
245
 
 
246
 
217
247
    _bzr_log_filename = _get_bzr_log_filename()
218
248
    _rollover_trace_maybe(_bzr_log_filename)
219
249
    try:
220
 
        bzr_log_file = open(_bzr_log_filename, 'at', 1) # line buffered
221
 
        # bzr_log_file.tell() on windows always return 0 until some writing done
 
250
        bzr_log_file = _open_or_create_log_file(_bzr_log_filename)
222
251
        bzr_log_file.write('\n')
223
252
        if bzr_log_file.tell() <= 2:
224
253
            bzr_log_file.write("this is a debug log for diagnosing/reporting problems in bzr\n")
225
254
            bzr_log_file.write("you can delete or truncate this file, or include sections in\n")
226
255
            bzr_log_file.write("bug reports to https://bugs.launchpad.net/bzr/+filebug\n\n")
 
256
 
227
257
        return bzr_log_file
228
 
    except IOError, e:
229
 
        warning("failed to open trace file: %s" % (e))
 
258
 
 
259
    except EnvironmentError, e:
 
260
        # If we are failing to open the log, then most likely logging has not
 
261
        # been set up yet. So we just write to stderr rather than using
 
262
        # 'warning()'. If we using warning(), users get the unhelpful 'no
 
263
        # handlers registered for "bzr"' when something goes wrong on the
 
264
        # server. (bug #503886)
 
265
        sys.stderr.write("failed to open trace file: %s\n" % (e,))
230
266
    # TODO: What should happen if we fail to open the trace file?  Maybe the
231
267
    # objects should be pointed at /dev/null or the equivalent?  Currently
232
268
    # returns None which will cause failures later.
 
269
    return None
233
270
 
234
271
 
235
272
def enable_default_logging():
236
273
    """Configure default logging: messages to stderr and debug to .bzr.log
237
 
    
 
274
 
238
275
    This should only be called once per process.
239
276
 
240
277
    Non-command-line programs embedding bzrlib do not need to call this.  They
241
278
    can instead either pass a file to _push_log_file, or act directly on
242
279
    logging.getLogger("bzr").
243
 
    
 
280
 
244
281
    Output can be redirected away by calling _push_log_file.
 
282
 
 
283
    :return: A memento from push_log_file for restoring the log state.
245
284
    """
246
 
    # create encoded wrapper around stderr
 
285
    start_time = osutils.format_local_date(_bzr_log_start_time,
 
286
                                           timezone='local')
247
287
    bzr_log_file = _open_bzr_log()
248
 
    push_log_file(bzr_log_file,
 
288
    if bzr_log_file is not None:
 
289
        bzr_log_file.write(start_time.encode('utf-8') + '\n')
 
290
    memento = push_log_file(bzr_log_file,
249
291
        r'[%(process)5d] %(asctime)s.%(msecs)03d %(levelname)s: %(message)s',
250
292
        r'%Y-%m-%d %H:%M:%S')
251
293
    # after hooking output into bzr_log, we also need to attach a stderr
252
294
    # handler, writing only at level info and with encoding
253
 
    writer_factory = codecs.getwriter(osutils.get_terminal_encoding())
254
 
    encoded_stderr = writer_factory(sys.stderr, errors='replace')
255
 
    stderr_handler = logging.StreamHandler(encoded_stderr)
256
 
    stderr_handler.setLevel(logging.INFO)
 
295
    stderr_handler = EncodedStreamHandler(sys.stderr,
 
296
        osutils.get_terminal_encoding(), 'replace', level=logging.INFO)
257
297
    logging.getLogger('bzr').addHandler(stderr_handler)
 
298
    return memento
258
299
 
259
300
 
260
301
def push_log_file(to_file, log_format=None, date_format=None):
262
303
 
263
304
    :param to_file: A file-like object to which messages will be sent.
264
305
 
265
 
    :returns: A memento that should be passed to _pop_log_file to restore the 
266
 
    previously active logging.
 
306
    :returns: A memento that should be passed to _pop_log_file to restore the
 
307
        previously active logging.
267
308
    """
268
309
    global _trace_file
269
310
    # make a new handler
270
 
    new_handler = logging.StreamHandler(to_file)
271
 
    new_handler.setLevel(logging.DEBUG)
 
311
    new_handler = EncodedStreamHandler(to_file, "utf-8", level=logging.DEBUG)
272
312
    if log_format is None:
273
313
        log_format = '%(levelname)8s  %(message)s'
274
314
    new_handler.setFormatter(logging.Formatter(log_format, date_format))
296
336
def pop_log_file((magic, old_handlers, new_handler, old_trace_file, new_trace_file)):
297
337
    """Undo changes to logging/tracing done by _push_log_file.
298
338
 
299
 
    This flushes, but does not close the trace file.
300
 
    
 
339
    This flushes, but does not close the trace file (so that anything that was
 
340
    in it is output.
 
341
 
301
342
    Takes the memento returned from _push_log_file."""
302
343
    global _trace_file
303
344
    _trace_file = old_trace_file
304
345
    bzr_logger = logging.getLogger('bzr')
305
346
    bzr_logger.removeHandler(new_handler)
306
 
    # must be closed, otherwise logging will try to close it atexit, and the
 
347
    # must be closed, otherwise logging will try to close it at exit, and the
307
348
    # file will likely already be closed underneath.
308
349
    new_handler.close()
309
350
    bzr_logger.handlers = old_handlers
310
 
    new_trace_file.flush()
311
 
 
312
 
 
313
 
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
314
 
def enable_test_log(to_file):
315
 
    """Redirect logging to a temporary file for a test
316
 
    
317
 
    :returns: an opaque reference that should be passed to disable_test_log
318
 
    after the test completes.
319
 
    """
320
 
    return push_log_file(to_file)
321
 
 
322
 
 
323
 
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
324
 
def disable_test_log(memento):
325
 
    return pop_log_file(memento)
 
351
    if new_trace_file is not None:
 
352
        new_trace_file.flush()
326
353
 
327
354
 
328
355
def log_exception_quietly():
329
356
    """Log the last exception to the trace file only.
330
357
 
331
 
    Used for exceptions that occur internally and that may be 
332
 
    interesting to developers but not to users.  For example, 
 
358
    Used for exceptions that occur internally and that may be
 
359
    interesting to developers but not to users.  For example,
333
360
    errors loading plugins.
334
361
    """
335
362
    mutter(traceback.format_exc())
343
370
    global _verbosity_level
344
371
    _verbosity_level = level
345
372
    _update_logging_level(level < 0)
 
373
    ui.ui_factory.be_quiet(level < 0)
346
374
 
347
375
 
348
376
def get_verbosity_level():
354
382
 
355
383
 
356
384
def be_quiet(quiet=True):
357
 
    # Perhaps this could be deprecated now ...
358
385
    if quiet:
359
386
        set_verbosity_level(-1)
360
387
    else:
379
406
    return _verbosity_level > 0
380
407
 
381
408
 
382
 
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
383
 
def disable_default_logging():
384
 
    """Turn off default log handlers.
385
 
 
386
 
    Don't call this method, use _push_log_file and _pop_log_file instead.
387
 
    """
388
 
    pass
389
 
 
390
 
 
391
 
_short_fields = ('VmPeak', 'VmSize', 'VmRSS')
392
 
 
393
409
def debug_memory(message='', short=True):
394
410
    """Write out a memory dump."""
 
411
    if sys.platform == 'win32':
 
412
        from bzrlib import win32utils
 
413
        win32utils.debug_memory_win32api(message=message, short=short)
 
414
    else:
 
415
        _debug_memory_proc(message=message, short=short)
 
416
 
 
417
 
 
418
_short_fields = ('VmPeak', 'VmSize', 'VmRSS')
 
419
 
 
420
def _debug_memory_proc(message='', short=True):
395
421
    try:
396
422
        status_file = file('/proc/%s/status' % os.getpid(), 'rb')
397
423
    except IOError:
411
437
                    note(line)
412
438
                    break
413
439
 
 
440
def _dump_memory_usage(err_file):
 
441
    try:
 
442
        try:
 
443
            fd, name = tempfile.mkstemp(prefix="bzr_memdump", suffix=".json")
 
444
            dump_file = os.fdopen(fd, 'w')
 
445
            from meliae import scanner
 
446
            scanner.dump_gc_objects(dump_file)
 
447
            err_file.write("Memory dumped to %s\n" % name)
 
448
        except ImportError:
 
449
            err_file.write("Dumping memory requires meliae module.\n")
 
450
            log_exception_quietly()
 
451
        except:
 
452
            err_file.write("Exception while dumping memory.\n")
 
453
            log_exception_quietly()
 
454
    finally:
 
455
        if dump_file is not None:
 
456
            dump_file.close()
 
457
        elif fd is not None:
 
458
            os.close(fd)
 
459
 
 
460
 
 
461
def _qualified_exception_name(eclass, unqualified_bzrlib_errors=False):
 
462
    """Give name of error class including module for non-builtin exceptions
 
463
 
 
464
    If `unqualified_bzrlib_errors` is True, errors specific to bzrlib will
 
465
    also omit the module prefix.
 
466
    """
 
467
    class_name = eclass.__name__
 
468
    module_name = eclass.__module__
 
469
    if module_name in ("exceptions", "__main__") or (
 
470
            unqualified_bzrlib_errors and module_name == "bzrlib.errors"):
 
471
        return class_name
 
472
    return "%s.%s" % (module_name, class_name)
 
473
 
414
474
 
415
475
def report_exception(exc_info, err_file):
416
476
    """Report an exception to err_file (typically stderr) and to .bzr.log.
419
479
 
420
480
    :return: The appropriate exit code for this error.
421
481
    """
422
 
    exc_type, exc_object, exc_tb = exc_info
423
482
    # Log the full traceback to ~/.bzr.log
424
483
    log_exception_quietly()
425
 
    if (isinstance(exc_object, IOError)
426
 
        and getattr(exc_object, 'errno', None) == errno.EPIPE):
427
 
        err_file.write("bzr: broken pipe\n")
 
484
    if 'error' in debug.debug_flags:
 
485
        print_exception(exc_info, err_file)
428
486
        return errors.EXIT_ERROR
429
 
    elif isinstance(exc_object, KeyboardInterrupt):
 
487
    exc_type, exc_object, exc_tb = exc_info
 
488
    if isinstance(exc_object, KeyboardInterrupt):
430
489
        err_file.write("bzr: interrupted\n")
431
490
        return errors.EXIT_ERROR
 
491
    elif isinstance(exc_object, MemoryError):
 
492
        err_file.write("bzr: out of memory\n")
 
493
        if 'mem_dump' in debug.debug_flags:
 
494
            _dump_memory_usage(err_file)
 
495
        else:
 
496
            err_file.write("Use -Dmem_dump to dump memory to a file.\n")
 
497
        return errors.EXIT_ERROR
432
498
    elif isinstance(exc_object, ImportError) \
433
499
        and str(exc_object).startswith("No module named "):
434
500
        report_user_error(exc_info, err_file,
437
503
    elif not getattr(exc_object, 'internal_error', True):
438
504
        report_user_error(exc_info, err_file)
439
505
        return errors.EXIT_ERROR
440
 
    elif isinstance(exc_object, (OSError, IOError)):
 
506
    elif osutils.is_environment_error(exc_object):
 
507
        if getattr(exc_object, 'errno', None) == errno.EPIPE:
 
508
            err_file.write("bzr: broken pipe\n")
 
509
            return errors.EXIT_ERROR
441
510
        # Might be nice to catch all of these and show them as something more
442
511
        # specific, but there are too many cases at the moment.
443
512
        report_user_error(exc_info, err_file)
465
534
    :param advice: Extra advice to the user to be printed following the
466
535
        exception.
467
536
    """
468
 
    if 'error' in debug.debug_flags:
469
 
        print_exception(exc_info, err_file)
470
 
        return
471
537
    err_file.write("bzr: ERROR: %s\n" % (exc_info[1],))
472
538
    if advice:
473
539
        err_file.write("%s\n" % (advice,))
475
541
 
476
542
def report_bug(exc_info, err_file):
477
543
    """Report an exception that probably indicates a bug in bzr"""
478
 
    print_exception(exc_info, err_file)
479
 
    err_file.write('\n')
480
 
    err_file.write('bzr %s on python %s (%s)\n' % \
481
 
                       (bzrlib.__version__,
482
 
                        bzrlib._format_version_tuple(sys.version_info),
483
 
                        sys.platform))
484
 
    err_file.write('arguments: %r\n' % sys.argv)
485
 
    err_file.write(
486
 
        'encoding: %r, fsenc: %r, lang: %r\n' % (
487
 
            osutils.get_user_encoding(), sys.getfilesystemencoding(),
488
 
            os.environ.get('LANG')))
489
 
    err_file.write("plugins:\n")
490
 
    for name, a_plugin in sorted(plugin.plugins().items()):
491
 
        err_file.write("  %-20s %s [%s]\n" %
492
 
            (name, a_plugin.path(), a_plugin.__version__))
493
 
    err_file.write(
494
 
"""\
495
 
*** Bazaar has encountered an internal error.
496
 
    Please report a bug at https://bugs.launchpad.net/bzr/+filebug
497
 
    including this traceback, and a description of what you
498
 
    were doing when the error occurred.
499
 
""")
 
544
    from bzrlib.crash import report_bug
 
545
    report_bug(exc_info, err_file)
 
546
 
 
547
 
 
548
def _flush_stdout_stderr():
 
549
    # called from the bzrlib library finalizer returned by bzrlib.initialize()
 
550
    try:
 
551
        sys.stdout.flush()
 
552
        sys.stderr.flush()
 
553
    except ValueError, e:
 
554
        # On Windows, I get ValueError calling stdout.flush() on a closed
 
555
        # handle
 
556
        pass
 
557
    except IOError, e:
 
558
        import errno
 
559
        if e.errno in [errno.EINVAL, errno.EPIPE]:
 
560
            pass
 
561
        else:
 
562
            raise
 
563
 
 
564
 
 
565
def _flush_trace():
 
566
    # called from the bzrlib library finalizer returned by bzrlib.initialize()
 
567
    global _trace_file
 
568
    if _trace_file:
 
569
        _trace_file.flush()
 
570
 
 
571
 
 
572
class EncodedStreamHandler(logging.Handler):
 
573
    """Robustly write logging events to a stream using the specified encoding
 
574
 
 
575
    Messages are expected to be formatted to unicode, but UTF-8 byte strings
 
576
    are also accepted. An error during formatting or a str message in another
 
577
    encoding will be quitely noted as an error in the Bazaar log file.
 
578
 
 
579
    The stream is not closed so sys.stdout or sys.stderr may be passed.
 
580
    """
 
581
 
 
582
    def __init__(self, stream, encoding=None, errors='strict', level=0):
 
583
        logging.Handler.__init__(self, level)
 
584
        self.stream = stream
 
585
        if encoding is None:
 
586
            encoding = getattr(stream, "encoding", "ascii")
 
587
        self.encoding = encoding
 
588
        self.errors = errors
 
589
 
 
590
    def flush(self):
 
591
        flush = getattr(self.stream, "flush", None)
 
592
        if flush is not None:
 
593
            flush()
 
594
 
 
595
    def emit(self, record):
 
596
        try:
 
597
            line = self.format(record)
 
598
            if not isinstance(line, unicode):
 
599
                line = line.decode("utf-8")
 
600
            self.stream.write(line.encode(self.encoding, self.errors) + "\n")
 
601
        except Exception:
 
602
            log_exception_quietly()
 
603
            # Try saving the details that would have been logged in some form
 
604
            msg = args = "<Unformattable>"
 
605
            try:
 
606
                msg = repr(record.msg).encode("ascii")
 
607
                args = repr(record.args).encode("ascii")
 
608
            except Exception:
 
609
                pass
 
610
            # Using mutter() bypasses the logging module and writes directly
 
611
            # to the file so there's no danger of getting into a loop here.
 
612
            mutter("Logging record unformattable: %s %% %s", msg, args)
 
613
 
 
614
 
 
615
class Config(object):
 
616
    """Configuration of message tracing in bzrlib.
 
617
 
 
618
    This implements the context manager protocol and should manage any global
 
619
    variables still used. The default config used is DefaultConfig, but
 
620
    embedded uses of bzrlib may wish to use a custom manager.
 
621
    """
 
622
 
 
623
    def __enter__(self):
 
624
        return self # This is bound to the 'as' clause in a with statement.
 
625
 
 
626
    def __exit__(self, exc_type, exc_val, exc_tb):
 
627
        return False # propogate exceptions.
 
628
 
 
629
 
 
630
class DefaultConfig(Config):
 
631
    """A default configuration for tracing of messages in bzrlib.
 
632
 
 
633
    This implements the context manager protocol.
 
634
    """
 
635
 
 
636
    def __enter__(self):
 
637
        self._original_filename = _bzr_log_filename
 
638
        self._original_state = enable_default_logging()
 
639
        return self # This is bound to the 'as' clause in a with statement.
 
640
 
 
641
    def __exit__(self, exc_type, exc_val, exc_tb):
 
642
        pop_log_file(self._original_state)
 
643
        global _bzr_log_filename
 
644
        _bzr_log_filename = self._original_filename
 
645
        return False # propogate exceptions.