~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/progress.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2007-03-12 16:31:21 UTC
  • mfrom: (2329.1.2 knit_corrupt)
  • Revision ID: pqm@pqm.ubuntu.com-20070312163121-a8078e3704c91ffe
(John Arbash Meinel) raise more helpful errors when detecting Knit corruption.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
# Copyright (C) 2005 Aaron Bentley <aaron.bentley@utoronto.ca>
2
 
# Copyright (C) 2005 Canonical <canonical.com>
3
 
#
4
 
#    This program is free software; you can redistribute it and/or modify
5
 
#    it under the terms of the GNU General Public License as published by
6
 
#    the Free Software Foundation; either version 2 of the License, or
7
 
#    (at your option) any later version.
8
 
#
9
 
#    This program is distributed in the hope that it will be useful,
10
 
#    but WITHOUT ANY WARRANTY; without even the implied warranty of
11
 
#    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12
 
#    GNU General Public License for more details.
13
 
#
14
 
#    You should have received a copy of the GNU General Public License
15
 
#    along with this program; if not, write to the Free Software
16
 
#    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
2
# Copyright (C) 2005, 2006 Canonical Ltd
 
3
#
 
4
# This program is free software; you can redistribute it and/or modify
 
5
# it under the terms of the GNU General Public License as published by
 
6
# the Free Software Foundation; either version 2 of the License, or
 
7
# (at your option) any later version.
 
8
#
 
9
# This program is distributed in the hope that it will be useful,
 
10
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
11
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
12
# GNU General Public License for more details.
 
13
#
 
14
# You should have received a copy of the GNU General Public License
 
15
# along with this program; if not, write to the Free Software
 
16
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17
17
 
18
18
 
19
19
"""Simple text-mode progress indicator.
35
35
# TODO: Optionally show elapsed time instead/as well as ETA; nicer
36
36
# when the rate is unpredictable
37
37
 
38
 
 
39
38
import sys
40
39
import time
41
 
 
42
 
 
43
 
def _width():
44
 
    """Return estimated terminal width.
45
 
 
46
 
    TODO: Do something smart on Windows?
47
 
 
48
 
    TODO: Is there anything that gets a better update when the window
49
 
          is resized while the program is running?
50
 
    """
51
 
    import os
52
 
    try:
53
 
        return int(os.environ['COLUMNS'])
54
 
    except (IndexError, KeyError, ValueError):
55
 
        return 80
 
40
import os
 
41
 
 
42
from bzrlib.lazy_import import lazy_import
 
43
lazy_import(globals(), """
 
44
from bzrlib import (
 
45
    errors,
 
46
    )
 
47
""")
 
48
 
 
49
from bzrlib.trace import mutter
56
50
 
57
51
 
58
52
def _supports_progress(f):
59
 
    if not hasattr(f, 'isatty'):
60
 
        return False
61
 
    if not f.isatty():
62
 
        return False
63
 
    import os
 
53
    isatty = getattr(f, 'isatty', None)
 
54
    if isatty is None:
 
55
        return False
 
56
    if not isatty():
 
57
        return False
64
58
    if os.environ.get('TERM') == 'dumb':
65
59
        # e.g. emacs compile window
66
60
        return False
67
61
    return True
68
62
 
69
63
 
70
 
 
71
 
class ProgressBar(object):
 
64
_progress_bar_types = {}
 
65
 
 
66
 
 
67
def ProgressBar(to_file=None, **kwargs):
 
68
    """Abstract factory"""
 
69
    if to_file is None:
 
70
        to_file = sys.stderr
 
71
    requested_bar_type = os.environ.get('BZR_PROGRESS_BAR')
 
72
    # An value of '' or not set reverts to standard processing
 
73
    if requested_bar_type in (None, ''):
 
74
        if _supports_progress(to_file):
 
75
            return TTYProgressBar(to_file=to_file, **kwargs)
 
76
        else:
 
77
            return DotsProgressBar(to_file=to_file, **kwargs)
 
78
    else:
 
79
        # Minor sanitation to prevent spurious errors
 
80
        requested_bar_type = requested_bar_type.lower().strip()
 
81
        # TODO: jam 20060710 Arguably we shouldn't raise an exception
 
82
        #       but should instead just disable progress bars if we
 
83
        #       don't recognize the type
 
84
        if requested_bar_type not in _progress_bar_types:
 
85
            raise errors.InvalidProgressBarType(requested_bar_type,
 
86
                                                _progress_bar_types.keys())
 
87
        return _progress_bar_types[requested_bar_type](to_file=to_file, **kwargs)
 
88
 
 
89
 
 
90
class ProgressBarStack(object):
 
91
    """A stack of progress bars."""
 
92
 
 
93
    def __init__(self,
 
94
                 to_file=None,
 
95
                 show_pct=False,
 
96
                 show_spinner=True,
 
97
                 show_eta=False,
 
98
                 show_bar=True,
 
99
                 show_count=True,
 
100
                 to_messages_file=None,
 
101
                 klass=None):
 
102
        """Setup the stack with the parameters the progress bars should have."""
 
103
        if to_file is None:
 
104
            to_file = sys.stderr
 
105
        if to_messages_file is None:
 
106
            to_messages_file = sys.stdout
 
107
        self._to_file = to_file
 
108
        self._show_pct = show_pct
 
109
        self._show_spinner = show_spinner
 
110
        self._show_eta = show_eta
 
111
        self._show_bar = show_bar
 
112
        self._show_count = show_count
 
113
        self._to_messages_file = to_messages_file
 
114
        self._stack = []
 
115
        self._klass = klass or ProgressBar
 
116
 
 
117
    def top(self):
 
118
        if len(self._stack) != 0:
 
119
            return self._stack[-1]
 
120
        else:
 
121
            return None
 
122
 
 
123
    def bottom(self):
 
124
        if len(self._stack) != 0:
 
125
            return self._stack[0]
 
126
        else:
 
127
            return None
 
128
 
 
129
    def get_nested(self):
 
130
        """Return a nested progress bar."""
 
131
        if len(self._stack) == 0:
 
132
            func = self._klass
 
133
        else:
 
134
            func = self.top().child_progress
 
135
        new_bar = func(to_file=self._to_file,
 
136
                       show_pct=self._show_pct,
 
137
                       show_spinner=self._show_spinner,
 
138
                       show_eta=self._show_eta,
 
139
                       show_bar=self._show_bar,
 
140
                       show_count=self._show_count,
 
141
                       to_messages_file=self._to_messages_file,
 
142
                       _stack=self)
 
143
        self._stack.append(new_bar)
 
144
        return new_bar
 
145
 
 
146
    def return_pb(self, bar):
 
147
        """Return bar after its been used."""
 
148
        if bar is not self._stack[-1]:
 
149
            raise errors.MissingProgressBarFinish()
 
150
        self._stack.pop()
 
151
 
 
152
 
 
153
class _BaseProgressBar(object):
 
154
 
 
155
    def __init__(self,
 
156
                 to_file=None,
 
157
                 show_pct=False,
 
158
                 show_spinner=False,
 
159
                 show_eta=False,
 
160
                 show_bar=True,
 
161
                 show_count=True,
 
162
                 to_messages_file=None,
 
163
                 _stack=None):
 
164
        object.__init__(self)
 
165
        if to_file is None:
 
166
            to_file = sys.stderr
 
167
        if to_messages_file is None:
 
168
            to_messages_file = sys.stdout
 
169
        self.to_file = to_file
 
170
        self.to_messages_file = to_messages_file
 
171
        self.last_msg = None
 
172
        self.last_cnt = None
 
173
        self.last_total = None
 
174
        self.show_pct = show_pct
 
175
        self.show_spinner = show_spinner
 
176
        self.show_eta = show_eta
 
177
        self.show_bar = show_bar
 
178
        self.show_count = show_count
 
179
        self._stack = _stack
 
180
        # seed throttler
 
181
        self.MIN_PAUSE = 0.1 # seconds
 
182
        now = time.time()
 
183
        # starting now
 
184
        self.start_time = now
 
185
        # next update should not throttle
 
186
        self.last_update = now - self.MIN_PAUSE - 1
 
187
 
 
188
    def finished(self):
 
189
        """Return this bar to its progress stack."""
 
190
        self.clear()
 
191
        assert self._stack is not None
 
192
        self._stack.return_pb(self)
 
193
 
 
194
    def note(self, fmt_string, *args, **kwargs):
 
195
        """Record a note without disrupting the progress bar."""
 
196
        self.clear()
 
197
        self.to_messages_file.write(fmt_string % args)
 
198
        self.to_messages_file.write('\n')
 
199
 
 
200
    def child_progress(self, **kwargs):
 
201
        return ChildProgress(**kwargs)
 
202
 
 
203
 
 
204
class DummyProgress(_BaseProgressBar):
 
205
    """Progress-bar standin that does nothing.
 
206
 
 
207
    This can be used as the default argument for methods that
 
208
    take an optional progress indicator."""
 
209
    def tick(self):
 
210
        pass
 
211
 
 
212
    def update(self, msg=None, current=None, total=None):
 
213
        pass
 
214
 
 
215
    def child_update(self, message, current, total):
 
216
        pass
 
217
 
 
218
    def clear(self):
 
219
        pass
 
220
        
 
221
    def note(self, fmt_string, *args, **kwargs):
 
222
        """See _BaseProgressBar.note()."""
 
223
 
 
224
    def child_progress(self, **kwargs):
 
225
        return DummyProgress(**kwargs)
 
226
 
 
227
 
 
228
_progress_bar_types['dummy'] = DummyProgress
 
229
_progress_bar_types['none'] = DummyProgress
 
230
 
 
231
 
 
232
class DotsProgressBar(_BaseProgressBar):
 
233
 
 
234
    def __init__(self, **kwargs):
 
235
        _BaseProgressBar.__init__(self, **kwargs)
 
236
        self.last_msg = None
 
237
        self.need_nl = False
 
238
        
 
239
    def tick(self):
 
240
        self.update()
 
241
        
 
242
    def update(self, msg=None, current_cnt=None, total_cnt=None):
 
243
        if msg and msg != self.last_msg:
 
244
            if self.need_nl:
 
245
                self.to_file.write('\n')
 
246
            self.to_file.write(msg + ': ')
 
247
            self.last_msg = msg
 
248
        self.need_nl = True
 
249
        self.to_file.write('.')
 
250
        
 
251
    def clear(self):
 
252
        if self.need_nl:
 
253
            self.to_file.write('\n')
 
254
        self.need_nl = False
 
255
        
 
256
    def child_update(self, message, current, total):
 
257
        self.tick()
 
258
 
 
259
 
 
260
_progress_bar_types['dots'] = DotsProgressBar
 
261
 
 
262
    
 
263
class TTYProgressBar(_BaseProgressBar):
72
264
    """Progress bar display object.
73
265
 
74
266
    Several options are available to control the display.  These can
89
281
    The output file should be in line-buffered or unbuffered mode.
90
282
    """
91
283
    SPIN_CHARS = r'/-\|'
92
 
    MIN_PAUSE = 0.1 # seconds
93
 
 
94
 
    start_time = None
95
 
    last_update = None
96
 
    
97
 
    def __init__(self,
98
 
                 to_file=sys.stderr,
99
 
                 show_pct=False,
100
 
                 show_spinner=False,
101
 
                 show_eta=True,
102
 
                 show_bar=True,
103
 
                 show_count=True):
104
 
        object.__init__(self)
105
 
        self.to_file = to_file
106
 
        self.suppressed = not _supports_progress(self.to_file)
 
284
 
 
285
 
 
286
    def __init__(self, **kwargs):
 
287
        from bzrlib.osutils import terminal_width
 
288
        _BaseProgressBar.__init__(self, **kwargs)
107
289
        self.spin_pos = 0
108
 
 
109
 
        self.last_msg = None
110
 
        self.last_cnt = None
111
 
        self.last_total = None
112
 
        self.show_pct = show_pct
113
 
        self.show_spinner = show_spinner
114
 
        self.show_eta = show_eta
115
 
        self.show_bar = show_bar
116
 
        self.show_count = show_count
117
 
 
118
 
        self.width = _width()
 
290
        self.width = terminal_width()
 
291
        self.last_updates = []
 
292
        self._max_last_updates = 10
 
293
        self.child_fraction = 0
 
294
        self._have_output = False
 
295
    
 
296
 
 
297
    def throttle(self, old_msg):
 
298
        """Return True if the bar was updated too recently"""
 
299
        # time.time consistently takes 40/4000 ms = 0.01 ms.
 
300
        # time.clock() is faster, but gives us CPU time, not wall-clock time
 
301
        now = time.time()
 
302
        if self.start_time is not None and (now - self.start_time) < 1:
 
303
            return True
 
304
        if old_msg != self.last_msg:
 
305
            return False
 
306
        interval = now - self.last_update
 
307
        # if interval > 0
 
308
        if interval < self.MIN_PAUSE:
 
309
            return True
 
310
 
 
311
        self.last_updates.append(now - self.last_update)
 
312
        # Don't let the queue grow without bound
 
313
        self.last_updates = self.last_updates[-self._max_last_updates:]
 
314
        self.last_update = now
 
315
        return False
119
316
        
120
 
 
121
317
    def tick(self):
122
 
        self.update(self.last_msg, self.last_cnt, self.last_total)
123
 
                 
124
 
 
125
 
 
126
 
    def update(self, msg, current_cnt=None, total_cnt=None):
 
318
        self.update(self.last_msg, self.last_cnt, self.last_total, 
 
319
                    self.child_fraction)
 
320
 
 
321
    def child_update(self, message, current, total):
 
322
        if current is not None and total != 0:
 
323
            child_fraction = float(current) / total
 
324
            if self.last_cnt is None:
 
325
                pass
 
326
            elif self.last_cnt + child_fraction <= self.last_total:
 
327
                self.child_fraction = child_fraction
 
328
            else:
 
329
                mutter('not updating child fraction')
 
330
        if self.last_msg is None:
 
331
            self.last_msg = ''
 
332
        self.tick()
 
333
 
 
334
    def update(self, msg, current_cnt=None, total_cnt=None, 
 
335
               child_fraction=0):
127
336
        """Update and redraw progress bar."""
128
 
        if self.suppressed:
129
 
            return
130
 
 
 
337
        if msg is None:
 
338
            msg = self.last_msg
 
339
 
 
340
        if total_cnt is None:
 
341
            total_cnt = self.last_total
 
342
 
 
343
        if current_cnt < 0:
 
344
            current_cnt = 0
 
345
            
 
346
        if current_cnt > total_cnt:
 
347
            total_cnt = current_cnt
 
348
        
 
349
        ## # optional corner case optimisation 
 
350
        ## # currently does not seem to fire so costs more than saved.
 
351
        ## # trivial optimal case:
 
352
        ## # NB if callers are doing a clear and restore with
 
353
        ## # the saved values, this will prevent that:
 
354
        ## # in that case add a restore method that calls
 
355
        ## # _do_update or some such
 
356
        ## if (self.last_msg == msg and
 
357
        ##     self.last_cnt == current_cnt and
 
358
        ##     self.last_total == total_cnt and
 
359
        ##     self.child_fraction == child_fraction):
 
360
        ##     return
 
361
 
 
362
        old_msg = self.last_msg
131
363
        # save these for the tick() function
132
364
        self.last_msg = msg
133
365
        self.last_cnt = current_cnt
134
366
        self.last_total = total_cnt
135
 
            
136
 
        now = time.time()
137
 
        if self.start_time is None:
138
 
            self.start_time = now
139
 
        else:
140
 
            interval = now - self.last_update
141
 
            if interval > 0 and interval < self.MIN_PAUSE:
142
 
                return
143
 
 
144
 
        self.last_update = now
145
 
        
146
 
        if total_cnt:
147
 
            assert current_cnt <= total_cnt
148
 
        if current_cnt:
149
 
            assert current_cnt >= 0
150
 
        
151
 
        if self.show_eta and self.start_time and total_cnt:
152
 
            eta = get_eta(self.start_time, current_cnt, total_cnt)
 
367
        self.child_fraction = child_fraction
 
368
 
 
369
        # each function call takes 20ms/4000 = 0.005 ms, 
 
370
        # but multiple that by 4000 calls -> starts to cost.
 
371
        # so anything to make this function call faster
 
372
        # will improve base 'diff' time by up to 0.1 seconds.
 
373
        if self.throttle(old_msg):
 
374
            return
 
375
 
 
376
        if self.show_eta and self.start_time and self.last_total:
 
377
            eta = get_eta(self.start_time, self.last_cnt + self.child_fraction, 
 
378
                    self.last_total, last_updates = self.last_updates)
153
379
            eta_str = " " + str_tdelta(eta)
154
380
        else:
155
381
            eta_str = ""
162
388
        # always update this; it's also used for the bar
163
389
        self.spin_pos += 1
164
390
 
165
 
        if self.show_pct and total_cnt and current_cnt:
166
 
            pct = 100.0 * current_cnt / total_cnt
 
391
        if self.show_pct and self.last_total and self.last_cnt:
 
392
            pct = 100.0 * ((self.last_cnt + self.child_fraction) / self.last_total)
167
393
            pct_str = ' (%5.1f%%)' % pct
168
394
        else:
169
395
            pct_str = ''
170
396
 
171
397
        if not self.show_count:
172
398
            count_str = ''
173
 
        elif current_cnt is None:
 
399
        elif self.last_cnt is None:
174
400
            count_str = ''
175
 
        elif total_cnt is None:
176
 
            count_str = ' %i' % (current_cnt)
 
401
        elif self.last_total is None:
 
402
            count_str = ' %i' % (self.last_cnt)
177
403
        else:
178
404
            # make both fields the same size
179
 
            t = '%i' % (total_cnt)
180
 
            c = '%*i' % (len(t), current_cnt)
 
405
            t = '%i' % (self.last_total)
 
406
            c = '%*i' % (len(t), self.last_cnt)
181
407
            count_str = ' ' + c + '/' + t 
182
408
 
183
409
        if self.show_bar:
184
410
            # progress bar, if present, soaks up all remaining space
185
 
            cols = self.width - 1 - len(msg) - len(spin_str) - len(pct_str) \
 
411
            cols = self.width - 1 - len(self.last_msg) - len(spin_str) - len(pct_str) \
186
412
                   - len(eta_str) - len(count_str) - 3
187
413
 
188
 
            if total_cnt:
 
414
            if self.last_total:
189
415
                # number of markers highlighted in bar
190
 
                markers = int(round(float(cols) * current_cnt / total_cnt))
 
416
                markers = int(round(float(cols) * 
 
417
                              (self.last_cnt + self.child_fraction) / self.last_total))
191
418
                bar_str = '[' + ('=' * markers).ljust(cols) + '] '
192
419
            elif False:
193
420
                # don't know total, so can't show completion.
201
428
        else:
202
429
            bar_str = ''
203
430
 
204
 
        m = spin_str + bar_str + msg + count_str + pct_str + eta_str
205
 
 
206
 
        assert len(m) < self.width
207
 
        self.to_file.write('\r' + m.ljust(self.width - 1))
 
431
        m = spin_str + bar_str + self.last_msg + count_str + pct_str + eta_str
 
432
        self.to_file.write('\r%-*.*s' % (self.width - 1, self.width - 1, m))
 
433
        self._have_output = True
208
434
        #self.to_file.flush()
209
435
            
210
 
 
211
 
    def clear(self):
212
 
        if self.suppressed:
213
 
            return
214
 
        
215
 
        self.to_file.write('\r%s\r' % (' ' * (self.width - 1)))
 
436
    def clear(self):        
 
437
        if self._have_output:
 
438
            self.to_file.write('\r%s\r' % (' ' * (self.width - 1)))
 
439
        self._have_output = False
216
440
        #self.to_file.flush()        
217
 
    
218
 
 
219
 
        
 
441
 
 
442
 
 
443
_progress_bar_types['tty'] = TTYProgressBar
 
444
 
 
445
 
 
446
class ChildProgress(_BaseProgressBar):
 
447
    """A progress indicator that pushes its data to the parent"""
 
448
 
 
449
    def __init__(self, _stack, **kwargs):
 
450
        _BaseProgressBar.__init__(self, _stack=_stack, **kwargs)
 
451
        self.parent = _stack.top()
 
452
        self.current = None
 
453
        self.total = None
 
454
        self.child_fraction = 0
 
455
        self.message = None
 
456
 
 
457
    def update(self, msg, current_cnt=None, total_cnt=None):
 
458
        self.current = current_cnt
 
459
        self.total = total_cnt
 
460
        self.message = msg
 
461
        self.child_fraction = 0
 
462
        self.tick()
 
463
 
 
464
    def child_update(self, message, current, total):
 
465
        if current is None or total == 0:
 
466
            self.child_fraction = 0
 
467
        else:
 
468
            self.child_fraction = float(current) / total
 
469
        self.tick()
 
470
 
 
471
    def tick(self):
 
472
        if self.current is None:
 
473
            count = None
 
474
        else:
 
475
            count = self.current+self.child_fraction
 
476
            if count > self.total:
 
477
                if __debug__:
 
478
                    mutter('clamping count of %d to %d' % (count, self.total))
 
479
                count = self.total
 
480
        self.parent.child_update(self.message, count, self.total)
 
481
 
 
482
    def clear(self):
 
483
        pass
 
484
 
 
485
    def note(self, *args, **kwargs):
 
486
        self.parent.note(*args, **kwargs)
 
487
 
 
488
 
220
489
def str_tdelta(delt):
221
490
    if delt is None:
222
491
        return "-:--:--"
226
495
                             delt % 60)
227
496
 
228
497
 
229
 
def get_eta(start_time, current, total, enough_samples=3):
 
498
def get_eta(start_time, current, total, enough_samples=3, last_updates=None, n_recent=10):
230
499
    if start_time is None:
231
500
        return None
232
501
 
248
517
 
249
518
    assert total_duration >= elapsed
250
519
 
 
520
    if last_updates and len(last_updates) >= n_recent:
 
521
        avg = sum(last_updates) / float(len(last_updates))
 
522
        time_left = avg * (total - current)
 
523
 
 
524
        old_time_left = total_duration - elapsed
 
525
 
 
526
        # We could return the average, or some other value here
 
527
        return (time_left + old_time_left) / 2
 
528
 
251
529
    return total_duration - elapsed
252
530
 
253
531
 
 
532
class ProgressPhase(object):
 
533
    """Update progress object with the current phase"""
 
534
    def __init__(self, message, total, pb):
 
535
        object.__init__(self)
 
536
        self.pb = pb
 
537
        self.message = message
 
538
        self.total = total
 
539
        self.cur_phase = None
 
540
 
 
541
    def next_phase(self):
 
542
        if self.cur_phase is None:
 
543
            self.cur_phase = 0
 
544
        else:
 
545
            self.cur_phase += 1
 
546
        assert self.cur_phase < self.total 
 
547
        self.pb.update(self.message, self.cur_phase, self.total)
 
548
 
 
549
 
254
550
def run_tests():
255
551
    import doctest
256
552
    result = doctest.testmod()
262
558
 
263
559
 
264
560
def demo():
265
 
    from time import sleep
 
561
    sleep = time.sleep
 
562
    
 
563
    print 'dumb-terminal test:'
 
564
    pb = DotsProgressBar()
 
565
    for i in range(100):
 
566
        pb.update('Leoparden', i, 99)
 
567
        sleep(0.1)
 
568
    sleep(1.5)
 
569
    pb.clear()
 
570
    sleep(1.5)
 
571
    
 
572
    print 'smart-terminal test:'
266
573
    pb = ProgressBar(show_pct=True, show_bar=True, show_spinner=False)
267
574
    for i in range(100):
268
575
        pb.update('Elephanten', i, 99)
270
577
    sleep(2)
271
578
    pb.clear()
272
579
    sleep(1)
 
580
 
273
581
    print 'done!'
274
582
 
275
583
if __name__ == "__main__":