~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/annotate.py

Add a group cache to decompression, 5 times faster than knit at decompression when accessing everything in a group.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
2
 
#
3
 
# This program is free software; you can redistribute it and/or modify
4
 
# it under the terms of the GNU General Public License as published by
5
 
# the Free Software Foundation; either version 2 of the License, or
6
 
# (at your option) any later version.
7
 
#
8
 
# This program is distributed in the hope that it will be useful,
9
 
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
 
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
 
# GNU General Public License for more details.
12
 
#
13
 
# You should have received a copy of the GNU General Public License
14
 
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
"""File annotate based on weave storage"""
18
 
 
19
 
# TODO: Choice of more or less verbose formats:
20
 
#
21
 
# interposed: show more details between blocks of modified lines
22
 
 
23
 
# TODO: Show which revision caused a line to merge into the parent
24
 
 
25
 
# TODO: perhaps abbreviate timescales depending on how recent they are
26
 
# e.g. "3:12 Tue", "13 Oct", "Oct 2005", etc.
27
 
 
28
 
import sys
29
 
import time
30
 
 
31
 
from bzrlib.lazy_import import lazy_import
32
 
lazy_import(globals(), """
33
 
from bzrlib import (
34
 
    patiencediff,
35
 
    tsort,
36
 
    )
37
 
""")
38
 
from bzrlib import (
39
 
    errors,
40
 
    osutils,
41
 
    )
42
 
from bzrlib.config import extract_email_address
43
 
from bzrlib.repository import _strip_NULL_ghosts
44
 
from bzrlib.revision import CURRENT_REVISION, Revision
45
 
 
46
 
 
47
 
def annotate_file(branch, rev_id, file_id, verbose=False, full=False,
48
 
                  to_file=None, show_ids=False):
49
 
    """Annotate file_id at revision rev_id in branch.
50
 
 
51
 
    The branch should already be read_locked() when annotate_file is called.
52
 
 
53
 
    :param branch: The branch to look for revision numbers and history from.
54
 
    :param rev_id: The revision id to annotate.
55
 
    :param file_id: The file_id to annotate.
56
 
    :param verbose: Show all details rather than truncating to ensure
57
 
        reasonable text width.
58
 
    :param full: XXXX Not sure what this does.
59
 
    :param to_file: The file to output the annotation to; if None stdout is
60
 
        used.
61
 
    :param show_ids: Show revision ids in the annotation output.
62
 
    """
63
 
    if to_file is None:
64
 
        to_file = sys.stdout
65
 
 
66
 
    # Handle the show_ids case
67
 
    annotations = _annotations(branch.repository, file_id, rev_id)
68
 
    if show_ids:
69
 
        return _show_id_annotations(annotations, to_file, full)
70
 
 
71
 
    # Calculate the lengths of the various columns
72
 
    annotation = list(_expand_annotations(annotations, branch))
73
 
    _print_annotations(annotation, verbose, to_file, full)
74
 
 
75
 
 
76
 
def annotate_file_tree(tree, file_id, to_file, verbose=False, full=False,
77
 
    show_ids=False):
78
 
    """Annotate file_id in a tree.
79
 
 
80
 
    The tree should already be read_locked() when annotate_file_tree is called.
81
 
 
82
 
    :param tree: The tree to look for revision numbers and history from.
83
 
    :param file_id: The file_id to annotate.
84
 
    :param to_file: The file to output the annotation to.
85
 
    :param verbose: Show all details rather than truncating to ensure
86
 
        reasonable text width.
87
 
    :param full: XXXX Not sure what this does.
88
 
    :param show_ids: Show revision ids in the annotation output.
89
 
    """
90
 
    rev_id = tree.last_revision()
91
 
    branch = tree.branch
92
 
 
93
 
    # Handle the show_ids case
94
 
    annotations = list(tree.annotate_iter(file_id))
95
 
    if show_ids:
96
 
        return _show_id_annotations(annotations, to_file, full)
97
 
 
98
 
    # Create a virtual revision to represent the current tree state.
99
 
    # Should get some more pending commit attributes, like pending tags,
100
 
    # bugfixes etc.
101
 
    current_rev = Revision(CURRENT_REVISION)
102
 
    current_rev.parent_ids = tree.get_parent_ids()
103
 
    current_rev.committer = tree.branch.get_config().username()
104
 
    current_rev.message = "?"
105
 
    current_rev.timestamp = round(time.time(), 3)
106
 
    current_rev.timezone = osutils.local_time_offset()
107
 
    annotation = list(_expand_annotations(annotations, tree.branch,
108
 
        current_rev))
109
 
    _print_annotations(annotation, verbose, to_file, full)
110
 
 
111
 
 
112
 
def _print_annotations(annotation, verbose, to_file, full):
113
 
    """Print annotations to to_file.
114
 
 
115
 
    :param to_file: The file to output the annotation to.
116
 
    :param verbose: Show all details rather than truncating to ensure
117
 
        reasonable text width.
118
 
    :param full: XXXX Not sure what this does.
119
 
    """
120
 
    if len(annotation) == 0:
121
 
        max_origin_len = max_revno_len = max_revid_len = 0
122
 
    else:
123
 
        max_origin_len = max(len(x[1]) for x in annotation)
124
 
        max_revno_len = max(len(x[0]) for x in annotation)
125
 
        max_revid_len = max(len(x[3]) for x in annotation)
126
 
    if not verbose:
127
 
        max_revno_len = min(max_revno_len, 12)
128
 
    max_revno_len = max(max_revno_len, 3)
129
 
 
130
 
    # Output the annotations
131
 
    prevanno = ''
132
 
    encoding = getattr(to_file, 'encoding', None) or \
133
 
            osutils.get_terminal_encoding()
134
 
    for (revno_str, author, date_str, line_rev_id, text) in annotation:
135
 
        if verbose:
136
 
            anno = '%-*s %-*s %8s ' % (max_revno_len, revno_str,
137
 
                                       max_origin_len, author, date_str)
138
 
        else:
139
 
            if len(revno_str) > max_revno_len:
140
 
                revno_str = revno_str[:max_revno_len-1] + '>'
141
 
            anno = "%-*s %-7s " % (max_revno_len, revno_str, author[:7])
142
 
        if anno.lstrip() == "" and full:
143
 
            anno = prevanno
144
 
        try:
145
 
            to_file.write(anno)
146
 
        except UnicodeEncodeError:
147
 
            # cmd_annotate should be passing in an 'exact' object, which means
148
 
            # we have a direct handle to sys.stdout or equivalent. It may not
149
 
            # be able to handle the exact Unicode characters, but 'annotate' is
150
 
            # a user function (non-scripting), so shouldn't die because of
151
 
            # unrepresentable annotation characters. So encode using 'replace',
152
 
            # and write them again.
153
 
            to_file.write(anno.encode(encoding, 'replace'))
154
 
        to_file.write('| %s\n' % (text,))
155
 
        prevanno = anno
156
 
 
157
 
 
158
 
def _show_id_annotations(annotations, to_file, full):
159
 
    if not annotations:
160
 
        return
161
 
    last_rev_id = None
162
 
    max_origin_len = max(len(origin) for origin, text in annotations)
163
 
    for origin, text in annotations:
164
 
        if full or last_rev_id != origin:
165
 
            this = origin
166
 
        else:
167
 
            this = ''
168
 
        to_file.write('%*s | %s' % (max_origin_len, this, text))
169
 
        last_rev_id = origin
170
 
    return
171
 
 
172
 
 
173
 
def _annotations(repo, file_id, rev_id):
174
 
    """Return the list of (origin_revision_id, line_text) for a revision of a file in a repository."""
175
 
    annotations = repo.texts.annotate((file_id, rev_id))
176
 
    #
177
 
    return [(key[-1], line) for (key, line) in annotations]
178
 
 
179
 
 
180
 
def _expand_annotations(annotations, branch, current_rev=None):
181
 
    """Expand a file's annotations into command line UI ready tuples.
182
 
 
183
 
    Each tuple includes detailed information, such as the author name, and date
184
 
    string for the commit, rather than just the revision id.
185
 
 
186
 
    :param annotations: The annotations to expand.
187
 
    :param revision_id_to_revno: A map from id to revision numbers.
188
 
    :param branch: A locked branch to query for revision details.
189
 
    """
190
 
    repository = branch.repository
191
 
    if current_rev is not None:
192
 
        # This can probably become a function on MutableTree, get_revno_map there,
193
 
        # or something.
194
 
        last_revision = current_rev.revision_id
195
 
        # XXX: Partially Cloned from branch, uses the old_get_graph, eep.
196
 
        # XXX: The main difficulty is that we need to inject a single new node
197
 
        #      (current_rev) into the graph before it gets numbered, etc.
198
 
        #      Once KnownGraph gets an 'add_node()' function, we can use
199
 
        #      VF.get_known_graph_ancestry().
200
 
        graph = repository.get_graph()
201
 
        revision_graph = dict(((key, value) for key, value in
202
 
            graph.iter_ancestry(current_rev.parent_ids) if value is not None))
203
 
        revision_graph = _strip_NULL_ghosts(revision_graph)
204
 
        revision_graph[last_revision] = current_rev.parent_ids
205
 
        merge_sorted_revisions = tsort.merge_sort(
206
 
            revision_graph,
207
 
            last_revision,
208
 
            None,
209
 
            generate_revno=True)
210
 
        revision_id_to_revno = dict((rev_id, revno)
211
 
            for seq_num, rev_id, depth, revno, end_of_merge in
212
 
                merge_sorted_revisions)
213
 
    else:
214
 
        revision_id_to_revno = branch.get_revision_id_to_revno_map()
215
 
    last_origin = None
216
 
    revision_ids = set(o for o, t in annotations)
217
 
    revisions = {}
218
 
    if CURRENT_REVISION in revision_ids:
219
 
        revision_id_to_revno[CURRENT_REVISION] = (
220
 
            "%d?" % (branch.revno() + 1),)
221
 
        revisions[CURRENT_REVISION] = current_rev
222
 
    revision_ids = [o for o in revision_ids if
223
 
                    repository.has_revision(o)]
224
 
    revisions.update((r.revision_id, r) for r in
225
 
                     repository.get_revisions(revision_ids))
226
 
    for origin, text in annotations:
227
 
        text = text.rstrip('\r\n')
228
 
        if origin == last_origin:
229
 
            (revno_str, author, date_str) = ('','','')
230
 
        else:
231
 
            last_origin = origin
232
 
            if origin not in revisions:
233
 
                (revno_str, author, date_str) = ('?','?','?')
234
 
            else:
235
 
                revno_str = '.'.join(str(i) for i in
236
 
                                            revision_id_to_revno[origin])
237
 
            rev = revisions[origin]
238
 
            tz = rev.timezone or 0
239
 
            date_str = time.strftime('%Y%m%d',
240
 
                                     time.gmtime(rev.timestamp + tz))
241
 
            # a lazy way to get something like the email address
242
 
            # TODO: Get real email address
243
 
            author = rev.get_apparent_authors()[0]
244
 
            try:
245
 
                author = extract_email_address(author)
246
 
            except errors.NoEmailInUsername:
247
 
                pass        # use the whole name
248
 
        yield (revno_str, author, date_str, origin, text)
249
 
 
250
 
 
251
 
def reannotate(parents_lines, new_lines, new_revision_id,
252
 
               _left_matching_blocks=None,
253
 
               heads_provider=None):
254
 
    """Create a new annotated version from new lines and parent annotations.
255
 
 
256
 
    :param parents_lines: List of annotated lines for all parents
257
 
    :param new_lines: The un-annotated new lines
258
 
    :param new_revision_id: The revision-id to associate with new lines
259
 
        (will often be CURRENT_REVISION)
260
 
    :param left_matching_blocks: a hint about which areas are common
261
 
        between the text and its left-hand-parent.  The format is
262
 
        the SequenceMatcher.get_matching_blocks format
263
 
        (start_left, start_right, length_of_match).
264
 
    :param heads_provider: An object which provides a .heads() call to resolve
265
 
        if any revision ids are children of others.
266
 
        If None, then any ancestry disputes will be resolved with
267
 
        new_revision_id
268
 
    """
269
 
    if len(parents_lines) == 0:
270
 
        lines = [(new_revision_id, line) for line in new_lines]
271
 
    elif len(parents_lines) == 1:
272
 
        lines = _reannotate(parents_lines[0], new_lines, new_revision_id,
273
 
                            _left_matching_blocks)
274
 
    elif len(parents_lines) == 2:
275
 
        left = _reannotate(parents_lines[0], new_lines, new_revision_id,
276
 
                           _left_matching_blocks)
277
 
        lines = _reannotate_annotated(parents_lines[1], new_lines,
278
 
                                      new_revision_id, left,
279
 
                                      heads_provider)
280
 
    else:
281
 
        reannotations = [_reannotate(parents_lines[0], new_lines,
282
 
                                     new_revision_id, _left_matching_blocks)]
283
 
        reannotations.extend(_reannotate(p, new_lines, new_revision_id)
284
 
                             for p in parents_lines[1:])
285
 
        lines = []
286
 
        for annos in zip(*reannotations):
287
 
            origins = set(a for a, l in annos)
288
 
            if len(origins) == 1:
289
 
                # All the parents agree, so just return the first one
290
 
                lines.append(annos[0])
291
 
            else:
292
 
                line = annos[0][1]
293
 
                if len(origins) == 2 and new_revision_id in origins:
294
 
                    origins.remove(new_revision_id)
295
 
                if len(origins) == 1:
296
 
                    lines.append((origins.pop(), line))
297
 
                else:
298
 
                    lines.append((new_revision_id, line))
299
 
    return lines
300
 
 
301
 
 
302
 
def _reannotate(parent_lines, new_lines, new_revision_id,
303
 
                matching_blocks=None):
304
 
    new_cur = 0
305
 
    if matching_blocks is None:
306
 
        plain_parent_lines = [l for r, l in parent_lines]
307
 
        matcher = patiencediff.PatienceSequenceMatcher(None,
308
 
            plain_parent_lines, new_lines)
309
 
        matching_blocks = matcher.get_matching_blocks()
310
 
    lines = []
311
 
    for i, j, n in matching_blocks:
312
 
        for line in new_lines[new_cur:j]:
313
 
            lines.append((new_revision_id, line))
314
 
        lines.extend(parent_lines[i:i+n])
315
 
        new_cur = j + n
316
 
    return lines
317
 
 
318
 
 
319
 
def _get_matching_blocks(old, new):
320
 
    matcher = patiencediff.PatienceSequenceMatcher(None, old, new)
321
 
    return matcher.get_matching_blocks()
322
 
 
323
 
 
324
 
_break_annotation_tie = None
325
 
 
326
 
def _old_break_annotation_tie(annotated_lines):
327
 
    """Chose an attribution between several possible ones.
328
 
 
329
 
    :param annotated_lines: A list of tuples ((file_id, rev_id), line) where
330
 
        the lines are identical but the revids different while no parent
331
 
        relation exist between them
332
 
 
333
 
     :return : The "winning" line. This must be one with a revid that
334
 
         guarantees that further criss-cross merges will converge. Failing to
335
 
         do so have performance implications.
336
 
    """
337
 
    # sort lexicographically so that we always get a stable result.
338
 
 
339
 
    # TODO: while 'sort' is the easiest (and nearly the only possible solution)
340
 
    # with the current implementation, chosing the oldest revision is known to
341
 
    # provide better results (as in matching user expectations). The most
342
 
    # common use case being manual cherry-pick from an already existing
343
 
    # revision.
344
 
    return sorted(annotated_lines)[0]
345
 
 
346
 
 
347
 
def _find_matching_unannotated_lines(output_lines, plain_child_lines,
348
 
                                     child_lines, start_child, end_child,
349
 
                                     right_lines, start_right, end_right,
350
 
                                     heads_provider, revision_id):
351
 
    """Find lines in plain_right_lines that match the existing lines.
352
 
 
353
 
    :param output_lines: Append final annotated lines to this list
354
 
    :param plain_child_lines: The unannotated new lines for the child text
355
 
    :param child_lines: Lines for the child text which have been annotated
356
 
        for the left parent
357
 
 
358
 
    :param start_child: Position in plain_child_lines and child_lines to start
359
 
        the match searching
360
 
    :param end_child: Last position in plain_child_lines and child_lines to
361
 
        search for a match
362
 
    :param right_lines: The annotated lines for the whole text for the right
363
 
        parent
364
 
    :param start_right: Position in right_lines to start the match
365
 
    :param end_right: Last position in right_lines to search for a match
366
 
    :param heads_provider: When parents disagree on the lineage of a line, we
367
 
        need to check if one side supersedes the other
368
 
    :param revision_id: The label to give if a line should be labeled 'tip'
369
 
    """
370
 
    output_extend = output_lines.extend
371
 
    output_append = output_lines.append
372
 
    # We need to see if any of the unannotated lines match
373
 
    plain_right_subset = [l for a,l in right_lines[start_right:end_right]]
374
 
    plain_child_subset = plain_child_lines[start_child:end_child]
375
 
    match_blocks = _get_matching_blocks(plain_right_subset, plain_child_subset)
376
 
 
377
 
    last_child_idx = 0
378
 
 
379
 
    for right_idx, child_idx, match_len in match_blocks:
380
 
        # All the lines that don't match are just passed along
381
 
        if child_idx > last_child_idx:
382
 
            output_extend(child_lines[start_child + last_child_idx
383
 
                                      :start_child + child_idx])
384
 
        for offset in xrange(match_len):
385
 
            left = child_lines[start_child+child_idx+offset]
386
 
            right = right_lines[start_right+right_idx+offset]
387
 
            if left[0] == right[0]:
388
 
                # The annotations match, just return the left one
389
 
                output_append(left)
390
 
            elif left[0] == revision_id:
391
 
                # The left parent marked this as unmatched, so let the
392
 
                # right parent claim it
393
 
                output_append(right)
394
 
            else:
395
 
                # Left and Right both claim this line
396
 
                if heads_provider is None:
397
 
                    output_append((revision_id, left[1]))
398
 
                else:
399
 
                    heads = heads_provider.heads((left[0], right[0]))
400
 
                    if len(heads) == 1:
401
 
                        output_append((iter(heads).next(), left[1]))
402
 
                    else:
403
 
                        # Both claim different origins, get a stable result.
404
 
                        # If the result is not stable, there is a risk a
405
 
                        # performance degradation as criss-cross merges will
406
 
                        # flip-flop the attribution.
407
 
                        if _break_annotation_tie is None:
408
 
                            output_append(
409
 
                                _old_break_annotation_tie([left, right]))
410
 
                        else:
411
 
                            output_append(_break_annotation_tie([left, right]))
412
 
        last_child_idx = child_idx + match_len
413
 
 
414
 
 
415
 
def _reannotate_annotated(right_parent_lines, new_lines, new_revision_id,
416
 
                          annotated_lines, heads_provider):
417
 
    """Update the annotations for a node based on another parent.
418
 
 
419
 
    :param right_parent_lines: A list of annotated lines for the right-hand
420
 
        parent.
421
 
    :param new_lines: The unannotated new lines.
422
 
    :param new_revision_id: The revision_id to attribute to lines which are not
423
 
        present in either parent.
424
 
    :param annotated_lines: A list of annotated lines. This should be the
425
 
        annotation of new_lines based on parents seen so far.
426
 
    :param heads_provider: When parents disagree on the lineage of a line, we
427
 
        need to check if one side supersedes the other.
428
 
    """
429
 
    if len(new_lines) != len(annotated_lines):
430
 
        raise AssertionError("mismatched new_lines and annotated_lines")
431
 
    # First compare the newly annotated lines with the right annotated lines.
432
 
    # Lines which were not changed in left or right should match. This tends to
433
 
    # be the bulk of the lines, and they will need no further processing.
434
 
    lines = []
435
 
    lines_extend = lines.extend
436
 
    last_right_idx = 0 # The line just after the last match from the right side
437
 
    last_left_idx = 0
438
 
    matching_left_and_right = _get_matching_blocks(right_parent_lines,
439
 
                                                   annotated_lines)
440
 
    for right_idx, left_idx, match_len in matching_left_and_right:
441
 
        # annotated lines from last_left_idx to left_idx did not match the
442
 
        # lines from last_right_idx to right_idx, the raw lines should be
443
 
        # compared to determine what annotations need to be updated
444
 
        if last_right_idx == right_idx or last_left_idx == left_idx:
445
 
            # One of the sides is empty, so this is a pure insertion
446
 
            lines_extend(annotated_lines[last_left_idx:left_idx])
447
 
        else:
448
 
            # We need to see if any of the unannotated lines match
449
 
            _find_matching_unannotated_lines(lines,
450
 
                                             new_lines, annotated_lines,
451
 
                                             last_left_idx, left_idx,
452
 
                                             right_parent_lines,
453
 
                                             last_right_idx, right_idx,
454
 
                                             heads_provider,
455
 
                                             new_revision_id)
456
 
        last_right_idx = right_idx + match_len
457
 
        last_left_idx = left_idx + match_len
458
 
        # If left and right agree on a range, just push that into the output
459
 
        lines_extend(annotated_lines[left_idx:left_idx + match_len])
460
 
    return lines
461
 
 
462
 
 
463
 
try:
464
 
    from bzrlib._annotator_pyx import Annotator
465
 
except ImportError, e:
466
 
    osutils.failed_to_load_extension(e)
467
 
    from bzrlib._annotator_py import Annotator