~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tsort.py

  • Committer: Alexander Belchenko
  • Date: 2008-02-07 07:53:19 UTC
  • mto: This revision was merged to the branch mainline in revision 3231.
  • Revision ID: bialix@ukr.net-20080207075319-d9jj7as8i5ztiff7
some cleanup in package_mf.py; mention about load_from_zip() deprecation in NEWS.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006, 2008 Canonical Ltd
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
16
17
 
17
18
"""Topological sorting routines."""
18
19
 
19
 
from __future__ import absolute_import
20
 
 
21
 
 
22
 
from bzrlib import (
23
 
    errors,
24
 
    graph as _mod_graph,
25
 
    revision as _mod_revision,
26
 
    )
 
20
 
 
21
from bzrlib import errors
27
22
 
28
23
 
29
24
__all__ = ["topo_sort", "TopoSorter", "merge_sort", "MergeSorter"]
34
29
 
35
30
    graph -- sequence of pairs of node->parents_list.
36
31
 
37
 
    The result is a list of node names, such that all parents come before their
38
 
    children.
 
32
    The result is a list of node names, such that all parents come before
 
33
    their children.
39
34
 
40
35
    node identifiers can be any hashable object, and are typically strings.
41
 
 
42
 
    This function has the same purpose as the TopoSorter class, but uses a
43
 
    different algorithm to sort the graph. That means that while both return a
44
 
    list with parents before their child nodes, the exact ordering can be
45
 
    different.
46
 
 
47
 
    topo_sort is faster when the whole list is needed, while when iterating
48
 
    over a part of the list, TopoSorter.iter_topo_order should be used.
49
36
    """
50
 
    kg = _mod_graph.KnownGraph(dict(graph))
51
 
    return kg.topo_sort()
 
37
    return TopoSorter(graph).sorted()
52
38
 
53
39
 
54
40
class TopoSorter(object):
55
41
 
56
42
    def __init__(self, graph):
57
43
        """Topological sorting of a graph.
58
 
 
 
44
    
59
45
        :param graph: sequence of pairs of node_name->parent_names_list.
60
46
                      i.e. [('C', ['B']), ('B', ['A']), ('A', [])]
61
47
                      For this input the output from the sort or
62
48
                      iter_topo_order routines will be:
63
49
                      'A', 'B', 'C'
64
 
 
 
50
        
65
51
        node identifiers can be any hashable object, and are typically strings.
66
52
 
67
53
        If you have a graph like [('a', ['b']), ('a', ['c'])] this will only use
70
56
        The graph is sorted lazily: until you iterate or sort the input is
71
57
        not processed other than to create an internal representation.
72
58
 
73
 
        iteration or sorting may raise GraphCycleError if a cycle is present
 
59
        iteration or sorting may raise GraphCycleError if a cycle is present 
74
60
        in the graph.
75
61
        """
76
 
        # store a dict of the graph.
 
62
        # a dict of the graph.
77
63
        self._graph = dict(graph)
 
64
        self._visitable = set(self._graph)
 
65
        ### if debugging:
 
66
        # self._original_graph = dict(graph)
 
67
        
 
68
        # this is a stack storing the depth first search into the graph.
 
69
        self._node_name_stack = []
 
70
        # at each level of 'recursion' we have to check each parent. This
 
71
        # stack stores the parents we have not yet checked for the node at the 
 
72
        # matching depth in _node_name_stack
 
73
        self._pending_parents_stack = []
 
74
        # this is a set of the completed nodes for fast checking whether a
 
75
        # parent in a node we are processing on the stack has already been
 
76
        # emitted and thus can be skipped.
 
77
        self._completed_node_names = set()
78
78
 
79
79
    def sorted(self):
80
80
        """Sort the graph and return as a list.
81
 
 
 
81
        
82
82
        After calling this the sorter is empty and you must create a new one.
83
83
        """
84
84
        return list(self.iter_topo_order())
95
95
 
96
96
    def iter_topo_order(self):
97
97
        """Yield the nodes of the graph in a topological order.
98
 
 
 
98
        
99
99
        After finishing iteration the sorter is empty and you cannot continue
100
100
        iteration.
101
101
        """
102
 
        graph = self._graph
103
 
        visitable = set(graph)
104
 
 
105
 
        # this is a stack storing the depth first search into the graph.
106
 
        pending_node_stack = []
107
 
        # at each level of 'recursion' we have to check each parent. This
108
 
        # stack stores the parents we have not yet checked for the node at the
109
 
        # matching depth in pending_node_stack
110
 
        pending_parents_stack = []
111
 
 
112
 
        # this is a set of the completed nodes for fast checking whether a
113
 
        # parent in a node we are processing on the stack has already been
114
 
        # emitted and thus can be skipped.
115
 
        completed_node_names = set()
116
 
 
117
 
        while graph:
 
102
        while self._graph:
118
103
            # now pick a random node in the source graph, and transfer it to the
119
 
            # top of the depth first search stack of pending nodes.
120
 
            node_name, parents = graph.popitem()
121
 
            pending_node_stack.append(node_name)
122
 
            pending_parents_stack.append(list(parents))
123
 
 
124
 
            # loop until pending_node_stack is empty
125
 
            while pending_node_stack:
126
 
                parents_to_visit = pending_parents_stack[-1]
127
 
                # if there are no parents left, the revision is done
 
104
            # top of the depth first search stack.
 
105
            node_name, parents = self._graph.popitem()
 
106
            self._push_node(node_name, parents)
 
107
            while self._node_name_stack:
 
108
                # loop until this call completes.
 
109
                parents_to_visit = self._pending_parents_stack[-1]
 
110
                # if all parents are done, the revision is done
128
111
                if not parents_to_visit:
129
112
                    # append the revision to the topo sorted list
130
 
                    # all the nodes parents have been added to the output,
131
 
                    # now we can add it to the output.
132
 
                    popped_node = pending_node_stack.pop()
133
 
                    pending_parents_stack.pop()
134
 
                    completed_node_names.add(popped_node)
135
 
                    yield popped_node
 
113
                    # all the nodes parents have been added to the output, now
 
114
                    # we can add it to the output.
 
115
                    yield self._pop_node()
136
116
                else:
137
 
                    # recurse depth first into a single parent
138
 
                    next_node_name = parents_to_visit.pop()
139
 
 
140
 
                    if next_node_name in completed_node_names:
141
 
                        # parent was already completed by a child, skip it.
142
 
                        continue
143
 
                    if next_node_name not in visitable:
144
 
                        # parent is not a node in the original graph, skip it.
145
 
                        continue
146
 
 
147
 
                    # transfer it along with its parents from the source graph
148
 
                    # into the top of the current depth first search stack.
149
 
                    try:
150
 
                        parents = graph.pop(next_node_name)
151
 
                    except KeyError:
152
 
                        # if the next node is not in the source graph it has
153
 
                        # already been popped from it and placed into the
154
 
                        # current search stack (but not completed or we would
155
 
                        # have hit the continue 6 lines up).  this indicates a
156
 
                        # cycle.
157
 
                        raise errors.GraphCycleError(pending_node_stack)
158
 
                    pending_node_stack.append(next_node_name)
159
 
                    pending_parents_stack.append(list(parents))
 
117
                    while self._pending_parents_stack[-1]:
 
118
                        # recurse depth first into a single parent 
 
119
                        next_node_name = self._pending_parents_stack[-1].pop()
 
120
                        if next_node_name in self._completed_node_names:
 
121
                            # this parent was completed by a child on the
 
122
                            # call stack. skip it.
 
123
                            continue
 
124
                        if next_node_name not in self._visitable:
 
125
                            continue
 
126
                        # otherwise transfer it from the source graph into the
 
127
                        # top of the current depth first search stack.
 
128
                        try:
 
129
                            parents = self._graph.pop(next_node_name)
 
130
                        except KeyError:
 
131
                            # if the next node is not in the source graph it has
 
132
                            # already been popped from it and placed into the
 
133
                            # current search stack (but not completed or we would
 
134
                            # have hit the continue 4 lines up.
 
135
                            # this indicates a cycle.
 
136
                            raise errors.GraphCycleError(self._node_name_stack)
 
137
                        self._push_node(next_node_name, parents)
 
138
                        # and do not continue processing parents until this 'call' 
 
139
                        # has recursed.
 
140
                        break
 
141
 
 
142
    def _push_node(self, node_name, parents):
 
143
        """Add node_name to the pending node stack.
 
144
        
 
145
        Names in this stack will get emitted into the output as they are popped
 
146
        off the stack.
 
147
        """
 
148
        self._node_name_stack.append(node_name)
 
149
        self._pending_parents_stack.append(list(parents))
 
150
 
 
151
    def _pop_node(self):
 
152
        """Pop the top node off the stack 
 
153
 
 
154
        The node is appended to the sorted output.
 
155
        """
 
156
        # we are returning from the flattened call frame:
 
157
        # pop off the local variables
 
158
        node_name = self._node_name_stack.pop()
 
159
        self._pending_parents_stack.pop()
 
160
 
 
161
        self._completed_node_names.add(node_name)
 
162
        return node_name
160
163
 
161
164
 
162
165
def merge_sort(graph, branch_tip, mainline_revisions=None, generate_revno=False):
163
166
    """Topological sort a graph which groups merges.
164
167
 
165
168
    :param graph: sequence of pairs of node->parents_list.
166
 
    :param branch_tip: the tip of the branch to graph. Revisions not
 
169
    :param branch_tip: the tip of the branch to graph. Revisions not 
167
170
                       reachable from branch_tip are not included in the
168
171
                       output.
169
172
    :param mainline_revisions: If not None this forces a mainline to be
178
181
        revision number sequences in the output. See the output description of
179
182
        the MergeSorter docstring for details.
180
183
    :result: See the MergeSorter docstring for details.
181
 
 
182
 
    Node identifiers can be any hashable object, and are typically strings.
 
184
    node identifiers can be any hashable object, and are typically strings.
183
185
    """
184
186
    return MergeSorter(graph, branch_tip, mainline_revisions,
185
187
        generate_revno).sorted()
206
208
    def __init__(self, graph, branch_tip, mainline_revisions=None,
207
209
        generate_revno=False):
208
210
        """Merge-aware topological sorting of a graph.
209
 
 
 
211
    
210
212
        :param graph: sequence of pairs of node_name->parent_names_list.
211
213
                      i.e. [('C', ['B']), ('B', ['A']), ('A', [])]
212
214
                      For this input the output from the sort or
213
215
                      iter_topo_order routines will be:
214
216
                      'A', 'B', 'C'
215
 
        :param branch_tip: the tip of the branch to graph. Revisions not
 
217
        :param branch_tip: the tip of the branch to graph. Revisions not 
216
218
                       reachable from branch_tip are not included in the
217
219
                       output.
218
220
        :param mainline_revisions: If not None this forces a mainline to be
230
232
        The result is a list sorted so that all parents come before
231
233
        their children. Each element of the list is a tuple containing:
232
234
        (sequence_number, node_name, merge_depth, end_of_merge)
233
 
         * sequence_number: The sequence of this row in the output. Useful for
 
235
         * sequence_number: The sequence of this row in the output. Useful for 
234
236
           GUIs.
235
237
         * node_name: The node name: opaque text to the merge routine.
236
238
         * merge_depth: How many levels of merging deep this node has been
247
249
             second commit in the trunk'.
248
250
         * end_of_merge: When True the next node is part of a different merge.
249
251
 
250
 
 
 
252
        
251
253
        node identifiers can be any hashable object, and are typically strings.
252
254
 
253
255
        If you have a graph like [('a', ['b']), ('a', ['c'])] this will only use
256
258
        The graph is sorted lazily: until you iterate or sort the input is
257
259
        not processed other than to create an internal representation.
258
260
 
259
 
        iteration or sorting may raise GraphCycleError if a cycle is present
 
261
        iteration or sorting may raise GraphCycleError if a cycle is present 
260
262
        in the graph.
261
263
 
262
264
        Background information on the design:
281
283
              E  1   [F]
282
284
              F 0
283
285
              C is the end of a cluster due to rule 1.
284
 
              D is not the end of a cluster from rule 1, but is from rule 2: E
 
286
              D is not the end of a cluster from rule 1, but is from rule 2: E 
285
287
                is not its left most ancestor
286
288
              E is the end of a cluster due to rule 1
287
289
              F might be but we need more data.
288
 
 
 
290
              
289
291
        we show connecting lines to a parent when:
290
292
         - The parent is the start of a merge within this cluster.
291
 
           That is, the merge was not done to the mainline before this cluster
 
293
           That is, the merge was not done to the mainline before this cluster 
292
294
           was merged to the mainline.
293
295
           This can be detected thus:
294
 
            * The parent has a higher merge depth and is the next revision in
 
296
            * The parent has a higher merge depth and is the next revision in 
295
297
              the list.
296
 
 
 
298
          
297
299
          The next revision in the list constraint is needed for this case:
298
 
          A 0   [D, B]
299
 
          B  1  [C, F]   # we do not want to show a line to F which is depth 2
 
300
          A 0   [D, B]   
 
301
          B  1  [C, F]   # we do not want to show a line to F which is depth 2 
300
302
                           but not a merge
301
 
          C  1  [H]      # note that this is a long line to show back to the
 
303
          C  1  [H]      # note that this is a long line to show back to the 
302
304
                           ancestor - see the end of merge rules.
303
305
          D 0   [G, E]
304
306
          E  1  [G, F]
339
341
        else:
340
342
            self._mainline_revisions = list(mainline_revisions)
341
343
            self._stop_revision = self._mainline_revisions[0]
342
 
        # skip the first revision, its what we reach and its parents are
 
344
        # skip the first revision, its what we reach and its parents are 
343
345
        # therefore irrelevant
344
346
        for index, revision in enumerate(self._mainline_revisions[1:]):
345
347
            # NB: index 0 means self._mainline_revisions[1]
348
350
            if parent is None:
349
351
                # end of mainline_revisions history
350
352
                continue
351
 
            graph_parent_ids = self._graph[revision]
352
 
            if not graph_parent_ids:
353
 
                # We ran into a ghost, skip over it, this is a workaround for
354
 
                # bug #243536, the _graph has had ghosts stripped, but the
355
 
                # mainline_revisions have not
356
 
                continue
357
 
            if graph_parent_ids[0] == parent:
 
353
            if self._graph[revision][0] == parent:
358
354
                continue
359
355
            # remove it from its prior spot
360
356
            self._graph[revision].remove(parent)
375
371
                            for revision in self._graph)
376
372
        # Each mainline revision counts how many child branches have spawned from it.
377
373
        self._revno_to_branch_count = {}
378
 
 
 
374
        
379
375
        # this is a stack storing the depth first search into the graph.
380
376
        self._node_name_stack = []
381
377
        # at each level of recursion we need the merge depth this node is at:
382
378
        self._node_merge_depth_stack = []
383
379
        # at each level of 'recursion' we have to check each parent. This
384
 
        # stack stores the parents we have not yet checked for the node at the
 
380
        # stack stores the parents we have not yet checked for the node at the 
385
381
        # matching depth in _node_name_stack
386
382
        self._pending_parents_stack = []
387
383
        # When we first look at a node we assign it a seqence number from its
399
395
        # D 0  [F, E]
400
396
        # E  1 [F]
401
397
        # F 0
402
 
        # the scheduling order is: F, E, D, C, B, A
 
398
        # the scheduling order is: F, E, D, C, B, A 
403
399
        # that is - 'left subtree, right subtree, node'
404
400
        # which would mean that when we schedule A we can emit the entire tree.
405
401
        self._scheduled_nodes = []
406
 
        # This records for each node when we have processed its left most
 
402
        # This records for each node when we have processed its left most 
407
403
        # unmerged subtree. After this subtree is scheduled, all other subtrees
408
404
        # have their merge depth increased by one from this nodes merge depth.
409
405
        # it contains tuples - name, merge_depth
410
406
        self._left_subtree_pushed_stack = []
411
407
 
412
408
        # seed the search with the tip of the branch
413
 
        if (branch_tip is not None and
414
 
            branch_tip != _mod_revision.NULL_REVISION and
415
 
            branch_tip != (_mod_revision.NULL_REVISION,)):
 
409
        if branch_tip is not None:
416
410
            parents = self._graph.pop(branch_tip)
417
411
            self._push_node(branch_tip, 0, parents)
418
412
 
419
413
    def sorted(self):
420
414
        """Sort the graph and return as a list.
421
 
 
 
415
        
422
416
        After calling this the sorter is empty and you must create a new one.
423
417
        """
424
418
        return list(self.iter_topo_order())
425
419
 
426
420
    def iter_topo_order(self):
427
421
        """Yield the nodes of the graph in a topological order.
428
 
 
 
422
        
429
423
        After finishing iteration the sorter is empty and you cannot continue
430
424
        iteration.
431
425
        """
461
455
            left_subtree_pushed_stack_append(False)
462
456
            pending_parents_stack_append(list(parents))
463
457
            # as we push it, check if it is the first child
464
 
            parent_info = None
465
458
            if parents:
466
459
                # node has parents, assign from the left most parent.
467
 
                try:
468
 
                    parent_info = revnos[parents[0]]
469
 
                except KeyError:
470
 
                    # Left-hand parent is a ghost, consider it not to exist
471
 
                    pass
472
 
            if parent_info is not None:
 
460
                parent_info = revnos[parents[0]]
473
461
                first_child = parent_info[1]
474
462
                parent_info[1] = False
475
463
            else:
503
491
            pending_parents_stack_pop()
504
492
 
505
493
            parents = original_graph[node_name]
506
 
            parent_revno = None
507
494
            if parents:
508
495
                # node has parents, assign from the left most parent.
509
 
                try:
510
 
                    parent_revno = revnos[parents[0]][0]
511
 
                except KeyError:
512
 
                    # left-hand parent is a ghost, treat it as not existing
513
 
                    pass
514
 
            if parent_revno is not None:
 
496
                parent_revno = revnos[parents[0]][0]
515
497
                if not first_child:
516
498
                    # not the first child, make a new branch
517
499
                    base_revno = parent_revno[0]
526
508
                    revno = parent_revno[:-1] + (parent_revno[-1] + 1,)
527
509
            else:
528
510
                # no parents, use the root sequence
529
 
                root_count = revno_to_branch_count.get(0, -1)
530
 
                root_count += 1
 
511
                root_count = revno_to_branch_count.get(0, 0)
531
512
                if root_count:
532
513
                    revno = (0, root_count, 1)
533
514
                else:
534
515
                    revno = (1,)
 
516
                root_count += 1
535
517
                revno_to_branch_count[0] = root_count
536
518
 
537
519
            # store the revno for this node for future reference
555
537
                    if not left_subtree_pushed_stack[-1]:
556
538
                        # recurse depth first into the primary parent
557
539
                        next_node_name = pending_parents_stack[-1].pop(0)
558
 
                        is_left_subtree = True
559
 
                        left_subtree_pushed_stack[-1] = True
560
540
                    else:
561
541
                        # place any merges in right-to-left order for scheduling
562
542
                        # which gives us left-to-right order after we reverse
563
 
                        # the scheduled queue. XXX: This has the effect of
 
543
                        # the scheduled queue. XXX: This has the effect of 
564
544
                        # allocating common-new revisions to the right-most
565
 
                        # subtree rather than the left most, which will
 
545
                        # subtree rather than the left most, which will 
566
546
                        # display nicely (you get smaller trees at the top
567
547
                        # of the combined merge).
568
548
                        next_node_name = pending_parents_stack[-1].pop()
569
 
                        is_left_subtree = False
570
549
                    if next_node_name in completed_node_names:
571
550
                        # this parent was completed by a child on the
572
551
                        # call stack. skip it.
581
560
                        # current search stack (but not completed or we would
582
561
                        # have hit the continue 4 lines up.
583
562
                        # this indicates a cycle.
584
 
                        if next_node_name in self._original_graph:
585
 
                            raise errors.GraphCycleError(node_name_stack)
586
 
                        else:
587
 
                            # This is just a ghost parent, ignore it
588
 
                            continue
 
563
                        raise errors.GraphCycleError(node_name_stack)
589
564
                    next_merge_depth = 0
590
 
                    if is_left_subtree:
 
565
                    if left_subtree_pushed_stack[-1]:
591
566
                        # a new child branch from name_stack[-1]
 
567
                        next_merge_depth = 1
 
568
                    else:
592
569
                        next_merge_depth = 0
593
 
                    else:
594
 
                        next_merge_depth = 1
 
570
                        left_subtree_pushed_stack[-1] = True
595
571
                    next_merge_depth = (
596
572
                        node_merge_depth_stack[-1] + next_merge_depth)
597
573
                    push_node(
598
574
                        next_node_name,
599
575
                        next_merge_depth,
600
576
                        parents)
601
 
                    # and do not continue processing parents until this 'call'
 
577
                    # and do not continue processing parents until this 'call' 
602
578
                    # has recursed.
603
579
                    break
604
580
 
633
609
 
634
610
    def _push_node(self, node_name, merge_depth, parents):
635
611
        """Add node_name to the pending node stack.
636
 
 
 
612
        
637
613
        Names in this stack will get emitted into the output as they are popped
638
614
        off the stack.
639
615
        """
642
618
        self._left_subtree_pushed_stack.append(False)
643
619
        self._pending_parents_stack.append(list(parents))
644
620
        # as we push it, figure out if this is the first child
645
 
        parent_info = None
 
621
        parents = self._original_graph[node_name]
646
622
        if parents:
647
623
            # node has parents, assign from the left most parent.
648
 
            try:
649
 
                parent_info = self._revnos[parents[0]]
650
 
            except KeyError:
651
 
                # Left-hand parent is a ghost, consider it not to exist
652
 
                pass
653
 
        if parent_info is not None:
 
624
            parent_info = self._revnos[parents[0]]
654
625
            first_child = parent_info[1]
655
626
            parent_info[1] = False
656
627
        else:
660
631
        self._first_child_stack.append(first_child)
661
632
 
662
633
    def _pop_node(self):
663
 
        """Pop the top node off the stack
 
634
        """Pop the top node off the stack 
664
635
 
665
636
        The node is appended to the sorted output.
666
637
        """
674
645
        self._pending_parents_stack.pop()
675
646
 
676
647
        parents = self._original_graph[node_name]
677
 
        parent_revno = None
678
648
        if parents:
679
649
            # node has parents, assign from the left most parent.
680
 
            try:
681
 
                parent_revno = self._revnos[parents[0]][0]
682
 
            except KeyError:
683
 
                # left-hand parent is a ghost, treat it as not existing
684
 
                pass
685
 
        if parent_revno is not None:
 
650
            parent_revno = self._revnos[parents[0]][0]
686
651
            if not first_child:
687
652
                # not the first child, make a new branch
688
653
                base_revno = parent_revno[0]
698
663
        else:
699
664
            # no parents, use the root sequence
700
665
            root_count = self._revno_to_branch_count.get(0, 0)
701
 
            root_count = self._revno_to_branch_count.get(0, -1)
702
 
            root_count += 1
703
666
            if root_count:
704
667
                revno = (0, root_count, 1)
705
668
            else:
706
669
                revno = (1,)
 
670
            root_count += 1
707
671
            self._revno_to_branch_count[0] = root_count
708
672
 
709
673
        # store the revno for this node for future reference