~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tree.py

  • Committer: Aaron Bentley
  • Date: 2007-01-16 13:12:54 UTC
  • mto: (2230.3.47 branch6)
  • mto: This revision was merged to the branch mainline in revision 2290.
  • Revision ID: aaron.bentley@utoronto.ca-20070116131254-sjruli93timappd4
work in progress bind stuff

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2009 Canonical Ltd
 
1
# Copyright (C) 2005 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
"""Tree classes, representing directory at point in time.
18
18
"""
19
19
 
20
20
import os
21
 
from collections import deque
 
21
from cStringIO import StringIO
22
22
 
23
23
import bzrlib
24
24
from bzrlib import (
25
 
    conflicts as _mod_conflicts,
26
 
    debug,
27
25
    delta,
28
 
    filters,
29
26
    osutils,
30
 
    revision as _mod_revision,
31
 
    rules,
 
27
    symbol_versioning,
32
28
    )
33
29
from bzrlib.decorators import needs_read_lock
34
 
from bzrlib.errors import BzrError, NoSuchId
 
30
from bzrlib.errors import BzrError, BzrCheckError
35
31
from bzrlib import errors
36
 
from bzrlib.inventory import InventoryFile
 
32
from bzrlib.inventory import Inventory
37
33
from bzrlib.inter import InterObject
38
34
from bzrlib.osutils import fingerprint_file
39
35
import bzrlib.revision
40
 
from bzrlib.symbol_versioning import deprecated_function, deprecated_in
41
 
from bzrlib.trace import note
 
36
from bzrlib.trace import mutter, note
42
37
 
43
38
 
44
39
class Tree(object):
45
40
    """Abstract file tree.
46
41
 
47
42
    There are several subclasses:
48
 
 
 
43
    
49
44
    * `WorkingTree` exists as files on disk editable by the user.
50
45
 
51
46
    * `RevisionTree` is a tree as recorded at some point in the past.
60
55
    Trees can be compared, etc, regardless of whether they are working
61
56
    trees or versioned trees.
62
57
    """
63
 
 
 
58
    
64
59
    def changes_from(self, other, want_unchanged=False, specific_files=None,
65
 
        extra_trees=None, require_versioned=False, include_root=False,
66
 
        want_unversioned=False):
 
60
        extra_trees=None, require_versioned=False, include_root=False):
67
61
        """Return a TreeDelta of the changes from other to this tree.
68
62
 
69
63
        :param other: A tree to compare with.
78
72
        :param require_versioned: An optional boolean (defaults to False). When
79
73
            supplied and True all the 'specific_files' must be versioned, or
80
74
            a PathsNotVersionedError will be thrown.
81
 
        :param want_unversioned: Scan for unversioned paths.
82
75
 
83
 
        The comparison will be performed by an InterTree object looked up on
 
76
        The comparison will be performed by an InterTree object looked up on 
84
77
        self and other.
85
78
        """
86
79
        # Martin observes that Tree.changes_from returns a TreeDelta and this
91
84
            specific_files=specific_files,
92
85
            extra_trees=extra_trees,
93
86
            require_versioned=require_versioned,
94
 
            include_root=include_root,
95
 
            want_unversioned=want_unversioned,
 
87
            include_root=include_root
96
88
            )
97
89
 
98
 
    def iter_changes(self, from_tree, include_unchanged=False,
99
 
                     specific_files=None, pb=None, extra_trees=None,
100
 
                     require_versioned=True, want_unversioned=False):
 
90
    def _iter_changes(self, from_tree, include_unchanged=False, 
 
91
                     specific_file_ids=None, pb=None):
101
92
        intertree = InterTree.get(from_tree, self)
102
 
        return intertree.iter_changes(include_unchanged, specific_files, pb,
103
 
            extra_trees, require_versioned, want_unversioned=want_unversioned)
104
 
 
 
93
        return intertree._iter_changes(from_tree, self, include_unchanged, 
 
94
                                       specific_file_ids, pb)
 
95
    
105
96
    def conflicts(self):
106
97
        """Get a list of the conflicts in the tree.
107
98
 
108
99
        Each conflict is an instance of bzrlib.conflicts.Conflict.
109
100
        """
110
 
        return _mod_conflicts.ConflictList()
111
 
 
112
 
    def extras(self):
113
 
        """For trees that can have unversioned files, return all such paths."""
114
101
        return []
115
102
 
116
103
    def get_parent_ids(self):
117
 
        """Get the parent ids for this tree.
 
104
        """Get the parent ids for this tree. 
118
105
 
119
106
        :return: a list of parent ids. [] is returned to indicate
120
107
        a tree with no parents.
121
108
        :raises: BzrError if the parents are not known.
122
109
        """
123
110
        raise NotImplementedError(self.get_parent_ids)
124
 
 
 
111
    
125
112
    def has_filename(self, filename):
126
113
        """True if the tree has given filename."""
127
 
        raise NotImplementedError(self.has_filename)
 
114
        raise NotImplementedError()
128
115
 
129
116
    def has_id(self, file_id):
130
117
        return self.inventory.has_id(file_id)
131
118
 
132
 
    def __contains__(self, file_id):
133
 
        return self.has_id(file_id)
 
119
    __contains__ = has_id
134
120
 
135
121
    def has_or_had_id(self, file_id):
 
122
        if file_id == self.inventory.root.file_id:
 
123
            return True
136
124
        return self.inventory.has_id(file_id)
137
125
 
138
 
    def is_ignored(self, filename):
139
 
        """Check whether the filename is ignored by this tree.
140
 
 
141
 
        :param filename: The relative filename within the tree.
142
 
        :return: True if the filename is ignored.
143
 
        """
144
 
        return False
145
 
 
146
126
    def __iter__(self):
147
127
        return iter(self.inventory)
148
128
 
149
 
    def all_file_ids(self):
150
 
        """Iterate through all file ids, including ids for missing files."""
151
 
        return set(self.inventory)
152
 
 
153
129
    def id2path(self, file_id):
154
 
        """Return the path for a file id.
155
 
 
156
 
        :raises NoSuchId:
157
 
        """
158
130
        return self.inventory.id2path(file_id)
159
131
 
160
132
    def is_control_filename(self, filename):
161
133
        """True if filename is the name of a control file in this tree.
162
 
 
 
134
        
163
135
        :param filename: A filename within the tree. This is a relative path
164
136
        from the root of this tree.
165
137
 
169
141
        """
170
142
        return self.bzrdir.is_control_filename(filename)
171
143
 
172
 
    @needs_read_lock
173
 
    def iter_entries_by_dir(self, specific_file_ids=None):
 
144
    def iter_entries_by_dir(self):
174
145
        """Walk the tree in 'by_dir' order.
175
146
 
176
 
        This will yield each entry in the tree as a (path, entry) tuple.
177
 
        The order that they are yielded is:
178
 
 
179
 
        Directories are walked in a depth-first lexicographical order,
180
 
        however, whenever a directory is reached, all of its direct child
181
 
        nodes are yielded in  lexicographical order before yielding the
182
 
        grandchildren.
183
 
 
184
 
        For example, in the tree::
185
 
 
186
 
           a/
187
 
             b/
188
 
               c
189
 
             d/
190
 
               e
191
 
           f/
192
 
             g
193
 
 
194
 
        The yield order (ignoring root) would be::
195
 
          a, f, a/b, a/d, a/b/c, a/d/e, f/g
 
147
        This will yield each entry in the tree as a (path, entry) tuple. The
 
148
        order that they are yielded is: the contents of a directory are 
 
149
        preceeded by the parent of a directory, and all the contents of a 
 
150
        directory are grouped together.
196
151
        """
197
 
        return self.inventory.iter_entries_by_dir(
198
 
            specific_file_ids=specific_file_ids)
199
 
 
200
 
    def iter_references(self):
201
 
        if self.supports_tree_reference():
202
 
            for path, entry in self.iter_entries_by_dir():
203
 
                if entry.kind == 'tree-reference':
204
 
                    yield path, entry.file_id
 
152
        return self.inventory.iter_entries_by_dir()
205
153
 
206
154
    def kind(self, file_id):
207
 
        raise NotImplementedError("Tree subclass %s must implement kind"
208
 
            % self.__class__.__name__)
209
 
 
210
 
    def stored_kind(self, file_id):
211
 
        """File kind stored for this file_id.
212
 
 
213
 
        May not match kind on disk for working trees.  Always available
214
 
        for versioned files, even when the file itself is missing.
215
 
        """
216
 
        return self.kind(file_id)
217
 
 
218
 
    def path_content_summary(self, path):
219
 
        """Get a summary of the information about path.
220
 
 
221
 
        :param path: A relative path within the tree.
222
 
        :return: A tuple containing kind, size, exec, sha1-or-link.
223
 
            Kind is always present (see tree.kind()).
224
 
            size is present if kind is file, None otherwise.
225
 
            exec is None unless kind is file and the platform supports the 'x'
226
 
                bit.
227
 
            sha1-or-link is the link target if kind is symlink, or the sha1 if
228
 
                it can be obtained without reading the file.
229
 
        """
230
 
        raise NotImplementedError(self.path_content_summary)
231
 
 
232
 
    def get_reference_revision(self, file_id, path=None):
233
 
        raise NotImplementedError("Tree subclass %s must implement "
234
 
                                  "get_reference_revision"
235
 
            % self.__class__.__name__)
 
155
        raise NotImplementedError("subclasses must implement kind")
236
156
 
237
157
    def _comparison_data(self, entry, path):
238
158
        """Return a tuple of kind, executable, stat_value for a file.
245
165
        """
246
166
        raise NotImplementedError(self._comparison_data)
247
167
 
248
 
    def _file_size(self, entry, stat_value):
 
168
    def _file_size(entry, stat_value):
249
169
        raise NotImplementedError(self._file_size)
250
170
 
251
171
    def _get_inventory(self):
252
172
        return self._inventory
253
 
 
254
 
    def get_file(self, file_id, path=None):
255
 
        """Return a file object for the file file_id in the tree.
256
 
 
257
 
        If both file_id and path are defined, it is implementation defined as
258
 
        to which one is used.
259
 
        """
 
173
    
 
174
    def get_file(self, file_id):
 
175
        """Return a file object for the file file_id in the tree."""
260
176
        raise NotImplementedError(self.get_file)
261
 
 
262
 
    def get_file_with_stat(self, file_id, path=None):
263
 
        """Get a file handle and stat object for file_id.
264
 
 
265
 
        The default implementation returns (self.get_file, None) for backwards
266
 
        compatibility.
267
 
 
268
 
        :param file_id: The file id to read.
269
 
        :param path: The path of the file, if it is known.
270
 
        :return: A tuple (file_handle, stat_value_or_None). If the tree has
271
 
            no stat facility, or need for a stat cache feedback during commit,
272
 
            it may return None for the second element of the tuple.
273
 
        """
274
 
        return (self.get_file(file_id, path), None)
275
 
 
276
 
    def get_file_text(self, file_id, path=None):
277
 
        """Return the byte content of a file.
278
 
 
279
 
        :param file_id: The file_id of the file.
280
 
        :param path: The path of the file.
281
 
        If both file_id and path are supplied, an implementation may use
282
 
        either one.
283
 
        """
284
 
        my_file = self.get_file(file_id, path)
285
 
        try:
286
 
            return my_file.read()
287
 
        finally:
288
 
            my_file.close()
289
 
 
290
 
    def get_file_lines(self, file_id, path=None):
291
 
        """Return the content of a file, as lines.
292
 
 
293
 
        :param file_id: The file_id of the file.
294
 
        :param path: The path of the file.
295
 
        If both file_id and path are supplied, an implementation may use
296
 
        either one.
297
 
        """
298
 
        return osutils.split_lines(self.get_file_text(file_id, path))
299
 
 
300
 
    def get_file_mtime(self, file_id, path=None):
301
 
        """Return the modification time for a file.
302
 
 
303
 
        :param file_id: The handle for this file.
304
 
        :param path: The path that this file can be found at.
305
 
            These must point to the same object.
306
 
        """
307
 
        raise NotImplementedError(self.get_file_mtime)
308
 
 
309
 
    def get_file_size(self, file_id):
310
 
        """Return the size of a file in bytes.
311
 
 
312
 
        This applies only to regular files.  If invoked on directories or
313
 
        symlinks, it will return None.
314
 
        :param file_id: The file-id of the file
315
 
        """
316
 
        raise NotImplementedError(self.get_file_size)
317
 
 
 
177
    
318
178
    def get_file_by_path(self, path):
319
 
        return self.get_file(self._inventory.path2id(path), path)
320
 
 
321
 
    def iter_files_bytes(self, desired_files):
322
 
        """Iterate through file contents.
323
 
 
324
 
        Files will not necessarily be returned in the order they occur in
325
 
        desired_files.  No specific order is guaranteed.
326
 
 
327
 
        Yields pairs of identifier, bytes_iterator.  identifier is an opaque
328
 
        value supplied by the caller as part of desired_files.  It should
329
 
        uniquely identify the file version in the caller's context.  (Examples:
330
 
        an index number or a TreeTransform trans_id.)
331
 
 
332
 
        bytes_iterator is an iterable of bytestrings for the file.  The
333
 
        kind of iterable and length of the bytestrings are unspecified, but for
334
 
        this implementation, it is a tuple containing a single bytestring with
335
 
        the complete text of the file.
336
 
 
337
 
        :param desired_files: a list of (file_id, identifier) pairs
338
 
        """
339
 
        for file_id, identifier in desired_files:
340
 
            # We wrap the string in a tuple so that we can return an iterable
341
 
            # of bytestrings.  (Technically, a bytestring is also an iterable
342
 
            # of bytestrings, but iterating through each character is not
343
 
            # performant.)
344
 
            cur_file = (self.get_file_text(file_id),)
345
 
            yield identifier, cur_file
346
 
 
347
 
    def get_symlink_target(self, file_id):
348
 
        """Get the target for a given file_id.
349
 
 
350
 
        It is assumed that the caller already knows that file_id is referencing
351
 
        a symlink.
352
 
        :param file_id: Handle for the symlink entry.
353
 
        :return: The path the symlink points to.
354
 
        """
355
 
        raise NotImplementedError(self.get_symlink_target)
356
 
 
357
 
    def get_canonical_inventory_paths(self, paths):
358
 
        """Like get_canonical_inventory_path() but works on multiple items.
359
 
 
360
 
        :param paths: A sequence of paths relative to the root of the tree.
361
 
        :return: A list of paths, with each item the corresponding input path
362
 
        adjusted to account for existing elements that match case
363
 
        insensitively.
364
 
        """
365
 
        return list(self._yield_canonical_inventory_paths(paths))
366
 
 
367
 
    def get_canonical_inventory_path(self, path):
368
 
        """Returns the first inventory item that case-insensitively matches path.
369
 
 
370
 
        If a path matches exactly, it is returned. If no path matches exactly
371
 
        but more than one path matches case-insensitively, it is implementation
372
 
        defined which is returned.
373
 
 
374
 
        If no path matches case-insensitively, the input path is returned, but
375
 
        with as many path entries that do exist changed to their canonical
376
 
        form.
377
 
 
378
 
        If you need to resolve many names from the same tree, you should
379
 
        use get_canonical_inventory_paths() to avoid O(N) behaviour.
380
 
 
381
 
        :param path: A paths relative to the root of the tree.
382
 
        :return: The input path adjusted to account for existing elements
383
 
        that match case insensitively.
384
 
        """
385
 
        return self._yield_canonical_inventory_paths([path]).next()
386
 
 
387
 
    def _yield_canonical_inventory_paths(self, paths):
388
 
        for path in paths:
389
 
            # First, if the path as specified exists exactly, just use it.
390
 
            if self.path2id(path) is not None:
391
 
                yield path
392
 
                continue
393
 
            # go walkin...
394
 
            cur_id = self.get_root_id()
395
 
            cur_path = ''
396
 
            bit_iter = iter(path.split("/"))
397
 
            for elt in bit_iter:
398
 
                lelt = elt.lower()
399
 
                for child in self.iter_children(cur_id):
400
 
                    try:
401
 
                        child_base = os.path.basename(self.id2path(child))
402
 
                        if child_base.lower() == lelt:
403
 
                            cur_id = child
404
 
                            cur_path = osutils.pathjoin(cur_path, child_base)
405
 
                            break
406
 
                    except NoSuchId:
407
 
                        # before a change is committed we can see this error...
408
 
                        continue
409
 
                else:
410
 
                    # got to the end of this directory and no entries matched.
411
 
                    # Return what matched so far, plus the rest as specified.
412
 
                    cur_path = osutils.pathjoin(cur_path, elt, *list(bit_iter))
413
 
                    break
414
 
            yield cur_path
415
 
        # all done.
416
 
 
417
 
    def get_root_id(self):
418
 
        """Return the file_id for the root of this tree."""
419
 
        raise NotImplementedError(self.get_root_id)
420
 
 
421
 
    def annotate_iter(self, file_id,
422
 
                      default_revision=_mod_revision.CURRENT_REVISION):
423
 
        """Return an iterator of revision_id, line tuples.
 
179
        return self.get_file(self._inventory.path2id(path))
 
180
 
 
181
    def annotate_iter(self, file_id):
 
182
        """Return an iterator of revision_id, line tuples
424
183
 
425
184
        For working trees (and mutable trees in general), the special
426
185
        revision_id 'current:' will be used for lines that are new in this
427
186
        tree, e.g. uncommitted changes.
428
187
        :param file_id: The file to produce an annotated version from
429
 
        :param default_revision: For lines that don't match a basis, mark them
430
 
            with this revision id. Not all implementations will make use of
431
 
            this value.
432
188
        """
433
189
        raise NotImplementedError(self.annotate_iter)
434
190
 
435
 
    def _get_plan_merge_data(self, file_id, other, base):
436
 
        from bzrlib import versionedfile
437
 
        vf = versionedfile._PlanMergeVersionedFile(file_id)
438
 
        last_revision_a = self._get_file_revision(file_id, vf, 'this:')
439
 
        last_revision_b = other._get_file_revision(file_id, vf, 'other:')
440
 
        if base is None:
441
 
            last_revision_base = None
442
 
        else:
443
 
            last_revision_base = base._get_file_revision(file_id, vf, 'base:')
444
 
        return vf, last_revision_a, last_revision_b, last_revision_base
445
 
 
446
 
    def plan_file_merge(self, file_id, other, base=None):
447
 
        """Generate a merge plan based on annotations.
448
 
 
449
 
        If the file contains uncommitted changes in this tree, they will be
450
 
        attributed to the 'current:' pseudo-revision.  If the file contains
451
 
        uncommitted changes in the other tree, they will be assigned to the
452
 
        'other:' pseudo-revision.
453
 
        """
454
 
        data = self._get_plan_merge_data(file_id, other, base)
455
 
        vf, last_revision_a, last_revision_b, last_revision_base = data
456
 
        return vf.plan_merge(last_revision_a, last_revision_b,
457
 
                             last_revision_base)
458
 
 
459
 
    def plan_file_lca_merge(self, file_id, other, base=None):
460
 
        """Generate a merge plan based lca-newness.
461
 
 
462
 
        If the file contains uncommitted changes in this tree, they will be
463
 
        attributed to the 'current:' pseudo-revision.  If the file contains
464
 
        uncommitted changes in the other tree, they will be assigned to the
465
 
        'other:' pseudo-revision.
466
 
        """
467
 
        data = self._get_plan_merge_data(file_id, other, base)
468
 
        vf, last_revision_a, last_revision_b, last_revision_base = data
469
 
        return vf.plan_lca_merge(last_revision_a, last_revision_b,
470
 
                                 last_revision_base)
471
 
 
472
 
    def _iter_parent_trees(self):
473
 
        """Iterate through parent trees, defaulting to Tree.revision_tree."""
474
 
        for revision_id in self.get_parent_ids():
475
 
            try:
476
 
                yield self.revision_tree(revision_id)
477
 
            except errors.NoSuchRevisionInTree:
478
 
                yield self.repository.revision_tree(revision_id)
479
 
 
480
 
    @staticmethod
481
 
    def _file_revision(revision_tree, file_id):
482
 
        """Determine the revision associated with a file in a given tree."""
483
 
        revision_tree.lock_read()
484
 
        try:
485
 
            return revision_tree.inventory[file_id].revision
486
 
        finally:
487
 
            revision_tree.unlock()
488
 
 
489
 
    def _get_file_revision(self, file_id, vf, tree_revision):
490
 
        """Ensure that file_id, tree_revision is in vf to plan the merge."""
491
 
 
492
 
        if getattr(self, '_repository', None) is None:
493
 
            last_revision = tree_revision
494
 
            parent_keys = [(file_id, self._file_revision(t, file_id)) for t in
495
 
                self._iter_parent_trees()]
496
 
            vf.add_lines((file_id, last_revision), parent_keys,
497
 
                         self.get_file(file_id).readlines())
498
 
            repo = self.branch.repository
499
 
            base_vf = repo.texts
500
 
        else:
501
 
            last_revision = self._file_revision(self, file_id)
502
 
            base_vf = self._repository.texts
503
 
        if base_vf not in vf.fallback_versionedfiles:
504
 
            vf.fallback_versionedfiles.append(base_vf)
505
 
        return last_revision
506
 
 
507
191
    inventory = property(_get_inventory,
508
192
                         doc="Inventory of this Tree")
509
193
 
510
194
    def _check_retrieved(self, ie, f):
511
195
        if not __debug__:
512
 
            return
 
196
            return  
513
197
        fp = fingerprint_file(f)
514
198
        f.seek(0)
515
 
 
 
199
        
516
200
        if ie.text_size is not None:
517
201
            if ie.text_size != fp['size']:
518
202
                raise BzrError("mismatched size for file %r in %r" % (ie.file_id, self._store),
526
210
                     "file is actually %s" % fp['sha1'],
527
211
                     "store is probably damaged/corrupt"])
528
212
 
529
 
    @needs_read_lock
530
213
    def path2id(self, path):
531
214
        """Return the id for path in this tree."""
532
215
        return self._inventory.path2id(path)
533
216
 
534
 
    def paths2ids(self, paths, trees=[], require_versioned=True):
535
 
        """Return all the ids that can be reached by walking from paths.
536
 
 
537
 
        Each path is looked up in this tree and any extras provided in
538
 
        trees, and this is repeated recursively: the children in an extra tree
539
 
        of a directory that has been renamed under a provided path in this tree
540
 
        are all returned, even if none exist under a provided path in this
541
 
        tree, and vice versa.
542
 
 
543
 
        :param paths: An iterable of paths to start converting to ids from.
544
 
            Alternatively, if paths is None, no ids should be calculated and None
545
 
            will be returned. This is offered to make calling the api unconditional
546
 
            for code that *might* take a list of files.
547
 
        :param trees: Additional trees to consider.
548
 
        :param require_versioned: If False, do not raise NotVersionedError if
549
 
            an element of paths is not versioned in this tree and all of trees.
550
 
        """
551
 
        return find_ids_across_trees(paths, [self] + list(trees), require_versioned)
552
 
 
553
 
    def iter_children(self, file_id):
554
 
        entry = self.iter_entries_by_dir([file_id]).next()[1]
555
 
        for child in getattr(entry, 'children', {}).itervalues():
556
 
            yield child.file_id
 
217
    def print_file(self, file_id):
 
218
        """Print file with id `file_id` to stdout."""
 
219
        import sys
 
220
        sys.stdout.write(self.get_file_text(file_id))
557
221
 
558
222
    def lock_read(self):
559
223
        pass
560
224
 
561
 
    def revision_tree(self, revision_id):
562
 
        """Obtain a revision tree for the revision revision_id.
563
 
 
564
 
        The intention of this method is to allow access to possibly cached
565
 
        tree data. Implementors of this method should raise NoSuchRevision if
566
 
        the tree is not locally available, even if they could obtain the
567
 
        tree via a repository or some other means. Callers are responsible
568
 
        for finding the ultimate source for a revision tree.
569
 
 
570
 
        :param revision_id: The revision_id of the requested tree.
571
 
        :return: A Tree.
572
 
        :raises: NoSuchRevision if the tree cannot be obtained.
573
 
        """
574
 
        raise errors.NoSuchRevisionInTree(self, revision_id)
575
 
 
576
225
    def unknowns(self):
577
226
        """What files are present in this tree and unknown.
578
 
 
 
227
        
579
228
        :return: an iterator over the unknown files.
580
229
        """
581
230
        return iter([])
584
233
        pass
585
234
 
586
235
    def filter_unversioned_files(self, paths):
587
 
        """Filter out paths that are versioned.
 
236
        """Filter out paths that are not versioned.
588
237
 
589
238
        :return: set of paths.
590
239
        """
591
240
        # NB: we specifically *don't* call self.has_filename, because for
592
 
        # WorkingTrees that can indicate files that exist on disk but that
 
241
        # WorkingTrees that can indicate files that exist on disk but that 
593
242
        # are not versioned.
594
243
        pred = self.inventory.has_filename
595
244
        return set((p for p in paths if not pred(p)))
596
245
 
597
 
    def walkdirs(self, prefix=""):
598
 
        """Walk the contents of this tree from path down.
599
 
 
600
 
        This yields all the data about the contents of a directory at a time.
601
 
        After each directory has been yielded, if the caller has mutated the
602
 
        list to exclude some directories, they are then not descended into.
603
 
 
604
 
        The data yielded is of the form:
605
 
        ((directory-relpath, directory-path-from-root, directory-fileid),
606
 
        [(relpath, basename, kind, lstat, path_from_tree_root, file_id,
607
 
          versioned_kind), ...]),
608
 
         - directory-relpath is the containing dirs relpath from prefix
609
 
         - directory-path-from-root is the containing dirs path from /
610
 
         - directory-fileid is the id of the directory if it is versioned.
611
 
         - relpath is the relative path within the subtree being walked.
612
 
         - basename is the basename
613
 
         - kind is the kind of the file now. If unknonwn then the file is not
614
 
           present within the tree - but it may be recorded as versioned. See
615
 
           versioned_kind.
616
 
         - lstat is the stat data *if* the file was statted.
617
 
         - path_from_tree_root is the path from the root of the tree.
618
 
         - file_id is the file_id if the entry is versioned.
619
 
         - versioned_kind is the kind of the file as last recorded in the
620
 
           versioning system. If 'unknown' the file is not versioned.
621
 
        One of 'kind' and 'versioned_kind' must not be 'unknown'.
622
 
 
623
 
        :param prefix: Start walking from prefix within the tree rather than
624
 
        at the root. This allows one to walk a subtree but get paths that are
625
 
        relative to a tree rooted higher up.
626
 
        :return: an iterator over the directory data.
627
 
        """
628
 
        raise NotImplementedError(self.walkdirs)
629
 
 
630
 
    def supports_content_filtering(self):
 
246
 
 
247
class EmptyTree(Tree):
 
248
 
 
249
    def __init__(self):
 
250
        self._inventory = Inventory(root_id=None)
 
251
        symbol_versioning.warn('EmptyTree is deprecated as of bzr 0.9 please'
 
252
                               ' use repository.revision_tree instead.',
 
253
                               DeprecationWarning, stacklevel=2)
 
254
 
 
255
    def get_parent_ids(self):
 
256
        return []
 
257
 
 
258
    def get_symlink_target(self, file_id):
 
259
        return None
 
260
 
 
261
    def has_filename(self, filename):
631
262
        return False
632
263
 
633
 
    def _content_filter_stack(self, path=None, file_id=None):
634
 
        """The stack of content filters for a path if filtering is supported.
635
 
 
636
 
        Readers will be applied in first-to-last order.
637
 
        Writers will be applied in last-to-first order.
638
 
        Either the path or the file-id needs to be provided.
639
 
 
640
 
        :param path: path relative to the root of the tree
641
 
            or None if unknown
642
 
        :param file_id: file_id or None if unknown
643
 
        :return: the list of filters - [] if there are none
644
 
        """
645
 
        filter_pref_names = filters._get_registered_names()
646
 
        if len(filter_pref_names) == 0:
647
 
            return []
648
 
        if path is None:
649
 
            path = self.id2path(file_id)
650
 
        prefs = self.iter_search_rules([path], filter_pref_names).next()
651
 
        stk = filters._get_filter_stack_for(prefs)
652
 
        if 'filters' in debug.debug_flags:
653
 
            note("*** %s content-filter: %s => %r" % (path,prefs,stk))
654
 
        return stk
655
 
 
656
 
    def _content_filter_stack_provider(self):
657
 
        """A function that returns a stack of ContentFilters.
658
 
 
659
 
        The function takes a path (relative to the top of the tree) and a
660
 
        file-id as parameters.
661
 
 
662
 
        :return: None if content filtering is not supported by this tree.
663
 
        """
664
 
        if self.supports_content_filtering():
665
 
            return lambda path, file_id: \
666
 
                    self._content_filter_stack(path, file_id)
667
 
        else:
668
 
            return None
669
 
 
670
 
    def iter_search_rules(self, path_names, pref_names=None,
671
 
        _default_searcher=None):
672
 
        """Find the preferences for filenames in a tree.
673
 
 
674
 
        :param path_names: an iterable of paths to find attributes for.
675
 
          Paths are given relative to the root of the tree.
676
 
        :param pref_names: the list of preferences to lookup - None for all
677
 
        :param _default_searcher: private parameter to assist testing - don't use
678
 
        :return: an iterator of tuple sequences, one per path-name.
679
 
          See _RulesSearcher.get_items for details on the tuple sequence.
680
 
        """
681
 
        if _default_searcher is None:
682
 
            _default_searcher = rules._per_user_searcher
683
 
        searcher = self._get_rules_searcher(_default_searcher)
684
 
        if searcher is not None:
685
 
            if pref_names is not None:
686
 
                for path in path_names:
687
 
                    yield searcher.get_selected_items(path, pref_names)
688
 
            else:
689
 
                for path in path_names:
690
 
                    yield searcher.get_items(path)
691
 
 
692
 
    @needs_read_lock
693
 
    def _get_rules_searcher(self, default_searcher):
694
 
        """Get the RulesSearcher for this tree given the default one."""
695
 
        searcher = default_searcher
696
 
        return searcher
 
264
    def kind(self, file_id):
 
265
        assert self._inventory[file_id].kind == "directory"
 
266
        return "directory"
 
267
 
 
268
    def list_files(self, include_root=False):
 
269
        return iter([])
 
270
    
 
271
    def __contains__(self, file_id):
 
272
        return (file_id in self._inventory)
 
273
 
 
274
    def get_file_sha1(self, file_id, path=None, stat_value=None):
 
275
        return None
697
276
 
698
277
 
699
278
######################################################################
732
311
        # what happened to the file that used to have
733
312
        # this name.  There are two possibilities: either it was
734
313
        # deleted entirely, or renamed.
 
314
        assert old_id
735
315
        if new_inv.has_id(old_id):
736
316
            return 'X', old_inv.id2path(old_id), new_inv.id2path(old_id)
737
317
        else:
748
328
 
749
329
    return 'wtf?'
750
330
 
 
331
    
751
332
 
752
 
@deprecated_function(deprecated_in((1, 9, 0)))
753
333
def find_renames(old_inv, new_inv):
754
334
    for file_id in old_inv:
755
335
        if file_id not in new_inv:
758
338
        new_name = new_inv.id2path(file_id)
759
339
        if old_name != new_name:
760
340
            yield (old_name, new_name)
761
 
 
 
341
            
762
342
 
763
343
def find_ids_across_trees(filenames, trees, require_versioned=True):
764
344
    """Find the ids corresponding to specified filenames.
765
 
 
 
345
    
766
346
    All matches in all trees will be used, and all children of matched
767
347
    directories will be used.
768
348
 
769
 
    :param filenames: The filenames to find file_ids for (if None, returns
770
 
        None)
 
349
    :param filenames: The filenames to find file_ids for
771
350
    :param trees: The trees to find file_ids within
772
351
    :param require_versioned: if true, all specified filenames must occur in
773
352
    at least one tree.
775
354
    """
776
355
    if not filenames:
777
356
        return None
778
 
    specified_path_ids = _find_ids_across_trees(filenames, trees,
779
 
        require_versioned)
780
 
    return _find_children_across_trees(specified_path_ids, trees)
781
 
 
782
 
 
783
 
def _find_ids_across_trees(filenames, trees, require_versioned):
 
357
    specified_ids = _find_filename_ids_across_trees(filenames, trees, 
 
358
                                                    require_versioned)
 
359
    return _find_children_across_trees(specified_ids, trees)
 
360
 
 
361
 
 
362
def _find_filename_ids_across_trees(filenames, trees, require_versioned):
784
363
    """Find the ids corresponding to specified filenames.
785
 
 
786
 
    All matches in all trees will be used, but subdirectories are not scanned.
 
364
    
 
365
    All matches in all trees will be used.
787
366
 
788
367
    :param filenames: The filenames to find file_ids for
789
368
    :param trees: The trees to find file_ids within
790
369
    :param require_versioned: if true, all specified filenames must occur in
791
 
        at least one tree.
 
370
    at least one tree.
792
371
    :return: a set of file ids for the specified filenames
793
372
    """
794
373
    not_versioned = []
796
375
    for tree_path in filenames:
797
376
        not_found = True
798
377
        for tree in trees:
799
 
            file_id = tree.path2id(tree_path)
 
378
            file_id = tree.inventory.path2id(tree_path)
800
379
            if file_id is not None:
801
380
                interesting_ids.add(file_id)
802
381
                not_found = False
808
387
 
809
388
 
810
389
def _find_children_across_trees(specified_ids, trees):
811
 
    """Return a set including specified ids and their children.
812
 
 
 
390
    """Return a set including specified ids and their children
 
391
    
813
392
    All matches in all trees will be used.
814
393
 
815
394
    :param trees: The trees to find file_ids within
816
 
    :return: a set containing all specified ids and their children
 
395
    :return: a set containing all specified ids and their children 
817
396
    """
818
397
    interesting_ids = set(specified_ids)
819
398
    pending = interesting_ids
823
402
        new_pending = set()
824
403
        for file_id in pending:
825
404
            for tree in trees:
826
 
                if not tree.has_or_had_id(file_id):
 
405
                if file_id not in tree:
827
406
                    continue
828
 
                for child_id in tree.iter_children(file_id):
829
 
                    if child_id not in interesting_ids:
830
 
                        new_pending.add(child_id)
 
407
                entry = tree.inventory[file_id]
 
408
                for child in getattr(entry, 'children', {}).itervalues():
 
409
                    if child.file_id not in interesting_ids:
 
410
                        new_pending.add(child.file_id)
831
411
        interesting_ids.update(new_pending)
832
412
        pending = new_pending
833
413
    return interesting_ids
839
419
    Its instances have methods like 'compare' and contain references to the
840
420
    source and target trees these operations are to be carried out on.
841
421
 
842
 
    Clients of bzrlib should not need to use InterTree directly, rather they
 
422
    clients of bzrlib should not need to use InterTree directly, rather they
843
423
    should use the convenience methods on Tree such as 'Tree.compare()' which
844
424
    will pass through to InterTree as appropriate.
845
425
    """
848
428
 
849
429
    @needs_read_lock
850
430
    def compare(self, want_unchanged=False, specific_files=None,
851
 
        extra_trees=None, require_versioned=False, include_root=False,
852
 
        want_unversioned=False):
 
431
        extra_trees=None, require_versioned=False, include_root=False):
853
432
        """Return the changes from source to target.
854
433
 
855
434
        :return: A TreeDelta.
864
443
        :param require_versioned: An optional boolean (defaults to False). When
865
444
            supplied and True all the 'specific_files' must be versioned, or
866
445
            a PathsNotVersionedError will be thrown.
867
 
        :param want_unversioned: Scan for unversioned paths.
868
446
        """
869
 
        # NB: show_status depends on being able to pass in non-versioned files
870
 
        # and report them as unknown
871
 
        trees = (self.source,)
 
447
        # NB: show_status depends on being able to pass in non-versioned files and
 
448
        # report them as unknown
 
449
        trees = (self.source, self.target)
872
450
        if extra_trees is not None:
873
451
            trees = trees + tuple(extra_trees)
874
 
        # target is usually the newer tree:
875
 
        specific_file_ids = self.target.paths2ids(specific_files, trees,
876
 
            require_versioned=require_versioned)
 
452
        specific_file_ids = find_ids_across_trees(specific_files,
 
453
            trees, require_versioned=require_versioned)
877
454
        if specific_files and not specific_file_ids:
878
455
            # All files are unversioned, so just return an empty delta
879
456
            # _compare_trees would think we want a complete delta
880
 
            result = delta.TreeDelta()
881
 
            fake_entry = InventoryFile('unused', 'unused', 'unused')
882
 
            result.unversioned = [(path, None,
883
 
                self.target._comparison_data(fake_entry, path)[0]) for path in
884
 
                specific_files]
885
 
            return result
 
457
            return delta.TreeDelta()
886
458
        return delta._compare_trees(self.source, self.target, want_unchanged,
887
 
            specific_files, include_root, extra_trees=extra_trees,
888
 
            require_versioned=require_versioned,
889
 
            want_unversioned=want_unversioned)
 
459
            specific_file_ids, include_root)
890
460
 
891
 
    def iter_changes(self, include_unchanged=False,
892
 
                      specific_files=None, pb=None, extra_trees=[],
893
 
                      require_versioned=True, want_unversioned=False):
 
461
    def _iter_changes(self, from_tree, to_tree, include_unchanged, 
 
462
                      specific_file_ids, pb):
894
463
        """Generate an iterator of changes between trees.
895
464
 
896
465
        A tuple is returned:
897
 
        (file_id, (path_in_source, path_in_target),
898
 
         changed_content, versioned, parent, name, kind,
 
466
        (file_id, path, changed_content, versioned, parent, name, kind,
899
467
         executable)
900
468
 
901
 
        Changed_content is True if the file's content has changed.  This
902
 
        includes changes to its kind, and to a symlink's target.
 
469
        Path is relative to the to_tree.  changed_content is True if the file's
 
470
        content has changed.  This includes changes to its kind, and to
 
471
        a symlink's target.
903
472
 
904
473
        versioned, parent, name, kind, executable are tuples of (from, to).
905
474
        If a file is missing in a tree, its kind is None.
906
475
 
907
 
        Iteration is done in parent-to-child order, relative to the target
908
 
        tree.
909
 
 
910
 
        There is no guarantee that all paths are in sorted order: the
911
 
        requirement to expand the search due to renames may result in children
912
 
        that should be found early being found late in the search, after
913
 
        lexically later results have been returned.
914
 
        :param require_versioned: Raise errors.PathsNotVersionedError if a
915
 
            path in the specific_files list is not versioned in one of
916
 
            source, target or extra_trees.
917
 
        :param want_unversioned: Should unversioned files be returned in the
918
 
            output. An unversioned file is defined as one with (False, False)
919
 
            for the versioned pair.
 
476
        Iteration is done in parent-to-child order, relative to the to_tree.
920
477
        """
921
 
        lookup_trees = [self.source]
922
 
        if extra_trees:
923
 
             lookup_trees.extend(extra_trees)
924
 
        if specific_files == []:
925
 
            specific_file_ids = []
926
 
        else:
927
 
            specific_file_ids = self.target.paths2ids(specific_files,
928
 
                lookup_trees, require_versioned=require_versioned)
929
 
        if want_unversioned:
930
 
            all_unversioned = sorted([(p.split('/'), p) for p in
931
 
                                     self.target.extras()
932
 
                if specific_files is None or
933
 
                    osutils.is_inside_any(specific_files, p)])
934
 
            all_unversioned = deque(all_unversioned)
935
 
        else:
936
 
            all_unversioned = deque()
937
478
        to_paths = {}
938
 
        from_entries_by_dir = list(self.source.iter_entries_by_dir(
939
 
            specific_file_ids=specific_file_ids))
 
479
        from_entries_by_dir = list(from_tree.inventory.iter_entries_by_dir())
940
480
        from_data = dict((e.file_id, (p, e)) for p, e in from_entries_by_dir)
941
 
        to_entries_by_dir = list(self.target.iter_entries_by_dir(
942
 
            specific_file_ids=specific_file_ids))
943
 
        num_entries = len(from_entries_by_dir) + len(to_entries_by_dir)
 
481
        to_entries_by_dir = list(to_tree.inventory.iter_entries_by_dir())
 
482
        if specific_file_ids is not None:
 
483
            specific_file_ids = set(specific_file_ids)
 
484
            num_entries = len(specific_file_ids)
 
485
        else:
 
486
            num_entries = len(from_entries_by_dir) + len(to_entries_by_dir)
944
487
        entry_count = 0
945
 
        # the unversioned path lookup only occurs on real trees - where there
946
 
        # can be extras. So the fake_entry is solely used to look up
947
 
        # executable it values when execute is not supported.
948
 
        fake_entry = InventoryFile('unused', 'unused', 'unused')
949
488
        for to_path, to_entry in to_entries_by_dir:
950
 
            while all_unversioned and all_unversioned[0][0] < to_path.split('/'):
951
 
                unversioned_path = all_unversioned.popleft()
952
 
                to_kind, to_executable, to_stat = \
953
 
                    self.target._comparison_data(fake_entry, unversioned_path[1])
954
 
                yield (None, (None, unversioned_path[1]), True, (False, False),
955
 
                    (None, None),
956
 
                    (None, unversioned_path[0][-1]),
957
 
                    (None, to_kind),
958
 
                    (None, to_executable))
959
489
            file_id = to_entry.file_id
960
490
            to_paths[file_id] = to_path
 
491
            if (specific_file_ids is not None and 
 
492
                file_id not in specific_file_ids):
 
493
                continue
961
494
            entry_count += 1
962
495
            changed_content = False
963
496
            from_path, from_entry = from_data.get(file_id, (None, None))
967
500
                from_name = from_entry.name
968
501
                from_parent = from_entry.parent_id
969
502
                from_kind, from_executable, from_stat = \
970
 
                    self.source._comparison_data(from_entry, from_path)
971
 
                entry_count += 1
 
503
                    from_tree._comparison_data(from_entry, from_path)
 
504
                if specific_file_ids is None:
 
505
                    entry_count += 1
972
506
            else:
973
507
                from_versioned = False
974
508
                from_kind = None
977
511
                from_executable = None
978
512
            versioned = (from_versioned, True)
979
513
            to_kind, to_executable, to_stat = \
980
 
                self.target._comparison_data(to_entry, to_path)
 
514
                to_tree._comparison_data(to_entry, to_path)
981
515
            kind = (from_kind, to_kind)
982
516
            if kind[0] != kind[1]:
983
517
                changed_content = True
984
518
            elif from_kind == 'file':
985
 
                if (self.source.get_file_sha1(file_id, from_path, from_stat) !=
986
 
                    self.target.get_file_sha1(file_id, to_path, to_stat)):
 
519
                from_size = from_tree._file_size(from_entry, from_stat)
 
520
                to_size = to_tree._file_size(to_entry, to_stat)
 
521
                if from_size != to_size:
 
522
                    changed_content = True
 
523
                elif (from_tree.get_file_sha1(file_id, from_path, from_stat) !=
 
524
                    to_tree.get_file_sha1(file_id, to_path, to_stat)):
987
525
                    changed_content = True
988
526
            elif from_kind == 'symlink':
989
 
                if (self.source.get_symlink_target(file_id) !=
990
 
                    self.target.get_symlink_target(file_id)):
 
527
                if (from_tree.get_symlink_target(file_id) != 
 
528
                    to_tree.get_symlink_target(file_id)):
991
529
                    changed_content = True
992
 
                # XXX: Yes, the indentation below is wrong. But fixing it broke
993
 
                # test_merge.TestMergerEntriesLCAOnDisk.
994
 
                # test_nested_tree_subtree_renamed_and_modified. We'll wait for
995
 
                # the fix from bzr.dev -- vila 2009026
996
 
                elif from_kind == 'tree-reference':
997
 
                    if (self.source.get_reference_revision(file_id, from_path)
998
 
                        != self.target.get_reference_revision(file_id, to_path)):
999
 
                        changed_content = True
1000
530
            parent = (from_parent, to_entry.parent_id)
1001
531
            name = (from_name, to_entry.name)
1002
532
            executable = (from_executable, to_executable)
1003
533
            if pb is not None:
1004
534
                pb.update('comparing files', entry_count, num_entries)
1005
 
            if (changed_content is not False or versioned[0] != versioned[1]
1006
 
                or parent[0] != parent[1] or name[0] != name[1] or
 
535
            if (changed_content is not False or versioned[0] != versioned[1] 
 
536
                or parent[0] != parent[1] or name[0] != name[1] or 
1007
537
                executable[0] != executable[1] or include_unchanged):
1008
 
                yield (file_id, (from_path, to_path), changed_content,
1009
 
                    versioned, parent, name, kind, executable)
1010
 
 
1011
 
        while all_unversioned:
1012
 
            # yield any trailing unversioned paths
1013
 
            unversioned_path = all_unversioned.popleft()
1014
 
            to_kind, to_executable, to_stat = \
1015
 
                self.target._comparison_data(fake_entry, unversioned_path[1])
1016
 
            yield (None, (None, unversioned_path[1]), True, (False, False),
1017
 
                (None, None),
1018
 
                (None, unversioned_path[0][-1]),
1019
 
                (None, to_kind),
1020
 
                (None, to_executable))
1021
 
 
1022
 
        def get_to_path(to_entry):
1023
 
            if to_entry.parent_id is None:
1024
 
                to_path = '' # the root
1025
 
            else:
1026
 
                if to_entry.parent_id not in to_paths:
1027
 
                    # recurse up
1028
 
                    return get_to_path(self.target.inventory[to_entry.parent_id])
1029
 
                to_path = osutils.pathjoin(to_paths[to_entry.parent_id],
1030
 
                                           to_entry.name)
1031
 
            to_paths[to_entry.file_id] = to_path
1032
 
            return to_path
 
538
                yield (file_id, to_path, changed_content, versioned, parent,
 
539
                       name, kind, executable)
1033
540
 
1034
541
        for path, from_entry in from_entries_by_dir:
1035
542
            file_id = from_entry.file_id
1036
543
            if file_id in to_paths:
1037
 
                # already returned
1038
544
                continue
1039
 
            if not file_id in self.target.all_file_ids():
1040
 
                # common case - paths we have not emitted are not present in
1041
 
                # target.
1042
 
                to_path = None
 
545
            if from_entry.parent_id is None:
 
546
                to_path = ''
1043
547
            else:
1044
 
                to_path = get_to_path(self.target.inventory[file_id])
 
548
                to_path = osutils.pathjoin(to_paths[from_entry.parent_id],
 
549
                                           from_entry.name)
 
550
            to_paths[file_id] = to_path
 
551
            if (specific_file_ids is not None and 
 
552
                file_id not in specific_file_ids):
 
553
                continue
1045
554
            entry_count += 1
1046
555
            if pb is not None:
1047
556
                pb.update('comparing files', entry_count, num_entries)
1049
558
            parent = (from_entry.parent_id, None)
1050
559
            name = (from_entry.name, None)
1051
560
            from_kind, from_executable, stat_value = \
1052
 
                self.source._comparison_data(from_entry, path)
 
561
                from_tree._comparison_data(from_entry, path)
1053
562
            kind = (from_kind, None)
1054
563
            executable = (from_executable, None)
1055
 
            changed_content = from_kind is not None
 
564
            changed_content = True
1056
565
            # the parent's path is necessarily known at this point.
1057
 
            yield(file_id, (path, to_path), changed_content, versioned, parent,
 
566
            yield(file_id, to_path, changed_content, versioned, parent,
1058
567
                  name, kind, executable)
1059
568
 
1060
569
 
1061
 
class MultiWalker(object):
1062
 
    """Walk multiple trees simultaneously, getting combined results."""
1063
 
 
1064
 
    # Note: This could be written to not assume you can do out-of-order
1065
 
    #       lookups. Instead any nodes that don't match in all trees could be
1066
 
    #       marked as 'deferred', and then returned in the final cleanup loop.
1067
 
    #       For now, I think it is "nicer" to return things as close to the
1068
 
    #       "master_tree" order as we can.
1069
 
 
1070
 
    def __init__(self, master_tree, other_trees):
1071
 
        """Create a new MultiWalker.
1072
 
 
1073
 
        All trees being walked must implement "iter_entries_by_dir()", such
1074
 
        that they yield (path, object) tuples, where that object will have a
1075
 
        '.file_id' member, that can be used to check equality.
1076
 
 
1077
 
        :param master_tree: All trees will be 'slaved' to the master_tree such
1078
 
            that nodes in master_tree will be used as 'first-pass' sync points.
1079
 
            Any nodes that aren't in master_tree will be merged in a second
1080
 
            pass.
1081
 
        :param other_trees: A list of other trees to walk simultaneously.
1082
 
        """
1083
 
        self._master_tree = master_tree
1084
 
        self._other_trees = other_trees
1085
 
 
1086
 
        # Keep track of any nodes that were properly processed just out of
1087
 
        # order, that way we don't return them at the end, we don't have to
1088
 
        # track *all* processed file_ids, just the out-of-order ones
1089
 
        self._out_of_order_processed = set()
1090
 
 
1091
 
    @staticmethod
1092
 
    def _step_one(iterator):
1093
 
        """Step an iter_entries_by_dir iterator.
1094
 
 
1095
 
        :return: (has_more, path, ie)
1096
 
            If has_more is False, path and ie will be None.
1097
 
        """
1098
 
        try:
1099
 
            path, ie = iterator.next()
1100
 
        except StopIteration:
1101
 
            return False, None, None
1102
 
        else:
1103
 
            return True, path, ie
1104
 
 
1105
 
    @staticmethod
1106
 
    def _cmp_path_by_dirblock(path1, path2):
1107
 
        """Compare two paths based on what directory they are in.
1108
 
 
1109
 
        This generates a sort order, such that all children of a directory are
1110
 
        sorted together, and grandchildren are in the same order as the
1111
 
        children appear. But all grandchildren come after all children.
1112
 
 
1113
 
        :param path1: first path
1114
 
        :param path2: the second path
1115
 
        :return: negative number if ``path1`` comes first,
1116
 
            0 if paths are equal
1117
 
            and a positive number if ``path2`` sorts first
1118
 
        """
1119
 
        # Shortcut this special case
1120
 
        if path1 == path2:
1121
 
            return 0
1122
 
        # This is stolen from _dirstate_helpers_py.py, only switching it to
1123
 
        # Unicode objects. Consider using encode_utf8() and then using the
1124
 
        # optimized versions, or maybe writing optimized unicode versions.
1125
 
        if not isinstance(path1, unicode):
1126
 
            raise TypeError("'path1' must be a unicode string, not %s: %r"
1127
 
                            % (type(path1), path1))
1128
 
        if not isinstance(path2, unicode):
1129
 
            raise TypeError("'path2' must be a unicode string, not %s: %r"
1130
 
                            % (type(path2), path2))
1131
 
        return cmp(MultiWalker._path_to_key(path1),
1132
 
                   MultiWalker._path_to_key(path2))
1133
 
 
1134
 
    @staticmethod
1135
 
    def _path_to_key(path):
1136
 
        dirname, basename = osutils.split(path)
1137
 
        return (dirname.split(u'/'), basename)
1138
 
 
1139
 
    def _lookup_by_file_id(self, extra_entries, other_tree, file_id):
1140
 
        """Lookup an inventory entry by file_id.
1141
 
 
1142
 
        This is called when an entry is missing in the normal order.
1143
 
        Generally this is because a file was either renamed, or it was
1144
 
        deleted/added. If the entry was found in the inventory and not in
1145
 
        extra_entries, it will be added to self._out_of_order_processed
1146
 
 
1147
 
        :param extra_entries: A dictionary of {file_id: (path, ie)}.  This
1148
 
            should be filled with entries that were found before they were
1149
 
            used. If file_id is present, it will be removed from the
1150
 
            dictionary.
1151
 
        :param other_tree: The Tree to search, in case we didn't find the entry
1152
 
            yet.
1153
 
        :param file_id: The file_id to look for
1154
 
        :return: (path, ie) if found or (None, None) if not present.
1155
 
        """
1156
 
        if file_id in extra_entries:
1157
 
            return extra_entries.pop(file_id)
1158
 
        # TODO: Is id2path better as the first call, or is
1159
 
        #       inventory[file_id] better as a first check?
1160
 
        try:
1161
 
            cur_path = other_tree.id2path(file_id)
1162
 
        except errors.NoSuchId:
1163
 
            cur_path = None
1164
 
        if cur_path is None:
1165
 
            return (None, None)
1166
 
        else:
1167
 
            self._out_of_order_processed.add(file_id)
1168
 
            cur_ie = other_tree.inventory[file_id]
1169
 
            return (cur_path, cur_ie)
1170
 
 
1171
 
    def iter_all(self):
1172
 
        """Match up the values in the different trees."""
1173
 
        for result in self._walk_master_tree():
1174
 
            yield result
1175
 
        self._finish_others()
1176
 
        for result in self._walk_others():
1177
 
            yield result
1178
 
 
1179
 
    def _walk_master_tree(self):
1180
 
        """First pass, walk all trees in lock-step.
1181
 
 
1182
 
        When we are done, all nodes in the master_tree will have been
1183
 
        processed. _other_walkers, _other_entries, and _others_extra will be
1184
 
        set on 'self' for future processing.
1185
 
        """
1186
 
        # This iterator has the most "inlining" done, because it tends to touch
1187
 
        # every file in the tree, while the others only hit nodes that don't
1188
 
        # match.
1189
 
        master_iterator = self._master_tree.iter_entries_by_dir()
1190
 
 
1191
 
        other_walkers = [other.iter_entries_by_dir()
1192
 
                         for other in self._other_trees]
1193
 
        other_entries = [self._step_one(walker) for walker in other_walkers]
1194
 
        # Track extra nodes in the other trees
1195
 
        others_extra = [{} for i in xrange(len(self._other_trees))]
1196
 
 
1197
 
        master_has_more = True
1198
 
        step_one = self._step_one
1199
 
        lookup_by_file_id = self._lookup_by_file_id
1200
 
        out_of_order_processed = self._out_of_order_processed
1201
 
 
1202
 
        while master_has_more:
1203
 
            (master_has_more, path, master_ie) = step_one(master_iterator)
1204
 
            if not master_has_more:
1205
 
                break
1206
 
 
1207
 
            file_id = master_ie.file_id
1208
 
            other_values = []
1209
 
            other_values_append = other_values.append
1210
 
            next_other_entries = []
1211
 
            next_other_entries_append = next_other_entries.append
1212
 
            for idx, (other_has_more, other_path, other_ie) in enumerate(other_entries):
1213
 
                if not other_has_more:
1214
 
                    other_values_append(lookup_by_file_id(
1215
 
                        others_extra[idx], self._other_trees[idx], file_id))
1216
 
                    next_other_entries_append((False, None, None))
1217
 
                elif file_id == other_ie.file_id:
1218
 
                    # This is the critical code path, as most of the entries
1219
 
                    # should match between most trees.
1220
 
                    other_values_append((other_path, other_ie))
1221
 
                    next_other_entries_append(step_one(other_walkers[idx]))
1222
 
                else:
1223
 
                    # This walker did not match, step it until it either
1224
 
                    # matches, or we know we are past the current walker.
1225
 
                    other_walker = other_walkers[idx]
1226
 
                    other_extra = others_extra[idx]
1227
 
                    while (other_has_more and
1228
 
                           self._cmp_path_by_dirblock(other_path, path) < 0):
1229
 
                        other_file_id = other_ie.file_id
1230
 
                        if other_file_id not in out_of_order_processed:
1231
 
                            other_extra[other_file_id] = (other_path, other_ie)
1232
 
                        other_has_more, other_path, other_ie = \
1233
 
                            step_one(other_walker)
1234
 
                    if other_has_more and other_ie.file_id == file_id:
1235
 
                        # We ended up walking to this point, match and step
1236
 
                        # again
1237
 
                        other_values_append((other_path, other_ie))
1238
 
                        other_has_more, other_path, other_ie = \
1239
 
                            step_one(other_walker)
1240
 
                    else:
1241
 
                        # This record isn't in the normal order, see if it
1242
 
                        # exists at all.
1243
 
                        other_values_append(lookup_by_file_id(
1244
 
                            other_extra, self._other_trees[idx], file_id))
1245
 
                    next_other_entries_append((other_has_more, other_path,
1246
 
                                               other_ie))
1247
 
            other_entries = next_other_entries
1248
 
 
1249
 
            # We've matched all the walkers, yield this datapoint
1250
 
            yield path, file_id, master_ie, other_values
1251
 
        self._other_walkers = other_walkers
1252
 
        self._other_entries = other_entries
1253
 
        self._others_extra = others_extra
1254
 
 
1255
 
    def _finish_others(self):
1256
 
        """Finish walking the other iterators, so we get all entries."""
1257
 
        for idx, info in enumerate(self._other_entries):
1258
 
            other_extra = self._others_extra[idx]
1259
 
            (other_has_more, other_path, other_ie) = info
1260
 
            while other_has_more:
1261
 
                other_file_id = other_ie.file_id
1262
 
                if other_file_id not in self._out_of_order_processed:
1263
 
                    other_extra[other_file_id] = (other_path, other_ie)
1264
 
                other_has_more, other_path, other_ie = \
1265
 
                    self._step_one(self._other_walkers[idx])
1266
 
        del self._other_entries
1267
 
 
1268
 
    def _walk_others(self):
1269
 
        """Finish up by walking all the 'deferred' nodes."""
1270
 
        # TODO: One alternative would be to grab all possible unprocessed
1271
 
        #       file_ids, and then sort by path, and then yield them. That
1272
 
        #       might ensure better ordering, in case a caller strictly
1273
 
        #       requires parents before children.
1274
 
        for idx, other_extra in enumerate(self._others_extra):
1275
 
            others = sorted(other_extra.itervalues(),
1276
 
                            key=lambda x: self._path_to_key(x[0]))
1277
 
            for other_path, other_ie in others:
1278
 
                file_id = other_ie.file_id
1279
 
                # We don't need to check out_of_order_processed here, because
1280
 
                # the lookup_by_file_id will be removing anything processed
1281
 
                # from the extras cache
1282
 
                other_extra.pop(file_id)
1283
 
                other_values = [(None, None) for i in xrange(idx)]
1284
 
                other_values.append((other_path, other_ie))
1285
 
                for alt_idx, alt_extra in enumerate(self._others_extra[idx+1:]):
1286
 
                    alt_idx = alt_idx + idx + 1
1287
 
                    alt_extra = self._others_extra[alt_idx]
1288
 
                    alt_tree = self._other_trees[alt_idx]
1289
 
                    other_values.append(self._lookup_by_file_id(
1290
 
                                            alt_extra, alt_tree, file_id))
1291
 
                yield other_path, file_id, None, other_values
 
570
# This was deprecated before 0.12, but did not have an official warning
 
571
@symbol_versioning.deprecated_function(symbol_versioning.zero_twelve)
 
572
def RevisionTree(*args, **kwargs):
 
573
    """RevisionTree has moved to bzrlib.revisiontree.RevisionTree()
 
574
 
 
575
    Accessing it as bzrlib.tree.RevisionTree has been deprecated as of
 
576
    bzr 0.12.
 
577
    """
 
578
    from bzrlib.revisiontree import RevisionTree as _RevisionTree
 
579
    return _RevisionTree(*args, **kwargs)
 
580
 
 
581