~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tree.py

  • Committer: John Arbash Meinel
  • Date: 2009-08-25 18:45:40 UTC
  • mto: (4634.6.15 2.0)
  • mto: This revision was merged to the branch mainline in revision 4667.
  • Revision ID: john@arbash-meinel.com-20090825184540-6dn3xjq62xhgj2gq
Add support for skipping ghost nodes.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 Canonical Ltd
 
1
# Copyright (C) 2005, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
17
"""Tree classes, representing directory at point in time.
18
18
"""
19
19
 
20
20
import os
21
21
from collections import deque
22
 
from cStringIO import StringIO
23
22
 
24
23
import bzrlib
25
24
from bzrlib import (
 
25
    conflicts as _mod_conflicts,
 
26
    debug,
26
27
    delta,
 
28
    filters,
27
29
    osutils,
28
30
    revision as _mod_revision,
29
 
    conflicts as _mod_conflicts,
30
 
    symbol_versioning,
 
31
    rules,
31
32
    )
32
33
from bzrlib.decorators import needs_read_lock
33
 
from bzrlib.errors import BzrError, BzrCheckError
 
34
from bzrlib.errors import BzrError, NoSuchId
34
35
from bzrlib import errors
35
 
from bzrlib.inventory import Inventory, InventoryFile
 
36
from bzrlib.inventory import InventoryFile
36
37
from bzrlib.inter import InterObject
37
38
from bzrlib.osutils import fingerprint_file
38
39
import bzrlib.revision
39
 
from bzrlib.trace import mutter, note
 
40
from bzrlib.symbol_versioning import deprecated_function, deprecated_in
 
41
from bzrlib.trace import note
40
42
 
41
43
 
42
44
class Tree(object):
43
45
    """Abstract file tree.
44
46
 
45
47
    There are several subclasses:
46
 
    
 
48
 
47
49
    * `WorkingTree` exists as files on disk editable by the user.
48
50
 
49
51
    * `RevisionTree` is a tree as recorded at some point in the past.
58
60
    Trees can be compared, etc, regardless of whether they are working
59
61
    trees or versioned trees.
60
62
    """
61
 
    
 
63
 
62
64
    def changes_from(self, other, want_unchanged=False, specific_files=None,
63
65
        extra_trees=None, require_versioned=False, include_root=False,
64
66
        want_unversioned=False):
78
80
            a PathsNotVersionedError will be thrown.
79
81
        :param want_unversioned: Scan for unversioned paths.
80
82
 
81
 
        The comparison will be performed by an InterTree object looked up on 
 
83
        The comparison will be performed by an InterTree object looked up on
82
84
        self and other.
83
85
        """
84
86
        # Martin observes that Tree.changes_from returns a TreeDelta and this
93
95
            want_unversioned=want_unversioned,
94
96
            )
95
97
 
96
 
    def _iter_changes(self, from_tree, include_unchanged=False,
 
98
    def iter_changes(self, from_tree, include_unchanged=False,
97
99
                     specific_files=None, pb=None, extra_trees=None,
98
100
                     require_versioned=True, want_unversioned=False):
99
101
        intertree = InterTree.get(from_tree, self)
100
 
        return intertree._iter_changes(include_unchanged, specific_files, pb,
 
102
        return intertree.iter_changes(include_unchanged, specific_files, pb,
101
103
            extra_trees, require_versioned, want_unversioned=want_unversioned)
102
 
    
 
104
 
103
105
    def conflicts(self):
104
106
        """Get a list of the conflicts in the tree.
105
107
 
112
114
        return []
113
115
 
114
116
    def get_parent_ids(self):
115
 
        """Get the parent ids for this tree. 
 
117
        """Get the parent ids for this tree.
116
118
 
117
119
        :return: a list of parent ids. [] is returned to indicate
118
120
        a tree with no parents.
119
121
        :raises: BzrError if the parents are not known.
120
122
        """
121
123
        raise NotImplementedError(self.get_parent_ids)
122
 
    
 
124
 
123
125
    def has_filename(self, filename):
124
126
        """True if the tree has given filename."""
125
 
        raise NotImplementedError()
 
127
        raise NotImplementedError(self.has_filename)
126
128
 
127
129
    def has_id(self, file_id):
128
 
        file_id = osutils.safe_file_id(file_id)
129
130
        return self.inventory.has_id(file_id)
130
131
 
131
 
    __contains__ = has_id
 
132
    def __contains__(self, file_id):
 
133
        return self.has_id(file_id)
132
134
 
133
135
    def has_or_had_id(self, file_id):
134
 
        file_id = osutils.safe_file_id(file_id)
135
 
        if file_id == self.inventory.root.file_id:
136
 
            return True
137
136
        return self.inventory.has_id(file_id)
138
137
 
139
138
    def is_ignored(self, filename):
147
146
    def __iter__(self):
148
147
        return iter(self.inventory)
149
148
 
 
149
    def all_file_ids(self):
 
150
        """Iterate through all file ids, including ids for missing files."""
 
151
        return set(self.inventory)
 
152
 
150
153
    def id2path(self, file_id):
151
154
        """Return the path for a file id.
152
155
 
153
156
        :raises NoSuchId:
154
157
        """
155
 
        file_id = osutils.safe_file_id(file_id)
156
158
        return self.inventory.id2path(file_id)
157
159
 
158
160
    def is_control_filename(self, filename):
159
161
        """True if filename is the name of a control file in this tree.
160
 
        
 
162
 
161
163
        :param filename: A filename within the tree. This is a relative path
162
164
        from the root of this tree.
163
165
 
171
173
    def iter_entries_by_dir(self, specific_file_ids=None):
172
174
        """Walk the tree in 'by_dir' order.
173
175
 
174
 
        This will yield each entry in the tree as a (path, entry) tuple. The
175
 
        order that they are yielded is: the contents of a directory are 
176
 
        preceeded by the parent of a directory, and all the contents of a 
177
 
        directory are grouped together.
 
176
        This will yield each entry in the tree as a (path, entry) tuple.
 
177
        The order that they are yielded is:
 
178
 
 
179
        Directories are walked in a depth-first lexicographical order,
 
180
        however, whenever a directory is reached, all of its direct child
 
181
        nodes are yielded in  lexicographical order before yielding the
 
182
        grandchildren.
 
183
 
 
184
        For example, in the tree::
 
185
 
 
186
           a/
 
187
             b/
 
188
               c
 
189
             d/
 
190
               e
 
191
           f/
 
192
             g
 
193
 
 
194
        The yield order (ignoring root) would be::
 
195
          a, f, a/b, a/d, a/b/c, a/d/e, f/g
178
196
        """
179
197
        return self.inventory.iter_entries_by_dir(
180
198
            specific_file_ids=specific_file_ids)
181
199
 
182
200
    def iter_references(self):
183
 
        for path, entry in self.iter_entries_by_dir():
184
 
            if entry.kind == 'tree-reference':
185
 
                yield path, entry.file_id
 
201
        if self.supports_tree_reference():
 
202
            for path, entry in self.iter_entries_by_dir():
 
203
                if entry.kind == 'tree-reference':
 
204
                    yield path, entry.file_id
186
205
 
187
206
    def kind(self, file_id):
188
207
        raise NotImplementedError("Tree subclass %s must implement kind"
189
208
            % self.__class__.__name__)
190
209
 
 
210
    def stored_kind(self, file_id):
 
211
        """File kind stored for this file_id.
 
212
 
 
213
        May not match kind on disk for working trees.  Always available
 
214
        for versioned files, even when the file itself is missing.
 
215
        """
 
216
        return self.kind(file_id)
 
217
 
 
218
    def path_content_summary(self, path):
 
219
        """Get a summary of the information about path.
 
220
 
 
221
        :param path: A relative path within the tree.
 
222
        :return: A tuple containing kind, size, exec, sha1-or-link.
 
223
            Kind is always present (see tree.kind()).
 
224
            size is present if kind is file, None otherwise.
 
225
            exec is None unless kind is file and the platform supports the 'x'
 
226
                bit.
 
227
            sha1-or-link is the link target if kind is symlink, or the sha1 if
 
228
                it can be obtained without reading the file.
 
229
        """
 
230
        raise NotImplementedError(self.path_content_summary)
 
231
 
191
232
    def get_reference_revision(self, file_id, path=None):
192
233
        raise NotImplementedError("Tree subclass %s must implement "
193
234
                                  "get_reference_revision"
209
250
 
210
251
    def _get_inventory(self):
211
252
        return self._inventory
212
 
    
 
253
 
213
254
    def get_file(self, file_id, path=None):
214
255
        """Return a file object for the file file_id in the tree.
215
 
        
 
256
 
216
257
        If both file_id and path are defined, it is implementation defined as
217
258
        to which one is used.
218
259
        """
219
260
        raise NotImplementedError(self.get_file)
220
261
 
 
262
    def get_file_with_stat(self, file_id, path=None):
 
263
        """Get a file handle and stat object for file_id.
 
264
 
 
265
        The default implementation returns (self.get_file, None) for backwards
 
266
        compatibility.
 
267
 
 
268
        :param file_id: The file id to read.
 
269
        :param path: The path of the file, if it is known.
 
270
        :return: A tuple (file_handle, stat_value_or_None). If the tree has
 
271
            no stat facility, or need for a stat cache feedback during commit,
 
272
            it may return None for the second element of the tuple.
 
273
        """
 
274
        return (self.get_file(file_id, path), None)
 
275
 
 
276
    def get_file_text(self, file_id, path=None):
 
277
        """Return the byte content of a file.
 
278
 
 
279
        :param file_id: The file_id of the file.
 
280
        :param path: The path of the file.
 
281
        If both file_id and path are supplied, an implementation may use
 
282
        either one.
 
283
        """
 
284
        my_file = self.get_file(file_id, path)
 
285
        try:
 
286
            return my_file.read()
 
287
        finally:
 
288
            my_file.close()
 
289
 
 
290
    def get_file_lines(self, file_id, path=None):
 
291
        """Return the content of a file, as lines.
 
292
 
 
293
        :param file_id: The file_id of the file.
 
294
        :param path: The path of the file.
 
295
        If both file_id and path are supplied, an implementation may use
 
296
        either one.
 
297
        """
 
298
        return osutils.split_lines(self.get_file_text(file_id, path))
 
299
 
221
300
    def get_file_mtime(self, file_id, path=None):
222
301
        """Return the modification time for a file.
223
302
 
227
306
        """
228
307
        raise NotImplementedError(self.get_file_mtime)
229
308
 
 
309
    def get_file_size(self, file_id):
 
310
        """Return the size of a file in bytes.
 
311
 
 
312
        This applies only to regular files.  If invoked on directories or
 
313
        symlinks, it will return None.
 
314
        :param file_id: The file-id of the file
 
315
        """
 
316
        raise NotImplementedError(self.get_file_size)
 
317
 
230
318
    def get_file_by_path(self, path):
231
 
        return self.get_file(self._inventory.path2id(path))
 
319
        return self.get_file(self._inventory.path2id(path), path)
232
320
 
233
321
    def iter_files_bytes(self, desired_files):
234
322
        """Iterate through file contents.
266
354
        """
267
355
        raise NotImplementedError(self.get_symlink_target)
268
356
 
269
 
    def annotate_iter(self, file_id):
270
 
        """Return an iterator of revision_id, line tuples
 
357
    def get_canonical_inventory_paths(self, paths):
 
358
        """Like get_canonical_inventory_path() but works on multiple items.
 
359
 
 
360
        :param paths: A sequence of paths relative to the root of the tree.
 
361
        :return: A list of paths, with each item the corresponding input path
 
362
        adjusted to account for existing elements that match case
 
363
        insensitively.
 
364
        """
 
365
        return list(self._yield_canonical_inventory_paths(paths))
 
366
 
 
367
    def get_canonical_inventory_path(self, path):
 
368
        """Returns the first inventory item that case-insensitively matches path.
 
369
 
 
370
        If a path matches exactly, it is returned. If no path matches exactly
 
371
        but more than one path matches case-insensitively, it is implementation
 
372
        defined which is returned.
 
373
 
 
374
        If no path matches case-insensitively, the input path is returned, but
 
375
        with as many path entries that do exist changed to their canonical
 
376
        form.
 
377
 
 
378
        If you need to resolve many names from the same tree, you should
 
379
        use get_canonical_inventory_paths() to avoid O(N) behaviour.
 
380
 
 
381
        :param path: A paths relative to the root of the tree.
 
382
        :return: The input path adjusted to account for existing elements
 
383
        that match case insensitively.
 
384
        """
 
385
        return self._yield_canonical_inventory_paths([path]).next()
 
386
 
 
387
    def _yield_canonical_inventory_paths(self, paths):
 
388
        for path in paths:
 
389
            # First, if the path as specified exists exactly, just use it.
 
390
            if self.path2id(path) is not None:
 
391
                yield path
 
392
                continue
 
393
            # go walkin...
 
394
            cur_id = self.get_root_id()
 
395
            cur_path = ''
 
396
            bit_iter = iter(path.split("/"))
 
397
            for elt in bit_iter:
 
398
                lelt = elt.lower()
 
399
                for child in self.iter_children(cur_id):
 
400
                    try:
 
401
                        child_base = os.path.basename(self.id2path(child))
 
402
                        if child_base.lower() == lelt:
 
403
                            cur_id = child
 
404
                            cur_path = osutils.pathjoin(cur_path, child_base)
 
405
                            break
 
406
                    except NoSuchId:
 
407
                        # before a change is committed we can see this error...
 
408
                        continue
 
409
                else:
 
410
                    # got to the end of this directory and no entries matched.
 
411
                    # Return what matched so far, plus the rest as specified.
 
412
                    cur_path = osutils.pathjoin(cur_path, elt, *list(bit_iter))
 
413
                    break
 
414
            yield cur_path
 
415
        # all done.
 
416
 
 
417
    def get_root_id(self):
 
418
        """Return the file_id for the root of this tree."""
 
419
        raise NotImplementedError(self.get_root_id)
 
420
 
 
421
    def annotate_iter(self, file_id,
 
422
                      default_revision=_mod_revision.CURRENT_REVISION):
 
423
        """Return an iterator of revision_id, line tuples.
271
424
 
272
425
        For working trees (and mutable trees in general), the special
273
426
        revision_id 'current:' will be used for lines that are new in this
274
427
        tree, e.g. uncommitted changes.
275
428
        :param file_id: The file to produce an annotated version from
 
429
        :param default_revision: For lines that don't match a basis, mark them
 
430
            with this revision id. Not all implementations will make use of
 
431
            this value.
276
432
        """
277
433
        raise NotImplementedError(self.annotate_iter)
278
434
 
279
 
    def plan_file_merge(self, file_id, other):
280
 
        """Generate a merge plan based on annotations
281
 
 
282
 
        If the file contains uncommitted changes in this tree, they will be
283
 
        attributed to the 'current:' pseudo-revision.  If the file contains
284
 
        uncommitted changes in the other tree, they will be assigned to the
285
 
        'other:' pseudo-revision.
286
 
        """
287
 
        from bzrlib import merge
288
 
        annotated_a = list(self.annotate_iter(file_id,
289
 
                                              _mod_revision.CURRENT_REVISION))
290
 
        annotated_b = list(other.annotate_iter(file_id, 'other:'))
291
 
        ancestors_a = self._get_ancestors(_mod_revision.CURRENT_REVISION)
292
 
        ancestors_b = other._get_ancestors('other:')
293
 
        return merge._plan_annotate_merge(annotated_a, annotated_b,
294
 
                                          ancestors_a, ancestors_b)
 
435
    def _get_plan_merge_data(self, file_id, other, base):
 
436
        from bzrlib import versionedfile
 
437
        vf = versionedfile._PlanMergeVersionedFile(file_id)
 
438
        last_revision_a = self._get_file_revision(file_id, vf, 'this:')
 
439
        last_revision_b = other._get_file_revision(file_id, vf, 'other:')
 
440
        if base is None:
 
441
            last_revision_base = None
 
442
        else:
 
443
            last_revision_base = base._get_file_revision(file_id, vf, 'base:')
 
444
        return vf, last_revision_a, last_revision_b, last_revision_base
 
445
 
 
446
    def plan_file_merge(self, file_id, other, base=None):
 
447
        """Generate a merge plan based on annotations.
 
448
 
 
449
        If the file contains uncommitted changes in this tree, they will be
 
450
        attributed to the 'current:' pseudo-revision.  If the file contains
 
451
        uncommitted changes in the other tree, they will be assigned to the
 
452
        'other:' pseudo-revision.
 
453
        """
 
454
        data = self._get_plan_merge_data(file_id, other, base)
 
455
        vf, last_revision_a, last_revision_b, last_revision_base = data
 
456
        return vf.plan_merge(last_revision_a, last_revision_b,
 
457
                             last_revision_base)
 
458
 
 
459
    def plan_file_lca_merge(self, file_id, other, base=None):
 
460
        """Generate a merge plan based lca-newness.
 
461
 
 
462
        If the file contains uncommitted changes in this tree, they will be
 
463
        attributed to the 'current:' pseudo-revision.  If the file contains
 
464
        uncommitted changes in the other tree, they will be assigned to the
 
465
        'other:' pseudo-revision.
 
466
        """
 
467
        data = self._get_plan_merge_data(file_id, other, base)
 
468
        vf, last_revision_a, last_revision_b, last_revision_base = data
 
469
        return vf.plan_lca_merge(last_revision_a, last_revision_b,
 
470
                                 last_revision_base)
 
471
 
 
472
    def _iter_parent_trees(self):
 
473
        """Iterate through parent trees, defaulting to Tree.revision_tree."""
 
474
        for revision_id in self.get_parent_ids():
 
475
            try:
 
476
                yield self.revision_tree(revision_id)
 
477
            except errors.NoSuchRevisionInTree:
 
478
                yield self.repository.revision_tree(revision_id)
 
479
 
 
480
    @staticmethod
 
481
    def _file_revision(revision_tree, file_id):
 
482
        """Determine the revision associated with a file in a given tree."""
 
483
        revision_tree.lock_read()
 
484
        try:
 
485
            return revision_tree.inventory[file_id].revision
 
486
        finally:
 
487
            revision_tree.unlock()
 
488
 
 
489
    def _get_file_revision(self, file_id, vf, tree_revision):
 
490
        """Ensure that file_id, tree_revision is in vf to plan the merge."""
 
491
 
 
492
        if getattr(self, '_repository', None) is None:
 
493
            last_revision = tree_revision
 
494
            parent_keys = [(file_id, self._file_revision(t, file_id)) for t in
 
495
                self._iter_parent_trees()]
 
496
            vf.add_lines((file_id, last_revision), parent_keys,
 
497
                         self.get_file(file_id).readlines())
 
498
            repo = self.branch.repository
 
499
            base_vf = repo.texts
 
500
        else:
 
501
            last_revision = self._file_revision(self, file_id)
 
502
            base_vf = self._repository.texts
 
503
        if base_vf not in vf.fallback_versionedfiles:
 
504
            vf.fallback_versionedfiles.append(base_vf)
 
505
        return last_revision
295
506
 
296
507
    inventory = property(_get_inventory,
297
508
                         doc="Inventory of this Tree")
298
509
 
299
510
    def _check_retrieved(self, ie, f):
300
511
        if not __debug__:
301
 
            return  
 
512
            return
302
513
        fp = fingerprint_file(f)
303
514
        f.seek(0)
304
 
        
 
515
 
305
516
        if ie.text_size is not None:
306
517
            if ie.text_size != fp['size']:
307
518
                raise BzrError("mismatched size for file %r in %r" % (ie.file_id, self._store),
322
533
 
323
534
    def paths2ids(self, paths, trees=[], require_versioned=True):
324
535
        """Return all the ids that can be reached by walking from paths.
325
 
        
326
 
        Each path is looked up in each this tree and any extras provided in
 
536
 
 
537
        Each path is looked up in this tree and any extras provided in
327
538
        trees, and this is repeated recursively: the children in an extra tree
328
539
        of a directory that has been renamed under a provided path in this tree
329
 
        are all returned, even if none exist until a provided path in this
 
540
        are all returned, even if none exist under a provided path in this
330
541
        tree, and vice versa.
331
542
 
332
543
        :param paths: An iterable of paths to start converting to ids from.
339
550
        """
340
551
        return find_ids_across_trees(paths, [self] + list(trees), require_versioned)
341
552
 
342
 
    def print_file(self, file_id):
343
 
        """Print file with id `file_id` to stdout."""
344
 
        file_id = osutils.safe_file_id(file_id)
345
 
        import sys
346
 
        sys.stdout.write(self.get_file_text(file_id))
 
553
    def iter_children(self, file_id):
 
554
        entry = self.iter_entries_by_dir([file_id]).next()[1]
 
555
        for child in getattr(entry, 'children', {}).itervalues():
 
556
            yield child.file_id
347
557
 
348
558
    def lock_read(self):
349
559
        pass
353
563
 
354
564
        The intention of this method is to allow access to possibly cached
355
565
        tree data. Implementors of this method should raise NoSuchRevision if
356
 
        the tree is not locally available, even if they could obtain the 
357
 
        tree via a repository or some other means. Callers are responsible 
 
566
        the tree is not locally available, even if they could obtain the
 
567
        tree via a repository or some other means. Callers are responsible
358
568
        for finding the ultimate source for a revision tree.
359
569
 
360
570
        :param revision_id: The revision_id of the requested tree.
365
575
 
366
576
    def unknowns(self):
367
577
        """What files are present in this tree and unknown.
368
 
        
 
578
 
369
579
        :return: an iterator over the unknown files.
370
580
        """
371
581
        return iter([])
379
589
        :return: set of paths.
380
590
        """
381
591
        # NB: we specifically *don't* call self.has_filename, because for
382
 
        # WorkingTrees that can indicate files that exist on disk but that 
 
592
        # WorkingTrees that can indicate files that exist on disk but that
383
593
        # are not versioned.
384
594
        pred = self.inventory.has_filename
385
595
        return set((p for p in paths if not pred(p)))
390
600
        This yields all the data about the contents of a directory at a time.
391
601
        After each directory has been yielded, if the caller has mutated the
392
602
        list to exclude some directories, they are then not descended into.
393
 
        
 
603
 
394
604
        The data yielded is of the form:
395
605
        ((directory-relpath, directory-path-from-root, directory-fileid),
396
 
        [(relpath, basename, kind, lstat, path_from_tree_root, file_id, 
 
606
        [(relpath, basename, kind, lstat, path_from_tree_root, file_id,
397
607
          versioned_kind), ...]),
398
608
         - directory-relpath is the containing dirs relpath from prefix
399
609
         - directory-path-from-root is the containing dirs path from /
405
615
           versioned_kind.
406
616
         - lstat is the stat data *if* the file was statted.
407
617
         - path_from_tree_root is the path from the root of the tree.
408
 
         - file_id is the file_id is the entry is versioned.
409
 
         - versioned_kind is the kind of the file as last recorded in the 
 
618
         - file_id is the file_id if the entry is versioned.
 
619
         - versioned_kind is the kind of the file as last recorded in the
410
620
           versioning system. If 'unknown' the file is not versioned.
411
621
        One of 'kind' and 'versioned_kind' must not be 'unknown'.
412
622
 
417
627
        """
418
628
        raise NotImplementedError(self.walkdirs)
419
629
 
420
 
 
421
 
class EmptyTree(Tree):
422
 
 
423
 
    def __init__(self):
424
 
        self._inventory = Inventory(root_id=None)
425
 
        symbol_versioning.warn('EmptyTree is deprecated as of bzr 0.9 please'
426
 
                               ' use repository.revision_tree instead.',
427
 
                               DeprecationWarning, stacklevel=2)
428
 
 
429
 
    def get_parent_ids(self):
430
 
        return []
431
 
 
432
 
    def get_symlink_target(self, file_id):
433
 
        return None
434
 
 
435
 
    def has_filename(self, filename):
 
630
    def supports_content_filtering(self):
436
631
        return False
437
632
 
438
 
    def kind(self, file_id):
439
 
        file_id = osutils.safe_file_id(file_id)
440
 
        assert self._inventory[file_id].kind == "directory"
441
 
        return "directory"
442
 
 
443
 
    def list_files(self, include_root=False):
444
 
        return iter([])
445
 
    
446
 
    def __contains__(self, file_id):
447
 
        file_id = osutils.safe_file_id(file_id)
448
 
        return (file_id in self._inventory)
449
 
 
450
 
    def get_file_sha1(self, file_id, path=None, stat_value=None):
451
 
        return None
 
633
    def _content_filter_stack(self, path=None, file_id=None):
 
634
        """The stack of content filters for a path if filtering is supported.
 
635
 
 
636
        Readers will be applied in first-to-last order.
 
637
        Writers will be applied in last-to-first order.
 
638
        Either the path or the file-id needs to be provided.
 
639
 
 
640
        :param path: path relative to the root of the tree
 
641
            or None if unknown
 
642
        :param file_id: file_id or None if unknown
 
643
        :return: the list of filters - [] if there are none
 
644
        """
 
645
        filter_pref_names = filters._get_registered_names()
 
646
        if len(filter_pref_names) == 0:
 
647
            return []
 
648
        if path is None:
 
649
            path = self.id2path(file_id)
 
650
        prefs = self.iter_search_rules([path], filter_pref_names).next()
 
651
        stk = filters._get_filter_stack_for(prefs)
 
652
        if 'filters' in debug.debug_flags:
 
653
            note("*** %s content-filter: %s => %r" % (path,prefs,stk))
 
654
        return stk
 
655
 
 
656
    def _content_filter_stack_provider(self):
 
657
        """A function that returns a stack of ContentFilters.
 
658
 
 
659
        The function takes a path (relative to the top of the tree) and a
 
660
        file-id as parameters.
 
661
 
 
662
        :return: None if content filtering is not supported by this tree.
 
663
        """
 
664
        if self.supports_content_filtering():
 
665
            return lambda path, file_id: \
 
666
                    self._content_filter_stack(path, file_id)
 
667
        else:
 
668
            return None
 
669
 
 
670
    def iter_search_rules(self, path_names, pref_names=None,
 
671
        _default_searcher=None):
 
672
        """Find the preferences for filenames in a tree.
 
673
 
 
674
        :param path_names: an iterable of paths to find attributes for.
 
675
          Paths are given relative to the root of the tree.
 
676
        :param pref_names: the list of preferences to lookup - None for all
 
677
        :param _default_searcher: private parameter to assist testing - don't use
 
678
        :return: an iterator of tuple sequences, one per path-name.
 
679
          See _RulesSearcher.get_items for details on the tuple sequence.
 
680
        """
 
681
        if _default_searcher is None:
 
682
            _default_searcher = rules._per_user_searcher
 
683
        searcher = self._get_rules_searcher(_default_searcher)
 
684
        if searcher is not None:
 
685
            if pref_names is not None:
 
686
                for path in path_names:
 
687
                    yield searcher.get_selected_items(path, pref_names)
 
688
            else:
 
689
                for path in path_names:
 
690
                    yield searcher.get_items(path)
 
691
 
 
692
    @needs_read_lock
 
693
    def _get_rules_searcher(self, default_searcher):
 
694
        """Get the RulesSearcher for this tree given the default one."""
 
695
        searcher = default_searcher
 
696
        return searcher
452
697
 
453
698
 
454
699
######################################################################
487
732
        # what happened to the file that used to have
488
733
        # this name.  There are two possibilities: either it was
489
734
        # deleted entirely, or renamed.
490
 
        assert old_id
491
735
        if new_inv.has_id(old_id):
492
736
            return 'X', old_inv.id2path(old_id), new_inv.id2path(old_id)
493
737
        else:
504
748
 
505
749
    return 'wtf?'
506
750
 
507
 
    
508
751
 
 
752
@deprecated_function(deprecated_in((1, 9, 0)))
509
753
def find_renames(old_inv, new_inv):
510
754
    for file_id in old_inv:
511
755
        if file_id not in new_inv:
514
758
        new_name = new_inv.id2path(file_id)
515
759
        if old_name != new_name:
516
760
            yield (old_name, new_name)
517
 
            
 
761
 
518
762
 
519
763
def find_ids_across_trees(filenames, trees, require_versioned=True):
520
764
    """Find the ids corresponding to specified filenames.
521
 
    
 
765
 
522
766
    All matches in all trees will be used, and all children of matched
523
767
    directories will be used.
524
768
 
538
782
 
539
783
def _find_ids_across_trees(filenames, trees, require_versioned):
540
784
    """Find the ids corresponding to specified filenames.
541
 
    
 
785
 
542
786
    All matches in all trees will be used, but subdirectories are not scanned.
543
787
 
544
788
    :param filenames: The filenames to find file_ids for
545
789
    :param trees: The trees to find file_ids within
546
790
    :param require_versioned: if true, all specified filenames must occur in
547
791
        at least one tree.
548
 
    :return: a set of (path, file ids) for the specified filenames
 
792
    :return: a set of file ids for the specified filenames
549
793
    """
550
794
    not_versioned = []
551
795
    interesting_ids = set()
564
808
 
565
809
 
566
810
def _find_children_across_trees(specified_ids, trees):
567
 
    """Return a set including specified ids and their children
568
 
    
 
811
    """Return a set including specified ids and their children.
 
812
 
569
813
    All matches in all trees will be used.
570
814
 
571
815
    :param trees: The trees to find file_ids within
572
 
    :return: a set containing all specified ids and their children 
 
816
    :return: a set containing all specified ids and their children
573
817
    """
574
818
    interesting_ids = set(specified_ids)
575
819
    pending = interesting_ids
579
823
        new_pending = set()
580
824
        for file_id in pending:
581
825
            for tree in trees:
582
 
                if not tree.has_id(file_id):
 
826
                if not tree.has_or_had_id(file_id):
583
827
                    continue
584
 
                entry = tree.inventory[file_id]
585
 
                for child in getattr(entry, 'children', {}).itervalues():
586
 
                    if child.file_id not in interesting_ids:
587
 
                        new_pending.add(child.file_id)
 
828
                for child_id in tree.iter_children(file_id):
 
829
                    if child_id not in interesting_ids:
 
830
                        new_pending.add(child_id)
588
831
        interesting_ids.update(new_pending)
589
832
        pending = new_pending
590
833
    return interesting_ids
596
839
    Its instances have methods like 'compare' and contain references to the
597
840
    source and target trees these operations are to be carried out on.
598
841
 
599
 
    clients of bzrlib should not need to use InterTree directly, rather they
 
842
    Clients of bzrlib should not need to use InterTree directly, rather they
600
843
    should use the convenience methods on Tree such as 'Tree.compare()' which
601
844
    will pass through to InterTree as appropriate.
602
845
    """
645
888
            require_versioned=require_versioned,
646
889
            want_unversioned=want_unversioned)
647
890
 
648
 
    def _iter_changes(self, include_unchanged=False,
 
891
    def iter_changes(self, include_unchanged=False,
649
892
                      specific_files=None, pb=None, extra_trees=[],
650
893
                      require_versioned=True, want_unversioned=False):
651
894
        """Generate an iterator of changes between trees.
675
918
            output. An unversioned file is defined as one with (False, False)
676
919
            for the versioned pair.
677
920
        """
678
 
        result = []
679
921
        lookup_trees = [self.source]
680
922
        if extra_trees:
681
923
             lookup_trees.extend(extra_trees)
682
 
        specific_file_ids = self.target.paths2ids(specific_files,
683
 
            lookup_trees, require_versioned=require_versioned)
 
924
        if specific_files == []:
 
925
            specific_file_ids = []
 
926
        else:
 
927
            specific_file_ids = self.target.paths2ids(specific_files,
 
928
                lookup_trees, require_versioned=require_versioned)
684
929
        if want_unversioned:
685
 
            all_unversioned = sorted([(p.split('/'), p) for p in self.target.extras()
686
 
                if not specific_files or
 
930
            all_unversioned = sorted([(p.split('/'), p) for p in
 
931
                                     self.target.extras()
 
932
                if specific_files is None or
687
933
                    osutils.is_inside_any(specific_files, p)])
688
934
            all_unversioned = deque(all_unversioned)
689
935
        else:
690
936
            all_unversioned = deque()
691
937
        to_paths = {}
692
 
        from_entries_by_dir = list(self.source.inventory.iter_entries_by_dir(
 
938
        from_entries_by_dir = list(self.source.iter_entries_by_dir(
693
939
            specific_file_ids=specific_file_ids))
694
940
        from_data = dict((e.file_id, (p, e)) for p, e in from_entries_by_dir)
695
 
        to_entries_by_dir = list(self.target.inventory.iter_entries_by_dir(
 
941
        to_entries_by_dir = list(self.target.iter_entries_by_dir(
696
942
            specific_file_ids=specific_file_ids))
697
943
        num_entries = len(from_entries_by_dir) + len(to_entries_by_dir)
698
944
        entry_count = 0
699
 
        # the unversioned path lookup only occurs on real trees - where there 
 
945
        # the unversioned path lookup only occurs on real trees - where there
700
946
        # can be extras. So the fake_entry is solely used to look up
701
947
        # executable it values when execute is not supported.
702
948
        fake_entry = InventoryFile('unused', 'unused', 'unused')
736
982
            if kind[0] != kind[1]:
737
983
                changed_content = True
738
984
            elif from_kind == 'file':
739
 
                from_size = self.source._file_size(from_entry, from_stat)
740
 
                to_size = self.target._file_size(to_entry, to_stat)
741
 
                if from_size != to_size:
742
 
                    changed_content = True
743
 
                elif (self.source.get_file_sha1(file_id, from_path, from_stat) !=
 
985
                if (self.source.get_file_sha1(file_id, from_path, from_stat) !=
744
986
                    self.target.get_file_sha1(file_id, to_path, to_stat)):
745
987
                    changed_content = True
746
988
            elif from_kind == 'symlink':
747
989
                if (self.source.get_symlink_target(file_id) !=
748
990
                    self.target.get_symlink_target(file_id)):
749
991
                    changed_content = True
 
992
                # XXX: Yes, the indentation below is wrong. But fixing it broke
 
993
                # test_merge.TestMergerEntriesLCAOnDisk.
 
994
                # test_nested_tree_subtree_renamed_and_modified. We'll wait for
 
995
                # the fix from bzr.dev -- vila 2009026
750
996
                elif from_kind == 'tree-reference':
751
997
                    if (self.source.get_reference_revision(file_id, from_path)
752
998
                        != self.target.get_reference_revision(file_id, to_path)):
753
 
                        changed_content = True 
 
999
                        changed_content = True
754
1000
            parent = (from_parent, to_entry.parent_id)
755
1001
            name = (from_name, to_entry.name)
756
1002
            executable = (from_executable, to_executable)
757
1003
            if pb is not None:
758
1004
                pb.update('comparing files', entry_count, num_entries)
759
1005
            if (changed_content is not False or versioned[0] != versioned[1]
760
 
                or parent[0] != parent[1] or name[0] != name[1] or 
 
1006
                or parent[0] != parent[1] or name[0] != name[1] or
761
1007
                executable[0] != executable[1] or include_unchanged):
762
1008
                yield (file_id, (from_path, to_path), changed_content,
763
1009
                    versioned, parent, name, kind, executable)
790
1036
            if file_id in to_paths:
791
1037
                # already returned
792
1038
                continue
793
 
            if not file_id in self.target.inventory:
 
1039
            if not file_id in self.target.all_file_ids():
794
1040
                # common case - paths we have not emitted are not present in
795
1041
                # target.
796
1042
                to_path = None
806
1052
                self.source._comparison_data(from_entry, path)
807
1053
            kind = (from_kind, None)
808
1054
            executable = (from_executable, None)
809
 
            changed_content = True
 
1055
            changed_content = from_kind is not None
810
1056
            # the parent's path is necessarily known at this point.
811
1057
            yield(file_id, (path, to_path), changed_content, versioned, parent,
812
1058
                  name, kind, executable)
813
1059
 
814
1060
 
815
 
# This was deprecated before 0.12, but did not have an official warning
816
 
@symbol_versioning.deprecated_function(symbol_versioning.zero_twelve)
817
 
def RevisionTree(*args, **kwargs):
818
 
    """RevisionTree has moved to bzrlib.revisiontree.RevisionTree()
819
 
 
820
 
    Accessing it as bzrlib.tree.RevisionTree has been deprecated as of
821
 
    bzr 0.12.
822
 
    """
823
 
    from bzrlib.revisiontree import RevisionTree as _RevisionTree
824
 
    return _RevisionTree(*args, **kwargs)
825
 
 
826
 
 
 
1061
class MultiWalker(object):
 
1062
    """Walk multiple trees simultaneously, getting combined results."""
 
1063
 
 
1064
    # Note: This could be written to not assume you can do out-of-order
 
1065
    #       lookups. Instead any nodes that don't match in all trees could be
 
1066
    #       marked as 'deferred', and then returned in the final cleanup loop.
 
1067
    #       For now, I think it is "nicer" to return things as close to the
 
1068
    #       "master_tree" order as we can.
 
1069
 
 
1070
    def __init__(self, master_tree, other_trees):
 
1071
        """Create a new MultiWalker.
 
1072
 
 
1073
        All trees being walked must implement "iter_entries_by_dir()", such
 
1074
        that they yield (path, object) tuples, where that object will have a
 
1075
        '.file_id' member, that can be used to check equality.
 
1076
 
 
1077
        :param master_tree: All trees will be 'slaved' to the master_tree such
 
1078
            that nodes in master_tree will be used as 'first-pass' sync points.
 
1079
            Any nodes that aren't in master_tree will be merged in a second
 
1080
            pass.
 
1081
        :param other_trees: A list of other trees to walk simultaneously.
 
1082
        """
 
1083
        self._master_tree = master_tree
 
1084
        self._other_trees = other_trees
 
1085
 
 
1086
        # Keep track of any nodes that were properly processed just out of
 
1087
        # order, that way we don't return them at the end, we don't have to
 
1088
        # track *all* processed file_ids, just the out-of-order ones
 
1089
        self._out_of_order_processed = set()
 
1090
 
 
1091
    @staticmethod
 
1092
    def _step_one(iterator):
 
1093
        """Step an iter_entries_by_dir iterator.
 
1094
 
 
1095
        :return: (has_more, path, ie)
 
1096
            If has_more is False, path and ie will be None.
 
1097
        """
 
1098
        try:
 
1099
            path, ie = iterator.next()
 
1100
        except StopIteration:
 
1101
            return False, None, None
 
1102
        else:
 
1103
            return True, path, ie
 
1104
 
 
1105
    @staticmethod
 
1106
    def _cmp_path_by_dirblock(path1, path2):
 
1107
        """Compare two paths based on what directory they are in.
 
1108
 
 
1109
        This generates a sort order, such that all children of a directory are
 
1110
        sorted together, and grandchildren are in the same order as the
 
1111
        children appear. But all grandchildren come after all children.
 
1112
 
 
1113
        :param path1: first path
 
1114
        :param path2: the second path
 
1115
        :return: negative number if ``path1`` comes first,
 
1116
            0 if paths are equal
 
1117
            and a positive number if ``path2`` sorts first
 
1118
        """
 
1119
        # Shortcut this special case
 
1120
        if path1 == path2:
 
1121
            return 0
 
1122
        # This is stolen from _dirstate_helpers_py.py, only switching it to
 
1123
        # Unicode objects. Consider using encode_utf8() and then using the
 
1124
        # optimized versions, or maybe writing optimized unicode versions.
 
1125
        if not isinstance(path1, unicode):
 
1126
            raise TypeError("'path1' must be a unicode string, not %s: %r"
 
1127
                            % (type(path1), path1))
 
1128
        if not isinstance(path2, unicode):
 
1129
            raise TypeError("'path2' must be a unicode string, not %s: %r"
 
1130
                            % (type(path2), path2))
 
1131
        return cmp(MultiWalker._path_to_key(path1),
 
1132
                   MultiWalker._path_to_key(path2))
 
1133
 
 
1134
    @staticmethod
 
1135
    def _path_to_key(path):
 
1136
        dirname, basename = osutils.split(path)
 
1137
        return (dirname.split(u'/'), basename)
 
1138
 
 
1139
    def _lookup_by_file_id(self, extra_entries, other_tree, file_id):
 
1140
        """Lookup an inventory entry by file_id.
 
1141
 
 
1142
        This is called when an entry is missing in the normal order.
 
1143
        Generally this is because a file was either renamed, or it was
 
1144
        deleted/added. If the entry was found in the inventory and not in
 
1145
        extra_entries, it will be added to self._out_of_order_processed
 
1146
 
 
1147
        :param extra_entries: A dictionary of {file_id: (path, ie)}.  This
 
1148
            should be filled with entries that were found before they were
 
1149
            used. If file_id is present, it will be removed from the
 
1150
            dictionary.
 
1151
        :param other_tree: The Tree to search, in case we didn't find the entry
 
1152
            yet.
 
1153
        :param file_id: The file_id to look for
 
1154
        :return: (path, ie) if found or (None, None) if not present.
 
1155
        """
 
1156
        if file_id in extra_entries:
 
1157
            return extra_entries.pop(file_id)
 
1158
        # TODO: Is id2path better as the first call, or is
 
1159
        #       inventory[file_id] better as a first check?
 
1160
        try:
 
1161
            cur_path = other_tree.id2path(file_id)
 
1162
        except errors.NoSuchId:
 
1163
            cur_path = None
 
1164
        if cur_path is None:
 
1165
            return (None, None)
 
1166
        else:
 
1167
            self._out_of_order_processed.add(file_id)
 
1168
            cur_ie = other_tree.inventory[file_id]
 
1169
            return (cur_path, cur_ie)
 
1170
 
 
1171
    def iter_all(self):
 
1172
        """Match up the values in the different trees."""
 
1173
        for result in self._walk_master_tree():
 
1174
            yield result
 
1175
        self._finish_others()
 
1176
        for result in self._walk_others():
 
1177
            yield result
 
1178
 
 
1179
    def _walk_master_tree(self):
 
1180
        """First pass, walk all trees in lock-step.
 
1181
 
 
1182
        When we are done, all nodes in the master_tree will have been
 
1183
        processed. _other_walkers, _other_entries, and _others_extra will be
 
1184
        set on 'self' for future processing.
 
1185
        """
 
1186
        # This iterator has the most "inlining" done, because it tends to touch
 
1187
        # every file in the tree, while the others only hit nodes that don't
 
1188
        # match.
 
1189
        master_iterator = self._master_tree.iter_entries_by_dir()
 
1190
 
 
1191
        other_walkers = [other.iter_entries_by_dir()
 
1192
                         for other in self._other_trees]
 
1193
        other_entries = [self._step_one(walker) for walker in other_walkers]
 
1194
        # Track extra nodes in the other trees
 
1195
        others_extra = [{} for i in xrange(len(self._other_trees))]
 
1196
 
 
1197
        master_has_more = True
 
1198
        step_one = self._step_one
 
1199
        lookup_by_file_id = self._lookup_by_file_id
 
1200
        out_of_order_processed = self._out_of_order_processed
 
1201
 
 
1202
        while master_has_more:
 
1203
            (master_has_more, path, master_ie) = step_one(master_iterator)
 
1204
            if not master_has_more:
 
1205
                break
 
1206
 
 
1207
            file_id = master_ie.file_id
 
1208
            other_values = []
 
1209
            other_values_append = other_values.append
 
1210
            next_other_entries = []
 
1211
            next_other_entries_append = next_other_entries.append
 
1212
            for idx, (other_has_more, other_path, other_ie) in enumerate(other_entries):
 
1213
                if not other_has_more:
 
1214
                    other_values_append(lookup_by_file_id(
 
1215
                        others_extra[idx], self._other_trees[idx], file_id))
 
1216
                    next_other_entries_append((False, None, None))
 
1217
                elif file_id == other_ie.file_id:
 
1218
                    # This is the critical code path, as most of the entries
 
1219
                    # should match between most trees.
 
1220
                    other_values_append((other_path, other_ie))
 
1221
                    next_other_entries_append(step_one(other_walkers[idx]))
 
1222
                else:
 
1223
                    # This walker did not match, step it until it either
 
1224
                    # matches, or we know we are past the current walker.
 
1225
                    other_walker = other_walkers[idx]
 
1226
                    other_extra = others_extra[idx]
 
1227
                    while (other_has_more and
 
1228
                           self._cmp_path_by_dirblock(other_path, path) < 0):
 
1229
                        other_file_id = other_ie.file_id
 
1230
                        if other_file_id not in out_of_order_processed:
 
1231
                            other_extra[other_file_id] = (other_path, other_ie)
 
1232
                        other_has_more, other_path, other_ie = \
 
1233
                            step_one(other_walker)
 
1234
                    if other_has_more and other_ie.file_id == file_id:
 
1235
                        # We ended up walking to this point, match and step
 
1236
                        # again
 
1237
                        other_values_append((other_path, other_ie))
 
1238
                        other_has_more, other_path, other_ie = \
 
1239
                            step_one(other_walker)
 
1240
                    else:
 
1241
                        # This record isn't in the normal order, see if it
 
1242
                        # exists at all.
 
1243
                        other_values_append(lookup_by_file_id(
 
1244
                            other_extra, self._other_trees[idx], file_id))
 
1245
                    next_other_entries_append((other_has_more, other_path,
 
1246
                                               other_ie))
 
1247
            other_entries = next_other_entries
 
1248
 
 
1249
            # We've matched all the walkers, yield this datapoint
 
1250
            yield path, file_id, master_ie, other_values
 
1251
        self._other_walkers = other_walkers
 
1252
        self._other_entries = other_entries
 
1253
        self._others_extra = others_extra
 
1254
 
 
1255
    def _finish_others(self):
 
1256
        """Finish walking the other iterators, so we get all entries."""
 
1257
        for idx, info in enumerate(self._other_entries):
 
1258
            other_extra = self._others_extra[idx]
 
1259
            (other_has_more, other_path, other_ie) = info
 
1260
            while other_has_more:
 
1261
                other_file_id = other_ie.file_id
 
1262
                if other_file_id not in self._out_of_order_processed:
 
1263
                    other_extra[other_file_id] = (other_path, other_ie)
 
1264
                other_has_more, other_path, other_ie = \
 
1265
                    self._step_one(self._other_walkers[idx])
 
1266
        del self._other_entries
 
1267
 
 
1268
    def _walk_others(self):
 
1269
        """Finish up by walking all the 'deferred' nodes."""
 
1270
        # TODO: One alternative would be to grab all possible unprocessed
 
1271
        #       file_ids, and then sort by path, and then yield them. That
 
1272
        #       might ensure better ordering, in case a caller strictly
 
1273
        #       requires parents before children.
 
1274
        for idx, other_extra in enumerate(self._others_extra):
 
1275
            others = sorted(other_extra.itervalues(),
 
1276
                            key=lambda x: self._path_to_key(x[0]))
 
1277
            for other_path, other_ie in others:
 
1278
                file_id = other_ie.file_id
 
1279
                # We don't need to check out_of_order_processed here, because
 
1280
                # the lookup_by_file_id will be removing anything processed
 
1281
                # from the extras cache
 
1282
                other_extra.pop(file_id)
 
1283
                other_values = [(None, None) for i in xrange(idx)]
 
1284
                other_values.append((other_path, other_ie))
 
1285
                for alt_idx, alt_extra in enumerate(self._others_extra[idx+1:]):
 
1286
                    alt_idx = alt_idx + idx + 1
 
1287
                    alt_extra = self._others_extra[alt_idx]
 
1288
                    alt_tree = self._other_trees[alt_idx]
 
1289
                    other_values.append(self._lookup_by_file_id(
 
1290
                                            alt_extra, alt_tree, file_id))
 
1291
                yield other_path, file_id, None, other_values