~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tree.py

  • Committer: Andrew Bennetts
  • Date: 2009-08-07 04:17:51 UTC
  • mto: This revision was merged to the branch mainline in revision 4608.
  • Revision ID: andrew.bennetts@canonical.com-20090807041751-0vhb0y0g7k49hr45
Review comments from John.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2011 Canonical Ltd
 
1
# Copyright (C) 2005, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
18
18
"""
19
19
 
20
20
import os
21
 
 
22
 
from bzrlib.lazy_import import lazy_import
23
 
lazy_import(globals(), """
24
 
import collections
25
 
 
 
21
from collections import deque
 
22
 
 
23
import bzrlib
26
24
from bzrlib import (
27
25
    conflicts as _mod_conflicts,
28
26
    debug,
29
27
    delta,
30
 
    errors,
31
28
    filters,
32
 
    inventory,
33
29
    osutils,
34
30
    revision as _mod_revision,
35
31
    rules,
36
 
    trace,
37
32
    )
38
 
""")
39
 
 
40
33
from bzrlib.decorators import needs_read_lock
 
34
from bzrlib.errors import BzrError, NoSuchId
 
35
from bzrlib import errors
 
36
from bzrlib.inventory import InventoryFile
41
37
from bzrlib.inter import InterObject
42
 
from bzrlib.symbol_versioning import (
43
 
    deprecated_in,
44
 
    deprecated_method,
45
 
    )
 
38
from bzrlib.osutils import fingerprint_file
 
39
import bzrlib.revision
 
40
from bzrlib.symbol_versioning import deprecated_function, deprecated_in
 
41
from bzrlib.trace import note
46
42
 
47
43
 
48
44
class Tree(object):
54
50
 
55
51
    * `RevisionTree` is a tree as recorded at some point in the past.
56
52
 
 
53
    Trees contain an `Inventory` object, and also know how to retrieve
 
54
    file texts mentioned in the inventory, either from a working
 
55
    directory or from a store.
 
56
 
 
57
    It is possible for trees to contain files that are not described
 
58
    in their inventory or vice versa; for this use `filenames()`.
 
59
 
57
60
    Trees can be compared, etc, regardless of whether they are working
58
61
    trees or versioned trees.
59
62
    """
95
98
    def iter_changes(self, from_tree, include_unchanged=False,
96
99
                     specific_files=None, pb=None, extra_trees=None,
97
100
                     require_versioned=True, want_unversioned=False):
98
 
        """See InterTree.iter_changes"""
99
101
        intertree = InterTree.get(from_tree, self)
100
102
        return intertree.iter_changes(include_unchanged, specific_files, pb,
101
103
            extra_trees, require_versioned, want_unversioned=want_unversioned)
125
127
        raise NotImplementedError(self.has_filename)
126
128
 
127
129
    def has_id(self, file_id):
128
 
        raise NotImplementedError(self.has_id)
 
130
        return self.inventory.has_id(file_id)
129
131
 
130
 
    @deprecated_method(deprecated_in((2, 4, 0)))
131
132
    def __contains__(self, file_id):
132
133
        return self.has_id(file_id)
133
134
 
134
135
    def has_or_had_id(self, file_id):
135
 
        raise NotImplementedError(self.has_or_had_id)
 
136
        return self.inventory.has_id(file_id)
136
137
 
137
138
    def is_ignored(self, filename):
138
139
        """Check whether the filename is ignored by this tree.
142
143
        """
143
144
        return False
144
145
 
 
146
    def __iter__(self):
 
147
        return iter(self.inventory)
 
148
 
145
149
    def all_file_ids(self):
146
150
        """Iterate through all file ids, including ids for missing files."""
147
 
        raise NotImplementedError(self.all_file_ids)
 
151
        return set(self.inventory)
148
152
 
149
153
    def id2path(self, file_id):
150
154
        """Return the path for a file id.
151
155
 
152
156
        :raises NoSuchId:
153
157
        """
154
 
        raise NotImplementedError(self.id2path)
155
 
 
156
 
    def iter_entries_by_dir(self, specific_file_ids=None, yield_parents=False):
 
158
        return self.inventory.id2path(file_id)
 
159
 
 
160
    def is_control_filename(self, filename):
 
161
        """True if filename is the name of a control file in this tree.
 
162
 
 
163
        :param filename: A filename within the tree. This is a relative path
 
164
        from the root of this tree.
 
165
 
 
166
        This is true IF and ONLY IF the filename is part of the meta data
 
167
        that bzr controls in this tree. I.E. a random .bzr directory placed
 
168
        on disk will not be a control file for this tree.
 
169
        """
 
170
        return self.bzrdir.is_control_filename(filename)
 
171
 
 
172
    @needs_read_lock
 
173
    def iter_entries_by_dir(self, specific_file_ids=None):
157
174
        """Walk the tree in 'by_dir' order.
158
175
 
159
176
        This will yield each entry in the tree as a (path, entry) tuple.
175
192
             g
176
193
 
177
194
        The yield order (ignoring root) would be::
178
 
 
179
195
          a, f, a/b, a/d, a/b/c, a/d/e, f/g
180
 
 
181
 
        :param yield_parents: If True, yield the parents from the root leading
182
 
            down to specific_file_ids that have been requested. This has no
183
 
            impact if specific_file_ids is None.
184
 
        """
185
 
        raise NotImplementedError(self.iter_entries_by_dir)
186
 
 
187
 
    def list_files(self, include_root=False, from_dir=None, recursive=True):
188
 
        """List all files in this tree.
189
 
 
190
 
        :param include_root: Whether to include the entry for the tree root
191
 
        :param from_dir: Directory under which to list files
192
 
        :param recursive: Whether to list files recursively
193
 
        :return: iterator over tuples of (path, versioned, kind, file_id,
194
 
            inventory entry)
195
 
        """
196
 
        raise NotImplementedError(self.list_files)
 
196
        """
 
197
        return self.inventory.iter_entries_by_dir(
 
198
            specific_file_ids=specific_file_ids)
197
199
 
198
200
    def iter_references(self):
199
201
        if self.supports_tree_reference():
216
218
    def path_content_summary(self, path):
217
219
        """Get a summary of the information about path.
218
220
 
219
 
        All the attributes returned are for the canonical form, not the
220
 
        convenient form (if content filters are in use.)
221
 
 
222
221
        :param path: A relative path within the tree.
223
222
        :return: A tuple containing kind, size, exec, sha1-or-link.
224
223
            Kind is always present (see tree.kind()).
225
 
            size is present if kind is file and the size of the 
226
 
                canonical form can be cheaply determined, None otherwise.
 
224
            size is present if kind is file, None otherwise.
227
225
            exec is None unless kind is file and the platform supports the 'x'
228
226
                bit.
229
227
            sha1-or-link is the link target if kind is symlink, or the sha1 if
250
248
    def _file_size(self, entry, stat_value):
251
249
        raise NotImplementedError(self._file_size)
252
250
 
 
251
    def _get_inventory(self):
 
252
        return self._inventory
 
253
 
253
254
    def get_file(self, file_id, path=None):
254
255
        """Return a file object for the file file_id in the tree.
255
256
 
291
292
 
292
293
        :param file_id: The file_id of the file.
293
294
        :param path: The path of the file.
294
 
 
295
295
        If both file_id and path are supplied, an implementation may use
296
296
        either one.
297
297
        """
298
298
        return osutils.split_lines(self.get_file_text(file_id, path))
299
299
 
300
 
    def get_file_sha1(self, file_id, path=None, stat_value=None):
301
 
        """Return the SHA1 file for a file.
302
 
 
303
 
        :param file_id: The handle for this file.
304
 
        :param path: The path that this file can be found at.
305
 
            These must point to the same object.
306
 
        :param stat_value: Optional stat value for the object
307
 
        """
308
 
        raise NotImplementedError(self.get_file_sha1)
309
 
 
310
300
    def get_file_mtime(self, file_id, path=None):
311
301
        """Return the modification time for a file.
312
302
 
326
316
        raise NotImplementedError(self.get_file_size)
327
317
 
328
318
    def get_file_by_path(self, path):
329
 
        raise NotImplementedError(self.get_file_by_path)
330
 
 
331
 
    def is_executable(self, file_id, path=None):
332
 
        """Check if a file is executable.
333
 
 
334
 
        :param file_id: The handle for this file.
335
 
        :param path: The path that this file can be found at.
336
 
            These must point to the same object.
337
 
        """
338
 
        raise NotImplementedError(self.is_executable)
 
319
        return self.get_file(self._inventory.path2id(path), path)
339
320
 
340
321
    def iter_files_bytes(self, desired_files):
341
322
        """Iterate through file contents.
363
344
            cur_file = (self.get_file_text(file_id),)
364
345
            yield identifier, cur_file
365
346
 
366
 
    def get_symlink_target(self, file_id, path=None):
 
347
    def get_symlink_target(self, file_id):
367
348
        """Get the target for a given file_id.
368
349
 
369
350
        It is assumed that the caller already knows that file_id is referencing
370
351
        a symlink.
371
352
        :param file_id: Handle for the symlink entry.
372
 
        :param path: The path of the file.
373
 
        If both file_id and path are supplied, an implementation may use
374
 
        either one.
375
353
        :return: The path the symlink points to.
376
354
        """
377
355
        raise NotImplementedError(self.get_symlink_target)
378
356
 
 
357
    def get_canonical_inventory_paths(self, paths):
 
358
        """Like get_canonical_inventory_path() but works on multiple items.
 
359
 
 
360
        :param paths: A sequence of paths relative to the root of the tree.
 
361
        :return: A list of paths, with each item the corresponding input path
 
362
        adjusted to account for existing elements that match case
 
363
        insensitively.
 
364
        """
 
365
        return list(self._yield_canonical_inventory_paths(paths))
 
366
 
 
367
    def get_canonical_inventory_path(self, path):
 
368
        """Returns the first inventory item that case-insensitively matches path.
 
369
 
 
370
        If a path matches exactly, it is returned. If no path matches exactly
 
371
        but more than one path matches case-insensitively, it is implementation
 
372
        defined which is returned.
 
373
 
 
374
        If no path matches case-insensitively, the input path is returned, but
 
375
        with as many path entries that do exist changed to their canonical
 
376
        form.
 
377
 
 
378
        If you need to resolve many names from the same tree, you should
 
379
        use get_canonical_inventory_paths() to avoid O(N) behaviour.
 
380
 
 
381
        :param path: A paths relative to the root of the tree.
 
382
        :return: The input path adjusted to account for existing elements
 
383
        that match case insensitively.
 
384
        """
 
385
        return self._yield_canonical_inventory_paths([path]).next()
 
386
 
 
387
    def _yield_canonical_inventory_paths(self, paths):
 
388
        for path in paths:
 
389
            # First, if the path as specified exists exactly, just use it.
 
390
            if self.path2id(path) is not None:
 
391
                yield path
 
392
                continue
 
393
            # go walkin...
 
394
            cur_id = self.get_root_id()
 
395
            cur_path = ''
 
396
            bit_iter = iter(path.split("/"))
 
397
            for elt in bit_iter:
 
398
                lelt = elt.lower()
 
399
                for child in self.iter_children(cur_id):
 
400
                    try:
 
401
                        child_base = os.path.basename(self.id2path(child))
 
402
                        if child_base.lower() == lelt:
 
403
                            cur_id = child
 
404
                            cur_path = osutils.pathjoin(cur_path, child_base)
 
405
                            break
 
406
                    except NoSuchId:
 
407
                        # before a change is committed we can see this error...
 
408
                        continue
 
409
                else:
 
410
                    # got to the end of this directory and no entries matched.
 
411
                    # Return what matched so far, plus the rest as specified.
 
412
                    cur_path = osutils.pathjoin(cur_path, elt, *list(bit_iter))
 
413
                    break
 
414
            yield cur_path
 
415
        # all done.
 
416
 
379
417
    def get_root_id(self):
380
418
        """Return the file_id for the root of this tree."""
381
419
        raise NotImplementedError(self.get_root_id)
439
477
            except errors.NoSuchRevisionInTree:
440
478
                yield self.repository.revision_tree(revision_id)
441
479
 
 
480
    @staticmethod
 
481
    def _file_revision(revision_tree, file_id):
 
482
        """Determine the revision associated with a file in a given tree."""
 
483
        revision_tree.lock_read()
 
484
        try:
 
485
            return revision_tree.inventory[file_id].revision
 
486
        finally:
 
487
            revision_tree.unlock()
 
488
 
442
489
    def _get_file_revision(self, file_id, vf, tree_revision):
443
490
        """Ensure that file_id, tree_revision is in vf to plan the merge."""
444
491
 
445
492
        if getattr(self, '_repository', None) is None:
446
493
            last_revision = tree_revision
447
 
            parent_keys = [(file_id, t.get_file_revision(file_id)) for t in
 
494
            parent_keys = [(file_id, self._file_revision(t, file_id)) for t in
448
495
                self._iter_parent_trees()]
449
496
            vf.add_lines((file_id, last_revision), parent_keys,
450
 
                         self.get_file_lines(file_id))
 
497
                         self.get_file(file_id).readlines())
451
498
            repo = self.branch.repository
452
499
            base_vf = repo.texts
453
500
        else:
454
 
            last_revision = self.get_file_revision(file_id)
 
501
            last_revision = self._file_revision(self, file_id)
455
502
            base_vf = self._repository.texts
456
503
        if base_vf not in vf.fallback_versionedfiles:
457
504
            vf.fallback_versionedfiles.append(base_vf)
458
505
        return last_revision
459
506
 
 
507
    inventory = property(_get_inventory,
 
508
                         doc="Inventory of this Tree")
 
509
 
460
510
    def _check_retrieved(self, ie, f):
461
511
        if not __debug__:
462
512
            return
463
 
        fp = osutils.fingerprint_file(f)
 
513
        fp = fingerprint_file(f)
464
514
        f.seek(0)
465
515
 
466
516
        if ie.text_size is not None:
467
517
            if ie.text_size != fp['size']:
468
 
                raise errors.BzrError(
469
 
                        "mismatched size for file %r in %r" %
470
 
                        (ie.file_id, self._store),
 
518
                raise BzrError("mismatched size for file %r in %r" % (ie.file_id, self._store),
471
519
                        ["inventory expects %d bytes" % ie.text_size,
472
520
                         "file is actually %d bytes" % fp['size'],
473
521
                         "store is probably damaged/corrupt"])
474
522
 
475
523
        if ie.text_sha1 != fp['sha1']:
476
 
            raise errors.BzrError("wrong SHA-1 for file %r in %r" %
477
 
                    (ie.file_id, self._store),
 
524
            raise BzrError("wrong SHA-1 for file %r in %r" % (ie.file_id, self._store),
478
525
                    ["inventory expects %s" % ie.text_sha1,
479
526
                     "file is actually %s" % fp['sha1'],
480
527
                     "store is probably damaged/corrupt"])
481
528
 
 
529
    @needs_read_lock
482
530
    def path2id(self, path):
483
531
        """Return the id for path in this tree."""
484
 
        raise NotImplementedError(self.path2id)
 
532
        return self._inventory.path2id(path)
485
533
 
486
534
    def paths2ids(self, paths, trees=[], require_versioned=True):
487
535
        """Return all the ids that can be reached by walking from paths.
508
556
            yield child.file_id
509
557
 
510
558
    def lock_read(self):
511
 
        """Lock this tree for multiple read only operations.
512
 
        
513
 
        :return: A bzrlib.lock.LogicalLockResult.
514
 
        """
515
559
        pass
516
560
 
517
561
    def revision_tree(self, revision_id):
544
588
 
545
589
        :return: set of paths.
546
590
        """
547
 
        raise NotImplementedError(self.filter_unversioned_files)
 
591
        # NB: we specifically *don't* call self.has_filename, because for
 
592
        # WorkingTrees that can indicate files that exist on disk but that
 
593
        # are not versioned.
 
594
        pred = self.inventory.has_filename
 
595
        return set((p for p in paths if not pred(p)))
548
596
 
549
597
    def walkdirs(self, prefix=""):
550
598
        """Walk the contents of this tree from path down.
602
650
        prefs = self.iter_search_rules([path], filter_pref_names).next()
603
651
        stk = filters._get_filter_stack_for(prefs)
604
652
        if 'filters' in debug.debug_flags:
605
 
            trace.note("*** %s content-filter: %s => %r" % (path,prefs,stk))
 
653
            note("*** %s content-filter: %s => %r" % (path,prefs,stk))
606
654
        return stk
607
655
 
608
656
    def _content_filter_stack_provider(self):
641
689
                for path in path_names:
642
690
                    yield searcher.get_items(path)
643
691
 
 
692
    @needs_read_lock
644
693
    def _get_rules_searcher(self, default_searcher):
645
694
        """Get the RulesSearcher for this tree given the default one."""
646
695
        searcher = default_searcher
647
696
        return searcher
648
697
 
649
698
 
650
 
class InventoryTree(Tree):
651
 
    """A tree that relies on an inventory for its metadata.
652
 
 
653
 
    Trees contain an `Inventory` object, and also know how to retrieve
654
 
    file texts mentioned in the inventory, either from a working
655
 
    directory or from a store.
656
 
 
657
 
    It is possible for trees to contain files that are not described
658
 
    in their inventory or vice versa; for this use `filenames()`.
659
 
 
660
 
    Subclasses should set the _inventory attribute, which is considered
661
 
    private to external API users.
 
699
######################################################################
 
700
# diff
 
701
 
 
702
# TODO: Merge these two functions into a single one that can operate
 
703
# on either a whole tree or a set of files.
 
704
 
 
705
# TODO: Return the diff in order by filename, not by category or in
 
706
# random order.  Can probably be done by lock-stepping through the
 
707
# filenames from both trees.
 
708
 
 
709
 
 
710
def file_status(filename, old_tree, new_tree):
 
711
    """Return single-letter status, old and new names for a file.
 
712
 
 
713
    The complexity here is in deciding how to represent renames;
 
714
    many complex cases are possible.
662
715
    """
663
 
 
664
 
    def get_canonical_inventory_paths(self, paths):
665
 
        """Like get_canonical_inventory_path() but works on multiple items.
666
 
 
667
 
        :param paths: A sequence of paths relative to the root of the tree.
668
 
        :return: A list of paths, with each item the corresponding input path
669
 
        adjusted to account for existing elements that match case
670
 
        insensitively.
671
 
        """
672
 
        return list(self._yield_canonical_inventory_paths(paths))
673
 
 
674
 
    def get_canonical_inventory_path(self, path):
675
 
        """Returns the first inventory item that case-insensitively matches path.
676
 
 
677
 
        If a path matches exactly, it is returned. If no path matches exactly
678
 
        but more than one path matches case-insensitively, it is implementation
679
 
        defined which is returned.
680
 
 
681
 
        If no path matches case-insensitively, the input path is returned, but
682
 
        with as many path entries that do exist changed to their canonical
683
 
        form.
684
 
 
685
 
        If you need to resolve many names from the same tree, you should
686
 
        use get_canonical_inventory_paths() to avoid O(N) behaviour.
687
 
 
688
 
        :param path: A paths relative to the root of the tree.
689
 
        :return: The input path adjusted to account for existing elements
690
 
        that match case insensitively.
691
 
        """
692
 
        return self._yield_canonical_inventory_paths([path]).next()
693
 
 
694
 
    def _yield_canonical_inventory_paths(self, paths):
695
 
        for path in paths:
696
 
            # First, if the path as specified exists exactly, just use it.
697
 
            if self.path2id(path) is not None:
698
 
                yield path
699
 
                continue
700
 
            # go walkin...
701
 
            cur_id = self.get_root_id()
702
 
            cur_path = ''
703
 
            bit_iter = iter(path.split("/"))
704
 
            for elt in bit_iter:
705
 
                lelt = elt.lower()
706
 
                new_path = None
707
 
                for child in self.iter_children(cur_id):
708
 
                    try:
709
 
                        # XXX: it seem like if the child is known to be in the
710
 
                        # tree, we shouldn't need to go from its id back to
711
 
                        # its path -- mbp 2010-02-11
712
 
                        #
713
 
                        # XXX: it seems like we could be more efficient
714
 
                        # by just directly looking up the original name and
715
 
                        # only then searching all children; also by not
716
 
                        # chopping paths so much. -- mbp 2010-02-11
717
 
                        child_base = os.path.basename(self.id2path(child))
718
 
                        if (child_base == elt):
719
 
                            # if we found an exact match, we can stop now; if
720
 
                            # we found an approximate match we need to keep
721
 
                            # searching because there might be an exact match
722
 
                            # later.  
723
 
                            cur_id = child
724
 
                            new_path = osutils.pathjoin(cur_path, child_base)
725
 
                            break
726
 
                        elif child_base.lower() == lelt:
727
 
                            cur_id = child
728
 
                            new_path = osutils.pathjoin(cur_path, child_base)
729
 
                    except errors.NoSuchId:
730
 
                        # before a change is committed we can see this error...
731
 
                        continue
732
 
                if new_path:
733
 
                    cur_path = new_path
734
 
                else:
735
 
                    # got to the end of this directory and no entries matched.
736
 
                    # Return what matched so far, plus the rest as specified.
737
 
                    cur_path = osutils.pathjoin(cur_path, elt, *list(bit_iter))
738
 
                    break
739
 
            yield cur_path
740
 
        # all done.
741
 
 
742
 
    def _get_inventory(self):
743
 
        return self._inventory
744
 
 
745
 
    inventory = property(_get_inventory,
746
 
                         doc="Inventory of this Tree")
747
 
 
748
 
    @needs_read_lock
749
 
    def path2id(self, path):
750
 
        """Return the id for path in this tree."""
751
 
        return self._inventory.path2id(path)
752
 
 
753
 
    def id2path(self, file_id):
754
 
        """Return the path for a file id.
755
 
 
756
 
        :raises NoSuchId:
757
 
        """
758
 
        return self.inventory.id2path(file_id)
759
 
 
760
 
    def has_id(self, file_id):
761
 
        return self.inventory.has_id(file_id)
762
 
 
763
 
    def has_or_had_id(self, file_id):
764
 
        return self.inventory.has_id(file_id)
765
 
 
766
 
    def all_file_ids(self):
767
 
        return set(self.inventory)
768
 
 
769
 
    @deprecated_method(deprecated_in((2, 4, 0)))
770
 
    def __iter__(self):
771
 
        return iter(self.inventory)
772
 
 
773
 
    def filter_unversioned_files(self, paths):
774
 
        """Filter out paths that are versioned.
775
 
 
776
 
        :return: set of paths.
777
 
        """
778
 
        # NB: we specifically *don't* call self.has_filename, because for
779
 
        # WorkingTrees that can indicate files that exist on disk but that
780
 
        # are not versioned.
781
 
        pred = self.inventory.has_filename
782
 
        return set((p for p in paths if not pred(p)))
783
 
 
784
 
    @needs_read_lock
785
 
    def iter_entries_by_dir(self, specific_file_ids=None, yield_parents=False):
786
 
        """Walk the tree in 'by_dir' order.
787
 
 
788
 
        This will yield each entry in the tree as a (path, entry) tuple.
789
 
        The order that they are yielded is:
790
 
 
791
 
        See Tree.iter_entries_by_dir for details.
792
 
 
793
 
        :param yield_parents: If True, yield the parents from the root leading
794
 
            down to specific_file_ids that have been requested. This has no
795
 
            impact if specific_file_ids is None.
796
 
        """
797
 
        return self.inventory.iter_entries_by_dir(
798
 
            specific_file_ids=specific_file_ids, yield_parents=yield_parents)
799
 
 
800
 
    def get_file_by_path(self, path):
801
 
        return self.get_file(self._inventory.path2id(path), path)
 
716
    old_inv = old_tree.inventory
 
717
    new_inv = new_tree.inventory
 
718
    new_id = new_inv.path2id(filename)
 
719
    old_id = old_inv.path2id(filename)
 
720
 
 
721
    if not new_id and not old_id:
 
722
        # easy: doesn't exist in either; not versioned at all
 
723
        if new_tree.is_ignored(filename):
 
724
            return 'I', None, None
 
725
        else:
 
726
            return '?', None, None
 
727
    elif new_id:
 
728
        # There is now a file of this name, great.
 
729
        pass
 
730
    else:
 
731
        # There is no longer a file of this name, but we can describe
 
732
        # what happened to the file that used to have
 
733
        # this name.  There are two possibilities: either it was
 
734
        # deleted entirely, or renamed.
 
735
        if new_inv.has_id(old_id):
 
736
            return 'X', old_inv.id2path(old_id), new_inv.id2path(old_id)
 
737
        else:
 
738
            return 'D', old_inv.id2path(old_id), None
 
739
 
 
740
    # if the file_id is new in this revision, it is added
 
741
    if new_id and not old_inv.has_id(new_id):
 
742
        return 'A'
 
743
 
 
744
    # if there used to be a file of this name, but that ID has now
 
745
    # disappeared, it is deleted
 
746
    if old_id and not new_inv.has_id(old_id):
 
747
        return 'D'
 
748
 
 
749
    return 'wtf?'
 
750
 
 
751
 
 
752
@deprecated_function(deprecated_in((1, 9, 0)))
 
753
def find_renames(old_inv, new_inv):
 
754
    for file_id in old_inv:
 
755
        if file_id not in new_inv:
 
756
            continue
 
757
        old_name = old_inv.id2path(file_id)
 
758
        new_name = new_inv.id2path(file_id)
 
759
        if old_name != new_name:
 
760
            yield (old_name, new_name)
802
761
 
803
762
 
804
763
def find_ids_across_trees(filenames, trees, require_versioned=True):
811
770
        None)
812
771
    :param trees: The trees to find file_ids within
813
772
    :param require_versioned: if true, all specified filenames must occur in
814
 
        at least one tree.
 
773
    at least one tree.
815
774
    :return: a set of file ids for the specified filenames and their children.
816
775
    """
817
776
    if not filenames:
885
844
    will pass through to InterTree as appropriate.
886
845
    """
887
846
 
888
 
    # Formats that will be used to test this InterTree. If both are
889
 
    # None, this InterTree will not be tested (e.g. because a complex
890
 
    # setup is required)
891
 
    _matching_from_tree_format = None
892
 
    _matching_to_tree_format = None
893
 
 
894
847
    _optimisers = []
895
848
 
896
 
    @classmethod
897
 
    def is_compatible(kls, source, target):
898
 
        # The default implementation is naive and uses the public API, so
899
 
        # it works for all trees.
900
 
        return True
901
 
 
902
 
    def _changes_from_entries(self, source_entry, target_entry,
903
 
        source_path=None, target_path=None):
904
 
        """Generate a iter_changes tuple between source_entry and target_entry.
905
 
 
906
 
        :param source_entry: An inventory entry from self.source, or None.
907
 
        :param target_entry: An inventory entry from self.target, or None.
908
 
        :param source_path: The path of source_entry, if known. If not known
909
 
            it will be looked up.
910
 
        :param target_path: The path of target_entry, if known. If not known
911
 
            it will be looked up.
912
 
        :return: A tuple, item 0 of which is an iter_changes result tuple, and
913
 
            item 1 is True if there are any changes in the result tuple.
914
 
        """
915
 
        if source_entry is None:
916
 
            if target_entry is None:
917
 
                return None
918
 
            file_id = target_entry.file_id
919
 
        else:
920
 
            file_id = source_entry.file_id
921
 
        if source_entry is not None:
922
 
            source_versioned = True
923
 
            source_name = source_entry.name
924
 
            source_parent = source_entry.parent_id
925
 
            if source_path is None:
926
 
                source_path = self.source.id2path(file_id)
927
 
            source_kind, source_executable, source_stat = \
928
 
                self.source._comparison_data(source_entry, source_path)
929
 
        else:
930
 
            source_versioned = False
931
 
            source_name = None
932
 
            source_parent = None
933
 
            source_kind = None
934
 
            source_executable = None
935
 
        if target_entry is not None:
936
 
            target_versioned = True
937
 
            target_name = target_entry.name
938
 
            target_parent = target_entry.parent_id
939
 
            if target_path is None:
940
 
                target_path = self.target.id2path(file_id)
941
 
            target_kind, target_executable, target_stat = \
942
 
                self.target._comparison_data(target_entry, target_path)
943
 
        else:
944
 
            target_versioned = False
945
 
            target_name = None
946
 
            target_parent = None
947
 
            target_kind = None
948
 
            target_executable = None
949
 
        versioned = (source_versioned, target_versioned)
950
 
        kind = (source_kind, target_kind)
951
 
        changed_content = False
952
 
        if source_kind != target_kind:
953
 
            changed_content = True
954
 
        elif source_kind == 'file':
955
 
            if (self.source.get_file_sha1(file_id, source_path, source_stat) !=
956
 
                self.target.get_file_sha1(file_id, target_path, target_stat)):
957
 
                changed_content = True
958
 
        elif source_kind == 'symlink':
959
 
            if (self.source.get_symlink_target(file_id) !=
960
 
                self.target.get_symlink_target(file_id)):
961
 
                changed_content = True
962
 
            # XXX: Yes, the indentation below is wrong. But fixing it broke
963
 
            # test_merge.TestMergerEntriesLCAOnDisk.
964
 
            # test_nested_tree_subtree_renamed_and_modified. We'll wait for
965
 
            # the fix from bzr.dev -- vila 2009026
966
 
            elif source_kind == 'tree-reference':
967
 
                if (self.source.get_reference_revision(file_id, source_path)
968
 
                    != self.target.get_reference_revision(file_id, target_path)):
969
 
                    changed_content = True
970
 
        parent = (source_parent, target_parent)
971
 
        name = (source_name, target_name)
972
 
        executable = (source_executable, target_executable)
973
 
        if (changed_content is not False or versioned[0] != versioned[1]
974
 
            or parent[0] != parent[1] or name[0] != name[1] or
975
 
            executable[0] != executable[1]):
976
 
            changes = True
977
 
        else:
978
 
            changes = False
979
 
        return (file_id, (source_path, target_path), changed_content,
980
 
                versioned, parent, name, kind, executable), changes
981
 
 
982
849
    @needs_read_lock
983
850
    def compare(self, want_unchanged=False, specific_files=None,
984
851
        extra_trees=None, require_versioned=False, include_root=False,
999
866
            a PathsNotVersionedError will be thrown.
1000
867
        :param want_unversioned: Scan for unversioned paths.
1001
868
        """
 
869
        # NB: show_status depends on being able to pass in non-versioned files
 
870
        # and report them as unknown
1002
871
        trees = (self.source,)
1003
872
        if extra_trees is not None:
1004
873
            trees = trees + tuple(extra_trees)
1009
878
            # All files are unversioned, so just return an empty delta
1010
879
            # _compare_trees would think we want a complete delta
1011
880
            result = delta.TreeDelta()
1012
 
            fake_entry = inventory.InventoryFile('unused', 'unused', 'unused')
 
881
            fake_entry = InventoryFile('unused', 'unused', 'unused')
1013
882
            result.unversioned = [(path, None,
1014
883
                self.target._comparison_data(fake_entry, path)[0]) for path in
1015
884
                specific_files]
1045
914
        :param require_versioned: Raise errors.PathsNotVersionedError if a
1046
915
            path in the specific_files list is not versioned in one of
1047
916
            source, target or extra_trees.
1048
 
        :param specific_files: An optional list of file paths to restrict the
1049
 
            comparison to. When mapping filenames to ids, all matches in all
1050
 
            trees (including optional extra_trees) are used, and all children
1051
 
            of matched directories are included. The parents in the target tree
1052
 
            of the specific files up to and including the root of the tree are
1053
 
            always evaluated for changes too.
1054
917
        :param want_unversioned: Should unversioned files be returned in the
1055
918
            output. An unversioned file is defined as one with (False, False)
1056
919
            for the versioned pair.
1058
921
        lookup_trees = [self.source]
1059
922
        if extra_trees:
1060
923
             lookup_trees.extend(extra_trees)
1061
 
        # The ids of items we need to examine to insure delta consistency.
1062
 
        precise_file_ids = set()
1063
 
        changed_file_ids = []
1064
924
        if specific_files == []:
1065
925
            specific_file_ids = []
1066
926
        else:
1067
927
            specific_file_ids = self.target.paths2ids(specific_files,
1068
928
                lookup_trees, require_versioned=require_versioned)
1069
 
        if specific_files is not None:
1070
 
            # reparented or added entries must have their parents included
1071
 
            # so that valid deltas can be created. The seen_parents set
1072
 
            # tracks the parents that we need to have.
1073
 
            # The seen_dirs set tracks directory entries we've yielded.
1074
 
            # After outputting version object in to_entries we set difference
1075
 
            # the two seen sets and start checking parents.
1076
 
            seen_parents = set()
1077
 
            seen_dirs = set()
1078
929
        if want_unversioned:
1079
930
            all_unversioned = sorted([(p.split('/'), p) for p in
1080
931
                                     self.target.extras()
1081
932
                if specific_files is None or
1082
933
                    osutils.is_inside_any(specific_files, p)])
1083
 
            all_unversioned = collections.deque(all_unversioned)
 
934
            all_unversioned = deque(all_unversioned)
1084
935
        else:
1085
 
            all_unversioned = collections.deque()
 
936
            all_unversioned = deque()
1086
937
        to_paths = {}
1087
938
        from_entries_by_dir = list(self.source.iter_entries_by_dir(
1088
939
            specific_file_ids=specific_file_ids))
1094
945
        # the unversioned path lookup only occurs on real trees - where there
1095
946
        # can be extras. So the fake_entry is solely used to look up
1096
947
        # executable it values when execute is not supported.
1097
 
        fake_entry = inventory.InventoryFile('unused', 'unused', 'unused')
1098
 
        for target_path, target_entry in to_entries_by_dir:
1099
 
            while (all_unversioned and
1100
 
                all_unversioned[0][0] < target_path.split('/')):
 
948
        fake_entry = InventoryFile('unused', 'unused', 'unused')
 
949
        for to_path, to_entry in to_entries_by_dir:
 
950
            while all_unversioned and all_unversioned[0][0] < to_path.split('/'):
1101
951
                unversioned_path = all_unversioned.popleft()
1102
 
                target_kind, target_executable, target_stat = \
 
952
                to_kind, to_executable, to_stat = \
1103
953
                    self.target._comparison_data(fake_entry, unversioned_path[1])
1104
954
                yield (None, (None, unversioned_path[1]), True, (False, False),
1105
955
                    (None, None),
1106
956
                    (None, unversioned_path[0][-1]),
1107
 
                    (None, target_kind),
1108
 
                    (None, target_executable))
1109
 
            source_path, source_entry = from_data.get(target_entry.file_id,
1110
 
                (None, None))
1111
 
            result, changes = self._changes_from_entries(source_entry,
1112
 
                target_entry, source_path=source_path, target_path=target_path)
1113
 
            to_paths[result[0]] = result[1][1]
 
957
                    (None, to_kind),
 
958
                    (None, to_executable))
 
959
            file_id = to_entry.file_id
 
960
            to_paths[file_id] = to_path
1114
961
            entry_count += 1
1115
 
            if result[3][0]:
 
962
            changed_content = False
 
963
            from_path, from_entry = from_data.get(file_id, (None, None))
 
964
            from_versioned = (from_entry is not None)
 
965
            if from_entry is not None:
 
966
                from_versioned = True
 
967
                from_name = from_entry.name
 
968
                from_parent = from_entry.parent_id
 
969
                from_kind, from_executable, from_stat = \
 
970
                    self.source._comparison_data(from_entry, from_path)
1116
971
                entry_count += 1
 
972
            else:
 
973
                from_versioned = False
 
974
                from_kind = None
 
975
                from_parent = None
 
976
                from_name = None
 
977
                from_executable = None
 
978
            versioned = (from_versioned, True)
 
979
            to_kind, to_executable, to_stat = \
 
980
                self.target._comparison_data(to_entry, to_path)
 
981
            kind = (from_kind, to_kind)
 
982
            if kind[0] != kind[1]:
 
983
                changed_content = True
 
984
            elif from_kind == 'file':
 
985
                if (self.source.get_file_sha1(file_id, from_path, from_stat) !=
 
986
                    self.target.get_file_sha1(file_id, to_path, to_stat)):
 
987
                    changed_content = True
 
988
            elif from_kind == 'symlink':
 
989
                if (self.source.get_symlink_target(file_id) !=
 
990
                    self.target.get_symlink_target(file_id)):
 
991
                    changed_content = True
 
992
                # XXX: Yes, the indentation below is wrong. But fixing it broke
 
993
                # test_merge.TestMergerEntriesLCAOnDisk.
 
994
                # test_nested_tree_subtree_renamed_and_modified. We'll wait for
 
995
                # the fix from bzr.dev -- vila 2009026
 
996
                elif from_kind == 'tree-reference':
 
997
                    if (self.source.get_reference_revision(file_id, from_path)
 
998
                        != self.target.get_reference_revision(file_id, to_path)):
 
999
                        changed_content = True
 
1000
            parent = (from_parent, to_entry.parent_id)
 
1001
            name = (from_name, to_entry.name)
 
1002
            executable = (from_executable, to_executable)
1117
1003
            if pb is not None:
1118
1004
                pb.update('comparing files', entry_count, num_entries)
1119
 
            if changes or include_unchanged:
1120
 
                if specific_file_ids is not None:
1121
 
                    new_parent_id = result[4][1]
1122
 
                    precise_file_ids.add(new_parent_id)
1123
 
                    changed_file_ids.append(result[0])
1124
 
                yield result
1125
 
            # Ensure correct behaviour for reparented/added specific files.
1126
 
            if specific_files is not None:
1127
 
                # Record output dirs
1128
 
                if result[6][1] == 'directory':
1129
 
                    seen_dirs.add(result[0])
1130
 
                # Record parents of reparented/added entries.
1131
 
                versioned = result[3]
1132
 
                parents = result[4]
1133
 
                if not versioned[0] or parents[0] != parents[1]:
1134
 
                    seen_parents.add(parents[1])
 
1005
            if (changed_content is not False or versioned[0] != versioned[1]
 
1006
                or parent[0] != parent[1] or name[0] != name[1] or
 
1007
                executable[0] != executable[1] or include_unchanged):
 
1008
                yield (file_id, (from_path, to_path), changed_content,
 
1009
                    versioned, parent, name, kind, executable)
 
1010
 
1135
1011
        while all_unversioned:
1136
1012
            # yield any trailing unversioned paths
1137
1013
            unversioned_path = all_unversioned.popleft()
1142
1018
                (None, unversioned_path[0][-1]),
1143
1019
                (None, to_kind),
1144
1020
                (None, to_executable))
1145
 
        # Yield all remaining source paths
 
1021
 
 
1022
        def get_to_path(to_entry):
 
1023
            if to_entry.parent_id is None:
 
1024
                to_path = '' # the root
 
1025
            else:
 
1026
                if to_entry.parent_id not in to_paths:
 
1027
                    # recurse up
 
1028
                    return get_to_path(self.target.inventory[to_entry.parent_id])
 
1029
                to_path = osutils.pathjoin(to_paths[to_entry.parent_id],
 
1030
                                           to_entry.name)
 
1031
            to_paths[to_entry.file_id] = to_path
 
1032
            return to_path
 
1033
 
1146
1034
        for path, from_entry in from_entries_by_dir:
1147
1035
            file_id = from_entry.file_id
1148
1036
            if file_id in to_paths:
1149
1037
                # already returned
1150
1038
                continue
1151
 
            if not self.target.has_id(file_id):
 
1039
            if not file_id in self.target.all_file_ids():
1152
1040
                # common case - paths we have not emitted are not present in
1153
1041
                # target.
1154
1042
                to_path = None
1155
1043
            else:
1156
 
                to_path = self.target.id2path(file_id)
 
1044
                to_path = get_to_path(self.target.inventory[file_id])
1157
1045
            entry_count += 1
1158
1046
            if pb is not None:
1159
1047
                pb.update('comparing files', entry_count, num_entries)
1166
1054
            executable = (from_executable, None)
1167
1055
            changed_content = from_kind is not None
1168
1056
            # the parent's path is necessarily known at this point.
1169
 
            changed_file_ids.append(file_id)
1170
1057
            yield(file_id, (path, to_path), changed_content, versioned, parent,
1171
1058
                  name, kind, executable)
1172
 
        changed_file_ids = set(changed_file_ids)
1173
 
        if specific_file_ids is not None:
1174
 
            for result in self._handle_precise_ids(precise_file_ids,
1175
 
                changed_file_ids):
1176
 
                yield result
1177
 
 
1178
 
    def _get_entry(self, tree, file_id):
1179
 
        """Get an inventory entry from a tree, with missing entries as None.
1180
 
 
1181
 
        If the tree raises NotImplementedError on accessing .inventory, then
1182
 
        this is worked around using iter_entries_by_dir on just the file id
1183
 
        desired.
1184
 
 
1185
 
        :param tree: The tree to lookup the entry in.
1186
 
        :param file_id: The file_id to lookup.
1187
 
        """
1188
 
        try:
1189
 
            inventory = tree.inventory
1190
 
        except NotImplementedError:
1191
 
            # No inventory available.
1192
 
            try:
1193
 
                iterator = tree.iter_entries_by_dir(specific_file_ids=[file_id])
1194
 
                return iterator.next()[1]
1195
 
            except StopIteration:
1196
 
                return None
1197
 
        else:
1198
 
            try:
1199
 
                return inventory[file_id]
1200
 
            except errors.NoSuchId:
1201
 
                return None
1202
 
 
1203
 
    def _handle_precise_ids(self, precise_file_ids, changed_file_ids,
1204
 
        discarded_changes=None):
1205
 
        """Fill out a partial iter_changes to be consistent.
1206
 
 
1207
 
        :param precise_file_ids: The file ids of parents that were seen during
1208
 
            the iter_changes.
1209
 
        :param changed_file_ids: The file ids of already emitted items.
1210
 
        :param discarded_changes: An optional dict of precalculated
1211
 
            iter_changes items which the partial iter_changes had not output
1212
 
            but had calculated.
1213
 
        :return: A generator of iter_changes items to output.
1214
 
        """
1215
 
        # process parents of things that had changed under the users
1216
 
        # requested paths to prevent incorrect paths or parent ids which
1217
 
        # aren't in the tree.
1218
 
        while precise_file_ids:
1219
 
            precise_file_ids.discard(None)
1220
 
            # Don't emit file_ids twice
1221
 
            precise_file_ids.difference_update(changed_file_ids)
1222
 
            if not precise_file_ids:
1223
 
                break
1224
 
            # If the there was something at a given output path in source, we
1225
 
            # have to include the entry from source in the delta, or we would
1226
 
            # be putting this entry into a used path.
1227
 
            paths = []
1228
 
            for parent_id in precise_file_ids:
1229
 
                try:
1230
 
                    paths.append(self.target.id2path(parent_id))
1231
 
                except errors.NoSuchId:
1232
 
                    # This id has been dragged in from the source by delta
1233
 
                    # expansion and isn't present in target at all: we don't
1234
 
                    # need to check for path collisions on it.
1235
 
                    pass
1236
 
            for path in paths:
1237
 
                old_id = self.source.path2id(path)
1238
 
                precise_file_ids.add(old_id)
1239
 
            precise_file_ids.discard(None)
1240
 
            current_ids = precise_file_ids
1241
 
            precise_file_ids = set()
1242
 
            # We have to emit all of precise_file_ids that have been altered.
1243
 
            # We may have to output the children of some of those ids if any
1244
 
            # directories have stopped being directories.
1245
 
            for file_id in current_ids:
1246
 
                # Examine file_id
1247
 
                if discarded_changes:
1248
 
                    result = discarded_changes.get(file_id)
1249
 
                    old_entry = None
1250
 
                else:
1251
 
                    result = None
1252
 
                if result is None:
1253
 
                    old_entry = self._get_entry(self.source, file_id)
1254
 
                    new_entry = self._get_entry(self.target, file_id)
1255
 
                    result, changes = self._changes_from_entries(
1256
 
                        old_entry, new_entry)
1257
 
                else:
1258
 
                    changes = True
1259
 
                # Get this parents parent to examine.
1260
 
                new_parent_id = result[4][1]
1261
 
                precise_file_ids.add(new_parent_id)
1262
 
                if changes:
1263
 
                    if (result[6][0] == 'directory' and
1264
 
                        result[6][1] != 'directory'):
1265
 
                        # This stopped being a directory, the old children have
1266
 
                        # to be included.
1267
 
                        if old_entry is None:
1268
 
                            # Reusing a discarded change.
1269
 
                            old_entry = self._get_entry(self.source, file_id)
1270
 
                        for child in old_entry.children.values():
1271
 
                            precise_file_ids.add(child.file_id)
1272
 
                    changed_file_ids.add(result[0])
1273
 
                    yield result
1274
 
 
1275
 
 
1276
 
InterTree.register_optimiser(InterTree)
1277
1059
 
1278
1060
 
1279
1061
class MultiWalker(object):