~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/inventory.py

  • Committer: Andrew Bennetts
  • Date: 2008-09-05 10:48:03 UTC
  • mto: This revision was merged to the branch mainline in revision 3693.
  • Revision ID: andrew.bennetts@canonical.com-20080905104803-6g72dz6wcldosfs2
Remove monkey-patching of branch._ensure_real from test_remote.py.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
27
27
# created, but it's not for now.
28
28
ROOT_ID = "TREE_ROOT"
29
29
 
30
 
 
31
 
import collections
32
 
import os.path
 
30
import os
33
31
import re
34
32
import sys
 
33
 
 
34
from bzrlib.lazy_import import lazy_import
 
35
lazy_import(globals(), """
 
36
import collections
35
37
import tarfile
36
 
import types
37
38
 
38
39
import bzrlib
39
 
from bzrlib.osutils import (pumpfile, quotefn, splitpath, joinpath,
40
 
                            pathjoin, sha_strings)
41
 
from bzrlib.errors import (NotVersionedError, InvalidEntryName,
42
 
                           BzrError, BzrCheckError, BinaryFile)
 
40
from bzrlib import (
 
41
    errors,
 
42
    generate_ids,
 
43
    osutils,
 
44
    symbol_versioning,
 
45
    workingtree,
 
46
    )
 
47
""")
 
48
 
 
49
from bzrlib.errors import (
 
50
    BzrCheckError,
 
51
    BzrError,
 
52
    )
 
53
from bzrlib.symbol_versioning import deprecated_in, deprecated_method
43
54
from bzrlib.trace import mutter
44
55
 
45
56
 
80
91
    InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None)
81
92
    >>> i.add(InventoryFile('2323', 'hello.c', parent_id='123'))
82
93
    InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None)
83
 
    >>> shouldbe = {0: 'src', 1: pathjoin('src','hello.c')}
 
94
    >>> shouldbe = {0: '', 1: 'src', 2: 'src/hello.c'}
84
95
    >>> for ix, j in enumerate(i.iter_entries()):
85
96
    ...   print (j[0] == shouldbe[ix], j[1])
86
97
    ... 
 
98
    (True, InventoryDirectory('TREE_ROOT', u'', parent_id=None, revision=None))
87
99
    (True, InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None))
88
100
    (True, InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None))
89
 
    >>> i.add(InventoryFile('2323', 'bye.c', '123'))
90
 
    Traceback (most recent call last):
91
 
    ...
92
 
    BzrError: inventory already contains entry with id {2323}
93
101
    >>> i.add(InventoryFile('2324', 'bye.c', '123'))
94
102
    InventoryFile('2324', 'bye.c', parent_id='123', sha1=None, len=None)
95
103
    >>> i.add(InventoryDirectory('2325', 'wibble', '123'))
104
112
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None)
105
113
    >>> for path, entry in i.iter_entries():
106
114
    ...     print path
107
 
    ...     assert i.path2id(path)
108
115
    ... 
 
116
    <BLANKLINE>
109
117
    src
110
118
    src/bye.c
111
119
    src/hello.c
133
141
        """
134
142
        return False, False
135
143
 
136
 
    def diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
137
 
             output_to, reverse=False):
138
 
        """Perform a diff from this to to_entry.
139
 
 
140
 
        text_diff will be used for textual difference calculation.
141
 
        This is a template method, override _diff in child classes.
142
 
        """
143
 
        self._read_tree_state(tree.id2path(self.file_id), tree)
144
 
        if to_entry:
145
 
            # cannot diff from one kind to another - you must do a removal
146
 
            # and an addif they do not match.
147
 
            assert self.kind == to_entry.kind
148
 
            to_entry._read_tree_state(to_tree.id2path(to_entry.file_id),
149
 
                                      to_tree)
150
 
        self._diff(text_diff, from_label, tree, to_label, to_entry, to_tree,
151
 
                   output_to, reverse)
152
 
 
153
144
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
154
145
             output_to, reverse=False):
155
146
        """Perform a diff between two entries of the same kind."""
156
 
 
157
 
    def find_previous_heads(self, previous_inventories,
158
 
                            versioned_file_store,
159
 
                            transaction,
160
 
                            entry_vf=None):
161
 
        """Return the revisions and entries that directly precede this.
162
 
 
163
 
        Returned as a map from revision to inventory entry.
164
 
 
165
 
        This is a map containing the file revisions in all parents
166
 
        for which the file exists, and its revision is not a parent of
167
 
        any other. If the file is new, the set will be empty.
168
 
 
169
 
        :param versioned_file_store: A store where ancestry data on this
170
 
                                     file id can be queried.
171
 
        :param transaction: The transaction that queries to the versioned 
172
 
                            file store should be completed under.
173
 
        :param entry_vf: The entry versioned file, if its already available.
 
147
    
 
148
    def parent_candidates(self, previous_inventories):
 
149
        """Find possible per-file graph parents.
 
150
 
 
151
        This is currently defined by:
 
152
         - Select the last changed revision in the parent inventory.
 
153
         - Do deal with a short lived bug in bzr 0.8's development two entries
 
154
           that have the same last changed but different 'x' bit settings are
 
155
           changed in-place.
174
156
        """
175
 
        def get_ancestors(weave, entry):
176
 
            return set(weave.get_ancestry(entry.revision))
177
157
        # revision:ie mapping for each ie found in previous_inventories.
178
158
        candidates = {}
179
 
        # revision:ie mapping with one revision for each head.
180
 
        heads = {}
181
 
        # revision: ancestor list for each head
182
 
        head_ancestors = {}
183
159
        # identify candidate head revision ids.
184
160
        for inv in previous_inventories:
185
161
            if self.file_id in inv:
186
162
                ie = inv[self.file_id]
187
 
                assert ie.file_id == self.file_id
188
163
                if ie.revision in candidates:
189
164
                    # same revision value in two different inventories:
190
165
                    # correct possible inconsistencies:
196
171
                            ie.executable = False
197
172
                    except AttributeError:
198
173
                        pass
199
 
                    # must now be the same.
200
 
                    assert candidates[ie.revision] == ie
201
174
                else:
202
175
                    # add this revision as a candidate.
203
176
                    candidates[ie.revision] = ie
204
 
 
205
 
        # common case optimisation
206
 
        if len(candidates) == 1:
207
 
            # if there is only one candidate revision found
208
 
            # then we can opening the versioned file to access ancestry:
209
 
            # there cannot be any ancestors to eliminate when there is 
210
 
            # only one revision available.
211
 
            heads[ie.revision] = ie
212
 
            return heads
213
 
 
214
 
        # eliminate ancestors amongst the available candidates:
215
 
        # heads are those that are not an ancestor of any other candidate
216
 
        # - this provides convergence at a per-file level.
217
 
        for ie in candidates.values():
218
 
            # may be an ancestor of a known head:
219
 
            already_present = 0 != len(
220
 
                [head for head in heads 
221
 
                 if ie.revision in head_ancestors[head]])
222
 
            if already_present:
223
 
                # an ancestor of an analyzed candidate.
224
 
                continue
225
 
            # not an ancestor of a known head:
226
 
            # load the versioned file for this file id if needed
227
 
            if entry_vf is None:
228
 
                entry_vf = versioned_file_store.get_weave_or_empty(
229
 
                    self.file_id, transaction)
230
 
            ancestors = get_ancestors(entry_vf, ie)
231
 
            # may knock something else out:
232
 
            check_heads = list(heads.keys())
233
 
            for head in check_heads:
234
 
                if head in ancestors:
235
 
                    # this previously discovered 'head' is not
236
 
                    # really a head - its an ancestor of the newly 
237
 
                    # found head,
238
 
                    heads.pop(head)
239
 
            head_ancestors[ie.revision] = ancestors
240
 
            heads[ie.revision] = ie
241
 
        return heads
242
 
 
 
177
        return candidates
 
178
 
 
179
    @deprecated_method(deprecated_in((1, 6, 0)))
243
180
    def get_tar_item(self, root, dp, now, tree):
244
181
        """Get a tarfile item and a file stream for its content."""
245
 
        item = tarfile.TarInfo(pathjoin(root, dp))
 
182
        item = tarfile.TarInfo(osutils.pathjoin(root, dp).encode('utf8'))
246
183
        # TODO: would be cool to actually set it to the timestamp of the
247
184
        # revision it was last changed
248
185
        item.mtime = now
275
212
        Traceback (most recent call last):
276
213
        InvalidEntryName: Invalid entry name: src/hello.c
277
214
        """
278
 
        assert isinstance(name, basestring), name
279
215
        if '/' in name or '\\' in name:
280
 
            raise InvalidEntryName(name=name)
 
216
            raise errors.InvalidEntryName(name=name)
281
217
        self.executable = False
282
218
        self.revision = None
283
219
        self.text_sha1 = None
287
223
        self.text_id = text_id
288
224
        self.parent_id = parent_id
289
225
        self.symlink_target = None
 
226
        self.reference_revision = None
290
227
 
291
228
    def kind_character(self):
292
229
        """Return a short kind indicator useful for appending to names."""
293
230
        raise BzrError('unknown kind %r' % self.kind)
294
231
 
295
 
    known_kinds = ('file', 'directory', 'symlink', 'root_directory')
 
232
    known_kinds = ('file', 'directory', 'symlink')
296
233
 
297
234
    def _put_in_tar(self, item, tree):
298
235
        """populate item for stashing in a tar, and return the content stream.
302
239
        raise BzrError("don't know how to export {%s} of kind %r" %
303
240
                       (self.file_id, self.kind))
304
241
 
 
242
    @deprecated_method(deprecated_in((1, 6, 0)))
305
243
    def put_on_disk(self, dest, dp, tree):
306
244
        """Create a representation of self on disk in the prefix dest.
307
245
        
308
246
        This is a template method - implement _put_on_disk in subclasses.
309
247
        """
310
 
        fullpath = pathjoin(dest, dp)
 
248
        fullpath = osutils.pathjoin(dest, dp)
311
249
        self._put_on_disk(fullpath, tree)
312
 
        mutter("  export {%s} kind %s to %s", self.file_id,
313
 
                self.kind, fullpath)
 
250
        # mutter("  export {%s} kind %s to %s", self.file_id,
 
251
        #         self.kind, fullpath)
314
252
 
315
253
    def _put_on_disk(self, fullpath, tree):
316
254
        """Put this entry onto disk at fullpath, from tree tree."""
321
259
 
322
260
    @staticmethod
323
261
    def versionable_kind(kind):
324
 
        return kind in ('file', 'directory', 'symlink')
 
262
        return (kind in ('file', 'directory', 'symlink', 'tree-reference'))
325
263
 
326
264
    def check(self, checker, rev_id, inv, tree):
327
265
        """Check this inventory entry is intact.
372
310
            return 'added'
373
311
        elif new_entry is None:
374
312
            return 'removed'
 
313
        if old_entry.kind != new_entry.kind:
 
314
            return 'modified'
375
315
        text_modified, meta_modified = new_entry.detect_changes(old_entry)
376
316
        if text_modified or meta_modified:
377
317
            modified = True
400
340
                   self.parent_id,
401
341
                   self.revision))
402
342
 
403
 
    def snapshot(self, revision, path, previous_entries,
404
 
                 work_tree, commit_builder):
405
 
        """Make a snapshot of this entry which may or may not have changed.
406
 
        
407
 
        This means that all its fields are populated, that it has its
408
 
        text stored in the text store or weave.
409
 
        """
410
 
        mutter('new parents of %s are %r', path, previous_entries)
411
 
        self._read_tree_state(path, work_tree)
412
 
        # TODO: Where should we determine whether to reuse a
413
 
        # previous revision id or create a new revision? 20060606
414
 
        if len(previous_entries) == 1:
415
 
            # cannot be unchanged unless there is only one parent file rev.
416
 
            parent_ie = previous_entries.values()[0]
417
 
            if self._unchanged(parent_ie):
418
 
                mutter("found unchanged entry")
419
 
                self.revision = parent_ie.revision
420
 
                return "unchanged"
421
 
        return self._snapshot_into_revision(revision, previous_entries, 
422
 
                                            work_tree, commit_builder)
423
 
 
424
 
    def _snapshot_into_revision(self, revision, previous_entries, work_tree,
425
 
                                commit_builder):
426
 
        """Record this revision unconditionally into a store.
427
 
 
428
 
        The entry's last-changed revision property (`revision`) is updated to 
429
 
        that of the new revision.
430
 
        
431
 
        :param revision: id of the new revision that is being recorded.
432
 
 
433
 
        :returns: String description of the commit (e.g. "merged", "modified"), etc.
434
 
        """
435
 
        mutter('new revision {%s} for {%s}', revision, self.file_id)
436
 
        self.revision = revision
437
 
        self._snapshot_text(previous_entries, work_tree, commit_builder)
438
 
 
439
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder): 
440
 
        """Record the 'text' of this entry, whatever form that takes.
441
 
        
442
 
        This default implementation simply adds an empty text.
443
 
        """
444
 
        raise NotImplementedError(self._snapshot_text)
445
 
 
446
343
    def __eq__(self, other):
447
344
        if not isinstance(other, InventoryEntry):
448
345
            return NotImplemented
457
354
                and (self.kind == other.kind)
458
355
                and (self.revision == other.revision)
459
356
                and (self.executable == other.executable)
 
357
                and (self.reference_revision == other.reference_revision)
460
358
                )
461
359
 
462
360
    def __ne__(self, other):
477
375
        # renamed
478
376
        elif previous_ie.name != self.name:
479
377
            compatible = False
 
378
        elif previous_ie.kind != self.kind:
 
379
            compatible = False
480
380
        return compatible
481
381
 
482
382
    def _read_tree_state(self, path, work_tree):
497
397
class RootEntry(InventoryEntry):
498
398
 
499
399
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
500
 
                 'text_id', 'parent_id', 'children', 'executable', 
501
 
                 'revision', 'symlink_target']
 
400
                 'text_id', 'parent_id', 'children', 'executable',
 
401
                 'revision', 'symlink_target', 'reference_revision']
502
402
 
503
403
    def _check(self, checker, rev_id, tree):
504
404
        """See InventoryEntry._check"""
506
406
    def __init__(self, file_id):
507
407
        self.file_id = file_id
508
408
        self.children = {}
509
 
        self.kind = 'root_directory'
 
409
        self.kind = 'directory'
510
410
        self.parent_id = None
511
411
        self.name = u''
512
412
        self.revision = None
 
413
        symbol_versioning.warn('RootEntry is deprecated as of bzr 0.10.'
 
414
                               '  Please use InventoryDirectory instead.',
 
415
                               DeprecationWarning, stacklevel=2)
513
416
 
514
417
    def __eq__(self, other):
515
418
        if not isinstance(other, RootEntry):
523
426
    """A directory in an inventory."""
524
427
 
525
428
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
526
 
                 'text_id', 'parent_id', 'children', 'executable', 
527
 
                 'revision', 'symlink_target']
 
429
                 'text_id', 'parent_id', 'children', 'executable',
 
430
                 'revision', 'symlink_target', 'reference_revision']
528
431
 
529
432
    def _check(self, checker, rev_id, tree):
530
433
        """See InventoryEntry._check"""
561
464
        """See InventoryEntry._put_on_disk."""
562
465
        os.mkdir(fullpath)
563
466
 
564
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
565
 
        """See InventoryEntry._snapshot_text."""
566
 
        commit_builder.modified_directory(self.file_id, file_parents)
567
 
 
568
467
 
569
468
class InventoryFile(InventoryEntry):
570
469
    """A file in an inventory."""
571
470
 
572
471
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
573
 
                 'text_id', 'parent_id', 'children', 'executable', 
574
 
                 'revision', 'symlink_target']
 
472
                 'text_id', 'parent_id', 'children', 'executable',
 
473
                 'revision', 'symlink_target', 'reference_revision']
575
474
 
576
475
    def _check(self, checker, tree_revision_id, tree):
577
476
        """See InventoryEntry._check"""
578
 
        t = (self.file_id, self.revision)
579
 
        if t in checker.checked_texts:
580
 
            prev_sha = checker.checked_texts[t]
 
477
        key = (self.file_id, self.revision)
 
478
        if key in checker.checked_texts:
 
479
            prev_sha = checker.checked_texts[key]
581
480
            if prev_sha != self.text_sha1:
582
 
                raise BzrCheckError('mismatched sha1 on {%s} in {%s}' %
583
 
                                    (self.file_id, tree_revision_id))
 
481
                raise BzrCheckError(
 
482
                    'mismatched sha1 on {%s} in {%s} (%s != %s) %r' %
 
483
                    (self.file_id, tree_revision_id, prev_sha, self.text_sha1,
 
484
                     t))
584
485
            else:
585
486
                checker.repeated_text_cnt += 1
586
487
                return
587
488
 
588
 
        if self.file_id not in checker.checked_weaves:
589
 
            mutter('check weave {%s}', self.file_id)
590
 
            w = tree.get_weave(self.file_id)
591
 
            # Not passing a progress bar, because it creates a new
592
 
            # progress, which overwrites the current progress,
593
 
            # and doesn't look nice
594
 
            w.check()
595
 
            checker.checked_weaves[self.file_id] = True
596
 
        else:
597
 
            w = tree.get_weave(self.file_id)
598
 
 
599
489
        mutter('check version {%s} of {%s}', tree_revision_id, self.file_id)
600
490
        checker.checked_text_cnt += 1
601
491
        # We can't check the length, because Weave doesn't store that
602
492
        # information, and the whole point of looking at the weave's
603
493
        # sha1sum is that we don't have to extract the text.
604
 
        if self.text_sha1 != w.get_sha1(self.revision):
605
 
            raise BzrCheckError('text {%s} version {%s} wrong sha1' 
606
 
                                % (self.file_id, self.revision))
607
 
        checker.checked_texts[t] = self.text_sha1
 
494
        if (self.text_sha1 != tree._repository.texts.get_sha1s([key])[key]):
 
495
            raise BzrCheckError('text {%s} version {%s} wrong sha1' % key)
 
496
        checker.checked_texts[key] = self.text_sha1
608
497
 
609
498
    def copy(self):
610
499
        other = InventoryFile(self.file_id, self.name, self.parent_id)
617
506
 
618
507
    def detect_changes(self, old_entry):
619
508
        """See InventoryEntry.detect_changes."""
620
 
        assert self.text_sha1 is not None
621
 
        assert old_entry.text_sha1 is not None
622
509
        text_modified = (self.text_sha1 != old_entry.text_sha1)
623
510
        meta_modified = (self.executable != old_entry.executable)
624
511
        return text_modified, meta_modified
626
513
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
627
514
             output_to, reverse=False):
628
515
        """See InventoryEntry._diff."""
629
 
        try:
630
 
            from_text = tree.get_file(self.file_id).readlines()
631
 
            if to_entry:
632
 
                to_text = to_tree.get_file(to_entry.file_id).readlines()
633
 
            else:
634
 
                to_text = []
635
 
            if not reverse:
636
 
                text_diff(from_label, from_text,
637
 
                          to_label, to_text, output_to)
638
 
            else:
639
 
                text_diff(to_label, to_text,
640
 
                          from_label, from_text, output_to)
641
 
        except BinaryFile:
642
 
            if reverse:
643
 
                label_pair = (to_label, from_label)
644
 
            else:
645
 
                label_pair = (from_label, to_label)
646
 
            print >> output_to, "Binary files %s and %s differ" % label_pair
 
516
        from bzrlib.diff import DiffText
 
517
        from_file_id = self.file_id
 
518
        if to_entry:
 
519
            to_file_id = to_entry.file_id
 
520
        else:
 
521
            to_file_id = None
 
522
        if reverse:
 
523
            to_file_id, from_file_id = from_file_id, to_file_id
 
524
            tree, to_tree = to_tree, tree
 
525
            from_label, to_label = to_label, from_label
 
526
        differ = DiffText(tree, to_tree, output_to, 'utf-8', '', '',
 
527
                          text_diff)
 
528
        return differ.diff_text(from_file_id, to_file_id, from_label, to_label)
647
529
 
648
530
    def has_text(self):
649
531
        """See InventoryEntry.has_text."""
670
552
 
671
553
    def _put_on_disk(self, fullpath, tree):
672
554
        """See InventoryEntry._put_on_disk."""
673
 
        pumpfile(tree.get_file(self.file_id), file(fullpath, 'wb'))
 
555
        osutils.pumpfile(tree.get_file(self.file_id), file(fullpath, 'wb'))
674
556
        if tree.is_executable(self.file_id):
675
557
            os.chmod(fullpath, 0755)
676
558
 
692
574
 
693
575
    def _forget_tree_state(self):
694
576
        self.text_sha1 = None
695
 
        self.executable = None
696
 
 
697
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
698
 
        """See InventoryEntry._snapshot_text."""
699
 
        def get_content_byte_lines():
700
 
            return work_tree.get_file(self.file_id).readlines()
701
 
        self.text_sha1, self.text_size = commit_builder.modified_file_text(
702
 
            self.file_id, file_parents, get_content_byte_lines, self.text_sha1, self.text_size)
703
577
 
704
578
    def _unchanged(self, previous_ie):
705
579
        """See InventoryEntry._unchanged."""
719
593
    """A file in an inventory."""
720
594
 
721
595
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
722
 
                 'text_id', 'parent_id', 'children', 'executable', 
723
 
                 'revision', 'symlink_target']
 
596
                 'text_id', 'parent_id', 'children', 'executable',
 
597
                 'revision', 'symlink_target', 'reference_revision']
724
598
 
725
599
    def _check(self, checker, rev_id, tree):
726
600
        """See InventoryEntry._check"""
749
623
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
750
624
             output_to, reverse=False):
751
625
        """See InventoryEntry._diff."""
752
 
        from_text = self.symlink_target
 
626
        from bzrlib.diff import DiffSymlink
 
627
        old_target = self.symlink_target
753
628
        if to_entry is not None:
754
 
            to_text = to_entry.symlink_target
755
 
            if reverse:
756
 
                temp = from_text
757
 
                from_text = to_text
758
 
                to_text = temp
759
 
            print >>output_to, '=== target changed %r => %r' % (from_text, to_text)
760
 
        else:
761
 
            if not reverse:
762
 
                print >>output_to, '=== target was %r' % self.symlink_target
763
 
            else:
764
 
                print >>output_to, '=== target is %r' % self.symlink_target
 
629
            new_target = to_entry.symlink_target
 
630
        else:
 
631
            new_target = None
 
632
        if not reverse:
 
633
            old_tree = tree
 
634
            new_tree = to_tree
 
635
        else:
 
636
            old_tree = to_tree
 
637
            new_tree = tree
 
638
            new_target, old_target = old_target, new_target
 
639
        differ = DiffSymlink(old_tree, new_tree, output_to)
 
640
        return differ.diff_symlink(old_target, new_target)
765
641
 
766
642
    def __init__(self, file_id, name, parent_id):
767
643
        super(InventoryLink, self).__init__(file_id, name, parent_id)
801
677
            compatible = False
802
678
        return compatible
803
679
 
804
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
805
 
        """See InventoryEntry._snapshot_text."""
806
 
        commit_builder.modified_link(
807
 
            self.file_id, file_parents, self.symlink_target)
 
680
 
 
681
class TreeReference(InventoryEntry):
 
682
    
 
683
    kind = 'tree-reference'
 
684
    
 
685
    def __init__(self, file_id, name, parent_id, revision=None,
 
686
                 reference_revision=None):
 
687
        InventoryEntry.__init__(self, file_id, name, parent_id)
 
688
        self.revision = revision
 
689
        self.reference_revision = reference_revision
 
690
 
 
691
    def copy(self):
 
692
        return TreeReference(self.file_id, self.name, self.parent_id,
 
693
                             self.revision, self.reference_revision)
 
694
 
 
695
    def _read_tree_state(self, path, work_tree):
 
696
        """Populate fields in the inventory entry from the given tree.
 
697
        """
 
698
        self.reference_revision = work_tree.get_reference_revision(
 
699
            self.file_id, path)
 
700
 
 
701
    def _forget_tree_state(self):
 
702
        self.reference_revision = None 
 
703
 
 
704
    def _unchanged(self, previous_ie):
 
705
        """See InventoryEntry._unchanged."""
 
706
        compatible = super(TreeReference, self)._unchanged(previous_ie)
 
707
        if self.reference_revision != previous_ie.reference_revision:
 
708
            compatible = False
 
709
        return compatible
808
710
 
809
711
 
810
712
class Inventory(object):
840
742
    May also look up by name:
841
743
 
842
744
    >>> [x[0] for x in inv.iter_entries()]
843
 
    [u'hello.c']
 
745
    ['', u'hello.c']
844
746
    >>> inv = Inventory('TREE_ROOT-12345678-12345678')
845
747
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
 
748
    Traceback (most recent call last):
 
749
    BzrError: parent_id {TREE_ROOT} not in inventory
 
750
    >>> inv.add(InventoryFile('123-123', 'hello.c', 'TREE_ROOT-12345678-12345678'))
846
751
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT-12345678-12345678', sha1=None, len=None)
847
752
    """
848
753
    def __init__(self, root_id=ROOT_ID, revision_id=None):
855
760
        The inventory is created with a default root directory, with
856
761
        an id of None.
857
762
        """
858
 
        # We are letting Branch.create() create a unique inventory
859
 
        # root id. Rather than generating a random one here.
860
 
        #if root_id is None:
861
 
        #    root_id = bzrlib.branch.gen_file_id('TREE_ROOT')
862
 
        self.root = RootEntry(root_id)
863
 
        # FIXME: this isn't ever used, changing it to self.revision may break
864
 
        # things. TODO make everything use self.revision_id
 
763
        if root_id is not None:
 
764
            self._set_root(InventoryDirectory(root_id, u'', None))
 
765
        else:
 
766
            self.root = None
 
767
            self._byid = {}
865
768
        self.revision_id = revision_id
 
769
 
 
770
    def __repr__(self):
 
771
        return "<Inventory object at %x, contents=%r>" % (id(self), self._byid)
 
772
 
 
773
    def apply_delta(self, delta):
 
774
        """Apply a delta to this inventory.
 
775
 
 
776
        :param delta: A list of changes to apply. After all the changes are
 
777
            applied the final inventory must be internally consistent, but it
 
778
            is ok to supply changes which, if only half-applied would have an
 
779
            invalid result - such as supplying two changes which rename two
 
780
            files, 'A' and 'B' with each other : [('A', 'B', 'A-id', a_entry),
 
781
            ('B', 'A', 'B-id', b_entry)].
 
782
 
 
783
            Each change is a tuple, of the form (old_path, new_path, file_id,
 
784
            new_entry).
 
785
            
 
786
            When new_path is None, the change indicates the removal of an entry
 
787
            from the inventory and new_entry will be ignored (using None is
 
788
            appropriate). If new_path is not None, then new_entry must be an
 
789
            InventoryEntry instance, which will be incorporated into the
 
790
            inventory (and replace any existing entry with the same file id).
 
791
            
 
792
            When old_path is None, the change indicates the addition of
 
793
            a new entry to the inventory.
 
794
            
 
795
            When neither new_path nor old_path are None, the change is a
 
796
            modification to an entry, such as a rename, reparent, kind change
 
797
            etc. 
 
798
 
 
799
            The children attribute of new_entry is ignored. This is because
 
800
            this method preserves children automatically across alterations to
 
801
            the parent of the children, and cases where the parent id of a
 
802
            child is changing require the child to be passed in as a separate
 
803
            change regardless. E.g. in the recursive deletion of a directory -
 
804
            the directory's children must be included in the delta, or the
 
805
            final inventory will be invalid.
 
806
        """
 
807
        children = {}
 
808
        # Remove all affected items which were in the original inventory,
 
809
        # starting with the longest paths, thus ensuring parents are examined
 
810
        # after their children, which means that everything we examine has no
 
811
        # modified children remaining by the time we examine it.
 
812
        for old_path, file_id in sorted(((op, f) for op, np, f, e in delta
 
813
                                        if op is not None), reverse=True):
 
814
            if file_id not in self:
 
815
                # adds come later
 
816
                continue
 
817
            # Preserve unaltered children of file_id for later reinsertion.
 
818
            file_id_children = getattr(self[file_id], 'children', {})
 
819
            if len(file_id_children):
 
820
                children[file_id] = file_id_children
 
821
            # Remove file_id and the unaltered children. If file_id is not
 
822
            # being deleted it will be reinserted back later.
 
823
            self.remove_recursive_id(file_id)
 
824
        # Insert all affected which should be in the new inventory, reattaching
 
825
        # their children if they had any. This is done from shortest path to
 
826
        # longest, ensuring that items which were modified and whose parents in
 
827
        # the resulting inventory were also modified, are inserted after their
 
828
        # parents.
 
829
        for new_path, new_entry in sorted((np, e) for op, np, f, e in
 
830
                                          delta if np is not None):
 
831
            if new_entry.kind == 'directory':
 
832
                # Pop the child which to allow detection of children whose
 
833
                # parents were deleted and which were not reattached to a new
 
834
                # parent.
 
835
                new_entry.children = children.pop(new_entry.file_id, {})
 
836
            self.add(new_entry)
 
837
        if len(children):
 
838
            # Get the parent id that was deleted
 
839
            parent_id, children = children.popitem()
 
840
            raise errors.InconsistentDelta("<deleted>", parent_id,
 
841
                "The file id was deleted but its children were not deleted.")
 
842
 
 
843
    def _set_root(self, ie):
 
844
        self.root = ie
866
845
        self._byid = {self.root.file_id: self.root}
867
846
 
868
847
    def copy(self):
869
848
        # TODO: jam 20051218 Should copy also copy the revision_id?
870
 
        other = Inventory(self.root.file_id)
 
849
        entries = self.iter_entries()
 
850
        if self.root is None:
 
851
            return Inventory(root_id=None)
 
852
        other = Inventory(entries.next()[1].file_id)
 
853
        other.root.revision = self.root.revision
871
854
        # copy recursively so we know directories will be added before
872
855
        # their children.  There are more efficient ways than this...
873
 
        for path, entry in self.iter_entries():
874
 
            if entry == self.root:
875
 
                continue
 
856
        for path, entry in entries:
876
857
            other.add(entry.copy())
877
858
        return other
878
859
 
886
867
    def iter_entries(self, from_dir=None):
887
868
        """Return (path, entry) pairs, in order by name."""
888
869
        if from_dir is None:
889
 
            assert self.root
 
870
            if self.root is None:
 
871
                return
890
872
            from_dir = self.root
 
873
            yield '', self.root
891
874
        elif isinstance(from_dir, basestring):
892
875
            from_dir = self._byid[from_dir]
893
876
            
925
908
                # if we finished all children, pop it off the stack
926
909
                stack.pop()
927
910
 
928
 
    def iter_entries_by_dir(self, from_dir=None):
 
911
    def iter_entries_by_dir(self, from_dir=None, specific_file_ids=None,
 
912
        yield_parents=False):
929
913
        """Iterate over the entries in a directory first order.
930
914
 
931
915
        This returns all entries for a directory before returning
933
917
        lexicographically sorted order, and is a hybrid between
934
918
        depth-first and breadth-first.
935
919
 
 
920
        :param yield_parents: If True, yield the parents from the root leading
 
921
            down to specific_file_ids that have been requested. This has no
 
922
            impact if specific_file_ids is None.
936
923
        :return: This yields (path, entry) pairs
937
924
        """
 
925
        if specific_file_ids and not isinstance(specific_file_ids, set):
 
926
            specific_file_ids = set(specific_file_ids)
938
927
        # TODO? Perhaps this should return the from_dir so that the root is
939
928
        # yielded? or maybe an option?
940
929
        if from_dir is None:
941
 
            assert self.root
 
930
            if self.root is None:
 
931
                return
 
932
            # Optimize a common case
 
933
            if (not yield_parents and specific_file_ids is not None and
 
934
                len(specific_file_ids) == 1):
 
935
                file_id = list(specific_file_ids)[0]
 
936
                if file_id in self:
 
937
                    yield self.id2path(file_id), self[file_id]
 
938
                return 
942
939
            from_dir = self.root
 
940
            if (specific_file_ids is None or yield_parents or
 
941
                self.root.file_id in specific_file_ids):
 
942
                yield u'', self.root
943
943
        elif isinstance(from_dir, basestring):
944
944
            from_dir = self._byid[from_dir]
 
945
 
 
946
        if specific_file_ids is not None:
 
947
            # TODO: jam 20070302 This could really be done as a loop rather
 
948
            #       than a bunch of recursive calls.
 
949
            parents = set()
 
950
            byid = self._byid
 
951
            def add_ancestors(file_id):
 
952
                if file_id not in byid:
 
953
                    return
 
954
                parent_id = byid[file_id].parent_id
 
955
                if parent_id is None:
 
956
                    return
 
957
                if parent_id not in parents:
 
958
                    parents.add(parent_id)
 
959
                    add_ancestors(parent_id)
 
960
            for file_id in specific_file_ids:
 
961
                add_ancestors(file_id)
 
962
        else:
 
963
            parents = None
945
964
            
946
965
        stack = [(u'', from_dir)]
947
966
        while stack:
952
971
 
953
972
                child_relpath = cur_relpath + child_name
954
973
 
955
 
                yield child_relpath, child_ie
 
974
                if (specific_file_ids is None or 
 
975
                    child_ie.file_id in specific_file_ids or
 
976
                    (yield_parents and child_ie.file_id in parents)):
 
977
                    yield child_relpath, child_ie
956
978
 
957
979
                if child_ie.kind == 'directory':
958
 
                    child_dirs.append((child_relpath+'/', child_ie))
 
980
                    if parents is None or child_ie.file_id in parents:
 
981
                        child_dirs.append((child_relpath+'/', child_ie))
959
982
            stack.extend(reversed(child_dirs))
960
983
 
 
984
    def make_entry(self, kind, name, parent_id, file_id=None):
 
985
        """Simple thunk to bzrlib.inventory.make_entry."""
 
986
        return make_entry(kind, name, parent_id, file_id)
 
987
 
961
988
    def entries(self):
962
989
        """Return list of (path, ie) for all entries except the root.
963
990
 
968
995
            kids = dir_ie.children.items()
969
996
            kids.sort()
970
997
            for name, ie in kids:
971
 
                child_path = pathjoin(dir_path, name)
 
998
                child_path = osutils.pathjoin(dir_path, name)
972
999
                accum.append((child_path, ie))
973
1000
                if ie.kind == 'directory':
974
1001
                    descend(ie, child_path)
987
1014
            kids.sort()
988
1015
 
989
1016
            for name, child_ie in kids:
990
 
                child_path = pathjoin(parent_path, name)
 
1017
                child_path = osutils.pathjoin(parent_path, name)
991
1018
                descend(child_ie, child_path)
992
1019
        descend(self.root, u'')
993
1020
        return accum
1003
1030
        >>> '456' in inv
1004
1031
        False
1005
1032
        """
1006
 
        return file_id in self._byid
 
1033
        return (file_id in self._byid)
1007
1034
 
1008
1035
    def __getitem__(self, file_id):
1009
1036
        """Return the entry for given file_id.
1017
1044
        try:
1018
1045
            return self._byid[file_id]
1019
1046
        except KeyError:
1020
 
            if file_id is None:
1021
 
                raise BzrError("can't look up file_id None")
1022
 
            else:
1023
 
                raise BzrError("file_id {%s} not in inventory" % file_id)
 
1047
            # really we're passing an inventory, not a tree...
 
1048
            raise errors.NoSuchId(self, file_id)
1024
1049
 
1025
1050
    def get_file_kind(self, file_id):
1026
1051
        return self._byid[file_id].kind
1028
1053
    def get_child(self, parent_id, filename):
1029
1054
        return self[parent_id].children.get(filename)
1030
1055
 
 
1056
    def _add_child(self, entry):
 
1057
        """Add an entry to the inventory, without adding it to its parent"""
 
1058
        if entry.file_id in self._byid:
 
1059
            raise BzrError("inventory already contains entry with id {%s}" %
 
1060
                           entry.file_id)
 
1061
        self._byid[entry.file_id] = entry
 
1062
        for child in getattr(entry, 'children', {}).itervalues():
 
1063
            self._add_child(child)
 
1064
        return entry
 
1065
 
1031
1066
    def add(self, entry):
1032
1067
        """Add entry to inventory.
1033
1068
 
1037
1072
        Returns the new entry object.
1038
1073
        """
1039
1074
        if entry.file_id in self._byid:
1040
 
            raise BzrError("inventory already contains entry with id {%s}" % entry.file_id)
1041
 
 
1042
 
        if entry.parent_id == ROOT_ID or entry.parent_id is None:
1043
 
            entry.parent_id = self.root.file_id
1044
 
 
1045
 
        try:
1046
 
            parent = self._byid[entry.parent_id]
1047
 
        except KeyError:
1048
 
            raise BzrError("parent_id {%s} not in inventory" % entry.parent_id)
1049
 
 
1050
 
        if entry.name in parent.children:
1051
 
            raise BzrError("%s is already versioned" %
1052
 
                    pathjoin(self.id2path(parent.file_id), entry.name))
1053
 
 
1054
 
        self._byid[entry.file_id] = entry
1055
 
        parent.children[entry.name] = entry
1056
 
        return entry
 
1075
            raise errors.DuplicateFileId(entry.file_id,
 
1076
                                         self._byid[entry.file_id])
 
1077
 
 
1078
        if entry.parent_id is None:
 
1079
            self.root = entry
 
1080
        else:
 
1081
            try:
 
1082
                parent = self._byid[entry.parent_id]
 
1083
            except KeyError:
 
1084
                raise BzrError("parent_id {%s} not in inventory" %
 
1085
                               entry.parent_id)
 
1086
 
 
1087
            if entry.name in parent.children:
 
1088
                raise BzrError("%s is already versioned" %
 
1089
                        osutils.pathjoin(self.id2path(parent.file_id),
 
1090
                        entry.name).encode('utf-8'))
 
1091
            parent.children[entry.name] = entry
 
1092
        return self._add_child(entry)
1057
1093
 
1058
1094
    def add_path(self, relpath, kind, file_id=None, parent_id=None):
1059
1095
        """Add entry from a path.
1062
1098
 
1063
1099
        Returns the new entry object."""
1064
1100
        
1065
 
        parts = bzrlib.osutils.splitpath(relpath)
 
1101
        parts = osutils.splitpath(relpath)
1066
1102
 
1067
1103
        if len(parts) == 0:
1068
1104
            if file_id is None:
1069
 
                file_id = bzrlib.workingtree.gen_root_id()
1070
 
            self.root = RootEntry(file_id)
 
1105
                file_id = generate_ids.gen_root_id()
 
1106
            self.root = InventoryDirectory(file_id, '', None)
1071
1107
            self._byid = {self.root.file_id: self.root}
1072
 
            return
 
1108
            return self.root
1073
1109
        else:
1074
1110
            parent_path = parts[:-1]
1075
1111
            parent_id = self.path2id(parent_path)
1076
1112
            if parent_id is None:
1077
 
                raise NotVersionedError(path=parent_path)
 
1113
                raise errors.NotVersionedError(path=parent_path)
1078
1114
        ie = make_entry(kind, parts[-1], parent_id, file_id)
1079
1115
        return self.add(ie)
1080
1116
 
1091
1127
        False
1092
1128
        """
1093
1129
        ie = self[file_id]
1094
 
 
1095
 
        assert ie.parent_id is None or \
1096
 
            self[ie.parent_id].children[ie.name] == ie
1097
 
        
1098
1130
        del self._byid[file_id]
1099
1131
        if ie.parent_id is not None:
1100
1132
            del self[ie.parent_id].children[ie.name]
1132
1164
            try:
1133
1165
                ie = self._byid[file_id]
1134
1166
            except KeyError:
1135
 
                raise BzrError("file_id {%s} not found in inventory" % file_id)
 
1167
                raise errors.NoSuchId(tree=None, file_id=file_id)
1136
1168
            yield ie
1137
1169
            file_id = ie.parent_id
1138
1170
 
1174
1206
 
1175
1207
        Returns None IFF the path is not found.
1176
1208
        """
1177
 
        if isinstance(name, types.StringTypes):
1178
 
            name = splitpath(name)
 
1209
        if isinstance(name, basestring):
 
1210
            name = osutils.splitpath(name)
1179
1211
 
1180
1212
        # mutter("lookup path %r" % name)
1181
1213
 
1182
1214
        parent = self.root
 
1215
        if parent is None:
 
1216
            return None
1183
1217
        for f in name:
1184
1218
            try:
1185
 
                cie = parent.children[f]
1186
 
                assert cie.name == f
1187
 
                assert cie.parent_id == parent.file_id
 
1219
                children = getattr(parent, 'children', None)
 
1220
                if children is None:
 
1221
                    return None
 
1222
                cie = children[f]
1188
1223
                parent = cie
1189
1224
            except KeyError:
1190
1225
                # or raise an error?
1196
1231
        return bool(self.path2id(names))
1197
1232
 
1198
1233
    def has_id(self, file_id):
1199
 
        return self._byid.has_key(file_id)
 
1234
        return (file_id in self._byid)
 
1235
 
 
1236
    def remove_recursive_id(self, file_id):
 
1237
        """Remove file_id, and children, from the inventory.
 
1238
        
 
1239
        :param file_id: A file_id to remove.
 
1240
        """
 
1241
        to_find_delete = [self._byid[file_id]]
 
1242
        to_delete = []
 
1243
        while to_find_delete:
 
1244
            ie = to_find_delete.pop()
 
1245
            to_delete.append(ie.file_id)
 
1246
            if ie.kind == 'directory':
 
1247
                to_find_delete.extend(ie.children.values())
 
1248
        for file_id in reversed(to_delete):
 
1249
            ie = self[file_id]
 
1250
            del self._byid[file_id]
 
1251
        if ie.parent_id is not None:
 
1252
            del self[ie.parent_id].children[ie.name]
 
1253
        else:
 
1254
            self.root = None
1200
1255
 
1201
1256
    def rename(self, file_id, new_parent_id, new_name):
1202
1257
        """Move a file within the inventory.
1203
1258
 
1204
1259
        This can change either the name, or the parent, or both.
1205
1260
 
1206
 
        This does not move the working file."""
 
1261
        This does not move the working file.
 
1262
        """
 
1263
        new_name = ensure_normalized_name(new_name)
1207
1264
        if not is_valid_name(new_name):
1208
1265
            raise BzrError("not an acceptable filename: %r" % new_name)
1209
1266
 
1227
1284
        file_ie.name = new_name
1228
1285
        file_ie.parent_id = new_parent_id
1229
1286
 
 
1287
    def is_root(self, file_id):
 
1288
        return self.root is not None and file_id == self.root.file_id
 
1289
 
 
1290
 
 
1291
entry_factory = {
 
1292
    'directory': InventoryDirectory,
 
1293
    'file': InventoryFile,
 
1294
    'symlink': InventoryLink,
 
1295
    'tree-reference': TreeReference
 
1296
}
1230
1297
 
1231
1298
def make_entry(kind, name, parent_id, file_id=None):
1232
1299
    """Create an inventory entry.
1237
1304
    :param file_id: the file_id to use. if None, one will be created.
1238
1305
    """
1239
1306
    if file_id is None:
1240
 
        file_id = bzrlib.workingtree.gen_file_id(name)
1241
 
    if kind == 'directory':
1242
 
        return InventoryDirectory(file_id, name, parent_id)
1243
 
    elif kind == 'file':
1244
 
        return InventoryFile(file_id, name, parent_id)
1245
 
    elif kind == 'symlink':
1246
 
        return InventoryLink(file_id, name, parent_id)
1247
 
    else:
 
1307
        file_id = generate_ids.gen_file_id(name)
 
1308
    name = ensure_normalized_name(name)
 
1309
    try:
 
1310
        factory = entry_factory[kind]
 
1311
    except KeyError:
1248
1312
        raise BzrError("unknown kind %r" % kind)
1249
 
 
 
1313
    return factory(file_id, name, parent_id)
 
1314
 
 
1315
 
 
1316
def ensure_normalized_name(name):
 
1317
    """Normalize name.
 
1318
 
 
1319
    :raises InvalidNormalization: When name is not normalized, and cannot be
 
1320
        accessed on this platform by the normalized path.
 
1321
    :return: The NFC normalised version of name.
 
1322
    """
 
1323
    #------- This has been copied to bzrlib.dirstate.DirState.add, please
 
1324
    # keep them synchronised.
 
1325
    # we dont import normalized_filename directly because we want to be
 
1326
    # able to change the implementation at runtime for tests.
 
1327
    norm_name, can_access = osutils.normalized_filename(name)
 
1328
    if norm_name != name:
 
1329
        if can_access:
 
1330
            return norm_name
 
1331
        else:
 
1332
            # TODO: jam 20060701 This would probably be more useful
 
1333
            #       if the error was raised with the full path
 
1334
            raise errors.InvalidNormalization(name)
 
1335
    return name
1250
1336
 
1251
1337
 
1252
1338
_NAME_RE = None