~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/inventory.py

  • Committer: Robert Collins
  • Date: 2009-07-07 04:32:13 UTC
  • mto: This revision was merged to the branch mainline in revision 4524.
  • Revision ID: robertc@robertcollins.net-20090707043213-4hjjhgr40iq7gk2d
More informative assertions in xml serialisation.

Show diffs side-by-side

added added

removed removed

Lines of Context:
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
# FIXME: This refactoring of the workingtree code doesn't seem to keep 
 
17
# FIXME: This refactoring of the workingtree code doesn't seem to keep
18
18
# the WorkingTree's copy of the inventory in sync with the branch.  The
19
19
# branch modifies its working inventory when it does a commit to make
20
20
# missing files permanently removed.
27
27
# created, but it's not for now.
28
28
ROOT_ID = "TREE_ROOT"
29
29
 
30
 
import os
31
 
import re
32
 
import sys
33
 
 
34
30
from bzrlib.lazy_import import lazy_import
35
31
lazy_import(globals(), """
36
32
import collections
 
33
import copy
 
34
import os
 
35
import re
37
36
import tarfile
38
37
 
39
38
import bzrlib
40
39
from bzrlib import (
 
40
    chk_map,
41
41
    errors,
42
42
    generate_ids,
43
43
    osutils,
44
44
    symbol_versioning,
45
 
    workingtree,
46
45
    )
47
46
""")
48
47
 
50
49
    BzrCheckError,
51
50
    BzrError,
52
51
    )
 
52
from bzrlib.symbol_versioning import deprecated_in, deprecated_method
53
53
from bzrlib.trace import mutter
54
54
 
55
55
 
68
68
        file_id of the parent directory, or ROOT_ID
69
69
 
70
70
    revision
71
 
        the revision_id in which this variation of this file was 
 
71
        the revision_id in which this variation of this file was
72
72
        introduced.
73
73
 
74
74
    executable
77
77
 
78
78
    text_sha1
79
79
        sha-1 of the text of the file
80
 
        
 
80
 
81
81
    text_size
82
82
        size in bytes of the text of the file
83
 
        
 
83
 
84
84
    (reading a version 4 tree created a text_id field.)
85
85
 
86
86
    >>> i = Inventory()
89
89
    >>> i.add(InventoryDirectory('123', 'src', ROOT_ID))
90
90
    InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None)
91
91
    >>> i.add(InventoryFile('2323', 'hello.c', parent_id='123'))
92
 
    InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None)
 
92
    InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None, revision=None)
93
93
    >>> shouldbe = {0: '', 1: 'src', 2: 'src/hello.c'}
94
94
    >>> for ix, j in enumerate(i.iter_entries()):
95
95
    ...   print (j[0] == shouldbe[ix], j[1])
96
 
    ... 
 
96
    ...
97
97
    (True, InventoryDirectory('TREE_ROOT', u'', parent_id=None, revision=None))
98
98
    (True, InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None))
99
 
    (True, InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None))
 
99
    (True, InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None, revision=None))
100
100
    >>> i.add(InventoryFile('2324', 'bye.c', '123'))
101
 
    InventoryFile('2324', 'bye.c', parent_id='123', sha1=None, len=None)
 
101
    InventoryFile('2324', 'bye.c', parent_id='123', sha1=None, len=None, revision=None)
102
102
    >>> i.add(InventoryDirectory('2325', 'wibble', '123'))
103
103
    InventoryDirectory('2325', 'wibble', parent_id='123', revision=None)
104
104
    >>> i.path2id('src/wibble')
106
106
    >>> '2325' in i
107
107
    True
108
108
    >>> i.add(InventoryFile('2326', 'wibble.c', '2325'))
109
 
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None)
 
109
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None, revision=None)
110
110
    >>> i['2326']
111
 
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None)
 
111
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None, revision=None)
112
112
    >>> for path, entry in i.iter_entries():
113
113
    ...     print path
114
 
    ...     assert i.path2id(path)
115
 
    ... 
 
114
    ...
116
115
    <BLANKLINE>
117
116
    src
118
117
    src/bye.c
125
124
 
126
125
    # Constants returned by describe_change()
127
126
    #
128
 
    # TODO: These should probably move to some kind of FileChangeDescription 
129
 
    # class; that's like what's inside a TreeDelta but we want to be able to 
 
127
    # TODO: These should probably move to some kind of FileChangeDescription
 
128
    # class; that's like what's inside a TreeDelta but we want to be able to
130
129
    # generate them just for one file at a time.
131
130
    RENAMED = 'renamed'
132
131
    MODIFIED_AND_RENAMED = 'modified and renamed'
133
 
    
 
132
 
134
133
    __slots__ = []
135
134
 
136
135
    def detect_changes(self, old_entry):
137
136
        """Return a (text_modified, meta_modified) from this to old_entry.
138
 
        
139
 
        _read_tree_state must have been called on self and old_entry prior to 
 
137
 
 
138
        _read_tree_state must have been called on self and old_entry prior to
140
139
        calling detect_changes.
141
140
        """
142
141
        return False, False
143
142
 
144
 
    def diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
145
 
             output_to, reverse=False):
146
 
        """Perform a diff from this to to_entry.
147
 
 
148
 
        text_diff will be used for textual difference calculation.
149
 
        This is a template method, override _diff in child classes.
150
 
        """
151
 
        self._read_tree_state(tree.id2path(self.file_id), tree)
152
 
        if to_entry:
153
 
            # cannot diff from one kind to another - you must do a removal
154
 
            # and an addif they do not match.
155
 
            assert self.kind == to_entry.kind
156
 
            to_entry._read_tree_state(to_tree.id2path(to_entry.file_id),
157
 
                                      to_tree)
158
 
        self._diff(text_diff, from_label, tree, to_label, to_entry, to_tree,
159
 
                   output_to, reverse)
160
 
 
161
143
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
162
144
             output_to, reverse=False):
163
145
        """Perform a diff between two entries of the same kind."""
164
146
 
165
 
    def find_previous_heads(self, previous_inventories,
166
 
                            versioned_file_store,
167
 
                            transaction,
168
 
                            entry_vf=None):
169
 
        """Return the revisions and entries that directly precede this.
170
 
 
171
 
        Returned as a map from revision to inventory entry.
172
 
 
173
 
        This is a map containing the file revisions in all parents
174
 
        for which the file exists, and its revision is not a parent of
175
 
        any other. If the file is new, the set will be empty.
176
 
 
177
 
        :param versioned_file_store: A store where ancestry data on this
178
 
                                     file id can be queried.
179
 
        :param transaction: The transaction that queries to the versioned 
180
 
                            file store should be completed under.
181
 
        :param entry_vf: The entry versioned file, if its already available.
 
147
    def parent_candidates(self, previous_inventories):
 
148
        """Find possible per-file graph parents.
 
149
 
 
150
        This is currently defined by:
 
151
         - Select the last changed revision in the parent inventory.
 
152
         - Do deal with a short lived bug in bzr 0.8's development two entries
 
153
           that have the same last changed but different 'x' bit settings are
 
154
           changed in-place.
182
155
        """
183
 
        def get_ancestors(weave, entry):
184
 
            return set(weave.get_ancestry(entry.revision, topo_sorted=False))
185
156
        # revision:ie mapping for each ie found in previous_inventories.
186
157
        candidates = {}
187
 
        # revision:ie mapping with one revision for each head.
188
 
        heads = {}
189
 
        # revision: ancestor list for each head
190
 
        head_ancestors = {}
191
158
        # identify candidate head revision ids.
192
159
        for inv in previous_inventories:
193
160
            if self.file_id in inv:
194
161
                ie = inv[self.file_id]
195
 
                assert ie.file_id == self.file_id
196
 
                if ie.kind != self.kind:
197
 
                    # Can't be a candidate if the kind has changed.
198
 
                    continue
199
162
                if ie.revision in candidates:
200
163
                    # same revision value in two different inventories:
201
164
                    # correct possible inconsistencies:
202
 
                    #     * there was a bug in revision updates with 'x' bit 
 
165
                    #     * there was a bug in revision updates with 'x' bit
203
166
                    #       support.
204
167
                    try:
205
168
                        if candidates[ie.revision].executable != ie.executable:
207
170
                            ie.executable = False
208
171
                    except AttributeError:
209
172
                        pass
210
 
                    # must now be the same.
211
 
                    assert candidates[ie.revision] == ie
212
173
                else:
213
174
                    # add this revision as a candidate.
214
175
                    candidates[ie.revision] = ie
215
 
 
216
 
        # common case optimisation
217
 
        if len(candidates) == 1:
218
 
            # if there is only one candidate revision found
219
 
            # then we can opening the versioned file to access ancestry:
220
 
            # there cannot be any ancestors to eliminate when there is 
221
 
            # only one revision available.
222
 
            heads[ie.revision] = ie
223
 
            return heads
224
 
 
225
 
        # eliminate ancestors amongst the available candidates:
226
 
        # heads are those that are not an ancestor of any other candidate
227
 
        # - this provides convergence at a per-file level.
228
 
        for ie in candidates.values():
229
 
            # may be an ancestor of a known head:
230
 
            already_present = 0 != len(
231
 
                [head for head in heads 
232
 
                 if ie.revision in head_ancestors[head]])
233
 
            if already_present:
234
 
                # an ancestor of an analyzed candidate.
235
 
                continue
236
 
            # not an ancestor of a known head:
237
 
            # load the versioned file for this file id if needed
238
 
            if entry_vf is None:
239
 
                entry_vf = versioned_file_store.get_weave_or_empty(
240
 
                    self.file_id, transaction)
241
 
            ancestors = get_ancestors(entry_vf, ie)
242
 
            # may knock something else out:
243
 
            check_heads = list(heads.keys())
244
 
            for head in check_heads:
245
 
                if head in ancestors:
246
 
                    # this previously discovered 'head' is not
247
 
                    # really a head - its an ancestor of the newly 
248
 
                    # found head,
249
 
                    heads.pop(head)
250
 
            head_ancestors[ie.revision] = ancestors
251
 
            heads[ie.revision] = ie
252
 
        return heads
253
 
 
 
176
        return candidates
 
177
 
 
178
    @deprecated_method(deprecated_in((1, 6, 0)))
254
179
    def get_tar_item(self, root, dp, now, tree):
255
180
        """Get a tarfile item and a file stream for its content."""
256
181
        item = tarfile.TarInfo(osutils.pathjoin(root, dp).encode('utf8'))
273
198
 
274
199
    def __init__(self, file_id, name, parent_id, text_id=None):
275
200
        """Create an InventoryEntry
276
 
        
 
201
 
277
202
        The filename must be a single component, relative to the
278
203
        parent directory; it cannot be a whole path or relative name.
279
204
 
286
211
        Traceback (most recent call last):
287
212
        InvalidEntryName: Invalid entry name: src/hello.c
288
213
        """
289
 
        assert isinstance(name, basestring), name
290
214
        if '/' in name or '\\' in name:
291
215
            raise errors.InvalidEntryName(name=name)
292
216
        self.executable = False
294
218
        self.text_sha1 = None
295
219
        self.text_size = None
296
220
        self.file_id = file_id
297
 
        assert isinstance(file_id, (str, None.__class__)), \
298
 
            'bad type %r for %r' % (type(file_id), file_id)
299
221
        self.name = name
300
222
        self.text_id = text_id
301
223
        self.parent_id = parent_id
316
238
        raise BzrError("don't know how to export {%s} of kind %r" %
317
239
                       (self.file_id, self.kind))
318
240
 
 
241
    @deprecated_method(deprecated_in((1, 6, 0)))
319
242
    def put_on_disk(self, dest, dp, tree):
320
243
        """Create a representation of self on disk in the prefix dest.
321
 
        
 
244
 
322
245
        This is a template method - implement _put_on_disk in subclasses.
323
246
        """
324
247
        fullpath = osutils.pathjoin(dest, dp)
343
266
        This is a template method, override _check for kind specific
344
267
        tests.
345
268
 
346
 
        :param checker: Check object providing context for the checks; 
 
269
        :param checker: Check object providing context for the checks;
347
270
             can be used to find out what parts of the repository have already
348
271
             been checked.
349
272
        :param rev_id: Revision id from which this InventoryEntry was loaded.
359
282
 
360
283
    def _check(self, checker, rev_id, tree):
361
284
        """Check this inventory entry for kind specific errors."""
362
 
        raise BzrCheckError('unknown entry kind %r in revision {%s}' % 
 
285
        raise BzrCheckError('unknown entry kind %r in revision {%s}' %
363
286
                            (self.kind, rev_id))
364
287
 
365
288
    def copy(self):
369
292
    @staticmethod
370
293
    def describe_change(old_entry, new_entry):
371
294
        """Describe the change between old_entry and this.
372
 
        
 
295
 
373
296
        This smells of being an InterInventoryEntry situation, but as its
374
297
        the first one, we're making it a static method for now.
375
298
 
376
 
        An entry with a different parent, or different name is considered 
 
299
        An entry with a different parent, or different name is considered
377
300
        to be renamed. Reparenting is an internal detail.
378
301
        Note that renaming the parent does not trigger a rename for the
379
302
        child entry itself.
416
339
                   self.parent_id,
417
340
                   self.revision))
418
341
 
419
 
    def snapshot(self, revision, path, previous_entries,
420
 
                 work_tree, commit_builder):
421
 
        """Make a snapshot of this entry which may or may not have changed.
422
 
        
423
 
        This means that all its fields are populated, that it has its
424
 
        text stored in the text store or weave.
425
 
        """
426
 
        # mutter('new parents of %s are %r', path, previous_entries)
427
 
        self._read_tree_state(path, work_tree)
428
 
        # TODO: Where should we determine whether to reuse a
429
 
        # previous revision id or create a new revision? 20060606
430
 
        if len(previous_entries) == 1:
431
 
            # cannot be unchanged unless there is only one parent file rev.
432
 
            parent_ie = previous_entries.values()[0]
433
 
            if self._unchanged(parent_ie):
434
 
                # mutter("found unchanged entry")
435
 
                self.revision = parent_ie.revision
436
 
                return "unchanged"
437
 
        return self._snapshot_into_revision(revision, previous_entries, 
438
 
                                            work_tree, commit_builder)
439
 
 
440
 
    def _snapshot_into_revision(self, revision, previous_entries, work_tree,
441
 
                                commit_builder):
442
 
        """Record this revision unconditionally into a store.
443
 
 
444
 
        The entry's last-changed revision property (`revision`) is updated to 
445
 
        that of the new revision.
446
 
        
447
 
        :param revision: id of the new revision that is being recorded.
448
 
 
449
 
        :returns: String description of the commit (e.g. "merged", "modified"), etc.
450
 
        """
451
 
        # mutter('new revision {%s} for {%s}', revision, self.file_id)
452
 
        self.revision = revision
453
 
        self._snapshot_text(previous_entries, work_tree, commit_builder)
454
 
 
455
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder): 
456
 
        """Record the 'text' of this entry, whatever form that takes.
457
 
        
458
 
        This default implementation simply adds an empty text.
459
 
        """
460
 
        raise NotImplementedError(self._snapshot_text)
461
 
 
462
342
    def __eq__(self, other):
 
343
        if other is self:
 
344
            # For the case when objects are cached
 
345
            return True
463
346
        if not isinstance(other, InventoryEntry):
464
347
            return NotImplemented
465
348
 
500
383
 
501
384
    def _read_tree_state(self, path, work_tree):
502
385
        """Populate fields in the inventory entry from the given tree.
503
 
        
 
386
 
504
387
        Note that this should be modified to be a noop on virtual trees
505
388
        as all entries created there are prepopulated.
506
389
        """
507
 
        # TODO: Rather than running this manually, we should check the 
 
390
        # TODO: Rather than running this manually, we should check the
508
391
        # working sha1 and other expensive properties when they're
509
392
        # first requested, or preload them if they're already known
510
393
        pass            # nothing to do by default
536
419
    def __eq__(self, other):
537
420
        if not isinstance(other, RootEntry):
538
421
            return NotImplemented
539
 
        
 
422
 
540
423
        return (self.file_id == other.file_id) \
541
424
               and (self.children == other.children)
542
425
 
583
466
        """See InventoryEntry._put_on_disk."""
584
467
        os.mkdir(fullpath)
585
468
 
586
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
587
 
        """See InventoryEntry._snapshot_text."""
588
 
        commit_builder.modified_directory(self.file_id, file_parents)
589
 
 
590
469
 
591
470
class InventoryFile(InventoryEntry):
592
471
    """A file in an inventory."""
597
476
 
598
477
    def _check(self, checker, tree_revision_id, tree):
599
478
        """See InventoryEntry._check"""
600
 
        t = (self.file_id, self.revision)
601
 
        if t in checker.checked_texts:
602
 
            prev_sha = checker.checked_texts[t]
 
479
        key = (self.file_id, self.revision)
 
480
        if key in checker.checked_texts:
 
481
            prev_sha = checker.checked_texts[key]
603
482
            if prev_sha != self.text_sha1:
604
 
                raise BzrCheckError('mismatched sha1 on {%s} in {%s}' %
605
 
                                    (self.file_id, tree_revision_id))
 
483
                raise BzrCheckError(
 
484
                    'mismatched sha1 on {%s} in {%s} (%s != %s) %r' %
 
485
                    (self.file_id, tree_revision_id, prev_sha, self.text_sha1,
 
486
                     t))
606
487
            else:
607
488
                checker.repeated_text_cnt += 1
608
489
                return
609
490
 
610
 
        if self.file_id not in checker.checked_weaves:
611
 
            mutter('check weave {%s}', self.file_id)
612
 
            w = tree.get_weave(self.file_id)
613
 
            # Not passing a progress bar, because it creates a new
614
 
            # progress, which overwrites the current progress,
615
 
            # and doesn't look nice
616
 
            w.check()
617
 
            checker.checked_weaves[self.file_id] = True
618
 
        else:
619
 
            w = tree.get_weave(self.file_id)
620
 
 
621
 
        mutter('check version {%s} of {%s}', tree_revision_id, self.file_id)
622
491
        checker.checked_text_cnt += 1
623
492
        # We can't check the length, because Weave doesn't store that
624
493
        # information, and the whole point of looking at the weave's
625
494
        # sha1sum is that we don't have to extract the text.
626
 
        if self.text_sha1 != w.get_sha1(self.revision):
627
 
            raise BzrCheckError('text {%s} version {%s} wrong sha1' 
628
 
                                % (self.file_id, self.revision))
629
 
        checker.checked_texts[t] = self.text_sha1
 
495
        if (self.text_sha1 != tree._repository.texts.get_sha1s([key])[key]):
 
496
            raise BzrCheckError('text {%s} version {%s} wrong sha1' % key)
 
497
        checker.checked_texts[key] = self.text_sha1
630
498
 
631
499
    def copy(self):
632
500
        other = InventoryFile(self.file_id, self.name, self.parent_id)
639
507
 
640
508
    def detect_changes(self, old_entry):
641
509
        """See InventoryEntry.detect_changes."""
642
 
        assert self.text_sha1 is not None
643
 
        assert old_entry.text_sha1 is not None
644
510
        text_modified = (self.text_sha1 != old_entry.text_sha1)
645
511
        meta_modified = (self.executable != old_entry.executable)
646
512
        return text_modified, meta_modified
648
514
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
649
515
             output_to, reverse=False):
650
516
        """See InventoryEntry._diff."""
651
 
        try:
652
 
            from_text = tree.get_file(self.file_id).readlines()
653
 
            if to_entry:
654
 
                to_text = to_tree.get_file(to_entry.file_id).readlines()
655
 
            else:
656
 
                to_text = []
657
 
            if not reverse:
658
 
                text_diff(from_label, from_text,
659
 
                          to_label, to_text, output_to)
660
 
            else:
661
 
                text_diff(to_label, to_text,
662
 
                          from_label, from_text, output_to)
663
 
        except errors.BinaryFile:
664
 
            if reverse:
665
 
                label_pair = (to_label, from_label)
666
 
            else:
667
 
                label_pair = (from_label, to_label)
668
 
            print >> output_to, "Binary files %s and %s differ" % label_pair
 
517
        from bzrlib.diff import DiffText
 
518
        from_file_id = self.file_id
 
519
        if to_entry:
 
520
            to_file_id = to_entry.file_id
 
521
        else:
 
522
            to_file_id = None
 
523
        if reverse:
 
524
            to_file_id, from_file_id = from_file_id, to_file_id
 
525
            tree, to_tree = to_tree, tree
 
526
            from_label, to_label = to_label, from_label
 
527
        differ = DiffText(tree, to_tree, output_to, 'utf-8', '', '',
 
528
                          text_diff)
 
529
        return differ.diff_text(from_file_id, to_file_id, from_label, to_label)
669
530
 
670
531
    def has_text(self):
671
532
        """See InventoryEntry.has_text."""
704
565
        self.executable = work_tree.is_executable(self.file_id, path=path)
705
566
 
706
567
    def __repr__(self):
707
 
        return ("%s(%r, %r, parent_id=%r, sha1=%r, len=%s)"
 
568
        return ("%s(%r, %r, parent_id=%r, sha1=%r, len=%s, revision=%s)"
708
569
                % (self.__class__.__name__,
709
570
                   self.file_id,
710
571
                   self.name,
711
572
                   self.parent_id,
712
573
                   self.text_sha1,
713
 
                   self.text_size))
 
574
                   self.text_size,
 
575
                   self.revision))
714
576
 
715
577
    def _forget_tree_state(self):
716
578
        self.text_sha1 = None
717
579
 
718
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
719
 
        """See InventoryEntry._snapshot_text."""
720
 
        def get_content_byte_lines():
721
 
            return work_tree.get_file(self.file_id).readlines()
722
 
        self.text_sha1, self.text_size = commit_builder.modified_file_text(
723
 
            self.file_id, file_parents, get_content_byte_lines, self.text_sha1, self.text_size)
724
 
 
725
580
    def _unchanged(self, previous_ie):
726
581
        """See InventoryEntry._unchanged."""
727
582
        compatible = super(InventoryFile, self)._unchanged(previous_ie)
770
625
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
771
626
             output_to, reverse=False):
772
627
        """See InventoryEntry._diff."""
773
 
        from_text = self.symlink_target
 
628
        from bzrlib.diff import DiffSymlink
 
629
        old_target = self.symlink_target
774
630
        if to_entry is not None:
775
 
            to_text = to_entry.symlink_target
776
 
            if reverse:
777
 
                temp = from_text
778
 
                from_text = to_text
779
 
                to_text = temp
780
 
            print >>output_to, '=== target changed %r => %r' % (from_text, to_text)
781
 
        else:
782
 
            if not reverse:
783
 
                print >>output_to, '=== target was %r' % self.symlink_target
784
 
            else:
785
 
                print >>output_to, '=== target is %r' % self.symlink_target
 
631
            new_target = to_entry.symlink_target
 
632
        else:
 
633
            new_target = None
 
634
        if not reverse:
 
635
            old_tree = tree
 
636
            new_tree = to_tree
 
637
        else:
 
638
            old_tree = to_tree
 
639
            new_tree = tree
 
640
            new_target, old_target = old_target, new_target
 
641
        differ = DiffSymlink(old_tree, new_tree, output_to)
 
642
        return differ.diff_symlink(old_target, new_target)
786
643
 
787
644
    def __init__(self, file_id, name, parent_id):
788
645
        super(InventoryLink, self).__init__(file_id, name, parent_id)
822
679
            compatible = False
823
680
        return compatible
824
681
 
825
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
826
 
        """See InventoryEntry._snapshot_text."""
827
 
        commit_builder.modified_link(
828
 
            self.file_id, file_parents, self.symlink_target)
829
 
 
830
682
 
831
683
class TreeReference(InventoryEntry):
832
 
    
 
684
 
833
685
    kind = 'tree-reference'
834
 
    
 
686
 
835
687
    def __init__(self, file_id, name, parent_id, revision=None,
836
688
                 reference_revision=None):
837
689
        InventoryEntry.__init__(self, file_id, name, parent_id)
842
694
        return TreeReference(self.file_id, self.name, self.parent_id,
843
695
                             self.revision, self.reference_revision)
844
696
 
845
 
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
846
 
        commit_builder.modified_reference(self.file_id, file_parents)
847
 
 
848
697
    def _read_tree_state(self, path, work_tree):
849
698
        """Populate fields in the inventory entry from the given tree.
850
699
        """
852
701
            self.file_id, path)
853
702
 
854
703
    def _forget_tree_state(self):
855
 
        self.reference_revision = None 
856
 
 
857
 
 
858
 
class Inventory(object):
859
 
    """Inventory of versioned files in a tree.
860
 
 
861
 
    This describes which file_id is present at each point in the tree,
862
 
    and possibly the SHA-1 or other information about the file.
863
 
    Entries can be looked up either by path or by file_id.
864
 
 
865
 
    The inventory represents a typical unix file tree, with
866
 
    directories containing files and subdirectories.  We never store
867
 
    the full path to a file, because renaming a directory implicitly
868
 
    moves all of its contents.  This class internally maintains a
869
 
    lookup tree that allows the children under a directory to be
870
 
    returned quickly.
871
 
 
872
 
    InventoryEntry objects must not be modified after they are
873
 
    inserted, other than through the Inventory API.
874
 
 
875
 
    >>> inv = Inventory()
876
 
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
877
 
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None)
878
 
    >>> inv['123-123'].name
879
 
    'hello.c'
880
 
 
881
 
    May be treated as an iterator or set to look up file ids:
882
 
    
883
 
    >>> bool(inv.path2id('hello.c'))
884
 
    True
885
 
    >>> '123-123' in inv
886
 
    True
887
 
 
888
 
    May also look up by name:
889
 
 
890
 
    >>> [x[0] for x in inv.iter_entries()]
891
 
    ['', u'hello.c']
892
 
    >>> inv = Inventory('TREE_ROOT-12345678-12345678')
893
 
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
894
 
    Traceback (most recent call last):
895
 
    BzrError: parent_id {TREE_ROOT} not in inventory
896
 
    >>> inv.add(InventoryFile('123-123', 'hello.c', 'TREE_ROOT-12345678-12345678'))
897
 
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT-12345678-12345678', sha1=None, len=None)
898
 
    """
899
 
    def __init__(self, root_id=ROOT_ID, revision_id=None):
900
 
        """Create or read an inventory.
901
 
 
902
 
        If a working directory is specified, the inventory is read
903
 
        from there.  If the file is specified, read from that. If not,
904
 
        the inventory is created empty.
905
 
 
906
 
        The inventory is created with a default root directory, with
907
 
        an id of None.
908
 
        """
909
 
        if root_id is not None:
910
 
            assert root_id.__class__ == str
911
 
            self._set_root(InventoryDirectory(root_id, u'', None))
912
 
        else:
913
 
            self.root = None
914
 
            self._byid = {}
915
 
        self.revision_id = revision_id
916
 
 
917
 
    def _set_root(self, ie):
918
 
        self.root = ie
919
 
        self._byid = {self.root.file_id: self.root}
920
 
 
921
 
    def copy(self):
922
 
        # TODO: jam 20051218 Should copy also copy the revision_id?
923
 
        entries = self.iter_entries()
924
 
        other = Inventory(entries.next()[1].file_id)
925
 
        # copy recursively so we know directories will be added before
926
 
        # their children.  There are more efficient ways than this...
927
 
        for path, entry in entries():
928
 
            other.add(entry.copy())
929
 
        return other
930
 
 
931
 
    def __iter__(self):
932
 
        return iter(self._byid)
933
 
 
934
 
    def __len__(self):
935
 
        """Returns number of entries."""
936
 
        return len(self._byid)
937
 
 
938
 
    def iter_entries(self, from_dir=None):
939
 
        """Return (path, entry) pairs, in order by name."""
 
704
        self.reference_revision = None
 
705
 
 
706
    def _unchanged(self, previous_ie):
 
707
        """See InventoryEntry._unchanged."""
 
708
        compatible = super(TreeReference, self)._unchanged(previous_ie)
 
709
        if self.reference_revision != previous_ie.reference_revision:
 
710
            compatible = False
 
711
        return compatible
 
712
 
 
713
 
 
714
class CommonInventory(object):
 
715
    """Basic inventory logic, defined in terms of primitives like has_id."""
 
716
 
 
717
    def __contains__(self, file_id):
 
718
        """True if this entry contains a file with given id.
 
719
 
 
720
        >>> inv = Inventory()
 
721
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
 
722
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
 
723
        >>> '123' in inv
 
724
        True
 
725
        >>> '456' in inv
 
726
        False
 
727
 
 
728
        Note that this method along with __iter__ are not encouraged for use as
 
729
        they are less clear than specific query methods - they may be rmeoved
 
730
        in the future.
 
731
        """
 
732
        return self.has_id(file_id)
 
733
 
 
734
    def id2path(self, file_id):
 
735
        """Return as a string the path to file_id.
 
736
 
 
737
        >>> i = Inventory()
 
738
        >>> e = i.add(InventoryDirectory('src-id', 'src', ROOT_ID))
 
739
        >>> e = i.add(InventoryFile('foo-id', 'foo.c', parent_id='src-id'))
 
740
        >>> print i.id2path('foo-id')
 
741
        src/foo.c
 
742
        """
 
743
        # get all names, skipping root
 
744
        return '/'.join(reversed(
 
745
            [parent.name for parent in
 
746
             self._iter_file_id_parents(file_id)][:-1]))
 
747
 
 
748
    def iter_entries(self, from_dir=None, recursive=True):
 
749
        """Return (path, entry) pairs, in order by name.
 
750
        
 
751
        :param from_dir: if None, start from the root,
 
752
          otherwise start from this directory (either file-id or entry)
 
753
        :param recursive: recurse into directories or not
 
754
        """
940
755
        if from_dir is None:
941
756
            if self.root is None:
942
757
                return
943
758
            from_dir = self.root
944
759
            yield '', self.root
945
760
        elif isinstance(from_dir, basestring):
946
 
            from_dir = self._byid[from_dir]
947
 
            
 
761
            from_dir = self[from_dir]
 
762
 
948
763
        # unrolling the recursive called changed the time from
949
764
        # 440ms/663ms (inline/total) to 116ms/116ms
950
765
        children = from_dir.children.items()
951
766
        children.sort()
 
767
        if not recursive:
 
768
            for name, ie in children:
 
769
                yield name, ie
 
770
            return
952
771
        children = collections.deque(children)
953
772
        stack = [(u'', children)]
954
773
        while stack:
979
798
                # if we finished all children, pop it off the stack
980
799
                stack.pop()
981
800
 
982
 
    def iter_entries_by_dir(self, from_dir=None, specific_file_ids=None):
 
801
    def iter_entries_by_dir(self, from_dir=None, specific_file_ids=None,
 
802
        yield_parents=False):
983
803
        """Iterate over the entries in a directory first order.
984
804
 
985
805
        This returns all entries for a directory before returning
987
807
        lexicographically sorted order, and is a hybrid between
988
808
        depth-first and breadth-first.
989
809
 
 
810
        :param yield_parents: If True, yield the parents from the root leading
 
811
            down to specific_file_ids that have been requested. This has no
 
812
            impact if specific_file_ids is None.
990
813
        :return: This yields (path, entry) pairs
991
814
        """
992
 
        if specific_file_ids:
993
 
            safe = osutils.safe_file_id
994
 
            specific_file_ids = set(safe(fid) for fid in specific_file_ids)
 
815
        if specific_file_ids and not isinstance(specific_file_ids, set):
 
816
            specific_file_ids = set(specific_file_ids)
995
817
        # TODO? Perhaps this should return the from_dir so that the root is
996
818
        # yielded? or maybe an option?
997
819
        if from_dir is None:
998
820
            if self.root is None:
999
821
                return
1000
822
            # Optimize a common case
1001
 
            if specific_file_ids is not None and len(specific_file_ids) == 1:
 
823
            if (not yield_parents and specific_file_ids is not None and
 
824
                len(specific_file_ids) == 1):
1002
825
                file_id = list(specific_file_ids)[0]
1003
826
                if file_id in self:
1004
827
                    yield self.id2path(file_id), self[file_id]
1005
 
                return 
 
828
                return
1006
829
            from_dir = self.root
1007
 
            if (specific_file_ids is None or 
 
830
            if (specific_file_ids is None or yield_parents or
1008
831
                self.root.file_id in specific_file_ids):
1009
832
                yield u'', self.root
1010
833
        elif isinstance(from_dir, basestring):
1011
 
            from_dir = self._byid[from_dir]
 
834
            from_dir = self[from_dir]
1012
835
 
1013
836
        if specific_file_ids is not None:
1014
837
            # TODO: jam 20070302 This could really be done as a loop rather
1015
838
            #       than a bunch of recursive calls.
1016
839
            parents = set()
1017
 
            byid = self._byid
 
840
            byid = self
1018
841
            def add_ancestors(file_id):
1019
842
                if file_id not in byid:
1020
843
                    return
1028
851
                add_ancestors(file_id)
1029
852
        else:
1030
853
            parents = None
1031
 
            
 
854
 
1032
855
        stack = [(u'', from_dir)]
1033
856
        while stack:
1034
857
            cur_relpath, cur_dir = stack.pop()
1038
861
 
1039
862
                child_relpath = cur_relpath + child_name
1040
863
 
1041
 
                if (specific_file_ids is None or 
1042
 
                    child_ie.file_id in specific_file_ids):
 
864
                if (specific_file_ids is None or
 
865
                    child_ie.file_id in specific_file_ids or
 
866
                    (yield_parents and child_ie.file_id in parents)):
1043
867
                    yield child_relpath, child_ie
1044
868
 
1045
869
                if child_ie.kind == 'directory':
1047
871
                        child_dirs.append((child_relpath+'/', child_ie))
1048
872
            stack.extend(reversed(child_dirs))
1049
873
 
 
874
    def _make_delta(self, old):
 
875
        """Make an inventory delta from two inventories."""
 
876
        old_ids = set(old)
 
877
        new_ids = set(self)
 
878
        adds = new_ids - old_ids
 
879
        deletes = old_ids - new_ids
 
880
        common = old_ids.intersection(new_ids)
 
881
        delta = []
 
882
        for file_id in deletes:
 
883
            delta.append((old.id2path(file_id), None, file_id, None))
 
884
        for file_id in adds:
 
885
            delta.append((None, self.id2path(file_id), file_id, self[file_id]))
 
886
        for file_id in common:
 
887
            if old[file_id] != self[file_id]:
 
888
                delta.append((old.id2path(file_id), self.id2path(file_id),
 
889
                    file_id, self[file_id]))
 
890
        return delta
 
891
 
 
892
    def _get_mutable_inventory(self):
 
893
        """Returns a mutable copy of the object.
 
894
 
 
895
        Some inventories are immutable, yet working trees, for example, needs
 
896
        to mutate exisiting inventories instead of creating a new one.
 
897
        """
 
898
        raise NotImplementedError(self._get_mutable_inventory)
 
899
 
1050
900
    def make_entry(self, kind, name, parent_id, file_id=None):
1051
901
        """Simple thunk to bzrlib.inventory.make_entry."""
1052
902
        return make_entry(kind, name, parent_id, file_id)
1075
925
        accum = []
1076
926
        def descend(parent_ie, parent_path):
1077
927
            accum.append((parent_path, parent_ie))
1078
 
            
 
928
 
1079
929
            kids = [(ie.name, ie) for ie in parent_ie.children.itervalues() if ie.kind == 'directory']
1080
930
            kids.sort()
1081
931
 
1084
934
                descend(child_ie, child_path)
1085
935
        descend(self.root, u'')
1086
936
        return accum
 
937
 
 
938
    def path2id(self, name):
 
939
        """Walk down through directories to return entry of last component.
 
940
 
 
941
        names may be either a list of path components, or a single
 
942
        string, in which case it is automatically split.
 
943
 
 
944
        This returns the entry of the last component in the path,
 
945
        which may be either a file or a directory.
 
946
 
 
947
        Returns None IFF the path is not found.
 
948
        """
 
949
        if isinstance(name, basestring):
 
950
            name = osutils.splitpath(name)
 
951
 
 
952
        # mutter("lookup path %r" % name)
 
953
 
 
954
        try:
 
955
            parent = self.root
 
956
        except errors.NoSuchId:
 
957
            # root doesn't exist yet so nothing else can
 
958
            return None
 
959
        if parent is None:
 
960
            return None
 
961
        for f in name:
 
962
            try:
 
963
                children = getattr(parent, 'children', None)
 
964
                if children is None:
 
965
                    return None
 
966
                cie = children[f]
 
967
                parent = cie
 
968
            except KeyError:
 
969
                # or raise an error?
 
970
                return None
 
971
 
 
972
        return parent.file_id
 
973
 
 
974
    def filter(self, specific_fileids):
 
975
        """Get an inventory view filtered against a set of file-ids.
 
976
 
 
977
        Children of directories and parents are included.
 
978
 
 
979
        The result may or may not reference the underlying inventory
 
980
        so it should be treated as immutable.
 
981
        """
 
982
        interesting_parents = set()
 
983
        for fileid in specific_fileids:
 
984
            try:
 
985
                interesting_parents.update(self.get_idpath(fileid))
 
986
            except errors.NoSuchId:
 
987
                # This fileid is not in the inventory - that's ok
 
988
                pass
 
989
        entries = self.iter_entries()
 
990
        if self.root is None:
 
991
            return Inventory(root_id=None)
 
992
        other = Inventory(entries.next()[1].file_id)
 
993
        other.root.revision = self.root.revision
 
994
        other.revision_id = self.revision_id
 
995
        directories_to_expand = set()
 
996
        for path, entry in entries:
 
997
            file_id = entry.file_id
 
998
            if (file_id in specific_fileids
 
999
                or entry.parent_id in directories_to_expand):
 
1000
                if entry.kind == 'directory':
 
1001
                    directories_to_expand.add(file_id)
 
1002
            elif file_id not in interesting_parents:
 
1003
                continue
 
1004
            other.add(entry.copy())
 
1005
        return other
 
1006
 
 
1007
    def get_idpath(self, file_id):
 
1008
        """Return a list of file_ids for the path to an entry.
 
1009
 
 
1010
        The list contains one element for each directory followed by
 
1011
        the id of the file itself.  So the length of the returned list
 
1012
        is equal to the depth of the file in the tree, counting the
 
1013
        root directory as depth 1.
 
1014
        """
 
1015
        p = []
 
1016
        for parent in self._iter_file_id_parents(file_id):
 
1017
            p.insert(0, parent.file_id)
 
1018
        return p
 
1019
 
 
1020
 
 
1021
class Inventory(CommonInventory):
 
1022
    """Inventory of versioned files in a tree.
 
1023
 
 
1024
    This describes which file_id is present at each point in the tree,
 
1025
    and possibly the SHA-1 or other information about the file.
 
1026
    Entries can be looked up either by path or by file_id.
 
1027
 
 
1028
    The inventory represents a typical unix file tree, with
 
1029
    directories containing files and subdirectories.  We never store
 
1030
    the full path to a file, because renaming a directory implicitly
 
1031
    moves all of its contents.  This class internally maintains a
 
1032
    lookup tree that allows the children under a directory to be
 
1033
    returned quickly.
 
1034
 
 
1035
    InventoryEntry objects must not be modified after they are
 
1036
    inserted, other than through the Inventory API.
 
1037
 
 
1038
    >>> inv = Inventory()
 
1039
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
 
1040
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
 
1041
    >>> inv['123-123'].name
 
1042
    'hello.c'
 
1043
 
 
1044
    May be treated as an iterator or set to look up file ids:
 
1045
 
 
1046
    >>> bool(inv.path2id('hello.c'))
 
1047
    True
 
1048
    >>> '123-123' in inv
 
1049
    True
 
1050
 
 
1051
    May also look up by name:
 
1052
 
 
1053
    >>> [x[0] for x in inv.iter_entries()]
 
1054
    ['', u'hello.c']
 
1055
    >>> inv = Inventory('TREE_ROOT-12345678-12345678')
 
1056
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
 
1057
    Traceback (most recent call last):
 
1058
    BzrError: parent_id {TREE_ROOT} not in inventory
 
1059
    >>> inv.add(InventoryFile('123-123', 'hello.c', 'TREE_ROOT-12345678-12345678'))
 
1060
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT-12345678-12345678', sha1=None, len=None, revision=None)
 
1061
    """
 
1062
    def __init__(self, root_id=ROOT_ID, revision_id=None):
 
1063
        """Create or read an inventory.
 
1064
 
 
1065
        If a working directory is specified, the inventory is read
 
1066
        from there.  If the file is specified, read from that. If not,
 
1067
        the inventory is created empty.
 
1068
 
 
1069
        The inventory is created with a default root directory, with
 
1070
        an id of None.
 
1071
        """
 
1072
        if root_id is not None:
 
1073
            self._set_root(InventoryDirectory(root_id, u'', None))
 
1074
        else:
 
1075
            self.root = None
 
1076
            self._byid = {}
 
1077
        self.revision_id = revision_id
 
1078
 
 
1079
    def __repr__(self):
 
1080
        # More than one page of ouput is not useful anymore to debug
 
1081
        max_len = 2048
 
1082
        closing = '...}'
 
1083
        contents = repr(self._byid)
 
1084
        if len(contents) > max_len:
 
1085
            contents = contents[:(max_len-len(closing))] + closing
 
1086
        return "<Inventory object at %x, contents=%r>" % (id(self), contents)
 
1087
 
 
1088
    def apply_delta(self, delta):
 
1089
        """Apply a delta to this inventory.
 
1090
 
 
1091
        See the inventory developers documentation for the theory behind
 
1092
        inventory deltas.
 
1093
 
 
1094
        :param delta: A list of changes to apply. After all the changes are
 
1095
            applied the final inventory must be internally consistent, but it
 
1096
            is ok to supply changes which, if only half-applied would have an
 
1097
            invalid result - such as supplying two changes which rename two
 
1098
            files, 'A' and 'B' with each other : [('A', 'B', 'A-id', a_entry),
 
1099
            ('B', 'A', 'B-id', b_entry)].
 
1100
 
 
1101
            Each change is a tuple, of the form (old_path, new_path, file_id,
 
1102
            new_entry).
 
1103
 
 
1104
            When new_path is None, the change indicates the removal of an entry
 
1105
            from the inventory and new_entry will be ignored (using None is
 
1106
            appropriate). If new_path is not None, then new_entry must be an
 
1107
            InventoryEntry instance, which will be incorporated into the
 
1108
            inventory (and replace any existing entry with the same file id).
 
1109
 
 
1110
            When old_path is None, the change indicates the addition of
 
1111
            a new entry to the inventory.
 
1112
 
 
1113
            When neither new_path nor old_path are None, the change is a
 
1114
            modification to an entry, such as a rename, reparent, kind change
 
1115
            etc.
 
1116
 
 
1117
            The children attribute of new_entry is ignored. This is because
 
1118
            this method preserves children automatically across alterations to
 
1119
            the parent of the children, and cases where the parent id of a
 
1120
            child is changing require the child to be passed in as a separate
 
1121
            change regardless. E.g. in the recursive deletion of a directory -
 
1122
            the directory's children must be included in the delta, or the
 
1123
            final inventory will be invalid.
 
1124
 
 
1125
            Note that a file_id must only appear once within a given delta.
 
1126
            An AssertionError is raised otherwise.
 
1127
        """
 
1128
        # Check that the delta is legal. It would be nice if this could be
 
1129
        # done within the loops below but it's safer to validate the delta
 
1130
        # before starting to mutate the inventory.
 
1131
        unique_file_ids = set([f for _, _, f, _ in delta])
 
1132
        if len(unique_file_ids) != len(delta):
 
1133
            raise AssertionError("a file-id appears multiple times in %r"
 
1134
                    % (delta,))
 
1135
        del unique_file_ids
 
1136
 
 
1137
        children = {}
 
1138
        # Remove all affected items which were in the original inventory,
 
1139
        # starting with the longest paths, thus ensuring parents are examined
 
1140
        # after their children, which means that everything we examine has no
 
1141
        # modified children remaining by the time we examine it.
 
1142
        for old_path, file_id in sorted(((op, f) for op, np, f, e in delta
 
1143
                                        if op is not None), reverse=True):
 
1144
            if file_id not in self:
 
1145
                # adds come later
 
1146
                continue
 
1147
            # Preserve unaltered children of file_id for later reinsertion.
 
1148
            file_id_children = getattr(self[file_id], 'children', {})
 
1149
            if len(file_id_children):
 
1150
                children[file_id] = file_id_children
 
1151
            # Remove file_id and the unaltered children. If file_id is not
 
1152
            # being deleted it will be reinserted back later.
 
1153
            self.remove_recursive_id(file_id)
 
1154
        # Insert all affected which should be in the new inventory, reattaching
 
1155
        # their children if they had any. This is done from shortest path to
 
1156
        # longest, ensuring that items which were modified and whose parents in
 
1157
        # the resulting inventory were also modified, are inserted after their
 
1158
        # parents.
 
1159
        for new_path, new_entry in sorted((np, e) for op, np, f, e in
 
1160
                                          delta if np is not None):
 
1161
            if new_entry.kind == 'directory':
 
1162
                # Pop the child which to allow detection of children whose
 
1163
                # parents were deleted and which were not reattached to a new
 
1164
                # parent.
 
1165
                replacement = InventoryDirectory(new_entry.file_id,
 
1166
                    new_entry.name, new_entry.parent_id)
 
1167
                replacement.revision = new_entry.revision
 
1168
                replacement.children = children.pop(replacement.file_id, {})
 
1169
                new_entry = replacement
 
1170
            self.add(new_entry)
 
1171
        if len(children):
 
1172
            # Get the parent id that was deleted
 
1173
            parent_id, children = children.popitem()
 
1174
            raise errors.InconsistentDelta("<deleted>", parent_id,
 
1175
                "The file id was deleted but its children were not deleted.")
 
1176
 
 
1177
    def _set_root(self, ie):
 
1178
        self.root = ie
 
1179
        self._byid = {self.root.file_id: self.root}
 
1180
 
 
1181
    def copy(self):
 
1182
        # TODO: jam 20051218 Should copy also copy the revision_id?
 
1183
        entries = self.iter_entries()
 
1184
        if self.root is None:
 
1185
            return Inventory(root_id=None)
 
1186
        other = Inventory(entries.next()[1].file_id)
 
1187
        other.root.revision = self.root.revision
 
1188
        # copy recursively so we know directories will be added before
 
1189
        # their children.  There are more efficient ways than this...
 
1190
        for path, entry in entries:
 
1191
            other.add(entry.copy())
 
1192
        return other
 
1193
 
 
1194
    def _get_mutable_inventory(self):
 
1195
        """See CommonInventory._get_mutable_inventory."""
 
1196
        return copy.deepcopy(self)
 
1197
 
 
1198
    def __iter__(self):
 
1199
        """Iterate over all file-ids."""
 
1200
        return iter(self._byid)
 
1201
 
 
1202
    def iter_just_entries(self):
 
1203
        """Iterate over all entries.
1087
1204
        
1088
 
    def __contains__(self, file_id):
1089
 
        """True if this entry contains a file with given id.
 
1205
        Unlike iter_entries(), just the entries are returned (not (path, ie))
 
1206
        and the order of entries is undefined.
1090
1207
 
1091
 
        >>> inv = Inventory()
1092
 
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
1093
 
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None)
1094
 
        >>> '123' in inv
1095
 
        True
1096
 
        >>> '456' in inv
1097
 
        False
 
1208
        XXX: We may not want to merge this into bzr.dev.
1098
1209
        """
1099
 
        file_id = osutils.safe_file_id(file_id)
1100
 
        return (file_id in self._byid)
 
1210
        if self.root is None:
 
1211
            return
 
1212
        for _, ie in self._byid.iteritems():
 
1213
            yield ie
 
1214
 
 
1215
    def __len__(self):
 
1216
        """Returns number of entries."""
 
1217
        return len(self._byid)
1101
1218
 
1102
1219
    def __getitem__(self, file_id):
1103
1220
        """Return the entry for given file_id.
1104
1221
 
1105
1222
        >>> inv = Inventory()
1106
1223
        >>> inv.add(InventoryFile('123123', 'hello.c', ROOT_ID))
1107
 
        InventoryFile('123123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None)
 
1224
        InventoryFile('123123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
1108
1225
        >>> inv['123123'].name
1109
1226
        'hello.c'
1110
1227
        """
1111
 
        file_id = osutils.safe_file_id(file_id)
1112
1228
        try:
1113
1229
            return self._byid[file_id]
1114
1230
        except KeyError:
1116
1232
            raise errors.NoSuchId(self, file_id)
1117
1233
 
1118
1234
    def get_file_kind(self, file_id):
1119
 
        file_id = osutils.safe_file_id(file_id)
1120
1235
        return self._byid[file_id].kind
1121
1236
 
1122
1237
    def get_child(self, parent_id, filename):
1123
 
        parent_id = osutils.safe_file_id(parent_id)
1124
1238
        return self[parent_id].children.get(filename)
1125
1239
 
1126
1240
    def _add_child(self, entry):
1146
1260
                                         self._byid[entry.file_id])
1147
1261
 
1148
1262
        if entry.parent_id is None:
1149
 
            assert self.root is None and len(self._byid) == 0
1150
1263
            self.root = entry
1151
1264
        else:
1152
1265
            try:
1168
1281
        The immediate parent must already be versioned.
1169
1282
 
1170
1283
        Returns the new entry object."""
1171
 
        
 
1284
 
1172
1285
        parts = osutils.splitpath(relpath)
1173
1286
 
1174
1287
        if len(parts) == 0:
1175
1288
            if file_id is None:
1176
1289
                file_id = generate_ids.gen_root_id()
1177
 
            else:
1178
 
                file_id = osutils.safe_file_id(file_id)
1179
1290
            self.root = InventoryDirectory(file_id, '', None)
1180
1291
            self._byid = {self.root.file_id: self.root}
1181
1292
            return self.root
1192
1303
 
1193
1304
        >>> inv = Inventory()
1194
1305
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
1195
 
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None)
 
1306
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
1196
1307
        >>> '123' in inv
1197
1308
        True
1198
1309
        >>> del inv['123']
1199
1310
        >>> '123' in inv
1200
1311
        False
1201
1312
        """
1202
 
        file_id = osutils.safe_file_id(file_id)
1203
1313
        ie = self[file_id]
1204
 
 
1205
 
        assert ie.parent_id is None or \
1206
 
            self[ie.parent_id].children[ie.name] == ie
1207
 
        
1208
1314
        del self._byid[file_id]
1209
1315
        if ie.parent_id is not None:
1210
1316
            del self[ie.parent_id].children[ie.name]
1217
1323
        >>> i1 == i2
1218
1324
        True
1219
1325
        >>> i1.add(InventoryFile('123', 'foo', ROOT_ID))
1220
 
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None)
 
1326
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
1221
1327
        >>> i1 == i2
1222
1328
        False
1223
1329
        >>> i2.add(InventoryFile('123', 'foo', ROOT_ID))
1224
 
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None)
 
1330
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
1225
1331
        >>> i1 == i2
1226
1332
        True
1227
1333
        """
1238
1344
 
1239
1345
    def _iter_file_id_parents(self, file_id):
1240
1346
        """Yield the parents of file_id up to the root."""
1241
 
        file_id = osutils.safe_file_id(file_id)
1242
1347
        while file_id is not None:
1243
1348
            try:
1244
1349
                ie = self._byid[file_id]
1247
1352
            yield ie
1248
1353
            file_id = ie.parent_id
1249
1354
 
1250
 
    def get_idpath(self, file_id):
1251
 
        """Return a list of file_ids for the path to an entry.
1252
 
 
1253
 
        The list contains one element for each directory followed by
1254
 
        the id of the file itself.  So the length of the returned list
1255
 
        is equal to the depth of the file in the tree, counting the
1256
 
        root directory as depth 1.
1257
 
        """
1258
 
        file_id = osutils.safe_file_id(file_id)
1259
 
        p = []
1260
 
        for parent in self._iter_file_id_parents(file_id):
1261
 
            p.insert(0, parent.file_id)
1262
 
        return p
1263
 
 
1264
 
    def id2path(self, file_id):
1265
 
        """Return as a string the path to file_id.
1266
 
        
1267
 
        >>> i = Inventory()
1268
 
        >>> e = i.add(InventoryDirectory('src-id', 'src', ROOT_ID))
1269
 
        >>> e = i.add(InventoryFile('foo-id', 'foo.c', parent_id='src-id'))
1270
 
        >>> print i.id2path('foo-id')
1271
 
        src/foo.c
1272
 
        """
1273
 
        file_id = osutils.safe_file_id(file_id)
1274
 
        # get all names, skipping root
1275
 
        return '/'.join(reversed(
1276
 
            [parent.name for parent in 
1277
 
             self._iter_file_id_parents(file_id)][:-1]))
1278
 
            
1279
 
    def path2id(self, name):
1280
 
        """Walk down through directories to return entry of last component.
1281
 
 
1282
 
        names may be either a list of path components, or a single
1283
 
        string, in which case it is automatically split.
1284
 
 
1285
 
        This returns the entry of the last component in the path,
1286
 
        which may be either a file or a directory.
1287
 
 
1288
 
        Returns None IFF the path is not found.
1289
 
        """
1290
 
        if isinstance(name, basestring):
1291
 
            name = osutils.splitpath(name)
1292
 
 
1293
 
        # mutter("lookup path %r" % name)
1294
 
 
1295
 
        parent = self.root
1296
 
        if parent is None:
1297
 
            return None
1298
 
        for f in name:
1299
 
            try:
1300
 
                children = getattr(parent, 'children', None)
1301
 
                if children is None:
1302
 
                    return None
1303
 
                cie = children[f]
1304
 
                assert cie.name == f
1305
 
                assert cie.parent_id == parent.file_id
1306
 
                parent = cie
1307
 
            except KeyError:
1308
 
                # or raise an error?
1309
 
                return None
1310
 
 
1311
 
        return parent.file_id
1312
 
 
1313
 
    def has_filename(self, names):
1314
 
        return bool(self.path2id(names))
 
1355
    def has_filename(self, filename):
 
1356
        return bool(self.path2id(filename))
1315
1357
 
1316
1358
    def has_id(self, file_id):
1317
 
        file_id = osutils.safe_file_id(file_id)
1318
1359
        return (file_id in self._byid)
1319
1360
 
 
1361
    def _make_delta(self, old):
 
1362
        """Make an inventory delta from two inventories."""
 
1363
        old_getter = getattr(old, '_byid', old)
 
1364
        new_getter = self._byid
 
1365
        old_ids = set(old_getter)
 
1366
        new_ids = set(new_getter)
 
1367
        adds = new_ids - old_ids
 
1368
        deletes = old_ids - new_ids
 
1369
        if not adds and not deletes:
 
1370
            common = new_ids
 
1371
        else:
 
1372
            common = old_ids.intersection(new_ids)
 
1373
        delta = []
 
1374
        for file_id in deletes:
 
1375
            delta.append((old.id2path(file_id), None, file_id, None))
 
1376
        for file_id in adds:
 
1377
            delta.append((None, self.id2path(file_id), file_id, self[file_id]))
 
1378
        for file_id in common:
 
1379
            new_ie = new_getter[file_id]
 
1380
            old_ie = old_getter[file_id]
 
1381
            # If xml_serializer returns the cached InventoryEntries (rather
 
1382
            # than always doing .copy()), inlining the 'is' check saves 2.7M
 
1383
            # calls to __eq__.  Under lsprof this saves 20s => 6s.
 
1384
            # It is a minor improvement without lsprof.
 
1385
            if old_ie is new_ie or old_ie == new_ie:
 
1386
                continue
 
1387
            else:
 
1388
                delta.append((old.id2path(file_id), self.id2path(file_id),
 
1389
                              file_id, new_ie))
 
1390
        return delta
 
1391
 
1320
1392
    def remove_recursive_id(self, file_id):
1321
1393
        """Remove file_id, and children, from the inventory.
1322
 
        
 
1394
 
1323
1395
        :param file_id: A file_id to remove.
1324
1396
        """
1325
 
        file_id = osutils.safe_file_id(file_id)
1326
1397
        to_find_delete = [self._byid[file_id]]
1327
1398
        to_delete = []
1328
1399
        while to_find_delete:
1345
1416
 
1346
1417
        This does not move the working file.
1347
1418
        """
1348
 
        file_id = osutils.safe_file_id(file_id)
 
1419
        new_name = ensure_normalized_name(new_name)
1349
1420
        if not is_valid_name(new_name):
1350
1421
            raise BzrError("not an acceptable filename: %r" % new_name)
1351
1422
 
1365
1436
 
1366
1437
        del old_parent.children[file_ie.name]
1367
1438
        new_parent.children[new_name] = file_ie
1368
 
        
 
1439
 
1369
1440
        file_ie.name = new_name
1370
1441
        file_ie.parent_id = new_parent_id
1371
1442
 
1372
1443
    def is_root(self, file_id):
1373
 
        file_id = osutils.safe_file_id(file_id)
1374
1444
        return self.root is not None and file_id == self.root.file_id
1375
1445
 
1376
1446
 
 
1447
class CHKInventory(CommonInventory):
 
1448
    """An inventory persisted in a CHK store.
 
1449
 
 
1450
    By design, a CHKInventory is immutable so many of the methods
 
1451
    supported by Inventory - add, rename, apply_delta, etc - are *not*
 
1452
    supported. To create a new CHKInventory, use create_by_apply_delta()
 
1453
    or from_inventory(), say.
 
1454
 
 
1455
    Internally, a CHKInventory has one or two CHKMaps:
 
1456
 
 
1457
    * id_to_entry - a map from (file_id,) => InventoryEntry as bytes
 
1458
    * parent_id_basename_to_file_id - a map from (parent_id, basename_utf8)
 
1459
        => file_id as bytes
 
1460
 
 
1461
    The second map is optional and not present in early CHkRepository's.
 
1462
 
 
1463
    No caching is performed: every method call or item access will perform
 
1464
    requests to the storage layer. As such, keep references to objects you
 
1465
    want to reuse.
 
1466
    """
 
1467
 
 
1468
    def __init__(self, search_key_name):
 
1469
        CommonInventory.__init__(self)
 
1470
        self._fileid_to_entry_cache = {}
 
1471
        self._path_to_fileid_cache = {}
 
1472
        self._search_key_name = search_key_name
 
1473
 
 
1474
    def __eq__(self, other):
 
1475
        """Compare two sets by comparing their contents."""
 
1476
        if not isinstance(other, CHKInventory):
 
1477
            return NotImplemented
 
1478
 
 
1479
        this_key = self.id_to_entry.key()
 
1480
        other_key = other.id_to_entry.key()
 
1481
        this_pid_key = self.parent_id_basename_to_file_id.key()
 
1482
        other_pid_key = other.parent_id_basename_to_file_id.key()
 
1483
        if None in (this_key, this_pid_key, other_key, other_pid_key):
 
1484
            return False
 
1485
        return this_key == other_key and this_pid_key == other_pid_key
 
1486
 
 
1487
    def _entry_to_bytes(self, entry):
 
1488
        """Serialise entry as a single bytestring.
 
1489
 
 
1490
        :param Entry: An inventory entry.
 
1491
        :return: A bytestring for the entry.
 
1492
 
 
1493
        The BNF:
 
1494
        ENTRY ::= FILE | DIR | SYMLINK | TREE
 
1495
        FILE ::= "file: " COMMON SEP SHA SEP SIZE SEP EXECUTABLE
 
1496
        DIR ::= "dir: " COMMON
 
1497
        SYMLINK ::= "symlink: " COMMON SEP TARGET_UTF8
 
1498
        TREE ::= "tree: " COMMON REFERENCE_REVISION
 
1499
        COMMON ::= FILE_ID SEP PARENT_ID SEP NAME_UTF8 SEP REVISION
 
1500
        SEP ::= "\n"
 
1501
        """
 
1502
        if entry.parent_id is not None:
 
1503
            parent_str = entry.parent_id
 
1504
        else:
 
1505
            parent_str = ''
 
1506
        name_str = entry.name.encode("utf8")
 
1507
        if entry.kind == 'file':
 
1508
            if entry.executable:
 
1509
                exec_str = "Y"
 
1510
            else:
 
1511
                exec_str = "N"
 
1512
            return "file: %s\n%s\n%s\n%s\n%s\n%d\n%s" % (
 
1513
                entry.file_id, parent_str, name_str, entry.revision,
 
1514
                entry.text_sha1, entry.text_size, exec_str)
 
1515
        elif entry.kind == 'directory':
 
1516
            return "dir: %s\n%s\n%s\n%s" % (
 
1517
                entry.file_id, parent_str, name_str, entry.revision)
 
1518
        elif entry.kind == 'symlink':
 
1519
            return "symlink: %s\n%s\n%s\n%s\n%s" % (
 
1520
                entry.file_id, parent_str, name_str, entry.revision,
 
1521
                entry.symlink_target.encode("utf8"))
 
1522
        elif entry.kind == 'tree-reference':
 
1523
            return "tree: %s\n%s\n%s\n%s\n%s" % (
 
1524
                entry.file_id, parent_str, name_str, entry.revision,
 
1525
                entry.reference_revision)
 
1526
        else:
 
1527
            raise ValueError("unknown kind %r" % entry.kind)
 
1528
 
 
1529
    @staticmethod
 
1530
    def _bytes_to_utf8name_key(bytes):
 
1531
        """Get the file_id, revision_id key out of bytes."""
 
1532
        # We don't normally care about name, except for times when we want
 
1533
        # to filter out empty names because of non rich-root...
 
1534
        sections = bytes.split('\n')
 
1535
        kind, file_id = sections[0].split(': ')
 
1536
        return (sections[2], file_id, sections[3])
 
1537
 
 
1538
    def _bytes_to_entry(self, bytes):
 
1539
        """Deserialise a serialised entry."""
 
1540
        sections = bytes.split('\n')
 
1541
        if sections[0].startswith("file: "):
 
1542
            result = InventoryFile(sections[0][6:],
 
1543
                sections[2].decode('utf8'),
 
1544
                sections[1])
 
1545
            result.text_sha1 = sections[4]
 
1546
            result.text_size = int(sections[5])
 
1547
            result.executable = sections[6] == "Y"
 
1548
        elif sections[0].startswith("dir: "):
 
1549
            result = CHKInventoryDirectory(sections[0][5:],
 
1550
                sections[2].decode('utf8'),
 
1551
                sections[1], self)
 
1552
        elif sections[0].startswith("symlink: "):
 
1553
            result = InventoryLink(sections[0][9:],
 
1554
                sections[2].decode('utf8'),
 
1555
                sections[1])
 
1556
            result.symlink_target = sections[4].decode('utf8')
 
1557
        elif sections[0].startswith("tree: "):
 
1558
            result = TreeReference(sections[0][6:],
 
1559
                sections[2].decode('utf8'),
 
1560
                sections[1])
 
1561
            result.reference_revision = sections[4]
 
1562
        else:
 
1563
            raise ValueError("Not a serialised entry %r" % bytes)
 
1564
        result.revision = sections[3]
 
1565
        if result.parent_id == '':
 
1566
            result.parent_id = None
 
1567
        self._fileid_to_entry_cache[result.file_id] = result
 
1568
        return result
 
1569
 
 
1570
    def _get_mutable_inventory(self):
 
1571
        """See CommonInventory._get_mutable_inventory."""
 
1572
        entries = self.iter_entries()
 
1573
        inv = Inventory(None, self.revision_id)
 
1574
        for path, inv_entry in entries:
 
1575
            inv.add(inv_entry.copy())
 
1576
        return inv
 
1577
 
 
1578
    def create_by_apply_delta(self, inventory_delta, new_revision_id,
 
1579
        propagate_caches=False):
 
1580
        """Create a new CHKInventory by applying inventory_delta to this one.
 
1581
 
 
1582
        See the inventory developers documentation for the theory behind
 
1583
        inventory deltas.
 
1584
 
 
1585
        :param inventory_delta: The inventory delta to apply. See
 
1586
            Inventory.apply_delta for details.
 
1587
        :param new_revision_id: The revision id of the resulting CHKInventory.
 
1588
        :param propagate_caches: If True, the caches for this inventory are
 
1589
          copied to and updated for the result.
 
1590
        :return: The new CHKInventory.
 
1591
        """
 
1592
        result = CHKInventory(self._search_key_name)
 
1593
        if propagate_caches:
 
1594
            # Just propagate the path-to-fileid cache for now
 
1595
            result._path_to_fileid_cache = dict(self._path_to_fileid_cache.iteritems())
 
1596
        search_key_func = chk_map.search_key_registry.get(self._search_key_name)
 
1597
        self.id_to_entry._ensure_root()
 
1598
        maximum_size = self.id_to_entry._root_node.maximum_size
 
1599
        result.revision_id = new_revision_id
 
1600
        result.id_to_entry = chk_map.CHKMap(
 
1601
            self.id_to_entry._store,
 
1602
            self.id_to_entry.key(),
 
1603
            search_key_func=search_key_func)
 
1604
        result.id_to_entry._ensure_root()
 
1605
        result.id_to_entry._root_node.set_maximum_size(maximum_size)
 
1606
        parent_id_basename_delta = []
 
1607
        if self.parent_id_basename_to_file_id is not None:
 
1608
            result.parent_id_basename_to_file_id = chk_map.CHKMap(
 
1609
                self.parent_id_basename_to_file_id._store,
 
1610
                self.parent_id_basename_to_file_id.key(),
 
1611
                search_key_func=search_key_func)
 
1612
            result.parent_id_basename_to_file_id._ensure_root()
 
1613
            self.parent_id_basename_to_file_id._ensure_root()
 
1614
            result_p_id_root = result.parent_id_basename_to_file_id._root_node
 
1615
            p_id_root = self.parent_id_basename_to_file_id._root_node
 
1616
            result_p_id_root.set_maximum_size(p_id_root.maximum_size)
 
1617
            result_p_id_root._key_width = p_id_root._key_width
 
1618
        else:
 
1619
            result.parent_id_basename_to_file_id = None
 
1620
        result.root_id = self.root_id
 
1621
        id_to_entry_delta = []
 
1622
        for old_path, new_path, file_id, entry in inventory_delta:
 
1623
            # file id changes
 
1624
            if new_path == '':
 
1625
                result.root_id = file_id
 
1626
            if new_path is None:
 
1627
                # Make a delete:
 
1628
                new_key = None
 
1629
                new_value = None
 
1630
                # Update caches
 
1631
                if propagate_caches:
 
1632
                    try:
 
1633
                        del result._path_to_fileid_cache[old_path]
 
1634
                    except KeyError:
 
1635
                        pass
 
1636
            else:
 
1637
                new_key = (file_id,)
 
1638
                new_value = result._entry_to_bytes(entry)
 
1639
                # Update caches. It's worth doing this whether
 
1640
                # we're propagating the old caches or not.
 
1641
                result._path_to_fileid_cache[new_path] = file_id
 
1642
            if old_path is None:
 
1643
                old_key = None
 
1644
            else:
 
1645
                old_key = (file_id,)
 
1646
            id_to_entry_delta.append((old_key, new_key, new_value))
 
1647
            if result.parent_id_basename_to_file_id is not None:
 
1648
                # parent_id, basename changes
 
1649
                if old_path is None:
 
1650
                    old_key = None
 
1651
                else:
 
1652
                    old_entry = self[file_id]
 
1653
                    old_key = self._parent_id_basename_key(old_entry)
 
1654
                if new_path is None:
 
1655
                    new_key = None
 
1656
                    new_value = None
 
1657
                else:
 
1658
                    new_key = self._parent_id_basename_key(entry)
 
1659
                    new_value = file_id
 
1660
                if old_key != new_key:
 
1661
                    # If the two keys are the same, the value will be unchanged
 
1662
                    # as its always the file id.
 
1663
                    parent_id_basename_delta.append((old_key, new_key, new_value))
 
1664
        result.id_to_entry.apply_delta(id_to_entry_delta)
 
1665
        if parent_id_basename_delta:
 
1666
            result.parent_id_basename_to_file_id.apply_delta(parent_id_basename_delta)
 
1667
        return result
 
1668
 
 
1669
    @classmethod
 
1670
    def deserialise(klass, chk_store, bytes, expected_revision_id):
 
1671
        """Deserialise a CHKInventory.
 
1672
 
 
1673
        :param chk_store: A CHK capable VersionedFiles instance.
 
1674
        :param bytes: The serialised bytes.
 
1675
        :param expected_revision_id: The revision ID we think this inventory is
 
1676
            for.
 
1677
        :return: A CHKInventory
 
1678
        """
 
1679
        lines = bytes.split('\n')
 
1680
        if lines[-1] != '':
 
1681
            raise AssertionError('bytes to deserialize must end with an eol')
 
1682
        lines.pop()
 
1683
        if lines[0] != 'chkinventory:':
 
1684
            raise ValueError("not a serialised CHKInventory: %r" % bytes)
 
1685
        info = {}
 
1686
        allowed_keys = frozenset(['root_id', 'revision_id', 'search_key_name',
 
1687
                                  'parent_id_basename_to_file_id',
 
1688
                                  'id_to_entry'])
 
1689
        for line in lines[1:]:
 
1690
            key, value = line.split(': ', 1)
 
1691
            if key not in allowed_keys:
 
1692
                raise errors.BzrError('Unknown key in inventory: %r\n%r'
 
1693
                                      % (key, bytes))
 
1694
            if key in info:
 
1695
                raise errors.BzrError('Duplicate key in inventory: %r\n%r'
 
1696
                                      % (key, bytes))
 
1697
            info[key] = value
 
1698
        revision_id = info['revision_id']
 
1699
        root_id = info['root_id']
 
1700
        search_key_name = info.get('search_key_name', 'plain')
 
1701
        parent_id_basename_to_file_id = info.get(
 
1702
            'parent_id_basename_to_file_id', None)
 
1703
        id_to_entry = info['id_to_entry']
 
1704
 
 
1705
        result = CHKInventory(search_key_name)
 
1706
        result.revision_id = revision_id
 
1707
        result.root_id = root_id
 
1708
        search_key_func = chk_map.search_key_registry.get(
 
1709
                            result._search_key_name)
 
1710
        if parent_id_basename_to_file_id is not None:
 
1711
            result.parent_id_basename_to_file_id = chk_map.CHKMap(
 
1712
                chk_store, (parent_id_basename_to_file_id,),
 
1713
                search_key_func=search_key_func)
 
1714
        else:
 
1715
            result.parent_id_basename_to_file_id = None
 
1716
 
 
1717
        result.id_to_entry = chk_map.CHKMap(chk_store, (id_to_entry,),
 
1718
                                            search_key_func=search_key_func)
 
1719
        if (result.revision_id,) != expected_revision_id:
 
1720
            raise ValueError("Mismatched revision id and expected: %r, %r" %
 
1721
                (result.revision_id, expected_revision_id))
 
1722
        return result
 
1723
 
 
1724
    @classmethod
 
1725
    def from_inventory(klass, chk_store, inventory, maximum_size=0, search_key_name='plain'):
 
1726
        """Create a CHKInventory from an existing inventory.
 
1727
 
 
1728
        The content of inventory is copied into the chk_store, and a
 
1729
        CHKInventory referencing that is returned.
 
1730
 
 
1731
        :param chk_store: A CHK capable VersionedFiles instance.
 
1732
        :param inventory: The inventory to copy.
 
1733
        :param maximum_size: The CHKMap node size limit.
 
1734
        :param search_key_name: The identifier for the search key function
 
1735
        """
 
1736
        result = klass(search_key_name)
 
1737
        result.revision_id = inventory.revision_id
 
1738
        result.root_id = inventory.root.file_id
 
1739
 
 
1740
        entry_to_bytes = result._entry_to_bytes
 
1741
        parent_id_basename_key = result._parent_id_basename_key
 
1742
        id_to_entry_dict = {}
 
1743
        parent_id_basename_dict = {}
 
1744
        for path, entry in inventory.iter_entries():
 
1745
            id_to_entry_dict[(entry.file_id,)] = entry_to_bytes(entry)
 
1746
            p_id_key = parent_id_basename_key(entry)
 
1747
            parent_id_basename_dict[p_id_key] = entry.file_id
 
1748
 
 
1749
        result._populate_from_dicts(chk_store, id_to_entry_dict,
 
1750
            parent_id_basename_dict, maximum_size=maximum_size)
 
1751
        return result
 
1752
 
 
1753
    def _populate_from_dicts(self, chk_store, id_to_entry_dict,
 
1754
                             parent_id_basename_dict, maximum_size):
 
1755
        search_key_func = chk_map.search_key_registry.get(self._search_key_name)
 
1756
        root_key = chk_map.CHKMap.from_dict(chk_store, id_to_entry_dict,
 
1757
                   maximum_size=maximum_size, key_width=1,
 
1758
                   search_key_func=search_key_func)
 
1759
        self.id_to_entry = chk_map.CHKMap(chk_store, root_key,
 
1760
                                          search_key_func)
 
1761
        root_key = chk_map.CHKMap.from_dict(chk_store,
 
1762
                   parent_id_basename_dict,
 
1763
                   maximum_size=maximum_size, key_width=2,
 
1764
                   search_key_func=search_key_func)
 
1765
        self.parent_id_basename_to_file_id = chk_map.CHKMap(chk_store,
 
1766
                                                    root_key, search_key_func)
 
1767
 
 
1768
    def _parent_id_basename_key(self, entry):
 
1769
        """Create a key for a entry in a parent_id_basename_to_file_id index."""
 
1770
        if entry.parent_id is not None:
 
1771
            parent_id = entry.parent_id
 
1772
        else:
 
1773
            parent_id = ''
 
1774
        return parent_id, entry.name.encode('utf8')
 
1775
 
 
1776
    def __getitem__(self, file_id):
 
1777
        """map a single file_id -> InventoryEntry."""
 
1778
        if file_id is None:
 
1779
            raise errors.NoSuchId(self, file_id)
 
1780
        result = self._fileid_to_entry_cache.get(file_id, None)
 
1781
        if result is not None:
 
1782
            return result
 
1783
        try:
 
1784
            return self._bytes_to_entry(
 
1785
                self.id_to_entry.iteritems([(file_id,)]).next()[1])
 
1786
        except StopIteration:
 
1787
            # really we're passing an inventory, not a tree...
 
1788
            raise errors.NoSuchId(self, file_id)
 
1789
 
 
1790
    def has_id(self, file_id):
 
1791
        # Perhaps have an explicit 'contains' method on CHKMap ?
 
1792
        if self._fileid_to_entry_cache.get(file_id, None) is not None:
 
1793
            return True
 
1794
        return len(list(self.id_to_entry.iteritems([(file_id,)]))) == 1
 
1795
 
 
1796
    def is_root(self, file_id):
 
1797
        return file_id == self.root_id
 
1798
 
 
1799
    def _iter_file_id_parents(self, file_id):
 
1800
        """Yield the parents of file_id up to the root."""
 
1801
        while file_id is not None:
 
1802
            try:
 
1803
                ie = self[file_id]
 
1804
            except KeyError:
 
1805
                raise errors.NoSuchId(tree=self, file_id=file_id)
 
1806
            yield ie
 
1807
            file_id = ie.parent_id
 
1808
 
 
1809
    def __iter__(self):
 
1810
        """Iterate over all file-ids."""
 
1811
        for key, _ in self.id_to_entry.iteritems():
 
1812
            yield key[-1]
 
1813
 
 
1814
    def iter_just_entries(self):
 
1815
        """Iterate over all entries.
 
1816
        
 
1817
        Unlike iter_entries(), just the entries are returned (not (path, ie))
 
1818
        and the order of entries is undefined.
 
1819
 
 
1820
        XXX: We may not want to merge this into bzr.dev.
 
1821
        """
 
1822
        for key, entry in self.id_to_entry.iteritems():
 
1823
            file_id = key[0]
 
1824
            ie = self._fileid_to_entry_cache.get(file_id, None)
 
1825
            if ie is None:
 
1826
                ie = self._bytes_to_entry(entry)
 
1827
                self._fileid_to_entry_cache[file_id] = ie
 
1828
            yield ie
 
1829
 
 
1830
    def iter_changes(self, basis):
 
1831
        """Generate a Tree.iter_changes change list between this and basis.
 
1832
 
 
1833
        :param basis: Another CHKInventory.
 
1834
        :return: An iterator over the changes between self and basis, as per
 
1835
            tree.iter_changes().
 
1836
        """
 
1837
        # We want: (file_id, (path_in_source, path_in_target),
 
1838
        # changed_content, versioned, parent, name, kind,
 
1839
        # executable)
 
1840
        for key, basis_value, self_value in \
 
1841
            self.id_to_entry.iter_changes(basis.id_to_entry):
 
1842
            file_id = key[0]
 
1843
            if basis_value is not None:
 
1844
                basis_entry = basis._bytes_to_entry(basis_value)
 
1845
                path_in_source = basis.id2path(file_id)
 
1846
                basis_parent = basis_entry.parent_id
 
1847
                basis_name = basis_entry.name
 
1848
                basis_executable = basis_entry.executable
 
1849
            else:
 
1850
                path_in_source = None
 
1851
                basis_parent = None
 
1852
                basis_name = None
 
1853
                basis_executable = None
 
1854
            if self_value is not None:
 
1855
                self_entry = self._bytes_to_entry(self_value)
 
1856
                path_in_target = self.id2path(file_id)
 
1857
                self_parent = self_entry.parent_id
 
1858
                self_name = self_entry.name
 
1859
                self_executable = self_entry.executable
 
1860
            else:
 
1861
                path_in_target = None
 
1862
                self_parent = None
 
1863
                self_name = None
 
1864
                self_executable = None
 
1865
            if basis_value is None:
 
1866
                # add
 
1867
                kind = (None, self_entry.kind)
 
1868
                versioned = (False, True)
 
1869
            elif self_value is None:
 
1870
                # delete
 
1871
                kind = (basis_entry.kind, None)
 
1872
                versioned = (True, False)
 
1873
            else:
 
1874
                kind = (basis_entry.kind, self_entry.kind)
 
1875
                versioned = (True, True)
 
1876
            changed_content = False
 
1877
            if kind[0] != kind[1]:
 
1878
                changed_content = True
 
1879
            elif kind[0] == 'file':
 
1880
                if (self_entry.text_size != basis_entry.text_size or
 
1881
                    self_entry.text_sha1 != basis_entry.text_sha1):
 
1882
                    changed_content = True
 
1883
            elif kind[0] == 'symlink':
 
1884
                if self_entry.symlink_target != basis_entry.symlink_target:
 
1885
                    changed_content = True
 
1886
            elif kind[0] == 'tree-reference':
 
1887
                if (self_entry.reference_revision !=
 
1888
                    basis_entry.reference_revision):
 
1889
                    changed_content = True
 
1890
            parent = (basis_parent, self_parent)
 
1891
            name = (basis_name, self_name)
 
1892
            executable = (basis_executable, self_executable)
 
1893
            if (not changed_content
 
1894
                and parent[0] == parent[1]
 
1895
                and name[0] == name[1]
 
1896
                and executable[0] == executable[1]):
 
1897
                # Could happen when only the revision changed for a directory
 
1898
                # for instance.
 
1899
                continue
 
1900
            yield (file_id, (path_in_source, path_in_target), changed_content,
 
1901
                versioned, parent, name, kind, executable)
 
1902
 
 
1903
    def __len__(self):
 
1904
        """Return the number of entries in the inventory."""
 
1905
        return len(self.id_to_entry)
 
1906
 
 
1907
    def _make_delta(self, old):
 
1908
        """Make an inventory delta from two inventories."""
 
1909
        if type(old) != CHKInventory:
 
1910
            return CommonInventory._make_delta(self, old)
 
1911
        delta = []
 
1912
        for key, old_value, self_value in \
 
1913
            self.id_to_entry.iter_changes(old.id_to_entry):
 
1914
            file_id = key[0]
 
1915
            if old_value is not None:
 
1916
                old_path = old.id2path(file_id)
 
1917
            else:
 
1918
                old_path = None
 
1919
            if self_value is not None:
 
1920
                entry = self._bytes_to_entry(self_value)
 
1921
                self._fileid_to_entry_cache[file_id] = entry
 
1922
                new_path = self.id2path(file_id)
 
1923
            else:
 
1924
                entry = None
 
1925
                new_path = None
 
1926
            delta.append((old_path, new_path, file_id, entry))
 
1927
        return delta
 
1928
 
 
1929
    def path2id(self, name):
 
1930
        """See CommonInventory.path2id()."""
 
1931
        result = self._path_to_fileid_cache.get(name, None)
 
1932
        if result is None:
 
1933
            result = CommonInventory.path2id(self, name)
 
1934
            self._path_to_fileid_cache[name] = result
 
1935
        return result
 
1936
 
 
1937
    def to_lines(self):
 
1938
        """Serialise the inventory to lines."""
 
1939
        lines = ["chkinventory:\n"]
 
1940
        if self._search_key_name != 'plain':
 
1941
            # custom ordering grouping things that don't change together
 
1942
            lines.append('search_key_name: %s\n' % (self._search_key_name,))
 
1943
            lines.append("root_id: %s\n" % self.root_id)
 
1944
            lines.append('parent_id_basename_to_file_id: %s\n' %
 
1945
                self.parent_id_basename_to_file_id.key())
 
1946
            lines.append("revision_id: %s\n" % self.revision_id)
 
1947
            lines.append("id_to_entry: %s\n" % self.id_to_entry.key())
 
1948
        else:
 
1949
            lines.append("revision_id: %s\n" % self.revision_id)
 
1950
            lines.append("root_id: %s\n" % self.root_id)
 
1951
            if self.parent_id_basename_to_file_id is not None:
 
1952
                lines.append('parent_id_basename_to_file_id: %s\n' %
 
1953
                    self.parent_id_basename_to_file_id.key())
 
1954
            lines.append("id_to_entry: %s\n" % self.id_to_entry.key())
 
1955
        return lines
 
1956
 
 
1957
    @property
 
1958
    def root(self):
 
1959
        """Get the root entry."""
 
1960
        return self[self.root_id]
 
1961
 
 
1962
 
 
1963
class CHKInventoryDirectory(InventoryDirectory):
 
1964
    """A directory in an inventory."""
 
1965
 
 
1966
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
 
1967
                 'text_id', 'parent_id', '_children', 'executable',
 
1968
                 'revision', 'symlink_target', 'reference_revision',
 
1969
                 '_chk_inventory']
 
1970
 
 
1971
    def __init__(self, file_id, name, parent_id, chk_inventory):
 
1972
        # Don't call InventoryDirectory.__init__ - it isn't right for this
 
1973
        # class.
 
1974
        InventoryEntry.__init__(self, file_id, name, parent_id)
 
1975
        self._children = None
 
1976
        self.kind = 'directory'
 
1977
        self._chk_inventory = chk_inventory
 
1978
 
 
1979
    @property
 
1980
    def children(self):
 
1981
        """Access the list of children of this directory.
 
1982
 
 
1983
        With a parent_id_basename_to_file_id index, loads all the children,
 
1984
        without loads the entire index. Without is bad. A more sophisticated
 
1985
        proxy object might be nice, to allow partial loading of children as
 
1986
        well when specific names are accessed. (So path traversal can be
 
1987
        written in the obvious way but not examine siblings.).
 
1988
        """
 
1989
        if self._children is not None:
 
1990
            return self._children
 
1991
        # No longer supported
 
1992
        if self._chk_inventory.parent_id_basename_to_file_id is None:
 
1993
            raise AssertionError("Inventories without"
 
1994
                " parent_id_basename_to_file_id are no longer supported")
 
1995
        result = {}
 
1996
        # XXX: Todo - use proxy objects for the children rather than loading
 
1997
        # all when the attribute is referenced.
 
1998
        parent_id_index = self._chk_inventory.parent_id_basename_to_file_id
 
1999
        child_keys = set()
 
2000
        for (parent_id, name_utf8), file_id in parent_id_index.iteritems(
 
2001
            key_filter=[(self.file_id,)]):
 
2002
            child_keys.add((file_id,))
 
2003
        cached = set()
 
2004
        for file_id_key in child_keys:
 
2005
            entry = self._chk_inventory._fileid_to_entry_cache.get(
 
2006
                file_id_key[0], None)
 
2007
            if entry is not None:
 
2008
                result[entry.name] = entry
 
2009
                cached.add(file_id_key)
 
2010
        child_keys.difference_update(cached)
 
2011
        # populate; todo: do by name
 
2012
        id_to_entry = self._chk_inventory.id_to_entry
 
2013
        for file_id_key, bytes in id_to_entry.iteritems(child_keys):
 
2014
            entry = self._chk_inventory._bytes_to_entry(bytes)
 
2015
            result[entry.name] = entry
 
2016
            self._chk_inventory._fileid_to_entry_cache[file_id_key[0]] = entry
 
2017
        self._children = result
 
2018
        return result
 
2019
 
1377
2020
entry_factory = {
1378
2021
    'directory': InventoryDirectory,
1379
2022
    'file': InventoryFile,
1391
2034
    """
1392
2035
    if file_id is None:
1393
2036
        file_id = generate_ids.gen_file_id(name)
1394
 
    else:
1395
 
        file_id = osutils.safe_file_id(file_id)
1396
 
 
 
2037
    name = ensure_normalized_name(name)
 
2038
    try:
 
2039
        factory = entry_factory[kind]
 
2040
    except KeyError:
 
2041
        raise BzrError("unknown kind %r" % kind)
 
2042
    return factory(file_id, name, parent_id)
 
2043
 
 
2044
 
 
2045
def ensure_normalized_name(name):
 
2046
    """Normalize name.
 
2047
 
 
2048
    :raises InvalidNormalization: When name is not normalized, and cannot be
 
2049
        accessed on this platform by the normalized path.
 
2050
    :return: The NFC normalised version of name.
 
2051
    """
1397
2052
    #------- This has been copied to bzrlib.dirstate.DirState.add, please
1398
2053
    # keep them synchronised.
1399
2054
    # we dont import normalized_filename directly because we want to be
1401
2056
    norm_name, can_access = osutils.normalized_filename(name)
1402
2057
    if norm_name != name:
1403
2058
        if can_access:
1404
 
            name = norm_name
 
2059
            return norm_name
1405
2060
        else:
1406
2061
            # TODO: jam 20060701 This would probably be more useful
1407
2062
            #       if the error was raised with the full path
1408
2063
            raise errors.InvalidNormalization(name)
1409
 
 
1410
 
    try:
1411
 
        factory = entry_factory[kind]
1412
 
    except KeyError:
1413
 
        raise BzrError("unknown kind %r" % kind)
1414
 
    return factory(file_id, name, parent_id)
 
2064
    return name
1415
2065
 
1416
2066
 
1417
2067
_NAME_RE = None
1420
2070
    global _NAME_RE
1421
2071
    if _NAME_RE is None:
1422
2072
        _NAME_RE = re.compile(r'^[^/\\]+$')
1423
 
        
 
2073
 
1424
2074
    return bool(_NAME_RE.match(name))