~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/inventory.py

  • Committer: Martin Pool
  • Date: 2007-07-11 01:55:33 UTC
  • mto: This revision was merged to the branch mainline in revision 2599.
  • Revision ID: mbp@sourcefrog.net-20070711015533-dzcxkjg0ujh8yuhl
Option help improvements (thanks jamesw)

Show diffs side-by-side

added added

removed removed

Lines of Context:
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
# FIXME: This refactoring of the workingtree code doesn't seem to keep
 
17
# FIXME: This refactoring of the workingtree code doesn't seem to keep 
18
18
# the WorkingTree's copy of the inventory in sync with the branch.  The
19
19
# branch modifies its working inventory when it does a commit to make
20
20
# missing files permanently removed.
27
27
# created, but it's not for now.
28
28
ROOT_ID = "TREE_ROOT"
29
29
 
 
30
import os
 
31
import re
 
32
import sys
 
33
 
30
34
from bzrlib.lazy_import import lazy_import
31
35
lazy_import(globals(), """
32
36
import collections
33
 
import copy
34
 
import os
35
 
import re
36
37
import tarfile
37
38
 
38
39
import bzrlib
39
40
from bzrlib import (
40
 
    chk_map,
41
41
    errors,
42
42
    generate_ids,
43
43
    osutils,
44
44
    symbol_versioning,
 
45
    workingtree,
45
46
    )
46
47
""")
47
48
 
49
50
    BzrCheckError,
50
51
    BzrError,
51
52
    )
52
 
from bzrlib.symbol_versioning import deprecated_in, deprecated_method
53
53
from bzrlib.trace import mutter
54
54
 
55
55
 
68
68
        file_id of the parent directory, or ROOT_ID
69
69
 
70
70
    revision
71
 
        the revision_id in which this variation of this file was
 
71
        the revision_id in which this variation of this file was 
72
72
        introduced.
73
73
 
74
74
    executable
77
77
 
78
78
    text_sha1
79
79
        sha-1 of the text of the file
80
 
 
 
80
        
81
81
    text_size
82
82
        size in bytes of the text of the file
83
 
 
 
83
        
84
84
    (reading a version 4 tree created a text_id field.)
85
85
 
86
86
    >>> i = Inventory()
89
89
    >>> i.add(InventoryDirectory('123', 'src', ROOT_ID))
90
90
    InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None)
91
91
    >>> i.add(InventoryFile('2323', 'hello.c', parent_id='123'))
92
 
    InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None, revision=None)
 
92
    InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None)
93
93
    >>> shouldbe = {0: '', 1: 'src', 2: 'src/hello.c'}
94
94
    >>> for ix, j in enumerate(i.iter_entries()):
95
95
    ...   print (j[0] == shouldbe[ix], j[1])
96
 
    ...
 
96
    ... 
97
97
    (True, InventoryDirectory('TREE_ROOT', u'', parent_id=None, revision=None))
98
98
    (True, InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None))
99
 
    (True, InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None, revision=None))
 
99
    (True, InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None))
100
100
    >>> i.add(InventoryFile('2324', 'bye.c', '123'))
101
 
    InventoryFile('2324', 'bye.c', parent_id='123', sha1=None, len=None, revision=None)
 
101
    InventoryFile('2324', 'bye.c', parent_id='123', sha1=None, len=None)
102
102
    >>> i.add(InventoryDirectory('2325', 'wibble', '123'))
103
103
    InventoryDirectory('2325', 'wibble', parent_id='123', revision=None)
104
104
    >>> i.path2id('src/wibble')
106
106
    >>> '2325' in i
107
107
    True
108
108
    >>> i.add(InventoryFile('2326', 'wibble.c', '2325'))
109
 
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None, revision=None)
 
109
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None)
110
110
    >>> i['2326']
111
 
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None, revision=None)
 
111
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None)
112
112
    >>> for path, entry in i.iter_entries():
113
113
    ...     print path
114
 
    ...
 
114
    ...     assert i.path2id(path)
 
115
    ... 
115
116
    <BLANKLINE>
116
117
    src
117
118
    src/bye.c
124
125
 
125
126
    # Constants returned by describe_change()
126
127
    #
127
 
    # TODO: These should probably move to some kind of FileChangeDescription
128
 
    # class; that's like what's inside a TreeDelta but we want to be able to
 
128
    # TODO: These should probably move to some kind of FileChangeDescription 
 
129
    # class; that's like what's inside a TreeDelta but we want to be able to 
129
130
    # generate them just for one file at a time.
130
131
    RENAMED = 'renamed'
131
132
    MODIFIED_AND_RENAMED = 'modified and renamed'
132
 
 
 
133
    
133
134
    __slots__ = []
134
135
 
135
136
    def detect_changes(self, old_entry):
136
137
        """Return a (text_modified, meta_modified) from this to old_entry.
137
 
 
138
 
        _read_tree_state must have been called on self and old_entry prior to
 
138
        
 
139
        _read_tree_state must have been called on self and old_entry prior to 
139
140
        calling detect_changes.
140
141
        """
141
142
        return False, False
142
143
 
 
144
    def diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
 
145
             output_to, reverse=False):
 
146
        """Perform a diff from this to to_entry.
 
147
 
 
148
        text_diff will be used for textual difference calculation.
 
149
        This is a template method, override _diff in child classes.
 
150
        """
 
151
        self._read_tree_state(tree.id2path(self.file_id), tree)
 
152
        if to_entry:
 
153
            # cannot diff from one kind to another - you must do a removal
 
154
            # and an addif they do not match.
 
155
            assert self.kind == to_entry.kind
 
156
            to_entry._read_tree_state(to_tree.id2path(to_entry.file_id),
 
157
                                      to_tree)
 
158
        self._diff(text_diff, from_label, tree, to_label, to_entry, to_tree,
 
159
                   output_to, reverse)
 
160
 
143
161
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
144
162
             output_to, reverse=False):
145
163
        """Perform a diff between two entries of the same kind."""
146
164
 
147
 
    def parent_candidates(self, previous_inventories):
148
 
        """Find possible per-file graph parents.
149
 
 
150
 
        This is currently defined by:
151
 
         - Select the last changed revision in the parent inventory.
152
 
         - Do deal with a short lived bug in bzr 0.8's development two entries
153
 
           that have the same last changed but different 'x' bit settings are
154
 
           changed in-place.
 
165
    def find_previous_heads(self, previous_inventories,
 
166
                            versioned_file_store,
 
167
                            transaction,
 
168
                            entry_vf=None):
 
169
        """Return the revisions and entries that directly precede this.
 
170
 
 
171
        Returned as a map from revision to inventory entry.
 
172
 
 
173
        This is a map containing the file revisions in all parents
 
174
        for which the file exists, and its revision is not a parent of
 
175
        any other. If the file is new, the set will be empty.
 
176
 
 
177
        :param versioned_file_store: A store where ancestry data on this
 
178
                                     file id can be queried.
 
179
        :param transaction: The transaction that queries to the versioned 
 
180
                            file store should be completed under.
 
181
        :param entry_vf: The entry versioned file, if its already available.
155
182
        """
 
183
        def get_ancestors(weave, entry):
 
184
            return set(weave.get_ancestry(entry.revision, topo_sorted=False))
156
185
        # revision:ie mapping for each ie found in previous_inventories.
157
186
        candidates = {}
 
187
        # revision:ie mapping with one revision for each head.
 
188
        heads = {}
 
189
        # revision: ancestor list for each head
 
190
        head_ancestors = {}
158
191
        # identify candidate head revision ids.
159
192
        for inv in previous_inventories:
160
193
            if self.file_id in inv:
161
194
                ie = inv[self.file_id]
 
195
                assert ie.file_id == self.file_id
 
196
                if ie.kind != self.kind:
 
197
                    # Can't be a candidate if the kind has changed.
 
198
                    continue
162
199
                if ie.revision in candidates:
163
200
                    # same revision value in two different inventories:
164
201
                    # correct possible inconsistencies:
165
 
                    #     * there was a bug in revision updates with 'x' bit
 
202
                    #     * there was a bug in revision updates with 'x' bit 
166
203
                    #       support.
167
204
                    try:
168
205
                        if candidates[ie.revision].executable != ie.executable:
170
207
                            ie.executable = False
171
208
                    except AttributeError:
172
209
                        pass
 
210
                    # must now be the same.
 
211
                    assert candidates[ie.revision] == ie
173
212
                else:
174
213
                    # add this revision as a candidate.
175
214
                    candidates[ie.revision] = ie
176
 
        return candidates
177
 
 
178
 
    @deprecated_method(deprecated_in((1, 6, 0)))
 
215
 
 
216
        # common case optimisation
 
217
        if len(candidates) == 1:
 
218
            # if there is only one candidate revision found
 
219
            # then we can opening the versioned file to access ancestry:
 
220
            # there cannot be any ancestors to eliminate when there is 
 
221
            # only one revision available.
 
222
            heads[ie.revision] = ie
 
223
            return heads
 
224
 
 
225
        # eliminate ancestors amongst the available candidates:
 
226
        # heads are those that are not an ancestor of any other candidate
 
227
        # - this provides convergence at a per-file level.
 
228
        for ie in candidates.values():
 
229
            # may be an ancestor of a known head:
 
230
            already_present = 0 != len(
 
231
                [head for head in heads 
 
232
                 if ie.revision in head_ancestors[head]])
 
233
            if already_present:
 
234
                # an ancestor of an analyzed candidate.
 
235
                continue
 
236
            # not an ancestor of a known head:
 
237
            # load the versioned file for this file id if needed
 
238
            if entry_vf is None:
 
239
                entry_vf = versioned_file_store.get_weave_or_empty(
 
240
                    self.file_id, transaction)
 
241
            ancestors = get_ancestors(entry_vf, ie)
 
242
            # may knock something else out:
 
243
            check_heads = list(heads.keys())
 
244
            for head in check_heads:
 
245
                if head in ancestors:
 
246
                    # this previously discovered 'head' is not
 
247
                    # really a head - its an ancestor of the newly 
 
248
                    # found head,
 
249
                    heads.pop(head)
 
250
            head_ancestors[ie.revision] = ancestors
 
251
            heads[ie.revision] = ie
 
252
        return heads
 
253
 
179
254
    def get_tar_item(self, root, dp, now, tree):
180
255
        """Get a tarfile item and a file stream for its content."""
181
256
        item = tarfile.TarInfo(osutils.pathjoin(root, dp).encode('utf8'))
198
273
 
199
274
    def __init__(self, file_id, name, parent_id, text_id=None):
200
275
        """Create an InventoryEntry
201
 
 
 
276
        
202
277
        The filename must be a single component, relative to the
203
278
        parent directory; it cannot be a whole path or relative name.
204
279
 
211
286
        Traceback (most recent call last):
212
287
        InvalidEntryName: Invalid entry name: src/hello.c
213
288
        """
 
289
        assert isinstance(name, basestring), name
214
290
        if '/' in name or '\\' in name:
215
291
            raise errors.InvalidEntryName(name=name)
216
292
        self.executable = False
218
294
        self.text_sha1 = None
219
295
        self.text_size = None
220
296
        self.file_id = file_id
 
297
        assert isinstance(file_id, (str, None.__class__)), \
 
298
            'bad type %r for %r' % (type(file_id), file_id)
221
299
        self.name = name
222
300
        self.text_id = text_id
223
301
        self.parent_id = parent_id
238
316
        raise BzrError("don't know how to export {%s} of kind %r" %
239
317
                       (self.file_id, self.kind))
240
318
 
241
 
    @deprecated_method(deprecated_in((1, 6, 0)))
242
319
    def put_on_disk(self, dest, dp, tree):
243
320
        """Create a representation of self on disk in the prefix dest.
244
 
 
 
321
        
245
322
        This is a template method - implement _put_on_disk in subclasses.
246
323
        """
247
324
        fullpath = osutils.pathjoin(dest, dp)
266
343
        This is a template method, override _check for kind specific
267
344
        tests.
268
345
 
269
 
        :param checker: Check object providing context for the checks;
 
346
        :param checker: Check object providing context for the checks; 
270
347
             can be used to find out what parts of the repository have already
271
348
             been checked.
272
349
        :param rev_id: Revision id from which this InventoryEntry was loaded.
282
359
 
283
360
    def _check(self, checker, rev_id, tree):
284
361
        """Check this inventory entry for kind specific errors."""
285
 
        raise BzrCheckError('unknown entry kind %r in revision {%s}' %
 
362
        raise BzrCheckError('unknown entry kind %r in revision {%s}' % 
286
363
                            (self.kind, rev_id))
287
364
 
288
365
    def copy(self):
292
369
    @staticmethod
293
370
    def describe_change(old_entry, new_entry):
294
371
        """Describe the change between old_entry and this.
295
 
 
 
372
        
296
373
        This smells of being an InterInventoryEntry situation, but as its
297
374
        the first one, we're making it a static method for now.
298
375
 
299
 
        An entry with a different parent, or different name is considered
 
376
        An entry with a different parent, or different name is considered 
300
377
        to be renamed. Reparenting is an internal detail.
301
378
        Note that renaming the parent does not trigger a rename for the
302
379
        child entry itself.
339
416
                   self.parent_id,
340
417
                   self.revision))
341
418
 
 
419
    def snapshot(self, revision, path, previous_entries,
 
420
                 work_tree, commit_builder):
 
421
        """Make a snapshot of this entry which may or may not have changed.
 
422
        
 
423
        This means that all its fields are populated, that it has its
 
424
        text stored in the text store or weave.
 
425
        """
 
426
        # mutter('new parents of %s are %r', path, previous_entries)
 
427
        self._read_tree_state(path, work_tree)
 
428
        # TODO: Where should we determine whether to reuse a
 
429
        # previous revision id or create a new revision? 20060606
 
430
        if len(previous_entries) == 1:
 
431
            # cannot be unchanged unless there is only one parent file rev.
 
432
            parent_ie = previous_entries.values()[0]
 
433
            if self._unchanged(parent_ie):
 
434
                # mutter("found unchanged entry")
 
435
                self.revision = parent_ie.revision
 
436
                return "unchanged"
 
437
        return self._snapshot_into_revision(revision, previous_entries, 
 
438
                                            work_tree, commit_builder)
 
439
 
 
440
    def _snapshot_into_revision(self, revision, previous_entries, work_tree,
 
441
                                commit_builder):
 
442
        """Record this revision unconditionally into a store.
 
443
 
 
444
        The entry's last-changed revision property (`revision`) is updated to 
 
445
        that of the new revision.
 
446
        
 
447
        :param revision: id of the new revision that is being recorded.
 
448
 
 
449
        :returns: String description of the commit (e.g. "merged", "modified"), etc.
 
450
        """
 
451
        # mutter('new revision {%s} for {%s}', revision, self.file_id)
 
452
        self.revision = revision
 
453
        self._snapshot_text(previous_entries, work_tree, commit_builder)
 
454
 
 
455
    def _snapshot_text(self, file_parents, work_tree, commit_builder): 
 
456
        """Record the 'text' of this entry, whatever form that takes.
 
457
        
 
458
        This default implementation simply adds an empty text.
 
459
        """
 
460
        raise NotImplementedError(self._snapshot_text)
 
461
 
342
462
    def __eq__(self, other):
343
 
        if other is self:
344
 
            # For the case when objects are cached
345
 
            return True
346
463
        if not isinstance(other, InventoryEntry):
347
464
            return NotImplemented
348
465
 
383
500
 
384
501
    def _read_tree_state(self, path, work_tree):
385
502
        """Populate fields in the inventory entry from the given tree.
386
 
 
 
503
        
387
504
        Note that this should be modified to be a noop on virtual trees
388
505
        as all entries created there are prepopulated.
389
506
        """
390
 
        # TODO: Rather than running this manually, we should check the
 
507
        # TODO: Rather than running this manually, we should check the 
391
508
        # working sha1 and other expensive properties when they're
392
509
        # first requested, or preload them if they're already known
393
510
        pass            # nothing to do by default
419
536
    def __eq__(self, other):
420
537
        if not isinstance(other, RootEntry):
421
538
            return NotImplemented
422
 
 
 
539
        
423
540
        return (self.file_id == other.file_id) \
424
541
               and (self.children == other.children)
425
542
 
466
583
        """See InventoryEntry._put_on_disk."""
467
584
        os.mkdir(fullpath)
468
585
 
 
586
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
 
587
        """See InventoryEntry._snapshot_text."""
 
588
        commit_builder.modified_directory(self.file_id, file_parents)
 
589
 
469
590
 
470
591
class InventoryFile(InventoryEntry):
471
592
    """A file in an inventory."""
476
597
 
477
598
    def _check(self, checker, tree_revision_id, tree):
478
599
        """See InventoryEntry._check"""
479
 
        key = (self.file_id, self.revision)
480
 
        if key in checker.checked_texts:
481
 
            prev_sha = checker.checked_texts[key]
 
600
        t = (self.file_id, self.revision)
 
601
        if t in checker.checked_texts:
 
602
            prev_sha = checker.checked_texts[t]
482
603
            if prev_sha != self.text_sha1:
483
 
                raise BzrCheckError(
484
 
                    'mismatched sha1 on {%s} in {%s} (%s != %s) %r' %
485
 
                    (self.file_id, tree_revision_id, prev_sha, self.text_sha1,
486
 
                     t))
 
604
                raise BzrCheckError('mismatched sha1 on {%s} in {%s}' %
 
605
                                    (self.file_id, tree_revision_id))
487
606
            else:
488
607
                checker.repeated_text_cnt += 1
489
608
                return
490
609
 
 
610
        if self.file_id not in checker.checked_weaves:
 
611
            mutter('check weave {%s}', self.file_id)
 
612
            w = tree.get_weave(self.file_id)
 
613
            # Not passing a progress bar, because it creates a new
 
614
            # progress, which overwrites the current progress,
 
615
            # and doesn't look nice
 
616
            w.check()
 
617
            checker.checked_weaves[self.file_id] = True
 
618
        else:
 
619
            w = tree.get_weave(self.file_id)
 
620
 
 
621
        mutter('check version {%s} of {%s}', tree_revision_id, self.file_id)
491
622
        checker.checked_text_cnt += 1
492
623
        # We can't check the length, because Weave doesn't store that
493
624
        # information, and the whole point of looking at the weave's
494
625
        # sha1sum is that we don't have to extract the text.
495
 
        if (self.text_sha1 != tree._repository.texts.get_sha1s([key])[key]):
496
 
            raise BzrCheckError('text {%s} version {%s} wrong sha1' % key)
497
 
        checker.checked_texts[key] = self.text_sha1
 
626
        if self.text_sha1 != w.get_sha1(self.revision):
 
627
            raise BzrCheckError('text {%s} version {%s} wrong sha1' 
 
628
                                % (self.file_id, self.revision))
 
629
        checker.checked_texts[t] = self.text_sha1
498
630
 
499
631
    def copy(self):
500
632
        other = InventoryFile(self.file_id, self.name, self.parent_id)
507
639
 
508
640
    def detect_changes(self, old_entry):
509
641
        """See InventoryEntry.detect_changes."""
 
642
        assert self.text_sha1 is not None
 
643
        assert old_entry.text_sha1 is not None
510
644
        text_modified = (self.text_sha1 != old_entry.text_sha1)
511
645
        meta_modified = (self.executable != old_entry.executable)
512
646
        return text_modified, meta_modified
514
648
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
515
649
             output_to, reverse=False):
516
650
        """See InventoryEntry._diff."""
517
 
        from bzrlib.diff import DiffText
518
 
        from_file_id = self.file_id
519
 
        if to_entry:
520
 
            to_file_id = to_entry.file_id
521
 
        else:
522
 
            to_file_id = None
523
 
        if reverse:
524
 
            to_file_id, from_file_id = from_file_id, to_file_id
525
 
            tree, to_tree = to_tree, tree
526
 
            from_label, to_label = to_label, from_label
527
 
        differ = DiffText(tree, to_tree, output_to, 'utf-8', '', '',
528
 
                          text_diff)
529
 
        return differ.diff_text(from_file_id, to_file_id, from_label, to_label)
 
651
        try:
 
652
            from_text = tree.get_file(self.file_id).readlines()
 
653
            if to_entry:
 
654
                to_text = to_tree.get_file(to_entry.file_id).readlines()
 
655
            else:
 
656
                to_text = []
 
657
            if not reverse:
 
658
                text_diff(from_label, from_text,
 
659
                          to_label, to_text, output_to)
 
660
            else:
 
661
                text_diff(to_label, to_text,
 
662
                          from_label, from_text, output_to)
 
663
        except errors.BinaryFile:
 
664
            if reverse:
 
665
                label_pair = (to_label, from_label)
 
666
            else:
 
667
                label_pair = (from_label, to_label)
 
668
            print >> output_to, "Binary files %s and %s differ" % label_pair
530
669
 
531
670
    def has_text(self):
532
671
        """See InventoryEntry.has_text."""
565
704
        self.executable = work_tree.is_executable(self.file_id, path=path)
566
705
 
567
706
    def __repr__(self):
568
 
        return ("%s(%r, %r, parent_id=%r, sha1=%r, len=%s, revision=%s)"
 
707
        return ("%s(%r, %r, parent_id=%r, sha1=%r, len=%s)"
569
708
                % (self.__class__.__name__,
570
709
                   self.file_id,
571
710
                   self.name,
572
711
                   self.parent_id,
573
712
                   self.text_sha1,
574
 
                   self.text_size,
575
 
                   self.revision))
 
713
                   self.text_size))
576
714
 
577
715
    def _forget_tree_state(self):
578
716
        self.text_sha1 = None
579
717
 
 
718
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
 
719
        """See InventoryEntry._snapshot_text."""
 
720
        def get_content_byte_lines():
 
721
            return work_tree.get_file(self.file_id).readlines()
 
722
        self.text_sha1, self.text_size = commit_builder.modified_file_text(
 
723
            self.file_id, file_parents, get_content_byte_lines, self.text_sha1, self.text_size)
 
724
 
580
725
    def _unchanged(self, previous_ie):
581
726
        """See InventoryEntry._unchanged."""
582
727
        compatible = super(InventoryFile, self)._unchanged(previous_ie)
625
770
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
626
771
             output_to, reverse=False):
627
772
        """See InventoryEntry._diff."""
628
 
        from bzrlib.diff import DiffSymlink
629
 
        old_target = self.symlink_target
 
773
        from_text = self.symlink_target
630
774
        if to_entry is not None:
631
 
            new_target = to_entry.symlink_target
632
 
        else:
633
 
            new_target = None
634
 
        if not reverse:
635
 
            old_tree = tree
636
 
            new_tree = to_tree
637
 
        else:
638
 
            old_tree = to_tree
639
 
            new_tree = tree
640
 
            new_target, old_target = old_target, new_target
641
 
        differ = DiffSymlink(old_tree, new_tree, output_to)
642
 
        return differ.diff_symlink(old_target, new_target)
 
775
            to_text = to_entry.symlink_target
 
776
            if reverse:
 
777
                temp = from_text
 
778
                from_text = to_text
 
779
                to_text = temp
 
780
            print >>output_to, '=== target changed %r => %r' % (from_text, to_text)
 
781
        else:
 
782
            if not reverse:
 
783
                print >>output_to, '=== target was %r' % self.symlink_target
 
784
            else:
 
785
                print >>output_to, '=== target is %r' % self.symlink_target
643
786
 
644
787
    def __init__(self, file_id, name, parent_id):
645
788
        super(InventoryLink, self).__init__(file_id, name, parent_id)
679
822
            compatible = False
680
823
        return compatible
681
824
 
 
825
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
 
826
        """See InventoryEntry._snapshot_text."""
 
827
        commit_builder.modified_link(
 
828
            self.file_id, file_parents, self.symlink_target)
 
829
 
682
830
 
683
831
class TreeReference(InventoryEntry):
684
 
 
 
832
    
685
833
    kind = 'tree-reference'
686
 
 
 
834
    
687
835
    def __init__(self, file_id, name, parent_id, revision=None,
688
836
                 reference_revision=None):
689
837
        InventoryEntry.__init__(self, file_id, name, parent_id)
694
842
        return TreeReference(self.file_id, self.name, self.parent_id,
695
843
                             self.revision, self.reference_revision)
696
844
 
 
845
    def _snapshot_text(self, file_parents, work_tree, commit_builder):
 
846
        commit_builder.modified_reference(self.file_id, file_parents)
 
847
 
697
848
    def _read_tree_state(self, path, work_tree):
698
849
        """Populate fields in the inventory entry from the given tree.
699
850
        """
701
852
            self.file_id, path)
702
853
 
703
854
    def _forget_tree_state(self):
704
 
        self.reference_revision = None
705
 
 
706
 
    def _unchanged(self, previous_ie):
707
 
        """See InventoryEntry._unchanged."""
708
 
        compatible = super(TreeReference, self)._unchanged(previous_ie)
709
 
        if self.reference_revision != previous_ie.reference_revision:
710
 
            compatible = False
711
 
        return compatible
712
 
 
713
 
 
714
 
class CommonInventory(object):
715
 
    """Basic inventory logic, defined in terms of primitives like has_id."""
716
 
 
717
 
    def __contains__(self, file_id):
718
 
        """True if this entry contains a file with given id.
719
 
 
720
 
        >>> inv = Inventory()
721
 
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
722
 
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
723
 
        >>> '123' in inv
724
 
        True
725
 
        >>> '456' in inv
726
 
        False
727
 
 
728
 
        Note that this method along with __iter__ are not encouraged for use as
729
 
        they are less clear than specific query methods - they may be rmeoved
730
 
        in the future.
731
 
        """
732
 
        return self.has_id(file_id)
733
 
 
734
 
    def id2path(self, file_id):
735
 
        """Return as a string the path to file_id.
736
 
 
737
 
        >>> i = Inventory()
738
 
        >>> e = i.add(InventoryDirectory('src-id', 'src', ROOT_ID))
739
 
        >>> e = i.add(InventoryFile('foo-id', 'foo.c', parent_id='src-id'))
740
 
        >>> print i.id2path('foo-id')
741
 
        src/foo.c
742
 
        """
743
 
        # get all names, skipping root
744
 
        return '/'.join(reversed(
745
 
            [parent.name for parent in
746
 
             self._iter_file_id_parents(file_id)][:-1]))
747
 
 
748
 
    def iter_entries(self, from_dir=None, recursive=True):
749
 
        """Return (path, entry) pairs, in order by name.
750
 
        
751
 
        :param from_dir: if None, start from the root,
752
 
          otherwise start from this directory (either file-id or entry)
753
 
        :param recursive: recurse into directories or not
754
 
        """
 
855
        self.reference_revision = None 
 
856
 
 
857
 
 
858
class Inventory(object):
 
859
    """Inventory of versioned files in a tree.
 
860
 
 
861
    This describes which file_id is present at each point in the tree,
 
862
    and possibly the SHA-1 or other information about the file.
 
863
    Entries can be looked up either by path or by file_id.
 
864
 
 
865
    The inventory represents a typical unix file tree, with
 
866
    directories containing files and subdirectories.  We never store
 
867
    the full path to a file, because renaming a directory implicitly
 
868
    moves all of its contents.  This class internally maintains a
 
869
    lookup tree that allows the children under a directory to be
 
870
    returned quickly.
 
871
 
 
872
    InventoryEntry objects must not be modified after they are
 
873
    inserted, other than through the Inventory API.
 
874
 
 
875
    >>> inv = Inventory()
 
876
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
 
877
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None)
 
878
    >>> inv['123-123'].name
 
879
    'hello.c'
 
880
 
 
881
    May be treated as an iterator or set to look up file ids:
 
882
    
 
883
    >>> bool(inv.path2id('hello.c'))
 
884
    True
 
885
    >>> '123-123' in inv
 
886
    True
 
887
 
 
888
    May also look up by name:
 
889
 
 
890
    >>> [x[0] for x in inv.iter_entries()]
 
891
    ['', u'hello.c']
 
892
    >>> inv = Inventory('TREE_ROOT-12345678-12345678')
 
893
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
 
894
    Traceback (most recent call last):
 
895
    BzrError: parent_id {TREE_ROOT} not in inventory
 
896
    >>> inv.add(InventoryFile('123-123', 'hello.c', 'TREE_ROOT-12345678-12345678'))
 
897
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT-12345678-12345678', sha1=None, len=None)
 
898
    """
 
899
    def __init__(self, root_id=ROOT_ID, revision_id=None):
 
900
        """Create or read an inventory.
 
901
 
 
902
        If a working directory is specified, the inventory is read
 
903
        from there.  If the file is specified, read from that. If not,
 
904
        the inventory is created empty.
 
905
 
 
906
        The inventory is created with a default root directory, with
 
907
        an id of None.
 
908
        """
 
909
        if root_id is not None:
 
910
            assert root_id.__class__ == str
 
911
            self._set_root(InventoryDirectory(root_id, u'', None))
 
912
        else:
 
913
            self.root = None
 
914
            self._byid = {}
 
915
        self.revision_id = revision_id
 
916
 
 
917
    def _set_root(self, ie):
 
918
        self.root = ie
 
919
        self._byid = {self.root.file_id: self.root}
 
920
 
 
921
    def copy(self):
 
922
        # TODO: jam 20051218 Should copy also copy the revision_id?
 
923
        entries = self.iter_entries()
 
924
        other = Inventory(entries.next()[1].file_id)
 
925
        # copy recursively so we know directories will be added before
 
926
        # their children.  There are more efficient ways than this...
 
927
        for path, entry in entries():
 
928
            other.add(entry.copy())
 
929
        return other
 
930
 
 
931
    def __iter__(self):
 
932
        return iter(self._byid)
 
933
 
 
934
    def __len__(self):
 
935
        """Returns number of entries."""
 
936
        return len(self._byid)
 
937
 
 
938
    def iter_entries(self, from_dir=None):
 
939
        """Return (path, entry) pairs, in order by name."""
755
940
        if from_dir is None:
756
941
            if self.root is None:
757
942
                return
758
943
            from_dir = self.root
759
944
            yield '', self.root
760
945
        elif isinstance(from_dir, basestring):
761
 
            from_dir = self[from_dir]
762
 
 
 
946
            from_dir = self._byid[from_dir]
 
947
            
763
948
        # unrolling the recursive called changed the time from
764
949
        # 440ms/663ms (inline/total) to 116ms/116ms
765
950
        children = from_dir.children.items()
766
951
        children.sort()
767
 
        if not recursive:
768
 
            for name, ie in children:
769
 
                yield name, ie
770
 
            return
771
952
        children = collections.deque(children)
772
953
        stack = [(u'', children)]
773
954
        while stack:
798
979
                # if we finished all children, pop it off the stack
799
980
                stack.pop()
800
981
 
801
 
    def iter_entries_by_dir(self, from_dir=None, specific_file_ids=None,
802
 
        yield_parents=False):
 
982
    def iter_entries_by_dir(self, from_dir=None, specific_file_ids=None):
803
983
        """Iterate over the entries in a directory first order.
804
984
 
805
985
        This returns all entries for a directory before returning
807
987
        lexicographically sorted order, and is a hybrid between
808
988
        depth-first and breadth-first.
809
989
 
810
 
        :param yield_parents: If True, yield the parents from the root leading
811
 
            down to specific_file_ids that have been requested. This has no
812
 
            impact if specific_file_ids is None.
813
990
        :return: This yields (path, entry) pairs
814
991
        """
815
 
        if specific_file_ids and not isinstance(specific_file_ids, set):
816
 
            specific_file_ids = set(specific_file_ids)
 
992
        if specific_file_ids:
 
993
            safe = osutils.safe_file_id
 
994
            specific_file_ids = set(safe(fid) for fid in specific_file_ids)
817
995
        # TODO? Perhaps this should return the from_dir so that the root is
818
996
        # yielded? or maybe an option?
819
997
        if from_dir is None:
820
998
            if self.root is None:
821
999
                return
822
1000
            # Optimize a common case
823
 
            if (not yield_parents and specific_file_ids is not None and
824
 
                len(specific_file_ids) == 1):
 
1001
            if specific_file_ids is not None and len(specific_file_ids) == 1:
825
1002
                file_id = list(specific_file_ids)[0]
826
1003
                if file_id in self:
827
1004
                    yield self.id2path(file_id), self[file_id]
828
 
                return
 
1005
                return 
829
1006
            from_dir = self.root
830
 
            if (specific_file_ids is None or yield_parents or
 
1007
            if (specific_file_ids is None or 
831
1008
                self.root.file_id in specific_file_ids):
832
1009
                yield u'', self.root
833
1010
        elif isinstance(from_dir, basestring):
834
 
            from_dir = self[from_dir]
 
1011
            from_dir = self._byid[from_dir]
835
1012
 
836
1013
        if specific_file_ids is not None:
837
1014
            # TODO: jam 20070302 This could really be done as a loop rather
838
1015
            #       than a bunch of recursive calls.
839
1016
            parents = set()
840
 
            byid = self
 
1017
            byid = self._byid
841
1018
            def add_ancestors(file_id):
842
1019
                if file_id not in byid:
843
1020
                    return
851
1028
                add_ancestors(file_id)
852
1029
        else:
853
1030
            parents = None
854
 
 
 
1031
            
855
1032
        stack = [(u'', from_dir)]
856
1033
        while stack:
857
1034
            cur_relpath, cur_dir = stack.pop()
861
1038
 
862
1039
                child_relpath = cur_relpath + child_name
863
1040
 
864
 
                if (specific_file_ids is None or
865
 
                    child_ie.file_id in specific_file_ids or
866
 
                    (yield_parents and child_ie.file_id in parents)):
 
1041
                if (specific_file_ids is None or 
 
1042
                    child_ie.file_id in specific_file_ids):
867
1043
                    yield child_relpath, child_ie
868
1044
 
869
1045
                if child_ie.kind == 'directory':
871
1047
                        child_dirs.append((child_relpath+'/', child_ie))
872
1048
            stack.extend(reversed(child_dirs))
873
1049
 
874
 
    def _make_delta(self, old):
875
 
        """Make an inventory delta from two inventories."""
876
 
        old_ids = set(old)
877
 
        new_ids = set(self)
878
 
        adds = new_ids - old_ids
879
 
        deletes = old_ids - new_ids
880
 
        common = old_ids.intersection(new_ids)
881
 
        delta = []
882
 
        for file_id in deletes:
883
 
            delta.append((old.id2path(file_id), None, file_id, None))
884
 
        for file_id in adds:
885
 
            delta.append((None, self.id2path(file_id), file_id, self[file_id]))
886
 
        for file_id in common:
887
 
            if old[file_id] != self[file_id]:
888
 
                delta.append((old.id2path(file_id), self.id2path(file_id),
889
 
                    file_id, self[file_id]))
890
 
        return delta
891
 
 
892
 
    def _get_mutable_inventory(self):
893
 
        """Returns a mutable copy of the object.
894
 
 
895
 
        Some inventories are immutable, yet working trees, for example, needs
896
 
        to mutate exisiting inventories instead of creating a new one.
897
 
        """
898
 
        raise NotImplementedError(self._get_mutable_inventory)
899
 
 
900
1050
    def make_entry(self, kind, name, parent_id, file_id=None):
901
1051
        """Simple thunk to bzrlib.inventory.make_entry."""
902
1052
        return make_entry(kind, name, parent_id, file_id)
925
1075
        accum = []
926
1076
        def descend(parent_ie, parent_path):
927
1077
            accum.append((parent_path, parent_ie))
928
 
 
 
1078
            
929
1079
            kids = [(ie.name, ie) for ie in parent_ie.children.itervalues() if ie.kind == 'directory']
930
1080
            kids.sort()
931
1081
 
934
1084
                descend(child_ie, child_path)
935
1085
        descend(self.root, u'')
936
1086
        return accum
937
 
 
938
 
    def path2id(self, name):
939
 
        """Walk down through directories to return entry of last component.
940
 
 
941
 
        names may be either a list of path components, or a single
942
 
        string, in which case it is automatically split.
943
 
 
944
 
        This returns the entry of the last component in the path,
945
 
        which may be either a file or a directory.
946
 
 
947
 
        Returns None IFF the path is not found.
948
 
        """
949
 
        if isinstance(name, basestring):
950
 
            name = osutils.splitpath(name)
951
 
 
952
 
        # mutter("lookup path %r" % name)
953
 
 
954
 
        try:
955
 
            parent = self.root
956
 
        except errors.NoSuchId:
957
 
            # root doesn't exist yet so nothing else can
958
 
            return None
959
 
        if parent is None:
960
 
            return None
961
 
        for f in name:
962
 
            try:
963
 
                children = getattr(parent, 'children', None)
964
 
                if children is None:
965
 
                    return None
966
 
                cie = children[f]
967
 
                parent = cie
968
 
            except KeyError:
969
 
                # or raise an error?
970
 
                return None
971
 
 
972
 
        return parent.file_id
973
 
 
974
 
    def filter(self, specific_fileids):
975
 
        """Get an inventory view filtered against a set of file-ids.
976
 
 
977
 
        Children of directories and parents are included.
978
 
 
979
 
        The result may or may not reference the underlying inventory
980
 
        so it should be treated as immutable.
981
 
        """
982
 
        interesting_parents = set()
983
 
        for fileid in specific_fileids:
984
 
            try:
985
 
                interesting_parents.update(self.get_idpath(fileid))
986
 
            except errors.NoSuchId:
987
 
                # This fileid is not in the inventory - that's ok
988
 
                pass
989
 
        entries = self.iter_entries()
990
 
        if self.root is None:
991
 
            return Inventory(root_id=None)
992
 
        other = Inventory(entries.next()[1].file_id)
993
 
        other.root.revision = self.root.revision
994
 
        other.revision_id = self.revision_id
995
 
        directories_to_expand = set()
996
 
        for path, entry in entries:
997
 
            file_id = entry.file_id
998
 
            if (file_id in specific_fileids
999
 
                or entry.parent_id in directories_to_expand):
1000
 
                if entry.kind == 'directory':
1001
 
                    directories_to_expand.add(file_id)
1002
 
            elif file_id not in interesting_parents:
1003
 
                continue
1004
 
            other.add(entry.copy())
1005
 
        return other
1006
 
 
1007
 
    def get_idpath(self, file_id):
1008
 
        """Return a list of file_ids for the path to an entry.
1009
 
 
1010
 
        The list contains one element for each directory followed by
1011
 
        the id of the file itself.  So the length of the returned list
1012
 
        is equal to the depth of the file in the tree, counting the
1013
 
        root directory as depth 1.
1014
 
        """
1015
 
        p = []
1016
 
        for parent in self._iter_file_id_parents(file_id):
1017
 
            p.insert(0, parent.file_id)
1018
 
        return p
1019
 
 
1020
 
 
1021
 
class Inventory(CommonInventory):
1022
 
    """Inventory of versioned files in a tree.
1023
 
 
1024
 
    This describes which file_id is present at each point in the tree,
1025
 
    and possibly the SHA-1 or other information about the file.
1026
 
    Entries can be looked up either by path or by file_id.
1027
 
 
1028
 
    The inventory represents a typical unix file tree, with
1029
 
    directories containing files and subdirectories.  We never store
1030
 
    the full path to a file, because renaming a directory implicitly
1031
 
    moves all of its contents.  This class internally maintains a
1032
 
    lookup tree that allows the children under a directory to be
1033
 
    returned quickly.
1034
 
 
1035
 
    InventoryEntry objects must not be modified after they are
1036
 
    inserted, other than through the Inventory API.
1037
 
 
1038
 
    >>> inv = Inventory()
1039
 
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
1040
 
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
1041
 
    >>> inv['123-123'].name
1042
 
    'hello.c'
1043
 
 
1044
 
    May be treated as an iterator or set to look up file ids:
1045
 
 
1046
 
    >>> bool(inv.path2id('hello.c'))
1047
 
    True
1048
 
    >>> '123-123' in inv
1049
 
    True
1050
 
 
1051
 
    May also look up by name:
1052
 
 
1053
 
    >>> [x[0] for x in inv.iter_entries()]
1054
 
    ['', u'hello.c']
1055
 
    >>> inv = Inventory('TREE_ROOT-12345678-12345678')
1056
 
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
1057
 
    Traceback (most recent call last):
1058
 
    BzrError: parent_id {TREE_ROOT} not in inventory
1059
 
    >>> inv.add(InventoryFile('123-123', 'hello.c', 'TREE_ROOT-12345678-12345678'))
1060
 
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT-12345678-12345678', sha1=None, len=None, revision=None)
1061
 
    """
1062
 
    def __init__(self, root_id=ROOT_ID, revision_id=None):
1063
 
        """Create or read an inventory.
1064
 
 
1065
 
        If a working directory is specified, the inventory is read
1066
 
        from there.  If the file is specified, read from that. If not,
1067
 
        the inventory is created empty.
1068
 
 
1069
 
        The inventory is created with a default root directory, with
1070
 
        an id of None.
1071
 
        """
1072
 
        if root_id is not None:
1073
 
            self._set_root(InventoryDirectory(root_id, u'', None))
1074
 
        else:
1075
 
            self.root = None
1076
 
            self._byid = {}
1077
 
        self.revision_id = revision_id
1078
 
 
1079
 
    def __repr__(self):
1080
 
        # More than one page of ouput is not useful anymore to debug
1081
 
        max_len = 2048
1082
 
        closing = '...}'
1083
 
        contents = repr(self._byid)
1084
 
        if len(contents) > max_len:
1085
 
            contents = contents[:(max_len-len(closing))] + closing
1086
 
        return "<Inventory object at %x, contents=%r>" % (id(self), contents)
1087
 
 
1088
 
    def apply_delta(self, delta):
1089
 
        """Apply a delta to this inventory.
1090
 
 
1091
 
        See the inventory developers documentation for the theory behind
1092
 
        inventory deltas.
1093
 
 
1094
 
        :param delta: A list of changes to apply. After all the changes are
1095
 
            applied the final inventory must be internally consistent, but it
1096
 
            is ok to supply changes which, if only half-applied would have an
1097
 
            invalid result - such as supplying two changes which rename two
1098
 
            files, 'A' and 'B' with each other : [('A', 'B', 'A-id', a_entry),
1099
 
            ('B', 'A', 'B-id', b_entry)].
1100
 
 
1101
 
            Each change is a tuple, of the form (old_path, new_path, file_id,
1102
 
            new_entry).
1103
 
 
1104
 
            When new_path is None, the change indicates the removal of an entry
1105
 
            from the inventory and new_entry will be ignored (using None is
1106
 
            appropriate). If new_path is not None, then new_entry must be an
1107
 
            InventoryEntry instance, which will be incorporated into the
1108
 
            inventory (and replace any existing entry with the same file id).
1109
 
 
1110
 
            When old_path is None, the change indicates the addition of
1111
 
            a new entry to the inventory.
1112
 
 
1113
 
            When neither new_path nor old_path are None, the change is a
1114
 
            modification to an entry, such as a rename, reparent, kind change
1115
 
            etc.
1116
 
 
1117
 
            The children attribute of new_entry is ignored. This is because
1118
 
            this method preserves children automatically across alterations to
1119
 
            the parent of the children, and cases where the parent id of a
1120
 
            child is changing require the child to be passed in as a separate
1121
 
            change regardless. E.g. in the recursive deletion of a directory -
1122
 
            the directory's children must be included in the delta, or the
1123
 
            final inventory will be invalid.
1124
 
 
1125
 
            Note that a file_id must only appear once within a given delta.
1126
 
            An AssertionError is raised otherwise.
1127
 
        """
1128
 
        # Check that the delta is legal. It would be nice if this could be
1129
 
        # done within the loops below but it's safer to validate the delta
1130
 
        # before starting to mutate the inventory.
1131
 
        unique_file_ids = set([f for _, _, f, _ in delta])
1132
 
        if len(unique_file_ids) != len(delta):
1133
 
            raise AssertionError("a file-id appears multiple times in %r"
1134
 
                    % (delta,))
1135
 
        del unique_file_ids
1136
 
 
1137
 
        children = {}
1138
 
        # Remove all affected items which were in the original inventory,
1139
 
        # starting with the longest paths, thus ensuring parents are examined
1140
 
        # after their children, which means that everything we examine has no
1141
 
        # modified children remaining by the time we examine it.
1142
 
        for old_path, file_id in sorted(((op, f) for op, np, f, e in delta
1143
 
                                        if op is not None), reverse=True):
1144
 
            if file_id not in self:
1145
 
                # adds come later
1146
 
                continue
1147
 
            # Preserve unaltered children of file_id for later reinsertion.
1148
 
            file_id_children = getattr(self[file_id], 'children', {})
1149
 
            if len(file_id_children):
1150
 
                children[file_id] = file_id_children
1151
 
            # Remove file_id and the unaltered children. If file_id is not
1152
 
            # being deleted it will be reinserted back later.
1153
 
            self.remove_recursive_id(file_id)
1154
 
        # Insert all affected which should be in the new inventory, reattaching
1155
 
        # their children if they had any. This is done from shortest path to
1156
 
        # longest, ensuring that items which were modified and whose parents in
1157
 
        # the resulting inventory were also modified, are inserted after their
1158
 
        # parents.
1159
 
        for new_path, new_entry in sorted((np, e) for op, np, f, e in
1160
 
                                          delta if np is not None):
1161
 
            if new_entry.kind == 'directory':
1162
 
                # Pop the child which to allow detection of children whose
1163
 
                # parents were deleted and which were not reattached to a new
1164
 
                # parent.
1165
 
                replacement = InventoryDirectory(new_entry.file_id,
1166
 
                    new_entry.name, new_entry.parent_id)
1167
 
                replacement.revision = new_entry.revision
1168
 
                replacement.children = children.pop(replacement.file_id, {})
1169
 
                new_entry = replacement
1170
 
            self.add(new_entry)
1171
 
        if len(children):
1172
 
            # Get the parent id that was deleted
1173
 
            parent_id, children = children.popitem()
1174
 
            raise errors.InconsistentDelta("<deleted>", parent_id,
1175
 
                "The file id was deleted but its children were not deleted.")
1176
 
 
1177
 
    def _set_root(self, ie):
1178
 
        self.root = ie
1179
 
        self._byid = {self.root.file_id: self.root}
1180
 
 
1181
 
    def copy(self):
1182
 
        # TODO: jam 20051218 Should copy also copy the revision_id?
1183
 
        entries = self.iter_entries()
1184
 
        if self.root is None:
1185
 
            return Inventory(root_id=None)
1186
 
        other = Inventory(entries.next()[1].file_id)
1187
 
        other.root.revision = self.root.revision
1188
 
        # copy recursively so we know directories will be added before
1189
 
        # their children.  There are more efficient ways than this...
1190
 
        for path, entry in entries:
1191
 
            other.add(entry.copy())
1192
 
        return other
1193
 
 
1194
 
    def _get_mutable_inventory(self):
1195
 
        """See CommonInventory._get_mutable_inventory."""
1196
 
        return copy.deepcopy(self)
1197
 
 
1198
 
    def __iter__(self):
1199
 
        """Iterate over all file-ids."""
1200
 
        return iter(self._byid)
1201
 
 
1202
 
    def iter_just_entries(self):
1203
 
        """Iterate over all entries.
1204
1087
        
1205
 
        Unlike iter_entries(), just the entries are returned (not (path, ie))
1206
 
        and the order of entries is undefined.
 
1088
    def __contains__(self, file_id):
 
1089
        """True if this entry contains a file with given id.
1207
1090
 
1208
 
        XXX: We may not want to merge this into bzr.dev.
 
1091
        >>> inv = Inventory()
 
1092
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
 
1093
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None)
 
1094
        >>> '123' in inv
 
1095
        True
 
1096
        >>> '456' in inv
 
1097
        False
1209
1098
        """
1210
 
        if self.root is None:
1211
 
            return
1212
 
        for _, ie in self._byid.iteritems():
1213
 
            yield ie
1214
 
 
1215
 
    def __len__(self):
1216
 
        """Returns number of entries."""
1217
 
        return len(self._byid)
 
1099
        file_id = osutils.safe_file_id(file_id)
 
1100
        return (file_id in self._byid)
1218
1101
 
1219
1102
    def __getitem__(self, file_id):
1220
1103
        """Return the entry for given file_id.
1221
1104
 
1222
1105
        >>> inv = Inventory()
1223
1106
        >>> inv.add(InventoryFile('123123', 'hello.c', ROOT_ID))
1224
 
        InventoryFile('123123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
 
1107
        InventoryFile('123123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None)
1225
1108
        >>> inv['123123'].name
1226
1109
        'hello.c'
1227
1110
        """
 
1111
        file_id = osutils.safe_file_id(file_id)
1228
1112
        try:
1229
1113
            return self._byid[file_id]
1230
1114
        except KeyError:
1232
1116
            raise errors.NoSuchId(self, file_id)
1233
1117
 
1234
1118
    def get_file_kind(self, file_id):
 
1119
        file_id = osutils.safe_file_id(file_id)
1235
1120
        return self._byid[file_id].kind
1236
1121
 
1237
1122
    def get_child(self, parent_id, filename):
 
1123
        parent_id = osutils.safe_file_id(parent_id)
1238
1124
        return self[parent_id].children.get(filename)
1239
1125
 
1240
1126
    def _add_child(self, entry):
1260
1146
                                         self._byid[entry.file_id])
1261
1147
 
1262
1148
        if entry.parent_id is None:
 
1149
            assert self.root is None and len(self._byid) == 0
1263
1150
            self.root = entry
1264
1151
        else:
1265
1152
            try:
1281
1168
        The immediate parent must already be versioned.
1282
1169
 
1283
1170
        Returns the new entry object."""
1284
 
 
 
1171
        
1285
1172
        parts = osutils.splitpath(relpath)
1286
1173
 
1287
1174
        if len(parts) == 0:
1288
1175
            if file_id is None:
1289
1176
                file_id = generate_ids.gen_root_id()
 
1177
            else:
 
1178
                file_id = osutils.safe_file_id(file_id)
1290
1179
            self.root = InventoryDirectory(file_id, '', None)
1291
1180
            self._byid = {self.root.file_id: self.root}
1292
1181
            return self.root
1303
1192
 
1304
1193
        >>> inv = Inventory()
1305
1194
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
1306
 
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
 
1195
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None)
1307
1196
        >>> '123' in inv
1308
1197
        True
1309
1198
        >>> del inv['123']
1310
1199
        >>> '123' in inv
1311
1200
        False
1312
1201
        """
 
1202
        file_id = osutils.safe_file_id(file_id)
1313
1203
        ie = self[file_id]
 
1204
 
 
1205
        assert ie.parent_id is None or \
 
1206
            self[ie.parent_id].children[ie.name] == ie
 
1207
        
1314
1208
        del self._byid[file_id]
1315
1209
        if ie.parent_id is not None:
1316
1210
            del self[ie.parent_id].children[ie.name]
1323
1217
        >>> i1 == i2
1324
1218
        True
1325
1219
        >>> i1.add(InventoryFile('123', 'foo', ROOT_ID))
1326
 
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
 
1220
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None)
1327
1221
        >>> i1 == i2
1328
1222
        False
1329
1223
        >>> i2.add(InventoryFile('123', 'foo', ROOT_ID))
1330
 
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
 
1224
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None)
1331
1225
        >>> i1 == i2
1332
1226
        True
1333
1227
        """
1344
1238
 
1345
1239
    def _iter_file_id_parents(self, file_id):
1346
1240
        """Yield the parents of file_id up to the root."""
 
1241
        file_id = osutils.safe_file_id(file_id)
1347
1242
        while file_id is not None:
1348
1243
            try:
1349
1244
                ie = self._byid[file_id]
1352
1247
            yield ie
1353
1248
            file_id = ie.parent_id
1354
1249
 
1355
 
    def has_filename(self, filename):
1356
 
        return bool(self.path2id(filename))
 
1250
    def get_idpath(self, file_id):
 
1251
        """Return a list of file_ids for the path to an entry.
 
1252
 
 
1253
        The list contains one element for each directory followed by
 
1254
        the id of the file itself.  So the length of the returned list
 
1255
        is equal to the depth of the file in the tree, counting the
 
1256
        root directory as depth 1.
 
1257
        """
 
1258
        file_id = osutils.safe_file_id(file_id)
 
1259
        p = []
 
1260
        for parent in self._iter_file_id_parents(file_id):
 
1261
            p.insert(0, parent.file_id)
 
1262
        return p
 
1263
 
 
1264
    def id2path(self, file_id):
 
1265
        """Return as a string the path to file_id.
 
1266
        
 
1267
        >>> i = Inventory()
 
1268
        >>> e = i.add(InventoryDirectory('src-id', 'src', ROOT_ID))
 
1269
        >>> e = i.add(InventoryFile('foo-id', 'foo.c', parent_id='src-id'))
 
1270
        >>> print i.id2path('foo-id')
 
1271
        src/foo.c
 
1272
        """
 
1273
        file_id = osutils.safe_file_id(file_id)
 
1274
        # get all names, skipping root
 
1275
        return '/'.join(reversed(
 
1276
            [parent.name for parent in 
 
1277
             self._iter_file_id_parents(file_id)][:-1]))
 
1278
            
 
1279
    def path2id(self, name):
 
1280
        """Walk down through directories to return entry of last component.
 
1281
 
 
1282
        names may be either a list of path components, or a single
 
1283
        string, in which case it is automatically split.
 
1284
 
 
1285
        This returns the entry of the last component in the path,
 
1286
        which may be either a file or a directory.
 
1287
 
 
1288
        Returns None IFF the path is not found.
 
1289
        """
 
1290
        if isinstance(name, basestring):
 
1291
            name = osutils.splitpath(name)
 
1292
 
 
1293
        # mutter("lookup path %r" % name)
 
1294
 
 
1295
        parent = self.root
 
1296
        if parent is None:
 
1297
            return None
 
1298
        for f in name:
 
1299
            try:
 
1300
                children = getattr(parent, 'children', None)
 
1301
                if children is None:
 
1302
                    return None
 
1303
                cie = children[f]
 
1304
                assert cie.name == f
 
1305
                assert cie.parent_id == parent.file_id
 
1306
                parent = cie
 
1307
            except KeyError:
 
1308
                # or raise an error?
 
1309
                return None
 
1310
 
 
1311
        return parent.file_id
 
1312
 
 
1313
    def has_filename(self, names):
 
1314
        return bool(self.path2id(names))
1357
1315
 
1358
1316
    def has_id(self, file_id):
 
1317
        file_id = osutils.safe_file_id(file_id)
1359
1318
        return (file_id in self._byid)
1360
1319
 
1361
 
    def _make_delta(self, old):
1362
 
        """Make an inventory delta from two inventories."""
1363
 
        old_getter = getattr(old, '_byid', old)
1364
 
        new_getter = self._byid
1365
 
        old_ids = set(old_getter)
1366
 
        new_ids = set(new_getter)
1367
 
        adds = new_ids - old_ids
1368
 
        deletes = old_ids - new_ids
1369
 
        if not adds and not deletes:
1370
 
            common = new_ids
1371
 
        else:
1372
 
            common = old_ids.intersection(new_ids)
1373
 
        delta = []
1374
 
        for file_id in deletes:
1375
 
            delta.append((old.id2path(file_id), None, file_id, None))
1376
 
        for file_id in adds:
1377
 
            delta.append((None, self.id2path(file_id), file_id, self[file_id]))
1378
 
        for file_id in common:
1379
 
            new_ie = new_getter[file_id]
1380
 
            old_ie = old_getter[file_id]
1381
 
            # If xml_serializer returns the cached InventoryEntries (rather
1382
 
            # than always doing .copy()), inlining the 'is' check saves 2.7M
1383
 
            # calls to __eq__.  Under lsprof this saves 20s => 6s.
1384
 
            # It is a minor improvement without lsprof.
1385
 
            if old_ie is new_ie or old_ie == new_ie:
1386
 
                continue
1387
 
            else:
1388
 
                delta.append((old.id2path(file_id), self.id2path(file_id),
1389
 
                              file_id, new_ie))
1390
 
        return delta
1391
 
 
1392
1320
    def remove_recursive_id(self, file_id):
1393
1321
        """Remove file_id, and children, from the inventory.
1394
 
 
 
1322
        
1395
1323
        :param file_id: A file_id to remove.
1396
1324
        """
 
1325
        file_id = osutils.safe_file_id(file_id)
1397
1326
        to_find_delete = [self._byid[file_id]]
1398
1327
        to_delete = []
1399
1328
        while to_find_delete:
1416
1345
 
1417
1346
        This does not move the working file.
1418
1347
        """
1419
 
        new_name = ensure_normalized_name(new_name)
 
1348
        file_id = osutils.safe_file_id(file_id)
1420
1349
        if not is_valid_name(new_name):
1421
1350
            raise BzrError("not an acceptable filename: %r" % new_name)
1422
1351
 
1436
1365
 
1437
1366
        del old_parent.children[file_ie.name]
1438
1367
        new_parent.children[new_name] = file_ie
1439
 
 
 
1368
        
1440
1369
        file_ie.name = new_name
1441
1370
        file_ie.parent_id = new_parent_id
1442
1371
 
1443
1372
    def is_root(self, file_id):
 
1373
        file_id = osutils.safe_file_id(file_id)
1444
1374
        return self.root is not None and file_id == self.root.file_id
1445
1375
 
1446
1376
 
1447
 
class CHKInventory(CommonInventory):
1448
 
    """An inventory persisted in a CHK store.
1449
 
 
1450
 
    By design, a CHKInventory is immutable so many of the methods
1451
 
    supported by Inventory - add, rename, apply_delta, etc - are *not*
1452
 
    supported. To create a new CHKInventory, use create_by_apply_delta()
1453
 
    or from_inventory(), say.
1454
 
 
1455
 
    Internally, a CHKInventory has one or two CHKMaps:
1456
 
 
1457
 
    * id_to_entry - a map from (file_id,) => InventoryEntry as bytes
1458
 
    * parent_id_basename_to_file_id - a map from (parent_id, basename_utf8)
1459
 
        => file_id as bytes
1460
 
 
1461
 
    The second map is optional and not present in early CHkRepository's.
1462
 
 
1463
 
    No caching is performed: every method call or item access will perform
1464
 
    requests to the storage layer. As such, keep references to objects you
1465
 
    want to reuse.
1466
 
    """
1467
 
 
1468
 
    def __init__(self, search_key_name):
1469
 
        CommonInventory.__init__(self)
1470
 
        self._fileid_to_entry_cache = {}
1471
 
        self._path_to_fileid_cache = {}
1472
 
        self._search_key_name = search_key_name
1473
 
 
1474
 
    def __eq__(self, other):
1475
 
        """Compare two sets by comparing their contents."""
1476
 
        if not isinstance(other, CHKInventory):
1477
 
            return NotImplemented
1478
 
 
1479
 
        this_key = self.id_to_entry.key()
1480
 
        other_key = other.id_to_entry.key()
1481
 
        this_pid_key = self.parent_id_basename_to_file_id.key()
1482
 
        other_pid_key = other.parent_id_basename_to_file_id.key()
1483
 
        if None in (this_key, this_pid_key, other_key, other_pid_key):
1484
 
            return False
1485
 
        return this_key == other_key and this_pid_key == other_pid_key
1486
 
 
1487
 
    def _entry_to_bytes(self, entry):
1488
 
        """Serialise entry as a single bytestring.
1489
 
 
1490
 
        :param Entry: An inventory entry.
1491
 
        :return: A bytestring for the entry.
1492
 
 
1493
 
        The BNF:
1494
 
        ENTRY ::= FILE | DIR | SYMLINK | TREE
1495
 
        FILE ::= "file: " COMMON SEP SHA SEP SIZE SEP EXECUTABLE
1496
 
        DIR ::= "dir: " COMMON
1497
 
        SYMLINK ::= "symlink: " COMMON SEP TARGET_UTF8
1498
 
        TREE ::= "tree: " COMMON REFERENCE_REVISION
1499
 
        COMMON ::= FILE_ID SEP PARENT_ID SEP NAME_UTF8 SEP REVISION
1500
 
        SEP ::= "\n"
1501
 
        """
1502
 
        if entry.parent_id is not None:
1503
 
            parent_str = entry.parent_id
1504
 
        else:
1505
 
            parent_str = ''
1506
 
        name_str = entry.name.encode("utf8")
1507
 
        if entry.kind == 'file':
1508
 
            if entry.executable:
1509
 
                exec_str = "Y"
1510
 
            else:
1511
 
                exec_str = "N"
1512
 
            return "file: %s\n%s\n%s\n%s\n%s\n%d\n%s" % (
1513
 
                entry.file_id, parent_str, name_str, entry.revision,
1514
 
                entry.text_sha1, entry.text_size, exec_str)
1515
 
        elif entry.kind == 'directory':
1516
 
            return "dir: %s\n%s\n%s\n%s" % (
1517
 
                entry.file_id, parent_str, name_str, entry.revision)
1518
 
        elif entry.kind == 'symlink':
1519
 
            return "symlink: %s\n%s\n%s\n%s\n%s" % (
1520
 
                entry.file_id, parent_str, name_str, entry.revision,
1521
 
                entry.symlink_target.encode("utf8"))
1522
 
        elif entry.kind == 'tree-reference':
1523
 
            return "tree: %s\n%s\n%s\n%s\n%s" % (
1524
 
                entry.file_id, parent_str, name_str, entry.revision,
1525
 
                entry.reference_revision)
1526
 
        else:
1527
 
            raise ValueError("unknown kind %r" % entry.kind)
1528
 
 
1529
 
    @staticmethod
1530
 
    def _bytes_to_utf8name_key(bytes):
1531
 
        """Get the file_id, revision_id key out of bytes."""
1532
 
        # We don't normally care about name, except for times when we want
1533
 
        # to filter out empty names because of non rich-root...
1534
 
        sections = bytes.split('\n')
1535
 
        kind, file_id = sections[0].split(': ')
1536
 
        return (sections[2], file_id, sections[3])
1537
 
 
1538
 
    def _bytes_to_entry(self, bytes):
1539
 
        """Deserialise a serialised entry."""
1540
 
        sections = bytes.split('\n')
1541
 
        if sections[0].startswith("file: "):
1542
 
            result = InventoryFile(sections[0][6:],
1543
 
                sections[2].decode('utf8'),
1544
 
                sections[1])
1545
 
            result.text_sha1 = sections[4]
1546
 
            result.text_size = int(sections[5])
1547
 
            result.executable = sections[6] == "Y"
1548
 
        elif sections[0].startswith("dir: "):
1549
 
            result = CHKInventoryDirectory(sections[0][5:],
1550
 
                sections[2].decode('utf8'),
1551
 
                sections[1], self)
1552
 
        elif sections[0].startswith("symlink: "):
1553
 
            result = InventoryLink(sections[0][9:],
1554
 
                sections[2].decode('utf8'),
1555
 
                sections[1])
1556
 
            result.symlink_target = sections[4].decode('utf8')
1557
 
        elif sections[0].startswith("tree: "):
1558
 
            result = TreeReference(sections[0][6:],
1559
 
                sections[2].decode('utf8'),
1560
 
                sections[1])
1561
 
            result.reference_revision = sections[4]
1562
 
        else:
1563
 
            raise ValueError("Not a serialised entry %r" % bytes)
1564
 
        result.revision = sections[3]
1565
 
        if result.parent_id == '':
1566
 
            result.parent_id = None
1567
 
        self._fileid_to_entry_cache[result.file_id] = result
1568
 
        return result
1569
 
 
1570
 
    def _get_mutable_inventory(self):
1571
 
        """See CommonInventory._get_mutable_inventory."""
1572
 
        entries = self.iter_entries()
1573
 
        inv = Inventory(None, self.revision_id)
1574
 
        for path, inv_entry in entries:
1575
 
            inv.add(inv_entry.copy())
1576
 
        return inv
1577
 
 
1578
 
    def create_by_apply_delta(self, inventory_delta, new_revision_id,
1579
 
        propagate_caches=False):
1580
 
        """Create a new CHKInventory by applying inventory_delta to this one.
1581
 
 
1582
 
        See the inventory developers documentation for the theory behind
1583
 
        inventory deltas.
1584
 
 
1585
 
        :param inventory_delta: The inventory delta to apply. See
1586
 
            Inventory.apply_delta for details.
1587
 
        :param new_revision_id: The revision id of the resulting CHKInventory.
1588
 
        :param propagate_caches: If True, the caches for this inventory are
1589
 
          copied to and updated for the result.
1590
 
        :return: The new CHKInventory.
1591
 
        """
1592
 
        result = CHKInventory(self._search_key_name)
1593
 
        if propagate_caches:
1594
 
            # Just propagate the path-to-fileid cache for now
1595
 
            result._path_to_fileid_cache = dict(self._path_to_fileid_cache.iteritems())
1596
 
        search_key_func = chk_map.search_key_registry.get(self._search_key_name)
1597
 
        self.id_to_entry._ensure_root()
1598
 
        maximum_size = self.id_to_entry._root_node.maximum_size
1599
 
        result.revision_id = new_revision_id
1600
 
        result.id_to_entry = chk_map.CHKMap(
1601
 
            self.id_to_entry._store,
1602
 
            self.id_to_entry.key(),
1603
 
            search_key_func=search_key_func)
1604
 
        result.id_to_entry._ensure_root()
1605
 
        result.id_to_entry._root_node.set_maximum_size(maximum_size)
1606
 
        parent_id_basename_delta = []
1607
 
        if self.parent_id_basename_to_file_id is not None:
1608
 
            result.parent_id_basename_to_file_id = chk_map.CHKMap(
1609
 
                self.parent_id_basename_to_file_id._store,
1610
 
                self.parent_id_basename_to_file_id.key(),
1611
 
                search_key_func=search_key_func)
1612
 
            result.parent_id_basename_to_file_id._ensure_root()
1613
 
            self.parent_id_basename_to_file_id._ensure_root()
1614
 
            result_p_id_root = result.parent_id_basename_to_file_id._root_node
1615
 
            p_id_root = self.parent_id_basename_to_file_id._root_node
1616
 
            result_p_id_root.set_maximum_size(p_id_root.maximum_size)
1617
 
            result_p_id_root._key_width = p_id_root._key_width
1618
 
        else:
1619
 
            result.parent_id_basename_to_file_id = None
1620
 
        result.root_id = self.root_id
1621
 
        id_to_entry_delta = []
1622
 
        for old_path, new_path, file_id, entry in inventory_delta:
1623
 
            # file id changes
1624
 
            if new_path == '':
1625
 
                result.root_id = file_id
1626
 
            if new_path is None:
1627
 
                # Make a delete:
1628
 
                new_key = None
1629
 
                new_value = None
1630
 
                # Update caches
1631
 
                if propagate_caches:
1632
 
                    try:
1633
 
                        del result._path_to_fileid_cache[old_path]
1634
 
                    except KeyError:
1635
 
                        pass
1636
 
            else:
1637
 
                new_key = (file_id,)
1638
 
                new_value = result._entry_to_bytes(entry)
1639
 
                # Update caches. It's worth doing this whether
1640
 
                # we're propagating the old caches or not.
1641
 
                result._path_to_fileid_cache[new_path] = file_id
1642
 
            if old_path is None:
1643
 
                old_key = None
1644
 
            else:
1645
 
                old_key = (file_id,)
1646
 
            id_to_entry_delta.append((old_key, new_key, new_value))
1647
 
            if result.parent_id_basename_to_file_id is not None:
1648
 
                # parent_id, basename changes
1649
 
                if old_path is None:
1650
 
                    old_key = None
1651
 
                else:
1652
 
                    old_entry = self[file_id]
1653
 
                    old_key = self._parent_id_basename_key(old_entry)
1654
 
                if new_path is None:
1655
 
                    new_key = None
1656
 
                    new_value = None
1657
 
                else:
1658
 
                    new_key = self._parent_id_basename_key(entry)
1659
 
                    new_value = file_id
1660
 
                if old_key != new_key:
1661
 
                    # If the two keys are the same, the value will be unchanged
1662
 
                    # as its always the file id.
1663
 
                    parent_id_basename_delta.append((old_key, new_key, new_value))
1664
 
        result.id_to_entry.apply_delta(id_to_entry_delta)
1665
 
        if parent_id_basename_delta:
1666
 
            result.parent_id_basename_to_file_id.apply_delta(parent_id_basename_delta)
1667
 
        return result
1668
 
 
1669
 
    @classmethod
1670
 
    def deserialise(klass, chk_store, bytes, expected_revision_id):
1671
 
        """Deserialise a CHKInventory.
1672
 
 
1673
 
        :param chk_store: A CHK capable VersionedFiles instance.
1674
 
        :param bytes: The serialised bytes.
1675
 
        :param expected_revision_id: The revision ID we think this inventory is
1676
 
            for.
1677
 
        :return: A CHKInventory
1678
 
        """
1679
 
        lines = bytes.split('\n')
1680
 
        if lines[-1] != '':
1681
 
            raise AssertionError('bytes to deserialize must end with an eol')
1682
 
        lines.pop()
1683
 
        if lines[0] != 'chkinventory:':
1684
 
            raise ValueError("not a serialised CHKInventory: %r" % bytes)
1685
 
        info = {}
1686
 
        allowed_keys = frozenset(['root_id', 'revision_id', 'search_key_name',
1687
 
                                  'parent_id_basename_to_file_id',
1688
 
                                  'id_to_entry'])
1689
 
        for line in lines[1:]:
1690
 
            key, value = line.split(': ', 1)
1691
 
            if key not in allowed_keys:
1692
 
                raise errors.BzrError('Unknown key in inventory: %r\n%r'
1693
 
                                      % (key, bytes))
1694
 
            if key in info:
1695
 
                raise errors.BzrError('Duplicate key in inventory: %r\n%r'
1696
 
                                      % (key, bytes))
1697
 
            info[key] = value
1698
 
        revision_id = info['revision_id']
1699
 
        root_id = info['root_id']
1700
 
        search_key_name = info.get('search_key_name', 'plain')
1701
 
        parent_id_basename_to_file_id = info.get(
1702
 
            'parent_id_basename_to_file_id', None)
1703
 
        id_to_entry = info['id_to_entry']
1704
 
 
1705
 
        result = CHKInventory(search_key_name)
1706
 
        result.revision_id = revision_id
1707
 
        result.root_id = root_id
1708
 
        search_key_func = chk_map.search_key_registry.get(
1709
 
                            result._search_key_name)
1710
 
        if parent_id_basename_to_file_id is not None:
1711
 
            result.parent_id_basename_to_file_id = chk_map.CHKMap(
1712
 
                chk_store, (parent_id_basename_to_file_id,),
1713
 
                search_key_func=search_key_func)
1714
 
        else:
1715
 
            result.parent_id_basename_to_file_id = None
1716
 
 
1717
 
        result.id_to_entry = chk_map.CHKMap(chk_store, (id_to_entry,),
1718
 
                                            search_key_func=search_key_func)
1719
 
        if (result.revision_id,) != expected_revision_id:
1720
 
            raise ValueError("Mismatched revision id and expected: %r, %r" %
1721
 
                (result.revision_id, expected_revision_id))
1722
 
        return result
1723
 
 
1724
 
    @classmethod
1725
 
    def from_inventory(klass, chk_store, inventory, maximum_size=0, search_key_name='plain'):
1726
 
        """Create a CHKInventory from an existing inventory.
1727
 
 
1728
 
        The content of inventory is copied into the chk_store, and a
1729
 
        CHKInventory referencing that is returned.
1730
 
 
1731
 
        :param chk_store: A CHK capable VersionedFiles instance.
1732
 
        :param inventory: The inventory to copy.
1733
 
        :param maximum_size: The CHKMap node size limit.
1734
 
        :param search_key_name: The identifier for the search key function
1735
 
        """
1736
 
        result = klass(search_key_name)
1737
 
        result.revision_id = inventory.revision_id
1738
 
        result.root_id = inventory.root.file_id
1739
 
 
1740
 
        entry_to_bytes = result._entry_to_bytes
1741
 
        parent_id_basename_key = result._parent_id_basename_key
1742
 
        id_to_entry_dict = {}
1743
 
        parent_id_basename_dict = {}
1744
 
        for path, entry in inventory.iter_entries():
1745
 
            id_to_entry_dict[(entry.file_id,)] = entry_to_bytes(entry)
1746
 
            p_id_key = parent_id_basename_key(entry)
1747
 
            parent_id_basename_dict[p_id_key] = entry.file_id
1748
 
 
1749
 
        result._populate_from_dicts(chk_store, id_to_entry_dict,
1750
 
            parent_id_basename_dict, maximum_size=maximum_size)
1751
 
        return result
1752
 
 
1753
 
    def _populate_from_dicts(self, chk_store, id_to_entry_dict,
1754
 
                             parent_id_basename_dict, maximum_size):
1755
 
        search_key_func = chk_map.search_key_registry.get(self._search_key_name)
1756
 
        root_key = chk_map.CHKMap.from_dict(chk_store, id_to_entry_dict,
1757
 
                   maximum_size=maximum_size, key_width=1,
1758
 
                   search_key_func=search_key_func)
1759
 
        self.id_to_entry = chk_map.CHKMap(chk_store, root_key,
1760
 
                                          search_key_func)
1761
 
        root_key = chk_map.CHKMap.from_dict(chk_store,
1762
 
                   parent_id_basename_dict,
1763
 
                   maximum_size=maximum_size, key_width=2,
1764
 
                   search_key_func=search_key_func)
1765
 
        self.parent_id_basename_to_file_id = chk_map.CHKMap(chk_store,
1766
 
                                                    root_key, search_key_func)
1767
 
 
1768
 
    def _parent_id_basename_key(self, entry):
1769
 
        """Create a key for a entry in a parent_id_basename_to_file_id index."""
1770
 
        if entry.parent_id is not None:
1771
 
            parent_id = entry.parent_id
1772
 
        else:
1773
 
            parent_id = ''
1774
 
        return parent_id, entry.name.encode('utf8')
1775
 
 
1776
 
    def __getitem__(self, file_id):
1777
 
        """map a single file_id -> InventoryEntry."""
1778
 
        if file_id is None:
1779
 
            raise errors.NoSuchId(self, file_id)
1780
 
        result = self._fileid_to_entry_cache.get(file_id, None)
1781
 
        if result is not None:
1782
 
            return result
1783
 
        try:
1784
 
            return self._bytes_to_entry(
1785
 
                self.id_to_entry.iteritems([(file_id,)]).next()[1])
1786
 
        except StopIteration:
1787
 
            # really we're passing an inventory, not a tree...
1788
 
            raise errors.NoSuchId(self, file_id)
1789
 
 
1790
 
    def has_id(self, file_id):
1791
 
        # Perhaps have an explicit 'contains' method on CHKMap ?
1792
 
        if self._fileid_to_entry_cache.get(file_id, None) is not None:
1793
 
            return True
1794
 
        return len(list(self.id_to_entry.iteritems([(file_id,)]))) == 1
1795
 
 
1796
 
    def is_root(self, file_id):
1797
 
        return file_id == self.root_id
1798
 
 
1799
 
    def _iter_file_id_parents(self, file_id):
1800
 
        """Yield the parents of file_id up to the root."""
1801
 
        while file_id is not None:
1802
 
            try:
1803
 
                ie = self[file_id]
1804
 
            except KeyError:
1805
 
                raise errors.NoSuchId(tree=self, file_id=file_id)
1806
 
            yield ie
1807
 
            file_id = ie.parent_id
1808
 
 
1809
 
    def __iter__(self):
1810
 
        """Iterate over all file-ids."""
1811
 
        for key, _ in self.id_to_entry.iteritems():
1812
 
            yield key[-1]
1813
 
 
1814
 
    def iter_just_entries(self):
1815
 
        """Iterate over all entries.
1816
 
        
1817
 
        Unlike iter_entries(), just the entries are returned (not (path, ie))
1818
 
        and the order of entries is undefined.
1819
 
 
1820
 
        XXX: We may not want to merge this into bzr.dev.
1821
 
        """
1822
 
        for key, entry in self.id_to_entry.iteritems():
1823
 
            file_id = key[0]
1824
 
            ie = self._fileid_to_entry_cache.get(file_id, None)
1825
 
            if ie is None:
1826
 
                ie = self._bytes_to_entry(entry)
1827
 
                self._fileid_to_entry_cache[file_id] = ie
1828
 
            yield ie
1829
 
 
1830
 
    def iter_changes(self, basis):
1831
 
        """Generate a Tree.iter_changes change list between this and basis.
1832
 
 
1833
 
        :param basis: Another CHKInventory.
1834
 
        :return: An iterator over the changes between self and basis, as per
1835
 
            tree.iter_changes().
1836
 
        """
1837
 
        # We want: (file_id, (path_in_source, path_in_target),
1838
 
        # changed_content, versioned, parent, name, kind,
1839
 
        # executable)
1840
 
        for key, basis_value, self_value in \
1841
 
            self.id_to_entry.iter_changes(basis.id_to_entry):
1842
 
            file_id = key[0]
1843
 
            if basis_value is not None:
1844
 
                basis_entry = basis._bytes_to_entry(basis_value)
1845
 
                path_in_source = basis.id2path(file_id)
1846
 
                basis_parent = basis_entry.parent_id
1847
 
                basis_name = basis_entry.name
1848
 
                basis_executable = basis_entry.executable
1849
 
            else:
1850
 
                path_in_source = None
1851
 
                basis_parent = None
1852
 
                basis_name = None
1853
 
                basis_executable = None
1854
 
            if self_value is not None:
1855
 
                self_entry = self._bytes_to_entry(self_value)
1856
 
                path_in_target = self.id2path(file_id)
1857
 
                self_parent = self_entry.parent_id
1858
 
                self_name = self_entry.name
1859
 
                self_executable = self_entry.executable
1860
 
            else:
1861
 
                path_in_target = None
1862
 
                self_parent = None
1863
 
                self_name = None
1864
 
                self_executable = None
1865
 
            if basis_value is None:
1866
 
                # add
1867
 
                kind = (None, self_entry.kind)
1868
 
                versioned = (False, True)
1869
 
            elif self_value is None:
1870
 
                # delete
1871
 
                kind = (basis_entry.kind, None)
1872
 
                versioned = (True, False)
1873
 
            else:
1874
 
                kind = (basis_entry.kind, self_entry.kind)
1875
 
                versioned = (True, True)
1876
 
            changed_content = False
1877
 
            if kind[0] != kind[1]:
1878
 
                changed_content = True
1879
 
            elif kind[0] == 'file':
1880
 
                if (self_entry.text_size != basis_entry.text_size or
1881
 
                    self_entry.text_sha1 != basis_entry.text_sha1):
1882
 
                    changed_content = True
1883
 
            elif kind[0] == 'symlink':
1884
 
                if self_entry.symlink_target != basis_entry.symlink_target:
1885
 
                    changed_content = True
1886
 
            elif kind[0] == 'tree-reference':
1887
 
                if (self_entry.reference_revision !=
1888
 
                    basis_entry.reference_revision):
1889
 
                    changed_content = True
1890
 
            parent = (basis_parent, self_parent)
1891
 
            name = (basis_name, self_name)
1892
 
            executable = (basis_executable, self_executable)
1893
 
            if (not changed_content
1894
 
                and parent[0] == parent[1]
1895
 
                and name[0] == name[1]
1896
 
                and executable[0] == executable[1]):
1897
 
                # Could happen when only the revision changed for a directory
1898
 
                # for instance.
1899
 
                continue
1900
 
            yield (file_id, (path_in_source, path_in_target), changed_content,
1901
 
                versioned, parent, name, kind, executable)
1902
 
 
1903
 
    def __len__(self):
1904
 
        """Return the number of entries in the inventory."""
1905
 
        return len(self.id_to_entry)
1906
 
 
1907
 
    def _make_delta(self, old):
1908
 
        """Make an inventory delta from two inventories."""
1909
 
        if type(old) != CHKInventory:
1910
 
            return CommonInventory._make_delta(self, old)
1911
 
        delta = []
1912
 
        for key, old_value, self_value in \
1913
 
            self.id_to_entry.iter_changes(old.id_to_entry):
1914
 
            file_id = key[0]
1915
 
            if old_value is not None:
1916
 
                old_path = old.id2path(file_id)
1917
 
            else:
1918
 
                old_path = None
1919
 
            if self_value is not None:
1920
 
                entry = self._bytes_to_entry(self_value)
1921
 
                self._fileid_to_entry_cache[file_id] = entry
1922
 
                new_path = self.id2path(file_id)
1923
 
            else:
1924
 
                entry = None
1925
 
                new_path = None
1926
 
            delta.append((old_path, new_path, file_id, entry))
1927
 
        return delta
1928
 
 
1929
 
    def path2id(self, name):
1930
 
        """See CommonInventory.path2id()."""
1931
 
        result = self._path_to_fileid_cache.get(name, None)
1932
 
        if result is None:
1933
 
            result = CommonInventory.path2id(self, name)
1934
 
            self._path_to_fileid_cache[name] = result
1935
 
        return result
1936
 
 
1937
 
    def to_lines(self):
1938
 
        """Serialise the inventory to lines."""
1939
 
        lines = ["chkinventory:\n"]
1940
 
        if self._search_key_name != 'plain':
1941
 
            # custom ordering grouping things that don't change together
1942
 
            lines.append('search_key_name: %s\n' % (self._search_key_name,))
1943
 
            lines.append("root_id: %s\n" % self.root_id)
1944
 
            lines.append('parent_id_basename_to_file_id: %s\n' %
1945
 
                self.parent_id_basename_to_file_id.key())
1946
 
            lines.append("revision_id: %s\n" % self.revision_id)
1947
 
            lines.append("id_to_entry: %s\n" % self.id_to_entry.key())
1948
 
        else:
1949
 
            lines.append("revision_id: %s\n" % self.revision_id)
1950
 
            lines.append("root_id: %s\n" % self.root_id)
1951
 
            if self.parent_id_basename_to_file_id is not None:
1952
 
                lines.append('parent_id_basename_to_file_id: %s\n' %
1953
 
                    self.parent_id_basename_to_file_id.key())
1954
 
            lines.append("id_to_entry: %s\n" % self.id_to_entry.key())
1955
 
        return lines
1956
 
 
1957
 
    @property
1958
 
    def root(self):
1959
 
        """Get the root entry."""
1960
 
        return self[self.root_id]
1961
 
 
1962
 
 
1963
 
class CHKInventoryDirectory(InventoryDirectory):
1964
 
    """A directory in an inventory."""
1965
 
 
1966
 
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
1967
 
                 'text_id', 'parent_id', '_children', 'executable',
1968
 
                 'revision', 'symlink_target', 'reference_revision',
1969
 
                 '_chk_inventory']
1970
 
 
1971
 
    def __init__(self, file_id, name, parent_id, chk_inventory):
1972
 
        # Don't call InventoryDirectory.__init__ - it isn't right for this
1973
 
        # class.
1974
 
        InventoryEntry.__init__(self, file_id, name, parent_id)
1975
 
        self._children = None
1976
 
        self.kind = 'directory'
1977
 
        self._chk_inventory = chk_inventory
1978
 
 
1979
 
    @property
1980
 
    def children(self):
1981
 
        """Access the list of children of this directory.
1982
 
 
1983
 
        With a parent_id_basename_to_file_id index, loads all the children,
1984
 
        without loads the entire index. Without is bad. A more sophisticated
1985
 
        proxy object might be nice, to allow partial loading of children as
1986
 
        well when specific names are accessed. (So path traversal can be
1987
 
        written in the obvious way but not examine siblings.).
1988
 
        """
1989
 
        if self._children is not None:
1990
 
            return self._children
1991
 
        # No longer supported
1992
 
        if self._chk_inventory.parent_id_basename_to_file_id is None:
1993
 
            raise AssertionError("Inventories without"
1994
 
                " parent_id_basename_to_file_id are no longer supported")
1995
 
        result = {}
1996
 
        # XXX: Todo - use proxy objects for the children rather than loading
1997
 
        # all when the attribute is referenced.
1998
 
        parent_id_index = self._chk_inventory.parent_id_basename_to_file_id
1999
 
        child_keys = set()
2000
 
        for (parent_id, name_utf8), file_id in parent_id_index.iteritems(
2001
 
            key_filter=[(self.file_id,)]):
2002
 
            child_keys.add((file_id,))
2003
 
        cached = set()
2004
 
        for file_id_key in child_keys:
2005
 
            entry = self._chk_inventory._fileid_to_entry_cache.get(
2006
 
                file_id_key[0], None)
2007
 
            if entry is not None:
2008
 
                result[entry.name] = entry
2009
 
                cached.add(file_id_key)
2010
 
        child_keys.difference_update(cached)
2011
 
        # populate; todo: do by name
2012
 
        id_to_entry = self._chk_inventory.id_to_entry
2013
 
        for file_id_key, bytes in id_to_entry.iteritems(child_keys):
2014
 
            entry = self._chk_inventory._bytes_to_entry(bytes)
2015
 
            result[entry.name] = entry
2016
 
            self._chk_inventory._fileid_to_entry_cache[file_id_key[0]] = entry
2017
 
        self._children = result
2018
 
        return result
2019
 
 
2020
1377
entry_factory = {
2021
1378
    'directory': InventoryDirectory,
2022
1379
    'file': InventoryFile,
2034
1391
    """
2035
1392
    if file_id is None:
2036
1393
        file_id = generate_ids.gen_file_id(name)
2037
 
    name = ensure_normalized_name(name)
2038
 
    try:
2039
 
        factory = entry_factory[kind]
2040
 
    except KeyError:
2041
 
        raise BzrError("unknown kind %r" % kind)
2042
 
    return factory(file_id, name, parent_id)
2043
 
 
2044
 
 
2045
 
def ensure_normalized_name(name):
2046
 
    """Normalize name.
2047
 
 
2048
 
    :raises InvalidNormalization: When name is not normalized, and cannot be
2049
 
        accessed on this platform by the normalized path.
2050
 
    :return: The NFC normalised version of name.
2051
 
    """
 
1394
    else:
 
1395
        file_id = osutils.safe_file_id(file_id)
 
1396
 
2052
1397
    #------- This has been copied to bzrlib.dirstate.DirState.add, please
2053
1398
    # keep them synchronised.
2054
1399
    # we dont import normalized_filename directly because we want to be
2056
1401
    norm_name, can_access = osutils.normalized_filename(name)
2057
1402
    if norm_name != name:
2058
1403
        if can_access:
2059
 
            return norm_name
 
1404
            name = norm_name
2060
1405
        else:
2061
1406
            # TODO: jam 20060701 This would probably be more useful
2062
1407
            #       if the error was raised with the full path
2063
1408
            raise errors.InvalidNormalization(name)
2064
 
    return name
 
1409
 
 
1410
    try:
 
1411
        factory = entry_factory[kind]
 
1412
    except KeyError:
 
1413
        raise BzrError("unknown kind %r" % kind)
 
1414
    return factory(file_id, name, parent_id)
2065
1415
 
2066
1416
 
2067
1417
_NAME_RE = None
2070
1420
    global _NAME_RE
2071
1421
    if _NAME_RE is None:
2072
1422
        _NAME_RE = re.compile(r'^[^/\\]+$')
2073
 
 
 
1423
        
2074
1424
    return bool(_NAME_RE.match(name))