~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/inventory.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2008-02-06 01:45:28 UTC
  • mfrom: (3211.5.4 integration)
  • Revision ID: pqm@pqm.ubuntu.com-20080206014528-rb8v4hl04mgxulb7
(robertc) Tune RemoteRepository.get_parent_map to not send duplicate
        results, and to compress the data,
        reducing round trips further. (Robert Collins)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# (C) 2005 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
27
27
# created, but it's not for now.
28
28
ROOT_ID = "TREE_ROOT"
29
29
 
30
 
 
31
 
import os.path
 
30
import os
32
31
import re
33
32
import sys
 
33
 
 
34
from bzrlib.lazy_import import lazy_import
 
35
lazy_import(globals(), """
 
36
import collections
34
37
import tarfile
35
 
import types
36
38
 
37
39
import bzrlib
38
 
from bzrlib.osutils import (pumpfile, quotefn, splitpath, joinpath,
39
 
                            appendpath, sha_strings)
 
40
from bzrlib import (
 
41
    errors,
 
42
    generate_ids,
 
43
    osutils,
 
44
    symbol_versioning,
 
45
    workingtree,
 
46
    )
 
47
""")
 
48
 
 
49
from bzrlib.errors import (
 
50
    BzrCheckError,
 
51
    BzrError,
 
52
    )
 
53
from bzrlib.symbol_versioning import deprecated_method
40
54
from bzrlib.trace import mutter
41
 
from bzrlib.errors import (NotVersionedError, InvalidEntryName,
42
 
                           BzrError, BzrCheckError)
43
55
 
44
56
 
45
57
class InventoryEntry(object):
76
88
    >>> i.path2id('')
77
89
    'TREE_ROOT'
78
90
    >>> i.add(InventoryDirectory('123', 'src', ROOT_ID))
79
 
    InventoryDirectory('123', 'src', parent_id='TREE_ROOT')
 
91
    InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None)
80
92
    >>> i.add(InventoryFile('2323', 'hello.c', parent_id='123'))
81
 
    InventoryFile('2323', 'hello.c', parent_id='123')
82
 
    >>> shouldbe = {0: 'src', 1: os.path.join('src','hello.c')}
 
93
    InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None)
 
94
    >>> shouldbe = {0: '', 1: 'src', 2: 'src/hello.c'}
83
95
    >>> for ix, j in enumerate(i.iter_entries()):
84
96
    ...   print (j[0] == shouldbe[ix], j[1])
85
97
    ... 
86
 
    (True, InventoryDirectory('123', 'src', parent_id='TREE_ROOT'))
87
 
    (True, InventoryFile('2323', 'hello.c', parent_id='123'))
88
 
    >>> i.add(InventoryFile('2323', 'bye.c', '123'))
89
 
    Traceback (most recent call last):
90
 
    ...
91
 
    BzrError: inventory already contains entry with id {2323}
 
98
    (True, InventoryDirectory('TREE_ROOT', u'', parent_id=None, revision=None))
 
99
    (True, InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None))
 
100
    (True, InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None))
92
101
    >>> i.add(InventoryFile('2324', 'bye.c', '123'))
93
 
    InventoryFile('2324', 'bye.c', parent_id='123')
 
102
    InventoryFile('2324', 'bye.c', parent_id='123', sha1=None, len=None)
94
103
    >>> i.add(InventoryDirectory('2325', 'wibble', '123'))
95
 
    InventoryDirectory('2325', 'wibble', parent_id='123')
 
104
    InventoryDirectory('2325', 'wibble', parent_id='123', revision=None)
96
105
    >>> i.path2id('src/wibble')
97
106
    '2325'
98
107
    >>> '2325' in i
99
108
    True
100
109
    >>> i.add(InventoryFile('2326', 'wibble.c', '2325'))
101
 
    InventoryFile('2326', 'wibble.c', parent_id='2325')
 
110
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None)
102
111
    >>> i['2326']
103
 
    InventoryFile('2326', 'wibble.c', parent_id='2325')
 
112
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None)
104
113
    >>> for path, entry in i.iter_entries():
105
 
    ...     print path.replace('\\\\', '/')     # for win32 os.sep
 
114
    ...     print path
106
115
    ...     assert i.path2id(path)
107
116
    ... 
 
117
    <BLANKLINE>
108
118
    src
109
119
    src/bye.c
110
120
    src/hello.c
111
121
    src/wibble
112
122
    src/wibble/wibble.c
113
 
    >>> i.id2path('2326').replace('\\\\', '/')
 
123
    >>> i.id2path('2326')
114
124
    'src/wibble/wibble.c'
115
125
    """
 
126
 
 
127
    # Constants returned by describe_change()
 
128
    #
 
129
    # TODO: These should probably move to some kind of FileChangeDescription 
 
130
    # class; that's like what's inside a TreeDelta but we want to be able to 
 
131
    # generate them just for one file at a time.
 
132
    RENAMED = 'renamed'
 
133
    MODIFIED_AND_RENAMED = 'modified and renamed'
116
134
    
117
 
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
118
 
                 'text_id', 'parent_id', 'children', 'executable', 
119
 
                 'revision']
120
 
 
121
 
    def _add_text_to_weave(self, new_lines, parents, weave_store, transaction):
122
 
        weave_store.add_text(self.file_id, self.revision, new_lines, parents,
123
 
                             transaction)
 
135
    __slots__ = []
124
136
 
125
137
    def detect_changes(self, old_entry):
126
138
        """Return a (text_modified, meta_modified) from this to old_entry.
130
142
        """
131
143
        return False, False
132
144
 
 
145
    @deprecated_method(symbol_versioning.one_zero)
133
146
    def diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
134
147
             output_to, reverse=False):
135
148
        """Perform a diff from this to to_entry.
150
163
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
151
164
             output_to, reverse=False):
152
165
        """Perform a diff between two entries of the same kind."""
153
 
 
154
 
    def find_previous_heads(self, previous_inventories, entry_weave):
155
 
        """Return the revisions and entries that directly preceed this.
156
 
 
157
 
        Returned as a map from revision to inventory entry.
158
 
 
159
 
        This is a map containing the file revisions in all parents
160
 
        for which the file exists, and its revision is not a parent of
161
 
        any other. If the file is new, the set will be empty.
 
166
    
 
167
    def parent_candidates(self, previous_inventories):
 
168
        """Find possible per-file graph parents.
 
169
 
 
170
        This is currently defined by:
 
171
         - Select the last changed revision in the parent inventory.
 
172
         - Do deal with a short lived bug in bzr 0.8's development two entries
 
173
           that have the same last changed but different 'x' bit settings are
 
174
           changed in-place.
162
175
        """
163
 
        def get_ancestors(weave, entry):
164
 
            return set(map(weave.idx_to_name,
165
 
                           weave.inclusions([weave.lookup(entry.revision)])))
166
 
        heads = {}
167
 
        head_ancestors = {}
 
176
        # revision:ie mapping for each ie found in previous_inventories.
 
177
        candidates = {}
 
178
        # identify candidate head revision ids.
168
179
        for inv in previous_inventories:
169
180
            if self.file_id in inv:
170
181
                ie = inv[self.file_id]
171
182
                assert ie.file_id == self.file_id
172
 
                if ie.revision in heads:
173
 
                    # fixup logic, there was a bug in revision updates.
174
 
                    # with x bit support.
 
183
                if ie.revision in candidates:
 
184
                    # same revision value in two different inventories:
 
185
                    # correct possible inconsistencies:
 
186
                    #     * there was a bug in revision updates with 'x' bit 
 
187
                    #       support.
175
188
                    try:
176
 
                        if heads[ie.revision].executable != ie.executable:
177
 
                            heads[ie.revision].executable = False
 
189
                        if candidates[ie.revision].executable != ie.executable:
 
190
                            candidates[ie.revision].executable = False
178
191
                            ie.executable = False
179
192
                    except AttributeError:
180
193
                        pass
181
 
                    assert heads[ie.revision] == ie
 
194
                    # must now be the same.
 
195
                    assert candidates[ie.revision] == ie
182
196
                else:
183
 
                    # may want to add it.
184
 
                    # may already be covered:
185
 
                    already_present = 0 != len(
186
 
                        [head for head in heads 
187
 
                         if ie.revision in head_ancestors[head]])
188
 
                    if already_present:
189
 
                        # an ancestor of a known head.
190
 
                        continue
191
 
                    # definately a head:
192
 
                    ancestors = get_ancestors(entry_weave, ie)
193
 
                    # may knock something else out:
194
 
                    check_heads = list(heads.keys())
195
 
                    for head in check_heads:
196
 
                        if head in ancestors:
197
 
                            # this head is not really a head
198
 
                            heads.pop(head)
199
 
                    head_ancestors[ie.revision] = ancestors
200
 
                    heads[ie.revision] = ie
 
197
                    # add this revision as a candidate.
 
198
                    candidates[ie.revision] = ie
 
199
        return candidates
 
200
 
 
201
    @deprecated_method(symbol_versioning.zero_ninetyone)
 
202
    def find_previous_heads(self, previous_inventories,
 
203
                            versioned_file_store,
 
204
                            transaction,
 
205
                            entry_vf=None):
 
206
        """Return the revisions and entries that directly precede this.
 
207
 
 
208
        Returned as a map from revision to inventory entry.
 
209
 
 
210
        This is a map containing the file revisions in all parents
 
211
        for which the file exists, and its revision is not a parent of
 
212
        any other. If the file is new, the set will be empty.
 
213
 
 
214
        :param versioned_file_store: A store where ancestry data on this
 
215
                                     file id can be queried.
 
216
        :param transaction: The transaction that queries to the versioned 
 
217
                            file store should be completed under.
 
218
        :param entry_vf: The entry versioned file, if its already available.
 
219
        """
 
220
        candidates = self.parent_candidates(previous_inventories)
 
221
 
 
222
        # revision:ie mapping with one revision for each head.
 
223
        heads = {}
 
224
        # common case optimisation
 
225
        if len(candidates) == 1:
 
226
            # if there is only one candidate revision found
 
227
            # then we can avoid opening the versioned file to access ancestry:
 
228
            # there cannot be any ancestors to eliminate when there is 
 
229
            # only one revision available.
 
230
            return candidates
 
231
        
 
232
        # --- what follows is now encapsulated in repository.get_graph.heads(), 
 
233
        #     but that is not accessible from here as we have no repository
 
234
        #     pointer. Note that the repository.get_graph.heads() call can return
 
235
        #     different results *at the moment* because of the kind-changing check
 
236
        #     we have in parent_candidates().
 
237
 
 
238
        # eliminate ancestors amongst the available candidates:
 
239
        # heads are those that are not an ancestor of any other candidate
 
240
        # - this provides convergence at a per-file level.
 
241
        def get_ancestors(weave, entry):
 
242
            return set(weave.get_ancestry(entry.revision, topo_sorted=False))
 
243
        # revision: ancestor list for each head
 
244
        head_ancestors = {}
 
245
        for ie in candidates.values():
 
246
            # may be an ancestor of a known head:
 
247
            already_present = 0 != len(
 
248
                [head for head in heads 
 
249
                 if ie.revision in head_ancestors[head]])
 
250
            if already_present:
 
251
                # an ancestor of an analyzed candidate.
 
252
                continue
 
253
            # not an ancestor of a known head:
 
254
            # load the versioned file for this file id if needed
 
255
            if entry_vf is None:
 
256
                entry_vf = versioned_file_store.get_weave_or_empty(
 
257
                    self.file_id, transaction)
 
258
            ancestors = get_ancestors(entry_vf, ie)
 
259
            # may knock something else out:
 
260
            check_heads = list(heads.keys())
 
261
            for head in check_heads:
 
262
                if head in ancestors:
 
263
                    # this previously discovered 'head' is not
 
264
                    # really a head - its an ancestor of the newly 
 
265
                    # found head,
 
266
                    heads.pop(head)
 
267
            head_ancestors[ie.revision] = ancestors
 
268
            heads[ie.revision] = ie
201
269
        return heads
202
270
 
203
271
    def get_tar_item(self, root, dp, now, tree):
204
272
        """Get a tarfile item and a file stream for its content."""
205
 
        item = tarfile.TarInfo(os.path.join(root, dp))
 
273
        item = tarfile.TarInfo(osutils.pathjoin(root, dp).encode('utf8'))
206
274
        # TODO: would be cool to actually set it to the timestamp of the
207
275
        # revision it was last changed
208
276
        item.mtime = now
237
305
        """
238
306
        assert isinstance(name, basestring), name
239
307
        if '/' in name or '\\' in name:
240
 
            raise InvalidEntryName(name=name)
 
308
            raise errors.InvalidEntryName(name=name)
241
309
        self.executable = False
242
310
        self.revision = None
243
311
        self.text_sha1 = None
244
312
        self.text_size = None
245
313
        self.file_id = file_id
 
314
        assert isinstance(file_id, (str, None.__class__)), \
 
315
            'bad type %r for %r' % (type(file_id), file_id)
246
316
        self.name = name
247
317
        self.text_id = text_id
248
318
        self.parent_id = parent_id
249
319
        self.symlink_target = None
 
320
        self.reference_revision = None
250
321
 
251
322
    def kind_character(self):
252
323
        """Return a short kind indicator useful for appending to names."""
253
324
        raise BzrError('unknown kind %r' % self.kind)
254
325
 
255
 
    known_kinds = ('file', 'directory', 'symlink', 'root_directory')
 
326
    known_kinds = ('file', 'directory', 'symlink')
256
327
 
257
328
    def _put_in_tar(self, item, tree):
258
329
        """populate item for stashing in a tar, and return the content stream.
267
338
        
268
339
        This is a template method - implement _put_on_disk in subclasses.
269
340
        """
270
 
        fullpath = appendpath(dest, dp)
 
341
        fullpath = osutils.pathjoin(dest, dp)
271
342
        self._put_on_disk(fullpath, tree)
272
 
        mutter("  export {%s} kind %s to %s", self.file_id,
273
 
                self.kind, fullpath)
 
343
        # mutter("  export {%s} kind %s to %s", self.file_id,
 
344
        #         self.kind, fullpath)
274
345
 
275
346
    def _put_on_disk(self, fullpath, tree):
276
347
        """Put this entry onto disk at fullpath, from tree tree."""
277
348
        raise BzrError("don't know how to export {%s} of kind %r" % (self.file_id, self.kind))
278
349
 
279
350
    def sorted_children(self):
280
 
        l = self.children.items()
281
 
        l.sort()
282
 
        return l
 
351
        return sorted(self.children.items())
283
352
 
284
353
    @staticmethod
285
354
    def versionable_kind(kind):
286
 
        return kind in ('file', 'directory', 'symlink')
 
355
        return (kind in ('file', 'directory', 'symlink', 'tree-reference'))
287
356
 
288
357
    def check(self, checker, rev_id, inv, tree):
289
358
        """Check this inventory entry is intact.
290
359
 
291
360
        This is a template method, override _check for kind specific
292
361
        tests.
 
362
 
 
363
        :param checker: Check object providing context for the checks; 
 
364
             can be used to find out what parts of the repository have already
 
365
             been checked.
 
366
        :param rev_id: Revision id from which this InventoryEntry was loaded.
 
367
             Not necessarily the last-changed revision for this file.
 
368
        :param inv: Inventory from which the entry was loaded.
 
369
        :param tree: RevisionTree for this entry.
293
370
        """
294
 
        if self.parent_id != None:
 
371
        if self.parent_id is not None:
295
372
            if not inv.has_id(self.parent_id):
296
373
                raise BzrCheckError('missing parent {%s} in inventory for revision {%s}'
297
374
                        % (self.parent_id, rev_id))
302
379
        raise BzrCheckError('unknown entry kind %r in revision {%s}' % 
303
380
                            (self.kind, rev_id))
304
381
 
305
 
 
306
382
    def copy(self):
307
383
        """Clone this inventory entry."""
308
384
        raise NotImplementedError
309
385
 
310
 
    def _get_snapshot_change(self, previous_entries):
311
 
        if len(previous_entries) > 1:
312
 
            return 'merged'
313
 
        elif len(previous_entries) == 0:
 
386
    @staticmethod
 
387
    def describe_change(old_entry, new_entry):
 
388
        """Describe the change between old_entry and this.
 
389
        
 
390
        This smells of being an InterInventoryEntry situation, but as its
 
391
        the first one, we're making it a static method for now.
 
392
 
 
393
        An entry with a different parent, or different name is considered 
 
394
        to be renamed. Reparenting is an internal detail.
 
395
        Note that renaming the parent does not trigger a rename for the
 
396
        child entry itself.
 
397
        """
 
398
        # TODO: Perhaps return an object rather than just a string
 
399
        if old_entry is new_entry:
 
400
            # also the case of both being None
 
401
            return 'unchanged'
 
402
        elif old_entry is None:
314
403
            return 'added'
315
 
        else:
316
 
            return 'modified/renamed/reparented'
 
404
        elif new_entry is None:
 
405
            return 'removed'
 
406
        if old_entry.kind != new_entry.kind:
 
407
            return 'modified'
 
408
        text_modified, meta_modified = new_entry.detect_changes(old_entry)
 
409
        if text_modified or meta_modified:
 
410
            modified = True
 
411
        else:
 
412
            modified = False
 
413
        # TODO 20060511 (mbp, rbc) factor out 'detect_rename' here.
 
414
        if old_entry.parent_id != new_entry.parent_id:
 
415
            renamed = True
 
416
        elif old_entry.name != new_entry.name:
 
417
            renamed = True
 
418
        else:
 
419
            renamed = False
 
420
        if renamed and not modified:
 
421
            return InventoryEntry.RENAMED
 
422
        if modified and not renamed:
 
423
            return 'modified'
 
424
        if modified and renamed:
 
425
            return InventoryEntry.MODIFIED_AND_RENAMED
 
426
        return 'unchanged'
317
427
 
318
428
    def __repr__(self):
319
 
        return ("%s(%r, %r, parent_id=%r)"
 
429
        return ("%s(%r, %r, parent_id=%r, revision=%r)"
320
430
                % (self.__class__.__name__,
321
431
                   self.file_id,
322
432
                   self.name,
323
 
                   self.parent_id))
324
 
 
325
 
    def snapshot(self, revision, path, previous_entries,
326
 
                 work_tree, weave_store, transaction):
327
 
        """Make a snapshot of this entry which may or may not have changed.
328
 
        
329
 
        This means that all its fields are populated, that it has its
330
 
        text stored in the text store or weave.
331
 
        """
332
 
        mutter('new parents of %s are %r', path, previous_entries)
333
 
        self._read_tree_state(path, work_tree)
334
 
        if len(previous_entries) == 1:
335
 
            # cannot be unchanged unless there is only one parent file rev.
336
 
            parent_ie = previous_entries.values()[0]
337
 
            if self._unchanged(parent_ie):
338
 
                mutter("found unchanged entry")
339
 
                self.revision = parent_ie.revision
340
 
                return "unchanged"
341
 
        return self.snapshot_revision(revision, previous_entries, 
342
 
                                      work_tree, weave_store, transaction)
343
 
 
344
 
    def snapshot_revision(self, revision, previous_entries, work_tree,
345
 
                          weave_store, transaction):
346
 
        """Record this revision unconditionally."""
347
 
        mutter('new revision for {%s}', self.file_id)
348
 
        self.revision = revision
349
 
        change = self._get_snapshot_change(previous_entries)
350
 
        self._snapshot_text(previous_entries, work_tree, weave_store,
351
 
                            transaction)
352
 
        return change
353
 
 
354
 
    def _snapshot_text(self, file_parents, work_tree, weave_store, transaction): 
355
 
        """Record the 'text' of this entry, whatever form that takes.
356
 
        
357
 
        This default implementation simply adds an empty text.
358
 
        """
359
 
        mutter('storing file {%s} in revision {%s}',
360
 
               self.file_id, self.revision)
361
 
        self._add_text_to_weave([], file_parents, weave_store, transaction)
 
433
                   self.parent_id,
 
434
                   self.revision))
362
435
 
363
436
    def __eq__(self, other):
364
437
        if not isinstance(other, InventoryEntry):
374
447
                and (self.kind == other.kind)
375
448
                and (self.revision == other.revision)
376
449
                and (self.executable == other.executable)
 
450
                and (self.reference_revision == other.reference_revision)
377
451
                )
378
452
 
379
453
    def __ne__(self, other):
385
459
    def _unchanged(self, previous_ie):
386
460
        """Has this entry changed relative to previous_ie.
387
461
 
388
 
        This method should be overriden in child classes.
 
462
        This method should be overridden in child classes.
389
463
        """
390
464
        compatible = True
391
465
        # different inv parent
394
468
        # renamed
395
469
        elif previous_ie.name != self.name:
396
470
            compatible = False
 
471
        elif previous_ie.kind != self.kind:
 
472
            compatible = False
397
473
        return compatible
398
474
 
399
475
    def _read_tree_state(self, path, work_tree):
407
483
        # first requested, or preload them if they're already known
408
484
        pass            # nothing to do by default
409
485
 
 
486
    def _forget_tree_state(self):
 
487
        pass
 
488
 
410
489
 
411
490
class RootEntry(InventoryEntry):
412
491
 
 
492
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
 
493
                 'text_id', 'parent_id', 'children', 'executable',
 
494
                 'revision', 'symlink_target', 'reference_revision']
 
495
 
413
496
    def _check(self, checker, rev_id, tree):
414
497
        """See InventoryEntry._check"""
415
498
 
416
499
    def __init__(self, file_id):
417
500
        self.file_id = file_id
418
501
        self.children = {}
419
 
        self.kind = 'root_directory'
 
502
        self.kind = 'directory'
420
503
        self.parent_id = None
421
504
        self.name = u''
 
505
        self.revision = None
 
506
        symbol_versioning.warn('RootEntry is deprecated as of bzr 0.10.'
 
507
                               '  Please use InventoryDirectory instead.',
 
508
                               DeprecationWarning, stacklevel=2)
422
509
 
423
510
    def __eq__(self, other):
424
511
        if not isinstance(other, RootEntry):
431
518
class InventoryDirectory(InventoryEntry):
432
519
    """A directory in an inventory."""
433
520
 
 
521
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
 
522
                 'text_id', 'parent_id', 'children', 'executable',
 
523
                 'revision', 'symlink_target', 'reference_revision']
 
524
 
434
525
    def _check(self, checker, rev_id, tree):
435
526
        """See InventoryEntry._check"""
436
 
        if self.text_sha1 != None or self.text_size != None or self.text_id != None:
 
527
        if self.text_sha1 is not None or self.text_size is not None or self.text_id is not None:
437
528
            raise BzrCheckError('directory {%s} has text in revision {%s}'
438
529
                                % (self.file_id, rev_id))
439
530
 
470
561
class InventoryFile(InventoryEntry):
471
562
    """A file in an inventory."""
472
563
 
473
 
    def _check(self, checker, rev_id, tree):
 
564
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
 
565
                 'text_id', 'parent_id', 'children', 'executable',
 
566
                 'revision', 'symlink_target', 'reference_revision']
 
567
 
 
568
    def _check(self, checker, tree_revision_id, tree):
474
569
        """See InventoryEntry._check"""
475
 
        revision = self.revision
476
 
        t = (self.file_id, revision)
 
570
        t = (self.file_id, self.revision)
477
571
        if t in checker.checked_texts:
478
 
            prev_sha = checker.checked_texts[t] 
 
572
            prev_sha = checker.checked_texts[t]
479
573
            if prev_sha != self.text_sha1:
480
 
                raise BzrCheckError('mismatched sha1 on {%s} in {%s}' %
481
 
                                    (self.file_id, rev_id))
 
574
                raise BzrCheckError(
 
575
                    'mismatched sha1 on {%s} in {%s} (%s != %s) %r' %
 
576
                    (self.file_id, tree_revision_id, prev_sha, self.text_sha1,
 
577
                     t))
482
578
            else:
483
579
                checker.repeated_text_cnt += 1
484
580
                return
485
 
        mutter('check version {%s} of {%s}', rev_id, self.file_id)
486
 
        file_lines = tree.get_file_lines(self.file_id)
487
 
        checker.checked_text_cnt += 1 
488
 
        if self.text_size != sum(map(len, file_lines)):
489
 
            raise BzrCheckError('text {%s} wrong size' % self.text_id)
490
 
        if self.text_sha1 != sha_strings(file_lines):
491
 
            raise BzrCheckError('text {%s} wrong sha1' % self.text_id)
 
581
 
 
582
        if self.file_id not in checker.checked_weaves:
 
583
            mutter('check weave {%s}', self.file_id)
 
584
            w = tree._get_weave(self.file_id)
 
585
            # Not passing a progress bar, because it creates a new
 
586
            # progress, which overwrites the current progress,
 
587
            # and doesn't look nice
 
588
            w.check()
 
589
            checker.checked_weaves[self.file_id] = True
 
590
        else:
 
591
            w = tree._get_weave(self.file_id)
 
592
 
 
593
        mutter('check version {%s} of {%s}', tree_revision_id, self.file_id)
 
594
        checker.checked_text_cnt += 1
 
595
        # We can't check the length, because Weave doesn't store that
 
596
        # information, and the whole point of looking at the weave's
 
597
        # sha1sum is that we don't have to extract the text.
 
598
        if self.text_sha1 != w.get_sha1(self.revision):
 
599
            raise BzrCheckError('text {%s} version {%s} wrong sha1' 
 
600
                                % (self.file_id, self.revision))
492
601
        checker.checked_texts[t] = self.text_sha1
493
602
 
494
603
    def copy(self):
502
611
 
503
612
    def detect_changes(self, old_entry):
504
613
        """See InventoryEntry.detect_changes."""
505
 
        assert self.text_sha1 != None
506
 
        assert old_entry.text_sha1 != None
 
614
        assert self.text_sha1 is not None
 
615
        assert old_entry.text_sha1 is not None
507
616
        text_modified = (self.text_sha1 != old_entry.text_sha1)
508
617
        meta_modified = (self.executable != old_entry.executable)
509
618
        return text_modified, meta_modified
511
620
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
512
621
             output_to, reverse=False):
513
622
        """See InventoryEntry._diff."""
514
 
        from_text = tree.get_file(self.file_id).readlines()
 
623
        from bzrlib.diff import DiffText
 
624
        from_file_id = self.file_id
515
625
        if to_entry:
516
 
            to_text = to_tree.get_file(to_entry.file_id).readlines()
517
 
        else:
518
 
            to_text = []
519
 
        if not reverse:
520
 
            text_diff(from_label, from_text,
521
 
                      to_label, to_text, output_to)
522
 
        else:
523
 
            text_diff(to_label, to_text,
524
 
                      from_label, from_text, output_to)
 
626
            to_file_id = to_entry.file_id
 
627
        else:
 
628
            to_file_id = None
 
629
        if reverse:
 
630
            to_file_id, from_file_id = from_file_id, to_file_id
 
631
            tree, to_tree = to_tree, tree
 
632
            from_label, to_label = to_label, from_label
 
633
        differ = DiffText(tree, to_tree, output_to, 'utf-8', '', '',
 
634
                          text_diff)
 
635
        return differ.diff_text(from_file_id, to_file_id, from_label, to_label)
525
636
 
526
637
    def has_text(self):
527
638
        """See InventoryEntry.has_text."""
548
659
 
549
660
    def _put_on_disk(self, fullpath, tree):
550
661
        """See InventoryEntry._put_on_disk."""
551
 
        pumpfile(tree.get_file(self.file_id), file(fullpath, 'wb'))
 
662
        osutils.pumpfile(tree.get_file(self.file_id), file(fullpath, 'wb'))
552
663
        if tree.is_executable(self.file_id):
553
664
            os.chmod(fullpath, 0755)
554
665
 
555
666
    def _read_tree_state(self, path, work_tree):
556
667
        """See InventoryEntry._read_tree_state."""
557
 
        self.text_sha1 = work_tree.get_file_sha1(self.file_id)
558
 
        self.executable = work_tree.is_executable(self.file_id)
559
 
 
560
 
    def _snapshot_text(self, file_parents, work_tree, weave_store, transaction):
561
 
        """See InventoryEntry._snapshot_text."""
562
 
        mutter('storing file {%s} in revision {%s}',
563
 
               self.file_id, self.revision)
564
 
        # special case to avoid diffing on renames or 
565
 
        # reparenting
566
 
        if (len(file_parents) == 1
567
 
            and self.text_sha1 == file_parents.values()[0].text_sha1
568
 
            and self.text_size == file_parents.values()[0].text_size):
569
 
            previous_ie = file_parents.values()[0]
570
 
            weave_store.add_identical_text(
571
 
                self.file_id, previous_ie.revision, 
572
 
                self.revision, file_parents, transaction)
573
 
        else:
574
 
            new_lines = work_tree.get_file(self.file_id).readlines()
575
 
            self._add_text_to_weave(new_lines, file_parents, weave_store,
576
 
                                    transaction)
577
 
            self.text_sha1 = sha_strings(new_lines)
578
 
            self.text_size = sum(map(len, new_lines))
579
 
 
 
668
        self.text_sha1 = work_tree.get_file_sha1(self.file_id, path=path)
 
669
        # FIXME: 20050930 probe for the text size when getting sha1
 
670
        # in _read_tree_state
 
671
        self.executable = work_tree.is_executable(self.file_id, path=path)
 
672
 
 
673
    def __repr__(self):
 
674
        return ("%s(%r, %r, parent_id=%r, sha1=%r, len=%s)"
 
675
                % (self.__class__.__name__,
 
676
                   self.file_id,
 
677
                   self.name,
 
678
                   self.parent_id,
 
679
                   self.text_sha1,
 
680
                   self.text_size))
 
681
 
 
682
    def _forget_tree_state(self):
 
683
        self.text_sha1 = None
580
684
 
581
685
    def _unchanged(self, previous_ie):
582
686
        """See InventoryEntry._unchanged."""
595
699
class InventoryLink(InventoryEntry):
596
700
    """A file in an inventory."""
597
701
 
598
 
    __slots__ = ['symlink_target']
 
702
    __slots__ = ['text_sha1', 'text_size', 'file_id', 'name', 'kind',
 
703
                 'text_id', 'parent_id', 'children', 'executable',
 
704
                 'revision', 'symlink_target', 'reference_revision']
599
705
 
600
706
    def _check(self, checker, rev_id, tree):
601
707
        """See InventoryEntry._check"""
602
 
        if self.text_sha1 != None or self.text_size != None or self.text_id != None:
 
708
        if self.text_sha1 is not None or self.text_size is not None or self.text_id is not None:
603
709
            raise BzrCheckError('symlink {%s} has text in revision {%s}'
604
710
                    % (self.file_id, rev_id))
605
 
        if self.symlink_target == None:
 
711
        if self.symlink_target is None:
606
712
            raise BzrCheckError('symlink {%s} has no target in revision {%s}'
607
713
                    % (self.file_id, rev_id))
608
714
 
624
730
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
625
731
             output_to, reverse=False):
626
732
        """See InventoryEntry._diff."""
627
 
        from_text = self.symlink_target
 
733
        from bzrlib.diff import DiffSymlink
 
734
        old_target = self.symlink_target
628
735
        if to_entry is not None:
629
 
            to_text = to_entry.symlink_target
630
 
            if reverse:
631
 
                temp = from_text
632
 
                from_text = to_text
633
 
                to_text = temp
634
 
            print >>output_to, '=== target changed %r => %r' % (from_text, to_text)
635
 
        else:
636
 
            if not reverse:
637
 
                print >>output_to, '=== target was %r' % self.symlink_target
638
 
            else:
639
 
                print >>output_to, '=== target is %r' % self.symlink_target
 
736
            new_target = to_entry.symlink_target
 
737
        else:
 
738
            new_target = None
 
739
        if not reverse:
 
740
            old_tree = tree
 
741
            new_tree = to_tree
 
742
        else:
 
743
            old_tree = to_tree
 
744
            new_tree = tree
 
745
            new_target, old_target = old_target, new_target
 
746
        differ = DiffSymlink(old_tree, new_tree, output_to)
 
747
        return differ.diff_symlink(old_target, new_target)
640
748
 
641
749
    def __init__(self, file_id, name, parent_id):
642
750
        super(InventoryLink, self).__init__(file_id, name, parent_id)
666
774
        """See InventoryEntry._read_tree_state."""
667
775
        self.symlink_target = work_tree.get_symlink_target(self.file_id)
668
776
 
 
777
    def _forget_tree_state(self):
 
778
        self.symlink_target = None
 
779
 
669
780
    def _unchanged(self, previous_ie):
670
781
        """See InventoryEntry._unchanged."""
671
782
        compatible = super(InventoryLink, self)._unchanged(previous_ie)
674
785
        return compatible
675
786
 
676
787
 
 
788
class TreeReference(InventoryEntry):
 
789
    
 
790
    kind = 'tree-reference'
 
791
    
 
792
    def __init__(self, file_id, name, parent_id, revision=None,
 
793
                 reference_revision=None):
 
794
        InventoryEntry.__init__(self, file_id, name, parent_id)
 
795
        self.revision = revision
 
796
        self.reference_revision = reference_revision
 
797
 
 
798
    def copy(self):
 
799
        return TreeReference(self.file_id, self.name, self.parent_id,
 
800
                             self.revision, self.reference_revision)
 
801
 
 
802
    def _read_tree_state(self, path, work_tree):
 
803
        """Populate fields in the inventory entry from the given tree.
 
804
        """
 
805
        self.reference_revision = work_tree.get_reference_revision(
 
806
            self.file_id, path)
 
807
 
 
808
    def _forget_tree_state(self):
 
809
        self.reference_revision = None 
 
810
 
 
811
    def _unchanged(self, previous_ie):
 
812
        """See InventoryEntry._unchanged."""
 
813
        compatible = super(TreeReference, self)._unchanged(previous_ie)
 
814
        if self.reference_revision != previous_ie.reference_revision:
 
815
            compatible = False
 
816
        return compatible
 
817
 
 
818
 
677
819
class Inventory(object):
678
820
    """Inventory of versioned files in a tree.
679
821
 
693
835
 
694
836
    >>> inv = Inventory()
695
837
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
696
 
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT')
 
838
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None)
697
839
    >>> inv['123-123'].name
698
840
    'hello.c'
699
841
 
707
849
    May also look up by name:
708
850
 
709
851
    >>> [x[0] for x in inv.iter_entries()]
710
 
    ['hello.c']
 
852
    ['', u'hello.c']
711
853
    >>> inv = Inventory('TREE_ROOT-12345678-12345678')
712
854
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
713
 
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT-12345678-12345678')
 
855
    Traceback (most recent call last):
 
856
    BzrError: parent_id {TREE_ROOT} not in inventory
 
857
    >>> inv.add(InventoryFile('123-123', 'hello.c', 'TREE_ROOT-12345678-12345678'))
 
858
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT-12345678-12345678', sha1=None, len=None)
714
859
    """
715
 
    def __init__(self, root_id=ROOT_ID):
 
860
    def __init__(self, root_id=ROOT_ID, revision_id=None):
716
861
        """Create or read an inventory.
717
862
 
718
863
        If a working directory is specified, the inventory is read
722
867
        The inventory is created with a default root directory, with
723
868
        an id of None.
724
869
        """
725
 
        # We are letting Branch.initialize() create a unique inventory
726
 
        # root id. Rather than generating a random one here.
727
 
        #if root_id is None:
728
 
        #    root_id = bzrlib.branch.gen_file_id('TREE_ROOT')
729
 
        self.root = RootEntry(root_id)
 
870
        if root_id is not None:
 
871
            assert root_id.__class__ == str
 
872
            self._set_root(InventoryDirectory(root_id, u'', None))
 
873
        else:
 
874
            self.root = None
 
875
            self._byid = {}
 
876
        self.revision_id = revision_id
 
877
 
 
878
    def __repr__(self):
 
879
        return "<Inventory object at %x, contents=%r>" % (id(self), self._byid)
 
880
 
 
881
    def apply_delta(self, delta):
 
882
        """Apply a delta to this inventory.
 
883
 
 
884
        :param delta: A list of changes to apply. After all the changes are
 
885
            applied the final inventory must be internally consistent, but it
 
886
            is ok to supply changes which, if only half-applied would have an
 
887
            invalid result - such as supplying two changes which rename two
 
888
            files, 'A' and 'B' with each other : [('A', 'B', 'A-id', a_entry),
 
889
            ('B', 'A', 'B-id', b_entry)].
 
890
 
 
891
            Each change is a tuple, of the form (old_path, new_path, file_id,
 
892
            new_entry).
 
893
            
 
894
            When new_path is None, the change indicates the removal of an entry
 
895
            from the inventory and new_entry will be ignored (using None is
 
896
            appropriate). If new_path is not None, then new_entry must be an
 
897
            InventoryEntry instance, which will be incorporated into the
 
898
            inventory (and replace any existing entry with the same file id).
 
899
            
 
900
            When old_path is None, the change indicates the addition of
 
901
            a new entry to the inventory.
 
902
            
 
903
            When neither new_path nor old_path are None, the change is a
 
904
            modification to an entry, such as a rename, reparent, kind change
 
905
            etc. 
 
906
 
 
907
            The children attribute of new_entry is ignored. This is because
 
908
            this method preserves children automatically across alterations to
 
909
            the parent of the children, and cases where the parent id of a
 
910
            child is changing require the child to be passed in as a separate
 
911
            change regardless. E.g. in the recursive deletion of a directory -
 
912
            the directory's children must be included in the delta, or the
 
913
            final inventory will be invalid.
 
914
        """
 
915
        children = {}
 
916
        # Remove all affected items which were in the original inventory,
 
917
        # starting with the longest paths, thus ensuring parents are examined
 
918
        # after their children, which means that everything we examine has no
 
919
        # modified children remaining by the time we examine it.
 
920
        for old_path, file_id in sorted(((op, f) for op, np, f, e in delta
 
921
                                        if op is not None), reverse=True):
 
922
            if file_id not in self:
 
923
                # adds come later
 
924
                continue
 
925
            # Preserve unaltered children of file_id for later reinsertion.
 
926
            children[file_id] = getattr(self[file_id], 'children', {})
 
927
            # Remove file_id and the unaltered children. If file_id is not
 
928
            # being deleted it will be reinserted back later.
 
929
            self.remove_recursive_id(file_id)
 
930
        # Insert all affected which should be in the new inventory, reattaching
 
931
        # their children if they had any. This is done from shortest path to
 
932
        # longest, ensuring that items which were modified and whose parents in
 
933
        # the resulting inventory were also modified, are inserted after their
 
934
        # parents.
 
935
        for new_path, new_entry in sorted((np, e) for op, np, f, e in
 
936
                                          delta if np is not None):
 
937
            if new_entry.kind == 'directory':
 
938
                new_entry.children = children.get(new_entry.file_id, {})
 
939
            self.add(new_entry)
 
940
 
 
941
    def _set_root(self, ie):
 
942
        self.root = ie
730
943
        self._byid = {self.root.file_id: self.root}
731
944
 
732
 
 
733
945
    def copy(self):
734
 
        other = Inventory(self.root.file_id)
 
946
        # TODO: jam 20051218 Should copy also copy the revision_id?
 
947
        entries = self.iter_entries()
 
948
        if self.root is None:
 
949
            return Inventory(root_id=None)
 
950
        other = Inventory(entries.next()[1].file_id)
735
951
        # copy recursively so we know directories will be added before
736
952
        # their children.  There are more efficient ways than this...
737
 
        for path, entry in self.iter_entries():
738
 
            if entry == self.root:
739
 
                continue
 
953
        for path, entry in entries:
740
954
            other.add(entry.copy())
741
955
        return other
742
956
 
743
 
 
744
957
    def __iter__(self):
745
958
        return iter(self._byid)
746
959
 
747
 
 
748
960
    def __len__(self):
749
961
        """Returns number of entries."""
750
962
        return len(self._byid)
751
963
 
752
 
 
753
964
    def iter_entries(self, from_dir=None):
754
965
        """Return (path, entry) pairs, in order by name."""
755
 
        if from_dir == None:
756
 
            assert self.root
757
 
            from_dir = self.root
758
 
        elif isinstance(from_dir, basestring):
759
 
            from_dir = self._byid[from_dir]
760
 
            
761
 
        kids = from_dir.children.items()
762
 
        kids.sort()
763
 
        for name, ie in kids:
764
 
            yield name, ie
765
 
            if ie.kind == 'directory':
766
 
                for cn, cie in self.iter_entries(from_dir=ie.file_id):
767
 
                    yield os.path.join(name, cn), cie
768
 
 
 
966
        if from_dir is None:
 
967
            if self.root is None:
 
968
                return
 
969
            from_dir = self.root
 
970
            yield '', self.root
 
971
        elif isinstance(from_dir, basestring):
 
972
            from_dir = self._byid[from_dir]
 
973
            
 
974
        # unrolling the recursive called changed the time from
 
975
        # 440ms/663ms (inline/total) to 116ms/116ms
 
976
        children = from_dir.children.items()
 
977
        children.sort()
 
978
        children = collections.deque(children)
 
979
        stack = [(u'', children)]
 
980
        while stack:
 
981
            from_dir_relpath, children = stack[-1]
 
982
 
 
983
            while children:
 
984
                name, ie = children.popleft()
 
985
 
 
986
                # we know that from_dir_relpath never ends in a slash
 
987
                # and 'f' doesn't begin with one, we can do a string op, rather
 
988
                # than the checks of pathjoin(), though this means that all paths
 
989
                # start with a slash
 
990
                path = from_dir_relpath + '/' + name
 
991
 
 
992
                yield path[1:], ie
 
993
 
 
994
                if ie.kind != 'directory':
 
995
                    continue
 
996
 
 
997
                # But do this child first
 
998
                new_children = ie.children.items()
 
999
                new_children.sort()
 
1000
                new_children = collections.deque(new_children)
 
1001
                stack.append((path, new_children))
 
1002
                # Break out of inner loop, so that we start outer loop with child
 
1003
                break
 
1004
            else:
 
1005
                # if we finished all children, pop it off the stack
 
1006
                stack.pop()
 
1007
 
 
1008
    def iter_entries_by_dir(self, from_dir=None, specific_file_ids=None,
 
1009
        yield_parents=False):
 
1010
        """Iterate over the entries in a directory first order.
 
1011
 
 
1012
        This returns all entries for a directory before returning
 
1013
        the entries for children of a directory. This is not
 
1014
        lexicographically sorted order, and is a hybrid between
 
1015
        depth-first and breadth-first.
 
1016
 
 
1017
        :param yield_parents: If True, yield the parents from the root leading
 
1018
            down to specific_file_ids that have been requested. This has no
 
1019
            impact if specific_file_ids is None.
 
1020
        :return: This yields (path, entry) pairs
 
1021
        """
 
1022
        if specific_file_ids and not isinstance(specific_file_ids, set):
 
1023
            specific_file_ids = set(specific_file_ids)
 
1024
        # TODO? Perhaps this should return the from_dir so that the root is
 
1025
        # yielded? or maybe an option?
 
1026
        if from_dir is None:
 
1027
            if self.root is None:
 
1028
                return
 
1029
            # Optimize a common case
 
1030
            if (not yield_parents and specific_file_ids is not None and
 
1031
                len(specific_file_ids) == 1):
 
1032
                file_id = list(specific_file_ids)[0]
 
1033
                if file_id in self:
 
1034
                    yield self.id2path(file_id), self[file_id]
 
1035
                return 
 
1036
            from_dir = self.root
 
1037
            if (specific_file_ids is None or yield_parents or
 
1038
                self.root.file_id in specific_file_ids):
 
1039
                yield u'', self.root
 
1040
        elif isinstance(from_dir, basestring):
 
1041
            from_dir = self._byid[from_dir]
 
1042
 
 
1043
        if specific_file_ids is not None:
 
1044
            # TODO: jam 20070302 This could really be done as a loop rather
 
1045
            #       than a bunch of recursive calls.
 
1046
            parents = set()
 
1047
            byid = self._byid
 
1048
            def add_ancestors(file_id):
 
1049
                if file_id not in byid:
 
1050
                    return
 
1051
                parent_id = byid[file_id].parent_id
 
1052
                if parent_id is None:
 
1053
                    return
 
1054
                if parent_id not in parents:
 
1055
                    parents.add(parent_id)
 
1056
                    add_ancestors(parent_id)
 
1057
            for file_id in specific_file_ids:
 
1058
                add_ancestors(file_id)
 
1059
        else:
 
1060
            parents = None
 
1061
            
 
1062
        stack = [(u'', from_dir)]
 
1063
        while stack:
 
1064
            cur_relpath, cur_dir = stack.pop()
 
1065
 
 
1066
            child_dirs = []
 
1067
            for child_name, child_ie in sorted(cur_dir.children.iteritems()):
 
1068
 
 
1069
                child_relpath = cur_relpath + child_name
 
1070
 
 
1071
                if (specific_file_ids is None or 
 
1072
                    child_ie.file_id in specific_file_ids or
 
1073
                    (yield_parents and child_ie.file_id in parents)):
 
1074
                    yield child_relpath, child_ie
 
1075
 
 
1076
                if child_ie.kind == 'directory':
 
1077
                    if parents is None or child_ie.file_id in parents:
 
1078
                        child_dirs.append((child_relpath+'/', child_ie))
 
1079
            stack.extend(reversed(child_dirs))
 
1080
 
 
1081
    def make_entry(self, kind, name, parent_id, file_id=None):
 
1082
        """Simple thunk to bzrlib.inventory.make_entry."""
 
1083
        return make_entry(kind, name, parent_id, file_id)
769
1084
 
770
1085
    def entries(self):
771
1086
        """Return list of (path, ie) for all entries except the root.
777
1092
            kids = dir_ie.children.items()
778
1093
            kids.sort()
779
1094
            for name, ie in kids:
780
 
                child_path = os.path.join(dir_path, name)
 
1095
                child_path = osutils.pathjoin(dir_path, name)
781
1096
                accum.append((child_path, ie))
782
1097
                if ie.kind == 'directory':
783
1098
                    descend(ie, child_path)
785
1100
        descend(self.root, u'')
786
1101
        return accum
787
1102
 
788
 
 
789
1103
    def directories(self):
790
1104
        """Return (path, entry) pairs for all directories, including the root.
791
1105
        """
797
1111
            kids.sort()
798
1112
 
799
1113
            for name, child_ie in kids:
800
 
                child_path = os.path.join(parent_path, name)
 
1114
                child_path = osutils.pathjoin(parent_path, name)
801
1115
                descend(child_ie, child_path)
802
1116
        descend(self.root, u'')
803
1117
        return accum
804
1118
        
805
 
 
806
 
 
807
1119
    def __contains__(self, file_id):
808
1120
        """True if this entry contains a file with given id.
809
1121
 
810
1122
        >>> inv = Inventory()
811
1123
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
812
 
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT')
 
1124
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None)
813
1125
        >>> '123' in inv
814
1126
        True
815
1127
        >>> '456' in inv
816
1128
        False
817
1129
        """
818
 
        return file_id in self._byid
819
 
 
 
1130
        return (file_id in self._byid)
820
1131
 
821
1132
    def __getitem__(self, file_id):
822
1133
        """Return the entry for given file_id.
823
1134
 
824
1135
        >>> inv = Inventory()
825
1136
        >>> inv.add(InventoryFile('123123', 'hello.c', ROOT_ID))
826
 
        InventoryFile('123123', 'hello.c', parent_id='TREE_ROOT')
 
1137
        InventoryFile('123123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None)
827
1138
        >>> inv['123123'].name
828
1139
        'hello.c'
829
1140
        """
830
1141
        try:
831
1142
            return self._byid[file_id]
832
1143
        except KeyError:
833
 
            if file_id == None:
834
 
                raise BzrError("can't look up file_id None")
835
 
            else:
836
 
                raise BzrError("file_id {%s} not in inventory" % file_id)
837
 
 
 
1144
            # really we're passing an inventory, not a tree...
 
1145
            raise errors.NoSuchId(self, file_id)
838
1146
 
839
1147
    def get_file_kind(self, file_id):
840
1148
        return self._byid[file_id].kind
842
1150
    def get_child(self, parent_id, filename):
843
1151
        return self[parent_id].children.get(filename)
844
1152
 
 
1153
    def _add_child(self, entry):
 
1154
        """Add an entry to the inventory, without adding it to its parent"""
 
1155
        if entry.file_id in self._byid:
 
1156
            raise BzrError("inventory already contains entry with id {%s}" %
 
1157
                           entry.file_id)
 
1158
        self._byid[entry.file_id] = entry
 
1159
        for child in getattr(entry, 'children', {}).itervalues():
 
1160
            self._add_child(child)
 
1161
        return entry
845
1162
 
846
1163
    def add(self, entry):
847
1164
        """Add entry to inventory.
852
1169
        Returns the new entry object.
853
1170
        """
854
1171
        if entry.file_id in self._byid:
855
 
            raise BzrError("inventory already contains entry with id {%s}" % entry.file_id)
856
 
 
857
 
        if entry.parent_id == ROOT_ID or entry.parent_id is None:
858
 
            entry.parent_id = self.root.file_id
859
 
 
860
 
        try:
861
 
            parent = self._byid[entry.parent_id]
862
 
        except KeyError:
863
 
            raise BzrError("parent_id {%s} not in inventory" % entry.parent_id)
864
 
 
865
 
        if parent.children.has_key(entry.name):
866
 
            raise BzrError("%s is already versioned" %
867
 
                    appendpath(self.id2path(parent.file_id), entry.name))
868
 
 
869
 
        self._byid[entry.file_id] = entry
870
 
        parent.children[entry.name] = entry
871
 
        return entry
872
 
 
873
 
 
874
 
    def add_path(self, relpath, kind, file_id=None):
 
1172
            raise errors.DuplicateFileId(entry.file_id,
 
1173
                                         self._byid[entry.file_id])
 
1174
 
 
1175
        if entry.parent_id is None:
 
1176
            assert self.root is None and len(self._byid) == 0
 
1177
            self.root = entry
 
1178
        else:
 
1179
            try:
 
1180
                parent = self._byid[entry.parent_id]
 
1181
            except KeyError:
 
1182
                raise BzrError("parent_id {%s} not in inventory" %
 
1183
                               entry.parent_id)
 
1184
 
 
1185
            if entry.name in parent.children:
 
1186
                raise BzrError("%s is already versioned" %
 
1187
                        osutils.pathjoin(self.id2path(parent.file_id),
 
1188
                        entry.name).encode('utf-8'))
 
1189
            parent.children[entry.name] = entry
 
1190
        return self._add_child(entry)
 
1191
 
 
1192
    def add_path(self, relpath, kind, file_id=None, parent_id=None):
875
1193
        """Add entry from a path.
876
1194
 
877
1195
        The immediate parent must already be versioned.
878
1196
 
879
1197
        Returns the new entry object."""
880
 
        from bzrlib.workingtree import gen_file_id
881
1198
        
882
 
        parts = bzrlib.osutils.splitpath(relpath)
 
1199
        parts = osutils.splitpath(relpath)
 
1200
 
883
1201
        if len(parts) == 0:
884
 
            raise BzrError("cannot re-add root of inventory")
885
 
 
886
 
        if file_id == None:
887
 
            file_id = gen_file_id(relpath)
888
 
 
889
 
        parent_path = parts[:-1]
890
 
        parent_id = self.path2id(parent_path)
891
 
        if parent_id == None:
892
 
            raise NotVersionedError(path=parent_path)
893
 
        if kind == 'directory':
894
 
            ie = InventoryDirectory(file_id, parts[-1], parent_id)
895
 
        elif kind == 'file':
896
 
            ie = InventoryFile(file_id, parts[-1], parent_id)
897
 
        elif kind == 'symlink':
898
 
            ie = InventoryLink(file_id, parts[-1], parent_id)
 
1202
            if file_id is None:
 
1203
                file_id = generate_ids.gen_root_id()
 
1204
            self.root = InventoryDirectory(file_id, '', None)
 
1205
            self._byid = {self.root.file_id: self.root}
 
1206
            return self.root
899
1207
        else:
900
 
            raise BzrError("unknown kind %r" % kind)
 
1208
            parent_path = parts[:-1]
 
1209
            parent_id = self.path2id(parent_path)
 
1210
            if parent_id is None:
 
1211
                raise errors.NotVersionedError(path=parent_path)
 
1212
        ie = make_entry(kind, parts[-1], parent_id, file_id)
901
1213
        return self.add(ie)
902
1214
 
903
 
 
904
1215
    def __delitem__(self, file_id):
905
1216
        """Remove entry by id.
906
1217
 
907
1218
        >>> inv = Inventory()
908
1219
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
909
 
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT')
 
1220
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None)
910
1221
        >>> '123' in inv
911
1222
        True
912
1223
        >>> del inv['123']
915
1226
        """
916
1227
        ie = self[file_id]
917
1228
 
918
 
        assert self[ie.parent_id].children[ie.name] == ie
 
1229
        assert ie.parent_id is None or \
 
1230
            self[ie.parent_id].children[ie.name] == ie
919
1231
        
920
 
        # TODO: Test deleting all children; maybe hoist to a separate
921
 
        # deltree method?
922
 
        if ie.kind == 'directory':
923
 
            for cie in ie.children.values():
924
 
                del self[cie.file_id]
925
 
            del ie.children
926
 
 
927
1232
        del self._byid[file_id]
928
 
        del self[ie.parent_id].children[ie.name]
929
 
 
 
1233
        if ie.parent_id is not None:
 
1234
            del self[ie.parent_id].children[ie.name]
930
1235
 
931
1236
    def __eq__(self, other):
932
1237
        """Compare two sets by comparing their contents.
936
1241
        >>> i1 == i2
937
1242
        True
938
1243
        >>> i1.add(InventoryFile('123', 'foo', ROOT_ID))
939
 
        InventoryFile('123', 'foo', parent_id='TREE_ROOT')
 
1244
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None)
940
1245
        >>> i1 == i2
941
1246
        False
942
1247
        >>> i2.add(InventoryFile('123', 'foo', ROOT_ID))
943
 
        InventoryFile('123', 'foo', parent_id='TREE_ROOT')
 
1248
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None)
944
1249
        >>> i1 == i2
945
1250
        True
946
1251
        """
947
1252
        if not isinstance(other, Inventory):
948
1253
            return NotImplemented
949
1254
 
950
 
        if len(self._byid) != len(other._byid):
951
 
            # shortcut: obviously not the same
952
 
            return False
953
 
 
954
1255
        return self._byid == other._byid
955
1256
 
956
 
 
957
1257
    def __ne__(self, other):
958
1258
        return not self.__eq__(other)
959
1259
 
960
 
 
961
1260
    def __hash__(self):
962
1261
        raise ValueError('not hashable')
963
1262
 
 
1263
    def _iter_file_id_parents(self, file_id):
 
1264
        """Yield the parents of file_id up to the root."""
 
1265
        while file_id is not None:
 
1266
            try:
 
1267
                ie = self._byid[file_id]
 
1268
            except KeyError:
 
1269
                raise errors.NoSuchId(tree=None, file_id=file_id)
 
1270
            yield ie
 
1271
            file_id = ie.parent_id
964
1272
 
965
1273
    def get_idpath(self, file_id):
966
1274
        """Return a list of file_ids for the path to an entry.
971
1279
        root directory as depth 1.
972
1280
        """
973
1281
        p = []
974
 
        while file_id != None:
975
 
            try:
976
 
                ie = self._byid[file_id]
977
 
            except KeyError:
978
 
                raise BzrError("file_id {%s} not found in inventory" % file_id)
979
 
            p.insert(0, ie.file_id)
980
 
            file_id = ie.parent_id
 
1282
        for parent in self._iter_file_id_parents(file_id):
 
1283
            p.insert(0, parent.file_id)
981
1284
        return p
982
1285
 
983
 
 
984
1286
    def id2path(self, file_id):
985
 
        """Return as a list the path to file_id.
 
1287
        """Return as a string the path to file_id.
986
1288
        
987
1289
        >>> i = Inventory()
988
1290
        >>> e = i.add(InventoryDirectory('src-id', 'src', ROOT_ID))
989
1291
        >>> e = i.add(InventoryFile('foo-id', 'foo.c', parent_id='src-id'))
990
 
        >>> print i.id2path('foo-id').replace(os.sep, '/')
 
1292
        >>> print i.id2path('foo-id')
991
1293
        src/foo.c
992
1294
        """
993
1295
        # get all names, skipping root
994
 
        p = [self._byid[fid].name for fid in self.get_idpath(file_id)[1:]]
995
 
        return os.sep.join(p)
 
1296
        return '/'.join(reversed(
 
1297
            [parent.name for parent in 
 
1298
             self._iter_file_id_parents(file_id)][:-1]))
996
1299
            
997
 
 
998
 
 
999
1300
    def path2id(self, name):
1000
1301
        """Walk down through directories to return entry of last component.
1001
1302
 
1005
1306
        This returns the entry of the last component in the path,
1006
1307
        which may be either a file or a directory.
1007
1308
 
1008
 
        Returns None iff the path is not found.
 
1309
        Returns None IFF the path is not found.
1009
1310
        """
1010
 
        if isinstance(name, types.StringTypes):
1011
 
            name = splitpath(name)
 
1311
        if isinstance(name, basestring):
 
1312
            name = osutils.splitpath(name)
1012
1313
 
1013
 
        mutter("lookup path %r" % name)
 
1314
        # mutter("lookup path %r" % name)
1014
1315
 
1015
1316
        parent = self.root
 
1317
        if parent is None:
 
1318
            return None
1016
1319
        for f in name:
1017
1320
            try:
1018
 
                cie = parent.children[f]
 
1321
                children = getattr(parent, 'children', None)
 
1322
                if children is None:
 
1323
                    return None
 
1324
                cie = children[f]
1019
1325
                assert cie.name == f
1020
1326
                assert cie.parent_id == parent.file_id
1021
1327
                parent = cie
1025
1331
 
1026
1332
        return parent.file_id
1027
1333
 
1028
 
 
1029
1334
    def has_filename(self, names):
1030
1335
        return bool(self.path2id(names))
1031
1336
 
1032
 
 
1033
1337
    def has_id(self, file_id):
1034
 
        return self._byid.has_key(file_id)
 
1338
        return (file_id in self._byid)
1035
1339
 
 
1340
    def remove_recursive_id(self, file_id):
 
1341
        """Remove file_id, and children, from the inventory.
 
1342
        
 
1343
        :param file_id: A file_id to remove.
 
1344
        """
 
1345
        to_find_delete = [self._byid[file_id]]
 
1346
        to_delete = []
 
1347
        while to_find_delete:
 
1348
            ie = to_find_delete.pop()
 
1349
            to_delete.append(ie.file_id)
 
1350
            if ie.kind == 'directory':
 
1351
                to_find_delete.extend(ie.children.values())
 
1352
        for file_id in reversed(to_delete):
 
1353
            ie = self[file_id]
 
1354
            del self._byid[file_id]
 
1355
        if ie.parent_id is not None:
 
1356
            del self[ie.parent_id].children[ie.name]
 
1357
        else:
 
1358
            self.root = None
1036
1359
 
1037
1360
    def rename(self, file_id, new_parent_id, new_name):
1038
1361
        """Move a file within the inventory.
1039
1362
 
1040
1363
        This can change either the name, or the parent, or both.
1041
1364
 
1042
 
        This does not move the working file."""
 
1365
        This does not move the working file.
 
1366
        """
 
1367
        new_name = ensure_normalized_name(new_name)
1043
1368
        if not is_valid_name(new_name):
1044
1369
            raise BzrError("not an acceptable filename: %r" % new_name)
1045
1370
 
1063
1388
        file_ie.name = new_name
1064
1389
        file_ie.parent_id = new_parent_id
1065
1390
 
1066
 
 
 
1391
    def is_root(self, file_id):
 
1392
        return self.root is not None and file_id == self.root.file_id
 
1393
 
 
1394
 
 
1395
entry_factory = {
 
1396
    'directory': InventoryDirectory,
 
1397
    'file': InventoryFile,
 
1398
    'symlink': InventoryLink,
 
1399
    'tree-reference': TreeReference
 
1400
}
 
1401
 
 
1402
def make_entry(kind, name, parent_id, file_id=None):
 
1403
    """Create an inventory entry.
 
1404
 
 
1405
    :param kind: the type of inventory entry to create.
 
1406
    :param name: the basename of the entry.
 
1407
    :param parent_id: the parent_id of the entry.
 
1408
    :param file_id: the file_id to use. if None, one will be created.
 
1409
    """
 
1410
    if file_id is None:
 
1411
        file_id = generate_ids.gen_file_id(name)
 
1412
    name = ensure_normalized_name(name)
 
1413
    try:
 
1414
        factory = entry_factory[kind]
 
1415
    except KeyError:
 
1416
        raise BzrError("unknown kind %r" % kind)
 
1417
    return factory(file_id, name, parent_id)
 
1418
 
 
1419
 
 
1420
def ensure_normalized_name(name):
 
1421
    """Normalize name.
 
1422
 
 
1423
    :raises InvalidNormalization: When name is not normalized, and cannot be
 
1424
        accessed on this platform by the normalized path.
 
1425
    :return: The NFC normalised version of name.
 
1426
    """
 
1427
    #------- This has been copied to bzrlib.dirstate.DirState.add, please
 
1428
    # keep them synchronised.
 
1429
    # we dont import normalized_filename directly because we want to be
 
1430
    # able to change the implementation at runtime for tests.
 
1431
    norm_name, can_access = osutils.normalized_filename(name)
 
1432
    if norm_name != name:
 
1433
        if can_access:
 
1434
            return norm_name
 
1435
        else:
 
1436
            # TODO: jam 20060701 This would probably be more useful
 
1437
            #       if the error was raised with the full path
 
1438
            raise errors.InvalidNormalization(name)
 
1439
    return name
1067
1440
 
1068
1441
 
1069
1442
_NAME_RE = None
1070
1443
 
1071
1444
def is_valid_name(name):
1072
1445
    global _NAME_RE
1073
 
    if _NAME_RE == None:
 
1446
    if _NAME_RE is None:
1074
1447
        _NAME_RE = re.compile(r'^[^/\\]+$')
1075
1448
        
1076
1449
    return bool(_NAME_RE.match(name))