~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/inventory.py

  • Committer: John Arbash Meinel
  • Date: 2011-05-11 11:35:28 UTC
  • mto: This revision was merged to the branch mainline in revision 5851.
  • Revision ID: john@arbash-meinel.com-20110511113528-qepibuwxicjrbb2h
Break compatibility with python <2.6.

This includes auditing the code for places where we were doing
explicit 'sys.version' checks and removing them as appropriate.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
#! /usr/bin/env python
2
 
# -*- coding: UTF-8 -*-
3
 
 
 
1
# Copyright (C) 2005-2011 Canonical Ltd
 
2
#
4
3
# This program is free software; you can redistribute it and/or modify
5
4
# it under the terms of the GNU General Public License as published by
6
5
# the Free Software Foundation; either version 2 of the License, or
7
6
# (at your option) any later version.
8
 
 
 
7
#
9
8
# This program is distributed in the hope that it will be useful,
10
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
11
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12
11
# GNU General Public License for more details.
13
 
 
 
12
#
14
13
# You should have received a copy of the GNU General Public License
15
14
# along with this program; if not, write to the Free Software
16
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17
 
 
18
 
"""Inventories map files to their name in a revision."""
19
 
 
20
 
 
21
 
__copyright__ = "Copyright (C) 2005 Canonical Ltd."
22
 
__author__ = "Martin Pool <mbp@canonical.com>"
23
 
 
24
 
import sys, os.path, types
25
 
from sets import Set
26
 
 
27
 
try:
28
 
    from cElementTree import Element, ElementTree, SubElement
29
 
except ImportError:
30
 
    from elementtree.ElementTree import Element, ElementTree, SubElement
31
 
 
32
 
from xml import XMLMixin
33
 
from errors import bailout
34
 
from osutils import uuid, quotefn, splitpath, joinpath, appendpath
35
 
from trace import mutter
36
 
 
37
 
class InventoryEntry(XMLMixin):
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
# FIXME: This refactoring of the workingtree code doesn't seem to keep
 
18
# the WorkingTree's copy of the inventory in sync with the branch.  The
 
19
# branch modifies its working inventory when it does a commit to make
 
20
# missing files permanently removed.
 
21
 
 
22
# TODO: Maybe also keep the full path of the entry, and the children?
 
23
# But those depend on its position within a particular inventory, and
 
24
# it would be nice not to need to hold the backpointer here.
 
25
 
 
26
# This should really be an id randomly assigned when the tree is
 
27
# created, but it's not for now.
 
28
ROOT_ID = "TREE_ROOT"
 
29
 
 
30
from bzrlib.lazy_import import lazy_import
 
31
lazy_import(globals(), """
 
32
import collections
 
33
import copy
 
34
import re
 
35
import tarfile
 
36
 
 
37
from bzrlib import (
 
38
    chk_map,
 
39
    errors,
 
40
    generate_ids,
 
41
    osutils,
 
42
    )
 
43
""")
 
44
 
 
45
from bzrlib import (
 
46
    lazy_regex,
 
47
    trace,
 
48
    )
 
49
 
 
50
from bzrlib.static_tuple import StaticTuple
 
51
 
 
52
 
 
53
class InventoryEntry(object):
38
54
    """Description of a versioned file.
39
55
 
40
56
    An InventoryEntry has the following fields, which are also
41
57
    present in the XML inventory-entry element:
42
58
 
43
 
    * *file_id*
44
 
    * *name*: (only the basename within the directory, must not
45
 
      contain slashes)
46
 
    * *kind*: "directory" or "file"
47
 
    * *directory_id*: (if absent/null means the branch root directory)
48
 
    * *text_sha1*: only for files
49
 
    * *text_size*: in bytes, only for files 
50
 
    * *text_id*: identifier for the text version, only for files
51
 
 
52
 
    InventoryEntries can also exist inside a WorkingTree
53
 
    inventory, in which case they are not yet bound to a
54
 
    particular revision of the file.  In that case the text_sha1,
55
 
    text_size and text_id are absent.
56
 
 
 
59
    file_id
 
60
 
 
61
    name
 
62
        (within the parent directory)
 
63
 
 
64
    parent_id
 
65
        file_id of the parent directory, or ROOT_ID
 
66
 
 
67
    revision
 
68
        the revision_id in which this variation of this file was
 
69
        introduced.
 
70
 
 
71
    executable
 
72
        Indicates that this file should be executable on systems
 
73
        that support it.
 
74
 
 
75
    text_sha1
 
76
        sha-1 of the text of the file
 
77
 
 
78
    text_size
 
79
        size in bytes of the text of the file
 
80
 
 
81
    (reading a version 4 tree created a text_id field.)
57
82
 
58
83
    >>> i = Inventory()
59
84
    >>> i.path2id('')
60
 
    >>> i.add(InventoryEntry('123', 'src', kind='directory'))
61
 
    >>> i.add(InventoryEntry('2323', 'hello.c', parent_id='123'))
62
 
    >>> for j in i.iter_entries():
63
 
    ...   print j
64
 
    ... 
65
 
    ('src', InventoryEntry('123', 'src', kind='directory', parent_id=None))
66
 
    ('src/hello.c', InventoryEntry('2323', 'hello.c', kind='file', parent_id='123'))
67
 
    >>> i.add(InventoryEntry('2323', 'bye.c', parent_id='123'))
68
 
    Traceback (most recent call last):
 
85
    'TREE_ROOT'
 
86
    >>> i.add(InventoryDirectory('123', 'src', ROOT_ID))
 
87
    InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None)
 
88
    >>> i.add(InventoryFile('2323', 'hello.c', parent_id='123'))
 
89
    InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None, revision=None)
 
90
    >>> shouldbe = {0: '', 1: 'src', 2: 'src/hello.c'}
 
91
    >>> for ix, j in enumerate(i.iter_entries()):
 
92
    ...   print (j[0] == shouldbe[ix], j[1])
69
93
    ...
70
 
    BzrError: ('inventory already contains entry with id {2323}', [])
71
 
    >>> i.add(InventoryEntry('2324', 'bye.c', parent_id='123'))
72
 
    >>> i.add(InventoryEntry('2325', 'wibble', parent_id='123', kind='directory'))
 
94
    (True, InventoryDirectory('TREE_ROOT', u'', parent_id=None, revision=None))
 
95
    (True, InventoryDirectory('123', 'src', parent_id='TREE_ROOT', revision=None))
 
96
    (True, InventoryFile('2323', 'hello.c', parent_id='123', sha1=None, len=None, revision=None))
 
97
    >>> i.add(InventoryFile('2324', 'bye.c', '123'))
 
98
    InventoryFile('2324', 'bye.c', parent_id='123', sha1=None, len=None, revision=None)
 
99
    >>> i.add(InventoryDirectory('2325', 'wibble', '123'))
 
100
    InventoryDirectory('2325', 'wibble', parent_id='123', revision=None)
73
101
    >>> i.path2id('src/wibble')
74
102
    '2325'
75
103
    >>> '2325' in i
76
104
    True
77
 
    >>> i.add(InventoryEntry('2326', 'wibble.c', parent_id='2325'))
 
105
    >>> i.add(InventoryFile('2326', 'wibble.c', '2325'))
 
106
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None, revision=None)
78
107
    >>> i['2326']
79
 
    InventoryEntry('2326', 'wibble.c', kind='file', parent_id='2325')
80
 
    >>> for j in i.iter_entries():
81
 
    ...     print j[0]
82
 
    ...     assert i.path2id(j[0])
83
 
    ... 
 
108
    InventoryFile('2326', 'wibble.c', parent_id='2325', sha1=None, len=None, revision=None)
 
109
    >>> for path, entry in i.iter_entries():
 
110
    ...     print path
 
111
    ...
 
112
    <BLANKLINE>
84
113
    src
85
114
    src/bye.c
86
115
    src/hello.c
88
117
    src/wibble/wibble.c
89
118
    >>> i.id2path('2326')
90
119
    'src/wibble/wibble.c'
91
 
 
92
 
    :todo: Maybe also keep the full path of the entry, and the children?
93
 
           But those depend on its position within a particular inventory, and
94
 
           it would be nice not to need to hold the backpointer here.
95
120
    """
96
 
    def __init__(self, file_id, name, kind='file', text_id=None,
97
 
                 parent_id=None):
 
121
 
 
122
    # Constants returned by describe_change()
 
123
    #
 
124
    # TODO: These should probably move to some kind of FileChangeDescription
 
125
    # class; that's like what's inside a TreeDelta but we want to be able to
 
126
    # generate them just for one file at a time.
 
127
    RENAMED = 'renamed'
 
128
    MODIFIED_AND_RENAMED = 'modified and renamed'
 
129
 
 
130
    __slots__ = ['file_id', 'revision', 'parent_id', 'name']
 
131
 
 
132
    # Attributes that all InventoryEntry instances are expected to have, but
 
133
    # that don't vary for all kinds of entry.  (e.g. symlink_target is only
 
134
    # relevant to InventoryLink, so there's no reason to make every
 
135
    # InventoryFile instance allocate space to hold a value for it.)
 
136
    # Attributes that only vary for files: executable, text_sha1, text_size,
 
137
    # text_id
 
138
    executable = False
 
139
    text_sha1 = None
 
140
    text_size = None
 
141
    text_id = None
 
142
    # Attributes that only vary for symlinks: symlink_target
 
143
    symlink_target = None
 
144
    # Attributes that only vary for tree-references: reference_revision
 
145
    reference_revision = None
 
146
 
 
147
 
 
148
    def detect_changes(self, old_entry):
 
149
        """Return a (text_modified, meta_modified) from this to old_entry.
 
150
 
 
151
        _read_tree_state must have been called on self and old_entry prior to
 
152
        calling detect_changes.
 
153
        """
 
154
        return False, False
 
155
 
 
156
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
 
157
             output_to, reverse=False):
 
158
        """Perform a diff between two entries of the same kind."""
 
159
 
 
160
    def parent_candidates(self, previous_inventories):
 
161
        """Find possible per-file graph parents.
 
162
 
 
163
        This is currently defined by:
 
164
         - Select the last changed revision in the parent inventory.
 
165
         - Do deal with a short lived bug in bzr 0.8's development two entries
 
166
           that have the same last changed but different 'x' bit settings are
 
167
           changed in-place.
 
168
        """
 
169
        # revision:ie mapping for each ie found in previous_inventories.
 
170
        candidates = {}
 
171
        # identify candidate head revision ids.
 
172
        for inv in previous_inventories:
 
173
            if self.file_id in inv:
 
174
                ie = inv[self.file_id]
 
175
                if ie.revision in candidates:
 
176
                    # same revision value in two different inventories:
 
177
                    # correct possible inconsistencies:
 
178
                    #     * there was a bug in revision updates with 'x' bit
 
179
                    #       support.
 
180
                    try:
 
181
                        if candidates[ie.revision].executable != ie.executable:
 
182
                            candidates[ie.revision].executable = False
 
183
                            ie.executable = False
 
184
                    except AttributeError:
 
185
                        pass
 
186
                else:
 
187
                    # add this revision as a candidate.
 
188
                    candidates[ie.revision] = ie
 
189
        return candidates
 
190
 
 
191
    def has_text(self):
 
192
        """Return true if the object this entry represents has textual data.
 
193
 
 
194
        Note that textual data includes binary content.
 
195
 
 
196
        Also note that all entries get weave files created for them.
 
197
        This attribute is primarily used when upgrading from old trees that
 
198
        did not have the weave index for all inventory entries.
 
199
        """
 
200
        return False
 
201
 
 
202
    def __init__(self, file_id, name, parent_id):
98
203
        """Create an InventoryEntry
99
 
        
 
204
 
100
205
        The filename must be a single component, relative to the
101
206
        parent directory; it cannot be a whole path or relative name.
102
207
 
103
 
        >>> e = InventoryEntry('123', 'hello.c')
 
208
        >>> e = InventoryFile('123', 'hello.c', ROOT_ID)
104
209
        >>> e.name
105
210
        'hello.c'
106
211
        >>> e.file_id
107
212
        '123'
108
 
        >>> e = InventoryEntry('123', 'src/hello.c')
 
213
        >>> e = InventoryFile('123', 'src/hello.c', ROOT_ID)
109
214
        Traceback (most recent call last):
110
 
        BzrError: ("InventoryEntry name is not a simple filename: 'src/hello.c'", [])
 
215
        InvalidEntryName: Invalid entry name: src/hello.c
111
216
        """
112
 
        
113
 
        if len(splitpath(name)) != 1:
114
 
            bailout('InventoryEntry name is not a simple filename: %r'
115
 
                    % name)
116
 
        
 
217
        if '/' in name or '\\' in name:
 
218
            raise errors.InvalidEntryName(name=name)
117
219
        self.file_id = file_id
 
220
        self.revision = None
118
221
        self.name = name
119
 
        assert kind in ['file', 'directory']
120
 
        self.kind = kind
121
 
        self.text_id = text_id
122
222
        self.parent_id = parent_id
 
223
 
 
224
    def kind_character(self):
 
225
        """Return a short kind indicator useful for appending to names."""
 
226
        raise errors.BzrError('unknown kind %r' % self.kind)
 
227
 
 
228
    known_kinds = ('file', 'directory', 'symlink')
 
229
 
 
230
    def sorted_children(self):
 
231
        return sorted(self.children.items())
 
232
 
 
233
    @staticmethod
 
234
    def versionable_kind(kind):
 
235
        return (kind in ('file', 'directory', 'symlink', 'tree-reference'))
 
236
 
 
237
    def check(self, checker, rev_id, inv):
 
238
        """Check this inventory entry is intact.
 
239
 
 
240
        This is a template method, override _check for kind specific
 
241
        tests.
 
242
 
 
243
        :param checker: Check object providing context for the checks;
 
244
             can be used to find out what parts of the repository have already
 
245
             been checked.
 
246
        :param rev_id: Revision id from which this InventoryEntry was loaded.
 
247
             Not necessarily the last-changed revision for this file.
 
248
        :param inv: Inventory from which the entry was loaded.
 
249
        """
 
250
        if self.parent_id is not None:
 
251
            if not inv.has_id(self.parent_id):
 
252
                raise errors.BzrCheckError(
 
253
                    'missing parent {%s} in inventory for revision {%s}' % (
 
254
                        self.parent_id, rev_id))
 
255
        checker._add_entry_to_text_key_references(inv, self)
 
256
        self._check(checker, rev_id)
 
257
 
 
258
    def _check(self, checker, rev_id):
 
259
        """Check this inventory entry for kind specific errors."""
 
260
        checker._report_items.append(
 
261
            'unknown entry kind %r in revision {%s}' % (self.kind, rev_id))
 
262
 
 
263
    def copy(self):
 
264
        """Clone this inventory entry."""
 
265
        raise NotImplementedError
 
266
 
 
267
    @staticmethod
 
268
    def describe_change(old_entry, new_entry):
 
269
        """Describe the change between old_entry and this.
 
270
 
 
271
        This smells of being an InterInventoryEntry situation, but as its
 
272
        the first one, we're making it a static method for now.
 
273
 
 
274
        An entry with a different parent, or different name is considered
 
275
        to be renamed. Reparenting is an internal detail.
 
276
        Note that renaming the parent does not trigger a rename for the
 
277
        child entry itself.
 
278
        """
 
279
        # TODO: Perhaps return an object rather than just a string
 
280
        if old_entry is new_entry:
 
281
            # also the case of both being None
 
282
            return 'unchanged'
 
283
        elif old_entry is None:
 
284
            return 'added'
 
285
        elif new_entry is None:
 
286
            return 'removed'
 
287
        if old_entry.kind != new_entry.kind:
 
288
            return 'modified'
 
289
        text_modified, meta_modified = new_entry.detect_changes(old_entry)
 
290
        if text_modified or meta_modified:
 
291
            modified = True
 
292
        else:
 
293
            modified = False
 
294
        # TODO 20060511 (mbp, rbc) factor out 'detect_rename' here.
 
295
        if old_entry.parent_id != new_entry.parent_id:
 
296
            renamed = True
 
297
        elif old_entry.name != new_entry.name:
 
298
            renamed = True
 
299
        else:
 
300
            renamed = False
 
301
        if renamed and not modified:
 
302
            return InventoryEntry.RENAMED
 
303
        if modified and not renamed:
 
304
            return 'modified'
 
305
        if modified and renamed:
 
306
            return InventoryEntry.MODIFIED_AND_RENAMED
 
307
        return 'unchanged'
 
308
 
 
309
    def __repr__(self):
 
310
        return ("%s(%r, %r, parent_id=%r, revision=%r)"
 
311
                % (self.__class__.__name__,
 
312
                   self.file_id,
 
313
                   self.name,
 
314
                   self.parent_id,
 
315
                   self.revision))
 
316
 
 
317
    def __eq__(self, other):
 
318
        if other is self:
 
319
            # For the case when objects are cached
 
320
            return True
 
321
        if not isinstance(other, InventoryEntry):
 
322
            return NotImplemented
 
323
 
 
324
        return ((self.file_id == other.file_id)
 
325
                and (self.name == other.name)
 
326
                and (other.symlink_target == self.symlink_target)
 
327
                and (self.text_sha1 == other.text_sha1)
 
328
                and (self.text_size == other.text_size)
 
329
                and (self.text_id == other.text_id)
 
330
                and (self.parent_id == other.parent_id)
 
331
                and (self.kind == other.kind)
 
332
                and (self.revision == other.revision)
 
333
                and (self.executable == other.executable)
 
334
                and (self.reference_revision == other.reference_revision)
 
335
                )
 
336
 
 
337
    def __ne__(self, other):
 
338
        return not (self == other)
 
339
 
 
340
    def __hash__(self):
 
341
        raise ValueError('not hashable')
 
342
 
 
343
    def _unchanged(self, previous_ie):
 
344
        """Has this entry changed relative to previous_ie.
 
345
 
 
346
        This method should be overridden in child classes.
 
347
        """
 
348
        compatible = True
 
349
        # different inv parent
 
350
        if previous_ie.parent_id != self.parent_id:
 
351
            compatible = False
 
352
        # renamed
 
353
        elif previous_ie.name != self.name:
 
354
            compatible = False
 
355
        elif previous_ie.kind != self.kind:
 
356
            compatible = False
 
357
        return compatible
 
358
 
 
359
    def _read_tree_state(self, path, work_tree):
 
360
        """Populate fields in the inventory entry from the given tree.
 
361
 
 
362
        Note that this should be modified to be a noop on virtual trees
 
363
        as all entries created there are prepopulated.
 
364
        """
 
365
        # TODO: Rather than running this manually, we should check the
 
366
        # working sha1 and other expensive properties when they're
 
367
        # first requested, or preload them if they're already known
 
368
        pass            # nothing to do by default
 
369
 
 
370
    def _forget_tree_state(self):
 
371
        pass
 
372
 
 
373
 
 
374
class InventoryDirectory(InventoryEntry):
 
375
    """A directory in an inventory."""
 
376
 
 
377
    __slots__ = ['children']
 
378
 
 
379
    kind = 'directory'
 
380
 
 
381
    def _check(self, checker, rev_id):
 
382
        """See InventoryEntry._check"""
 
383
        # In non rich root repositories we do not expect a file graph for the
 
384
        # root.
 
385
        if self.name == '' and not checker.rich_roots:
 
386
            return
 
387
        # Directories are stored as an empty file, but the file should exist
 
388
        # to provide a per-fileid log. The hash of every directory content is
 
389
        # "da..." below (the sha1sum of '').
 
390
        checker.add_pending_item(rev_id,
 
391
            ('texts', self.file_id, self.revision), 'text',
 
392
             'da39a3ee5e6b4b0d3255bfef95601890afd80709')
 
393
 
 
394
    def copy(self):
 
395
        other = InventoryDirectory(self.file_id, self.name, self.parent_id)
 
396
        other.revision = self.revision
 
397
        # note that children are *not* copied; they're pulled across when
 
398
        # others are added
 
399
        return other
 
400
 
 
401
    def __init__(self, file_id, name, parent_id):
 
402
        super(InventoryDirectory, self).__init__(file_id, name, parent_id)
 
403
        self.children = {}
 
404
 
 
405
    def kind_character(self):
 
406
        """See InventoryEntry.kind_character."""
 
407
        return '/'
 
408
 
 
409
 
 
410
class InventoryFile(InventoryEntry):
 
411
    """A file in an inventory."""
 
412
 
 
413
    __slots__ = ['text_sha1', 'text_size', 'text_id', 'executable']
 
414
 
 
415
    kind = 'file'
 
416
 
 
417
    def __init__(self, file_id, name, parent_id):
 
418
        super(InventoryFile, self).__init__(file_id, name, parent_id)
123
419
        self.text_sha1 = None
124
420
        self.text_size = None
 
421
        self.text_id = None
 
422
        self.executable = False
125
423
 
 
424
    def _check(self, checker, tree_revision_id):
 
425
        """See InventoryEntry._check"""
 
426
        # TODO: check size too.
 
427
        checker.add_pending_item(tree_revision_id,
 
428
            ('texts', self.file_id, self.revision), 'text',
 
429
             self.text_sha1)
 
430
        if self.text_size is None:
 
431
            checker._report_items.append(
 
432
                'fileid {%s} in {%s} has None for text_size' % (self.file_id,
 
433
                tree_revision_id))
126
434
 
127
435
    def copy(self):
128
 
        other = InventoryEntry(self.file_id, self.name, self.kind,
129
 
                               self.text_id, self.parent_id)
 
436
        other = InventoryFile(self.file_id, self.name, self.parent_id)
 
437
        other.executable = self.executable
 
438
        other.text_id = self.text_id
130
439
        other.text_sha1 = self.text_sha1
131
440
        other.text_size = self.text_size
 
441
        other.revision = self.revision
132
442
        return other
133
443
 
 
444
    def detect_changes(self, old_entry):
 
445
        """See InventoryEntry.detect_changes."""
 
446
        text_modified = (self.text_sha1 != old_entry.text_sha1)
 
447
        meta_modified = (self.executable != old_entry.executable)
 
448
        return text_modified, meta_modified
 
449
 
 
450
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
 
451
             output_to, reverse=False):
 
452
        """See InventoryEntry._diff."""
 
453
        from bzrlib.diff import DiffText
 
454
        from_file_id = self.file_id
 
455
        if to_entry:
 
456
            to_file_id = to_entry.file_id
 
457
        else:
 
458
            to_file_id = None
 
459
        if reverse:
 
460
            to_file_id, from_file_id = from_file_id, to_file_id
 
461
            tree, to_tree = to_tree, tree
 
462
            from_label, to_label = to_label, from_label
 
463
        differ = DiffText(tree, to_tree, output_to, 'utf-8', '', '',
 
464
                          text_diff)
 
465
        return differ.diff_text(from_file_id, to_file_id, from_label, to_label)
 
466
 
 
467
    def has_text(self):
 
468
        """See InventoryEntry.has_text."""
 
469
        return True
 
470
 
 
471
    def kind_character(self):
 
472
        """See InventoryEntry.kind_character."""
 
473
        return ''
 
474
 
 
475
    def _read_tree_state(self, path, work_tree):
 
476
        """See InventoryEntry._read_tree_state."""
 
477
        self.text_sha1 = work_tree.get_file_sha1(self.file_id, path=path)
 
478
        # FIXME: 20050930 probe for the text size when getting sha1
 
479
        # in _read_tree_state
 
480
        self.executable = work_tree.is_executable(self.file_id, path=path)
134
481
 
135
482
    def __repr__(self):
136
 
        return ("%s(%r, %r, kind=%r, parent_id=%r)"
 
483
        return ("%s(%r, %r, parent_id=%r, sha1=%r, len=%s, revision=%s)"
137
484
                % (self.__class__.__name__,
138
485
                   self.file_id,
139
486
                   self.name,
140
 
                   self.kind,
141
 
                   self.parent_id))
142
 
 
143
 
    
144
 
    def to_element(self):
145
 
        """Convert to XML element"""
146
 
        e = Element('entry')
147
 
 
148
 
        e.set('name', self.name)
149
 
        e.set('file_id', self.file_id)
150
 
        e.set('kind', self.kind)
151
 
 
152
 
        if self.text_size is not None:
153
 
            e.set('text_size', '%d' % self.text_size)
154
 
            
155
 
        for f in ['text_id', 'text_sha1', 'parent_id']:
156
 
            v = getattr(self, f)
157
 
            if v is not None:
158
 
                e.set(f, v)
159
 
 
160
 
        e.tail = '\n'
161
 
            
162
 
        return e
163
 
 
164
 
 
165
 
    def from_element(cls, elt):
166
 
        assert elt.tag == 'entry'
167
 
        self = cls(elt.get('file_id'), elt.get('name'), elt.get('kind'))
168
 
        self.text_id = elt.get('text_id')
169
 
        self.text_sha1 = elt.get('text_sha1')
170
 
        self.parent_id = elt.get('parent_id')
171
 
        
172
 
        ## mutter("read inventoryentry: %r" % (elt.attrib))
173
 
 
174
 
        v = elt.get('text_size')
175
 
        self.text_size = v and int(v)
176
 
 
177
 
        return self
178
 
            
179
 
 
180
 
    from_element = classmethod(from_element)
181
 
 
182
 
    def __cmp__(self, other):
183
 
        if self is other:
184
 
            return 0
185
 
        if not isinstance(other, InventoryEntry):
186
 
            return NotImplemented
187
 
 
188
 
        return cmp(self.file_id, other.file_id) \
189
 
               or cmp(self.name, other.name) \
190
 
               or cmp(self.text_sha1, other.text_sha1) \
191
 
               or cmp(self.text_size, other.text_size) \
192
 
               or cmp(self.text_id, other.text_id) \
193
 
               or cmp(self.parent_id, other.parent_id) \
194
 
               or cmp(self.kind, other.kind)
195
 
 
196
 
 
197
 
 
198
 
class Inventory(XMLMixin):
199
 
    """Inventory of versioned files in a tree.
200
 
 
201
 
    An Inventory acts like a set of InventoryEntry items.  You can
202
 
    also look files up by their file_id or name.
203
 
    
204
 
    May be read from and written to a metadata file in a tree.  To
205
 
    manipulate the inventory (for example to add a file), it is read
206
 
    in, modified, and then written back out.
207
 
 
208
 
    The inventory represents a typical unix file tree, with
209
 
    directories containing files and subdirectories.  We never store
210
 
    the full path to a file, because renaming a directory implicitly
211
 
    moves all of its contents.  This class internally maintains a
 
487
                   self.parent_id,
 
488
                   self.text_sha1,
 
489
                   self.text_size,
 
490
                   self.revision))
 
491
 
 
492
    def _forget_tree_state(self):
 
493
        self.text_sha1 = None
 
494
 
 
495
    def _unchanged(self, previous_ie):
 
496
        """See InventoryEntry._unchanged."""
 
497
        compatible = super(InventoryFile, self)._unchanged(previous_ie)
 
498
        if self.text_sha1 != previous_ie.text_sha1:
 
499
            compatible = False
 
500
        else:
 
501
            # FIXME: 20050930 probe for the text size when getting sha1
 
502
            # in _read_tree_state
 
503
            self.text_size = previous_ie.text_size
 
504
        if self.executable != previous_ie.executable:
 
505
            compatible = False
 
506
        return compatible
 
507
 
 
508
 
 
509
class InventoryLink(InventoryEntry):
 
510
    """A file in an inventory."""
 
511
 
 
512
    __slots__ = ['symlink_target']
 
513
 
 
514
    kind = 'symlink'
 
515
 
 
516
    def __init__(self, file_id, name, parent_id):
 
517
        super(InventoryLink, self).__init__(file_id, name, parent_id)
 
518
        self.symlink_target = None
 
519
 
 
520
    def _check(self, checker, tree_revision_id):
 
521
        """See InventoryEntry._check"""
 
522
        if self.symlink_target is None:
 
523
            checker._report_items.append(
 
524
                'symlink {%s} has no target in revision {%s}'
 
525
                    % (self.file_id, tree_revision_id))
 
526
        # Symlinks are stored as ''
 
527
        checker.add_pending_item(tree_revision_id,
 
528
            ('texts', self.file_id, self.revision), 'text',
 
529
             'da39a3ee5e6b4b0d3255bfef95601890afd80709')
 
530
 
 
531
    def copy(self):
 
532
        other = InventoryLink(self.file_id, self.name, self.parent_id)
 
533
        other.symlink_target = self.symlink_target
 
534
        other.revision = self.revision
 
535
        return other
 
536
 
 
537
    def detect_changes(self, old_entry):
 
538
        """See InventoryEntry.detect_changes."""
 
539
        # FIXME: which _modified field should we use ? RBC 20051003
 
540
        text_modified = (self.symlink_target != old_entry.symlink_target)
 
541
        if text_modified:
 
542
            trace.mutter("    symlink target changed")
 
543
        meta_modified = False
 
544
        return text_modified, meta_modified
 
545
 
 
546
    def _diff(self, text_diff, from_label, tree, to_label, to_entry, to_tree,
 
547
             output_to, reverse=False):
 
548
        """See InventoryEntry._diff."""
 
549
        from bzrlib.diff import DiffSymlink
 
550
        old_target = self.symlink_target
 
551
        if to_entry is not None:
 
552
            new_target = to_entry.symlink_target
 
553
        else:
 
554
            new_target = None
 
555
        if not reverse:
 
556
            old_tree = tree
 
557
            new_tree = to_tree
 
558
        else:
 
559
            old_tree = to_tree
 
560
            new_tree = tree
 
561
            new_target, old_target = old_target, new_target
 
562
        differ = DiffSymlink(old_tree, new_tree, output_to)
 
563
        return differ.diff_symlink(old_target, new_target)
 
564
 
 
565
    def kind_character(self):
 
566
        """See InventoryEntry.kind_character."""
 
567
        return ''
 
568
 
 
569
    def _read_tree_state(self, path, work_tree):
 
570
        """See InventoryEntry._read_tree_state."""
 
571
        self.symlink_target = work_tree.get_symlink_target(self.file_id)
 
572
 
 
573
    def _forget_tree_state(self):
 
574
        self.symlink_target = None
 
575
 
 
576
    def _unchanged(self, previous_ie):
 
577
        """See InventoryEntry._unchanged."""
 
578
        compatible = super(InventoryLink, self)._unchanged(previous_ie)
 
579
        if self.symlink_target != previous_ie.symlink_target:
 
580
            compatible = False
 
581
        return compatible
 
582
 
 
583
 
 
584
class TreeReference(InventoryEntry):
 
585
 
 
586
    __slots__ = ['reference_revision']
 
587
 
 
588
    kind = 'tree-reference'
 
589
 
 
590
    def __init__(self, file_id, name, parent_id, revision=None,
 
591
                 reference_revision=None):
 
592
        InventoryEntry.__init__(self, file_id, name, parent_id)
 
593
        self.revision = revision
 
594
        self.reference_revision = reference_revision
 
595
 
 
596
    def copy(self):
 
597
        return TreeReference(self.file_id, self.name, self.parent_id,
 
598
                             self.revision, self.reference_revision)
 
599
 
 
600
    def _read_tree_state(self, path, work_tree):
 
601
        """Populate fields in the inventory entry from the given tree.
 
602
        """
 
603
        self.reference_revision = work_tree.get_reference_revision(
 
604
            self.file_id, path)
 
605
 
 
606
    def _forget_tree_state(self):
 
607
        self.reference_revision = None
 
608
 
 
609
    def _unchanged(self, previous_ie):
 
610
        """See InventoryEntry._unchanged."""
 
611
        compatible = super(TreeReference, self)._unchanged(previous_ie)
 
612
        if self.reference_revision != previous_ie.reference_revision:
 
613
            compatible = False
 
614
        return compatible
 
615
 
 
616
 
 
617
class CommonInventory(object):
 
618
    """Basic inventory logic, defined in terms of primitives like has_id.
 
619
 
 
620
    An inventory is the metadata about the contents of a tree.
 
621
 
 
622
    This is broadly a map from file_id to entries such as directories, files,
 
623
    symlinks and tree references. Each entry maintains its own metadata like
 
624
    SHA1 and length for files, or children for a directory.
 
625
 
 
626
    Entries can be looked up either by path or by file_id.
 
627
 
 
628
    InventoryEntry objects must not be modified after they are
 
629
    inserted, other than through the Inventory API.
 
630
    """
 
631
 
 
632
    def __contains__(self, file_id):
 
633
        """True if this entry contains a file with given id.
 
634
 
 
635
        >>> inv = Inventory()
 
636
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
 
637
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
 
638
        >>> '123' in inv
 
639
        True
 
640
        >>> '456' in inv
 
641
        False
 
642
 
 
643
        Note that this method along with __iter__ are not encouraged for use as
 
644
        they are less clear than specific query methods - they may be rmeoved
 
645
        in the future.
 
646
        """
 
647
        return self.has_id(file_id)
 
648
 
 
649
    def has_filename(self, filename):
 
650
        return bool(self.path2id(filename))
 
651
 
 
652
    def id2path(self, file_id):
 
653
        """Return as a string the path to file_id.
 
654
 
 
655
        >>> i = Inventory()
 
656
        >>> e = i.add(InventoryDirectory('src-id', 'src', ROOT_ID))
 
657
        >>> e = i.add(InventoryFile('foo-id', 'foo.c', parent_id='src-id'))
 
658
        >>> print i.id2path('foo-id')
 
659
        src/foo.c
 
660
 
 
661
        :raises NoSuchId: If file_id is not present in the inventory.
 
662
        """
 
663
        # get all names, skipping root
 
664
        return '/'.join(reversed(
 
665
            [parent.name for parent in
 
666
             self._iter_file_id_parents(file_id)][:-1]))
 
667
 
 
668
    def iter_entries(self, from_dir=None, recursive=True):
 
669
        """Return (path, entry) pairs, in order by name.
 
670
        
 
671
        :param from_dir: if None, start from the root,
 
672
          otherwise start from this directory (either file-id or entry)
 
673
        :param recursive: recurse into directories or not
 
674
        """
 
675
        if from_dir is None:
 
676
            if self.root is None:
 
677
                return
 
678
            from_dir = self.root
 
679
            yield '', self.root
 
680
        elif isinstance(from_dir, basestring):
 
681
            from_dir = self[from_dir]
 
682
 
 
683
        # unrolling the recursive called changed the time from
 
684
        # 440ms/663ms (inline/total) to 116ms/116ms
 
685
        children = from_dir.children.items()
 
686
        children.sort()
 
687
        if not recursive:
 
688
            for name, ie in children:
 
689
                yield name, ie
 
690
            return
 
691
        children = collections.deque(children)
 
692
        stack = [(u'', children)]
 
693
        while stack:
 
694
            from_dir_relpath, children = stack[-1]
 
695
 
 
696
            while children:
 
697
                name, ie = children.popleft()
 
698
 
 
699
                # we know that from_dir_relpath never ends in a slash
 
700
                # and 'f' doesn't begin with one, we can do a string op, rather
 
701
                # than the checks of pathjoin(), though this means that all paths
 
702
                # start with a slash
 
703
                path = from_dir_relpath + '/' + name
 
704
 
 
705
                yield path[1:], ie
 
706
 
 
707
                if ie.kind != 'directory':
 
708
                    continue
 
709
 
 
710
                # But do this child first
 
711
                new_children = ie.children.items()
 
712
                new_children.sort()
 
713
                new_children = collections.deque(new_children)
 
714
                stack.append((path, new_children))
 
715
                # Break out of inner loop, so that we start outer loop with child
 
716
                break
 
717
            else:
 
718
                # if we finished all children, pop it off the stack
 
719
                stack.pop()
 
720
 
 
721
    def _preload_cache(self):
 
722
        """Populate any caches, we are about to access all items.
 
723
        
 
724
        The default implementation does nothing, because CommonInventory doesn't
 
725
        have a cache.
 
726
        """
 
727
        pass
 
728
    
 
729
    def iter_entries_by_dir(self, from_dir=None, specific_file_ids=None,
 
730
        yield_parents=False):
 
731
        """Iterate over the entries in a directory first order.
 
732
 
 
733
        This returns all entries for a directory before returning
 
734
        the entries for children of a directory. This is not
 
735
        lexicographically sorted order, and is a hybrid between
 
736
        depth-first and breadth-first.
 
737
 
 
738
        :param yield_parents: If True, yield the parents from the root leading
 
739
            down to specific_file_ids that have been requested. This has no
 
740
            impact if specific_file_ids is None.
 
741
        :return: This yields (path, entry) pairs
 
742
        """
 
743
        if specific_file_ids and not isinstance(specific_file_ids, set):
 
744
            specific_file_ids = set(specific_file_ids)
 
745
        # TODO? Perhaps this should return the from_dir so that the root is
 
746
        # yielded? or maybe an option?
 
747
        if from_dir is None and specific_file_ids is None:
 
748
            # They are iterating from the root, and have not specified any
 
749
            # specific entries to look at. All current callers fully consume the
 
750
            # iterator, so we can safely assume we are accessing all entries
 
751
            self._preload_cache()
 
752
        if from_dir is None:
 
753
            if self.root is None:
 
754
                return
 
755
            # Optimize a common case
 
756
            if (not yield_parents and specific_file_ids is not None and
 
757
                len(specific_file_ids) == 1):
 
758
                file_id = list(specific_file_ids)[0]
 
759
                if file_id in self:
 
760
                    yield self.id2path(file_id), self[file_id]
 
761
                return
 
762
            from_dir = self.root
 
763
            if (specific_file_ids is None or yield_parents or
 
764
                self.root.file_id in specific_file_ids):
 
765
                yield u'', self.root
 
766
        elif isinstance(from_dir, basestring):
 
767
            from_dir = self[from_dir]
 
768
 
 
769
        if specific_file_ids is not None:
 
770
            # TODO: jam 20070302 This could really be done as a loop rather
 
771
            #       than a bunch of recursive calls.
 
772
            parents = set()
 
773
            byid = self
 
774
            def add_ancestors(file_id):
 
775
                if file_id not in byid:
 
776
                    return
 
777
                parent_id = byid[file_id].parent_id
 
778
                if parent_id is None:
 
779
                    return
 
780
                if parent_id not in parents:
 
781
                    parents.add(parent_id)
 
782
                    add_ancestors(parent_id)
 
783
            for file_id in specific_file_ids:
 
784
                add_ancestors(file_id)
 
785
        else:
 
786
            parents = None
 
787
 
 
788
        stack = [(u'', from_dir)]
 
789
        while stack:
 
790
            cur_relpath, cur_dir = stack.pop()
 
791
 
 
792
            child_dirs = []
 
793
            for child_name, child_ie in sorted(cur_dir.children.iteritems()):
 
794
 
 
795
                child_relpath = cur_relpath + child_name
 
796
 
 
797
                if (specific_file_ids is None or
 
798
                    child_ie.file_id in specific_file_ids or
 
799
                    (yield_parents and child_ie.file_id in parents)):
 
800
                    yield child_relpath, child_ie
 
801
 
 
802
                if child_ie.kind == 'directory':
 
803
                    if parents is None or child_ie.file_id in parents:
 
804
                        child_dirs.append((child_relpath+'/', child_ie))
 
805
            stack.extend(reversed(child_dirs))
 
806
 
 
807
    def _make_delta(self, old):
 
808
        """Make an inventory delta from two inventories."""
 
809
        old_ids = set(old)
 
810
        new_ids = set(self)
 
811
        adds = new_ids - old_ids
 
812
        deletes = old_ids - new_ids
 
813
        common = old_ids.intersection(new_ids)
 
814
        delta = []
 
815
        for file_id in deletes:
 
816
            delta.append((old.id2path(file_id), None, file_id, None))
 
817
        for file_id in adds:
 
818
            delta.append((None, self.id2path(file_id), file_id, self[file_id]))
 
819
        for file_id in common:
 
820
            if old[file_id] != self[file_id]:
 
821
                delta.append((old.id2path(file_id), self.id2path(file_id),
 
822
                    file_id, self[file_id]))
 
823
        return delta
 
824
 
 
825
    def make_entry(self, kind, name, parent_id, file_id=None):
 
826
        """Simple thunk to bzrlib.inventory.make_entry."""
 
827
        return make_entry(kind, name, parent_id, file_id)
 
828
 
 
829
    def entries(self):
 
830
        """Return list of (path, ie) for all entries except the root.
 
831
 
 
832
        This may be faster than iter_entries.
 
833
        """
 
834
        accum = []
 
835
        def descend(dir_ie, dir_path):
 
836
            kids = dir_ie.children.items()
 
837
            kids.sort()
 
838
            for name, ie in kids:
 
839
                child_path = osutils.pathjoin(dir_path, name)
 
840
                accum.append((child_path, ie))
 
841
                if ie.kind == 'directory':
 
842
                    descend(ie, child_path)
 
843
 
 
844
        if self.root is not None:
 
845
            descend(self.root, u'')
 
846
        return accum
 
847
 
 
848
    def directories(self):
 
849
        """Return (path, entry) pairs for all directories, including the root.
 
850
        """
 
851
        accum = []
 
852
        def descend(parent_ie, parent_path):
 
853
            accum.append((parent_path, parent_ie))
 
854
 
 
855
            kids = [(ie.name, ie) for ie in parent_ie.children.itervalues() if ie.kind == 'directory']
 
856
            kids.sort()
 
857
 
 
858
            for name, child_ie in kids:
 
859
                child_path = osutils.pathjoin(parent_path, name)
 
860
                descend(child_ie, child_path)
 
861
        descend(self.root, u'')
 
862
        return accum
 
863
 
 
864
    def path2id(self, relpath):
 
865
        """Walk down through directories to return entry of last component.
 
866
 
 
867
        :param relpath: may be either a list of path components, or a single
 
868
            string, in which case it is automatically split.
 
869
 
 
870
        This returns the entry of the last component in the path,
 
871
        which may be either a file or a directory.
 
872
 
 
873
        Returns None IFF the path is not found.
 
874
        """
 
875
        if isinstance(relpath, basestring):
 
876
            names = osutils.splitpath(relpath)
 
877
        else:
 
878
            names = relpath
 
879
 
 
880
        try:
 
881
            parent = self.root
 
882
        except errors.NoSuchId:
 
883
            # root doesn't exist yet so nothing else can
 
884
            return None
 
885
        if parent is None:
 
886
            return None
 
887
        for f in names:
 
888
            try:
 
889
                children = getattr(parent, 'children', None)
 
890
                if children is None:
 
891
                    return None
 
892
                cie = children[f]
 
893
                parent = cie
 
894
            except KeyError:
 
895
                # or raise an error?
 
896
                return None
 
897
 
 
898
        return parent.file_id
 
899
 
 
900
    def filter(self, specific_fileids):
 
901
        """Get an inventory view filtered against a set of file-ids.
 
902
 
 
903
        Children of directories and parents are included.
 
904
 
 
905
        The result may or may not reference the underlying inventory
 
906
        so it should be treated as immutable.
 
907
        """
 
908
        interesting_parents = set()
 
909
        for fileid in specific_fileids:
 
910
            try:
 
911
                interesting_parents.update(self.get_idpath(fileid))
 
912
            except errors.NoSuchId:
 
913
                # This fileid is not in the inventory - that's ok
 
914
                pass
 
915
        entries = self.iter_entries()
 
916
        if self.root is None:
 
917
            return Inventory(root_id=None)
 
918
        other = Inventory(entries.next()[1].file_id)
 
919
        other.root.revision = self.root.revision
 
920
        other.revision_id = self.revision_id
 
921
        directories_to_expand = set()
 
922
        for path, entry in entries:
 
923
            file_id = entry.file_id
 
924
            if (file_id in specific_fileids
 
925
                or entry.parent_id in directories_to_expand):
 
926
                if entry.kind == 'directory':
 
927
                    directories_to_expand.add(file_id)
 
928
            elif file_id not in interesting_parents:
 
929
                continue
 
930
            other.add(entry.copy())
 
931
        return other
 
932
 
 
933
    def get_idpath(self, file_id):
 
934
        """Return a list of file_ids for the path to an entry.
 
935
 
 
936
        The list contains one element for each directory followed by
 
937
        the id of the file itself.  So the length of the returned list
 
938
        is equal to the depth of the file in the tree, counting the
 
939
        root directory as depth 1.
 
940
        """
 
941
        p = []
 
942
        for parent in self._iter_file_id_parents(file_id):
 
943
            p.insert(0, parent.file_id)
 
944
        return p
 
945
 
 
946
 
 
947
class Inventory(CommonInventory):
 
948
    """Mutable dict based in-memory inventory.
 
949
 
 
950
    We never store the full path to a file, because renaming a directory
 
951
    implicitly moves all of its contents.  This class internally maintains a
212
952
    lookup tree that allows the children under a directory to be
213
953
    returned quickly.
214
954
 
215
 
    InventoryEntry objects must not be modified after they are
216
 
    inserted.
217
 
 
218
955
    >>> inv = Inventory()
219
 
    >>> inv.write_xml(sys.stdout)
220
 
    <inventory>
221
 
    </inventory>
222
 
    >>> inv.add(InventoryEntry('123-123', 'hello.c'))
 
956
    >>> inv.add(InventoryFile('123-123', 'hello.c', ROOT_ID))
 
957
    InventoryFile('123-123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
223
958
    >>> inv['123-123'].name
224
959
    'hello.c'
225
 
    >>> for file_id in inv: print file_id
226
 
    ...
227
 
    123-123
228
 
 
229
 
    May be treated as an iterator or set to look up file ids:
230
 
    
231
 
    >>> bool(inv.path2id('hello.c'))
232
 
    True
 
960
 
 
961
    Id's may be looked up from paths:
 
962
 
 
963
    >>> inv.path2id('hello.c')
 
964
    '123-123'
233
965
    >>> '123-123' in inv
234
966
    True
235
967
 
236
 
    May also look up by name:
237
 
 
238
 
    >>> [x[0] for x in inv.iter_entries()]
239
 
    ['hello.c']
240
 
    
241
 
    >>> inv.write_xml(sys.stdout)
242
 
    <inventory>
243
 
    <entry file_id="123-123" kind="file" name="hello.c" />
244
 
    </inventory>
245
 
 
 
968
    There are iterators over the contents:
 
969
 
 
970
    >>> [entry[0] for entry in inv.iter_entries()]
 
971
    ['', u'hello.c']
246
972
    """
247
973
 
248
 
    ## TODO: Clear up handling of files in subdirectories; we probably
249
 
    ## do want to be able to just look them up by name but this
250
 
    ## probably means gradually walking down the path, looking up as we go.
251
 
 
252
 
    ## TODO: Make sure only canonical filenames are stored.
253
 
 
254
 
    ## TODO: Do something sensible about the possible collisions on
255
 
    ## case-losing filesystems.  Perhaps we should just always forbid
256
 
    ## such collisions.
257
 
 
258
 
    ## _tree should probably just be stored as
259
 
    ## InventoryEntry._children on each directory.
260
 
 
261
 
    def __init__(self):
 
974
    def __init__(self, root_id=ROOT_ID, revision_id=None):
262
975
        """Create or read an inventory.
263
976
 
264
977
        If a working directory is specified, the inventory is read
265
978
        from there.  If the file is specified, read from that. If not,
266
979
        the inventory is created empty.
267
 
        """
268
 
        self._byid = dict()
269
 
 
270
 
        # _tree is indexed by parent_id; at each level a map from name
271
 
        # to ie.  The None entry is the root.
272
 
        self._tree = {None: {}}
273
 
 
 
980
 
 
981
        The inventory is created with a default root directory, with
 
982
        an id of None.
 
983
        """
 
984
        if root_id is not None:
 
985
            self._set_root(InventoryDirectory(root_id, u'', None))
 
986
        else:
 
987
            self.root = None
 
988
            self._byid = {}
 
989
        self.revision_id = revision_id
 
990
 
 
991
    def __repr__(self):
 
992
        # More than one page of ouput is not useful anymore to debug
 
993
        max_len = 2048
 
994
        closing = '...}'
 
995
        contents = repr(self._byid)
 
996
        if len(contents) > max_len:
 
997
            contents = contents[:(max_len-len(closing))] + closing
 
998
        return "<Inventory object at %x, contents=%r>" % (id(self), contents)
 
999
 
 
1000
    def apply_delta(self, delta):
 
1001
        """Apply a delta to this inventory.
 
1002
 
 
1003
        See the inventory developers documentation for the theory behind
 
1004
        inventory deltas.
 
1005
 
 
1006
        If delta application fails the inventory is left in an indeterminate
 
1007
        state and must not be used.
 
1008
 
 
1009
        :param delta: A list of changes to apply. After all the changes are
 
1010
            applied the final inventory must be internally consistent, but it
 
1011
            is ok to supply changes which, if only half-applied would have an
 
1012
            invalid result - such as supplying two changes which rename two
 
1013
            files, 'A' and 'B' with each other : [('A', 'B', 'A-id', a_entry),
 
1014
            ('B', 'A', 'B-id', b_entry)].
 
1015
 
 
1016
            Each change is a tuple, of the form (old_path, new_path, file_id,
 
1017
            new_entry).
 
1018
 
 
1019
            When new_path is None, the change indicates the removal of an entry
 
1020
            from the inventory and new_entry will be ignored (using None is
 
1021
            appropriate). If new_path is not None, then new_entry must be an
 
1022
            InventoryEntry instance, which will be incorporated into the
 
1023
            inventory (and replace any existing entry with the same file id).
 
1024
 
 
1025
            When old_path is None, the change indicates the addition of
 
1026
            a new entry to the inventory.
 
1027
 
 
1028
            When neither new_path nor old_path are None, the change is a
 
1029
            modification to an entry, such as a rename, reparent, kind change
 
1030
            etc.
 
1031
 
 
1032
            The children attribute of new_entry is ignored. This is because
 
1033
            this method preserves children automatically across alterations to
 
1034
            the parent of the children, and cases where the parent id of a
 
1035
            child is changing require the child to be passed in as a separate
 
1036
            change regardless. E.g. in the recursive deletion of a directory -
 
1037
            the directory's children must be included in the delta, or the
 
1038
            final inventory will be invalid.
 
1039
 
 
1040
            Note that a file_id must only appear once within a given delta.
 
1041
            An AssertionError is raised otherwise.
 
1042
        """
 
1043
        # Check that the delta is legal. It would be nice if this could be
 
1044
        # done within the loops below but it's safer to validate the delta
 
1045
        # before starting to mutate the inventory, as there isn't a rollback
 
1046
        # facility.
 
1047
        list(_check_delta_unique_ids(_check_delta_unique_new_paths(
 
1048
            _check_delta_unique_old_paths(_check_delta_ids_match_entry(
 
1049
            _check_delta_ids_are_valid(
 
1050
            _check_delta_new_path_entry_both_or_None(
 
1051
            delta)))))))
 
1052
 
 
1053
        children = {}
 
1054
        # Remove all affected items which were in the original inventory,
 
1055
        # starting with the longest paths, thus ensuring parents are examined
 
1056
        # after their children, which means that everything we examine has no
 
1057
        # modified children remaining by the time we examine it.
 
1058
        for old_path, file_id in sorted(((op, f) for op, np, f, e in delta
 
1059
                                        if op is not None), reverse=True):
 
1060
            # Preserve unaltered children of file_id for later reinsertion.
 
1061
            file_id_children = getattr(self[file_id], 'children', {})
 
1062
            if len(file_id_children):
 
1063
                children[file_id] = file_id_children
 
1064
            if self.id2path(file_id) != old_path:
 
1065
                raise errors.InconsistentDelta(old_path, file_id,
 
1066
                    "Entry was at wrong other path %r." % self.id2path(file_id))
 
1067
            # Remove file_id and the unaltered children. If file_id is not
 
1068
            # being deleted it will be reinserted back later.
 
1069
            self.remove_recursive_id(file_id)
 
1070
        # Insert all affected which should be in the new inventory, reattaching
 
1071
        # their children if they had any. This is done from shortest path to
 
1072
        # longest, ensuring that items which were modified and whose parents in
 
1073
        # the resulting inventory were also modified, are inserted after their
 
1074
        # parents.
 
1075
        for new_path, f, new_entry in sorted((np, f, e) for op, np, f, e in
 
1076
                                          delta if np is not None):
 
1077
            if new_entry.kind == 'directory':
 
1078
                # Pop the child which to allow detection of children whose
 
1079
                # parents were deleted and which were not reattached to a new
 
1080
                # parent.
 
1081
                replacement = InventoryDirectory(new_entry.file_id,
 
1082
                    new_entry.name, new_entry.parent_id)
 
1083
                replacement.revision = new_entry.revision
 
1084
                replacement.children = children.pop(replacement.file_id, {})
 
1085
                new_entry = replacement
 
1086
            try:
 
1087
                self.add(new_entry)
 
1088
            except errors.DuplicateFileId:
 
1089
                raise errors.InconsistentDelta(new_path, new_entry.file_id,
 
1090
                    "New id is already present in target.")
 
1091
            except AttributeError:
 
1092
                raise errors.InconsistentDelta(new_path, new_entry.file_id,
 
1093
                    "Parent is not a directory.")
 
1094
            if self.id2path(new_entry.file_id) != new_path:
 
1095
                raise errors.InconsistentDelta(new_path, new_entry.file_id,
 
1096
                    "New path is not consistent with parent path.")
 
1097
        if len(children):
 
1098
            # Get the parent id that was deleted
 
1099
            parent_id, children = children.popitem()
 
1100
            raise errors.InconsistentDelta("<deleted>", parent_id,
 
1101
                "The file id was deleted but its children were not deleted.")
 
1102
 
 
1103
    def create_by_apply_delta(self, inventory_delta, new_revision_id,
 
1104
                              propagate_caches=False):
 
1105
        """See CHKInventory.create_by_apply_delta()"""
 
1106
        new_inv = self.copy()
 
1107
        new_inv.apply_delta(inventory_delta)
 
1108
        new_inv.revision_id = new_revision_id
 
1109
        return new_inv
 
1110
 
 
1111
    def _set_root(self, ie):
 
1112
        self.root = ie
 
1113
        self._byid = {self.root.file_id: self.root}
 
1114
 
 
1115
    def copy(self):
 
1116
        # TODO: jam 20051218 Should copy also copy the revision_id?
 
1117
        entries = self.iter_entries()
 
1118
        if self.root is None:
 
1119
            return Inventory(root_id=None)
 
1120
        other = Inventory(entries.next()[1].file_id)
 
1121
        other.root.revision = self.root.revision
 
1122
        # copy recursively so we know directories will be added before
 
1123
        # their children.  There are more efficient ways than this...
 
1124
        for path, entry in entries:
 
1125
            other.add(entry.copy())
 
1126
        return other
274
1127
 
275
1128
    def __iter__(self):
 
1129
        """Iterate over all file-ids."""
276
1130
        return iter(self._byid)
277
1131
 
 
1132
    def iter_just_entries(self):
 
1133
        """Iterate over all entries.
 
1134
        
 
1135
        Unlike iter_entries(), just the entries are returned (not (path, ie))
 
1136
        and the order of entries is undefined.
 
1137
 
 
1138
        XXX: We may not want to merge this into bzr.dev.
 
1139
        """
 
1140
        if self.root is None:
 
1141
            return
 
1142
        for _, ie in self._byid.iteritems():
 
1143
            yield ie
278
1144
 
279
1145
    def __len__(self):
280
1146
        """Returns number of entries."""
281
1147
        return len(self._byid)
282
1148
 
283
 
 
284
 
    def iter_entries(self, parent_id=None):
285
 
        """Return (path, entry) pairs, in order by name."""
286
 
        kids = self._tree[parent_id].items()
287
 
        kids.sort()
288
 
        for name, ie in kids:
289
 
            yield name, ie
290
 
            if ie.kind == 'directory':
291
 
                for cn, cie in self.iter_entries(parent_id=ie.file_id):
292
 
                    yield joinpath([name, cn]), cie
293
 
 
294
 
 
295
 
    def directories(self, include_root=True):
296
 
        """Return (path, entry) pairs for all directories.
297
 
        """
298
 
        if include_root:
299
 
            yield '', None
300
 
        for path, entry in self.iter_entries():
301
 
            if entry.kind == 'directory':
302
 
                yield path, entry
303
 
        
304
 
 
305
 
 
306
 
    def children(self, parent_id):
307
 
        """Return entries that are direct children of parent_id."""
308
 
        return self._tree[parent_id]
309
 
                    
310
 
 
311
 
 
312
 
    # TODO: return all paths and entries
313
 
 
314
 
 
315
 
    def __contains__(self, file_id):
316
 
        """True if this entry contains a file with given id.
317
 
 
318
 
        >>> inv = Inventory()
319
 
        >>> inv.add(InventoryEntry('123', 'foo.c'))
320
 
        >>> '123' in inv
321
 
        True
322
 
        >>> '456' in inv
323
 
        False
324
 
        """
325
 
        return file_id in self._byid
326
 
 
327
 
 
328
1149
    def __getitem__(self, file_id):
329
1150
        """Return the entry for given file_id.
330
1151
 
331
1152
        >>> inv = Inventory()
332
 
        >>> inv.add(InventoryEntry('123123', 'hello.c'))
 
1153
        >>> inv.add(InventoryFile('123123', 'hello.c', ROOT_ID))
 
1154
        InventoryFile('123123', 'hello.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
333
1155
        >>> inv['123123'].name
334
1156
        'hello.c'
335
1157
        """
336
 
        return self._byid[file_id]
337
 
 
 
1158
        try:
 
1159
            return self._byid[file_id]
 
1160
        except KeyError:
 
1161
            # really we're passing an inventory, not a tree...
 
1162
            raise errors.NoSuchId(self, file_id)
 
1163
 
 
1164
    def get_file_kind(self, file_id):
 
1165
        return self._byid[file_id].kind
 
1166
 
 
1167
    def get_child(self, parent_id, filename):
 
1168
        return self[parent_id].children.get(filename)
 
1169
 
 
1170
    def _add_child(self, entry):
 
1171
        """Add an entry to the inventory, without adding it to its parent"""
 
1172
        if entry.file_id in self._byid:
 
1173
            raise errors.BzrError(
 
1174
                "inventory already contains entry with id {%s}" %
 
1175
                entry.file_id)
 
1176
        self._byid[entry.file_id] = entry
 
1177
        for child in getattr(entry, 'children', {}).itervalues():
 
1178
            self._add_child(child)
 
1179
        return entry
338
1180
 
339
1181
    def add(self, entry):
340
1182
        """Add entry to inventory.
341
1183
 
342
 
        To add  a file to a branch ready to be committed, use Branch.add,
343
 
        which calls this."""
344
 
        if entry.file_id in self:
345
 
            bailout("inventory already contains entry with id {%s}" % entry.file_id)
346
 
 
347
 
        if entry.parent_id != None:
348
 
            if entry.parent_id not in self:
349
 
                bailout("parent_id %s of new entry not found in inventory"
350
 
                        % entry.parent_id)
351
 
            
352
 
        if self._tree[entry.parent_id].has_key(entry.name):
353
 
            bailout("%s is already versioned"
354
 
                    % appendpath(self.id2path(entry.parent_id), entry.name))
355
 
 
356
 
        self._byid[entry.file_id] = entry
357
 
        self._tree[entry.parent_id][entry.name] = entry
358
 
 
359
 
        if entry.kind == 'directory':
360
 
            self._tree[entry.file_id] = {}
361
 
 
 
1184
        :return: entry
 
1185
        """
 
1186
        if entry.file_id in self._byid:
 
1187
            raise errors.DuplicateFileId(entry.file_id,
 
1188
                                         self._byid[entry.file_id])
 
1189
        if entry.parent_id is None:
 
1190
            self.root = entry
 
1191
        else:
 
1192
            try:
 
1193
                parent = self._byid[entry.parent_id]
 
1194
            except KeyError:
 
1195
                raise errors.InconsistentDelta("<unknown>", entry.parent_id,
 
1196
                    "Parent not in inventory.")
 
1197
            if entry.name in parent.children:
 
1198
                raise errors.InconsistentDelta(
 
1199
                    self.id2path(parent.children[entry.name].file_id),
 
1200
                    entry.file_id,
 
1201
                    "Path already versioned")
 
1202
            parent.children[entry.name] = entry
 
1203
        return self._add_child(entry)
 
1204
 
 
1205
    def add_path(self, relpath, kind, file_id=None, parent_id=None):
 
1206
        """Add entry from a path.
 
1207
 
 
1208
        The immediate parent must already be versioned.
 
1209
 
 
1210
        Returns the new entry object."""
 
1211
 
 
1212
        parts = osutils.splitpath(relpath)
 
1213
 
 
1214
        if len(parts) == 0:
 
1215
            if file_id is None:
 
1216
                file_id = generate_ids.gen_root_id()
 
1217
            self.root = InventoryDirectory(file_id, '', None)
 
1218
            self._byid = {self.root.file_id: self.root}
 
1219
            return self.root
 
1220
        else:
 
1221
            parent_path = parts[:-1]
 
1222
            parent_id = self.path2id(parent_path)
 
1223
            if parent_id is None:
 
1224
                raise errors.NotVersionedError(path=parent_path)
 
1225
        ie = make_entry(kind, parts[-1], parent_id, file_id)
 
1226
        return self.add(ie)
362
1227
 
363
1228
    def __delitem__(self, file_id):
364
1229
        """Remove entry by id.
365
1230
 
366
1231
        >>> inv = Inventory()
367
 
        >>> inv.add(InventoryEntry('123', 'foo.c'))
 
1232
        >>> inv.add(InventoryFile('123', 'foo.c', ROOT_ID))
 
1233
        InventoryFile('123', 'foo.c', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
368
1234
        >>> '123' in inv
369
1235
        True
370
1236
        >>> del inv['123']
372
1238
        False
373
1239
        """
374
1240
        ie = self[file_id]
375
 
 
376
 
        assert self._tree[ie.parent_id][ie.name] == ie
377
 
        
378
 
        # TODO: Test deleting all children; maybe hoist to a separate
379
 
        # deltree method?
380
 
        if ie.kind == 'directory':
381
 
            for cie in self._tree[file_id].values():
382
 
                del self[cie.file_id]
383
 
            del self._tree[file_id]
384
 
 
385
1241
        del self._byid[file_id]
386
 
        del self._tree[ie.parent_id][ie.name]
387
 
 
388
 
 
389
 
    def id_set(self):
390
 
        return Set(self._byid)
391
 
 
392
 
 
393
 
    def to_element(self):
394
 
        """Convert to XML Element"""
395
 
        e = Element('inventory')
396
 
        e.text = '\n'
397
 
        for path, ie in self.iter_entries():
398
 
            e.append(ie.to_element())
399
 
        return e
400
 
    
401
 
 
402
 
    def from_element(cls, elt):
403
 
        """Construct from XML Element
404
 
 
405
 
        >>> inv = Inventory()
406
 
        >>> inv.add(InventoryEntry('foo.c-123981239', 'foo.c'))
407
 
        >>> elt = inv.to_element()
408
 
        >>> inv2 = Inventory.from_element(elt)
409
 
        >>> inv2 == inv
410
 
        True
411
 
        """
412
 
        assert elt.tag == 'inventory'
413
 
        o = cls()
414
 
        for e in elt:
415
 
            o.add(InventoryEntry.from_element(e))
416
 
        return o
417
 
        
418
 
    from_element = classmethod(from_element)
419
 
 
420
 
 
421
 
    def __cmp__(self, other):
 
1242
        if ie.parent_id is not None:
 
1243
            del self[ie.parent_id].children[ie.name]
 
1244
 
 
1245
    def __eq__(self, other):
422
1246
        """Compare two sets by comparing their contents.
423
1247
 
424
1248
        >>> i1 = Inventory()
425
1249
        >>> i2 = Inventory()
426
1250
        >>> i1 == i2
427
1251
        True
428
 
        >>> i1.add(InventoryEntry('123', 'foo'))
 
1252
        >>> i1.add(InventoryFile('123', 'foo', ROOT_ID))
 
1253
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
429
1254
        >>> i1 == i2
430
1255
        False
431
 
        >>> i2.add(InventoryEntry('123', 'foo'))
 
1256
        >>> i2.add(InventoryFile('123', 'foo', ROOT_ID))
 
1257
        InventoryFile('123', 'foo', parent_id='TREE_ROOT', sha1=None, len=None, revision=None)
432
1258
        >>> i1 == i2
433
1259
        True
434
1260
        """
435
 
        if self is other:
436
 
            return 0
437
 
        
438
1261
        if not isinstance(other, Inventory):
439
1262
            return NotImplemented
440
1263
 
441
 
        if self.id_set() ^ other.id_set():
442
 
            return 1
443
 
 
444
 
        for file_id in self._byid:
445
 
            c = cmp(self[file_id], other[file_id])
446
 
            if c: return c
447
 
 
448
 
        return 0
449
 
 
450
 
 
451
 
    def id2path(self, file_id):
452
 
        """Return as a list the path to file_id."""
453
 
        p = []
454
 
        while file_id != None:
 
1264
        return self._byid == other._byid
 
1265
 
 
1266
    def __ne__(self, other):
 
1267
        return not self.__eq__(other)
 
1268
 
 
1269
    def __hash__(self):
 
1270
        raise ValueError('not hashable')
 
1271
 
 
1272
    def _iter_file_id_parents(self, file_id):
 
1273
        """Yield the parents of file_id up to the root."""
 
1274
        while file_id is not None:
 
1275
            try:
 
1276
                ie = self._byid[file_id]
 
1277
            except KeyError:
 
1278
                raise errors.NoSuchId(tree=None, file_id=file_id)
 
1279
            yield ie
 
1280
            file_id = ie.parent_id
 
1281
 
 
1282
    def has_id(self, file_id):
 
1283
        return (file_id in self._byid)
 
1284
 
 
1285
    def _make_delta(self, old):
 
1286
        """Make an inventory delta from two inventories."""
 
1287
        old_getter = getattr(old, '_byid', old)
 
1288
        new_getter = self._byid
 
1289
        old_ids = set(old_getter)
 
1290
        new_ids = set(new_getter)
 
1291
        adds = new_ids - old_ids
 
1292
        deletes = old_ids - new_ids
 
1293
        if not adds and not deletes:
 
1294
            common = new_ids
 
1295
        else:
 
1296
            common = old_ids.intersection(new_ids)
 
1297
        delta = []
 
1298
        for file_id in deletes:
 
1299
            delta.append((old.id2path(file_id), None, file_id, None))
 
1300
        for file_id in adds:
 
1301
            delta.append((None, self.id2path(file_id), file_id, self[file_id]))
 
1302
        for file_id in common:
 
1303
            new_ie = new_getter[file_id]
 
1304
            old_ie = old_getter[file_id]
 
1305
            # If xml_serializer returns the cached InventoryEntries (rather
 
1306
            # than always doing .copy()), inlining the 'is' check saves 2.7M
 
1307
            # calls to __eq__.  Under lsprof this saves 20s => 6s.
 
1308
            # It is a minor improvement without lsprof.
 
1309
            if old_ie is new_ie or old_ie == new_ie:
 
1310
                continue
 
1311
            else:
 
1312
                delta.append((old.id2path(file_id), self.id2path(file_id),
 
1313
                              file_id, new_ie))
 
1314
        return delta
 
1315
 
 
1316
    def remove_recursive_id(self, file_id):
 
1317
        """Remove file_id, and children, from the inventory.
 
1318
 
 
1319
        :param file_id: A file_id to remove.
 
1320
        """
 
1321
        to_find_delete = [self._byid[file_id]]
 
1322
        to_delete = []
 
1323
        while to_find_delete:
 
1324
            ie = to_find_delete.pop()
 
1325
            to_delete.append(ie.file_id)
 
1326
            if ie.kind == 'directory':
 
1327
                to_find_delete.extend(ie.children.values())
 
1328
        for file_id in reversed(to_delete):
455
1329
            ie = self[file_id]
456
 
            p = [ie.name] + p
 
1330
            del self._byid[file_id]
 
1331
        if ie.parent_id is not None:
 
1332
            del self[ie.parent_id].children[ie.name]
 
1333
        else:
 
1334
            self.root = None
 
1335
 
 
1336
    def rename(self, file_id, new_parent_id, new_name):
 
1337
        """Move a file within the inventory.
 
1338
 
 
1339
        This can change either the name, or the parent, or both.
 
1340
 
 
1341
        This does not move the working file.
 
1342
        """
 
1343
        new_name = ensure_normalized_name(new_name)
 
1344
        if not is_valid_name(new_name):
 
1345
            raise errors.BzrError("not an acceptable filename: %r" % new_name)
 
1346
 
 
1347
        new_parent = self._byid[new_parent_id]
 
1348
        if new_name in new_parent.children:
 
1349
            raise errors.BzrError("%r already exists in %r" %
 
1350
                (new_name, self.id2path(new_parent_id)))
 
1351
 
 
1352
        new_parent_idpath = self.get_idpath(new_parent_id)
 
1353
        if file_id in new_parent_idpath:
 
1354
            raise errors.BzrError(
 
1355
                "cannot move directory %r into a subdirectory of itself, %r"
 
1356
                    % (self.id2path(file_id), self.id2path(new_parent_id)))
 
1357
 
 
1358
        file_ie = self._byid[file_id]
 
1359
        old_parent = self._byid[file_ie.parent_id]
 
1360
 
 
1361
        # TODO: Don't leave things messed up if this fails
 
1362
 
 
1363
        del old_parent.children[file_ie.name]
 
1364
        new_parent.children[new_name] = file_ie
 
1365
 
 
1366
        file_ie.name = new_name
 
1367
        file_ie.parent_id = new_parent_id
 
1368
 
 
1369
    def is_root(self, file_id):
 
1370
        return self.root is not None and file_id == self.root.file_id
 
1371
 
 
1372
 
 
1373
class CHKInventory(CommonInventory):
 
1374
    """An inventory persisted in a CHK store.
 
1375
 
 
1376
    By design, a CHKInventory is immutable so many of the methods
 
1377
    supported by Inventory - add, rename, apply_delta, etc - are *not*
 
1378
    supported. To create a new CHKInventory, use create_by_apply_delta()
 
1379
    or from_inventory(), say.
 
1380
 
 
1381
    Internally, a CHKInventory has one or two CHKMaps:
 
1382
 
 
1383
    * id_to_entry - a map from (file_id,) => InventoryEntry as bytes
 
1384
    * parent_id_basename_to_file_id - a map from (parent_id, basename_utf8)
 
1385
        => file_id as bytes
 
1386
 
 
1387
    The second map is optional and not present in early CHkRepository's.
 
1388
 
 
1389
    No caching is performed: every method call or item access will perform
 
1390
    requests to the storage layer. As such, keep references to objects you
 
1391
    want to reuse.
 
1392
    """
 
1393
 
 
1394
    def __init__(self, search_key_name):
 
1395
        CommonInventory.__init__(self)
 
1396
        self._fileid_to_entry_cache = {}
 
1397
        self._fully_cached = False
 
1398
        self._path_to_fileid_cache = {}
 
1399
        self._search_key_name = search_key_name
 
1400
        self.root_id = None
 
1401
 
 
1402
    def __eq__(self, other):
 
1403
        """Compare two sets by comparing their contents."""
 
1404
        if not isinstance(other, CHKInventory):
 
1405
            return NotImplemented
 
1406
 
 
1407
        this_key = self.id_to_entry.key()
 
1408
        other_key = other.id_to_entry.key()
 
1409
        this_pid_key = self.parent_id_basename_to_file_id.key()
 
1410
        other_pid_key = other.parent_id_basename_to_file_id.key()
 
1411
        if None in (this_key, this_pid_key, other_key, other_pid_key):
 
1412
            return False
 
1413
        return this_key == other_key and this_pid_key == other_pid_key
 
1414
 
 
1415
    def _entry_to_bytes(self, entry):
 
1416
        """Serialise entry as a single bytestring.
 
1417
 
 
1418
        :param Entry: An inventory entry.
 
1419
        :return: A bytestring for the entry.
 
1420
 
 
1421
        The BNF:
 
1422
        ENTRY ::= FILE | DIR | SYMLINK | TREE
 
1423
        FILE ::= "file: " COMMON SEP SHA SEP SIZE SEP EXECUTABLE
 
1424
        DIR ::= "dir: " COMMON
 
1425
        SYMLINK ::= "symlink: " COMMON SEP TARGET_UTF8
 
1426
        TREE ::= "tree: " COMMON REFERENCE_REVISION
 
1427
        COMMON ::= FILE_ID SEP PARENT_ID SEP NAME_UTF8 SEP REVISION
 
1428
        SEP ::= "\n"
 
1429
        """
 
1430
        if entry.parent_id is not None:
 
1431
            parent_str = entry.parent_id
 
1432
        else:
 
1433
            parent_str = ''
 
1434
        name_str = entry.name.encode("utf8")
 
1435
        if entry.kind == 'file':
 
1436
            if entry.executable:
 
1437
                exec_str = "Y"
 
1438
            else:
 
1439
                exec_str = "N"
 
1440
            return "file: %s\n%s\n%s\n%s\n%s\n%d\n%s" % (
 
1441
                entry.file_id, parent_str, name_str, entry.revision,
 
1442
                entry.text_sha1, entry.text_size, exec_str)
 
1443
        elif entry.kind == 'directory':
 
1444
            return "dir: %s\n%s\n%s\n%s" % (
 
1445
                entry.file_id, parent_str, name_str, entry.revision)
 
1446
        elif entry.kind == 'symlink':
 
1447
            return "symlink: %s\n%s\n%s\n%s\n%s" % (
 
1448
                entry.file_id, parent_str, name_str, entry.revision,
 
1449
                entry.symlink_target.encode("utf8"))
 
1450
        elif entry.kind == 'tree-reference':
 
1451
            return "tree: %s\n%s\n%s\n%s\n%s" % (
 
1452
                entry.file_id, parent_str, name_str, entry.revision,
 
1453
                entry.reference_revision)
 
1454
        else:
 
1455
            raise ValueError("unknown kind %r" % entry.kind)
 
1456
 
 
1457
    def _expand_fileids_to_parents_and_children(self, file_ids):
 
1458
        """Give a more wholistic view starting with the given file_ids.
 
1459
 
 
1460
        For any file_id which maps to a directory, we will include all children
 
1461
        of that directory. We will also include all directories which are
 
1462
        parents of the given file_ids, but we will not include their children.
 
1463
 
 
1464
        eg:
 
1465
          /     # TREE_ROOT
 
1466
          foo/  # foo-id
 
1467
            baz # baz-id
 
1468
            frob/ # frob-id
 
1469
              fringle # fringle-id
 
1470
          bar/  # bar-id
 
1471
            bing # bing-id
 
1472
 
 
1473
        if given [foo-id] we will include
 
1474
            TREE_ROOT as interesting parents
 
1475
        and 
 
1476
            foo-id, baz-id, frob-id, fringle-id
 
1477
        As interesting ids.
 
1478
        """
 
1479
        interesting = set()
 
1480
        # TODO: Pre-pass over the list of fileids to see if anything is already
 
1481
        #       deserialized in self._fileid_to_entry_cache
 
1482
 
 
1483
        directories_to_expand = set()
 
1484
        children_of_parent_id = {}
 
1485
        # It is okay if some of the fileids are missing
 
1486
        for entry in self._getitems(file_ids):
 
1487
            if entry.kind == 'directory':
 
1488
                directories_to_expand.add(entry.file_id)
 
1489
            interesting.add(entry.parent_id)
 
1490
            children_of_parent_id.setdefault(entry.parent_id, []
 
1491
                                             ).append(entry.file_id)
 
1492
 
 
1493
        # Now, interesting has all of the direct parents, but not the
 
1494
        # parents of those parents. It also may have some duplicates with
 
1495
        # specific_fileids
 
1496
        remaining_parents = interesting.difference(file_ids)
 
1497
        # When we hit the TREE_ROOT, we'll get an interesting parent of None,
 
1498
        # but we don't actually want to recurse into that
 
1499
        interesting.add(None) # this will auto-filter it in the loop
 
1500
        remaining_parents.discard(None) 
 
1501
        while remaining_parents:
 
1502
            next_parents = set()
 
1503
            for entry in self._getitems(remaining_parents):
 
1504
                next_parents.add(entry.parent_id)
 
1505
                children_of_parent_id.setdefault(entry.parent_id, []
 
1506
                                                 ).append(entry.file_id)
 
1507
            # Remove any search tips we've already processed
 
1508
            remaining_parents = next_parents.difference(interesting)
 
1509
            interesting.update(remaining_parents)
 
1510
            # We should probably also .difference(directories_to_expand)
 
1511
        interesting.update(file_ids)
 
1512
        interesting.discard(None)
 
1513
        while directories_to_expand:
 
1514
            # Expand directories by looking in the
 
1515
            # parent_id_basename_to_file_id map
 
1516
            keys = [StaticTuple(f,).intern() for f in directories_to_expand]
 
1517
            directories_to_expand = set()
 
1518
            items = self.parent_id_basename_to_file_id.iteritems(keys)
 
1519
            next_file_ids = set([item[1] for item in items])
 
1520
            next_file_ids = next_file_ids.difference(interesting)
 
1521
            interesting.update(next_file_ids)
 
1522
            for entry in self._getitems(next_file_ids):
 
1523
                if entry.kind == 'directory':
 
1524
                    directories_to_expand.add(entry.file_id)
 
1525
                children_of_parent_id.setdefault(entry.parent_id, []
 
1526
                                                 ).append(entry.file_id)
 
1527
        return interesting, children_of_parent_id
 
1528
 
 
1529
    def filter(self, specific_fileids):
 
1530
        """Get an inventory view filtered against a set of file-ids.
 
1531
 
 
1532
        Children of directories and parents are included.
 
1533
 
 
1534
        The result may or may not reference the underlying inventory
 
1535
        so it should be treated as immutable.
 
1536
        """
 
1537
        (interesting,
 
1538
         parent_to_children) = self._expand_fileids_to_parents_and_children(
 
1539
                                specific_fileids)
 
1540
        # There is some overlap here, but we assume that all interesting items
 
1541
        # are in the _fileid_to_entry_cache because we had to read them to
 
1542
        # determine if they were a dir we wanted to recurse, or just a file
 
1543
        # This should give us all the entries we'll want to add, so start
 
1544
        # adding
 
1545
        other = Inventory(self.root_id)
 
1546
        other.root.revision = self.root.revision
 
1547
        other.revision_id = self.revision_id
 
1548
        if not interesting or not parent_to_children:
 
1549
            # empty filter, or filtering entrys that don't exist
 
1550
            # (if even 1 existed, then we would have populated
 
1551
            # parent_to_children with at least the tree root.)
 
1552
            return other
 
1553
        cache = self._fileid_to_entry_cache
 
1554
        remaining_children = collections.deque(parent_to_children[self.root_id])
 
1555
        while remaining_children:
 
1556
            file_id = remaining_children.popleft()
 
1557
            ie = cache[file_id]
 
1558
            if ie.kind == 'directory':
 
1559
                ie = ie.copy() # We create a copy to depopulate the .children attribute
 
1560
            # TODO: depending on the uses of 'other' we should probably alwyas
 
1561
            #       '.copy()' to prevent someone from mutating other and
 
1562
            #       invaliding our internal cache
 
1563
            other.add(ie)
 
1564
            if file_id in parent_to_children:
 
1565
                remaining_children.extend(parent_to_children[file_id])
 
1566
        return other
 
1567
 
 
1568
    @staticmethod
 
1569
    def _bytes_to_utf8name_key(bytes):
 
1570
        """Get the file_id, revision_id key out of bytes."""
 
1571
        # We don't normally care about name, except for times when we want
 
1572
        # to filter out empty names because of non rich-root...
 
1573
        sections = bytes.split('\n')
 
1574
        kind, file_id = sections[0].split(': ')
 
1575
        return (sections[2], intern(file_id), intern(sections[3]))
 
1576
 
 
1577
    def _bytes_to_entry(self, bytes):
 
1578
        """Deserialise a serialised entry."""
 
1579
        sections = bytes.split('\n')
 
1580
        if sections[0].startswith("file: "):
 
1581
            result = InventoryFile(sections[0][6:],
 
1582
                sections[2].decode('utf8'),
 
1583
                sections[1])
 
1584
            result.text_sha1 = sections[4]
 
1585
            result.text_size = int(sections[5])
 
1586
            result.executable = sections[6] == "Y"
 
1587
        elif sections[0].startswith("dir: "):
 
1588
            result = CHKInventoryDirectory(sections[0][5:],
 
1589
                sections[2].decode('utf8'),
 
1590
                sections[1], self)
 
1591
        elif sections[0].startswith("symlink: "):
 
1592
            result = InventoryLink(sections[0][9:],
 
1593
                sections[2].decode('utf8'),
 
1594
                sections[1])
 
1595
            result.symlink_target = sections[4].decode('utf8')
 
1596
        elif sections[0].startswith("tree: "):
 
1597
            result = TreeReference(sections[0][6:],
 
1598
                sections[2].decode('utf8'),
 
1599
                sections[1])
 
1600
            result.reference_revision = sections[4]
 
1601
        else:
 
1602
            raise ValueError("Not a serialised entry %r" % bytes)
 
1603
        result.file_id = intern(result.file_id)
 
1604
        result.revision = intern(sections[3])
 
1605
        if result.parent_id == '':
 
1606
            result.parent_id = None
 
1607
        self._fileid_to_entry_cache[result.file_id] = result
 
1608
        return result
 
1609
 
 
1610
    def create_by_apply_delta(self, inventory_delta, new_revision_id,
 
1611
        propagate_caches=False):
 
1612
        """Create a new CHKInventory by applying inventory_delta to this one.
 
1613
 
 
1614
        See the inventory developers documentation for the theory behind
 
1615
        inventory deltas.
 
1616
 
 
1617
        :param inventory_delta: The inventory delta to apply. See
 
1618
            Inventory.apply_delta for details.
 
1619
        :param new_revision_id: The revision id of the resulting CHKInventory.
 
1620
        :param propagate_caches: If True, the caches for this inventory are
 
1621
          copied to and updated for the result.
 
1622
        :return: The new CHKInventory.
 
1623
        """
 
1624
        split = osutils.split
 
1625
        result = CHKInventory(self._search_key_name)
 
1626
        if propagate_caches:
 
1627
            # Just propagate the path-to-fileid cache for now
 
1628
            result._path_to_fileid_cache = dict(self._path_to_fileid_cache.iteritems())
 
1629
        search_key_func = chk_map.search_key_registry.get(self._search_key_name)
 
1630
        self.id_to_entry._ensure_root()
 
1631
        maximum_size = self.id_to_entry._root_node.maximum_size
 
1632
        result.revision_id = new_revision_id
 
1633
        result.id_to_entry = chk_map.CHKMap(
 
1634
            self.id_to_entry._store,
 
1635
            self.id_to_entry.key(),
 
1636
            search_key_func=search_key_func)
 
1637
        result.id_to_entry._ensure_root()
 
1638
        result.id_to_entry._root_node.set_maximum_size(maximum_size)
 
1639
        # Change to apply to the parent_id_basename delta. The dict maps
 
1640
        # (parent_id, basename) -> (old_key, new_value). We use a dict because
 
1641
        # when a path has its id replaced (e.g. the root is changed, or someone
 
1642
        # does bzr mv a b, bzr mv c a, we should output a single change to this
 
1643
        # map rather than two.
 
1644
        parent_id_basename_delta = {}
 
1645
        if self.parent_id_basename_to_file_id is not None:
 
1646
            result.parent_id_basename_to_file_id = chk_map.CHKMap(
 
1647
                self.parent_id_basename_to_file_id._store,
 
1648
                self.parent_id_basename_to_file_id.key(),
 
1649
                search_key_func=search_key_func)
 
1650
            result.parent_id_basename_to_file_id._ensure_root()
 
1651
            self.parent_id_basename_to_file_id._ensure_root()
 
1652
            result_p_id_root = result.parent_id_basename_to_file_id._root_node
 
1653
            p_id_root = self.parent_id_basename_to_file_id._root_node
 
1654
            result_p_id_root.set_maximum_size(p_id_root.maximum_size)
 
1655
            result_p_id_root._key_width = p_id_root._key_width
 
1656
        else:
 
1657
            result.parent_id_basename_to_file_id = None
 
1658
        result.root_id = self.root_id
 
1659
        id_to_entry_delta = []
 
1660
        # inventory_delta is only traversed once, so we just update the
 
1661
        # variable.
 
1662
        # Check for repeated file ids
 
1663
        inventory_delta = _check_delta_unique_ids(inventory_delta)
 
1664
        # Repeated old paths
 
1665
        inventory_delta = _check_delta_unique_old_paths(inventory_delta)
 
1666
        # Check for repeated new paths
 
1667
        inventory_delta = _check_delta_unique_new_paths(inventory_delta)
 
1668
        # Check for entries that don't match the fileid
 
1669
        inventory_delta = _check_delta_ids_match_entry(inventory_delta)
 
1670
        # Check for nonsense fileids
 
1671
        inventory_delta = _check_delta_ids_are_valid(inventory_delta)
 
1672
        # Check for new_path <-> entry consistency
 
1673
        inventory_delta = _check_delta_new_path_entry_both_or_None(
 
1674
            inventory_delta)
 
1675
        # All changed entries need to have their parents be directories and be
 
1676
        # at the right path. This set contains (path, id) tuples.
 
1677
        parents = set()
 
1678
        # When we delete an item, all the children of it must be either deleted
 
1679
        # or altered in their own right. As we batch process the change via
 
1680
        # CHKMap.apply_delta, we build a set of things to use to validate the
 
1681
        # delta.
 
1682
        deletes = set()
 
1683
        altered = set()
 
1684
        for old_path, new_path, file_id, entry in inventory_delta:
 
1685
            # file id changes
 
1686
            if new_path == '':
 
1687
                result.root_id = file_id
 
1688
            if new_path is None:
 
1689
                # Make a delete:
 
1690
                new_key = None
 
1691
                new_value = None
 
1692
                # Update caches
 
1693
                if propagate_caches:
 
1694
                    try:
 
1695
                        del result._path_to_fileid_cache[old_path]
 
1696
                    except KeyError:
 
1697
                        pass
 
1698
                deletes.add(file_id)
 
1699
            else:
 
1700
                new_key = StaticTuple(file_id,)
 
1701
                new_value = result._entry_to_bytes(entry)
 
1702
                # Update caches. It's worth doing this whether
 
1703
                # we're propagating the old caches or not.
 
1704
                result._path_to_fileid_cache[new_path] = file_id
 
1705
                parents.add((split(new_path)[0], entry.parent_id))
 
1706
            if old_path is None:
 
1707
                old_key = None
 
1708
            else:
 
1709
                old_key = StaticTuple(file_id,)
 
1710
                if self.id2path(file_id) != old_path:
 
1711
                    raise errors.InconsistentDelta(old_path, file_id,
 
1712
                        "Entry was at wrong other path %r." %
 
1713
                        self.id2path(file_id))
 
1714
                altered.add(file_id)
 
1715
            id_to_entry_delta.append(StaticTuple(old_key, new_key, new_value))
 
1716
            if result.parent_id_basename_to_file_id is not None:
 
1717
                # parent_id, basename changes
 
1718
                if old_path is None:
 
1719
                    old_key = None
 
1720
                else:
 
1721
                    old_entry = self[file_id]
 
1722
                    old_key = self._parent_id_basename_key(old_entry)
 
1723
                if new_path is None:
 
1724
                    new_key = None
 
1725
                    new_value = None
 
1726
                else:
 
1727
                    new_key = self._parent_id_basename_key(entry)
 
1728
                    new_value = file_id
 
1729
                # If the two keys are the same, the value will be unchanged
 
1730
                # as its always the file id for this entry.
 
1731
                if old_key != new_key:
 
1732
                    # Transform a change into explicit delete/add preserving
 
1733
                    # a possible match on the key from a different file id.
 
1734
                    if old_key is not None:
 
1735
                        parent_id_basename_delta.setdefault(
 
1736
                            old_key, [None, None])[0] = old_key
 
1737
                    if new_key is not None:
 
1738
                        parent_id_basename_delta.setdefault(
 
1739
                            new_key, [None, None])[1] = new_value
 
1740
        # validate that deletes are complete.
 
1741
        for file_id in deletes:
 
1742
            entry = self[file_id]
 
1743
            if entry.kind != 'directory':
 
1744
                continue
 
1745
            # This loop could potentially be better by using the id_basename
 
1746
            # map to just get the child file ids.
 
1747
            for child in entry.children.values():
 
1748
                if child.file_id not in altered:
 
1749
                    raise errors.InconsistentDelta(self.id2path(child.file_id),
 
1750
                        child.file_id, "Child not deleted or reparented when "
 
1751
                        "parent deleted.")
 
1752
        result.id_to_entry.apply_delta(id_to_entry_delta)
 
1753
        if parent_id_basename_delta:
 
1754
            # Transform the parent_id_basename delta data into a linear delta
 
1755
            # with only one record for a given key. Optimally this would allow
 
1756
            # re-keying, but its simpler to just output that as a delete+add
 
1757
            # to spend less time calculating the delta.
 
1758
            delta_list = []
 
1759
            for key, (old_key, value) in parent_id_basename_delta.iteritems():
 
1760
                if value is not None:
 
1761
                    delta_list.append((old_key, key, value))
 
1762
                else:
 
1763
                    delta_list.append((old_key, None, None))
 
1764
            result.parent_id_basename_to_file_id.apply_delta(delta_list)
 
1765
        parents.discard(('', None))
 
1766
        for parent_path, parent in parents:
 
1767
            try:
 
1768
                if result[parent].kind != 'directory':
 
1769
                    raise errors.InconsistentDelta(result.id2path(parent), parent,
 
1770
                        'Not a directory, but given children')
 
1771
            except errors.NoSuchId:
 
1772
                raise errors.InconsistentDelta("<unknown>", parent,
 
1773
                    "Parent is not present in resulting inventory.")
 
1774
            if result.path2id(parent_path) != parent:
 
1775
                raise errors.InconsistentDelta(parent_path, parent,
 
1776
                    "Parent has wrong path %r." % result.path2id(parent_path))
 
1777
        return result
 
1778
 
 
1779
    @classmethod
 
1780
    def deserialise(klass, chk_store, bytes, expected_revision_id):
 
1781
        """Deserialise a CHKInventory.
 
1782
 
 
1783
        :param chk_store: A CHK capable VersionedFiles instance.
 
1784
        :param bytes: The serialised bytes.
 
1785
        :param expected_revision_id: The revision ID we think this inventory is
 
1786
            for.
 
1787
        :return: A CHKInventory
 
1788
        """
 
1789
        lines = bytes.split('\n')
 
1790
        if lines[-1] != '':
 
1791
            raise AssertionError('bytes to deserialize must end with an eol')
 
1792
        lines.pop()
 
1793
        if lines[0] != 'chkinventory:':
 
1794
            raise ValueError("not a serialised CHKInventory: %r" % bytes)
 
1795
        info = {}
 
1796
        allowed_keys = frozenset(['root_id', 'revision_id', 'search_key_name',
 
1797
                                  'parent_id_basename_to_file_id',
 
1798
                                  'id_to_entry'])
 
1799
        for line in lines[1:]:
 
1800
            key, value = line.split(': ', 1)
 
1801
            if key not in allowed_keys:
 
1802
                raise errors.BzrError('Unknown key in inventory: %r\n%r'
 
1803
                                      % (key, bytes))
 
1804
            if key in info:
 
1805
                raise errors.BzrError('Duplicate key in inventory: %r\n%r'
 
1806
                                      % (key, bytes))
 
1807
            info[key] = value
 
1808
        revision_id = intern(info['revision_id'])
 
1809
        root_id = intern(info['root_id'])
 
1810
        search_key_name = intern(info.get('search_key_name', 'plain'))
 
1811
        parent_id_basename_to_file_id = intern(info.get(
 
1812
            'parent_id_basename_to_file_id', None))
 
1813
        if not parent_id_basename_to_file_id.startswith('sha1:'):
 
1814
            raise ValueError('parent_id_basename_to_file_id should be a sha1'
 
1815
                             ' key not %r' % (parent_id_basename_to_file_id,))
 
1816
        id_to_entry = info['id_to_entry']
 
1817
        if not id_to_entry.startswith('sha1:'):
 
1818
            raise ValueError('id_to_entry should be a sha1'
 
1819
                             ' key not %r' % (id_to_entry,))
 
1820
 
 
1821
        result = CHKInventory(search_key_name)
 
1822
        result.revision_id = revision_id
 
1823
        result.root_id = root_id
 
1824
        search_key_func = chk_map.search_key_registry.get(
 
1825
                            result._search_key_name)
 
1826
        if parent_id_basename_to_file_id is not None:
 
1827
            result.parent_id_basename_to_file_id = chk_map.CHKMap(
 
1828
                chk_store, StaticTuple(parent_id_basename_to_file_id,),
 
1829
                search_key_func=search_key_func)
 
1830
        else:
 
1831
            result.parent_id_basename_to_file_id = None
 
1832
 
 
1833
        result.id_to_entry = chk_map.CHKMap(chk_store,
 
1834
                                            StaticTuple(id_to_entry,),
 
1835
                                            search_key_func=search_key_func)
 
1836
        if (result.revision_id,) != expected_revision_id:
 
1837
            raise ValueError("Mismatched revision id and expected: %r, %r" %
 
1838
                (result.revision_id, expected_revision_id))
 
1839
        return result
 
1840
 
 
1841
    @classmethod
 
1842
    def from_inventory(klass, chk_store, inventory, maximum_size=0, search_key_name='plain'):
 
1843
        """Create a CHKInventory from an existing inventory.
 
1844
 
 
1845
        The content of inventory is copied into the chk_store, and a
 
1846
        CHKInventory referencing that is returned.
 
1847
 
 
1848
        :param chk_store: A CHK capable VersionedFiles instance.
 
1849
        :param inventory: The inventory to copy.
 
1850
        :param maximum_size: The CHKMap node size limit.
 
1851
        :param search_key_name: The identifier for the search key function
 
1852
        """
 
1853
        result = klass(search_key_name)
 
1854
        result.revision_id = inventory.revision_id
 
1855
        result.root_id = inventory.root.file_id
 
1856
 
 
1857
        entry_to_bytes = result._entry_to_bytes
 
1858
        parent_id_basename_key = result._parent_id_basename_key
 
1859
        id_to_entry_dict = {}
 
1860
        parent_id_basename_dict = {}
 
1861
        for path, entry in inventory.iter_entries():
 
1862
            key = StaticTuple(entry.file_id,).intern()
 
1863
            id_to_entry_dict[key] = entry_to_bytes(entry)
 
1864
            p_id_key = parent_id_basename_key(entry)
 
1865
            parent_id_basename_dict[p_id_key] = entry.file_id
 
1866
 
 
1867
        result._populate_from_dicts(chk_store, id_to_entry_dict,
 
1868
            parent_id_basename_dict, maximum_size=maximum_size)
 
1869
        return result
 
1870
 
 
1871
    def _populate_from_dicts(self, chk_store, id_to_entry_dict,
 
1872
                             parent_id_basename_dict, maximum_size):
 
1873
        search_key_func = chk_map.search_key_registry.get(self._search_key_name)
 
1874
        root_key = chk_map.CHKMap.from_dict(chk_store, id_to_entry_dict,
 
1875
                   maximum_size=maximum_size, key_width=1,
 
1876
                   search_key_func=search_key_func)
 
1877
        self.id_to_entry = chk_map.CHKMap(chk_store, root_key,
 
1878
                                          search_key_func)
 
1879
        root_key = chk_map.CHKMap.from_dict(chk_store,
 
1880
                   parent_id_basename_dict,
 
1881
                   maximum_size=maximum_size, key_width=2,
 
1882
                   search_key_func=search_key_func)
 
1883
        self.parent_id_basename_to_file_id = chk_map.CHKMap(chk_store,
 
1884
                                                    root_key, search_key_func)
 
1885
 
 
1886
    def _parent_id_basename_key(self, entry):
 
1887
        """Create a key for a entry in a parent_id_basename_to_file_id index."""
 
1888
        if entry.parent_id is not None:
 
1889
            parent_id = entry.parent_id
 
1890
        else:
 
1891
            parent_id = ''
 
1892
        return StaticTuple(parent_id, entry.name.encode('utf8')).intern()
 
1893
 
 
1894
    def __getitem__(self, file_id):
 
1895
        """map a single file_id -> InventoryEntry."""
 
1896
        if file_id is None:
 
1897
            raise errors.NoSuchId(self, file_id)
 
1898
        result = self._fileid_to_entry_cache.get(file_id, None)
 
1899
        if result is not None:
 
1900
            return result
 
1901
        try:
 
1902
            return self._bytes_to_entry(
 
1903
                self.id_to_entry.iteritems([StaticTuple(file_id,)]).next()[1])
 
1904
        except StopIteration:
 
1905
            # really we're passing an inventory, not a tree...
 
1906
            raise errors.NoSuchId(self, file_id)
 
1907
 
 
1908
    def _getitems(self, file_ids):
 
1909
        """Similar to __getitem__, but lets you query for multiple.
 
1910
        
 
1911
        The returned order is undefined. And currently if an item doesn't
 
1912
        exist, it isn't included in the output.
 
1913
        """
 
1914
        result = []
 
1915
        remaining = []
 
1916
        for file_id in file_ids:
 
1917
            entry = self._fileid_to_entry_cache.get(file_id, None)
 
1918
            if entry is None:
 
1919
                remaining.append(file_id)
 
1920
            else:
 
1921
                result.append(entry)
 
1922
        file_keys = [StaticTuple(f,).intern() for f in remaining]
 
1923
        for file_key, value in self.id_to_entry.iteritems(file_keys):
 
1924
            entry = self._bytes_to_entry(value)
 
1925
            result.append(entry)
 
1926
            self._fileid_to_entry_cache[entry.file_id] = entry
 
1927
        return result
 
1928
 
 
1929
    def has_id(self, file_id):
 
1930
        # Perhaps have an explicit 'contains' method on CHKMap ?
 
1931
        if self._fileid_to_entry_cache.get(file_id, None) is not None:
 
1932
            return True
 
1933
        return len(list(
 
1934
            self.id_to_entry.iteritems([StaticTuple(file_id,)]))) == 1
 
1935
 
 
1936
    def is_root(self, file_id):
 
1937
        return file_id == self.root_id
 
1938
 
 
1939
    def _iter_file_id_parents(self, file_id):
 
1940
        """Yield the parents of file_id up to the root."""
 
1941
        while file_id is not None:
 
1942
            try:
 
1943
                ie = self[file_id]
 
1944
            except KeyError:
 
1945
                raise errors.NoSuchId(tree=self, file_id=file_id)
 
1946
            yield ie
457
1947
            file_id = ie.parent_id
458
 
        return joinpath(p)
459
 
            
460
 
 
461
 
 
462
 
    def path2id(self, name):
463
 
        """Walk down through directories to return entry of last component.
464
 
 
465
 
        names may be either a list of path components, or a single
466
 
        string, in which case it is automatically split.
467
 
 
468
 
        This returns the entry of the last component in the path,
469
 
        which may be either a file or a directory.
470
 
        """
471
 
        assert isinstance(name, types.StringTypes)
472
 
 
473
 
        parent_id = None
474
 
        for f in splitpath(name):
475
 
            try:
476
 
                cie = self._tree[parent_id][f]
477
 
                assert cie.name == f
478
 
                parent_id = cie.file_id
479
 
            except KeyError:
480
 
                # or raise an error?
481
 
                return None
482
 
 
483
 
        return parent_id
484
 
 
485
 
 
486
 
    def get_child(self, parent_id, child_name):
487
 
        return self._tree[parent_id].get(child_name)
488
 
 
489
 
 
490
 
    def has_filename(self, names):
491
 
        return bool(self.path2id(names))
492
 
 
493
 
 
494
 
    def has_id(self, file_id):
495
 
        assert isinstance(file_id, str)
496
 
        return self._byid.has_key(file_id)
497
 
 
498
 
 
499
 
 
500
 
if __name__ == '__main__':
501
 
    import doctest, inventory
502
 
    doctest.testmod(inventory)
 
1948
 
 
1949
    def __iter__(self):
 
1950
        """Iterate over all file-ids."""
 
1951
        for key, _ in self.id_to_entry.iteritems():
 
1952
            yield key[-1]
 
1953
 
 
1954
    def iter_just_entries(self):
 
1955
        """Iterate over all entries.
 
1956
 
 
1957
        Unlike iter_entries(), just the entries are returned (not (path, ie))
 
1958
        and the order of entries is undefined.
 
1959
 
 
1960
        XXX: We may not want to merge this into bzr.dev.
 
1961
        """
 
1962
        for key, entry in self.id_to_entry.iteritems():
 
1963
            file_id = key[0]
 
1964
            ie = self._fileid_to_entry_cache.get(file_id, None)
 
1965
            if ie is None:
 
1966
                ie = self._bytes_to_entry(entry)
 
1967
                self._fileid_to_entry_cache[file_id] = ie
 
1968
            yield ie
 
1969
 
 
1970
    def _preload_cache(self):
 
1971
        """Make sure all file-ids are in _fileid_to_entry_cache"""
 
1972
        if self._fully_cached:
 
1973
            return # No need to do it again
 
1974
        # The optimal sort order is to use iteritems() directly
 
1975
        cache = self._fileid_to_entry_cache
 
1976
        for key, entry in self.id_to_entry.iteritems():
 
1977
            file_id = key[0]
 
1978
            if file_id not in cache:
 
1979
                ie = self._bytes_to_entry(entry)
 
1980
                cache[file_id] = ie
 
1981
            else:
 
1982
                ie = cache[file_id]
 
1983
        last_parent_id = last_parent_ie = None
 
1984
        pid_items = self.parent_id_basename_to_file_id.iteritems()
 
1985
        for key, child_file_id in pid_items:
 
1986
            if key == ('', ''): # This is the root
 
1987
                if child_file_id != self.root_id:
 
1988
                    raise ValueError('Data inconsistency detected.'
 
1989
                        ' We expected data with key ("","") to match'
 
1990
                        ' the root id, but %s != %s'
 
1991
                        % (child_file_id, self.root_id))
 
1992
                continue
 
1993
            parent_id, basename = key
 
1994
            ie = cache[child_file_id]
 
1995
            if parent_id == last_parent_id:
 
1996
                parent_ie = last_parent_ie
 
1997
            else:
 
1998
                parent_ie = cache[parent_id]
 
1999
            if parent_ie.kind != 'directory':
 
2000
                raise ValueError('Data inconsistency detected.'
 
2001
                    ' An entry in the parent_id_basename_to_file_id map'
 
2002
                    ' has parent_id {%s} but the kind of that object'
 
2003
                    ' is %r not "directory"' % (parent_id, parent_ie.kind))
 
2004
            if parent_ie._children is None:
 
2005
                parent_ie._children = {}
 
2006
            basename = basename.decode('utf-8')
 
2007
            if basename in parent_ie._children:
 
2008
                existing_ie = parent_ie._children[basename]
 
2009
                if existing_ie != ie:
 
2010
                    raise ValueError('Data inconsistency detected.'
 
2011
                        ' Two entries with basename %r were found'
 
2012
                        ' in the parent entry {%s}'
 
2013
                        % (basename, parent_id))
 
2014
            if basename != ie.name:
 
2015
                raise ValueError('Data inconsistency detected.'
 
2016
                    ' In the parent_id_basename_to_file_id map, file_id'
 
2017
                    ' {%s} is listed as having basename %r, but in the'
 
2018
                    ' id_to_entry map it is %r'
 
2019
                    % (child_file_id, basename, ie.name))
 
2020
            parent_ie._children[basename] = ie
 
2021
        self._fully_cached = True
 
2022
 
 
2023
    def iter_changes(self, basis):
 
2024
        """Generate a Tree.iter_changes change list between this and basis.
 
2025
 
 
2026
        :param basis: Another CHKInventory.
 
2027
        :return: An iterator over the changes between self and basis, as per
 
2028
            tree.iter_changes().
 
2029
        """
 
2030
        # We want: (file_id, (path_in_source, path_in_target),
 
2031
        # changed_content, versioned, parent, name, kind,
 
2032
        # executable)
 
2033
        for key, basis_value, self_value in \
 
2034
            self.id_to_entry.iter_changes(basis.id_to_entry):
 
2035
            file_id = key[0]
 
2036
            if basis_value is not None:
 
2037
                basis_entry = basis._bytes_to_entry(basis_value)
 
2038
                path_in_source = basis.id2path(file_id)
 
2039
                basis_parent = basis_entry.parent_id
 
2040
                basis_name = basis_entry.name
 
2041
                basis_executable = basis_entry.executable
 
2042
            else:
 
2043
                path_in_source = None
 
2044
                basis_parent = None
 
2045
                basis_name = None
 
2046
                basis_executable = None
 
2047
            if self_value is not None:
 
2048
                self_entry = self._bytes_to_entry(self_value)
 
2049
                path_in_target = self.id2path(file_id)
 
2050
                self_parent = self_entry.parent_id
 
2051
                self_name = self_entry.name
 
2052
                self_executable = self_entry.executable
 
2053
            else:
 
2054
                path_in_target = None
 
2055
                self_parent = None
 
2056
                self_name = None
 
2057
                self_executable = None
 
2058
            if basis_value is None:
 
2059
                # add
 
2060
                kind = (None, self_entry.kind)
 
2061
                versioned = (False, True)
 
2062
            elif self_value is None:
 
2063
                # delete
 
2064
                kind = (basis_entry.kind, None)
 
2065
                versioned = (True, False)
 
2066
            else:
 
2067
                kind = (basis_entry.kind, self_entry.kind)
 
2068
                versioned = (True, True)
 
2069
            changed_content = False
 
2070
            if kind[0] != kind[1]:
 
2071
                changed_content = True
 
2072
            elif kind[0] == 'file':
 
2073
                if (self_entry.text_size != basis_entry.text_size or
 
2074
                    self_entry.text_sha1 != basis_entry.text_sha1):
 
2075
                    changed_content = True
 
2076
            elif kind[0] == 'symlink':
 
2077
                if self_entry.symlink_target != basis_entry.symlink_target:
 
2078
                    changed_content = True
 
2079
            elif kind[0] == 'tree-reference':
 
2080
                if (self_entry.reference_revision !=
 
2081
                    basis_entry.reference_revision):
 
2082
                    changed_content = True
 
2083
            parent = (basis_parent, self_parent)
 
2084
            name = (basis_name, self_name)
 
2085
            executable = (basis_executable, self_executable)
 
2086
            if (not changed_content
 
2087
                and parent[0] == parent[1]
 
2088
                and name[0] == name[1]
 
2089
                and executable[0] == executable[1]):
 
2090
                # Could happen when only the revision changed for a directory
 
2091
                # for instance.
 
2092
                continue
 
2093
            yield (file_id, (path_in_source, path_in_target), changed_content,
 
2094
                versioned, parent, name, kind, executable)
 
2095
 
 
2096
    def __len__(self):
 
2097
        """Return the number of entries in the inventory."""
 
2098
        return len(self.id_to_entry)
 
2099
 
 
2100
    def _make_delta(self, old):
 
2101
        """Make an inventory delta from two inventories."""
 
2102
        if type(old) != CHKInventory:
 
2103
            return CommonInventory._make_delta(self, old)
 
2104
        delta = []
 
2105
        for key, old_value, self_value in \
 
2106
            self.id_to_entry.iter_changes(old.id_to_entry):
 
2107
            file_id = key[0]
 
2108
            if old_value is not None:
 
2109
                old_path = old.id2path(file_id)
 
2110
            else:
 
2111
                old_path = None
 
2112
            if self_value is not None:
 
2113
                entry = self._bytes_to_entry(self_value)
 
2114
                self._fileid_to_entry_cache[file_id] = entry
 
2115
                new_path = self.id2path(file_id)
 
2116
            else:
 
2117
                entry = None
 
2118
                new_path = None
 
2119
            delta.append((old_path, new_path, file_id, entry))
 
2120
        return delta
 
2121
 
 
2122
    def path2id(self, relpath):
 
2123
        """See CommonInventory.path2id()."""
 
2124
        # TODO: perhaps support negative hits?
 
2125
        result = self._path_to_fileid_cache.get(relpath, None)
 
2126
        if result is not None:
 
2127
            return result
 
2128
        if isinstance(relpath, basestring):
 
2129
            names = osutils.splitpath(relpath)
 
2130
        else:
 
2131
            names = relpath
 
2132
        current_id = self.root_id
 
2133
        if current_id is None:
 
2134
            return None
 
2135
        parent_id_index = self.parent_id_basename_to_file_id
 
2136
        cur_path = None
 
2137
        for basename in names:
 
2138
            if cur_path is None:
 
2139
                cur_path = basename
 
2140
            else:
 
2141
                cur_path = cur_path + '/' + basename
 
2142
            basename_utf8 = basename.encode('utf8')
 
2143
            file_id = self._path_to_fileid_cache.get(cur_path, None)
 
2144
            if file_id is None:
 
2145
                key_filter = [StaticTuple(current_id, basename_utf8)]
 
2146
                items = parent_id_index.iteritems(key_filter)
 
2147
                for (parent_id, name_utf8), file_id in items:
 
2148
                    if parent_id != current_id or name_utf8 != basename_utf8:
 
2149
                        raise errors.BzrError("corrupt inventory lookup! "
 
2150
                            "%r %r %r %r" % (parent_id, current_id, name_utf8,
 
2151
                            basename_utf8))
 
2152
                if file_id is None:
 
2153
                    return None
 
2154
                else:
 
2155
                    self._path_to_fileid_cache[cur_path] = file_id
 
2156
            current_id = file_id
 
2157
        return current_id
 
2158
 
 
2159
    def to_lines(self):
 
2160
        """Serialise the inventory to lines."""
 
2161
        lines = ["chkinventory:\n"]
 
2162
        if self._search_key_name != 'plain':
 
2163
            # custom ordering grouping things that don't change together
 
2164
            lines.append('search_key_name: %s\n' % (self._search_key_name,))
 
2165
            lines.append("root_id: %s\n" % self.root_id)
 
2166
            lines.append('parent_id_basename_to_file_id: %s\n' %
 
2167
                (self.parent_id_basename_to_file_id.key()[0],))
 
2168
            lines.append("revision_id: %s\n" % self.revision_id)
 
2169
            lines.append("id_to_entry: %s\n" % (self.id_to_entry.key()[0],))
 
2170
        else:
 
2171
            lines.append("revision_id: %s\n" % self.revision_id)
 
2172
            lines.append("root_id: %s\n" % self.root_id)
 
2173
            if self.parent_id_basename_to_file_id is not None:
 
2174
                lines.append('parent_id_basename_to_file_id: %s\n' %
 
2175
                    (self.parent_id_basename_to_file_id.key()[0],))
 
2176
            lines.append("id_to_entry: %s\n" % (self.id_to_entry.key()[0],))
 
2177
        return lines
 
2178
 
 
2179
    @property
 
2180
    def root(self):
 
2181
        """Get the root entry."""
 
2182
        return self[self.root_id]
 
2183
 
 
2184
 
 
2185
class CHKInventoryDirectory(InventoryDirectory):
 
2186
    """A directory in an inventory."""
 
2187
 
 
2188
    __slots__ = ['_children', '_chk_inventory']
 
2189
 
 
2190
    def __init__(self, file_id, name, parent_id, chk_inventory):
 
2191
        # Don't call InventoryDirectory.__init__ - it isn't right for this
 
2192
        # class.
 
2193
        InventoryEntry.__init__(self, file_id, name, parent_id)
 
2194
        self._children = None
 
2195
        self._chk_inventory = chk_inventory
 
2196
 
 
2197
    @property
 
2198
    def children(self):
 
2199
        """Access the list of children of this directory.
 
2200
 
 
2201
        With a parent_id_basename_to_file_id index, loads all the children,
 
2202
        without loads the entire index. Without is bad. A more sophisticated
 
2203
        proxy object might be nice, to allow partial loading of children as
 
2204
        well when specific names are accessed. (So path traversal can be
 
2205
        written in the obvious way but not examine siblings.).
 
2206
        """
 
2207
        if self._children is not None:
 
2208
            return self._children
 
2209
        # No longer supported
 
2210
        if self._chk_inventory.parent_id_basename_to_file_id is None:
 
2211
            raise AssertionError("Inventories without"
 
2212
                " parent_id_basename_to_file_id are no longer supported")
 
2213
        result = {}
 
2214
        # XXX: Todo - use proxy objects for the children rather than loading
 
2215
        # all when the attribute is referenced.
 
2216
        parent_id_index = self._chk_inventory.parent_id_basename_to_file_id
 
2217
        child_keys = set()
 
2218
        for (parent_id, name_utf8), file_id in parent_id_index.iteritems(
 
2219
            key_filter=[StaticTuple(self.file_id,)]):
 
2220
            child_keys.add(StaticTuple(file_id,))
 
2221
        cached = set()
 
2222
        for file_id_key in child_keys:
 
2223
            entry = self._chk_inventory._fileid_to_entry_cache.get(
 
2224
                file_id_key[0], None)
 
2225
            if entry is not None:
 
2226
                result[entry.name] = entry
 
2227
                cached.add(file_id_key)
 
2228
        child_keys.difference_update(cached)
 
2229
        # populate; todo: do by name
 
2230
        id_to_entry = self._chk_inventory.id_to_entry
 
2231
        for file_id_key, bytes in id_to_entry.iteritems(child_keys):
 
2232
            entry = self._chk_inventory._bytes_to_entry(bytes)
 
2233
            result[entry.name] = entry
 
2234
            self._chk_inventory._fileid_to_entry_cache[file_id_key[0]] = entry
 
2235
        self._children = result
 
2236
        return result
 
2237
 
 
2238
entry_factory = {
 
2239
    'directory': InventoryDirectory,
 
2240
    'file': InventoryFile,
 
2241
    'symlink': InventoryLink,
 
2242
    'tree-reference': TreeReference
 
2243
}
 
2244
 
 
2245
def make_entry(kind, name, parent_id, file_id=None):
 
2246
    """Create an inventory entry.
 
2247
 
 
2248
    :param kind: the type of inventory entry to create.
 
2249
    :param name: the basename of the entry.
 
2250
    :param parent_id: the parent_id of the entry.
 
2251
    :param file_id: the file_id to use. if None, one will be created.
 
2252
    """
 
2253
    if file_id is None:
 
2254
        file_id = generate_ids.gen_file_id(name)
 
2255
    name = ensure_normalized_name(name)
 
2256
    try:
 
2257
        factory = entry_factory[kind]
 
2258
    except KeyError:
 
2259
        raise errors.BadFileKindError(name, kind)
 
2260
    return factory(file_id, name, parent_id)
 
2261
 
 
2262
 
 
2263
def ensure_normalized_name(name):
 
2264
    """Normalize name.
 
2265
 
 
2266
    :raises InvalidNormalization: When name is not normalized, and cannot be
 
2267
        accessed on this platform by the normalized path.
 
2268
    :return: The NFC normalised version of name.
 
2269
    """
 
2270
    #------- This has been copied to bzrlib.dirstate.DirState.add, please
 
2271
    # keep them synchronised.
 
2272
    # we dont import normalized_filename directly because we want to be
 
2273
    # able to change the implementation at runtime for tests.
 
2274
    norm_name, can_access = osutils.normalized_filename(name)
 
2275
    if norm_name != name:
 
2276
        if can_access:
 
2277
            return norm_name
 
2278
        else:
 
2279
            # TODO: jam 20060701 This would probably be more useful
 
2280
            #       if the error was raised with the full path
 
2281
            raise errors.InvalidNormalization(name)
 
2282
    return name
 
2283
 
 
2284
 
 
2285
_NAME_RE = lazy_regex.lazy_compile(r'^[^/\\]+$')
 
2286
 
 
2287
def is_valid_name(name):
 
2288
    return bool(_NAME_RE.match(name))
 
2289
 
 
2290
 
 
2291
def _check_delta_unique_ids(delta):
 
2292
    """Decorate a delta and check that the file ids in it are unique.
 
2293
 
 
2294
    :return: A generator over delta.
 
2295
    """
 
2296
    ids = set()
 
2297
    for item in delta:
 
2298
        length = len(ids) + 1
 
2299
        ids.add(item[2])
 
2300
        if len(ids) != length:
 
2301
            raise errors.InconsistentDelta(item[0] or item[1], item[2],
 
2302
                "repeated file_id")
 
2303
        yield item
 
2304
 
 
2305
 
 
2306
def _check_delta_unique_new_paths(delta):
 
2307
    """Decorate a delta and check that the new paths in it are unique.
 
2308
 
 
2309
    :return: A generator over delta.
 
2310
    """
 
2311
    paths = set()
 
2312
    for item in delta:
 
2313
        length = len(paths) + 1
 
2314
        path = item[1]
 
2315
        if path is not None:
 
2316
            paths.add(path)
 
2317
            if len(paths) != length:
 
2318
                raise errors.InconsistentDelta(path, item[2], "repeated path")
 
2319
        yield item
 
2320
 
 
2321
 
 
2322
def _check_delta_unique_old_paths(delta):
 
2323
    """Decorate a delta and check that the old paths in it are unique.
 
2324
 
 
2325
    :return: A generator over delta.
 
2326
    """
 
2327
    paths = set()
 
2328
    for item in delta:
 
2329
        length = len(paths) + 1
 
2330
        path = item[0]
 
2331
        if path is not None:
 
2332
            paths.add(path)
 
2333
            if len(paths) != length:
 
2334
                raise errors.InconsistentDelta(path, item[2], "repeated path")
 
2335
        yield item
 
2336
 
 
2337
 
 
2338
def _check_delta_ids_are_valid(delta):
 
2339
    """Decorate a delta and check that the ids in it are valid.
 
2340
 
 
2341
    :return: A generator over delta.
 
2342
    """
 
2343
    for item in delta:
 
2344
        entry = item[3]
 
2345
        if item[2] is None:
 
2346
            raise errors.InconsistentDelta(item[0] or item[1], item[2],
 
2347
                "entry with file_id None %r" % entry)
 
2348
        if type(item[2]) != str:
 
2349
            raise errors.InconsistentDelta(item[0] or item[1], item[2],
 
2350
                "entry with non bytes file_id %r" % entry)
 
2351
        yield item
 
2352
 
 
2353
 
 
2354
def _check_delta_ids_match_entry(delta):
 
2355
    """Decorate a delta and check that the ids in it match the entry.file_id.
 
2356
 
 
2357
    :return: A generator over delta.
 
2358
    """
 
2359
    for item in delta:
 
2360
        entry = item[3]
 
2361
        if entry is not None:
 
2362
            if entry.file_id != item[2]:
 
2363
                raise errors.InconsistentDelta(item[0] or item[1], item[2],
 
2364
                    "mismatched id with %r" % entry)
 
2365
        yield item
 
2366
 
 
2367
 
 
2368
def _check_delta_new_path_entry_both_or_None(delta):
 
2369
    """Decorate a delta and check that the new_path and entry are paired.
 
2370
 
 
2371
    :return: A generator over delta.
 
2372
    """
 
2373
    for item in delta:
 
2374
        new_path = item[1]
 
2375
        entry = item[3]
 
2376
        if new_path is None and entry is not None:
 
2377
            raise errors.InconsistentDelta(item[0], item[1],
 
2378
                "Entry with no new_path")
 
2379
        if new_path is not None and entry is None:
 
2380
            raise errors.InconsistentDelta(new_path, item[1],
 
2381
                "new_path with no entry")
 
2382
        yield item
 
2383
 
 
2384
 
 
2385
def mutable_inventory_from_tree(tree):
 
2386
    """Create a new inventory that has the same contents as a specified tree.
 
2387
 
 
2388
    :param tree: Revision tree to create inventory from
 
2389
    """
 
2390
    entries = tree.iter_entries_by_dir()
 
2391
    inv = Inventory(None, tree.get_revision_id())
 
2392
    for path, inv_entry in entries:
 
2393
        inv.add(inv_entry.copy())
 
2394
    return inv